有没有办法在 Optuna 中使用权重和偏差？

Question

有没有办法在 Optuna 中使用权重和偏差？我尝试了结果是错误

权重和偏差后端已关闭

Answer 1

此外，最新版本的 Optuna 中有一个权重和偏差回调：

最少代码：

import optuna
from optuna.integration.wandb import WeightsAndBiasesCallback


def objective(trial):
    x = trial.suggest_float("x", -10, 10)
    return (x - 2) ** 2


wandb_kwargs = {"project": "my-project"}
wandbc = WeightsAndBiasesCallback(wandb_kwargs=wandb_kwargs)


study = optuna.create_study(study_name="my_study")
study.optimize(objective, n_trials=10, callbacks=[wandbc])

Answer 2

考虑到我们在单个进程中使用它，它是有效的。
你必须使 n_jobs = 1。
否则我最终总会遇到 wandb 方面的一些初始化错误。

Answer 3

@Aditya D，根据 optuna 文档：“为了确保权重和偏差中的试验顺序正确，此回调只能与 Study.optimize(n_jobs=1) 一起使用”。