Updates at 19 Mar. 2023, 2023/3/19:

• Add a function to load training config with .toml to each training script. Thanks to Linaqruf for this great contribution!

  • Specify .toml file with --config_file. .toml file has key=value entries. Keys are same as command line options. See #241 for details.
  • All sub-sections are combined to a single dictionary (the section names are ignored.)
  • Omitted arguments are the default values for command line arguments.
  • Command line args override the arguments in .toml.
  • With --output_config option, you can output current command line options to the .toml specified with--config_file. Please use as a template.

• Add --lr_scheduler_type and --lr_scheduler_args arguments for custom LR scheduler to each training script. Thanks to Isotr0py! #271

  • Same as the optimizer.

• Add sample image generation with weight and no length limit. Thanks to mio2333! #288

  • ( ), (xxxx:1.2) and [ ] can be used.

• Fix exception on training model in diffusers format with train_network.py Thanks to orenwang! #290

• 各学習スクリプトでコマンドライン引数の代わりに.toml ファイルで引数を指定できるようになりました。Linaqruf氏の多大な貢献に感謝します。

  • --config_file で .toml ファイルを指定してください。ファイルは key=value 形式の行で指定し、key はコマンドラインオプションと同じです。詳細は #241 をご覧ください。
  • ファイル内のサブセクションはすべて無視されます。
  • 省略した引数はコマンドライン引数のデフォルト値になります。
  • コマンドライン引数で .toml の設定を上書きできます。
  • --output_config オプションを指定すると、現在のコマンドライン引数を--config_file オプションで指定した .toml ファイルに出力します。ひな形としてご利用ください。

• 任意のスケジューラを使うための --lr_scheduler_type と --lr_scheduler_args オプションを各学習スクリプトに追加しました。Isotr0py氏に感謝します。 #271

  • 任意のオプティマイザ指定と同じ形式です。

• 学習中のサンプル画像出力でプロンプトの重みづけができるようになりました。また長さ制限も緩和されています。mio2333氏に感謝します。 #288

  • ( )、 (xxxx:1.2) や [ ] が使えます。

• train_network.py でローカルのDiffusersモデルを指定した時のエラーを修正しました。orenwang氏に感謝します。 #290

Updates at 11 Mar. 2023, 2023/3/11:

• Fix svd_merge_lora.py causes an error about the device.
• svd_merge_lora.py でデバイス関連のエラーが発生する不具合を修正しました。