diff --git a/train.ps1 b/train.ps1 index 4eb3b34..a08d715 100644 --- a/train.ps1 +++ b/train.ps1 @@ -84,7 +84,7 @@ if ($persistent_data_loader_workers) { [void]$ext_args.Add("--persistent_data_loader_workers") } -if ($network_module == "lycoris.kohya") { +if ($network_module -eq "lycoris.kohya") { [void]$ext_args.Add("--network_args") [void]$ext_args.Add("conv_dim=$conv_dim") [void]$ext_args.Add("conv_alpha=$conv_alpha") diff --git a/train.sh b/train.sh index 3a52b33..31cd38f 100644 --- a/train.sh +++ b/train.sh @@ -5,15 +5,18 @@ pretrained_model="./sd-models/model.ckpt" # base model path | 底模路径 train_data_dir="./train/aki" # train dataset path | 训练数据集路径 reg_data_dir="" # directory for regularization images | 正则化数据集路径,默认不使用正则化图像。 +# Network settings | 网络设置 +$network_module="networks.lora" # 在这里将会设置训练的网络种类,默认为 networks.lora 也就是 LoRA 训练。如果你想训练 LyCORIS(LoCon、LoHa) 等,则修改这个值为 lycoris.kohya +$network_weights="" # pretrained weights for LoRA network | 若需要从已有的 LoRA 模型上继续训练,请填写 LoRA 模型路径。 +network_dim=32 # network dim | 常用 4~128,不是越大越好 +network_alpha=32 # network alpha | 常用与 network_dim 相同的值或者采用较小的值,如 network_dim的一半 防止下溢。默认值为 1,使用较小的 alpha 需要提升学习率。 + # Train related params | 训练相关参数 resolution="512,512" # image resolution w,h. 图片分辨率,宽,高。支持非正方形,但必须是 64 倍数。 batch_size=1 # batch size max_train_epoches=10 # max train epoches | 最大训练 epoch save_every_n_epochs=2 # save every n epochs | 每 N 个 epoch 保存一次 -network_dim=32 # network dim | 常用 4~128,不是越大越好 -network_alpha=32 # network alpha | 常用与 network_dim 相同的值或者采用较小的值,如 network_dim的一半 防止下溢。默认值为 1,使用较小的 alpha 需要提升学习率。 - train_unet_only=0 # train U-Net only | 仅训练 U-Net,开启这个会牺牲效果大幅减少显存使用。6G显存可以开启 train_text_encoder_only=0 # train Text Encoder only | 仅训练 文本编码器 @@ -43,16 +46,14 @@ clip_skip=2 # clip skip | 玄学 一般用 2 use_8bit_adam=1 # use 8bit adam optimizer | 使用 8bit adam 优化器节省显存,默认启用。部分 10 系老显卡无法使用,修改为 0 禁用。 use_lion=0 # use lion optimizer | 使用 Lion 优化器 -# LoCon 训练设置 -enable_locon_train=0 # enable LoCon train | 启用 LoCon 训练 启用后 network_dim 和 network_alpha 应当选择较小的值,比如 2~16 -conv_dim=4 # conv dim | 类似于 network_dim,推荐为 4 -conv_alpha=4 # conv alpha | 类似于 network_alpha,可以采用与 conv_dim 一致或者更小的值 +# LyCORIS 训练设置 +conv_dim=4 # conv dim | 类似于 network_dim,推荐为 4 +conv_alpha=4 # conv alpha | 类似于 network_alpha,可以采用与 conv_dim 一致或者更小的值 # ============= DO NOT MODIFY CONTENTS BELOW | 请勿修改下方内容 ===================== export HF_HOME="huggingface" export TF_CPP_MIN_LOG_LEVEL=3 -network_module="networks.lora" extArgs=() if [ $train_unet_only == 1 ]; then extArgs+=("--network_train_unet_only"); fi @@ -69,8 +70,7 @@ if [ $use_lion == 1 ]; then extArgs+=("--use_lion_optimizer"); fi if [ $persistent_data_loader_workers == 1 ]; then extArgs+=("--persistent_data_loader_workers"); fi -if [ $enable_locon_train == 1 ]; then - network_module="locon.locon_kohya" +if [ $network_module == "lycoris.kohya" ]; then extArgs+=("--network_args conv_dim=$conv_dim conv_alpha=$conv_alpha") fi