Giter VIP home page Giter VIP logo

nai3_train's Introduction

nai3_train

英文版说明:English Documentation

如果你需要使用nai3生成的图片来批量训练你的SD模型,那我想你需要这个项目。

nai3生成的图片,一键生成、打标和处理脚本

原理1:从prompt_folder随机抽取txt作为prompt批量生成随机素材

把你的打标txt变成你的随机提示词库!

原理2:从json中随机抽取角色生成随机角色,或者按顺序生成所有角色

备注:欢迎提出新功能,脚本还在不断优化中

安装运行环境

python -m venv venv
.\venv\Scripts\activate
pip install -r requirements.txt

一些常见的报错:

500:服务器拥挤,novelai的问题

429:多人同时生成图片,请检查是否只有你一个人在使用

402:可能是账号没钱,或者token失效,建议换一个账号

401:登录凭据不正确,更换token

random_characetrs.py保存第一个图像时报错:小bug,保存第一个时必定失败,后面就正常了

!!!注:token路径那里,要创建一个token.txt,并把token放进去

支持的所有采样器列表

            "k_euler",
            "k_euler_ancestral",
            "k_dpmpp_2s_ancestral",
            "k_dpmpp_2m",
            "k_dpmpp_sde",
            "ddim_v3",

生成的随机角色效果:

图一

VA}S0W4AL6_ZIV~2 (BDX5

图二

0~O)3% YX{SRSL$2VY)PTJ

图三:

L_ZUGFLNWQXDY4(A45XK2

图四: V2L6B62X60RU7((XCBMAN 9

生成的随机素材效果:

图四: 8R@KZV(13`(0U25KKQTR7

图五: N9 KXF41KXXB2T~CKZ2VS`M

开源随机提示词库

海量txt随机提示词,解压后放进prompt_folder即可。

一、 4K高质量提示词库 :https://huggingface.co/datasets/windsingai/random_prompt/resolve/main/prompt_4k.zip

特点:人工整理,良品率高,安全性高,只有2%的nsfw

内容:以人物和构图为主

来源:修改自尤吉的AID训练集的打标文件

二、 20w高质量提示词库 :https://huggingface.co/datasets/windsingai/random_prompt/resolve/main/prompt_20W.zip

特点:真实图片反推,数量多,二次元浓度高,足够泛化,约有20%的nsfw

内容:题材很多,考虑到danbooru的构成,主要还是以女性为主

来源:从 https://danbooru.donmai.us/ 批量爬取,修改自杠杠哥的20W训练集

新功能: 随机/按顺序生成指定角色的图片

原理,从json读取角色名,生成图片

本仓库内置包括原神、明日方舟、fgo等多个主流游戏的随机角色库。

例: 使用通过读取.\json\genshin.json 文件,实现随机原神角色生成。

json文件的结构,以genshin.json为例:

{
  "role": [
    "noelle_(genshin_impact)",
    "faruzan_(genshin_impact)",
    "角色1",
    "角色2",
    "角色3",
    .....
  ]

下面为random_characetrs.py脚本的部分代码:



# 用户自定义 角色 JSON 文件的路径
characters_path = r".\json\test_game_bluearchive.json"
# 生成图像文件的保存路径
folder_path = ".\output"
# 选择读取方式
read_mode = 1  # -1为随机读取,1为按顺序读取

# 设置角色优先级
role_priority = 1  # 默认为0时不生效,选择1时,把角色词优先放prefix 前面

# 选择 seed
seed = -1  # 默认随机 seed,默认随机 seed,不填或者设置为-1时为随机seed

token = ""  # token 自己获取
# 生成多张图像并保存
num_images = 50  # 要生成的图像数量
batch_size = 10  # 每批次生成的图像数量
retry_delay = 20  # 每批次生成后的休眠时间(单位:秒)

sleep_time = 10  # 每批次生成后的休眠时间(单位:秒)

retry_delay = 60  # 因为报错中断,脚本的重新启动时间(单位:秒)
prefix = "best "  # 加在提示词前面的固定画风词或质量词
negative_prompt = " nsfw, lowres" # 负面提示词

参数说明:

  • self.token:生图必需的token,授权令牌。获取方式如下:
    • 在网页(https://novelai.net) 中登录你的 NovelAI 账号
    • 打开控制台 (F12),并切换到控制台 (Console) 标签页
    • 输入下面的代码并按下回车运行:
      console.log(JSON.parse(localStorage.session).auth_token)
    • 输出的字符串就是你的授权令牌
  • characters_path: 角色 JSON 文件的路径,从这个 JSON随机抽取角色生成
  • read_mode :选择读取json里面的角色的方式,-1为随机读取,1为按顺序读取
  • prefix:默认前缀,自定义的质量词或者固定的画家风格
  • role_priority:设置角色优先级,默认不生效,当选择1时,把角色词优先放prefix前面
  • seed:种子,默认随机 seed,不填或者设置为-1时为随机seed
  • negative_prompt:负面提示词
  • num_images:生成图片的总数量
  • batch_size:每批次生成的图像数量
  • sleep_time: 每批次生成后的休眠时间(单位:秒)
  • retry_delay: 脚本遇到异常中断后,重新自动启动的时间(单位:秒)

运行命令:Python random_characetrs.py

1. 读取随机提示词库,批量生成随机nai3图片

以下为 random_prompt.py脚本的部分代码

...

# 生成图像文件的保存路径
folder_path = ".\output"
# 抽取随机txt文件的路径
prompt_folder = ".\prompt"

# 固定的前缀
prefix = " best quality, amazing quality, very aesthetic "

token = xxxx"  # 设置 API 的访问令牌

num_images = 100  # 要生成的总图像数量
batch_size = 10  # 每批次生成的图像数量
retry_delay = 20  # 每批次生成后的休眠时间(单位:秒)

sleep_time = 10  # 每批次生成后的休眠时间(单位:秒)

retry_delay = 60  # 因为报错中断,脚本的重新启动时间(单位:秒)

negative_prompt = " nsfw" # 默认的负面提示词



必填参数:

  • self.token:生图必需的token,授权令牌。获取方式如下:

    • 在网页(https://novelai.net) 中登录你的 NovelAI 账号
    • 打开控制台 (F12),并切换到控制台 (Console) 标签页
    • 输入下面的代码并按下回车运行:
      console.log(JSON.parse(localStorage.session).auth_token)
    • 输出的字符串就是你的授权令牌
  • prompt_folder:从这个文件夹里面随机抽取TXT,作为提示词

  • prefix:默认前缀,自定义的质量词或者固定的画家风格

  • negative_prompt:负面提示词

  • num_images:生成图片的总数量

  • batch_size:每批次生成的图像数量

  • sleep_time: 每批次生成后的休眠时间(单位:秒)

  • retry_delay: 脚本遇到异常中断后,重新自动启动的时间(单位:秒)

运行命令:Python random_prompt

2. 读取图片信息,并生成txt同名文件

运行命令:Python nai3tagger.py

然后按提示输入要处理的文件夹路径即可

3. 去掉txt文件中的前缀prefix ,绑定画风

以下是脚本的部分代码:

import os

prefix = "amazing quality,  artist:xxx, year 2023, "

dirpath = r".\output_nsfw
  • prefix:默认前缀,要去掉的质量词或者固定的画家风格
  • dirpath:要处理的文件夹路径

运行命令:Python clear.py

4. 去掉txt文件中的非法字符,比如😄🙃

txt文件中的部分非法字符,可能会令训练发生报错,训练脚本无法读取txt,因此,去掉非法字符是必需的

以下是脚本的部分代码

# 指定含有非 UTF-8 编码字符的文件所在目录
directory_path = r".\data"

# 指定目标文件夹路径,用于存放移动后的文件
destination_path = r".\data"
  • directory_path:指定含有非 UTF-8 编码字符的文件所在目录
  • destination_path:指定目标文件夹路径,用于存放移动后的文件

运行命令:Python UTF-8.py

5. 去掉图片中的水印 (测试功能)

5.1 去掉在图片底部的水印

这是cut.py脚本的部分代码

...
# 源图片路径
source_path = r".\output\sfw_6000"

# 新文件夹路径
output_path = r".\output\sfw_6000_cropped"

# 创建新文件夹
os.makedirs(output_path, exist_ok=True)

# 获取源图片路径下的所有文件
files = [f for f in os.listdir(source_path) if f.endswith(".png")]

# 进度条
progress_bar = tqdm(total=len(files), desc="Processing images")

# 遍历源图片路径下的所有文件
for filename in files:
    # 加载图片
    image_path = os.path.join(source_path, filename)
    image = Image.open(image_path)

    # 裁剪底部100像素
    cropped_image = image.crop((0, 0, 832, 1116))

    # 生成新文件路径
    output_file = os.path.join(output_path, filename)

    # 保存裁剪后的图片到新文件夹
    cropped_image.save(output_file)

  ...

参数说明:

  • source_path:源图片路径
  • output_path:新文件夹路径

运行命令:Python cut.py

nai3_train's People

Contributors

wochenlong avatar cyanautumn avatar littleapple-fp16 avatar borntree avatar

Recommend Projects

  • React photo React

    A declarative, efficient, and flexible JavaScript library for building user interfaces.

  • Vue.js photo Vue.js

    🖖 Vue.js is a progressive, incrementally-adoptable JavaScript framework for building UI on the web.

  • Typescript photo Typescript

    TypeScript is a superset of JavaScript that compiles to clean JavaScript output.

  • TensorFlow photo TensorFlow

    An Open Source Machine Learning Framework for Everyone

  • Django photo Django

    The Web framework for perfectionists with deadlines.

  • D3 photo D3

    Bring data to life with SVG, Canvas and HTML. 📊📈🎉

Recommend Topics

  • javascript

    JavaScript (JS) is a lightweight interpreted programming language with first-class functions.

  • web

    Some thing interesting about web. New door for the world.

  • server

    A server is a program made to process requests and deliver data to clients.

  • Machine learning

    Machine learning is a way of modeling and interpreting data that allows a piece of software to respond intelligently.

  • Game

    Some thing interesting about game, make everyone happy.

Recommend Org

  • Facebook photo Facebook

    We are working to build community through open source technology. NB: members must have two-factor auth.

  • Microsoft photo Microsoft

    Open source projects and samples from Microsoft.

  • Google photo Google

    Google ❤️ Open Source for everyone.

  • D3 photo D3

    Data-Driven Documents codes.