关于中断训练继续训练。

Question

我继续训练，设置好参数后，报这个错误，请问大佬们怎么回事呀

Facico · Answer

你数据的问题吧，你看一下你的数据到底有没有东西

xxyNeepu · Answer

你数据的问题吧，你看一下你的数据到底有没有东西
有数据，数据里面有东西，两次训练的数据是一样的佬

Facico · Answer

哦，是你的数据量太小了，当时打了一个检测tokenizer有没有问题的代码。你把finetune_chat.py的122-127行注释掉就好了

xxyNeepu · Answer

哦，是你的数据量太小了，当时打了一个检测tokenizer有没有问题的代码。你把finetune_chat.py的122-127行注释掉就好了</

xxyNeepu · Answer

哦，是你的数据量太小了，当时打了一个检测tokenizer有没有问题的代码。你把finetune_chat.py的122-127行注释掉就好了</

Facico · Answer

<p dir="auto">finetune_chat用这个数据：<a href="https://huggingface.co/datasets/Chinese-Vicuna/instruct_ch

xxyNeepu · Answer

finetune_chat用这个数据：

Facico · Answer

嗯，对话和普通SFT的数据格式不一样

xxyNeepu · Answer

嗯，对话和普通SFT的数据格式不一样

那最后训练好，弄那个网页出问答，需要训练那个

Facico · Answer

两个都可以，都写了不同的前端，chat版本就是对话能力好一点可以用chat的那个

xxyNeepu · Answer

两个都可以，都写了不同的前端，chat版本就是对话能力好一点可以用chat的那个
大佬，我在使用finetune.py重新训练的时候，报网

Facico · Answer

下模型，可以手动下载。很多问题你不用一个个问我的，google一下都能解决😂，网络不行这个问题问了好多issue我都没回

xxyNeepu · Answer

下模型，可以手动下载。很多问题你不用一个个问我的，google一下都能解决😂，网络不行这个问题问了好多issue我都没回

Facico · Answer

你的环境装错了吧，装的requirements.txt那个？

xxyNeepu · Answer

不能用那个？。。。我就是下载的那个

Facico · Answer

<p dir="auto">就用这个，我刚试了一下这个环境，bash ./s/finetune.sh是没问题的。如果你解决不了，可以调试一下model里面有没有这个接口（对应的应该是pef

关于中断训练继续训练。 about chinese-vicuna HOT 16 OPEN