这回复效果也太差了吧！ about yi HOT 14 CLOSED

我测试了也是这样，没有做对话训练的结果把， 相当于其他公司的 base 模型，后期应该会有 chat 的模型

from yi.

这又不是chat模型

from yi.

这个应该是base版本模型，我这边测试发现也只是做补全，就像llama1刚放出来时那样

from yi.

这是base模型，不是chat模型，等chat模型公布在测试

from yi.

建议使用finetune代码训练之后的chat模型试一下

from yi.

这破模型，根本就不看类型，也不看自述文件，就在这胡编乱造，令人无语

from yi.

为什么我的提示是中文，就啥也没输出？

@lkp1985 单看截图，回复里多了个?。你可以把 eos_token='\n' 去掉对比看下。

from yi.

Chat 模型已经发布，可以再试试呢？ 🤗

from yi.

这破模型，根本就不看类型，也不看自述文件，就在这胡编乱造，令人无语

可以自己finetune一下

from yi.

README写了是预训练模型，不懂的话可以先友好的问一下。

from yi.

为什么我的提示是中文，就啥也没输出？

from yi.

它可以用中文写instruction，按照alpaca的格式来写，并需要给到它context定义，使用它的GPTQ版本可以较好的进行支持对话，而且是uncensored的，对中文支持也比较好，但是经常会出现回复重复的问题，中文的某些资料不全哈哈哈。

from yi.

为什么我的提示是中文，就啥也没输出？

@lkp1985 单看截图，回复里多了个?。你可以把 eos_token='\n' 去掉对比看下。

找到问题了，是tokenizer的原因，把tokenizer=''就可以了

from yi.

它可以用中文写instruction，按照alpaca的格式来写，并需要给到它context定义，使用它的GPTQ版本可以较好的进行支持对话，而且是uncensored的，对中文支持也比较好，但是经常会出现回复重复的问题，中文的某些资料不全哈哈哈。

请问具体是如何做的呢?这样吗

[SYSTEM]{system message}[/SYSTEM]
[INST]{instructions}[/INST]
{response}

from yi.