广州网站建设与网页设计手机画画软件app

对于QWen2这样的模型，在微调的时候，语料的投喂格式满足ChatML这样的格式！！！

OpenAI - ChatML:

下面是ChatML格式的介绍：

https://github.com/openai/openai-python/blob/release-v0.28.0/chatml.mdhttps://github.com/openai/openai-python/blob/release-v0.28.0/chatml.md

传统上，GPT模型使用非结构化文本。
ChatGPT 模型需要一种结构化格式，称为 Chat Markup Language 聊天标记语言（简称 ChatML）。
ChatML 文档由一系列消息组成。每条消息都包含一个 header（现在由说这句话的人组成，但将来将包含其他元数据）和 内容（现在是文本有效负载，但将来将包含其他数据类型）。

我们仍在不断发展 ChatML，但当前版本 (ChatML v0) 可以用我们即将推出的“字典列表”JSON 格式表示，如下所示：