基于ChatGPT的英语写作离题检测与评分模型 基于chatgpt搭建自己的数据模型

本文介绍了ChatGLM相关内容，包括ChatGLM的定义、模型结构、预测方式，还基于其项目进行了说明。ChatGLM是通用语言模型，ChatGLM-6B是开源双语对话模型。项目结合ChatGLM和提示技术，在Paddle上的使用介绍，包括模型读取、功能设计等。

1. 引言

1.1什么是ChatGLM

通用语言模型（GLM），据论文https：//arxiv.org/pdf/2103.10360.pdf所述，是一种基于自回归填充的通用语言模型（Autoregressive Blank）

GLM通过添加2D位置编码和允许任意顺序预测跨度来改进空白填充预训练，这导致在NLU任务上的性能优于BERT和T5。同时，GLM通过改变空白的数量和长度可以来针对不同类型的任务进行预训练。 、条件生成和无条件生成的广泛任务中，在给定相同的模型大小和数据的情况下，GLM优于BERT、T5和GPT，并且在具有1.25×BERTLarge参数的单个预训练模型中实现了最佳性能，证明了对不同下游任务的可推广性。

而ChatGLM-6B 是一个开源的、支持中英双语的对话语言模型，ChatGLM-6B 使用了和 ChatGPT相似的技术，并针对中文问答和对话进行了优化，拥有62亿参数，经过约1T标识符的中英双语训练。

不过，由于ChatGLM-6B的规模较小，目前已知其具有相当多的局限性，如事实性/数学逻辑错误，可能生成残差/有偏差内容，较弱的上下文能力，自我认知混乱，以及对中文指示生成与大家中文指示完全矛盾的内容。请在使用前了解这些问题，以免产生误解。更大的基于1300亿参数 GLM-130B 的 ChatGLM正在内测开发中：https：//github.com/THUDM/GLM-130B。

1.2 ChatGLM的模型结构

GLM使用单个Transformer，结构和Transformer类似，但对结构进行了几个修改：重新安排了层归一化和残差连接的顺序，这对于大规模语言模型来说是重要的，蓝牙评分表格使用正弦线性层来进行输出token预测；用GeLU替换ReLU激活功能

1.3 ChatGLM的预测

GLM图如下解。绿色部分是输入语句中的空缺部分，模型通过自回归生成填入相应的单词

在情感分类任务时如下。一个输入的句子中，通过在

了解了ChatGLM模型的使用之后，那么我们就可以使用Paddle上的ChatGLM-6B模型了

Paddle官方的模型和控制器代码： https：//github.com/PaddlePaddle/PaddleNLP/tree/8e4087126c21f15d47f78c95f7d5070dee2bbac9/examples/language_model/chatglm

1.4本项目介绍

本项目的技术基础是ChatGLM和Prompt。ChatGLM可以让机器像一样进行对话。

提示一种自然预设的对话模板，能够帮助机器生成更准确和流畅的答案。通过结合这两种技术，项目能够提供高度和准确的交流体验。

最适合和chatGPT差不多，意思懂就行。由于当前平台gradio和streamlit配置硬盘只有10G，因此无法在线配置这个12G的GLM模型2。 实验准备

需要用到最新的Paddle和PaddleNLPIn

如果模型在3-5分钟内没读成功或者出现cudaErrorECCUn Correctable = 214错误的话。考虑重启项目，换一张显卡试试In

修改下面的内部对话历史，前面是用户说，后面是系统回答。让模型顺着前文更好地回答

In [2]导入osfrom IPython.display导入clear_output asclearimport jsoninput_length=2048#最大输入长度output_length=160#最大输出lengthstart=0history=''#中间前面是用户说，后面是系统回答。修改和设计对话历史，让模型顺着前文更好地回答历史=[('你是一只会说话、会搭建神经网络、精通python的猫猫，自由回答问题，像人类一样可以思考和表达。现在你和我对话时每一句话后面都要加上喵，并加上表情。”。'，'好的主人喵~登录后复制

以上就是基于ChatGLM-6B模型提示实现角色扮演功能的详细内容，更多请关注乐哥常识网其他相关文章！