拥有一个自己的ChatGPT-ChatGLM3

ChatGLM3 是智谱AI和清华大学 KEG 实验室联合发布的新一代对话预训练模型。ChatGLM3-6B 是 ChatGLM3 系列中的开源模型，在保留了前两代模型对话流畅、部署门槛低等众多优秀特性的基础上，ChatGLM3-6B 引入了如下特性：

1. 更强大的基础模型： ChatGLM3-6B 的基础模型 ChatGLM3-6B-Base 采用了更多样的训练数据、更充分的训练步数和更合理的训练策略。在语义、数学、推理、代码、知识等不同角度的数据集上测评显示，ChatGLM3-6B-Base 具有在 10B 以下的基础模型中最强的性能。

2. 更完整的功能支持： ChatGLM3-6B 采用了全新设计的 Prompt 格式，除正常的多轮对话外。同时原生支持工具调用（Function Call）、代码执行（Code Interpreter）和 Agent 任务等复杂场景。

3. 更全面的开源序列： 除了对话模型 ChatGLM3-6B 外，还开源了基础模型 ChatGLM3-6B-Base、长文本对话模型 ChatGLM3-6B-32K。

配置要求：

显卡品牌为NVIDIA且显存不低于12GB，内存不低于16GB。

环境要求：

首先你需要安装Git、Anaconda、CUDA、CUDNN。

检查是否安装好环境。

首先需要下载本仓库：在合适的位置下载代码文件与模型文件。

然后使用 pip 安装依赖：

其中 transformers 库版本推荐为 4.30.2，torch 推荐使用 2.0 及以上的版本，以获得最佳的推理性能。

重要：打开pytorch网站查看适合的版本并安装，requirements.txt里面的自动安装pytorch版本并不适用。

修改第六行路径为刚刚下载好的模型路径。

点击运行python代码即可。