windows
自动化
模拟退火算法
PWM
考试管理系统
自动批量下载图片的插件
在线聊天系统
机顶盒ROM
端口转发
网上书店
网赚项目
软考
零售
Cookie
swing
企业人事管理系统
NAND Flash
dpdk
web框架
日志库
ChatGLM2
2024/4/13 20:02:26
【ChatGLM2-6B】问题解决cannot import name ‘Doc‘ from ‘typing_extensions‘
问题描述
在运行ChatGLM2-6B大语言模型和使用P-Tuning训练的时候，出现如下错误
cannot import name Doc from typing_extensions问题原因
因为安装的typing_extensions版本不正确，需要重新安装
解决方案
运行: pip install typing_extensions4.8.0如…
GPT实战系列-ChatGLM2模型的微调训练参数解读
GPT实战系列-ChatGLM2模型的微调训练参数解读 目录 GPT实战系列-ChatGLM2模型的微调训练参数解读ChatGLM2模型1、P-Tuning模型微调2、微调训练配置参数train.sh中配置参数训练配置信息模型配置信息附录：训练正常运行打印信息 ChatGLM2模型
ChatGLM-6B是开源的文本生…
高速下载ChatGLM2模型文件的解决方案
大家好，我是爱编程的喵喵。双985硕士毕业，现担任全栈工程师一职，热衷于将数据思维应用到工作与生活中。从事机器学习以及相关的前后端开发工作。曾在阿里云、科大讯飞、CCF等比赛获得多次Top名次。现为CSDN博客专家、人工智能领域优质创作者。喜欢通过博客创作的方式对所学的…
修改 ChatGLM2-6B 自我认知的 Lora 微调教程
修改 ChatGLM2-6B 自我认知的 Lora 微调教程 0. 背景1. 部署微调项目2. 数据集说明3. 模型监督微调(Lora)4. 模型效果测试5. 导出微调模型6. 调用导出的模型 0. 背景
现在开始学习微调，主要学习 Lora 微调。
这次尝试了修改 ChatGLM2-6B 自我认知，文章…
chatglm2-6b模型在9n-triton中部署并集成至langchain实践 | 京东云技术团队
一.前言
近期， ChatGLM-6B 的第二代版本ChatGLM2-6B已经正式发布，引入了如下新特性：
①. 基座模型升级，性能更强大，在中文C-Eval榜单中，以51.7分位列第6；
②. 支持8K-32k的上下文；…
Win10系统下torch.cuda.is_available()返回为False的问题解决
Q: Win10系统下torch.cuda.is_available()返回为False
(l2) D:\opt\l2>pythonPython 3.10.12 | packaged by conda-forge | (main, Jun 23 2023, 22:34:57) [MSC v.1936 64 bit (AMD64)] on win32Type "help", "copyright", "credits" or &q…
GPT实战系列-P-Tuning本地化训练ChatGLM2等LLM模型，到底做了什么？(一)
GPT实战系列-如何使用P-Tuning本地化训练ChatGLM2等LLM模型？ 文章目录 GPT实战系列-如何使用P-Tuning本地化训练ChatGLM2等LLM模型？P-Tuning微调训练概述1、预训练模型或者是torch模型2、训练器的超参数3、数据预处理工具4、加载数据5、分词处理6、数据预…
GPT实战系列-P-Tuning本地化训练ChatGLM2等LLM模型，到底做了什么？(二)
GPT实战系列-如何使用P-Tuning本地化训练ChatGLM2等LLM模型？(二) 文章目录 GPT实战系列-1.训练参数配置传递2.训练前准备3.训练参数配置4.训练对象，seq2seq训练5.执行训练6.训练模型评估依赖数据集的预处理 P-Tuning v2 将 ChatGLM2-6B 模型需要微调的参…
Chatglm2-6b模型相关问题
Chatglm2-6b模型相关问题 1. Chatglm2-6b模型p-tuning后推理答非所问 1. Chatglm2-6b模型p-tuning后推理答非所问
据ChatGLM-6B b站的说法：【官方教程】ChatGLM-6B 微调：P-Tuning，LoRA，Full parameter大概意思就是练了后面的前面…
冲鸭~~！10分钟部署清华ChatGLM2-6B，效果测试：不愧是中文榜单第一
来源: AINLPer公众号（每日干货分享！！） 编辑: ShuYini 校稿: ShuYini 时间: 2023-9-25 引言 今年6月份清华大学发布了ChatGLM2，相比前一版本推理速度提升42%。最近，终于有时间部署测试看看了，部署…
chatglm2-6b微调实战
chatglm2-6b-sft
chatglm2-6b, chatglm-6b微调/LORA/推理
源码地址：https://github.com/yongzhuo/ChatGLM2-SFT
踩坑
1. torch>2.0, 否则微调会报很多错误(单纯推理可以用低版本);
2. tokenizer.encode输出为 [gMASK, sop, 真实文本token]64789 {str} [MASK…
ModuleNotFoundError: No module named ‘transformers_modules.chatglm2-6b‘解决方案
大家好，我是爱编程的喵喵。双985硕士毕业，现担任全栈工程师一职，热衷于将数据思维应用到工作与生活中。从事机器学习以及相关的前后端开发工作。曾在阿里云、科大讯飞、CCF等比赛获得多次Top名次。现为CSDN博客专家、人工智能领域优质创作者。喜欢通过博客创作的方式对所学的…
【ChatGLM2-6B】P-Tuning训练微调
机器配置
阿里云GPU规格ecs.gn6i-c4g1.xlargeNVIDIA T4显卡*1GPU显存16G*1
准备训练数据
进入/ChatGLM-6B/ptuningmkdir AdvertiseGencd AdvertiseGen上传 dev.json 和 train.json内容都是
{"content": "你是谁", "summary": "你好&…
【ChatGLM2-6B】从0到1部署GPU版本
准备机器资源
显卡: 包含NVIDIA显卡的机器，如果是阿里云服务器可以选择ecs.gn6i-c4g1.xlarge规格硬盘: 大约50G左右操作系统: CentOS 7.9 64位CPU内存: 4C16G
更新操作系统
sudo yum update -y
sudo yum upgrade -y下载并安装anaconda
在命令行中，输…
【ChatGLM2-6B】nginx转发配置
背景
好不容易把ChatGLM2-6B大语言模型部署好了，使用streamlit方式启动起来了，终于可以愉快的玩耍了，然后想着申请一个域名，使用HTTPS协议访问，但实践过程中，发现这个大语言模型的nginx转发配置还是有点小…
【ChatGLM2-6B】在只有CPU的Linux服务器上进行部署
简介
ChatGLM2-6B 是清华大学开源的一款支持中英双语的对话语言模型。经过了 1.4T 中英标识符的预训练与人类偏好对齐训练，具有62 亿参数的 ChatGLM2-6B 已经能生成相当符合人类偏好的回答。结合模型量化技术，用户可以在消费级的显卡上进行本地部署&…
基于ChatGLM2和langchain的本地知识库问答的实战方案
大家好，我是herosunly。985院校硕士毕业，现担任算法研究员一职，热衷于机器学习算法研究与应用。曾获得阿里云天池比赛第一名，CCF比赛第二名，科大讯飞比赛第三名。拥有多项发明专利。对机器学习和深度学习拥有自己独到的见解。曾经辅导过若干个非计算机专业的学生进入到算法…