聊天工具

langchain-ChatGLM

基于本地知识的 ChatGLM 应用实现

标签:
内容纲要

🤖️ 一种利用 ChatGLM-6B + langchain 实现的基于本地知识的 ChatGLM 应用。

💡 受 GanymedeNil 的项目 document.ai 和 AlexZhangji 创建的 ChatGLM-6B Pull Request 启发,建立了全部基于开源模型实现的本地知识问答应用。

✅ 本项目中 Embedding 选用的是 GanymedeNil/text2vec-large-chinese,LLM 选用的是 ChatGLM-6B。依托上述模型,本项目可实现全部使用开源模型离线私有部署

⛓️ 本项目实现原理如下图所示,过程包括加载文件 -> 读取文本 -> 文本分割 -> 文本向量化 -> 问句向量化 -> 在文本向量中匹配出与问句向量最相似的top k个 -> 匹配出的文本作为上下文和问题一起添加到prompt中 -> 提交给LLM生成回答。

langchain-ChatGLM

🚩 本项目未涉及微调、训练过程,但可利用微调或训练对本项目效果进行优化。

📓 ModelWhale 在线运行项目

赞赏

微信赞赏支付宝赞赏

数据统计

数据评估

langchain-ChatGLM浏览人数已经达到437,如你需要查询该站的相关权重信息,可以点击"5118数据""爱站数据""Chinaz数据"进入;以目前的网站数据参考,建议大家请以爱站数据为准,更多网站价值评估因素如:langchain-ChatGLM的访问速度、搜索引擎收录以及索引量、用户体验等;当然要评估一个站的价值,最主要还是需要根据您自身的需求以及需要,一些确切的数据则需要找langchain-ChatGLM的站长进行洽谈提供。如该站的IP、PV、跳出率等!

关于langchain-ChatGLM特别声明

本站AIHunt | 几百个AI工具导航,国内外AI工具导航大全提供的langchain-ChatGLM都来源于网络,不保证外部链接的准确性和完整性,同时,对于该外部链接的指向,不由AIHunt | 几百个AI工具导航,国内外AI工具导航大全实际控制,在2023-04-23 14:50收录时,该网页上的内容,都属于合规合法,后期网页的内容如出现违规,可以直接联系网站管理员进行删除,AIHunt | 几百个AI工具导航,国内外AI工具导航大全不承担任何责任。

相关导航

暂无评论

暂无评论...