当前位置:首页> AI教程> Langchain-Chatbot: 从大语言模型到AI占卜的探索

Langchain-Chatbot: 从大语言模型到AI占卜的探索

释放双眼,带上耳机,听听看~!
了解Langchain框架,探索大语言模型驱动的AI占卜功能,并分享实战经验。从搭建UI前端到实现聊天服务的agent,全方位探索Langchain框架的应用。

前言

  刚翻开了久未打开的简书文章,我发现距离我上次完结的《Rasa对话系统踩坑记》已过去近五年。那时候我家小棉袄还未出生😂。记得在那个时期,任务型对话系统是主流,相关概念如NLU(自然语言理解)、tracker(跟踪器)、action(动作)和story(故事)等等,这些名词已深入人心,Rasa成为这个领域最具代表性的框架。

  然而,到了2022年底,ChatGPT的问世彻底改变了这个格局。这款大语言模型的推出让人震惊,感到前所未有的兴奋。随后的半年,一批新的大语言模型相继问世,包括GPT-4、Google的Bard、百度的文心一言和讯飞的星火大模型等等,它们共同营造出大语言模型的繁荣景象。与此同时,基于大语言模型的垂直领域也催生了新的开发概念——Prompt开发。在Prompt开发领域的框架中,Langchain最具代表性。

  因此,我开启了一个全新的系列,以Langchain为核心,分享我探索这个框架的经验,就像“摸着石头过河”一样。

Langchain-Chatbot

  延续传统,代码传送门:Langchain-Chatbot

  在深入介绍之前,我们先了解一下Langchain。

Langchain是一个用于开发由语言模型驱动的应用程序的框架。它为开发人员提供了一种标准的接口,使他们能够创建超出单个大语言模型(LLM)调用的调用序列。Langchain的核心在于围绕LLMs构建的框架,可以用于聊天机器人、生成式问答、摘要等。Langchain提供了许多工具和模块,包括模型(model)、提示(prompt)、链(chain)、代理(agent)、记忆(memory)等。

这个Langchain-Chatbot项目的目标是实现一个AI占卜功能。下面是简单的效果展示:

Langchain-Chatbot: 从大语言模型到AI占卜的探索

项目设计思路如下:

  1. 首先下载《周易》等占卜相关的书籍,将其放入docs文件夹中。然后通过OpenAIEmbeddings将文本转化为向量化(Embedding),并通过FAISS进行索引存储。你也可以选择Pinecone、ElasticSearch、Annoy、Chroma等其他工具进行向量存储。
  2. 用户提出的问题将使用VectorStore作为先验知识,再结合LLM进行回答。在这个项目中,我使用了OpenAI的gpt-3.5-turbo模型作为示例。

结束语

这篇文章主要是对过去的回顾以及Langchain的简单介绍。在接下来的文章中,我将从以下几个方面分享实战经验:

  • 搭建UI前端并对接聊天服务
  • 实现聊天服务的agent
  • 实现memory以及其作用
  • 对聊天服务的prompt进行改写和调试
  • 实现stream流式传输及前端WebSocket的实现
  • UI的修改和服务的部署
本网站的内容主要来自互联网上的各种资源,仅供参考和信息分享之用,不代表本网站拥有相关版权或知识产权。如您认为内容侵犯您的权益,请联系我们,我们将尽快采取行动,包括删除或更正。
AI教程

OpenAI发布GPT-4:多模态AI模型带来的革命性进展

2023-12-16 18:06:14

AI教程

探索多类分类问题的 scikit-learn 模型

2023-12-16 18:19:14

个人中心
购物车
优惠劵
今日签到
有新私信 私信列表
搜索