当前位置:首页> AI教程> 打造智能金融助手AI Agent的步骤和方法

打造智能金融助手AI Agent的步骤和方法

释放双眼,带上耳机,听听看~!
本文介绍了打造智能金融助手AI Agent的步骤和方法,包括搭建智能客服和智能代理的详细流程,以及相关开源工具和模型的选择。

All In AI的智能时代到来,头部科技公司都在投入巨资,打造各自的AI能力。你是否也期待能够拥有强大的AI能力,为你的客户提供全天候的智能服务,无论时间和地点,都能延展我们卓越的客户关怀与支持!如:提供智能销售,随时为客户提供产品和方案咨询;提供智能客服,为客户提供全天候不间断的售后服务;提供智能代理,为客户的消费、理财提供即席分析,给出建议。

如果能够站在这些大公司和开源社区的成果上,看似很高深的AI工作,也变得像把大象装入冰箱一样简单。

接下来,我们可以参考Langchain chatGLM的方式,首先打造一个智能客服,解放你们公司客服长期不间断的重复工作,让他们集中精力处理更需要创造力的工作上。

智能客服

第一步,售后知识库准备工作,成果为WORD,PDF,TXT,MarkDown等格式的电子文档:

  • 收集整理公司客服应答记录,保留与公司产品售后服务相关的文本记录

  • 收集公司在售产品的产品手册、操作说明书、售后服务协议、客服人员培训资料等

第二步,搭建流水装配工厂,成果是将知识库中的电子文档转化为语言向量

可从开源社区GitHub中寻找这类向量化装配工厂,完成知识库文本向量化流水处理工作。推荐可采用Langchain,搭建起装配工厂的流水线,这条流水线的上下游构成如下:

  • 挑选各类非结构化的文本加载工具(Langchain中整合了各类常见文件加载器),拼装成所需的文本加载器组

  • 挑选文本分割器(如nlp_bert_document-segmentation_chinese-base),将大文本切割成段,方便后续加工

  • 选择文本向量化模型Embedding,如( nghuyong/ernie-3.0-nano-zhGanymedeNil/text2vec-large-chinese

  • 选择一个向量化数据库VectorStore,如(Milvus,FAISS)

  • 采用Langchain这类工具,将以上工具和模型组装成流水线,实现文本知识存入向量数据库

第三步,搭建和训练大语言模型,成果是具备你专业业务领域的知识处理能力的大语言模型

  • 选择大语言模型基座,可供选择的大语言模型很多,既可选开源的大语言模型(如THUDM/chatglm-6bvicuna-13b-hf),也可选商用的大语言模型(如OpenAI中的gpt-35-turbo)。

  • 将以上知识库中的文本,按模型训练所需的数据格式(如JSON格式),随机分成两部分,一部分为训练数据,一部分为测试数据,一般分割比例可设为4:1。

  • 利用大语言模型提供的API接口,输入以上训练和测试数据,训练大语言模型,得到微调模型

  • 启动大语言模型,加载微调后的模型,使用chat类接口,验证训练结果

第四步,将客户的问题输入给大语言模型,成果是智能客服像人一样为客户做服务

  • 接收用户问题输入,采用第二步相同的Embedding工具,进行向量化

  • 将向量化后的问题,在向量知识库中进行搜索,获得与此问题语义相关度较高的知识文本片段

  • 将客户问题和知识文本片段,按提问模板拼装为问题提示Prompt

  • 将Prompt发大语言模型,调用chat类接口,生成答案

  • 将问题答案以Stream的形式展现给客户端,实现逐字逐句问答的效果

打造智能金融助手AI Agent的步骤和方法

图1. Chat-Agent

接下来,我们还可以搭建一个更加复杂的智能代理。其步骤方法与智能客服类似,但需要在一些环节中加入对业务交易系统数据操作的能力。

智能代理

我们参考DB-GPT,在以上的装配线上,做些组件更换,训练数据补充,引入数据库操作和数据展现等工具。

第一步,增加业务系统数据结构知识准备工作

  • 在公司业务产品知识库的基础是基础上,增加业务系统数据结构文档

第二步,搭建流水装配工厂,支持数据库处理能力

第三步,搭建和训练大语言模型,新增数据结构知识训练

  • 用业务数据结构的知识,微调训练大语言模型,具备业务数据操作SQL生成能力

第四步,将客户的问题输入给大语言模型,返回数据查询分析结果

  • 在Chat的模式下,补充数据图表能力,给出下一步操作引导提示

打造智能金融助手AI Agent的步骤和方法

图2. DB-Agent

本网站的内容主要来自互联网上的各种资源,仅供参考和信息分享之用,不代表本网站拥有相关版权或知识产权。如您认为内容侵犯您的权益,请联系我们,我们将尽快采取行动,包括删除或更正。
AI教程

AI绘画教程:罗刹海市MV一镜到底制作全过程

2023-11-18 19:25:14

AI教程

首批国产大模型获批面向用户开放,商汤、百度、智谱AI等产品全面开放服务

2023-11-18 19:34:14

个人中心
购物车
优惠劵
今日签到
有新私信 私信列表
搜索