随着大语言模型的趋势,我们是否可以利用大语言模型自己构建一个智能客服机器人? 成本有多高? 有多难? 本文对此进行了分析,我们来看看。
有很多朋友联系我推荐可靠的智能客服产品。 但2023年的今天,当我们再次审视这个问题时,我们面临着全新的选择。 我们能否利用大语言模型自己构建一个智能客服机器人? ? 成本有多高? 有多难?
我们可以将智能客服拆分为两个不同的产品维度:“智能”+“客户服务”。
1. 客户服务
如果我们要实现一个客户服务系统,我们需要准备多渠道的访问管理和设置。 常见的渠道有电话、Web网站、H5手机页面、微信、奇微、邮件、短信、微博等,如果我们自己开发的话,那就选择自己需要使用的服务场景和获客渠道。 主要功能是实现频道消息、在线IM消息、座席手工消息工作台的接入。 可以轻松实现并与您自己的客户信息系统匹配,实现访客关联和管理。
2. 情报
接下来是情报部分。 过去,自主研发的智能客服系统大多受限于智能机器人的难度,只能实现人工在线客服。 传统智能客服机器人需要构建AI引擎,对接ASR、TTS能力接口,实现智能语音AI能力的接入。
建立机器人知识库,实现问答模式中的类似问题、扩展词语、专有词管理等。建立机器人流程,配置机器人意图、识别、分支流程和复杂流程控制方法,实现多轮对话和任务管理。 建立机器人数据。 统计分析模块方便运营管理和数据标准及培训。 只有将两者结合起来,才能完成智能客服的基本工作流程。
2022年大语言模型的爆发将对智能客服机器人产品产生最直接的影响。 核心焦点问题之一是:如何利用大语言模型更快更好地构建客服机器人? 今天我就和大家详细聊聊如何打造一个具有“个性”的大型语言模型客服机器人,可以通过文字和语音完成个性化接待工作。
1. 为什么需要性格特征
事实上,在大语言模型到来之前,除了小冰这样的独立AI产品之外,还可以训练不同性格和音色的机器人唱歌、说话、作诗。 客服机器人领域一直在探索如何实现机器人的个性化。 由于技术能力、实施难度、经济性等原因,目前还没有更好的产品解决方案。 大家使用的客服机器人几乎都是统一标准化的问候、回答、解决问题,并采用多轮对话的方式来处理特定的任务。 不管你说他们弱智,他们都不会生气,想说什么就说什么,而且会表现出自己的敬业精神和努力。不过现在大语言模型来了,我们可以期待一下。 那么今天我们就来说说如何构建一个具有个性特征的大语言模型机器人。
2、开机前的准备工作
如果您已经熟悉客户服务机器人,那么我们就开始吧。 如果还需要补充一些基础知识,可以跟着我看一下我之前整理的一些大语言模型的应用。 关于知识库文档提取、知识库自动扩展等方法,搓手机器人都可以使用。 我还将在文章末尾发布一个链接。 另外,需要有一定的编程基础,尤其是大型语言模型、点对点框架以及国内外常用的LLM调用相关的使用,了解向量数据库。
3、客服机器人的连接渠道
现在机器人的服务场景已经确定。 就是微信、奇微、网站、H5,还有一些视频媒体、社交媒体、电话。 电话呼叫的实现需要使用CTI通信集成技术,相对复杂。 首先实现上述渠道的在线客服,通过IM对话接入访客到座席的消息连接。 同时,您可以使用我们的客服机器人接待访客,并在适当的触发条件下设置出口,将消息转发给人工座席。 以上是客服机器人的应用场景和基本原理。
4.载体数据库设置
我们需要制造与过去不同的机器人。 基于向量数据库和聊天/界面的企业知识库的大型语言模型机器人。 从产品化的角度来看,多租户账户应该建立独立的知识库,提供文件上传和培训功能。 支持主流docx、txt、xlsx、pdf等格式。 获取文档内容后,按照字符长度分块,调用接口,存入矢量数据库。 如果是SaaS系统,要注意基于多租户的数据切分。
5、大语言模型客服机器人搭建
关键的一步就在这里。 我们需要赋予机器人“个性”。 除了之前的客服机器人设置之外,我们还添加了大语言模型特有的机器人性格参数。 建议添加以下内容
1.角色扮演设定
您要设置的机器人的身份和背景是什么? 例如,“假设您是“AA公司”的销售顾问,您的名字是,微信和电话是***,公司网站是”“假设您是“哎呀玛雅”的电商客服旗舰店”,你的名字是首席体验工程师,主要为游客的咨询、订单、售后、投诉等问题提供服务。” 假设您是“天天优”医院的服务代表,您叫林医生,医院官方微信是***,您主要了解来访者病情,建议引导来访者到医院进一步检查”。
如果你是做产品设计的,还可以提取字段作为配置项:姓名、角色、职责、背景信息等。目的是开始一段基本角色设定,玩过游戏的人都知道。 发挥您的想象力,进行演示,然后让您的客户自己填写。
2. 限制范围
如果没有限制,机器人就会对游客胡言乱语。 因此,这里必须施加明确的约束,例如“您只能根据对话上下文回答问题”、“您只能根据已知的知识和信息回答问题”、“您不得向访问者透露您是一个“AI、机器人、人工智能、大计算机”模型的目的是将机器人的回答内容限制在历史对话数据和企业知识库系统的背景下,并在必要时隐藏真实身份。还可以添加历史会话记录和知识库文档的相关配置。
3.字数限制
为了防止大模型说得太多,我们可以设定一个简洁明了的字数限制。
当然,为了节省一些宝贵的时间,你可以设定以下规则:“你应该尽量用口语化的方式回应,尽量安抚用户的情绪。你的回答应该简洁,不超过50个字。”
4.未知问题的提示语
这仍然是一个限制。 对于确实无法回答的问题,可以通过这种方式引导机器人回答,防止机器人“智能涌现”、胡乱回答。
例如:对于访问者提出的与知识无关的问题,你应该明确拒绝,并告诉用户,“对不起,你的问题很有趣,但我无法回答你。 您能提供更详细的描述吗?” 产品化的思路是,在这里可以添加多样化的响应和人工坐席出口,并推荐访客点击或直接转至人工坐席服务。
5.口语语气词
为了让大模型机器人更加有趣,可以添加模态粒子设置。 例如,“在回答过程中可以适当添加一些情态助词,如:“嗯嗯”、“哇”、“亲爱的”、“哈”、“哦”等词语。
6. 首次咨询Q&A