关键词:Agent Assist、客服 Copilot、坐席助手、RAG、Human-in-the-loop、保险客服

过去一段时间,我一直在做一个面向保险客户的 FAQ 聊天机器人。它能回答不少常见问题,但越做越清楚一件事:在保险这种强监管、答错代价高的行业,“全自动回复”并不是所有场景的最优解。很多对话,尤其是涉及理赔、退保、具体保额的,最终还是需要人工客服把关。

于是换个思路:与其让 AI 直接回复客户,不如让它坐在客服旁边——客户消息一到,AI 先把回复草稿、引用的知识、需要确认的信息都准备好,客服看一眼、改几处、点发送。这篇文章记录这个“客服 Copilot”原型的设计思路。

文中例子来自一家虚构的保险公司,产品名、条款和金额都是编的。第三节有可以翻页、缩放的原型演示,也可以在新窗口打开原型自由体验。


一、市面上已经有哪些类似方案

这个方向并不新,业内一般叫 Agent Assist / Agent Copilot / 坐席助手:

厂商产品特点
AWSAmazon Connect + Amazon Q in Connect根据通话/对话实时推荐回复和知识文章
GoogleContact Center AI Agent AssistSmart Reply、Knowledge Assist,带 FAQ 引用
SalesforceEinstein Service Replies / Agentforce for Service草稿 + Knowledge Article 引用
MicrosoftDynamics 365 Copilot for Customer Service草稿、摘要、知识问答带出处
Zendesk / IntercomAgent Copilot / Fin Copilot侧边栏草稿与来源,一键插入
国内阿里云智能客服、网易七鱼、智齿等话术推荐、知识推荐

它们的共同点可以归纳成三条:

  1. AI 出草稿,人负责发送;
  2. 每条建议都有出处,客服能追溯;
  3. 记录客服改了什么,反哺知识库和模型。

如果你所在的公司已经在用其中某个客服平台,先评估它自带的 Copilot 能不能接自己的知识源,往往比自研划算。我这里做原型,是因为知识库和检索逻辑已经在自己的系统里,需要先验证交互,再决定怎么集成。


二、设计原则

在动手画界面之前,我先定了五条原则,后面所有取舍都以它们为准:

  1. AI 起草,人发送。 AI 永远不直接对客户说话。
  2. 每句话都有出处。 草稿里的关键句带 [1] [2] 引用标记,点一下就能看到原文。客服信不信任草稿,取决于能不能快速核对。
  3. 先搞清楚上下文,再回答。 同样问“航班延误赔多少”,不同产品、不同计划的答案完全不同。上下文不清时,宁可先问,也不要猜。
  4. 不确定就让客户缩小范围。 澄清问题本身也是一种“好回复”。
  5. 一切交互都是反馈。 客服的每次修改、勾选、点踩,都是改进知识库和评估模型的数据。

三、界面:四栏布局(可交互演示)

下面嵌入的就是原型本身(不是截图):翻页时,幻灯片会让原型切换到对应的场景,并用红框标出这一页讲的内容。

① 四栏布局

对话队列 · 客户 Context · AI 建议回复 · 知识面板。每个等待中的对话,草稿都已经在后台准备好。

原型截图
100% ↗
双击或 +/- 缩放,拖动平移;全屏时可用滚轮缩放。点「自由操作」可直接点击原型。
  • 对话队列:每个等待中的对话后台都已经生成好草稿,并标注意图(answer / clarify / escalate)和产品。客服切过去时草稿已就绪,不用等。
  • 客户 Context:本次对话已知的事实,可编辑(第五节详述)。
  • AI 建议回复:流式生成、可直接编辑;顶部有意图提示和“AI 判断依据”折叠栏。
  • 知识面板:已引用 / 其他相关 / 全库搜索三个标签页,每张卡片可以勾选纳入草稿、插入原文、点赞点踩、报错。

四、核心流程

客户消息 ─┐
          ├─▶ ① Context 推断 ─▶ ② 知识检索 ─▶ ③ 意图判断 ─▶ ④ 组装草稿
客服备注 ─┘     (产品/计划)      (按 Context      (answer /       (引用标记 +
                                   过滤与分级)     clarify /       澄清问题)
                                                   escalate)
                     ▲                                                 │
                     └──────── 客服修改 Context / 勾选知识 ◀────────────┘

关键在于这是一个环,不是一条直线:客服任何一次修改 Context 或调整知识来源,都会让 ②③④ 重新跑一遍。


五、Context:把“已知事实”显式化

如果 Context 只是几行只读文字,放到客服的实际场景里,问题很快就会暴露:

  • 上游系统传来的信息可能不全,比如只知道是旅行险,不知道具体计划;
  • AI 从对话里“猜”出来的信息,客服需要能分辨、能纠正;
  • 客服查了客户资料,需要能把查到的保单“挂”到对话上。

所以 Context 被做成了一个带来源标记的可编辑面板:

字段可能的来源
产品类别上游系统 / AI 推断 / 客服设置 / 记录查询
计划同上
保单号上游系统 / 记录查询
理赔号上游系统 / 记录查询
客服备注客服手动补充(也参与检索)

几个细节:

  • AI 推断要“示弱”。 推断值用虚线标签显示,附上依据(“根据客户消息:航班、延误”)和一个“确认”按钮。未确认之前,发送时会提示“计划由 AI 推断,请确认”,置信度也会相应下调。
  • 客服的设置优先于 AI。 客服如果把产品改回“未确定”,AI 不会再自作主张推断回去。实现上就是记录每个字段的 origin,origin = agent 时跳过推断。
  • 查记录比手填更可靠。 按姓名、手机号、保单号或理赔号搜索,选中保单时自动带出产品和计划,选中理赔时连同所属保单一起带出。一位客户名下有旅行险和家财险两张保单时,客服选哪张,草稿就按哪张回答。
  • 改了 Context,草稿要不要自动刷新? 我的规则是:客服没动过草稿,就直接重新生成;已经手改过,就不覆盖,只提示“Context 已变更,按新 Context 重新生成”。不能吞掉客服的劳动成果。

六、澄清策略:不确定时,让客户缩小范围

给每条知识标上适用范围(哪个产品、哪个计划),再按当前 Context 分三种处理:明确不符的直接丢弃;产品或计划还不确定的先“暂扣”;个人记录(保单、理赔)必须编号匹配才能用。

被“暂扣”的知识不会进入草稿,但会出现在“其他相关”里,并标黄“计划未确定”,客服仍可以手动纳入。随后意图判断分三种澄清:

情况例子草稿怎么写
产品未确定“我想退保,可以退款吗?”只列出知识实际命中的产品(如旅行险、家财险)让客户选,并提示也可直接提供保单号
产品已知、计划未确定“航班延误 7 小时,可以赔多少?”先回答通用部分(怎么提交理赔),再列出该产品的计划请客户选择;保额这类计划专属内容暂不回答
知识依据不足知识库没有相关内容请客户补充信息,同时引导客服“回报知识缺失”

两个我觉得值得强调的点:

  • 选项要收窄。 问“您买的是哪类保险?”然后列出全部产品,体验很差。只列出知识命中的那几类,客户一眼就能选。
  • 能答的部分先答。 计划未知时,“怎么提交理赔”和计划无关,可以先答;只有保额需要等计划确认。这样一来一回不会显得“答非所问”。

客户回复“我买的是某某计划”之后,AI 推断出计划(标记为 AI 推断),重新检索,草稿就变成引用该计划延误条款的正式答复。

草稿下方还有一排快速提问按钮(产品类别、计划、保单号、出险日期、单据证明),当前情况最需要问的那个会高亮,客服点一下就插入到光标处。


七、合规护栏

保险客服有一些“不能说”的话,原型里用规则做了实时提示:

  • 承诺性措辞:“一定赔”“保证”“definitely covered”等;
  • 疑似个人信息:手机号、身份证号格式;
  • 失去依据:意图是 answer,但客服把所有引用标记都删了;
  • 未确认的推断:Context 里还有 AI 推断、未经客服确认的字段。

另外,客户消息带有投诉、律师、监管等字眼时,意图直接判为 escalate,草稿以道歉和跟进安排为主,并提示转交专责同事。

这些规则都很粗糙,生产环境需要更完善的方案,但原型阶段足以让业务同事看到“护栏”应该出现在哪里、长什么样。


八、反馈闭环:把客服的每次操作变成数据

原型会记录以下事件,并可以导出成 JSON:

事件用途
sent:AI 原稿 vs 最终发出内容,计算修改率衡量草稿质量的核心指标
context_change / context_confirm统计 AI 推断的准确率、上游数据缺失率
source_added / source_removed发现检索排序问题
source_rating(👍/👎)知识条目质量
kb_report(内容有误 / 过时 / 缺失)直接派给知识库维护人员
quick_ask哪类澄清最常用,指导 Context 采集

修改率用归一化编辑距离计算:

edit_rate = levenshtein(ai_draft, final) / max(len(ai_draft), len(final))

0 表示原样发送,越接近 1 表示改得越多。它不完美(改一个关键数字和改一句客套话权重一样),但足够简单,可以先跑起来看趋势。sent 事件同时带上了 AI 原稿、最终文本、Context 和引用,本身就是一条现成的评估样本:长期积累下来,就是一个由一线客服标注的回归测试集。


结语

做完这个原型,我最大的感受是:客服 Copilot 的难点不在“生成”,而在“上下文”和“信任”。

  • 上下文不清,生成得再流畅也是答非所问。所以要把 Context 显式化,让 AI 在不确定时主动缩小范围,让客服随时能纠正。
  • 客服不信任,草稿再好也会被整段删掉重写。所以每句话都要有出处,每个推断都要标明“这是我猜的”,每条护栏都要在发送之前出现。

AI 在这里的角色,不是替代客服,而是让客服少花时间翻资料、多花时间判断。

本文涉及的公司、产品、条款、对话与数据均为虚构示例,不对应任何真实的保险公司或产品。