AI客服小程序开发实战：从零搭建智能客服系统

去年我接了一个电商客户的私活，他们每天要处理上千条重复咨询，客服团队疲于奔命。客户希望做一个AI客服小程序，能自动回答80%的常见问题。这篇文章我把整个开发落地方案整理出来，包含技术选型、核心代码和踩坑经验。

一、整体架构设计

AI客服小程序不是简单调个API就完事，需要完整闭环。我的方案分为四层：

• 前端层：微信小程序，负责对话UI、语音输入、图片上传
• 网关层：Node.js中间层，处理鉴权、限流、会话管理
• AI层：大模型API + 向量知识库检索（RAG）
• 数据层：MySQL存会话记录，Redis存上下文，向量库存知识

关键点：不要把所有逻辑塞进小程序端，中间层是必须的，否则密钥泄露和成本失控是迟早的事。

二、技术选型建议

1. 大模型选择

我测试了市面上主流方案，最终选了“大模型 + 向量检索”的混合模式。通用问题直接走模型，专业问题先检索知识库再喂给模型，准确率从62%提升到91%。

2. 知识库方案

客户的历史工单、产品手册、FAQ文档，全部通过Embedding接口转成向量存入向量数据库。检索时用余弦相似度取Top3片段作为上下文。

3. 小程序端框架

原生小程序 + TDesign组件库足够，别上uni-app增加复杂度。语音识别用微信同声传译插件，省事。

三、核心代码实现

1. 中间层对话接口

// server/routes/chat.js
const express = require('express');
const router = express.Router();
const { getEmbedding, searchVector } = require('../services/vector');
const { callLLM } = require('../services/llm');

router.post('/chat', async (req, res) => {
  const { question, sessionId } = req.body;
  
  // 1. 检索知识库
  const embedding = await getEmbedding(question);
  const docs = await searchVector(embedding, 3);
  const context = docs.map(d => d.content).join('\n---\n');
  
  // 2. 拼接Prompt
  const prompt = `你是电商客服助手，根据以下资料回答用户问题：
${context}

用户问题：${question}`;
  
  // 3. 调用大模型
  const answer = await callLLM(prompt, sessionId);
  
  res.json({ code: 0, data: { answer } });
});

module.exports = router;

2. 小程序端对话组件

// pages/chat/index.js
Page({
  data: { messages: [], inputValue: '' },
  
  async sendMessage() {
    const text = this.data.inputValue.trim();
    if (!text) return;
    
    this.setData({
      messages: [...this.data.messages, { role: 'user', content: text }],
      inputValue: ''
    });
    
    try {
      const res = await wx.request({
        url: 'https://your-api.com/chat',
        method: 'POST',
        data: { question: text, sessionId: this.sessionId }
      });
      
      this.setData({
        messages: [...this.data.messages, 
          { role: 'assistant', content: res.data.data.answer }]
      });
    } catch (e) {
      wx.showToast({ title: '网络异常', icon: 'none' });
    }
  }
});

四、落地踩坑经验

1. 流式输出必须做

用户等3秒才看到完整回答，体验极差。用SSE或WebSocket做流式输出，首字响应控制在800ms内，体感提升巨大。

2. 会话上下文要截断

不要无脑把历史对话全塞进Prompt，Token成本会爆炸。我的策略是保留最近5轮对话，超出部分做摘要压缩。

3. 兜底与转人工

AI不可能100%准确。设置置信度阈值，低于阈值时自动回复“这个问题我帮您转接人工客服”，并触发工单系统。这是客户最满意的功能点。

4. 敏感词过滤

小程序审核对内容安全要求严格，接入微信内容安全接口做双重校验，避免被下架。

五、成本与效果

这个项目上线后，客户客服人力从6人减到2人，AI自动解决率稳定在78%左右。API成本每月约400元，远低于人力成本。

如果你也想做AI客服小程序开发，建议先用最小可行方案跑通闭环，再逐步优化知识库和Prompt。别一上来就追求完美架构，快速上线拿到真实反馈才是关键。