导语： 大语言模型（LLM）的崛起为人工智能领域带来了革命性的变革，但在实际应用中，LLM的幻觉、安全漏洞等问题也日益凸显。Rasa创始人兼CTO亚历山大·韦德（Alexander Weidauer）在接受知名风投机构Andreessen Horowitz（a16z）的访谈中，深入探讨了如何通过CALM（Composable, Adaptive, Learning, Modular）架构，将LLM的理解能力与传统对话式AI技术相结合，构建可靠、可控且适用于客户服务领域的对话系统。本文将基于该访谈内容，结合行业观察和技术分析，剖析Rasa的创新实践及其对企业级对话式AI的深远影响。
LLM的机遇与挑战：企业级应用面临的现实困境
大语言模型在自然语言处理领域展现出强大的能力，尤其是在理解、生成和推理方面。这使得LLM在对话式AI领域拥有巨大的潜力，可以构建更加智能、流畅和自然的对话体验。然而，LLM并非万能，其固有的缺陷也限制了其在企业级应用中的大规模部署。
1. 幻觉问题： LLM在生成文本时，可能会产生与事实不符的内容，即所谓的“幻觉”。这在客户服务等对准确性要求极高的场景中是不可接受的。想象一下，一个客户咨询银行贷款利率，AI客服却给出了错误的答案，这不仅会误导客户，还会损害企业的声誉。
2. 安全风险： LLM容易受到提示注入（Prompt Injection）和劫持（Jailbreak）等攻击。恶意用户可以通过构造特定的提示语，诱导LLM执行非预期操作，甚至泄露敏感信息。例如，攻击者可以通过提示注入，让AI客服泄露客户的银行账号或信用卡信息。
3. 可控性问题： LLM的行为难以预测和控制，这使得企业难以保证对话的质量和一致性。在复杂的对话场景中，LLM可能会偏离预设的流程，导致对话无法顺利进行。
4. 成本问题： 运行LLM需要大量的计算资源，这使得其成本相对较高。对于需要处理大量对话的企业来说，LLM的成本可能是一个巨大的负担。
面对这些挑战，企业在采用LLM时需要谨慎权衡其优势和风险，并采取相应的措施来缓解其负面影响。Rasa的CALM架构正是为了解决这些问题而设计的。
Rasa的CALM架构：融合LLM与传统对话式AI的创新方案
Rasa的CALM架构是一种混合方法，它将LLM的理解能力与传统对话式AI技术相结合，旨在构建可靠、可控且适用于客户服务领域的对话系统。CALM架构的核心思想是将对话系统分解为多个模块，每个模块负责不同的任务，并根据实际情况选择合适的模型或技术来实现。
1. 可组合性（Composable）： CALM架构允许将不同的模块组合在一起，以构建满足特定需求的对话系统。例如，一个对话系统可以包含一个LLM驱动的意图识别模块、一个基于规则的对话管理模块和一个基于检索的响应生成模块。这种可组合性使得企业可以根据自己的需求灵活地定制对话系统。
2. 自适应性（Adaptive）： CALM架构可以根据用户的行为和反馈进行自适应调整。例如，如果用户对某个响应不满意，系统可以自动调整响应生成策略，以提供更符合用户期望的答案。这种自适应性使得对话系统可以不断学习和改进，从而提高对话的质量和用户满意度。
3. 学习性（Learning）： CALM架构可以利用机器学习技术来不断学习和改进。例如，系统可以利用用户的对话数据来训练意图识别模型，从而提高意图识别的准确率。这种学习性使得对话系统可以不断适应新的场景和需求。
4. 模块化（Modular）： CALM架构将对话系统分解为多个模块，每个模块负责不同的任务。这种模块化设计使得系统更容易维护和扩展。例如，如果需要添加新的功能，只需要开发一个新的模块并将其集成到系统中即可。
通过CALM架构，Rasa能够有效地利用LLM的优势，同时避免其风险。例如，Rasa可以使用LLM来理解用户的意图，但使用基于规则的对话管理模块来控制对话的流程，从而避免LLM的幻觉和安全风险。
CALM架构的优势：可靠性、可控性和成本效益
CALM架构相比于纯LLM驱动的对话系统，具有以下显著优势：
1. 提高可靠性： CALM架构通过将LLM与传统对话式AI技术相结合，可以有效地降低幻觉的风险。例如，Rasa可以使用LLM来理解用户的意图，但使用知识库来验证LLM的输出，从而确保答案的准确性。
2. 增强可控性： CALM架构允许企业更好地控制对话的流程和内容。例如，Rasa可以使用基于规则的对话管理模块来控制对话的流程，从而确保对话不会偏离预设的路径。
3. 降低成本： CALM架构可以根据实际情况选择合适的模型或技术来实现不同的模块，从而降低成本。例如，Rasa可以使用LLM来处理复杂的意图识别任务，但使用基于检索的响应生成模块来处理简单的问答，从而降低LLM的使用成本。
4. 提升安全性： CALM架构可以通过限制LLM的访问权限和输入范围，来降低安全风险。例如，Rasa可以使用LLM来理解用户的意图，但禁止LLM访问敏感信息，从而防止信息泄露。
5. 加速部署： CALM架构的模块化设计使得企业可以快速构建和部署对话系统。企业可以根据自己的需求选择合适的模块，并将其组合在一起，从而快速构建满足特定需求的对话系统。
Rasa的实践案例：赋能企业级客户服务
Rasa的CALM架构已经在多个行业得到了应用，包括金融、保险、零售和医疗保健等。以下是一些典型的实践案例：
1. 金融行业： Rasa帮助银行构建智能客服系统，可以处理客户的账户查询、转账、贷款申请等业务。该系统使用LLM来理解客户的意图，但使用知识库来验证答案的准确性，从而确保客户获得可靠的信息。
2. 保险行业： Rasa帮助保险公司构建理赔助手，可以帮助客户提交理赔申请、查询理赔进度等。该系统使用基于规则的对话管理模块来控制理赔流程，从而确保理赔流程的规范性和效率。
3. 零售行业： Rasa帮助零售商构建购物助手，可以帮助客户查找商品、推荐商品、下单支付等。该系统使用LLM来理解客户的购物需求，但使用推荐算法来生成个性化的推荐，从而提高销售额。
4. 医疗保健行业： Rasa帮助医院构建预约挂号系统，可以帮助患者预约医生、查询报告、获取健康建议等。该系统使用LLM来理解患者的病情描述，但使用医学知识库来验证诊断结果，从而确保患者获得准确的医疗信息。
这些实践案例表明，Rasa的CALM架构可以有效地赋能企业级客户服务，提高客户满意度，降低运营成本，并提升业务效率。
展望未来：CALM架构的演进与对话式AI的未来
Rasa的CALM架构代表了对话式AI发展的一个重要方向，即融合LLM与传统对话式AI技术，构建可靠、可控且适用于企业级应用的对话系统。未来，CALM架构将继续演进，并与其他技术相结合，推动对话式AI的进一步发展。
1. 增强LLM的可解释性： 目前，LLM的决策过程仍然是一个黑盒子，这使得企业难以理解和信任LLM的输出。未来，Rasa将致力于增强LLM的可解释性，让企业可以更好地理解LLM的决策过程，从而提高对LLM的信任度。
2. 提高LLM的鲁棒性： LLM容易受到对抗性攻击，即通过构造特定的输入，诱导LLM产生错误的输出。未来，Rasa将致力于提高LLM的鲁棒性，使其能够抵御各种对抗性攻击。
3. 扩展CALM架构的应用场景： 目前，CALM架构主要应用于客户服务领域。未来，Rasa将致力于扩展CALM架构的应用场景，将其应用于更多的领域，例如教育、医疗和金融等。
4. 结合多模态数据： 未来，对话式AI将不仅仅局限于文本对话，还将结合语音、图像和视频等多模态数据。Rasa将致力于将CALM架构与多模态数据相结合，构建更加智能和自然的对话体验。
5. 实现真正的个性化对话： 未来，对话式AI将能够根据用户的个人信息、历史行为和偏好，提供真正个性化的对话体验。Rasa将致力于利用机器学习技术来实现真正的个性化对话，从而提高用户满意度。
总之，Rasa的CALM架构为企业级对话式AI的发展提供了一种新的思路和方法。通过融合LLM与传统对话式AI技术，CALM架构可以构建可靠、可控且适用于各种场景的对话系统。随着技术的不断发展，CALM架构将继续演进，并与其他技术相结合，推动对话式AI的进一步发展，为企业和用户带来更大的价值。
参考文献：
- 喝点 VC｜a16z 访谈 Rasa 创始人：我们没有幻觉的风险，没有提示注入和劫持等风险. BestBlogs.dev. https://bestblogs.dev/post/a16z-rasa
- Vaswani, A., Shazeer, N., Parmar, N., Uszkoreit, J., Jones, L., Gomez, A. N., … & Polosukhin, I. (2017). Attention is all you need. Advances in neural information processing systems, 30.
- Brown, T. B., Mann, B., Ryder, N., Subbiah, M., Kaplan, J., Dhariwal, P., … & Amodei, D. (2020). Language models are few-shot learners. Advances in neural information processing systems, 33, 1877-1901.
- Weidauer, A. (2023). The CALM framework for conversational AI. Rasa Blog. https://rasa.com/blog/calm-framework-conversational-ai/
Views: 3