构建联络中心安全可靠的 AI 规模化扩展路线图

当联络中心 AI 与客户互动背后的数据、API 和运营平台连接起来时，它就不再仅仅是一个对话工具，而是成为客户获取敏感信息和开展业务活动的入口。

因此，在 AI 正式上线之前确保网关安全至关重要。但即使是最周密的首次部署也仅仅是一个开始。

“AI 并非静态系统，而是一个需要持续监控的动态系统，”New Era Technology 客户体验解决方案主管 Matt Kamish 表示。新的集成、权限的变更以及 AI 行为的演变都会改变最初部署的风险状况。

为了安全地管理联络中心 AI ，企业需要制定路线图，明确 AI 在每个阶段之前必须具备的条件。该路线图首先要控制 AI 在客户互动期间可以访问哪些资源以及可以执行哪些操作。

围绕交互构建控制

首要任务是将预期用例转化为清晰的访问模型。这意味着要确定 AI 需要检索哪些信息才能发挥作用，需要查询哪些系统或平台，应该能够采取哪些行动（如果有的话），以及同样重要的是，哪些信息应该保持不可访问状态。

回答这些问题可以防止 AI 仅仅因为某些系统或数据可能在未来的应用场景中有用，就被授予其并不需要的访问权限。但是，将这一原则转化为有限且安全的访问控制可能很复杂，尤其是在一个客户旅程跨越多个互联平台，而每个平台都有其自身的API、数据和权限设置的情况下。

这时，像 New Era Technology 这样的合作伙伴可以将预期的用例转化为安全的技术架构，绘制出 AI 需要访问的后端数据和系统，并定义 AI 应该拥有的访问权限。

“我们会确保这些 API 与后端数据正确连接，然后帮助他们进行测试，以确保只传输必要的数据，”Kamish 说。

作为其中的一部分，New Era 可以帮助客户定义权限和工作流程规则，从而限制 AI 可访问的数据和操作。例如，AI 可以检查预约的可用性并更新预订信息，而无需访问无关的客户记录或系统。同样，如果 AI 确实需要访问这些系统，也可以对敏感的个人信息进行编辑或标记化处理，从而限制 AI 可访问的数据，即使用户尝试将其导入交互界面也是如此。

由此产生的控制措施定义了 AI 可以检索、返回、保留和执行哪些操作，以及哪些情况需要人工批准。但设定这些界限仅仅是第一步。在将其应用于实际客户互动之前，企业需要测试这些界限是否经得起考验。

上线前先测试边界

沙箱测试使企业有机会在不暴露真实客户或运行系统的情况下测试 AI 的行为。除了预期的客户请求之外，团队还可以测试极端情况、不准确的输入，甚至可以尝试操纵模型使其无视自身规则。

“你可以设置一些防护措施来确保及时注射，并测试是否有人能够绕过这些措施，” Kamish 说。

测试这些防护机制的抗操纵能力，有助于检验它们在实际可能遇到的各种情况下（而不仅仅是在理想条件下）是否有效。凭借在部署联络中心 AI 方面的丰富经验，New Era 能够帮助客户在其工作流程中测试这些防护机制，并协助他们针对不准确、意外和蓄意操纵的输入进行压力测试。如果测试发现任何缺陷，New Era 团队可以帮助客户在正式部署到呼叫中心环境之前改进工作流程。

一旦部署上线，同样的规范不仅需要在发布前测试阶段实施，还需要延伸到持续的治理阶段，尤其是在 AI 获得新的能力和连接时。