试点成功了，但正式部署却失败了。对大多数企业而言，区别在于他们没有预料到的一点：语音层。
构建语音AI代理从未如此简单。语言学习模型（LLM）、文本转语音和语音转文本技术已经发展成熟，几天之内就能完成令人信服的概念验证。问题在于下一步该怎么做。生成式AI并没有加速将该代理连接到真实的电话基础设施、后端系统和人工升级工作流程。这项工作仍然十分艰巨，而这正是差距所在。
AudioCodes 的产品副总裁 Yehuda Herscovici已经多次目睹了这种情况的发生：
“设计和开发一款功能强大的语音AI代理、启动试点项目和进行概念验证几乎变得轻而易举。但是，一旦你对开发的语音AI代理感到满意，就需要将其投入生产。这时，你需要将其与后端系统、知识库和电话系统集成起来。”
合规性工作、电话系统集成、升级机制设计：这些工作都不会因为生命周期管理（LLM）的改进而加快进度。部署停滞不前并非因为人工智能（AI）失败，而是因为围绕它的其他所有环节都尚未准备就绪。
电话系统集成比看起来要难得多
在试点阶段，您只需配置一个电话号码并在隔离环境中进行测试。而在生产环境中，您需要将系统与企业现有的系统集成：SIP 中继、本地部署的呼叫中心、统一通信平台等等，所有这些都基于 VoIP 协议构建，但实现方式却各不相同。语音 AI 技术栈则处于完全不同的架构环境中。
AudioCodes 产品管理总监 Ilan Avner表示：“要在这两个世界之间架起桥梁，还要大规模地实现，同时还要保证良好的语音质量和冗余性，这非常困难。”
对于正在迁移过程中、同时运行本地基础设施并向云平台过渡的企业而言，问题更加复杂。大多数企业直到已经投入使用语音 AI 技术后才意识到，他们在语音 AI 方面的投资可能无法经受住迁移的考验。
语音层在失效前是不可见的
有一个基础设施问题，只有在导致部署失败时才会被提及。如果传输层的音频质量差，构建在其上的AI堆栈就会失效。一旦发生这种情况，责任就会落到AI身上。
“如果在传输和基础设施层面上，你没有为语音 AI 代理提供高质量的语音，它就会失败。如果它运行良好，没人会谈论它。但如果它失败了，每个人都会责怪 AI，并说它还没有准备好投入使用。”
Herscovici 用电力作比喻：数据中心可以达到世界一流水平，但如果没有可靠的电力供应，一切都无法运行。传输层的噪声过滤、延迟控制和语音清晰度并非锦上添花，而是基础。AudioCodes 将 30 年的 VoIP 基础设施经验应用于这一层，而这正是 Live Hub 和 Voice AI Connect 定位的核心所在。
规模是大多数部署真正失败的原因
在五到十个并发会话时不易察觉的问题，在数百个会话时会变得至关重要。电话通道达到极限。语音转文本引擎开始间歇性故障。LLM 响应时间在高负载下变慢。编排层成为瓶颈。每个组件都有其极限，而生产规模会暴露出所有这些极限。
“如果你问语音 AI 部署的瓶颈在哪里，那肯定不在试点阶段，而在于规模化和高可用性。”
AudioCodes 的部署支持数万个并发会话，Herscovici 认为这使其成为全球规模最大的语音 AI 部署之一。在如此庞大的规模下，地理冗余和无缝故障转移并非可有可无，而是必须从一开始就纳入设计考量的工程要求，而不是在系统上线后进行后期改造。
固守当今技术本身就是一种风险
如今被认为是业内最佳的自动语音识别 (ASR) 和文本转语音 (TTS) 提供商，可能在十二个月后就不再是最佳选择。语言学习管理 (LLM) 的价格和性能变化周期很短。如果部署架构在任何层面上都围绕单一提供商构建，那么就很难应对这些变化，或者在更好的选择出现时不得不重新构建。
“选择目前最好的技术固然重要，但更重要的是能够保护你的工作成果，并随着技术的演进、新的技术供应商的出现，或者当可以选择延迟更低或成本更低的技术时，能够及时更换这些组件。”
AudioCodes Live Hub 的核心设计原则之一是在整个技术栈的每一层都保持与供应商无关。
上线前需要验证哪些内容
Avner 和 Herscovici 指出，企业在投入生产之前，往往在以下几个方面缺乏测试：
- 电话系统集成深度。 已使用您实际的系统架构进行测试，而非预先配置的测试号码。
- 并发限制。 每个组件，包括 ASR、TTS、LLM、编排器和语音基础设施，都经过负载测试，直至达到性能开始下降的阈值。
- 负载下的延迟。 量产规模下的限制因素是什么，而不是试生产规模下的限制因素。
- 冗余和故障转移。 当TTS或STT提供商无响应时，系统会采取什么措施。
- 提供商灵活性。 无论是 ASR、TTS 还是 LLM 提供商，都无需重新部署即可进行更换。
- 云迁移的连续性。 这项投资能否在未来从本地部署迁移到云端呼叫中心基础设施的过程中继续发挥作用。
将语音AI投入生产的企业未必拥有最好的AI技术，而是那些像重视模型层一样重视基础设施层的企业。
本文来自作者投稿，版权归原作者所有。如需转载，请注明出处：https://www.nxrte.com/zixun/67755.html
