为现代统一通信平台构建人工智能治理策略

人工智能在统一通信和协作工具中的快速发展，对组织传统的治理方式提出了挑战。随着智能体人工智能、人工智能助手和其他功能日益融入统一通信系统，组织必须采用新的治理策略，以保障数据主权、进行实时监控并建立其他安全防护措施。

生成式人工智能 ( GenAI ) 安全已成为通信和协作治理的关键组成部分。Metrigy 对 305 家机构开展的《2026 年工作场所协作和联络中心研究》显示，在目前已制定或计划于 2026 年底前制定治理计划的机构中，近80% 的机构将 GenAI 列为第二重要的组成部分。其他与人工智能相关的关键组成部分包括数据丢失防护以及人工智能机器人和代理的安全保障。

随着人工智能渗透到统一通信的各个方面，各组织必须确保其治理和合规政策与时俱进，以最大限度地降低风险。IT 领导者面临的主要挑战包括以下几点：

对会议资料（如录音、文字记录和摘要）进行适当的内容控制。
对人工智能创建的内容（例如文档和视频）进行治理控制。
利用人工智能虚拟助手保留内部和面向客户的对话。
捕获人工智能代理活动。
数据本地化和主权控制。
模型训练控制。
支持客户数据删除。

统一通信的关键人工智能治理策略

应对治理挑战需要采取积极主动的方式，确保组织能够充分利用人工智能的优势，同时避免不必要的风险。事实上，Metrigy 的研究表明，制定了人工智能治理策略的组织，其统一通信投资获得高于平均水平的投资回报率的可能性高出 58%。

没有主动安全模型的公司可能会选择阻止人工智能，从而造成更大的风险，因为员工会被迫模仿人工智能以获得预期的好处。

有效的AI治理策略通常包括以下内容：

对人工智能内容和代理行为进行人工审核，尤其是在涉及敏感数据的情况下。人工审核虽然难以大规模应用，但当数据丢失或泄露使公司及其客户数据面临风险时，人工审核仍然是必不可少的。
确保人工智能模型中数据使用方式的透明度。这可能包括模型如何使用内部数据，以及人工智能工具如何使用连接器，例如 MCP 服务器和代理间连接器。
识别和缓解人工智能模型中的偏差。偏差数据以多种形式存在，例如抽样偏差、排除偏差和确认偏差。内容生成和智能体决策可能会进一步加剧模型偏差。
合理运用数据分类和共享控制措施，确保人工智能生成的内容符合数据访问限制。例如，仅允许会议参与者访问会议记录和摘要。
人工智能生成内容的数据保留。这可能包括自动销毁设置和电子取证支持。
采取适当的数据驻留控制措施，以符合适用的当地法律。这可能包括屏蔽或删除个人身份信息 (PII)，以及制定政策以允许使用数据，例如通话录音。
安全控制措施可防止威胁，包括即时注入攻击、未经授权的应用程序和数据投毒企图。
对第三方供应商进行审计，以评估其治理政策和客户数据使用情况。
对智能体人工智能和自主人工智能代理进行主动测试，以确保数据管理和准确性。

建立有效的治理政策需要IT、业务、安全和合规负责人之间的密切协调。Metrigy的研究表明，最成功的公司都拥有深度参与人工智能治理的首席信息安全官/首席安全官/IT安全团队，而最不成功的公司则仅仅依赖应用程序所有者来管理治理。

最后，各组织应评估人工智能作为确保治理的工具的可行性。越来越多的统一通信软件提供商和管理供应商正在利用人工智能实现策略违规检测的自动化，并采取相应的缓解措施。人工智能不仅是提升统一通信和协作的工具，还能增强治理管理。