联合国数字技术机构国际电信联盟（ITU）宣布了一项新倡议，旨在制定可信数字身份框架，并确保 AI 代理在其整个生命周期内保持可信且可问责的行为。
在“AI 造福人类全球峰会”上宣布成立的ITU“人类与代理型 AI 信任与身份专题小组”，正值 AI 迅速发展，已超越辅助工具的范畴，日益演变为代表人类行事的自主代理。
尽管 agentic AI 有望大幅提升生产力，但也带来了新的风险，例如自主代理冒充个人或组织，以及在互联系统中执行未经授权的操作。ITU 重点小组将通过开发相关框架来应对这些挑战，从而在执行金融交易和运营关键基础设施等任务中保留有效的人为控制权。
国际电信联盟秘书长 Doreen Bogdan-Martin 表示：“AI 的未来取决于信任。随着 AI 变得越来越自主，我们需要产业界、政府、学术界和民间社会携手合作，以确保人们对 AI 系统拥有尽可能高的信任度。”
随着 AI 系统规划和行动越来越独立，确定代理的身份及其行为是否可信变得至关重要。
AI 代理越来越需要相互识别和验证身份。同样重要的是，它们的决策和行为必须保持可问责、可控和值得信赖。
身份系统确定行为者的身份，而可信度系统则决定行为者是否可靠。二者共同为人类与自主 AI 系统之间的安全交互奠定了基础。
焦点小组将探讨人类和 AI 代理的信任管理挑战、AI 代理系统的整体可信度，以及如何在保持对其行为的控制权的同时，增强人们对 AI 代理行为的信心。
“AI 代理很快就会代表我们进行谈判、交易和决策，”焦点小组联合主席 Debora Comparin 表示。“在这一未来成为现实之前，我们需要建立共同的国际基础，明确这些代理的身份、何时可以信任它们，以及如何确保人们始终拥有控制权。这正是本焦点小组成立的初衷。”
联合主席 Amir Banifatemi 补充道：“Agentic AI引入了一类新型的数字主体，它们将越来越多地与人类以及彼此协作。身份信息告诉我们谁在行动，而可信度信息则告诉我们该主体可以预期如何行事。将这两者结合起来，就为在全球范围内构建可互操作、可问责且值得信赖的 AI 系统奠定了共同的基础。”
该小组欢迎技术专家以及政策、法律和监管领域的专家参与，共同制定以下方案：
- 常用术语和定义；
- 身份、信任、代理发现和互操作性的参考架构；
- 信任框架和生命周期（保障）模型；
- 数字身份和凭证的互操作机制；
- AI 代理持续评估的安全标准和基准；以及，
- 制定标准化路线图，以协调各专家群体之间的行动。
焦点小组将向国际电信联盟安全标准专家组（ITU-T 第 17 研究组）报告。
“我们正以战略性和速度推进，但同时也在谨慎地打好基础，”第17研究小组主席 Arnaud Taddei 表示。“我们清楚发展方向，也大致了解我们想要构建什么。我们现在正在组建合适的领导团队和组织架构，而‘人工智能向善’项目正是我们与有意加入我们的合作伙伴会面的平台。”
该小组的联合主席将与一个更大的领导团队共同组成，该团队将在广泛磋商后于未来几周内最终确定。该小组面向所有感兴趣的专家开放，将于2026年11月在巴黎举行第一次会议，并于2027年1月在日内瓦举行第二次会议。
国际电信联盟 (ITU) 的焦点小组有助于加快制定新的全球标准，并已被广泛用于跟上快速发展的 AI 领域的步伐。
国际电信联盟电信标准化局局长 Seizo Onoe 表示：“我们在制定国际电联标准过程中达成的共识，为新的创新生态系统的发展提供了所需的清晰度。这个焦点小组是一个开放的平台，旨在帮助所有人充满信心和确定性地向前迈进。”
本文来自作者投稿，版权归原作者所有。如需转载，请注明出处：https://www.nxrte.com/zixun/69727.html
