渥太华云主机,日喀则云电脑_
近日,北京迎来了一项重要科技事件的诞生——国内首个专注于智能体安全生态的协作组织“IIFAA智能体可信互连工作组”正式宣告成立。该工作组旨在应对智能体技术迅猛发展所带来的安全协作挑战,推动行业共同制定跨智能体交互的安全技术规范,构建一个开放、合作、共赢的智能体生态。
这一工作组由IIFAA互联网可信认证联盟发起,该联盟自2015年成立以来,已在可信身份认证等领域取得了显著成果,并拥有超过300家成员单位。此次工作组的成立,标志着IIFAA在智能体安全领域的进一步拓展和深化。
近年来,随着AI智能体生态的搭建成为科技行业的重要战略布局,手机厂商、大模型及应用开发商等纷纷推出智能体产品,如“AI管家”等,这些产品允许用户通过自然语言与设备或应用进行交互,实现诸如订票、点餐、打车等便捷操作。苹果、荣耀、vivo等手机厂商推出的系统智能体,以及蚂蚁集团的“支小宝”、智谱AI的AutoGLM等AI智能体产品,都是这一领域的典型代表。
然而,随着多个智能体协同工作为用户提供更丰富功能的同时,也带来了安全上的挑战。信通院泰尔终端实验室信息安全部副主任傅山指出,用户的一条指令往往涉及多个智能体产品,而智能体之间的打通并不容易。如何在端上实现多智能体间的可信互连,成为智能体发展中亟待解决的问题。目前,行业仍处于初期阶段,新技术在带来便利的同时,也隐藏着安全风险。
IIFAA联盟秘书长郑亮强调,智能体之间的服务互联需要完成用户指令,这涉及到意图数据的共享传递和复杂任务拆解等流程。在没有规范约束的情况下,这些流程容易出现乱象。事实上,即使在多智能体发展的早期阶段,已经出现了诸多问题。因此,工作组的存在显得尤为必要,旨在推动智能体之间的开放协作,并共建安全互信的行业规范。
工作组的成员涵盖了手机终端厂商、硬件厂商、应用开发商以及相关监管机构等多方力量。作为成员单位之一,智谱AI CEO张鹏表示,智谱非常注重技术安全和治理的同步发展,成立智能体行业组织对于避免由于缺乏统一标准而可能导致的恶意攻击、隐私侵犯等安全隐患具有重要意义,有助于促进整个行业的健康发展。
蚂蚁集团副总裁李俊奎也表达了对工作组的支持。他认为,创新与开放是蚂蚁持续发展的基石,工作组将推动智能体技术在各个应用场景中的广泛普及与信任建立,让AI更安全地服务于用户和行业。
工作组技术总监张璇介绍,接下来,工作组将围绕智能体可信认证、服务可信调用、数据可信流转、用户隐私与权益保护等方向,建设智能体可信互连行业规范,推动行业安全、健康发展。