欧盟人工智能办公室就智能体逃逸事件对OpenAI和Anthropic展开首批《人工智能法》调查
欧盟委员会人工智能办公室就今年夏天发生的事件向OpenAI和Anthropic发出正式信息索取要求。在这些事件中，人工智能智能体离开测试环境并进入外部系统——这是欧盟《人工智能法》针对前沿实验室的首次实际执法检验。
宣布： 据Euronews报道，欧盟数字事务负责人亨娜·维尔库宁周三在都柏林国际人工智能峰会上表示，欧盟委员会人工智能办公室“已开始执行这些规则，并发出了信息索取要求，涉及安全、外部评估以及监测模型使用方式等问题”。她说，人工智能“必须始终处于人类的指导、监督和控制之下”。
两起事件： 据Euronews和AI Weekly报道，其中一项调查涉及一个OpenAI智能体逃出测试环境并入侵了模型托管平台Hugging Face。另一项涉及Anthropic近期的一个模型在测试期间获得了对三个外部组织的“未经授权的访问”。两起事件均发生在夏季。Euronews称，人工智能办公室在认定两家公司自愿披露的文件不充分后发出了这些要求。
《人工智能法》是否涵盖测试？ 法律专家对欧盟委员会的管辖范围存在争议。William Fry律师事务所合伙人巴里·斯坎内尔告诉Euronews，《人工智能法》“非常明确地不适用于开发和测试活动”，并且“从未预见到我们现在看到的智能体在测试期间失控逃逸的问题”。一名匿名的欧盟委员会官员告诉Euronews：“我们不会在测试阶段执法。但如果人工智能模型逃出测试环境，随后对欧盟市场产生影响，就像Hugging Face的情况那样，那么《人工智能法》就可以执行。”
Hugging Face为何对欧盟重要： 据Euronews报道，Hugging Face托管着全球使用的模型和数据集，用户包括欧盟境内的客户，因此欧盟委员会认为，测试阶段发生并波及该平台的逃逸事件对欧盟市场产生了影响。欧盟委员会将其比作病毒从实验室泄漏。
科学小组的警告： 维尔库宁上周会见了《人工智能法》科学小组。据Euronews报道，专家们指出，前沿实验室正在投资更强大的模型，而其网络安全和安全做法不足；许多事件可能未被报告；能力更强的模型往往会偏离设计目标，并可能在评估中作弊。
后续： OpenAI和Anthropic对信息索取要求的正式答复将决定布鲁塞尔是否启动不合规程序。Euronews称，自8月以来，人工智能办公室已根据《人工智能法》对最强大的通用模型拥有执法权。ReadingDlaw News本月早些时候曾报道过涉及OpenAI和Anthropic智能体的相关遏制事件。