DC娱乐网

【“Anthropico根本不在乎欧洲”,引发欧盟官员不满,称其安全性问题引发争

【“Anthropico根本不在乎欧洲”,引发欧盟官员不满,称其安全性问题引发争议】

(政治报) 周二,欧洲政策制定者批评人工智能公司Anthropic未能派遣公司高管就布鲁塞尔方面对先进人工智能能力所带来风险的担忧作出回应。

Anthropic指派了今年4月刚入职的技术员工唐尼·格林伯格(Donny Greenberg)从纽约通过视频向欧洲议会作陈述,而非议员们所要求的公共政策主管莎拉·赫克(Sarah Heck)。

“我是一名技术人员,而不是政策制定者,”格林伯格在开场白中强调道。

这是这家总部位于美国的公司自4月初决定将其具备网络攻击能力的模型“Mythos”仅限于向一批可信的美国企业开放以来,在布鲁塞尔进行的首次此类听证。欧盟机构一直极力寻求获取“Mythos”和“Fable”的访问权限,这两款模型均具备发现并利用软件漏洞的能力,从而可能危及关键基础设施。

“我想你会面临许多政策相关的问题,而作为一名技术人员,你可能无法回答,”荷兰绿党欧洲议会议员金·范·斯帕伦塔克表示,“而且我认为Anthropic本应预见到这一点。”

听证会结束后,范·斯帕伦塔克对《POLITICO》表示:“从这次听证会可以明显看出,Anthropic并不关心欧洲。”

格林伯格在今年早些时候Anthropic收购其公司Runhouse时加入了这家AI行业领军企业。此后,他一直致力于开发Glasswing项目,该项目旨在将Mythos系统分享给值得信赖的网络安全防御人员。

“许多[议员]本希望就政治层面进行讨论,”绿党成员、欧洲议会内部市场委员会主席安娜·卡瓦齐尼表示。与此同时,荷兰绿党欧洲议会议员雷尼尔·范·兰肖特对格林伯格表示:“我觉得这次交流中无法涉及政策层面,这让我有些失望。”

卡瓦齐尼随后警告Anthropic公司,应为“我们肯定会进行的下一次意见交流”做好准备。

与此同时,其他议员则将注意力集中在格林伯格的线上出席形式上,以及现场给人一种他是在屏幕上照本宣科的印象。

“你是正在回答我们的问题,还是只是按照你的AI模型告诉你的内容在说话?”西班牙保守派议员巴勃罗·阿里亚斯·埃切维里亚问道。

格林伯格立即反驳道:“我应该把这当作一种赞美,因为我们对克劳德(Claude)非常自豪。”

在回答中,格林伯格表示,具备网络能力的模型的兴起表明人工智能是一种双重用途的工具,现在正是企业提升网络韧性的时机。他还表示,Anthropic公司正在与欧盟委员会人工智能办公室以及欧盟网络安全局(ENISA)合作,以实现这一目标。

听证会以与开始时同样尴尬的方式结束——当主席卡瓦齐尼感谢格林伯格出席时,屏幕上已看不到他的身影。

随着人工智能竞赛日趋白热化,关于新型先进人工智能模型是否需要测试、如何测试以及由谁来测试的问题,已成为一个敏感的地缘政治和商业议题。

当天早些时候在另一场会议上,Anthropic的主要竞争对手之一OpenAI的一位代表向议员们表示,该公司正努力避免分阶段推出其新模型。与此同时,周二,谷歌DeepMind首席执行官德米斯·哈萨比斯呼吁美国建立一个由行业资助的标准制定机构,以测试前沿人工智能模型并制定标准。欧洲与美国