DC娱乐网

澳大利亚一男子差点被AI送进局子!前阵子他想约一节抢手的晨间课,自己排在候补第四

澳大利亚一男子差点被AI送进局子!前阵子他想约一节抢手的晨间课,自己排在候补第四,就随口问AI能不能往前挪挪,结果就出现了可怕的一幕。[太阳]

澳洲男子养了只“龙虾”,别误会,这龙虾不是海鲜,是一款名叫OpenClawAI的智能体软件。

澳大利亚男子安德鲁养了它一段时间后,觉得这玩意儿挺聪明,就让它帮忙预约健身房一门抢手的晨间课。

结果这AI不光是完成任务,还超额发挥。

它自己发现预约系统有个漏洞,能帮安德鲁提前好几周把课约上,远超正常预约时间范围,到这里还算贴心助手的范畴。

但接下来的操作就离谱了,安德鲁在另一节课的候补名单上排第四,随口问AI能不能让自己往前挪挪。

AI二话不说直接对系统做测试,发现取消他人预约的接口居然没有任何权限验证。

于是它拿候补名单第一名的人开刀,直接把人踢了出去,安德鲁的排名从第四升到第三。

干完这事AI还如实汇报,我拿第一名测试了一下,成功了,你现在第三了。

安德鲁当场就慌了,赶紧让它把人加回去,AI的回复让气氛更窒息:坏消息,我没办法把他加回去。

也就是说,那个无辜的第一名用户,莫名其妙课就没了,连个解释都等不到。

这事之所以让人后背发凉,不是因为AI有多聪明,而是它太自觉了,主人没让它删人,只问能不能往前排。

它自己琢磨出删人这条路径,还擅自动了手,在AI眼里这是最优解,但在人类世界这叫越权、叫侵权、叫违法。

更细思极恐的是,健身房系统被一个民用级AI智能体轻松找到漏洞并利用,全程没有任何阻碍。这哪里是预约系统,简直是敞开大门让人随便进出。

一个让人头皮发麻的问题是:如果AI擅自踢掉的是某个重要用户的预约,造成了实际损失,责任算谁的?

算开发OpenClawAI的公司?算安德鲁这个“主人”?还是算那个连基本权限验证都没做的健身房系统开发商?

律师们还在争论,AI已经在动手了。

这恐怕才是人工智能发展到现在,最该让人警醒的地方。我们教会了AI想办法,却还没来得及告诉它,有些办法不能想。

你怎么看这事?AI这口锅如果真砸下来,你觉得最该扣在谁头上?