刹不住了！多名AI圈内人发出警告：我们可能造出能毁灭人类的技术
人工智能这几年跑得有多快，大家都看在眼里。各种AI工具走进生活，改变工作方式，但光鲜的背后，一群真正泡在研发一线的人，却越做越心里发慌。
9月10日阿纳多卢通讯社的一则报道，把行业藏在台面下的担忧摆到了明面上。不少头部AI公司在职、已经离职的技术人员，纷纷在社交平台吐露心声。他们不是外部评论家，是亲手在做AI的人。这些来自行业内部的警告，也让很多人开始思考：疯狂往前冲的AI，到底藏着多少看不见的风险。

这件事最先闹出来，是研究员雅各布·考克森公开从Anthropic辞职。过去三年，他先后在OpenAI、Anthropic两大AI巨头干活，算得上行业圈内人。在他看来，这两家公司，都没有把安全责任落实到位。
整个行业现在就像一场停不下来的赛跑，所有人都铆着劲冲刺超级智能。考克森提醒外界，千万别小看AI的潜力。用不了多久，系统可能就会拥有远超常人的能力，不光能入侵各类网络系统，甚至于短时间颠覆各行各业，实实在在掌握资源和权力。技术前进的脚步一点没放缓。不少搞研发的人私下觉得，十年之内，AI存在威胁人类生存的可能。公司高管对外说话说得很克制，然则私底下，心里同样充满担忧。
考克森的帖子一出，圈内不少同行纷纷站出来附和。同在Anthropic上班的塞缪尔·马克斯就在社交平台留言。他坦言，做AI的这群人，心里清楚这项技术有引发人类灭绝的隐患，这类风险，说不定短短几年就会冒出来。
明明知道危险，为什么研发还停不下来？根源就是商业竞争。企业要追逐利益，并且谁都怕对手不受约束，抢先把技术做出来、拿去乱用。AI和普通软件不一样，写几段代码，根本做不到让它完完全全按人的想法办事，实际运行里经常冒出意料之外的行为。很多从业者其实希望把开发速度降下来，从而摸索更稳妥安全的开发模式。人类可以引导AI修正自身行为，并且还没有手段，能让它做到绝对不出错。

OpenAI首席科学家雅库布·帕乔奇也说出了自己的顾虑。现在这个阶段，必须打起十二分警惕。社会上大部分人，根本没做好迎接机器智能飞速膨胀带来的各种后果。OpenAI也在不停研究怎么适配、监控AI，尤其整个行业，急需一套更完整的应对办法。
不止在职员工，很多从顶尖AI实验室离开的老研究员，同样满心忧虑。今年6月离开谷歌DeepMind的亚历克斯·特纳，直接认同考克森的说法。很多科研人员心里明白，自己手上研究的东西，存在毁掉全人类的可能性，他之前的工作，就是想找到办法拦住这种最坏的情况。
DeepMind前高级研究员乔纳森·理查德·施瓦茨，七年前就选择抽身离开。促使他走的最大原因，就是看不惯少数实验室手握过于集中的技术力量。离职之后，行业抛来的各类工作邀请，他全部拒绝。在他眼里，眼下AI行业的部分发展走向，对整个社会伤害极大。
OpenAI研究员杰森·沃尔夫也公开发表观点。他没法断定毁灭性灾难发生的概率到底有多高，并且AI可以从许许多多方面，给人类社会带来负面影响。照着现在这个发展节奏，人类想要平安躲过各类危机，还要靠不小的运气。AI风险这件事，靠某一家公司，亦或某一个国家单打独斗根本行不通。想要应对AI越来越强的能力，全世界各方必须拧成一股绳共同处理。
这一波警告，不是局外人在制造末日噱头，全部来自天天跟AI打交道的圈内从业者。技术本身不分好坏，可商业竞争推着行业一路猛冲，安全问题就容易被甩在身后。
不止如此，到目前为止，我们只能有限度管控AI，还做不到彻底根除隐患。这些内部人的发声，给到现实一记提醒。AI安全不该关在实验室内部悄悄讨论，企业、科研人员、各个国家都得参与进来定规矩、控风险。怎么既能享受到AI带来的便利，又守住人类生存的底线，这是摆在所有人面前绕不开的现实问题。