《经济学人》称,Anthropic 是一个带有邪教色彩的组织,正在和美国政府争夺 超级人工智能的控制权。
它有自己的教皇式人物。
创始人达里奥经常发表关于 AI 风险和未来发展的长篇文章,不断阐述自己对 AI 的理解,以及这项技术应该朝什么方向发展。
它也有自己的信徒。
许多员工坚信 AGI 终将到来,相信自己正在参与一项改变人类历史的事业,即使超级智能未来可能取代很多人的工作,他们依然愿意继续推动它的发展。
它还有修道院式的公司气质。
相比增长,营销和市场份额,公司内部更关注伦理,价值观,人类未来,以及超级智能可能带来的风险。
围绕 AGI,Anthropic 建立了一整套价值观,安全原则和行为准则。
它的教义,是 AI 安全。
Anthropic 不只是开发模型,还长期强调,强大的 AI 必须受到约束,需要护栏,审核和监管,不能毫无保留地向所有人开放。
它甚至带有某种道德守护者的色彩。
除了开发 AI,Anthropic 还不断讨论什么能力应该开放,什么风险必须被限制,以及这项技术应该如何影响社会。
Anthropic 一直坚定的认为自己是在保护人类,但美国政府不可能让一家私人公司自己决定超级人工智能该怎么开放。
Mythos 和 Fable 5 的突然下线,本质上就是这场控制权争夺的第一次公开爆发。
