山姆·奥特曼警告说,人工智能给人类带来了“灭绝的风险”,他也是一个“末日预言家”

国际热点作者 / 花爷 / 2025-01-13 23:45
"
      OpenAI的老板萨姆·奥特曼(Sam Altman)承认自己是一个末日预言家,他曾吹嘘自己藏有枪支、黄金和其他生存用品——早

  

  

  OpenAI的老板萨姆·奥特曼(Sam Altman)承认自己是一个末日预言家,他曾吹嘘自己藏有枪支、黄金和其他生存用品——早在他和其他专家警告人工智能对人类构成与核武器和流行病一样的“灭绝风险”之前。

  2016年,《纽约客》(New Yorker)刊登了一篇关于奥尔特曼的简介,讲述了他对两位科技企业家的一次谈话,他告诉他们,除了收集汽车和驾驶飞机之外,他的爱好之一是为灾难发生时的“生存”做准备——比如致命的合成病毒或“攻击我们”的人工智能的出现。

  据报道,奥特曼说:“我尽量不去想太多。“但我有枪、黄金、碘化钾、抗生素、电池、水、以色列国防军的防毒面具,还有大苏尔的一大片土地,我可以飞过去。”

  今年4月,这位OpenAI高管在播客节目《与巴里·魏斯坦诚相见》(honest with Bari Weiss)上露面时,淡化了自己过去的言论。他告诉记者,他并不是“我认为的那种”末日预言家。

  “这就像一个有趣的爱好,但没有别的事可做。如果(通用人工智能)出了问题,这些都帮不了你,但这就像一种有趣的爱好,”奥特曼说。

  《华盛顿邮报》已联系OpenAI请其置评。

  Sam Altman

  奥特曼关于人工智能出了问题的末日预言在硅谷很常见,近年来,越来越多的科技界亿万富翁将资金投入到远程掩体等后末日应急计划中。

  其中一些人,如彼得·蒂尔和谷歌联合创始人拉里·佩奇,已经在新西兰抢购了土地。同一份《纽约客》简介还透露,奥特曼的“后备计划”是,如果新西兰崩溃,他就和蒂尔一起飞往新西兰。

  对科技痴迷于“终结者”式未来的批评人士,如《富人的生存:科技亿万富翁的逃脱幻想》一书的作者道格拉斯·拉什科夫,对最近的人工智能恐慌持怀疑态度。

  AI

  他们认为,科技行业对潜在世界末日的警告是一种方便的转移人们对更紧迫问题的注意力的方式,也是一种确保在制定监管方面占有一席之地的方式,这些监管将提高潜在人工智能竞争对手的进入门槛。

  拉什科夫补充说,这也是奥特曼和其他领跑者宣传他们在实现人工通用智能或具有人类能力的系统方面取得进展的一种方式,而目前像ChatGPT这样的服务实际上只是被“训练”来反刍信息。

  拉什科夫告诉《华盛顿邮报》:“大规模的科技兄弟生存恐慌的真正问题在于,它往往会让他们忽视,甚至加剧目前正在发生的问题。”

  “他们把注意力集中在《终结者》(Terminator)最后的噩梦上,对我来说,这是一种转移注意力的方式,让他们不去关注他们对我们构成的非常真实和现实的危险,”他补充说。“人工智能不会在虚构的未来引爆核弹。这就是他们此时此刻正在做的事情。”

  尽管如此,对一些公司来说,迎合偏执的科技兄弟已经成为一项有利可图的业务——包括德克萨斯州的掩体制造商Rising S,该公司建造掩体并将其安装在客户喜欢的目的地。

  Rising S

  据在Rising S担任了20年总经理的加里·林奇(Gary Lynch)说,每年售出大约20到40个地堡,具体取决于地堡的大小和复杂程度。该公司列出的价格从最小型号的4.9万美元到被称为“贵族”的装饰掩体的960多万美元不等。

  林奇在接受《华盛顿邮报》采访时表示:“我向科技行业的人卖了很多东西。”他指出,在新冠肺炎大流行期间,硅谷和纳帕的客户销售激增。“似乎我们卖出的每个地堡都要在那里用三年左右。”

  林奇说,科技行业的客户通常会购买2000平方英尺或更大的“大型模型”地堡,配备保龄球馆、游泳池、热水浴缸和生物识别入口等设施。

  Rising S

  林奇说,他的买家中没有一个特别提到人工智能是他们购买的原因,尽管他指出,客户“害怕听起来很古怪”而隐瞒自己的想法并不罕见。

  约翰·雷米是一位资深硅谷企业家,也是灾难准备博客the Prepared的创始人,他个人不同意“人工智能将成为邪恶天网的默认假设”——但他为奥特曼和其他认为有必要指出这种可能性的人提供了辩护。

  雷米告诉《华盛顿邮报》:“看到先进的计算是不可避免的,看到由此产生的可预见的问题,看到为这些问题做准备需要做什么,这就是为什么硅谷人群中有不成比例的准备者。”

  奥特曼并不是唯一一个警告人工智能发展不受控制可能带来厄运的专家。本月早些时候,埃隆·马斯克(Elon Musk)表示,他认为人工智能在未来有“终结者”的风险——此前他曾表示,他计划在火星上建立一个可持续的殖民地,这是人类在灾难发生时长期生存的关键。

  Sam Altman

  谷歌前老板埃里克·施密特警告说,人工智能对人类来说是一种“生存风险”,可能会导致“很多、很多、很多、很多人受到伤害或死亡”。

  本月早些时候,奥特曼在参议院一个小组委员会作证时也暗示了他的担忧,宣称他最担心的是先进的人工智能将“对世界造成重大伤害”。

分享到
声明:本文为用户投稿或编译自英文资料,不代表本站观点和立场,转载时请务必注明文章作者和来源,不尊重原创的行为将受到本站的追责;转载稿件或作者投稿可能会经编辑修改或者补充,有异议可投诉至本站。

热文导读