我们是否正在朝着人工智能灾难奔跑?

我们是否正在朝着人工智能灾难奔跑?

“比赛从今天开始,我们将快速行动,”微软首席执行官萨蒂亚纳德拉周二在该公司的ChatGPT发布会上表示。

“种族”这个词最近在人工智能世界中被抛出了很多。谷歌和百度正在竞相与OpenAI和微软的ChatGPT竞争,作为搜索的关键部分,而Meta则竞相不被抛在脑后。

相关

人工智能专家越来越害怕他们正在创造的东西。

科技通常是一个赢家通吃的行业——想想谷歌控制着近93%的搜索市场——但人工智能已经准备好加速这些动态。像微软和百度这样的竞争对手有一个千载难逢的机会来取代谷歌,成为拥有人工智能、更友好界面的互联网搜索巨头。一些人走得更远,认为存在“生成人工智能竞赛”,其中微软支持的OpenAI疯狂流行的ChatGPT应该被解释为第一次齐射。

为什么有些人对人工智能竞赛的进行不那么兴奋

这个词让我畏缩不前,因为人工智能战略和政策人士也经常谈论它。但在他们的背景下,“人工智能军备竞赛”——无论是科技公司之间还是地缘政治对手之间——都可能产生远远超出市场份额的负面影响。

“当涉及到非常强大的技术时 - 显然人工智能将成为有史以来最强大的技术之一 - 我们需要小心,”DeepMind创始人兼领导者Demis Hassabis最近告诉时代周刊。“不是每个人都在考虑这些事情。这就像实验主义者,他们中的许多人没有意识到他们持有危险的材料。

“对于像人工智能一样重要的技术来说,'快速行动并打破常规'很重要,”他九月份在Twitter上写道。通常的硅谷精神——尝试,看看它们是如何失败的,再试一次——给我们带来了一些非常酷的消费技术和有趣的网站。但这不是你建造摩天大楼或载人火箭的方式,强大的人工智能系统更多地属于后一类,你需要强大的工程技术来实现可靠性。

OpenAI的ChatGPT是引发谷歌,百度和微软争夺AI开发领先地位的产品发布,但这家初创公司的领导层也对它将带我们走向何方表示沮丧。“糟糕的情况 - 我认为这很重要 - 对我们所有人来说就像熄灯一样......我认为人工智能安全和对齐工作的重要性怎么强调都不为过。我希望看到更多的事情发生,“OpenAI的首席执行官Sam Altman在最近的一次采访中说。

(他还称谷歌对ChatGPT的回应,增加了他们自己的AI发布,并“重新校准”了他们对安全的担忧,这是一个“令人失望”的发展:“openAI将不断降低我们对新模型所接受的风险水平,因为它们变得更加强大,而不是相反。

为什么我们应该尽量不与强大的人工智能竞争

我是否在乎微软是否从谷歌窃取了一些搜索市场份额?一点也不。叮叮当当。但最近一连串关于大型科技公司全力参与人工智能竞赛的声明仍然让我感到紧张。

正如一些分析师所说,我们可以“陷入人工智能灾难”的一种简单方法是,如果开发强大系统的研究人员无视警告信号,并使用适用于弱的早期系统的方法粗心大意地训练越来越强大的系统——但在更复杂、更有说服力且可能能够欺骗其用户的人工智能系统上分崩离析。

这里有一个思想实验:想象一下,你总能判断出你3岁的孩子是否在骗你,所以你劝阻他不要有不当行为的计划只是问他是否行为不端。效果很好,但如果你坚持对你更成熟的青少年采取同样的计划,它就不会那么好了。

一般来说,大多数研究人员并不鲁莽,也不想冒险。如果他们的实验室正在构建人工智能,并且他们开始注意到错位、欺骗行为、提前计划等可怕迹象,他们会感到震惊,他们会停下来!即使是今天对对齐是一个严重问题持怀疑态度的研究人员,如果他们在实验室中看到它,也会希望在推出越来越大的系统之前解决这个问题。

为什么竞争既伟大又危险

但这就是实验室中可能发生的情况。在赢家通吃的巨大经济竞赛中,公司主要考虑是否在竞争对手之前部署他们的系统。放慢速度进行安全检查可能会让其他人先到达那里。在地缘政治人工智能军备竞赛情景中,人们担心中国将先于美国获得人工智能,并拥有令人难以置信的强大武器——而且,预计到这一点,美国可能会将自己尚未准备好的系统推向广泛部署。

即使对齐是一个非常容易解决的问题,当每个人都急于击败竞争对手时,试图在非常强大的系统上做复杂的技术工作也是失败的秘诀。

一些致力于通用人工智能(AGI)的参与者已经计划避免这个危险的陷阱:例如,OpenAI在其章程中有专门针对防止系统足够强大的AI竞赛的条款:“我们担心后期AGI开发成为一场竞争竞赛,没有时间采取足够的安全预防措施。因此,如果一个价值一致、具有安全意识的项目在我们之前接近构建AGI,我们承诺停止与该项目竞争并开始协助该项目。我们将在逐案协议中制定具体细节,但典型的触发条件可能是“未来两年成功的机会甚至更好”。

我总体上看好人性。没有人愿意主动部署一个会杀死我们所有人的系统,所以如果我们能够对对齐问题有足够好的了解,那么工程师就会清楚为什么他们需要一个解决方案。但是急切地宣布比赛正在进行让我感到紧张。

人性的另一个重要部分是,我们往往竞争激烈——虽然竞争可以带来巨大的进步,但它也可能导致巨大的破坏。是冷战推动了太空竞赛,但也是第二次世界大战推动了原子弹的制造。如果赢家通吃的竞争是我们对待人类历史上最强大的技术之一的态度,我认为人类不会获胜。

椰有料原创,作者:小椰子啊,转载请注明出处:http://www.studioyz.com/749.html

0

扫一扫,分享到微信

猜你喜欢

文章评论

电子邮件地址不会被公开。 必填项已用*标注

后发表评论

上一篇

巴德来了,谷歌版本的ChatGPT

下一篇

随着大规模裁员袭击科技行业,正在使LinkedIn成为新的热门社交网络

微信公众号

微信公众号