诺奖得主辛顿忧AI发展速 控制人类恐不是科幻小说(图)

发布 : 2024-10-15  来源 : 明报新闻网


用微信扫描二维码,分享至好友和朋友圈

加关注


明声网温哥华 微信公众号



【明报专讯】本届诺贝尔物理学奖得主、多伦多大学教授辛顿(Geoffrey Hinton, 左图)警告「人工智能」(AI)带来的最大而长期危险是,一旦有关技术变得比人类更聪明,人类就会被控制。

有「人工智能(AI)教父」之称的电脑权威辛顿得奖后罕有地接受传媒访问,他指,AI可能带来积极的影响,但它发展急速,也可能引发生存问题。

他说,「我最担心的是长期风险,因为民众认为这只会在科幻小说出现。因此,最大的长期危险是,若AI比我们更聪明,它就会控制人类,使我们变得微不足道。这一情况令人担忧,没有人知道如何确切地防止这种情况发生,因此我们现在需要就此进行大量研究。」

辛顿于去年辞去Google副主席等职务,目的就是为了能不受制约地警告人类关于AI带来的潜在风险。

他称,医疗保健是AI可作出巨大帮助的重要领域,即使对于那些引领AI成长和发展的人来说,未来10年有关技术的发展方向也难以预测,但回顾过去10年,就可以发现该技术的发展一日千里,超出所有人的预期,例如ChatGPT和Google的Gemini等大型语言模型。

辛顿指,尽管该技术仍存在一些小麻烦和不准确的问题,但它通常可以写出完整而且令人信服的句子,这是业界10年前无法估计的。

他说,「比起我们10年前预测,这些大语言模型及其正确处理自然语言的能力要好得多。没有人估计到我们的语言模型可以回答任何问题,并可以成为所有事情上不太理想的专家,这太神奇了。10年前,大家都极自信地预测不会做到。」