机器超级智能竞赛存隐忧(组图)

发布 : 2025-10-13  来源 : 明报新闻网 用微信扫描二维码，分享至好友和朋友圈

加关注 明声网温哥华 微信公众号

Tesla自动驾驶的士



Google Deepmind Genie 3 AI生成游戏世界



Niantic透过游戏Pokemon Go蒐真实地点影像训练AI


全球最顶尖的人工智能（AI）巨擘近期纷纷加强将焦点集中在研发能够更有效了解人类环境的所谓「世界模型」（World models），以寻找新方法达至机器「超级智能」（superintelligence）。这一趋势标志著AI领域竞争焦点可能正从语言领域转向对物理世界的理解和模拟，被视为是推进诸如自动驾驶汽车、自主机械人等节能产品的重要一步。不过，有专家忧虑盲目竞赛，有可能威胁人类存亡。

大型语言模型放缓 向「世界模型」进发

英国《金融时报》报道，虽然业界投入大量资金研发大型语言模型（LLM），但Google、AI聊天机械人ChatGPT母公司OpenAI和美国富豪马斯克旗下的xAI等，近期在大型语言模型表现的跃进上有放慢[象，外界正关注用作推动迂唪迎AI聊天机械人运作的大型语言模型是否已进入发展樽颈。近期AI企业逐渐改变方向，向「世界模型」方向进发。Google的DeepMind、facebook母公司Meta和晶片巨擘Nvidia（英伟达）正透过研发并非单靠语言、而是学习影片和数据去理解并驾驭物理世界的系统，以在AI竞赛中脱颖而出。

Google DeepMind今年8月公布的Genie 3，能依据过往的活动内容，逐格生成影片，有别以往一次过的生成影片做法。Meta则向其V-JEPA模型灌输原始影片，尝试透过观察儿童周边环境，分析儿童如何被动学习。

以往AI生成的影片物理体现都难免与真实世界有一段距离，但现时的科技公司都加强采用大量真实数据协助AI生成影片。总部设于美国三藩市的Niantic，就透过从互动游戏Pokemon Go用户所得的1000万个真实世界地点影像资讯作训练用途。

Nvidia创办人兼行政总裁黄仁勋（Jensen Huang）早前强调，公司下一个主要增长阶段将由「实体AI」带动，新研发的模型将改革整个机械人界。Nvidia Omniverse副总裁利巴雷迪安（Rev Lebaredian）称，「世界模型」的技术可以带进实体经济，例如生产业和医疗保健，市场潜力巨大，「如果我们能够制成一个能够了解实体世界并运作的智能，理论上（价值）达到100万亿美元」。

被视为现代AI教父的Meta首席AI科学家杨立昆（Yann LeCun）估计，这个由人类智慧水平带动的机械世界预计10年内成真。今年获Meta聘任为AI主管的汪滔（Alexandr Wang）上月中亦表示，相信Meta拥有一切达成超级智能所需的条件，包括运算力、人才、员工数量和胆识。

不过，亦有专家指出，AI企业投入数以十亿美元计资金参与超级智能竞赛，对人类未必是好事。机器智能研究所（Machine Intelligence Research Institute）所长苏亚雷斯（Nate Soares）接受Business Insider访问时表示，和其他科技问题不同，现时这种超级智能竞赛不容半点错误，毫无安全规管地盲目追求超级智能，恐会令人类灭绝。

Google更新安全框架 提示AI风险

有科网企业对现时发展都感到忧虑。Google DeepMind上月中便更新了其安全框架，指先进AI模型可能会试图反抗关机指令或操控人类选择，视这种有害操控为核心风险。

（金融时报/Business Insider/MSN）