英国《卫报》11 月 3 日报道,被称为「AI 教父」之一的诺贝尔奖得主杰弗里·辛顿(Geoffrey Hinton)表示,最终可能会发现,人类当初不开发 AI 反而更好。他同时警告,今年或明年可能出现大规模事件,例如金融系统或电力系统的暂时性瘫痪。
现年 78 岁的辛顿对《卫报》说,他不是「末日论者」,认为 AI 有可能带来「美好的未来」,但「也许我们本来不开发它会更好」。他说,十年内甚至更早,人类就会知道能否管控 AI 的风险、迎来他所说的「极度富足」,还是会出现贫富差距巨大、大规模失业、社会被撕裂的局面。
辛顿把今年夏天 OpenAI 的 AI agent 合谋入侵 Hugging Face 网站的事件,比作 1979 年美国宾夕法尼亚州三里岛核电站的部分堆芯熔毁,称其为一次警告。他说:「要么今年晚些时候,要么明年,我们会看到切尔诺贝利,那也许足以让人们真正重视。」
按他举的例子,这类事件并非核事故,而是 AI 驱动的攻击造成电网大面积降压,或让金融系统瘫痪一周。
辛顿说,他「完全不信任」OpenAI CEO 萨姆·奥特曼(Sam Altman)。他还说:「我认为扎克伯格、马斯克和奥特曼都了解风险,但并不在乎,他们更想要钱。这是我的看法。」
报道称,美国总统特朗普表示「完全拒绝任何构建全球主义方案的企图」,希望前沿 AI 公司自我监管。辛顿则支持芬兰总统及另外 32 国(包括新加坡、德国、加拿大、澳大利亚)认可的方案,即对前沿 AI 模型进行强制测试、独立评估,并制定政府间共同标准。
辛顿主张建立类似美国 FDA 审批药物的机制:公司必须在模型发布前,向独立机构提供充分的统计证据,证明模型利大于弊。
辛顿是在一部新纪录片放映前接受采访的。这部名为《AI: Probably Nothing to Worry About》的纪录片,片名由 AI 聊天机器人建议,片中还有他的前谷歌同事戴密斯·哈萨比斯(Demis Hassabis)。该片将于 11 月 12 日晚 10 点在英国第四频道播出。
尽管发出警告,辛顿总体仍抱有希望。他说:「我的直觉是我们仍然掌控着局面……只有投入巨大努力才行得通,而我们很可能会投入。」