在当日的主题演讲及对话中，这位诺奖、图灵奖得主，重点谈及人工智能安全问题，并呼吁不同国家应在人工智能治理上进行合作，探索训练AI向善的方法。

(资料图片仅供参考)

人类与人工智能的关系一直是公众关心的话题。辛顿在演讲中将这一关系形容为“养小老虎当宠物”。

“有人把老虎当宠物，小虎崽是很可爱的宠物。一般来说，养老虎当宠物不是个好主意。但如果要一直养着它，只有两个选择：想办法训练它让它永远不想吃了你，或者摆脱它。”

辛顿认为，对于AI，我们没有摆脱它的选项，AI对医疗保健、教育、气候变化、新材料等太多事情都非常有用，能为几乎所有行业提供帮助并使人类更具生产力。

在当日与上海人工智能实验室主任周伯文的对话中，辛顿进一步表示：“当今的多模态聊天机器人已经具有意识。”

辛顿认为，人类正在创造的AI智能体已经具备创造自己子目标的能力。而一旦拥有创造子目标的能力，智能体就会想做两件事：一是生存，仅仅是为了能够实现我们赋予它们的目标；二是更多的控制权，也仅仅是为了能够实现我们赋予它们的目标。

因此，如果人类想要生存，就必须找到办法训练AI向善。

辛顿建议建立一个由AI安全机构构成的国际社群，致力于研发训练AI向善的技术。

他认为，实现训练AI向善所需的技术与训练AI变得更聪明的技术，在某种程度上是分离的，让一个真正聪明的AI不想接管世界，即使它比大多数人聪明得多，也非常乐意处于人类的辅助角色。

辛顿认为，未来会有某种通用的AI训练方法，来使AI变得善良。“这可能并不真实，但我们应该探索这种可能性。”

“我们目前不知道如何做到这一点，长远来看，这是人类面临的最重要的问题。好消息是，在这个问题上，所有国家都可以一起合作。”辛顿说。

标签：