3月29日消息,据报道,未来生命研究所(Future of Life Institute)公布了一封公开信,呼吁所有AI实验室立即暂停训练比GPT-4更强大的AI系统至少6个月。
未来生命研究所的这封公开信题为“暂停巨型ai实验:一封公开信”,于29日解封。
据悉,这封信已有1079人签名。包括马斯克、辛顿和马库斯、苹果公司联合创始人Steve Wozniak、Stability AI首席执行官Emad Mostaque等。
信中写道,大量研究表明,具有与人类竞争智能的人工智能系统可能对社会和人类构成深远的风险,这一观点得到了顶级人工智能实验室的承认。
信中还称,只有当我们确信,这种AI的影响是积极的、风险是可控的时候,才应该开发强大的AI系统。这种信心必须有充分的理由,并随着系统潜在影响的规模而增加。
与此同时,信中指出,ai开发人员必须与政策制定者合作,以显著加快开发强大的ai治理系统。