【“危险!立刻停下所有大型AI研究!”马斯克、苹果联合创始人等署名公开信呼吁】当全社会都在为AI的进化而欢呼雀跃,全新的、意想不到的风险可能也正在悄悄酝酿。一封名为《暂停大型人工智能研究》的公开信,在硅谷科技圈广为流传。据悉,3月22日,生命未来研究所向全社会发布了一封《暂停大型人工智能研究》的公开信,呼吁所有人工智能实验室立即暂停比GPT-4更强大的人工智能系统的训练,暂停时间至少为6个月。
截止目前,马斯克、苹果联合创始人Steve Wozniak、Stability AI创始人等上千名科技大佬和AI专家已经签署公开信。值得一提的是,OpenAI CEO奥特曼在与MIT研究科学家Lex Fridman的最新对话中指出,AI已经出现其无法解释的推理能力,同时承认“AI杀死人类”有一定可能性。
该机构在信中提到:我们不应该冒着失去对文明控制的风险,将决定委托给未经选举的技术领袖。只有当确保强大的人工智能系统的效果是积极的,其风险是可控的才能继续开发。人工智能实验室和独立专家应在暂停期间,共同制定和实施一套先进的人工智能设计和开发的共享安全协议,由独立的外部专家进行严格的审查和监督。