OpenAI CEO 阿尔特曼 应当有一个类似联合国核监督的机构来管控 AI

6月8日，OpenAI首席执行官Sam Altman在访问阿拉伯联合酋长国时，向全球公众发出警示：人工智能已经构成了对我们生存的威胁。他认为，全球需要建立一个类似国际原子能机构（IAEA）的国际机构来监管AI的发展。正如联合国核监督机构IAEA为世界各国树立了团结合作监管核电的典范，我们需要类似的机构来共同应对AI带来的风险。Altman强调：“我们面临的挑战是如何妥善管理这些风险，确保我们既能享受AI带来的巨大好处，又能避免其潜在的危险性。”他希望全球各国能够团结合作，共同应对这一挑战。同时他也表示：“我们应以国际原子能机构为榜样，既要关注AI的危险性，也要看到其巨大的潜力。”今年三月，一封呼吁暂停训练更强大AI系统的公开信引发了广泛关注。对此，Altman指出公开信所提的技术细节并未引起足够重视的他也承认OpenAI并没有开始训练GPT-5，并且暂时没有进一步的计划。他强调公司一直在通过外部审计、红队测试和安全测试等方式评估人工智能的潜在风险。在推出GPT-4的过程中，OpenAI花费了超过六个月的时间进行准备和评估以确保其安全性。Altman呼吁全球各界不必过于恐慌，而是应该理性看待人工智能的发展，共同应对挑战并充分利用其潜力。