人工智能 (AI) 的快速发展引发了全球关于其潜在影响和负责任发展需求的讨论。 此次对话的一个关键方面集中在人工智能监管上，专家们正在努力解决如何确保人工智能的安全和合乎道德的使用。
此次讨论中的一个重要声音是 OpenAI 的首席执行官 Sam Altman，这是一家专注于开发安全且有益的通用人工智能的研究公司。
在最近的一次播客采访中，奥特曼主张建立一个国际机构来监控和确保强大的人工智能系统的“合理安全”。
为什么是国际机构？
奥特曼关于成立国际机构的提议源于他的信念，即最强大的人工智能系统将有可能造成重大的全球危害。 他认为，这种先进人工智能的负面影响可能超越国界，使个别国家难以自行对其进行有效监管。
奥特曼在讲话中 全部播客，对不久的将来表示担忧，并表示，“总有一天……前沿人工智能系统能够造成重大的全球危害”。
他设想成立一个专门致力于“研究最强大的系统并确保合理的安全测试”的国际机构。
然而，奥特曼承认需要采取平衡的方法。 他强调“监管过度”的危险，寻求一个既避免过度限制又能降低风险的框架。 他强调了监管不足和过度监管的潜在陷阱。
法律无法跟上人工智能的进步
这次关于人工智能监管的对话与全球正在进行的立法工作同时发生。 这 欧盟最近颁布了《人工智能法案》，旨在对人工智能风险进行分类并禁止不可接受的应用。 同样，美国总统拜登签署了一项 促进强大人工智能模型透明度的行政命令。 加州也已成为人工智能监管领域的领导者，立法者正在考虑多项相关法案。
奥特曼认为，与国家立法相比，国际机构具有更大的适应性。 他强调人工智能发展的快速步伐，并表示 严格的法律很快就会过时。 他对立法者制定面向未来的法规的能力表示怀疑，并表示，“法律中规定的内容在 12 个月内将全部被写错。”
简而言之，奥特曼将人工智能监督与飞机安全法规进行了比较。 他解释说：“当严重可能造成重大人员伤亡时……就像飞机一样……我认为我们很高兴拥有某种测试框架。” 他的理想场景是建立一个系统，让用户（例如飞机乘客）可以信任人工智能的安全性，而无需了解复杂的细节。
为什么还没有制定真正的人工智能法规？
尽管做出了这些持续的努力，但为人工智能制定真正有效的监管框架仍面临着一些挑战。
一个主要障碍是 人工智能的快速发展。 该领域不断发展，使得监管很难跟上技术进步的步伐。 今天制定的法律可能不足以解决明天开发的人工智能系统带来的风险。
另一个挑战在于 人工智能系统的复杂性。 这些系统可能非常复杂且难以理解，即使对于专家来说也是如此。 这种复杂性使监管机构难以识别和减轻潜在风险。
此外，还缺乏 全球共识 关于如何监管人工智能。 不同国家在人工智能发展方面有不同的优先重点和风险承受能力。 这使得建立统一的国际框架变得困难。
最后还有一个关心的问题 扼杀创新。 过于严格的监管可能会阻碍有益的人工智能应用的开发。
在安全、创新和国际合作之间找到适当的平衡对于制定有效的人工智能法规至关重要。
特色图片来源: 手绘
