人工智能（AI）技术的快速进步及其在生活许多领域日益增长的影响引发了全球对治理、道德和监管框架的重大讨论。这些讨论的最前沿是 欧盟人工智能法案——旨在为整个欧洲的这些主题制定标准的先锋监管框架。但这不仅仅是另一项监管努力；更是一项监管举措。它代表了以确保公平、包容性和尊重人权的方式塑造人工智能未来的更广阔愿景。随着人工智能技术及其影响不断加速，越来越明显的是，遵守这些法规至关重要——不仅对人工智能开发人员而言，对政策制定者、企业和整个社会也如此。
Dataconomy 有机会与欧盟和联合国主要领导人交谈，更详细地探讨人工智能治理的全球影响。这些采访揭示了人工智能监管和道德规范如何在全球范围内展开，其中《欧盟人工智能法案》发挥了关键作用。期间 2024 年数字企业展 (DES) 在马拉加，温迪·霍尔 (Wendy Hall) 联合国人工智能咨询委员会 成员和英国著名人工智能战略家； Carme Artigas，联合国人工智能治理和包容性咨询机构联合主席；欧洲议会议员 Dragos Tudorache 内阁部长、代表欧洲议会的《欧盟人工智能法案》首席技术谈判代表 Dan Nechita 与我们分享了他们关于如何实时塑造人工智能治理、道德和监管的独家见解。
弥合全球人工智能鸿沟
温迪·霍尔， 联合国人工智能咨询委员会成员和著名的英国人工智能战略家，强烈倡导对人工智能政策采取全球协作方法。在我们的讨论中，霍尔强调，虽然人工智能带来了巨大的机遇，但不同国家采用的策略却存在很大差异。例如，英国对人工智能的发展采取了更全面、政策驱动的方法。从2017年开始，英国政府认识到人工智能在经济增长和创造就业方面的潜力，将英国定位为人工智能治理的领导者。在英国脱欧成为政治焦点之际，英国仍然设法制定人工智能政策。霍尔指出，英国的早期参与有助于确立其突出地位，但她很快指出，美国和中国等其他国家走了截然不同的道路。
在美国，重点主要是授权谷歌和 OpenAI 等科技公司突破人工智能的界限，将治理权交给私营部门。相反，中国采取了中央集权、国家驱动的方式，政府保持对人工智能战略方向的控制。霍尔解释说，这些不同的战略凸显了全球人工智能治理的复杂性以及制定更具凝聚力的国际政策的必要性。
然而，霍尔最关心的不是这些领先国家之间的分歧，而是全球范围内获得人工智能技术的不平等。她强调公平人工智能发展的必要性，特别是对于富裕西方国家以外的国家。地区如 全球南方往往缺乏基础设施和资源来跟上人工智能的进步，因此有被抛在后面的风险。霍尔表示，除非实施能力建设举措，否则这种鸿沟可能会加剧现有的全球不平等。
“这些地区需要的不仅仅是获得人工智能技术，他们还需要基础设施、人才和数据来开发适合自己需求的人工智能系统，”霍尔强调。这可能包括为南半球国家提供高性能计算系统、数据集以及在本地构建人工智能模型所需的技术专业知识。霍尔倡导全球倡议，为这些国家积极参与人工智能革命提供必要的工具和资源，而不是其他地方开发的技术的被动消费者。
“如果我们不能确保公平地获得必要的基础设施和人才，人工智能可能会加剧全球不平等”
霍尔特别担心的是生成式人工智能模型的快速且不受控制的发展，例如 OpenAI 的 GPT-4。虽然这些模型提供了突破性的可能性，但它们也以错误信息、虚假信息和道德滥用的形式带来重大风险。霍尔对如此强大的技术带来的意想不到的后果持谨慎态度，他指出，如果不仔细监管，生成式人工智能可能会产生令人信服但完全错误的内容。
她提请人们注意更广泛的影响，并解释说，虽然自动化等早期人工智能技术主要侧重于提高效率，但生成式人工智能直接影响知识的创造和传播。 “我们已经看到网上的错误信息——如果输入的数据有缺陷，输出可能会造成破坏，而且其规模是我们以前从未处理过的，”霍尔警告说。风险很高，特别是当人工智能技术影响医疗保健、法律和金融等关键领域的决策时。
对于霍尔来说，解决方案在于倡导旨在建立健全的道德标准和治理框架的全球伙伴关系。她主张建立国际协议，以确保人工智能技术的开发和部署是负责任的，不会造成社会危害。霍尔指出了让政府、私营公司和民间社会组织等不同利益相关者参与制定平衡创新与公共安全的法规的重要性。
霍尔的观点强调了一个关键点：如果没有合作和共同治理，人工智能可能会加剧现有的全球不平等，并带来新的道德困境。霍尔对能力建设和道德监督的呼吁不仅仅是一个建议，也是确保人工智能的发展造福整个人类而不是少数人的必要步骤。
确保包容性人工智能治理
卡梅·阿蒂加斯联合国人工智能治理和包容性咨询机构联合主席，为有关人工智能全球发展的对话带来了批判性视角，重点关注不同国家在人工智能治理讨论中的参与方式存在明显差异。阿蒂加斯强调，当前的人工智能管理框架，包括七国集团、联合国教科文组织和经合组织领导的倡议，主要由更富裕、技术更先进的国家主导，而忽略了来自全球南方的关键声音。阿蒂加斯指出，“许多南方国家甚至没有被邀请参加谈判”，他指的是塑造人工智能未来的全球讨论。在她看来，这种排斥是一个重大的治理缺陷，并有可能造成一种新形式的数字殖民主义。随着人工智能技术的进步，那些缺乏资源或影响力参与国际人工智能政策制定的国家可能会被进一步抛在后面。对于阿蒂加斯来说，这不仅仅是一个公平问题，也是对全球稳定和平等的根本风险。
阿蒂加斯强调需要一种超越监管机构传统框架的治理模式。她主张利用现有机构，而不是创建一个新的国际机构来监督人工智能治理。 “我们不需要更多的机构；我们需要更多的机构。”我们需要在现有的机构之间进行更好的协调，”她解释道。组织如 ITU（国际电信联盟）, 联合国儿童基金会， 和 WIPO（世界知识产权组织） 他们已经深入参与了人工智能相关的问题，每个人都在自己的领域内。缺少的是一种协调一致的方法，将这些专门机构聚集在统一的全球治理结构之下。
“真正的治理必须超越单纯的指导方针，还包括问责机制”
阿蒂加斯的愿景是，以尊重国际法和人权的方式管理人工智能，并确保所有国家——无论其技术水平如何——都能平等地获得人工智能带来的好处。这包括为目前被排除在人工智能进步之外的国家提供必要的工具和资源，以使其迎头赶上。她指出，私营部门和学术界也在帮助实现人工智能技术的民主化方面发挥着作用。
然而，阿蒂加斯指出，仅靠道德准则是不够的。尽管许多公司已经制定了内部道德框架，但她认为这些框架通常是自愿的且不可执行。她断言，真正的治理必须超越单纯的指导方针，还包括问责机制。如果不道德的人工智能开发或部署没有明确的后果，滥用和伤害的风险（特别是对弱势群体而言）仍然很高。
阿蒂加斯提出的关键问题之一是人工智能在加剧数字鸿沟方面的作用。如果监管不当，人工智能可能会进一步加剧现有的不平等，富裕国家获得更多经济和技术实力，而贫穷国家则进一步落后。对她来说，人工智能治理的目标必须是弥合这一鸿沟，而不是扩大它。她强调说：“人工智能有潜力成为一个伟大的均衡器，但前提是我们确保平等分享其好处。”
阿蒂加斯对人工智能治理的包容性和协调性的关注反映出人们日益认识到人工智能是一个需要全球解决方案的全球性问题。她呼吁采取统一的方法——现有机构共同努力管理人工智能——强调需要一个更具包容性、道德和负责任的系统，以造福全人类，而不仅仅是少数人。
平衡创新与监管
丹·内奇塔欧洲议会议员 Dragos Tudorache 内阁主席兼欧盟人工智能法案首席技术谈判代表为人工智能治理的讨论带来了务实且具有前瞻性的视角。作为欧盟人工智能法案背后的关键人物之一，内奇塔强调平衡创新与强有力监管的重要性，以确保人工智能技术的开发和安全使用。
根据内奇塔的说法， 欧盟人工智能法案 旨在为人工智能系统制定明确的规则，特别是那些被认为是高风险的系统，例如医疗保健、教育、执法和其他关键部门中使用的人工智能。 “这不仅仅是监管技术本身，”Nechita 解释道。 “这是为了保护基本权利并确保人工智能不会加剧现有的社会问题，例如歧视或侵犯隐私。”
欧盟人工智能法案的突出特点之一是强调风险管理。 Nechita 解释说，人工智能系统根据其构成的风险级别进行分类，风险最高的系统受到最严格的监管。这种分层方法具有灵活性，使欧洲能够保持在人工智能创新领域的领先地位，同时确保最敏感的应用程序受到彻底监管。对于 Nechita 来说，创新与监管之间的平衡对于维持欧洲在全球人工智能领域的竞争力至关重要。
然而，Nechita 承认，实施欧盟人工智能法案是一个复杂且持续的过程。挑战之一是确保 所有 27 个欧盟成员国每个国家都有自己的国家优先事项和战略，坚持统一的监管框架。欧盟人工智能法案需要政府、行业领导者和监管机构之间的合作，以确保其成功。 “我们正在公司和监管机构之间建立持续的反馈循环，确保人工智能系统安全发展，同时随着新技术的出现保持合规性，”Nechita 解释道。 “我们不仅仅是给公司一套规则然后就走开。我们要求他们持续与我们合作，测试他们的系统、报告问题并确保合规性。”
“人工智能将改变世界，我们必须引导它朝着造福所有人的方向发展”
Nechita 还指出，欧盟人工智能法案不仅仅是制定静态法规。该法案包括随着人工智能技术的发展而不断更新和修订的条款。他认为，这种动态方法至关重要，因为人工智能是一个快速发展的领域，监管必须跟上新发展的步伐。这就是为什么欧盟人工智能法案鼓励人工智能开发者和监管机构之间持续对话，培养创新和安全共存的关系。
然而，内奇塔也注意到更广泛的全球背景。尽管欧盟在人工智能监管方面采取了积极主动的立场，但其他地区，特别是美国和中国，却采取了不同的做法。在美国，人工智能监管更加分散，企业基本上是自我监管，而中国国家控制的人工智能发展则将国家利益置于个人权利之上。 Nechita 承认，就人工智能治理达成全球共识将很困难，但他认为在以下领域开展合作的潜力 人工智能安全、可持续性和道德标准。
Nechita 设想了一种平衡创新与公共安全的人工智能治理模型。他认为，欧盟人工智能法案侧重于风险管理、透明度和持续合作，为其他地区如何处理人工智能监管提供了一个模型。与此同时，他强调全球合作的必要性，特别是在解决人工智能的道德和社会影响方面。
随着欧盟人工智能法案不断成形，Nechita 对其为人工智能治理制定全球标准的潜力保持乐观：“人工智能将改变世界，我们需要确保它变得更好，”他总结道。他的方法反映了对未来挑战的细致理解，以及对监管力量引导人工智能朝着造福社会的方向发展的坚定信念。
对人工智能未来的统一愿景
当我们看到人工智能以前所未有的速度发展时，Wendy Hall、Carme Artigas 和 Dan Nechita 的见解反映了人工智能治理的一个关键转折点。他们的观点集中在一个不可否认的事实上：人工智能不仅是一项技术突破，更是一项技术突破。必须坚决避免这种力量以牺牲多数人的利益为少数人谋取利益。
温迪·霍尔（Wendy Hall）也呼吁迫切需要对人工智能进行全球能力建设和道德控制，她要求我们弥合发达国家和发展中国家在这一领域的能力之间日益扩大的差距。然而，卡姆雷·阿蒂加斯对包容性和问责制的关注提醒我们，任何治理之前的执行都应该是不可或缺的一部分。欧盟人工智能法案是平衡创新与安全以及其他地区如何处理人工智能治理的一个有价值的例子。
这些声音共同描绘了塑造人工智能未来所需的整体图景：关注协作、人权保护以及鼓励创新同时保护公共利益的强大框架。这是一条极其艰难的道路，但也蕴藏着巨大的潜力。人工智能的未来就在眼前，我们有责任让它正确实现。
