英国议会发布《人工智能治理：中期报告》

2023年8月31日，英国议会发布《人工智能治理：中期报告》（以下简称《报告》）。《报告》深入探讨了人工智能的发展背景、技术效益、技术风险和治理挑战等多方面前景，对管理人工智能技术的现有框架、法规和道德准则进行了全面分析。《报告》认为，迫切需要一个强有力、透明的人工智能治理框架，以维护人权、问责制和社会福祉。

《报告》列出了人工智能治理必须应对的十二项挑战。

1.偏见挑战

人工智能可能会引入或延续社会认为不可接受的偏见。研究人员和开发人员依赖数据来测试、训练、操作和完善人工智能模型和工具。但由于数据集是由人类编译的，因此它们包含固有的偏见。

2.隐私挑战

人工智能可以让个人被识别，并以超出公众期望的方式使用他们的个人信息。在执法中，隐私保护与部署人工智能模型和工具的潜在利益之间的平衡尤为重要。

3.虚假陈述挑战

人工智能可以生成故意歪曲某人行为、观点或性格的材料。一是近年来围绕“假新闻”的争议越来越频繁。数据可用性与新的人工智能模型和工具的结合极大地增加了恶意行为者“冒充”与特定个人或组织相关的内容的机会，这些内容实际上是伪造的。二是使用个人的图像和语音记录可以产生高度可信的材料，但这些材料中个人所说的话没有事实依据。这种材料可用于损害人们的声誉，并且在竞选活动中对民主竞赛的进行构成重大威胁。三是伪造内容的其他用途可能导致欺诈。例如，许多金融服务提供商在电话交易中广泛使用语音识别技术来验证人们的身份。

4.数据访问挑战

最强大的人工智能需要海量数据集，而这些数据集由少数组织持有。一是获取足够多的高质量数据是人工智能开发人员和研究人员的首要任务。对大量培训数据的需求使拥有最多资源的开发人员处于优势。二是数据访问挑战也引发了竞争问题。英国竞争和市场管理局目前正在审查开发人工智能基础模型对竞争和消费者保护的可能影响，而美国联邦贸易委员会主席Lina Khan则强调了人工智能领域公平竞争的重要性。

5.计算访问挑战

强大的人工智能的发展需要强大的计算能力，而只有少数组织才能获得这种能力。大量的计算能力成本高昂，因此不成比例地向最大的参与者提供。随着计算需求的持续增长，大学研究人员面临着落后于私人开发商的风险。

6.黑匣子挑战

随着数据和计算可用性的增加促进了新的人工智能模型和工具的开发，这些模型和工具日益成为“黑匣子”，即它们的决策过程无法解释。

7.开源挑战

对于运行人工智能模型和工具的代码是否应该免费或开源以进行测试、审查和改进，存在不同的观点。开源支持者表示，它可以鼓励创新并防止强大、资源充足的参与者的垄断。然而，其他人则强调了保持代码专有性的价值，并认为这样做也有助于防止滥用，例如通过传播误导性内容。

8.知识产权和版权挑战

将带有版权的创作者的作品输入到人工智能中，用它来生成新作品，有可能在不认可版权的情况下从中获利。英国政府的执行机构知识产权局已开始与技术、创意和研究部门协商，制定版权和人工智能自愿行为守则。该指南表示，应支持人工智能公司获取受版权保护的作品作为其模型的内容，同时确保生成的内容受到保护（例如标签），以支持受版权保护作品的权利人。

9.责任挑战

如果第三方使用人工智能模型和工具造成损害，政策必须确定该技术的开发商或提供商是否对所造成的损害承担责任。在开发、采购和应用阶段影响技术的不同主体，使得确定歧视性使用人工智能模型和工具的责任变得具有挑战性。

10.就业挑战

人工智能模型和工具的日益普及将对就业产生巨大影响，涉及日常、重复性劳动并涉及低级决策的任务将很快实现自动化。但人工智能的应用对就业带来的并非全都是负面影响，一些工作岗位被取代的同时，也为人们提供了全新的收入潜力和新工作领域。

11.国际协调挑战

英国、欧盟和美国等不同司法管辖区提出了不同的人工智能治理方法。虽然目前正在采取不同的方法，但人工智能作为一种无处不在的通用技术的出现所产生的全球影响需要采取协调一致的应对措施。

12.存在主义的挑战

人工智能可能是一种超出我们控制或理解的力量，可能威胁或破坏国家和地区、危害国际安全，包括新型生物或化学武器的发展、意外升级的风险以及核威慑力的破坏。

《报告》指出，政府的人工智能治理和监管方法应通过国内政策和国际参与来解决人工智能带来的十二项挑战。

关注“广东技术性贸易措施”，获取更多服务。