欧盟委员会要求CEN 和CENELEC制定人工智能领域标准

2023年5月22日，欧盟委员会发布M/593号标准化请求，向欧洲标准化委员会CEN和欧洲电工标准化委员会CENELEC提出支持欧盟联盟人工智能政策的标准化要求。

根据该文件，CEN和CENELEC应编制一份工作计划，说明附件1中所列的所有欧洲标准和欧洲标准化的成果、负责的技术机构以及按照文件第1条规定的期限执行所要求的标准化活动的时间表。这些欧洲标准或欧洲标准化成果应符合附件2中规定的要求。

  附件1 拟起草的新欧洲标准和欧洲标准化成果清单。

  附件2规定了欧洲标准和欧洲标准化成果的要求，包括总体要求，风险管理系统 ，数据和数据管理，记录保存，透明度和信息，人力监督，准确度规范，稳健性规范，网络安全规范，供应商的质量管理体系，以及符合性评估。

  背景知识

  2023年6月14日，欧洲议会全体会议表决通过了《人工智能法案》授权草案，该法案进入欧盟立法严格监管人工智能技术应用的最终谈判阶段。

  欧洲议会当天投票决定禁止实时远程生物识别技术，如不能在公共场合进行实时人脸识别，并对ChatGPT等生成式人工智能工具增加更多安全控制措施，提出新的透明度要求，以确保人工智能的研发和应用符合欧盟权利和价值观。按照立法议程，欧洲议会将就这一授权草案与欧盟委员会和成员国进行“三方”谈判，欧洲立法者希望在今年年底前就法案的最终版本达成共识。

  今年5月，欧洲议会内部的市场委员会和公民自由委员会通过欧盟委员会于2021年4月提出的《人工智能法案》提案的谈判授权草案。欧洲议会声明，这部提案如正式获得批准，将成为全世界首部有关人工智能的法规。该法案将适用于在欧盟境内将人工智能系统投放市场或投入使用的实体（无论该实体是在欧盟境内还是在第三国）、在欧盟境内使用人工智能系统的实体以及在第三国使用人工智能系统但系统的输出用于欧盟境内或对欧盟境内人员产生影响的实体。

  该草案的一个突出特点是注重基于风险来制定监管制度，以平衡人工智能的创新发展与安全规范。草案将人工智能风险分为不可接受的风险、高风险、有限的风险和极小的风险四级，对应不同的监管要求。其中高风险人工智能的使用必须受到严格监管，系统提供者和使用者都要遵守数据管理、记录保存、透明度、人为监管等规定，以确保系统稳定、准确和安全。对于违反规定者，草案设定了最高3000万欧元或全球年营业额6%的罚款。

  最新草案严格禁止对人类安全造成不可接受风险的人工智能系统，包括部署潜意识或有目的操纵技术、利用人们弱点或用于社会评分的系统，并扩大了人工智能高风险领域的分类，将对人们健康、安全、基本权利或环境的危害考虑在内。草案还要求人工智能公司对其算法保持人为控制，提供技术文件，并为“高风险”应用建立风险管理系统，还针对ChatGPT等生成式人工智能设立专门监管制度。每个欧盟成员国都将设立一个监督机构。

  此外，引进监管沙盒机制以管控风险和促进创新，在人工智能系统入市或投入使用前，对人工智能系统进行开发、测试和验证降低风险。最新草案文本还提出，这一机制同样被允许用于在现实条件下测试创新人工智能，以鼓励人工智能企业持续创新。

关注“广东技术性贸易措施”，获取更多服务。