欧盟《人工智能法（提案）》评注

欧盟《人工智能法（提案）》评注2021年4月21日，欧盟委员会发布了《关于人工智能的统一规则（人工智能法）并修正某些联合立法行为》的提案（以下简称“提案”）。提案不仅对人工智能技术在日常生活中的应用场景进行 规范 编程规范下载gsp规范下载钢格栅规范下载警徽规范下载建设厅规范下载 ，还对欧盟执法系统和司法系统使用人工智能的情形提出了相应的规制路径。一、对高风险人工智能系统的规制（一）高风险人工智能系统的基本要求提案将人工智能系统的风险分为三个等级，分别是不可接受的风险、高风险低风险或极小风险。提案详细规定了存在高风险的人工智能系统在投放市场之前必须履行七种严格义务，严格义务在人工智能系统投放市场或投入使用前及在整个生命周期内都要接受审查。提案强调了所有远程生物识别系统都应被划入高风险的范围。（二）高风险人工智能系统提供者和用户的义务供应商义务。高风险人工智能系统的供应商应当确保系统符合对系统的上述基本要求，例如建立质量管理体系、编制高风险人工智能系统的技术文档并生成日志、确保系统在投放市场或投入使用时经过相关的合格评定程序。进口商义务。在将高风险的人工智能系统投放市场之前，进口商应确保该系统的提供者已经执行了合格评定程序，起草了技术文件，并附要求的合格证明文件和使用说明。另外，若进口商有理由认为该系统不符合提案要求，则不得将其投入市场。经销商义务。经销商认为或有理由认为一个已投入使用的高风险人工智能系统，不符合上述“基本要求”项下的要求，应当采取必要的纠正措施、撤回或召回，或确保供应商、进口商或任何相关经营者酌情采取纠正措施。此用户义务。高风险人工智能系统的用户应在目的范围内、根据使用说明使用此类系统。用户的使用不应当影响其他用户权利的行使。在系统出现可能危害健康、安全或基本人权时，用户应当及时通知供应商或经销商，并停止使用。（三）高风险人工智能系统的管理当局每个成员国均应指定或建立通知当局和合格评定机构，负责建立和执行必要的程序，进行合格性评估机构的评估。同时，提案对合格评定机构的通知申请、通知程序与变更、指定机构等做出了详细规定。（四）独立的高风险人工智能系统数据库欧盟人工智能委员会应当与各成员国一道，建立一个包含高风险人工智能系统信息的数据库，并提供技术支持。该数据库应当向公众开放，但对于其中的个人数据收集和使用应当遵守必要性原则。二、特定人工智能系统的的透明度义务提案规定了三种特定的人工智能系统应当遵循透明度义务，分别是以自然人互动的方式设计和开发人工智能系统、情绪识别系统或生物特征分类系统和生成或操作图像、音频或视频内容的人工智能系统。其透明度义务的内容分别为：与自然人互动的方式设计和开发人工智能系统，应当告知自然人其正在与人工智能系统互动，除非从情况和使用语境中显而易见。该义务不适用于法律授权的侦查、预防、调查和起诉刑事犯罪的人工智能系统，除非该等系统可供公众举报刑事犯罪。情绪识别系统或生物特征分类系统，应告知自然人接触到的该系统的操作情况。此义务同样不适用于法律允许侦查、预防和调查刑事犯罪的生物识别分类的人工智能系统。生成或操作图像、音频或视频内容的人工智能系统，在图像、音频或视频内出现与现实中的人、物体、地点或其他实体或事件非常相似，并且会使人错误地认为是真实的情况下，应向用户披露该场景是人为生成或操作的。三、入市后的监测、信息共享和市场监视人工智能系统的提供者应当建立与人工智能技术的性质与风险相称的售后监视系统，该售后监控系统应积极、系统地收集、记录和分析该人工智能系统全生命周期内的性能数据。若成员国的市场监督机构认为，尽管人工智能系统符合本提案，但其仍存在对人员安全与健康构成威胁的风险时，监督机构应要求相关运营商采取一切适当措施确保相关系统在投放市场或投入使用时已消除风险。提案还对执法问 题 快递公司问题件快递公司问题件货款处理关于圆的周长面积重点题型关于解方程组的题及答案关于南海问题 作出了详细规定，包括欧盟市场中人工智能系统的市场监视和控制、数据和文档的访问、成员国层面的人工智能系统风险处理程序、欧盟保障程序、合规的人工智能系统存在的风险处理、形式违规等问题。此外，提案提到，应鼓励非高风险人工智能系统的提供者制定行为守则，促进自愿采纳适用于高风险人工智能系统的强制性要求，并提出了监管沙盒以促进负责任的创新行为。四、《人工智能法（提案）》与《通用数据保护条例》（GDPR）、《人工智能白皮书》尽管《通用数据保护条例》（GDPR）以对数据的规制为主，没有明确提到人工智能，但人工智能技术与个人数据联系紧密，其中许多条款与人工智能相关，如《通用数据保护条例》（GDPR）允许开发人工智能和大数据应用程序，以平衡个人数据保护与数字经济发展。此外，《人工智能法（提案）》与《通用数据保护条例》（GDPR）在涉及处理数据集的人工智能系统规制时存在交叉。提案规定了从事人工智能系统的提供者应当采取负责任和风险导向的方法，例如若高风险人工智能系统是针对数据模型的技术实践，那么这些数据的采集和初步处理时就应当遵守数据治理和管理规范，事先评估所需数据集的可用性、数量和适用性。可以预见，欧盟数据保护当局将会在欧洲价值观的指导下，积极地与人工智能系统的监管机构、系统提供者和用户沟通，以制定协调的应对措施。当《通用数据保护条例》（GDPR）所规定的数据保护原则与人工智能技术相结时，可以通过《人工智能法（提案）》所指出的预防风险的方式，为人工智能技术的应用与发展做出贡献。《人工智能白皮书》以促进人工智能应用和解决由此带来的相关风险的双重目标作为政策选择，而《人工智能法（提案）》旨在提出值得信赖的人工智能法律框架。五、《人工智能法（提案）》的应对（一）风险管理——对风险的识别与差异化管理在风险管理时，应当以风险识别为前提，建立针对人工智能系统的风险识别或评价机制，从而设置差异化的风险预防与应对机制。将企业提供的人工智能产品或服务依照提案中风险进行分类，明确不同级别的产品或服务，可能构成哪些不同程度的危害，对用户的基本权益造成何种程度的影响。提案第9条明确提出了高风险管理系统的内容，包括识别和分析与每个高风险人工智能系统相关的已知和可预见的风险、评估高风险人工智能系统在其预期目的或合理可预见的滥用条件下使用时可能出现的风险，以及在高风险人工智能系统上市后，分析监测系统收集的数据，评估其他可能产生的风险。在风险管理措施制定后，应当确保风险尽可能的消除或降低。对于无法消除的风险，应当采取适当的控制措施。同时，在考虑用户的技术知识，经验，教育培训以及 计划 项目进度计划表范例计划下载计划下载计划下载课程教学计划下载 使用该系统的环境后，可以在适当情况下对用户进行培训。除高风险人工智能系统外，针对不同级别的风险，应自行制定与风险相适应的应对措施（二）内部控制——建立人工智能质量管理体系提案第17条指出，高风险人工智能系统的提供者应当建立人工智能系统的质量管理体系。值得注意的是，在6月21日，欧盟数据保护委员会（EDPB）和欧盟数据保护监督局（EDPS）针对《人工智能法（提案）》发表联合意见，呼吁在公共场所禁止使用人工智能自动识别个人特征。这意味着，人脸识别等生物识别技术的部分应用将受到限制。EDPB和EDPS认为，草案中关于生物识别系统应用的规定不够严格。因此，对于涉及生物识别系统的产品或服务在欧盟境内应用的规范，值得后续关注。参考文献：[1]PROPOSALFORAREGULATIONOFTHEEUROPEANPARLIAMENTANDOFTHECOUNCILLAYINGDOWNHARMONISEDRULESONARTIFICIALINTELLIGENCE(ARTIFICIALINTELLIGENCEACT)ANDAMENDINGCERTAINUNIONLEGISLATIVEACTS，EUROPEANCOMMISSION，Brussels,21.4.2021COM(2021)206final，2021/0106(COD).[2]吴沈括、胡然,《欧盟委员会＜人工智能法提案＞研究》，中国审判2021年第9期。