欧盟《人工智能法案》（EU AI Act）是欧盟针对人工智能领域制定的首部综合性法律框架，旨在通过基于风险的方法监管欧盟市场上可用的人工智能系统，确保人工智能技术的开发和应用符合欧盟的价值观、法律框架和基本权利标准。该法案的出台，标志着欧盟在人工智能伦理监管方面迈出了重要一步，为全球人工智能伦理规范的制定提供了重要参考。

欧盟《人工智能法案》的背景与目的

随着人工智能技术的快速发展和广泛应用，其带来的伦理、法律和社会问题日益凸显。欧盟作为全球重要的经济体和科技中心，深知人工智能技术的双重性，既看到了其巨大的发展潜力，也意识到了其可能带来的风险和挑战。因此，欧盟委员会于2021年4月21日正式提出了《人工智能法案》提案，旨在通过法律手段规范人工智能的开发、使用和市场投放，保护欧盟公民的基本权利、健康与安全免受人工智能技术的威胁，同时促进人工智能技术的创新和可持续发展。

欧盟《人工智能法案》的主要内容

欧盟《人工智能法案》共计13章、113条，涵盖了人工智能系统（AI System）在欧盟市场上的投放、服务和使用的统一规则，禁止某些人工智能行为，对高风险人工智能系统的具体要求以及此类系统运营商的义务，某些人工智能系统的统一透明度规则，通用人工智能模型投放市场的统一规则，关于市场监测、市场监督治理和执法的规则，以及支持创新的措施等方面。

风险分级管理

法案将人工智能系统根据其对用户和社会的潜在影响程度分为四类：不可接受风险类、高风险类、有限风险类和最小风险类。每个类别适用不同程度的监管要求。高风险的人工智能系统须遵守更严格的合规要求，而构成不可接受风险的人工智能系统则被禁止。多数人工智能系统属于风险较低的类别，但仍可能需要根据法案要求履行相应义务。

禁止的人工智能行为

法案明确禁止了以下人工智能行为：使用潜意识的、操纵性的、或欺骗性的手段来扭曲行为，损害知情决策的能力，造成重大伤害；利用与年龄、残疾或社会经济状况有关的弱点来扭曲行为，造成重大伤害；推断敏感属性的生物识别分类系统（但合法获取的生物识别数据集的标记或过滤，以及执法部门对生物识别数据进行分类的情况除外）；社会评分，即根据社会行为或个人特征对个人或群体进行评估或分类，从而对这些人造成不利或不利待遇；仅根据特征分析或个性特征评估个人实施刑事犯罪的风险（除非是根据与犯罪活动直接相关的客观的、可核实的事实来加强人工评估）；通过无针对性地从互联网或闭路电视录像中抓取面部图像来编制面部识别数据库；在工作场所或教育机构进行情绪识别（除非出于医疗或安全原因）；以及在公共场所为执法部门进行“实时”远程生物识别（但特定情况下除外）。

高风险人工智能系统的具体要求

法案对高风险人工智能系统提出了具体的要求，包括全生命周期风险管理、数据治理实践、技术文档、记录保存、透明性与信息提供、人工监督、准确性、稳健性与网络安全等方面的义务。这些义务旨在确保高风险人工智能系统在安全性、透明性和合规性方面达到最高标准，从而保护用户的基本权利和公共利益。

通用人工智能模型的管理

法案还为通用人工智能模型（GPAI）及其相关义务提供了单独的风险分类，并规定了通用人工智能模型投放市场的统一规则。通用人工智能模型提供者需履行额外的义务，如进行模型评估等。

市场监测、监督治理与执法

法案规定了关于市场监测、市场监督治理和执法的规则，包括设立专门的人工智能监管机构，建立市场监测机制，对违规行为进行处罚等。这些规则旨在确保人工智能市场的公平竞争和健康发展。

欧盟《人工智能法案》的实施与挑战

欧盟《人工智能法案》于2024年7月12日发布于《欧盟官方公报》，并于2024年8月1日正式生效。该法案采取了分阶段生效和基于风险等级差异的治理策略，对多方主体施加了义务，包括进口商、分销商、部署者和运营商等。然而，法案的实施也面临诸多挑战，如如何确保高风险人工智能系统的准确识别和分类，如何有效监管通用人工智能模型的发展和应用，以及如何平衡人工智能技术的创新与监管等。

总之，欧盟《人工智能法案》的出台为人工智能伦理监管提供了重要的法律框架和参考依据。未来，随着人工智能技术的不断发展和应用领域的不断拓展，欧盟将继续完善相关法律法规和政策措施，以确保人工智能技术的健康、可持续和负责任的发展。