资讯公告
欧盟出台人工智能模型监管指南草案
发布时间:2024-11-19 发布者:域风网

欧盟出台人工智能模型监管指南草案


通用人工智能实践准则初稿 "的发布标志着欧盟为通用人工智能模型制定全面监管指南所做的努力。


该草案的制定是一项合作性工作,涉及工业、学术界和民间社会等不同部门的意见。该倡议由四个专门工作组领导,每个工作组负责人工智能治理和风险缓解的具体方面:


  • 第 1 工作组:透明度和版权相关规则
  • 第 2 工作组: 系统性风险的识别和评估
  • 第 3 工作组:系统性风险的技术风险缓解
  • 第 4 工作组:降低系统性风险的治理风险


该草案与《欧洲联盟基本权利宪章》等现行法律保持一致。草案考虑到了国际方法,力求与风险相称,并通过考虑快速的技术变革来面向未来。


草案概述的主要目标包括:


  • 明确通用人工智能模型提供商的合规方法
  • 促进整个人工智能价值链的理解,确保将人工智能模型无缝集成到下游产品中
  • 确保遵守欧盟版权法,特别是关于使用受版权保护的材料进行模型训练的规定
  • 持续评估和降低与人工智能模型相关的系统性风险


认识并降低系统性风险


草案的一个核心特点是对系统风险进行分类,其中包括此类风险的类型、性质和来源。文件概述了各种威胁,如网络犯罪、生物风险、自主人工智能模型失控和大规模虚假信息。由于认识到人工智能技术不断发展的性质,草案承认这一分类法需要更新才能保持其相关性。


随着具有系统性风险的人工智能模型变得越来越普遍,草案强调需要强有力的安全和安保框架(SSFs)。草案提出了一系列措施、子措施和关键绩效指标(KPI),以确保在模型的整个生命周期内进行适当的风险识别、分析和缓解。


草案建议提供商建立流程,以识别和报告与其人工智能模型相关的严重事故,并根据需要提供详细的评估和修正。草案还鼓励与独立专家合作进行风险评估,尤其是对构成重大系统性风险的模型。


对人工智能监管指南采取积极主动的态度


2024 年 8 月 1 日生效的《欧盟人工智能法》规定,本规范的最终版本必须在 2025 年 5 月 1 日前完成。这一举措凸显了欧盟对人工智能监管的积极态度,强调了人工智能安全、透明和问责的必要性。


随着草案的不断发展,工作组邀请利益相关者积极参与完善文件。他们的合作意见将形成一个监管框架,旨在保障创新,同时保护社会免受人工智能技术潜在隐患的影响。


欧盟的《通用人工智能模型行为准则》虽然仍处于草案阶段,但它可以为全球负责任的人工智能开发和部署树立一个基准。通过解决透明度、风险管理和版权合规等关键问题,该守则旨在创造一个促进创新、维护基本权利和确保高度消费者保护的监管环境。

文章相关标签: 欧盟 人工智能 草案
购物车
业务咨询:
售后服务: