全球人工智能发展进入新阶段催生了越来越多的应用场景，数据安全、隐私保护、技术监管等成为人们常议的热度话题，世界范围内引导AI向善的法律或规范也逐渐完善，为研究全球十大人工智能治理事件提供了更多权威参考标准。人民智库与旷视AI治理研究院第二次成立联合课题组，并邀请中国人工智能产业发展联盟（AIIA）作为课题支持单位，组织相关领域权威专家学者和企业代表，以《新一代人工智能伦理规范》中提到的六条原则为遵循，从理论价值、实践价值、新闻价值、研究价值等四个评价标准共同开展“2021年度全球十大人工智能治理事件”遴选、评议，力图从喧哗的舆论声音及理性的专家点评中透析出AI治理未来发展趋势，研判AI在各领域、各场景应用的新空间、新作为，使其可控可靠可信服务于人类对科技改善生活、增进福祉的美好愿景。清华大学人工智能国际治理研究院副院长梁正教授作为综合评议专家参与“2021年度全球十大人工智能治理事件”的评议工作。

王爱华  中国信息通信研究院副总工程师、中国人工智能产业发展联盟副秘书长

梁  正  清华大学公共管理学院教授、人工智能国际治理研究院副院长 

陶大程  京东探索研究院院长、澳大利亚科学院院士

印  奇  旷视科技联合创始人兼CEO 

《中华人民共和国个人信息保护法》（以下简称《个人信息保护法》）2021年11月1日正式实施；《最高人民法院关于审理使用人脸识别技术处理个人信息相关民事案件适用法律若干问题的规定》2021年8月1日正式实施；《中华人民共和国数据安全法》（以下简称《数据安全法》）2021年9月1日正式施行；《网络数据安全管理条例（征求意见稿）》发布。（来源：综合自经济参考报、科技日报、央视新闻客户端、中国新闻网等）

魏  凯  中国信息通信研究院云计算与大数据研究所副所长

2021年，备受关注的《数据安全法》与《个人信息保护法》出台，与《网络安全法》共同形成了数据治理法律领域的“三驾马车”，标志着我国数据安全法律架构已初步搭建完成。在此基础上，聚焦重点行业、新兴技术的数据安全法律法规和司法解释也在2021年密集出台，充分体现了我国在数据立法方面的前瞻性和创新性，为加快培育数据要素市场、保障数字经济健康发展奠定了坚实的制度基础。

刘亚单  数字广东网络建设有限公司产品研发部总经理

数据安全事关国家安全和经济社会发展，提升数据安全治理能力是我们在新形势下需要着力解决的突出问题。我国首部针对个人信息保护的专门性立法、我国第一部数据安全领域的专门法律等相继发布生效，共同构成了我国数据安全保护领域的基本法律框架，使数据安全保护在上位法层面得到完善，为数据安全释放价值提供了合规指引。标志着我国数据安全立法保护开启了历史新篇章，为明确数据产权与利用规则奠定了基础，推动了我国公共数据共享、开放和利用走向“规范化”发展道路，也是全球个人信息法治发展的重大里程碑，对隐私计算等人工智能技术商业利用的合规性操作具有重大意义。

2021年4月21日，欧盟首次发布针对人工智能技术的监管法规草案。草案中，AI的一系列应用范围都受到了不同程度的限制。当地时间10月6日，欧盟通过禁止警方在公共场所使用面部识别技术的决议，并对其使用AI进行预测性警务活动实施严格限制措施。（来源：综合自AI科技评论、51cto等）

程  祥  北京邮电大学计算机学院副教授

在数据保护和人工智能技术的监管方面，欧盟一直前瞻性地走在立法实践的最前端。2018年生效的《欧盟数据保护通用条例》在世界范围内率先定义了个人数据所有权的规则，推动了数据隐私保护技术在业界的大规模应用，限制了企业为追逐经济效益而对用户隐私的侵害。而欧盟2021年4月针对人工智能技术的监管法规草案更是立志于为符合伦理的人工智能技术的发展铺平道路，并通过禁止“无差别地大规模监控”来进一步地保护个人隐私。这些法规的确立揭示了人工智能技术的应用与公民个人隐私之间的矛盾。因此，与数据挖掘和机器学习相关的隐私保护技术亟待发展，以支撑相关法规的落地实施。

杨丹辉  中国社会科学院工业经济研究所资源与环境研究室主任、研究员

禁止公共场所人脸识别，不仅反映出欧盟对AI领域风险防控的高度重视，实则也是其对新一代信息相关新技术新模式新业态的一贯立场，这种相对保守的思路，一方面集中体现了欧盟注重技术治理的“根部”问题及其强大的制度建设能力；另一方面则是欧盟在AI技术创新水平的真实状况。因此，欧盟利用自身优势，做制度和法规的构建者，并以此争夺治理的话语权。针对欧盟的这一规定，一些互联网巨头公开反对禁止人脸识别的“一刀切”做法，认为应积极探索更加灵活、富有弹性、平衡效用与安全的监管方式。

2021年9月25日，国家新一代人工智能治理专业委员会发布了《新一代人工智能伦理规范》，提出增进人类福祉、促进公平公正、保护隐私安全、确保可控可信、强化责任担当、提升伦理素养等6项基本伦理要求。旨在将伦理道德融入人工智能全生命周期，为从事人工智能相关活动的自然人、法人和其他相关机构等提供伦理指引。（来源：科技部）

何宝宏  中国信息通信研究院云计算与大数据研究所所长

2021年，发布《新一代人工智能伦理规范》，细化落实《新一代人工智能治理原则》，是我国深化人工智能治理工作的又一重大举措。人工智能技术以数据、算法为驱动，发展速度迅猛，正在深刻改变人类的社会生产和生活模式。但人工智能技术的滥用也不断冲击社会伦理底线、侵犯个人权益。所以，既要大力发展人工智能，又要高度重视风险和挑战，科学处理好发展和治理的关系，发展可信的人工智能。

王晓飞  天津大学智能与计算学部教授

本事件代表从国家到社会各个层面都意识到了人工智能伦理的重要性。在AI还未全面深入到各行各业之前，将能够预想到的伦理问题进行梳理和规约，是非常及时且正确的一个做法，未来随着AI算力和算法的逐渐变强，伦理规范也要与时俱进、逐年升级，从根本上奠定“AI服务人类，AI服务社会”的基调。

世界卫生组织于2021年6月28日正式发布“世界卫生组织卫生健康领域人工智能伦理与治理指南”。联合国教科文组织2021年11月25日举行新闻发布会，介绍该组织正式通过的首份人工智能伦理问题全球性协议。（来源：综合自联合国教科文组织、科技日报等）

陈跃红  南方科技大学人文社会科学学院院长、人文中心主任

人工智能正在被用于提升治疗的速度和精准度以及疾病的筛查，协助临床护理，加强卫生研究与药物研发，支持疾病监测，疫情应对和卫生系统管理等多种公共卫生干预措施。但是随之带来的法律和伦理治理挑战也日益紧迫。世界卫生组织这一历史性文本试图协调共同的价值观和原则，用以指导建设必需的法律框架来确保人工智能的健康发展。

郭继承  中国政法大学思政研究所副教授

我们应该聚焦人工智能发展的两个基本方面：一是人工智能的发展会怎样影响人类文明；二是人类在法律和伦理层面如何规范人工智能的应用，使之真正造福人类。第一个问题涉及的是人工智能的发展和应用情况，聚焦工具能力；第二个问题涉及到如何规范人工智能的应用，聚焦的是如何正确驾驭工具为人类所用。一言以蔽之，工具能力和如何驾驭工具能力，这是我们面对人工智能发展需要正视的基本问题。

2021年9月，九部委印发《关于加强互联网信息服务算法综合治理的指导意见》，要求防范算法滥用风险，维护网络空间传播秩序、市场秩序和社会秩序。2021年12月31日，国家互联网信息办公室等四部门联合发布《互联网信息服务算法推荐管理规定》。（来源：综合自国家互联网信息办公室、人民日报、新华社等）

郭  兵  浙江理工大学法政学院特聘副教授、杭州长三角大数据研究院副院长

当前，算法推荐等技术已经被广泛应用于电商平台、新闻平台、视听平台、社交平台等诸多应用场景中。算法推荐等技术为网络用户和网络平台带来便利和经济利益的同时，也引发了一系列新的法律问题。如何平衡好算法推荐等技术的创新发展与安全风险，成为了算法治理的一大难题。无论是《关于加强互联网信息服务算法综合治理的指导意见》，还是《互联网信息服务算法推荐管理规定》都是应对算法滥用风险等难题的有益制度探索。

徐英瑾  复旦大学哲学学院教授、博导

近年来中国互联网技术发展的一个特点，即以免费提供应用软件下载服务为交换，大量获取网民的个人信息，而相关的互联网公司又以相关信息为基础，通过推送软件的推送服务获得更大的流量。这样的做法加强了传播学意义上的“信息茧房”效应，使得广大用户无法从互联网获得全面客观的信息。同时，这种做法也在客观上威胁到广大用户的隐私安全。国家网信办的这一规定，使得广大用户能够自主选择不上传自身的特定数据，以此保护网民的隐私。从伦理角度看，国家对于互联网行业经营方式的这一干预十分必要。同时，这也对国内互联网公司基于大数据技术的人工智能开发路线敲响了警钟。

英国《卫报》报道，英国将推行计划，允许安装自动车道保持系统（Alks）技术的新车型在没有司机插手的情况下上路行驶。英国交通部长麦克莱恩（Rachel Maclean）表示，这是“英国安全使用自动驾驶车辆的一大进步，它使未来的出行更加绿色、便捷和可靠”。（来源：51cto）

宁  阳  华北电力大学教授

“自动驾驶汽车或在英国合法化”入选2021年全球十大人工智能治理事件，引起各方高度关注。这一方面标志着自动驾驶技术越来越走向成熟，它可能使未来出行变得更加绿色、便捷和可靠，并将促使道路交通和商业保险等相关法规的重新修订，另一方面也会增加人们对于自动驾驶安全性的担忧和丧失驾驶体验感的顾虑。但不管对其作出何种评价，这无疑是一项崭新的技术革命，自动驾驶市场前景广阔，必将成为科技巨头角逐的下一个行业蓝海。

王飞跃  中国科学院自动化研究所复杂系统管理与控制国家重点实验室主任、研究员

对于开放场景下的无人驾驶，欧美在法律制定、标准及政策等方面比中国更加灵活，而中国则因为对监管、人权和安全更加看重，目前仍处于“道路测试”或者“试运营”阶段。但在提升行业智能化水平等需求的推动下，中国在封闭或半封闭场景（如矿区、港口等）正在逐步落地无人驾驶，并已从技术上实现无安全员。通过平行驾驶，让人工系统对真实世界车辆和道路建模，构建软件定义的车辆及车路系统，同时建立控制计算中心，对真实数据及虚拟数据进行联合优化，以虚实结合的方式保证无人驾驶的安全性，加速无人驾驶的商业化和规模化落地。

国外媒体报道，美国众议院一个由两党议员组成的小组提出一项法案，要求Meta旗下Facebook和Google等互联网平台允许用户查看非算法选择的内容。共和党众议员巴克在一份声明中表示：“消费者应该有权选择如何使用互联网平台，而不必受到由特定用户数据驱动的秘密算法操纵。”（来源：TechWeb）

张军平  复旦大学计算机科学技术学院教授、博导

社交媒体用户在使用互联网平台获得便利的同时，也有可能在不知情的情况下泄露自己的隐私。因此，明确赋予社交媒体用户禁用算法的权利，本质上就是在保护公民的隐私

张凌寒  北京科技大学法学院副教授、国家人工智能伦理与道德标准小组成员

网络平台的算法操纵问题一直受到美国立法的高度关注。原因在于，平台通过算法设置了新闻议程，不仅引导和操纵了社会舆论走向，还通过“千人千面”地精准个性化推送信息影响用户个人的政治倾向。平台的算法操纵力量直接动摇了美国政治的基础——民主选举，因此算法操纵新闻议程和用户观点成为了美国立法的焦点。然而，美国近三年已经有多部关于平台治理、算法规制的法案在国会立法议程中无疾而终，背后的原因令人深思。私人资本控制平台、社会舆论，进而控制国家政治走向，为世界各国提供了镜鉴。

清华大学人工智能国际治理研究院（Institute for AI International Governance, Tsinghua University，THU I-AIIG）是2020年4月由清华大学成立的校级科研机构。依托清华大学在人工智能与国际治理方面的已有积累和跨学科优势，研究院面向人工智能国际治理重大理论问题及政策需求开展研究，致力于提升清华在该领域的全球学术影响力和政策引领作用，为中国积极参与人工智能国际治理提供智力支撑。

新浪微博：@人工智能国际治理研究院

微信视频号：THU-AIIG

Bilibili：清华大学AIIG