AI伦理？AI治理软硬法？算法偏见？6月1日北京智源大会伦理治理论坛-数艺网

资讯: 展览资讯大型展会灯光节大型盛典赛事中标捷报产品快讯热门话题艺术节活动演出新闻数艺报道俱乐部签约

观点: 大咖专访观点洞察书籍推荐吐槽设计观点企业访谈问答趋势创新论文职场方法薪资报价数艺专访

幕后: 幕后故事团队访谈经验分享解密评测数艺访谈

干货: 设计方案策划方案素材资源教程文案资源 PPT下载入门宝典作品合集产品手册电子书项目对接

AI伦理？AI治理软硬法？算法偏见？6月1日北京智源大会伦理治理论坛: 2022-05-27

“将人工智能系统视为有能力以类似于智能行为的方式处理数据和信息的系统，通常包括推理、学习、感知、预测、规划或控制等方面。”

——联合国教科文组织《人工智能伦理建议书》

人工智能正不断影响着我们的生活，改变着我们的社会。自动汽车、聊天机器人、数字助理、智能家居设备……人工智能已然无处不在。这些技术在为人类生产生活带来广泛红利的同时也带来了许多风险与挑战，例如人工智能带来的伦理问题。如何解决人工智能存在的偏见与歧视，如何构建以人为本的人工智能，如何促进人工智能向善、可持续发展，如何应对人工智能伦理治理带来的新型挑战等议题一直备受各界关注。近年来，全球各国政府、国际组织、产业界和相关智库一直致力于推进该领域的研究，以期可以就应对人工智能所带来的威胁与挑战形成相关国际共识。据不完全统计，目前全球范围内已出台的人工智能伦理（治理）准则已超过上百个。

到底什么是人工智能伦理治理？

今天的人工智能在伦理治理方面又面临怎样的挑战？

2019年，欧盟委员会发布了欧洲版的人工智能伦理准则，期望建立“以人为本、值得信任”的人工智能伦理标准，不断促进社会公众接受人工智能技术、应用人工智能技术。《欧洲人工智能战略》提出，人工智能应当坚持以人为本的价值观立场，人工智能本身并不是目的，只是服务人类的工具，其最终目的应当是增进人类福祉。因此，人工智能的开发应用需要全面融入社会价值观。该标准建立在尊严、自由、民主、平等、法治和人的基本权利（包括少数人的权利）等价值观之上。

同年，美国白宫也发布了《美国人工智能倡议》，该倡议侧重于六个战略支柱：改善人工智能创新、推进可信的人工智能、通过人工智能创造新的教育和培训机会、通过新技术改善现有基础设施、促进联邦和私营部门利用人工智能改善现有系统、促进支持人工智能进一步发展的国际环境。该倡议将值得信赖的人工智能定义为适当地反映准确性、可解释性、隐私性、可靠性、稳健性等特点，同时确保减少偏见。

我国也高度重视人工智能伦理治理，经过专题调研、集中起草、意见征询等环节，充分考虑当前社会各界有关隐私、偏见、歧视、公平等伦理关切，包括总则、特定活动伦理规范和组织实施等内容, 国家新一代人工智能治理专业委员会于2021年发布了《新一代人工智能伦理规范》(以下简称《伦理规范》)，旨在将伦理道德融入人工智能全生命周期，为从事人工智能相关活动的自然人、法人和其他相关机构等提供伦理指引。《伦理规范》提出了增进人类福祉、促进公平公正、保护隐私安全、确保可控可信、强化责任担当、提升伦理素养等6项基本伦理要求。同时明确了人工智能管理、研发、供应、使用等特定活动的18项具体伦理要求。

国际组织一直对推动人工智能全球治理共识持积极态度。经济合作与发展组织将创新和值得信赖的人工智能定义为包括：尊重人权和民主价值观；为包容性增长设定标准；以人为本的价值观和公平性；透明度和可解释性；稳健性、安全性；以及问责制。联合国教科文组织（UNESCO）则于2021年通过了首个关于人工智能伦理的全球协议——《人工智能伦理建议书》。该标准定义了共同的价值观和原则；用以指导建设必需的法律框架来确保人工智能的健康发展。

行业自治在促进人工智能向善发展方面也发挥着关键作用。微软公司于2018年发表了《未来计算》（The Future Computed）一书，其中提出了人工智能开发的六大原则：公平、可靠和安全、隐私和保障、包容、透明、责任。

为了让人工智能更好地造福于人类社会，

全球社会对人工智能伦理领域的探索从未止步

2022年5月31日至6月2日，北京智源大会将再度召开。由清华大学人工智能国际治理研究院、人工智能治理研究中心（北京人文社会科学研究中心）承办的人工智能伦理、治理与可持续发展论坛将于6月1日上午9点召开。此次论坛汇聚多位国内外权威专家学者，旨在共商人工智能伦理治理之策，共话人工智能可持续发展未来。

在论坛即将召开之际，让我们回顾一下各位嘉宾此前关于这一议题的精彩观点。

薛澜

国家新一代人工智能治理专业委员会主任，清华大学文科资深教授，人工智能国际治理研究院院长。

“展望人工智能全球治理的未来前景，特别需要通过建立多边协同共治的机制，把伦理准则、行业规则、技术标准和治理技术等纳入统一的治理框架中，从而促进在各国基本共识基础上形成包容但有区别的人工智能国际治理格局。”

赵志耘

科技部中国科学技术信息研究所党委书记、所长，科技部新一代人工智能发展研究中心主任

“新技术的突破性进展和颠覆性应用，可能会带来就业结构改变，冲击社会伦理关系，挑战现有的法律法规，影响国家安全与个人隐私等潜在风险。应当努力建设科技风险的监测预警评估和应急处理机制，加快研究制定科技风险相关的政策法规、伦理准则和行为规范，及时识别、防范和化解各类风险。”

李仁涵

国家新一代人工智能治理专业委员会委员，上海交通大学人工智能研究院首席顾问教授，上海数字医学创新中心学术委员会副会长（常务）

“AI在技术创新驱动方面发挥着不可替代的作用，而 AI的社会属性有可能将决定其技术属性的深度和广度的应用与发展。当AI真正嵌入到社会经济中时，处理好AI的技术属性和社会属性至关重要，前期研发主要是由技术属性推动，当大规模应用到社会与经济领域时，AI社会属性有可能决定AI应用的成败。”

陈小平

中科大机器人实验室主任，CAAI人工智能伦理治理工委会主任，全球人工智能理事会执行委员

“人工智能伦理建设非一日之功，我们更要深入细分不同行业内的伦理风险，结合不同行业的特点和区别，才能有的放矢地搭建我国人工智能伦理规范。人工智能取代人类的简单重复劳作是一个必然的趋势，因此会产生一系列行业之外的复杂难题，这也是一个需要法律学、社会学、伦理学等社会科学专家以及行业组织、企业共同协商研究的新时代课题。”

梁正

清华大学公共管理学院教授，人工智能国际治理研究院副院长，人工智能治理研究中心主任

“在推进AI发展的过程中，应引导AI向善，注意管控风险，构建一个强健的、负责任的AI治理体系。数据治理和算法治理是构建AI治理体系的关键。数据治理应充分挖掘数据潜在的价值，同时尽可能降低数据利用的成本和控制可能产生的风险，并且在过程中应注意个人隐私的保护。在算法治理中应识别和区分规则问题和技术问题，采取针对性的措施，坚持安全、公平、透明和隐私保护等基本原则，实现负责任的人工智能。”

Wendell Wallach

卡内基理事会资深研究员，清华大学人工智能国际治理研究院学术委员

“一个新科技诞生后，总会先经历快速发展的阶段，在我们还没有考虑清楚想要什么和不想要什么的时候，就迅速形成了体系。而这些科技总会带来颠覆性的变化，我们疲于保持对变化的掌控，更没有时间进行反思，往往是等到改变开始减速时，才进入调整阶段。如今，第四轮以人工智能为核心的产业革命正在兴起，在科技尚未形成体系时，及时引入伦理，才能更顺利地建立伦理治理机制。”

佐仓统（Osamu Sakura）

东京大学大学院情报学环教授、日本理化学研究所高级智能研究中心科技与社会项目首席研究员

“东方和西方社会在对待自动化设备和人形机器人方面的思维方式存在差异，应当开展以东亚文化为背景的相关伦理比较研究。"

人工智能的持续进步和广泛应用带来的益处将是巨大的，与此同时人工智能治理当中的伦理问题也是无法回避的，本论坛邀请到来自国内外高校和研究智库的资深学者和具备丰富实践经验的政策专家，为大家介绍从人工智能治理认知逻辑与框架范式、人工智能伦理治理动机与方向、不同文化背景下的人工智能伦理认识、到中国人工智能治理现状与举措、人工智能评测平台构建等前沿议题，并展开圆桌对话，力图给予听众全新的启发与收获。这是一场充满智慧分享和思想碰撞的盛会，期待您的关注与参与！

会议议程✦

承办单位

清华大学人工智能国际治理研究院是2020年4月由清华大学批准成立的校级科研机构，由知名科技政策专家、清华大学文科资深教授薛澜担任院长，图灵奖得主，中国科学院院士姚期智先生担任学术委员会主席，拥有一支由知名专家学家、中青年学术骨干和业界资深人士组成的专兼职研究队伍。研究院依托清华大学在人工智能与国际治理方面的已有积累和跨学科优势，面向人工智能国际治理重大理论问题及政策需求开展研究，致力于提升清华在该领域的全球学术影响力和政策引领作用，为中国积极参与人工智能国际治理提供智力支撑。

研究院成立以来承担了包括国家科技创新2030重大项目，科技部科技创新战略研究专项等一系列重大项目，发布了一系列研究报告，向科技部、外交部、工信部、发改委、网信办等部门提交了一批政策建议，研究院主办的人工智能合作与治理国际论坛已成为国内该领域重要会议，AI促进可持续发展青年创造营（Bootcamp）吸引了来自世界各地的青年学子，推出的人工智能治理大讲堂、AI治理对话录、《人工智能国际治理观察》和人工智能热点话题在线直播等引起了社会各界的广泛关注。研究院积极拓展对外合作，已与慕尼黑工大、剑桥大学、卡内基梅隆大学等国外高校，联合国开发计划署、国际电信联盟、世界工程组织联合会等国际组织，以及产业界建立了密切交流与合作。

新浪微博：@清华大学人工智能国际治理研究院

微信视频号：THU-AIIG

Bilibili：清华大学AIIG

人工智能治理研究中心是北京市教委批复成立的北京人文社会科学研究中心，中心依托清华大学公共管理学院，联合清华大学社会科学学院、人文学院、法学院、教育研究院、人工智能研究院、交叉信息学院等，利用清华大学在人工智能技术、公共政策、科技治理、科技社会学、科技哲学、法学方面的多学科优势和积累，面向人工智能文化、伦理、教育、社会认知与调查开展研究，形成人工智能治理“北京学派”，致力成为工智能治理领域国内领先、世界一流的知名学术高地；搭建人工智能治理学术研究与人文思想共享平台，提出人工智能治理“北京共识”；培育人工智能治理理论创新型人才，打造人工智能治理一流研究团队，建设全国具有引领示范效应的人工智能治理交叉学科；传播智能文化与数字人文，打造“智能文化与数字人文”高地，为数字时代国家和首都治理现代化提供理论支撑和对策建议。

阅读原文 * 文章为作者独立观点，不代表数艺网立场转载须知: 本文内容由数艺网收录采集自微信公众号清华大学人工智能国际治理研究院 ，并经数艺网进行了排版优化。转载此文章请在文章开头和结尾标注“作者”、“来源：数艺网” 并附上本页链接：如您不希望被数艺网所收录，感觉到侵犯到了您的权益，请及时告知数艺网，我们表示诚挚的歉意，并及时处理或删除。

数字媒体艺术人工智能治理北京智源大会论坛

13660