- 0
- 0
- 0
分享
- 《人工智能权利法案蓝图》的最大限制在于执法,美国国会应推动建设性立法
-
原创 2023-01-30
海外智库观察
「布鲁金斯学会:《人工智能权利法案蓝图》的最大限制在于执法,美国国会应推动建设性立法」
2022年12月19日,布鲁金斯学会(Brookings Institution)发布其治理研究方向高级研究员尼科尔·特纳·李(Nicol Turner Lee)和其技术创新中心行政和研究助理Jack Malamud撰写的《白宫人工智能权利法案蓝图中的机会和盲点(Opportunities and blind spots in the White House’s blueprint for an AI Bill of Rights)》。文章指出,2022年10月白宫发布的《人工智能权利法案蓝图》(Blueprint for an AI Bill of Rights)确定了五项核心原则,用以指导和管理人工智能系统的开发和实施,还特别注意侵犯公民权利和人权的意外后果。但该法案不具约束力,国会是否会以实际行动来管理这个不受监管的空间仍是一个问题。但是只有当国会将这些原则编纂成法律法规,才能创建有效、可信的执行机制。
作者指出,在布鲁金斯技术创新中心与白宫科技政策办公室(Office of Science and Technology Policy,OSTP)、智库和社会正义组织的专家于2022年12月5日举行的一次对话中,他们针对“蓝图”中的关键部分、其发展过程中可能没有考虑到的盲点以及潜在的限制展开讨论。会上有些人考虑了危害的定义是否过于宽泛,以及联邦机构是否有条件来执行蓝图中关于人工智能采购、使用和审计的负责任做法和程序。就蓝图发布前后的进展而言,目前已有联邦机构采纳了“发展负责任的自动化系统”的指导方针。美国国防部的人工智能伦理原则和美国国际发展署(U.S. Agency for International Developmen, USAID)的人工智能行动计划都围绕政府使用人工智能实施了一些指导。美国公平就业机会委员会(Equal Employment Opportunity Commission, EEOC)也推出了自己的人工智能和算法公平倡议,并正在与司法部合作,发布关于在就业决策中使用人工智能会如何歧视残疾人的指导。此外,一些联邦机构,如国防部、能源部、退伍军人事务部和卫生与公共服务部,也各自建立了自己的中心或办公室,来实施指导方针。还有至少十几个机构已经发布了在其管辖行业中使用自动化系统的某种约束性指南。虽然上述实体正在努力实现负责任的人工智能,但包括消费品安全委员会(Consumer Product Safety Commission, CPSC)在内的其他联邦机构已经发布了一份报告,提出了评估人工智能潜在危害的拟议框架。
作者表示,虽然加强数据隐私和安全的呼吁也是“蓝图”的内容,但仍需理清如何在发生网络渎职行为时明确使用民权法律和保护措施。目前的“蓝图”要求私营部门进行行业自治,特别是从基于消费者权益的方式来管理和生产产品以及提供服务。但“蓝图”没有提供强制性的、可执行的指导方针,缺乏执行制度或中央管理机构,进而将导致自我监管不足导致潜在的危害。作者表示,或许对于“蓝图”而言最大的限制就是对执法的限制。在执法中使用人工智能,尤其是面部识别,已经引起了许多法律和道德方面的考虑。这一行为可能会加剧不平等,对有色人种造成不成比例的影响,也可能导致虚假逮捕和拘留。目前,“蓝图”通过将执法部门,以及使用这些技术的联邦机构、国会警察、机场安全、海关和边境保护官员划分出来,来避免这些方面的详细审查。这种排除执法可能会继续以公共安全和国家安全为幌子,对某些人群、社区和个人进行过度监控,并不一定会减少歧视有色人种和移民的猖獗表现。如果蓝图的规定和指导中包括执法,其可以为那些在被现有和新兴的人工智能技术错误识别或审查时几乎没有追索权的个人提供新的保障。
最后,作者和布鲁金斯学会就如何坚持国家蓝图提出了一些建议:首先,政府需要制定更部门化的人工智能治理方法,以及重新审视国家现有的民事和人权先例,以确保其适用于在线空间的情况。从欧盟目前正在拟议的人工智能监管法案新版本所面临的挑战中,部门性办法的作用显而易见。其次,执法必须完全成为国家蓝图指导方针的一部分。OSTP应考虑为现有蓝图提供一份补编,为执法应用提供指导方针,或将相关机构纳入联邦政府管辖范围。除了采购政策之外,应该审查围绕在人类受试者上使用人工智能的做法,并重新评估在“整体技术采购模式”下采用的系统。这也意味着需要将执法纳入这些初步对话,以便为他们使用人工智能制定明确的指导方针。第三,应重新审视现有的民权制度,以确保其适用于新的数字规则。《道德算法(2019)》(The Ethical Algorithm)一书指出,如果推理数据经济不加以控制,由受试者推断而非确认的人口数据可能会导致在线偏见和不同的影响,这将完全剥夺了历史上边缘化人群的机会。白宫应该成立一个新的民权委员会,评估现有法律在新的数字环境下的灵活性。最后,国会应推动建设性立法。在美国和全球范围内实现人工智能民主化并不容易。悬而未决的数据隐私法律也使基于权利的框架复杂化,该框架可能赋予消费者对数据和决策的代理。立法可能是使这些权利坚持下去的唯一途径。国会必须关注新的数据隐私规则,以支持基于权利的人工智能治理框架的实施,同时就审计某些用例中的自动决策制定明确的指导方针。《人工智能权利法案蓝图》中列出的原则至关重要,例如—个人绝对有权使用安全的自动化系统、免受算法歧视的保护、数据隐私、人工智能使用的通知以及有意义的人类替代方案等等。国会是否会采取行动将这些原则编纂成法,创建的有效、可信的执行机制,并将其覆盖范围扩大到执法和国家安全领域,仍有待观察,但白宫在这一问题上的努力将是令人鼓舞的第一步。
尼科尔·特纳·李(Nicol Turner Lee):布鲁金斯学会技术创新中心主任、治理研究方向高级研究员。
Jack Malamud,布鲁金斯学会技术创新中心的研究和行政助理。
原文链接:
https://www.brookings.edu/blog/techtank/2022/12/19/opportunities-and-blind-spots-in-the-white-houses-blueprint-for-an-ai-bill-of-rights/
行业舆情追踪
国内动态
政府规划
「银保监会:加大对人工智能、量子计算等先进制造业和战略性新兴产业的资金支持」
12月23日消息,银保监会近日学习贯彻中央经济工作会议精神,积极研究金融服务实体经济有关政策措施。据悉,银保监会将继续引导发挥好政策性金融的逆周期调节作用,会同相关部委指导政策性银行用好金融工具,引导商业性银行保险机构同步跟进配套资金支持;引导银行机构扩大制造业中长期贷款投放,加大对新能源、人工智能等先进制造业和战略性新兴产业的资金支持。
来源:证券时报
政-产-学研合作
「国家新一代人工智能开放创新平台广州基地揭牌」
12月23日,知识城(广州)投资集团与达闼机器人签订战略合作协议,并举行国家新一代人工智能开放创新平台广州基地揭牌仪式。根据协议,双方将推动达闼海睿机器人操作系统(HARIX OS)之产业元宇宙部分“达闼海睿产业元宇宙全球总部基地”在广州市黄埔区落地,助力该区乃至粤港澳大湾区战略性新兴产业发展。据悉,当天揭牌的广州基地是云端机器人国家新一代人工智能开放创新平台的首个落地项目,旨在以人工智能重大应用需求方向为牵引,推动行业开放共享。
来源:科技日报
「大连理工大学携手昇腾AI,共同孵化分子模拟大模型」
12月23日消息,大连理工大学计算机科学与技术学院申彦明教授团队近日携手昇腾人工智能(AI),合力打造基于图神经网络的分子模拟大模型。该模型可广泛应用于生物分子性质预测、等领域,帮助医药领域缩短药物研发周期、降低研发成本,推动研发进程。在大连人工智能生态创新中心的支持下,该团队将图神经网络算法迁移至全场景AI框架昇思MindSpore,并基于Atlas 900 AI集群加速训练效率,实现了对分子模拟大模型能力的进一步提升。
来源:IT专家网
「合合信息与上大社会学院联合用人工智能技术挑战古彝文识别难关」
12月21日,合合信息与上海大学社会学院签署校企合作协议,双方将合力完成以国家珍贵古籍《西南彝志》为中心的贵州古彝文图像识别及数字化校对项目。据悉,项目将根据上海大学古彝文研究员设计的四字节编码系统,引入合合信息智能文字识别技术,对异体字、变体字等进行标注、识别、比对,并由此建立起精确的彝文古籍电子数据库,在古彝文研究领域属于首创。合合信息也将基于“AI+OCR”融合下的智能文字识别技术,解决古彝文识别的版式检测、图像处理和文字识别的难题。
来源:上海静安
自动驾驶
「百度计划2023年新增投放200辆无人车,扩大无人驾驶服务规模」
12月26日消息,百度宣布将在武汉大规模拓展全无人自动驾驶商业化运营,并计划2023年在全国范围内陆续增加投放200辆全无人驾驶运营车辆,着力打造全球最大无人驾驶运营服务区。据悉,百度旗下自动驾驶出行服务平台“萝卜快跑”目前在武汉的运营面积超130平方公里,覆盖人口达100万。全无人运营区域也从军山新城扩充到武汉市经开区三环至五环,覆盖面积翻两倍。
来源:TechWeb
「擎天智卡发布基于地平线征程5芯片的商用车高级辅助驾驶量产方案」
12月23日消息,擎天智卡宣布推出基于地平线征程5芯片的擎天自动驾驶系统,成为首家使用该芯片的商用车高级辅助驾驶量产解决方案供应商。据悉,该系统融合了擎天的软件算法优势与征程5芯片的超强算力,集成车道保持、全速自适应巡航等功能,实现了重卡在高速场景下的点对点自动驾驶。当紧急情况发生时,车辆不需要驾驶员干预,可自动完成靠边停车,为车辆及乘员安全保驾护航。该系统填补了商用车自动驾驶解决方案国产化的空白,计划在2023年实现量产。
来源:36氪
「万马科技携手东风乘用车推进5G智能网联汽车落地」
12月21日消息,万马科技全资子公司上海优咔网络科技有限公司与东风汽车集团股份有限公司乘用车公司签订战略合作框架协议,就车联网生态体系的建设、运维和运营等车联网业务展开合作。根据协议,双方将共同推动5G C-V2X技术、自动驾驶技术的发展,在5G边缘计算、高精地图云服务等领域开展合作,同时推动行业规范制定、合规体系建设、数据安全治理,推进5G智能网联汽车落地。
来源:证券时报
科技公司
「中国电子数据产业集团成立,为国内首家由央企设立的数据产业集团」
12月25日,国内首家由中央企业设立的数据产业集团——中国电子数据产业集团在广东深圳正式揭牌成立。据悉,作为中国电子主业版块之一,数据产业集团将聚焦探索自主计算、数据安全、数据要素化等领域,以赋能数字政府和行业数字化转型为主战场,打造国家网信事业核心战略科技力量。
来源:中国新闻网
「微软Azure Synapse分析服务在中国Azure北三区开放使用」
12月23日,微软宣布,微软分析平台Azure Synapse Analytics现已在中国国内Azure北部三数据中心区域开放正式使用。Azure Synapse Analytics是一项无限制的分析服务,它将企业数据仓库和大数据分析结合在一起,允许用户根据自己的条件查询数据,可以按比例使用无服务器的随需应变资源或提供的资源。它还将企业数据仓库和大数据分析结合在一起, 以统一的经验引入、准备、管理和服务数据。根据公告,所有中国Azure的用户都可以通过Synapse门户登陆Azure,创建Synapse Workspace工作区并在中国北部三数据中心区域启动相关资源。预计从2023年1月开始,用户也将可直接登录 Azure 门户在北三区创建Synapse Workspace。
来源:环球网
「创腾科技联合碳硅智慧,构建一站式智能药物设计平台推进AI制药」
12月22日消息,杭州碳硅智慧科技发展有限公司与创腾科技宣布在人工智能(AI)智能药物设计软件平台建设方面达成长期、深入的战略合作。据悉,碳硅智慧将AI驱动的一站式药物发现平台DrugFlow中的核心算法模块(如ADMET预测等)和创腾科技自主知识产权的MaXFlow分子模拟与人工智能平台相结合,通过AI技术和专家经验的深度融合,共同打造覆盖新药发现全流程的一站式智能药物设计平台,加速推动AI制药的发展,提高药物研发成功率。
来源:松果财经
前沿研究
「深度势能原子间势函数预训练模型DPA-1发布」
12月26日消息,首个覆盖元素周期表近70种元素的深度势能原子间势函数预训练模型DPA-1近日发布,该成果由北京科学智能研究院、深势科技、北京应用物理与计算数学研究所共同研发。团队通过可视化模型元素信息,发现其在空间呈螺旋状分布,并且巧妙地和元素周期表中位置一一对应,这证明了此预训练模型具有良好的可解释性。对于从事材料设计研究的科研人员,可基于DPA-1快速构建高精度、方便易用的原子间势函数模型,利用AI技术进行分子模拟,设计创新材料,洞见研究方向,减少不必要的实验,大幅度缩短研发周期,降低研发成本。
来源:中国网科技
元宇宙
「中国银行公开元宇宙药品销售专利,实现可视化挑选」
12月23日,中国银行公开“基于元宇宙的药品销售方法及装置”专利。专利摘要显示,该发明基于元宇宙的药品销售方法具体包括:获取客户与预设的元宇宙虚拟药店模型进行交互时选择的目标药品;根据药品信息生成交易订单,并将订单发送给客户。该发明利用元宇宙技术实现了客户在线可视化的药品挑选,并在线完成交易订单,提高了客户购买药品的效率和体验。
来源:企查查
国际动态
政府监管
「以色列监管机构向投资者颁发牌照,允许建立新数字银行」
12月25日,以色列银行业监管机构批准一项有条件执照许可,允许一批企业家建立一家新的网上银行。以色列央行表示,其银行监管部门已经完成了对名为以色列Esh银行(Esh Bank Israel)的检查程序,并已完成新技术的开发和测试,以及聘用管理团队和银行职员。央行还表示,这家银行将需要一年半的时间才能启动运转。此外,以色列央行行长Amir Yaron表示,此举有助于增加以色列金融系统的竞争和创新。
来源:路透社
「荷兰数据保护局发布关于监督算法的声明」
12月22日,荷兰数据保护局(Autoriteit Persoonsgegevens,AP)发布了一份关于对算法进行监督的声明,并指出对(非法)处理个人数据的算法的监督将在2023年得到加强。AP表示,算法和人工智能在公司和政府中正发挥着越来越大的作用,同时潜伏着巨大威胁。荷兰中央政府正在对算法的透明度、歧视和任意性进行检查和监督。AP还指出,其正在关注超越部门和领域的风险,并强调加强机构之间的合作非常重要。因为,通过共同的知识和见解,可以更快地发现和解决歧视、排斥以及缺乏透明度的风险。AP还指出其已经根据《通用数据保护条例》(General Data Protection Regulation,GDPR)对非法处理个人数据的算法进行了监督。此外,声明中说明了算法监管员的作用、其分配资源的可能性以及其目标和活动。最后,声明中指出,AP的算法监管员职能将从2023年1月开始生效。
来源:Autoriteit Persoonsgegevens
「法国隐私监督机构因cookies对微软处以罚款」
12月22日,法国国家信息与自由委员会(Commission nationale de l’informatique et des liberté, CNIL)表示,已对微软爱尔兰公司处以6000万欧元罚款,原因是该公司对广告Cookie的相关行为违反了数据隐私规则。CNIL方面指出,在经过多次调查后发现,微软的搜索引擎必应(Bing)不仅会在没有经过用户同意的情况下,擅自将用于自己广告业务的Cookie存储在用户终端上,而且没有建立能够让用户像接受Cookie一样“轻易拒绝”的系统。CNIL表示,如果微软没有在三个月内采取合规举措,可能面临每天6万欧元的额外罚款。
来源:路透社、中国经济网
「Twitter因数据泄露事件面临爱尔兰数据保护委员会的调查」
12月22日,爱尔兰数据保护委员会决定对Twitter的数据泄露事件进行调查,原因是网络安全漏洞影响了该公司 540 万用户。其表示这些数据集包含了这些受影响的Twitter用户的个人数据,包括相关数据主体的电子邮件地址和/或电话号码。爱尔兰数据保护委员会表示,在与Twitter就此事进行讨论后,认为其已违反了欧盟《通用数据保护条例》的“一项或多项条款”,且违反的情况可能仍在继续,因此选择发起调查。据悉,爱尔兰数据保护委员会主要监管一些硅谷大科技公司的机构,根据《通用数据保护条例》,该机构有权对一家公司征收高达其年销售额4%的罚款。
来源:Politico
「澳大利亚司法部长:2023年将全面修订隐私法,以适应数字时代需求」
12月20日,澳大利亚司法部长马克·德雷福斯(Mark Dreyfus)通过其Twitter表示,澳大利亚的《隐私法》已经过时,不适合数字时代。他的部门已经收到了对《1988年隐私法》(The Privacy Act 1988)的最终审查报告。德雷福斯指出,他将仔细考虑这项审查,为2023年全面修订《隐私法》做准备。
来源:Twitter
政府规划
「欧盟计划将数据中心送入太空」
12月26日消息,欧盟计划将数据中心送入太空。据报道,面对计算的指数级增长、其能源支出及产生的污染,欧盟委员会选择法国泰雷兹阿莱尼亚宇航公司(Thales Alenia Space)对欧洲净零排放和数据主权高级空间云(ASCEND)计划进行可行性研究,其目标是在空间轨道上设置数据中心。据估计,计算的指数级增长带来的能源支出预计将占到全世界能耗的10%;而其产生的污染(按照加拿大魁北克大学高等技术学院的说法)“占人类活动所产生温室气体的4%,略高于全球航空航天业”。
来源:参考消息、国家报
行业自治
「Twitter恢复自杀预防功能」
12月24日,在受到一些用户与消费者安全组织的压力之后,推特恢复了自杀预防热线和其它安全资源功能。Twitter信任与安全负责人Ella Irwin表示该功能此前被撤下是暂时的,推特利用这段时间在修复该功能中相关性、优化消息提示的大小并纠正过时的提示。据悉,该功能称为#ThereIsHelp,会在某些主题的搜索结果顶部放置一个横幅,列出了许多国家与心理健康、艾滋病毒、疫苗、儿童性剥削、COVID-19、基于性别的暴力、自然灾害和言论自由有关的支持组织的联系人。
来源:路透社
科技公司
「三星电子2023年将扩大其位于韩国本土最大的工厂的芯片生产」
12月26日消息,尽管预计韩国经济将放缓,但三星电子集团计划2023年增加其在韩国的最大半导体厂的芯片产能。此举与竞争对手在需求下降和芯片供过于求的情况下缩减投资形成鲜明对比。分析师表示,三星坚持投资计划,可能有助于抢占存储芯片市场份额,并在需求复苏时支撑其股价。
来源:路透社
「台积电就建设首个欧洲工厂与供应商谈判」
12月23日消息,台积电正与主要供应商就在德国德累斯顿建立首家欧洲工厂进行深入谈判,据知情人士透露,台积电将于2023年初派遣一个高管团队前往德国,讨论政府对这家未来工厂的支持程度,以及当地供应链满足其需求的能力。该次访问将是台积电高管六个月以来的第二次访问,预计很快就将对是否投资建厂做出最终决定,该工厂最早可能在2024年开始建设,计划的生产品类预计并非主要用于智慧手机等的“尖端产品”,而是被称为“成熟产品”的22纳米至28纳米芯片技术,计划用于汽车和家电产品等。
来源:金融时报、日本经济新闻
「AT&T和贝莱德组建商用光纤平台」
12月22日,美国电信公司AT&T和投资管理公司贝莱德(BlackRock)表示,两家公司正在组建一家名为 Gigapower LLC 的合资企业,在美国运营一个光纤平台,将其网络部署到 AT & T 现有的21州有线服务业务之外的150万个客户地点。此外,AT&T计划将其高速家庭互联网服务扩展到美国国内其他地区,以吸引新用户。
来源:路透社
清华大学人工智能国际治理研究院编
上述信息均根据原文内容整理,谨供读者参考,不代表本机构立场和观点
关于我们
清华大学人工智能国际治理研究院(Institute for AI International Governance, Tsinghua University,THU I-AIIG)是2020年4月由清华大学成立的校级科研机构。依托清华大学在人工智能与国际治理方面的已有积累和跨学科优势,研究院面向人工智能国际治理重大理论问题及政策需求开展研究,致力于提升清华在该领域的全球学术影响力和政策引领作用,为中国积极参与人工智能国际治理提供智力支撑。
新浪微博:@清华大学人工智能国际治理研究院
微信视频号:THU-AIIG
Bilibili:清华大学AIIG
-
阅读原文
* 文章为作者独立观点,不代表数艺网立场转载须知
- 本文内容由数艺网收录采集自微信公众号清华大学人工智能国际治理研究院 ,并经数艺网进行了排版优化。转载此文章请在文章开头和结尾标注“作者”、“来源:数艺网” 并附上本页链接: 如您不希望被数艺网所收录,感觉到侵犯到了您的权益,请及时告知数艺网,我们表示诚挚的歉意,并及时处理或删除。