艾厂× aai |仕掛、日本助推理论以及为社会公益而设计人工智能-数艺网

资讯: 展览资讯大型展会灯光节大型盛典赛事中标捷报产品快讯热门话题艺术节活动演出新闻数艺报道俱乐部签约

观点: 大咖专访观点洞察书籍推荐吐槽设计观点企业访谈问答趋势创新论文职场方法薪资报价数艺专访

幕后: 幕后故事团队访谈经验分享解密评测数艺访谈

干货: 设计方案策划方案素材资源教程文案资源 PPT下载入门宝典作品合集产品手册电子书项目对接

艾厂× aai |仕掛、日本助推理论以及为社会公益而设计人工智能: 原创 2022-03-26

printf("Aiiiii Art Center!");

AI和艺术的关系是目前的新兴议题，对史蒂芬·乌姆布雷洛（Steven Umbrello）来说，也具有非常重要的意义。

史蒂芬·乌姆布雷洛

Steven Umbrello

史蒂芬·乌姆布雷洛目前是伦理与新兴技术研究所（IEET Institute for Ethics and Emerging Technologies）的常务董事，同时也是都灵大学的一名研究人员。他所扮演的的角色都有一个共同点——在人工智能领域进行富有社会责任感的创新。而史蒂芬的研究方法，从根本上来说，则是着眼于为什么我们需要对设计这个领域进行干预，从而确保我们所创造出的未来，是一种我们所期望生活的未来。这不仅需要我们对未来有先见之明，同时还要避免过于强硬的措施激发人性中的叛逆情绪。其实，我们要善于运用行为经济学中的「助推理论」，来确保我们真正有效地通力合作、一起奔向共同的目标。

史蒂芬在2021年5月份aai艺术与人工智能国际论坛上的演讲中表示，他所做的研究并没有什么固定的答案，更多的是一种对于可行之路的探索。他的演讲题目为《仕掛*、日本助推理论以及为社会公益而设计人工智能》，希望与观众分享一些设计助推型AI技术的灵感。他首先解释了演讲题目中的“仕褂け”概念，讨论了使用“仕褂け”的意义以及如何在人工智能领域普及“仕褂け”。

(详细论坛视频请点击文末“阅读原文”)

Source: Steven Umbrello’s slides

“仕褂け（shikake）”概念最早由大阪大学经济系教授松村真宏提出，中文将其翻译为“玄机”。玄机设计指的是某种创意设计方法——设计师可以通过细心的思考、精妙的设计，增加人们的行动选项，“让人们在不知不觉中想要做某事”，从而带来真正有益的改变。玄机设计可以帮助人们培养个人习惯、谋求职业成功，甚至解决公共卫生或居民参与的社会议题。

很多时候，一些微小的行动能带来巨大的社会进步。例如，在阿姆斯特丹的史基浦机场，男士盥洗室的小便池内部都刻有一只苍蝇的图案。当上厕所的男生看到苍蝇的图案时，他们的第一反应都是对准那个苍蝇，想把它击落。这样的微小举动减少了80%的尿液溢出，从而减少了清洁开销和打扫用水的使用。因此，它对减少环境污染产生了更广泛的影响。而在个人层面也不乏“小行动大进步”的案例，例如增加运动和健康饮食。这些也体现在政府层面的亲社会行为中（例如，减少垃圾、食物浪费和交通事故和犯罪）。

Source: Steven Umbrello’s slides

“仕褂け（shikake）”是一个有着多重含义的日语词，其作为动词，有“设备、机制、装备和系统”的意思，它也可以当动词使用，意思是“开始、准备、挑战、建立”。在本次论坛中，史蒂芬希望观众能将“仕褂け（shikake）”一词理解为所有意义的整合体，一种描述小行为改变大社会/个人习惯的方法的概念。当问题的关键来自于行为时，改变行为是解决问题最直接的方法。而玄机设计正是通过改变行为而非功能的方式解决问题，这也是玄机设计最独特和最重要的方面。

与玄机设计的方法不同，人们可能会认为，高科技产品可以自动解决问题，不需要人类的帮助。但是，只有当这样的自动设备能够被建造出来，这种高科技驱动的方法才是可行的。因为在大多数情况下，这是个不切实际的幻想，因为这类设备的建造需要高额的制造成本、专业知识和技术。

接下来的例子和垃圾分类相关。图示垃圾桶是一个可以自动分类瓶子、易拉罐的高科技设备，它的结构是透明的。这个透明的垃圾桶看起来没什么特别的，但相比于传统的、非透明的垃圾桶，人们更愿意讲瓶子和易拉罐分类投放。这个透明的垃圾桶使得人们扔掉的垃圾可以被其他人看到，为了保持体面，人们可能会更讲社会公德，分类投放垃圾。除此以外，透明的垃圾桶也展示出了一种社会规范，即人们已经开始正确分类投放垃圾。社会规范需要特殊的引导，而这个案例中的透明垃圾桶就是一种有效的玄机设计，让人们意识到自己行为的正确与否。

Source: Steven Umbrello’s slides

玄机设计的机制包含了很多物理因素和心理因素。物理因素触发了心理上的刺激，而心理上的刺激则驱动了习惯的改变。例如，汽车便于通勤，但每一年都有人因为车祸死亡而受伤。玄机设计也被使用在了交通安全上。图示的测试摄像头会显示驾驶速度，并配有限速标志，但这些结果并不会上传至交通部门，所以并不是强制的限速。然而在现实生活中，只要司机们看到了这个摄像头，就会减速。这种设计使得司机注意力集中，从而避免了很多车祸。

Source: Steven Umbrello’s slides

玄机设计通常很简单：一个放置在视线水平的空星管，以引导注意力;带有靶心的小便池，用于引导另一种注意力；像钢琴键一样的楼梯来鼓励民众锻炼;放置在走廊地板上的微型鸟居，以防止乱扔垃圾。虽然简单，但玄机设计十分强大，可以将我们的好奇心转换成日常的习惯，而这样的转变很难通过严肃的告示或强制的规则来实现。

Source: Steven Umbrello’s slides

不过，玄机设计和AI又有什么关系呢？随着AI技术在健康保健领域的广泛应用，传统医学的实践和医患关系都在经历着变化。在很多案例中，许多新技术并不是为了医疗而生，但其独一无二的且商用的系统使得医疗保健领域的整体操作得意得以提升。鉴于这些系统的广泛采用，加上实践的巨大变化，这些系统影响了用户的决策行为，新的道德与社会议题应运而生。

Source: Steven Umbrello’s slides

数字医疗为临床医生、患者、护理人员和被护理人员提供了新的工具和可能性，从使用可穿戴设备和连接的医疗设备（如智能手表和活动跟踪器）到人工智能决策系统，例如聊天机器人、数字助理或有说服力的应用程序，这些工具和可能性可以帮助监控健康指标。具体而言，业界正在大量开发用于诊断的机器学习（ML）模型，从而帮助临床医生提供更加客制化和有针对性的治疗，未来也可用于疾病预防和预测。此外，人工智能和机器学习已被用于支持特定地理区域的医疗计划规划，患者管理和资源分配。在现在的疫情中，人工智能也有助于为有新冠症状的患者提供个性化信息和治疗建议。

Source: Steven Umbrello’s slides

那么，玄机设计应该体现在何处呢？通常像玄机设计这样的助推，一种家长式的行为，可以克服认知缺陷或行为偏见，引导人们朝着有益的目标改变自己的习惯。“数字助推”这一概念最近在工程和计算机界出现，意思是“在数字选择环境中通过UI设计元素引导人们的习惯”。数字助推本质就是一种玄机设计。而传统的玄机设计与数字玄机设计根本的区别在于，由于数字环境更具动态性，信息化和自动化特征，后者为选择搭建者提供了更多功能和机会。新的以患者为中心的数字玄机设计具有简化，默认设置，分期决策，反馈，提醒等工具，可在医院内外以及家庭或商业护理实践中提供虚拟医疗护理和帮助。数字助推使用大数据和预测分析技术，无处不在且相互关联。不仅如此，由于它能从环境中接受反馈，并且与用户和其他系统的交互，数字玄机设计能够不断重新配置，升级进化。

Source: Steven Umbrello’s slides

如前所述，在医疗保健、技术及其交叉领域，数字助推技术的实践应用不断增加。考虑到强制助推的潜在有害后果，以及数字助推的优点，史蒂芬认为，医疗保健领域的数字助推技术必须和数字玄机设计一同发展，从而减小伤害，保证意义的最大化。为了做到这一点，我们需要注意技术及其利益相关者相关的各种价值来源（语境相关价值），以及特定于人工智能技术的价值来源。

牛津大学的互联网研究所提供了目前最全面的设计规范纲要，以指导AI系统的设计人员避免（大多数）伤害。七个因素 - AI4SG（AI for social good）规范 - 是一套与AI设计和社会公益特别相关的原则。下表列出了其中包含的因素以及设计师们必须遵循的总结性命令，以将这些因素付诸实践。

Source: Steven Umbrello’s slides

由于时间原因，史蒂芬并没有逐条解读这七个因素，但他阐明了其中的重要性：AI4SG因素明确声明"最大化"或"最小化"某些值或设计要求，从而弥合了抽象值和具体设计要求之间的差距。再明确一些，上述内容表明，AI4SG在HLEG AI等更高级别的AI价值观与更多技术设计要求之间架起了一座桥梁。然而，为了让设计人员更好地实践者以规范，我们需要一套设计方法原则，来让抽象的规则更好被理解。史蒂芬采用了价值敏感型设计方法（Value Sensitive Design，以下简称VSD）作为技术设计的首选方法，因为VSD是一种原则性的技术设计方法，无缝衔接了"价值 - 规范 - 设计要求"结构，并将其作为AI玄机设计的基础方法。

目前，VSD方法已经有了20多年的学术研究基础，学者们探索了其哲学基础，方法问题和能力，以及它对现有和未来技术的潜在应用。价值敏感型设计通常被定义为"一种基于理论的技术设计方法，在整个设计过程中以原则性和全面的方式考虑人类价值"。其主要方法学目标是在设计中明确调查和纳入道德价值观，并通过三个迭代阶段或"调查"的递归反馈来实现这一点：概念，经验和技术，如下所示。

Source: Steven Umbrello’s slides

概念调查涉及：

（1）确定正在或将要受系统影响的直接和间接利益相关者；

（2）制定工作定义和可能出现的初步证据价值之间的矛盾。

实证调查研究了利益相关者的背景和新出现的价值观，从而引出他们的价值观，并在必要时重新制定概念调查的工作定义。

最后，技术调查着眼于问题中的离散技术，确定该技术的体系结构如何支持或约束所讨论的价值。像价值观层次结构这样的工具，帮助了设计师将抽象的价值观转化为更切实的设计需求。

而价值观层次结构建立在三个基本层面之上：

1）价值观，这些价值观通常是一般性的，并且需要通过设计进行最大化展示;

2）规范，这是边界条件或行动规定；

3）设计要求，作为具体技术要求而被强调。

Source: Steven Umbrello’s slides

史蒂芬以亚马逊的Alexa数字语音助手为例，阐释了如何使用VSD方法来设计数字玄机。他表示，迭代过程的四个阶段是：（1）语境，（2）价值识别，（3）制定设计要求，以及（4）原型设计。

2019年，亚马逊宣布与英国国家卫生服务局（NHS）建立新的合作伙伴关系，通过Alexa能够为家庭用户提供NHS健康建议。此外，在与六家健康公司合作开发的新Alexa Healthcare Skills的公告中，亚马逊表示，现在Alexa能够遵循1996年美国健康保险流通与责任法案（HIPAA），并传输和接收受保护的健康信息。这些新的Alexa技能旨在帮助用户管理不同的医疗保健需求，例如协调安排，护理计划，医疗保健帐户信息的协调和安排，生命体征和症状的跟踪和监控，最后，Alexa也会接收针对他们的建议和健康提示，并进行改进。

语境分析

技术发展所处的社会文化语境对其设计部署非常重要。亚马逊不是一家专门从事医疗保健的公司，但在这个项目中，需要处理健康数据和患者信息。就Alexa的新医疗保健技能而言，其语境可以理解为超越其发展的动力，包括各种因素：通过提供有关常见疾病的信息以减轻NHS，医疗保健公司和临床医生的压力和负担；提供易于访问和有用的健康信息和工具，特别是针对弱势群体，如老年人和虚弱的患者，以及在住宅和疗养院，不同的能力患者，或者一般来说，对于那些不能及时受到护理的患者，需要提高患者对药物的依从性，或者更准确来说，预防性和个性化的药物以及更有益的健康结果。

价值识别

价值识别，即需要被设计推广的价值：

为了确保AI4SG-VSD方法不仅可以避免伤害，还积极促进社会公益，设计师需要将方法转向集体社会可取的目标。而AI4SG提案中，缺少这种有关具体适应性的要求。史蒂芬提出，我们需要明确地将可持续发展目标作为对集体有益的社会目标。亚马逊Alexa新医疗保健技能的设计支持了联合国可持续发展目标，是确保健康生活和促进所有年龄段福祉的大型网络的一部分。它尤其符合可持续发展目标的具体3.8条：实现全民健康覆盖，包括金融风险保护，获得优质基本卫生保健服务，以及人人获得安全、有效、优质和负担得起的基本药物和疫苗。

首先，生物伦理学的一个经典原则是自主原则，意味着个人必须拥有对其治疗做出自由和有意义的决定的权利。根据Floridi及其公司的说法，AI对于这一原则是模糊的，因为它意味着个人决策权与AI决策之间的博弈与平衡。AI对卫生数据集的访问以及医疗建议和信息的提供不再局限于医疗保健系统的动态，也不再局限于临床医生和患者之间的互惠关系。事实上，像亚马逊这样的大型科技公司是有资格回答并建议与健康有关的问题和行为的。人工智能驱动的系统以前所未有的方式存储，存档，收集和分析个人数据，而这也引发了对个人隐私泄漏与个人自主权丧失的担忧。在没有明确知情同意的情况下，亚马逊可以监控用户的日常工作以改善其服务。因此，即使出于与健康问题无关的商业和营销目的，亚马逊也具有利用和共享数据的潜在能力。因此，这些私人行为和自动化系统在医疗保健领域的参与可能导致对用户对个人数据失去控制，并淡化被护理者在治疗和援助方面的自主选择。

需要被尊重的价值——尤其是那些与AI相关的价值：

第二个层次的价值观是要推广的价值观，特别是与人工智能相关的价值观。在这种情况下，强调人类自主的价值观有助于解决部分选择架构师的数据管理问题，也有助于探索人工智能助推在决策过程和认知能力形成过程中所扮演的角色。例如，斯塔福德郡的一项试点研究探索了亚马逊 Alexa 在糖尿病患者或其他健康和依赖需求（如焦虑和抑郁）患者治疗护理上的潜力。该研究报告称，Alexa 可以对患者和家庭护理人员产生巨大的积极影响，例如增强其独立性并且对病人健康状况长期的管理。

无恶意的价值需要设计师了解系统的能力和限制，以避免过度使用或误用 AI 技术可能造成的危害。就亚马逊 Alexa 而言，隐私问题只是其可能的危害之一。与目前正在审理的案件密切相关，史蒂芬指出，AI设计还可能包括其他风险，例如患者不必要的预约和担忧，某些医疗和护理人员失业，医疗保健系统内外的专业知识和责任的重新分配，不同领域和不同价值指标的相互联系，以及像私营科技公司这样的市场驱动系统可能对制定医疗保健议程和研究产生的主要和潜在的负面影响等等。

公平的价值旨在消除不公平的歧视，确保人工智能的使用创造共享（或至少可共享）的利益时避免新的危害，例如破坏现有社会结构。亚马逊 Alexa 或其他类似的数字助理可能会加剧负担得起的人和负担不起的人之间现有的（数字）健康鸿沟。此外，没有任何安全措施可以防止第三方或黑客和恶意行为者窃取数据的可能性。除了受助者的个人层面及其隐私权和医疗保健权之外，公平价值关键在于医疗保健中可能的干预手段和方式的正当理由的集体维度。因此，设计师有理由根据其社会政治相关性来界定人工智能健康助推系统，以此规范和促进对数字健康数据的关系和平等形式的可访问性，以及民主（开放讨论和争论）的控制方式。

最后，可解释性的价值意味着设计师需要了解人工智能系统，保证它们是透明、可理解的。同时，设计师还需要考虑人工智能的决策过程，找到代理人/代理机构对系统的工作方式负责。这是一个复杂的问题，因为部署和开发此类技术的人员和组织数量众多，而且这些代理机构通常不太理解 AI的工作机制。

制定设计要求

在涉及预测分析、剖析和超越玄机设计的AI设计中，传统的知情同意或公开原则的透明性不足以维护和尊重用户的审慎选择和自由。一些学者提出，除了用户行为的个人层面之外，AI玄机设计在医疗保健中的危机涉及健康数据的性质和公共价值，以及这可能带来的社会、经济和政治后果。除了透明度和公开性问题之外，史蒂芬表示，设计师还应该评估AI设计在社会上的接受度和普及度。

Source: Steven Umbrello’s slides

在该图中，史蒂芬选择公平值作为示例，解释了如何将价值观层级结构作为将抽象值转换为具体的设计要求。此处的公平性，作为欧盟 HLEG 的更高级别价值之一，可以通过至少两个 AI4SG 规范（2 和 6）转化为与该价值及其相关规范一致的设计要求。这里展示的仅仅是其中的一种转化可能性。当然，设计要求或其价值（取决于所采用的层次结构的方向）会随着任何给定设计域的各种上下文因素而变化。简而言之，转化的可能性有无数个，设计师们可以根据自己的理解尽情尝试。

原型设计

最后是原型制作的最后阶段。这不仅涉及技术系统的技术和功能的测试，而且还以更基本的方式分析其在地性和使用领域可能产生的伦理和社会影响。原型制作包括包括模型、原型或在地性的开发和共筑，旨在确定价值和其他因素对直接和间接利益相关者和所涉技术的影响。亚马逊 Alexa 的案例是一个相关的案例，不仅因为它无处不在，而且它的可访问性易于被现有的健康领域采纳和实施。Alexa 的普及加速了技术中系统的交互作用。像 Alexa 这样的技术可以扩展应用于地理、文化和人口统计等多个方面。在这个阶段，鉴于在地案例，其社会/道德功能都可以以安全的方式进行渗透测试。而危机或固有矛盾则可能触发这四个阶段循环后的另一次迭代。

人工智能引发的社会议题并非不能解决。人类总能找到前进的道路，我们会在探索过程中找到既可以避免伤害，又可以真正促进社会公益的两全其美的方式。

阅读原文 * 文章为作者独立观点，不代表数艺网立场转载须知: 本文内容由数艺网收录采集自微信公众号艾厂人工智能艺术中心 ，并经数艺网进行了排版优化。转载此文章请在文章开头和结尾标注“作者”、“来源：数艺网” 并附上本页链接：如您不希望被数艺网所收录，感觉到侵犯到了您的权益，请及时告知数艺网，我们表示诚挚的歉意，并及时处理或删除。

数字媒体艺术新媒体艺术人工智能玄机设计数字语音助手

27147