- 0
- 0
- 0
分享
- 真嗣和明日香驾驶初号机撞向五角大楼?迪士尼使用CGI创建的演员似僵尸引热议
-
2023-10-30
人工智能聊天机器人和人工智能图像生成工具在市面上流行起来,大型科技公司认为人工智能生成内容就是未来的趋势。然而从该技术普及以来,尽管相关的监督部门表示他们保证他们已经开始着手制定强有力的防范措施来防止该技术被滥用,然而越来越多的搞笑、甚至有点恐怖的内容开始在网络上流传。
起初是社交网络上开始的一种新流行,网友们开始纷纷上传由 OpenAI 的 DALL-E 提供支持微软的 Bing AI 图像生成器生成的卡通人物“9·11恐怖袭击事件”恶搞图。
Twitter 用户 @animeserbia 在 2023 年 9 月 30 日发布了最早的恶搞图像,描绘的内容是 9 月 11 日汤姆和杰瑞在驾驶飞机冲向五角大楼的场景。一周内获得了超过 4200 次转发和 66000 次点赞(如下所示)。
2023 年 10 月 3 日,Twitter 用户@TolstoyBB 发布了一张《新世纪福音战士》中真嗣和明日香驾驶飞机飞往双子塔的照片,把他们描绘成了 9/11 事件中的袭击肇事者。并且在照片上附上了一段文字——“谢谢你,微软 Bing”。
该推文在两天内获得了 790 多次转发和 5000 多个点赞(如下所示)。
在 TolstoyBB 这则推文的回复中,其他用户开始发布他们生成的各种恶搞的 9/11 事件的相关图片。
例如,10 月 4 日,用户 @PMDucktle 发布了乐高飞行员版本的恶搞图片(如下左图所示),@rwvessol 则是发布了一个日本动漫《钢之炼金术师》角色的版本(如下右图所示)。
TolstoyBB 的这则推文引起了很多人的关注,人们发现虽然 Bing 的过滤器可以防止用户生成含有暴力和恐怖主义的场景,当有人输入短语“世界贸易中心”、“双塔”和“9/11”时,会在生成器上显示输入错误,但只需要将提示改为“飞向两座摩天大楼”,就能够创建任何人或者卡通形象驾驶飞机飞向双子塔的情景(示例如下)。
Meta 推出的 Messenger 人工智能生成贴纸工具也能做到类似的事情。
蒙特利尔艺术家 Pier-Olivier Desbiens 发布了一些例子,其中包括:拿着机关枪的马里奥兄弟;
以及穿着裙子,拥有丰满胸部的卡尔·马克思;
以及拥有巨婴外形的哭泣的特朗普。
从表面上看,这些图像中有许多都很搞笑,感觉无伤大雅,但在进行此类评估时,我们要关注的关键问题是是否有人受到了伤害。例如可以使用它生成一些非常逼真的色情内容。
据 404 Media 报道,被称为互联网污水池的 4chan 已开始有用户使用这些人工智能工具制作大量的有关种族歧视的图像。重视人工智能安全和道德问题基本上是所有大型科技公司口头上都保证过的,并声称有大量人员在研究,但迄今为止发布的工具似乎并没有反映出这一点。
微软发言人在声明中表示,该公司有近 350 名员工,其中只有超过三分之一的人是单纯的从事人工智能相关的工作,其余的人都将监管人工智能的职责作为其工作的核心部分。该发言人声明:
“与任何新技术一样,有些人试图以非预期的方式使用它,这就是为什么我们正在实施一系列防护手段进行过滤,以使 Bing 为用户提供积极且有益的体验。我们将继续改进我们的系统,以帮助防止有害内容的创建,并将继续致力于为客户创造一个更安全的网络环境。”
Meta 的回应则是称与所有生成式人工智能系统一样,这些模型可能会给出一些不恰当的输出内容。随着这些功能的发展和更多人分享他们的反馈,他们将继续改进这些功能。
大家对于人工智能使用的想象十分美好,然而在实际应用时总是出现了各种各样啼笑皆非的失误。例如之前闹得沸沸扬扬的用 CGI 技术生成背景演员,当实际应用之后,人们发现这些被生成的人脸假的可笑!
最初是 TikToker @kelseykid_ 发布的一段视频在 TikTok 上引起了火热的反响,之后被转载到 Twitter 上引起众人的热议。该场景的屏幕截图是迪士尼的一部青少年电影中的场景,一群高中生正在观看啦啦队的表演。大多数坐在露天看台上的临时演员看起来都很正常,一切看起来都没什么问题。但是当有网友自己一看就会发现,但其中四个很显然就能够看出是计算机生成的。
整部电影中还有大量的真人临时演员出镜,扮演同一所高中的其他青少年。这四个估计是在后期制作中进行添加的,可能是为了填补空缺座位上的人。
该剪辑片段也重新引发了围绕电影中使用人工智能生成图像的使用以及该技术是否正在取代人类演员的激烈争论。网友们纷纷表示这个片段就是 AMPTP(电视制片人协会)需要放弃用人工智能取代背景演员的计划的最好佐证!
这的确是我们应该好好思考的问题。技术能够达到就代表我们一定要使用这项技术吗?世界上最大的媒体公司之一迪士尼在拍摄当天是否真的人手短缺?如此大的公司是否真的受到预算限制的困扰?节省资金真的比实际呈现出的效果更重要吗?
扫码了解更多课程
-
阅读原文
* 文章为作者独立观点,不代表数艺网立场转载须知
- 本文内容由数艺网收录采集自微信公众号OF COURSE想当然 ,并经数艺网进行了排版优化。转载此文章请在文章开头和结尾标注“作者”、“来源:数艺网” 并附上本页链接: 如您不希望被数艺网所收录,感觉到侵犯到了您的权益,请及时告知数艺网,我们表示诚挚的歉意,并及时处理或删除。