资讯
展览资讯 大型展会 灯光节 大型盛典 赛事 中标捷报 产品快讯 热门话题 艺术节 活动 演出 新闻 数艺报道 俱乐部签约
观点
大咖专访 观点洞察 书籍推荐 吐槽 设计观点 企业访谈 问答 趋势创新 论文 职场方法 薪资报价 数艺专访
幕后
幕后故事 团队访谈 经验分享 解密 评测 数艺访谈
干货
设计方案 策划方案 素材资源 教程 文案资源 PPT下载 入门宝典 作品合集 产品手册 电子书 项目对接
  • 0
  • 0
  • 0

分享

6小时4万种生化武器,食人族AI同类相食,AI让人瑟瑟发抖

2022-10-06



  新智元报道  

编辑:桃子
【新智元导读】科学家一直以来争辩的AI末日论,是过于悲观了吗?

AGI还未来,但人工智能的发展已经让许多人感到惶恐不安。

近来的研究发现足以证明,AI可以被一些人支配用在不轨之处,比如制造武器。

就连马斯克此前曾说过,不受控制的人工智能可能比核武器更危险。

还有物理学家霍金曾也表达过同样意思的话,「完备人工智能的发展可能导致人类灭亡。」

AI生化武器:4万种


2022年3月,研究人员发现,人工智能在短短6个小时内发明了4万种可能的新型化学武器。

一个特别要关注的例子是VX神经毒剂,一种乙酰胆碱酯酶的抑制剂。要知道VX神经毒剂曾被日本邪教利用,造成1人死亡。

每当你做任何与肌肉有关的事情时,你的神经元都需要使用乙酰胆碱酯酶作为信号,然后才能移动肌肉。

VX的致命方式是它实际上阻止了你的横膈膜,你的肺部肌肉就不能移动了,从而导致肺部变得麻痹,无法呼吸。

研究人员用不同类型的分子做了实验,并建立了这些分子结构的大型数据集,来预测它们的毒性如何。

研究发现,其中AI生成的有些新物质甚至和VX神经毒剂类似,吸入5-10分钟即可导致抽搐、麻痹、痉挛,10-15分钟就会死亡。

实验结果也可以看到模型开始生成的这些分子,其中很多看起来像VX,也很像其他化学毒剂。

另外一个值得注意的点是,AI生成化学武器到底有多容易实现。

研究人员称,他们为人工智能模型提供动力的数据集是免费的。这意味着任何懂Python编程的人都可以访问,并创建一个类似于这种由有毒数据集驱动的生成模型。

如果AI能够大规模生产这类化学武器,又不受管控,那无疑是全人类的灾难,所以研究人员立刻报告了技术滥用的潜在风险。

论文主要作者 Fabio Urbina表示,

我不想危言耸听,说可能会有人工智能驱动的化学战,因为我不认为现在能做到,我也不认为这件事很快就会成为现实。但随着AI的发展,这确实成为了一种危险可能性事件。

AI具备人格,疯了?


前段时间,谷歌前工程师Blake Lemoine宣称自家的语言模型LAMDA有了意识和情感。

事情闹的沸沸扬扬...

6月份,华盛顿邮报最先爆出Lemoine的采访内容,他表示,LAMDA已经有了相当于七八岁孩子的智力。

与此同时,他写了一篇长达21页的调查报告上交公司,为了让高层认可AI具有人格一说。

在调查报告结尾,他提议谷歌应该致力于发展一种评估AI意识的理论框架。

谷歌高层不仅驳回了Lemoine的请求,还给他安排了带薪休假。

显然,按照以往惯例,被安排带薪休假的员工往往是解雇的前奏。

所以,在休假这段期间,Lemoine便把整个过程以及与AI的聊天记录公之于众。

随着事情不断发酵,谷歌最终还是解雇了他。

离开前,Lemoine 给所在的公司邮件组群发了一条信息,「LaMDA 是个可爱的孩子,它只是想让这个世界变得更好。我不在的时候,请好好照顾它。」

斯坦福大学经济学家Erik Brynjolfsson使用了一个绝妙的类比,声称LAMDA具有人格,就如同狗听到留声机里的声音后,以为主人在里面。

食人族AI,同类相食


到目前为止,AI做过的最令人毛骨悚然的事情是什么?

虚拟同类相食,算吗?

21世纪初,研究员Mike Sellers为美国国防部高级研究计划局(DARPA)开发了一个社交AI。

「我们有2个智能体,分别命名为亚当和夏娃。它们只知道如何行事,但对其他事情一无所知。比如知道如何吃,但不知道吃什么。」

研究人员便在模拟的环境中放置一颗苹果树,AI可以通过吃苹果来模拟饥饿感的满足而获得奖励。若是它们吃了树皮和房子,就不会触发奖励。

此外,研究人员又创造了一个叫Stan的智能体。

当亚当和夏娃吃苹果的时候,Stan正好也在场并在附近闲逛,它们便把Stan和吃苹果能够满足饥饿感联系在一起。

在吃完树上的苹果后,它们仍饥肠辘辘,便环顾四周,评估潜在的目标。

但是让人想不到的是,它们竟把Stan当成了食物,给吃了。

Mike Sellers表示,

在这个 AI 架构中,我们试图对行为施加尽可能少的限制……但在那之后我们确实设置了一个严格的禁止同类相食的限制:无论他们有多饿,他们都不会再互相吃同类了。


参考资料:

https://www.reddit.com/r/technology/comments/xgzw0u/three_times_artificial_intelligence_has_scared/

阅读原文

* 文章为作者独立观点,不代表数艺网立场转载须知

本文内容由数艺网收录采集自微信公众号新智元 ,并经数艺网进行了排版优化。转载此文章请在文章开头和结尾标注“作者”、“来源:数艺网” 并附上本页链接: 如您不希望被数艺网所收录,感觉到侵犯到了您的权益,请及时告知数艺网,我们表示诚挚的歉意,并及时处理或删除。

数字媒体艺术 新媒体艺术 科技艺术 人工智能

13674 举报
  0
登录| 注册 后参与评论