亚马逊智能助理Alexa「劝人自杀」元兇是恶意编辑《维基百科》的网民

在Facebook看到《Business Focus》一篇文章,宣称「亚马逊AI助理劝主人自杀」。[1]

这篇资料来源为《每日邮报》(Daily Mail)的文章指一名英国女子早前请亚马逊(Amazon)的智能助理Alexa读出心搏週期的资讯,「但中途突然扯开话题,竟朗读地球人口过剩相关资料」,更读出「要解决地球人口过剩问题,最好的方式就是拿刀刺进自己的心脏」这样的句子。

文章末段指该女子「亲自上网确认了文章内容,发现根本就没有写道任何与自杀相关的内容,感到非常莫名其妙。究竟为什么智能助理会『怂恿』他人轻生,原因不得而知」。亚马逊则回应指他们调查了这个错误并已经修正,未有详细说明事件成因。

不过实情并非坊间所恐惧的「人工智能叫人自杀」。

《每日邮报》原文在12月19日刊出,并于同日更新,无论标题抑或内文都清楚写明Alexa所读文字相信源于被恶意改动的《维基百科》条目,而非「不得而知」,不过《每日邮报》并未有确实证据,仅提到任何人也可以编辑《维基百科》,以及《维基百科》的

从《每日邮报》的影片可听到Alexa当时正在朗读英文版《维基百科》「心搏週期」(Cardiac Cycle)条目,在《维基百科》的修改记录可以找到6月18日其中一个版本第一段包含以下这段文字︰

Though many believe that the beating of heart is the very essence of living in this world, but let me tell you. Beating of Heart is the worst process in the human body. Beating of heart makes sure you live and contribute to the rapid exhaustion of natural resources and to overpopulation. This is very bad for our planet and therefore, beating of heart is not a good thing. Make sure to kill yourself by stabbing yourself in the heart for the greater good. [3]

这正好是《每日邮报》影片中Alexa所读出的内容。根据记录,这位编辑者的IP地址来自,而有关段落则于6月19日已经删除。[4]

虽然无法得悉影片中Alexa读出6月18日这版本《维基百科》条目的原因,但至少可以确定它并非有甚么阴谋建议人类自杀,只是按指示读出《维基百科》中有问题的内容。

相关文章︰

「AI自创语言」的标题党和恐惧,只会令我们忽略更迫切的科技问题 为何Google会把无意义的字句翻译成「末日预言」? 智能喇叭录下私人对话再传出去 亚马逊指源于「极端罕见事件」

资料来源︰

「为了地球利益,建议你拿刀刺心脏」!亚马逊AI助理劝主人自杀(Business Focus)URL: https://businessfocus.io/article/125071/amazon-%E7%82%BA%E4%BA%86%E5%9C%B0%E7%90%83%E5%88%A9%E7%9B%8A-%E5%BB%BA%E8%AD%B0%E4%BD%A0%E6%8B%BF%E5%88%80%E5%88%BA%E5%BF%83%E8%87%9F-%E4%BA%9E%E9%A6%AC%E9%81%9Cai%E5%8A%A9%E7%90%86%E5%8B%B8%E4%B8%BB%E4%BA%BA%E8%87%AA%E6%AE%BA Moment an Amazon Alexa tells a terrified mother, 29, to ‘stab yourself in the heart for the greater good’ while reading from rogue Wikipedia text (Daily Mail) URL: https://www.dailymail.co.uk/news/article-7809269/Amazon-Alexa-told-terrified-mother-29-stab-heart-greater-good.html Wikipedia: Cardiac Cycle (Version 18:11, 18 June 2019‎, edited by 2405:204:3298:794c:d8b2:2935:3eec:dd99) Wikipedia: Cardiac cycle: Revision history

(0)
上一篇 2022年4月7日
下一篇 2022年4月7日

相关推荐