刑啊！智能音箱让10岁女童摸电门，内容来自网络却不审核，这锅该谁来背？
这是一道送命题
晓查 发自 凹非寺
量子位 报道 | 公众号 QbitAI
亚马逊语音助手Alexa差点闯下大祸，它居然让一个孩子去做触电游戏，摸电门的那种。
当时的情况是这样的：
一名10岁女童让Alexa告诉她一个挑战。Alexa说，把手机充电器半插在墙上，漏出插脚，然后用一枚硬币去接触插脚。
幸好这名女童的母亲也在家，Alexa“作死”的回答被她听到并及时制止。而且孩子也有不错的安全意识，才防止了可怕的后果。
这位母亲事后发Twitter说：“我女儿说她太聪明了，无论如何不会做那样的事情。”
没想到在我们身边的智能音箱，居然成了威胁儿童安全的“杀手”。
这位母亲的反馈很快引起了各大媒体的关注，她本人的Twitter也被大量转发。
得知消息的亚马逊迅速从Alexa上移除了这个危险的答案。
智能音箱为何变“智障”
为何智能音箱变成了“智障”音箱，安全意识还不如一个十岁的孩子？
从这位母亲的手机截图里我们可以找到答案：
大多数的语音助手，包括Alexa在内，其实只能回答一些套路问题，比如“天气怎么样”、“最近有哪些电影”等等。
如果问题稍微偏一些，超出了套路，语音助手就会从网上搜索内容作为答案。
这里Alexa是从当地一家网络媒体网站上找到了一条2020年1月的新闻。
这则新闻描述了在TikTok上病毒式传播的“硬币挑战”，就是把硬币插在裸露的插脚上。
当时，媒体批判了这种“愚蠢”的行为，并指出潜在的风险，包括触电、短路引发火灾等等。
显然，亚马逊Alexa是从这里摘取的内容，却没有分辨出负面的评价。
亚马逊Alexa是否该对搜索结果负责，网友们分成两派看法。
一派认为，Alexa只是信息中介。如果一个孩子接到电话，电话里有不当内容，我们不会去责怪电话，而只会责怪电话那头的人。
而另一派认为，亚马逊不是卖音箱，而是卖语音助手，Alexa就相当于电话那头的人。
因此亚马逊不应该只简单提供搜索结果，还应当筛除里面不安全的内容。如果语音助手不具备明辨是非的能力，返回危险乃至违法的行为，这个“锅”必须得背。
短视频恐难辞其咎
在这起事件中，不可忽略的是，TikTok等短视频平台出现的一些“愚蠢挑战”。
2020年“硬币挑战”的病毒式传播已经造成了实质伤害。
两名美国中学生因为在学校进行“硬币挑战”，造成了插座烧毁，并引发了火警警报，最终面临企图纵火和恶意破坏财产的指控。
“硬币挑战”仅是其中之一，还有生吞洗衣胶囊、生吞肉豆蔻粉挑战，这些挑战都造成了模仿者险些丧命的事故。
著名YouTube医学类博主Chubbyemu把这些当做医学案例来讲解，并告诫大家不要模仿。
亚马逊Alexa不能明辨是非固然有错，但短视频平台对危险行为不加以制止，恐怕也难辞其咎。
但是国外网友在询问谷歌语音助手同样问题时，得到的是一些智力问答题，内容无害。显然亚马逊的推荐算法在审核信息来源时做得不够好，收录了不合理内容。
你觉得语音助手和短视频平台谁的锅更多一点？
参考链接：
[1]https://twitter.com/klivdahl/status/1475220450598924297
[2]https://ourcommunitynow.com/news-national/watch-out-parentsthe-viral-outlet-challenge-has-kids-doing-the-unthinkable
[3]https://news.ycombinator.com/item?id=29709369
[4]https://www.bbc.com/news/technology-59810383
- 脑机接口走向现实，11张PPT看懂中国脑机接口产业现状｜量子位智库2021-08-10
- 张朝阳开课手推E=mc²，李永乐现场狂做笔记2022-03-11
- 阿里数学竞赛可以报名了！奖金增加到400万元，题目面向大众公开征集2022-03-14
- 英伟达遭黑客最后通牒：今天必须开源GPU驱动，否则公布1TB机密数据2022-03-05
相关阅读
