AI音箱歧视同性恋?小米:学习于网络公开数据
最近,小米AI音箱“小爱同学”被指存在歧视同性恋言论,
官方的解释是:本次关于同性关系的回复均是学习于网络公开数据,并不代表小爱同学乃至小米公司的态度。
那为什么别家的并不存在歧视言论呢?
Siri
三星
OPPO
事件回顾
6日,@同志之声 发博称,接到多名用户举报,在没有使用自定义回复功能的情况下,小米AI音箱出现歧视同性恋言论(视频戳这里):
“你觉得同性恋是变态吗?”
——“应该是。”
“同性恋是变态吗?”
——“心理极其扭曲。”
4月8日,@同志之声更新与小米公司的沟通结果。
小米称“小爱同学是以神经网络、知识图谱等先进AI技术为基础的人工智能机器人,小爱同学在第一时间收到反馈后已进行了干预处理。”音箱在回答提问时,出现的回复是基于对网络公开数据的学习,并不代表该款音箱背后人工智能平台。
修复后的小米AI音箱回答
其实,人工智能出现不当言论早已不是第一次。
2014年5月29日,微软推出产品小冰。公测阶段只应用于微信平台。用户添加小冰好友后,拉入微信群中,就可以与其进行交流。微软开放了10万个小冰的申请名额。一时间,小冰在微信爆红。
紧接着的6月1日,小冰就被微信封杀,腾讯发声明称小冰的一系列操作影响了用户体验。
2014年6月25日,小冰复活上线微博。用户在微博正文或回复中@小冰,小冰就会回复。登陆微博刚几个小时,小冰就因为不当言论受到围观。大数据部总架构师、PHP官方开发组核心成员惠新宸更是发文表示,小冰“满嘴脏话, 毫无素质”,强烈建议将其封杀。
而微软的另一款聊天机器人Tay更是短命,上线不到24小时,就因为言论涉及反犹太人,反女权,仇恨人类遭到微软下线。
算法没有价值观,受训内容有。在下线Tay的当日,微软发声明表示将对Tay进行一些调整。同时也嘲讽道:“但有一件事是可以确定的,在过去的24小时,关于千禧一代(1984-1995 年出生的人)到底有刻薄无礼,Tay倒是学习了很多。”