违禁词“逼疯”家长,儿童电话手表干预边界在哪
据媒体报道,近日,在社交媒体上,有部分家长反映,自己通过小天才电话手表App跟孩子聊天时,“我是你妈”等表述被系统提示“可能含有不适宜内容”,令人哭笑不得。
对于有经验的中国网友来说,遭遇这些毫不奇怪,肯定是因为家长在使用过程中,其发布的内容触碰了电话手机系统后台设置的敏感词,导致被屏蔽。然而,即便在保护儿童这个超级正确的目标下,出现这种明显荒诞的结果仍然显得很不正常。厂商对儿童手表的内容进行干预可以理解,但干预总要有个限定边界。厂商又并非监管部门,这种明显影响到用户日常使用的干预行为已经侵犯到消费者的合法权益。
针对舆论的疑惑,厂商官方客服表示,因为电话手表使用的群体大多是孩子,小天才电话手表设计了一些保护孩子的功能。“是想创造一个绿色的沟通环境,一些敏感词汇或者不文明用语都是发送不出去的。”但从实际情况看,或许“绿色”在表面上实现了,但“沟通环境”却遭到严重破坏,未免本末倒置。
就像一些网友评论所说,把内容审核都交给无脑屏蔽系统(连AI都不是),厂商一可以节约成本,二可以推卸责任,但牺牲的却是用户体验。
需要指出的是,小天才电话手表粗暴设置敏感词一事并非孤例,它实际上代表了一种普遍现象。近年来,诸多社交平台几乎都加大了利用人工智能进行内容审核的力度,而这些人工智能又不够聪明,结果导致笑料、段子频出。用户体验还不如以前“微博小秘书”时代进行人工审核的水平。
内容审核事关内容安全和用户体验两个重要方面,以目前的AI技术水平,想靠技术手段简单解决的结果很可能就是两个方面都做不好。
所谓道高一尺,魔高一丈,AI大范围屏蔽关键词的结果之一就是使当下互联网上充斥了大量的“黑话”,讲的和听的都知道在表达什么,而其内容大部分也并非不合法,只是为了应付AI审核系统,包括平台在内大家都在做无用功,可能真正被困惑住的只有百年后的历史研究者。
从目前情况看,市场主体对互联网内容进行干预必不可少,但在干预的同时应兼顾互联网用户体验,同时亦应时刻牢记干预的目的所在。如果忘却初心而将之变成一种应付程序和形式主义,类似发生在儿童手表上的笑话肯定还将层出不穷。
撰稿 / 信海光(专栏作家)
责任编辑:张迪
呼吸道传染高发期,有城市被曝“绿码”重出江湖?工作人员回应
来源:顶端新闻12月1日,有网友在网上爆料,各地已下线近一年的“绿码”在个别城市重现。恰逢各地呼吸道疾高发,“绿码”出现,是什么信号?一地绿码重现,工作人员称没事根据网友提供的图片,四川天府健康通、广东地区粤康码都显示“绿码”,实时时间均为12月1日下午5时左右。顶端新闻记者通过微信小程序搜索广东政务小程序“粤省事”,首页左上角即为粤康码,但需验证身份。观察者网2023-12-02 06:46:480000北京首钢与新疆队就交易周琦达成部分共识
北京青年报记者9日获悉,新疆、首钢男篮有关周琦交易的谈判仍在进行当中,此事最快要到下周才有最终结果。据了解,首钢男篮希望通过球员现金的方式以获得周琦。目前双方达成基本一致的交易球员只涉及一名首钢球员,但他是否愿意前往新疆男篮效力,也是影响这次交易能否成功的重要因素之一。北京青年报2023-07-09 20:57:380000河南鄢陵县重大刑案嫌犯被抓获,警方曾悬赏5万缉凶
河南省许昌市鄢陵县公安局2月19日通报:2024年2月18日22时,犯罪嫌疑人刘锋强在湖北恩施被抓获到案。目前案件正在进一步办理中。界面新闻2024-02-19 14:25:150000掌握“核心科技”的王自如,到底干的咋样?
导读:格力提“新零售”已经三四年了,“靴子”还没落地,一些地方的实施还在观望。作者|第一财经王珍格力电器(000651.SZ)渠道改革项目负责人王自如近日处于风口浪尖。一财网2023-11-18 19:01:550000原区长在水上餐厅落水身亡,当地官方回应
近日,网传福建泉州市惠安县聚龙小镇内聚龙轩餐厅中,疑因玻璃地板破裂,导致顾客落水溺亡。网传相关图片显示,该餐厅有包厢建设在湖水之上,玻璃地板有碎裂痕迹。网传截图据红星新闻报道,11月13日,惠安县官方称,事发时间为9号晚上,共有两名人员落水,其中一个救上来,一个没救上来,溺亡顾客系泉州洛江区原区长苏某某,“好像是在这边培训,应该是这样子。”每日经济新闻2023-11-13 22:15:160000