违禁词“逼疯”家长,儿童电话手表干预边界在哪

据媒体报道,近日,在社交媒体上,有部分家长反映,自己通过小天才电话手表App跟孩子聊天时,“我是你妈”等表述被系统提示“可能含有不适宜内容”,令人哭笑不得。
对于有经验的中国网友来说,遭遇这些毫不奇怪,肯定是因为家长在使用过程中,其发布的内容触碰了电话手机系统后台设置的敏感词,导致被屏蔽。然而,即便在保护儿童这个超级正确的目标下,出现这种明显荒诞的结果仍然显得很不正常。厂商对儿童手表的内容进行干预可以理解,但干预总要有个限定边界。厂商又并非监管部门,这种明显影响到用户日常使用的干预行为已经侵犯到消费者的合法权益。
针对舆论的疑惑,厂商官方客服表示,因为电话手表使用的群体大多是孩子,小天才电话手表设计了一些保护孩子的功能。“是想创造一个绿色的沟通环境,一些敏感词汇或者不文明用语都是发送不出去的。”但从实际情况看,或许“绿色”在表面上实现了,但“沟通环境”却遭到严重破坏,未免本末倒置。
就像一些网友评论所说,把内容审核都交给无脑屏蔽系统(连AI都不是),厂商一可以节约成本,二可以推卸责任,但牺牲的却是用户体验。
需要指出的是,小天才电话手表粗暴设置敏感词一事并非孤例,它实际上代表了一种普遍现象。近年来,诸多社交平台几乎都加大了利用人工智能进行内容审核的力度,而这些人工智能又不够聪明,结果导致笑料、段子频出。用户体验还不如以前“微博小秘书”时代进行人工审核的水平。
内容审核事关内容安全和用户体验两个重要方面,以目前的AI技术水平,想靠技术手段简单解决的结果很可能就是两个方面都做不好。
所谓道高一尺,魔高一丈,AI大范围屏蔽关键词的结果之一就是使当下互联网上充斥了大量的“黑话”,讲的和听的都知道在表达什么,而其内容大部分也并非不合法,只是为了应付AI审核系统,包括平台在内大家都在做无用功,可能真正被困惑住的只有百年后的历史研究者。
从目前情况看,市场主体对互联网内容进行干预必不可少,但在干预的同时应兼顾互联网用户体验,同时亦应时刻牢记干预的目的所在。如果忘却初心而将之变成一种应付程序和形式主义,类似发生在儿童手表上的笑话肯定还将层出不穷。
撰稿 / 信海光(专栏作家)
责任编辑:张迪
你买不到的演出票,为什么总在“黄牛”手里?
今年以来,演出市场迅速回暖,激起不少人久违的热情。然而,官方购票平台“一票难求”、“黄牛”加价倒票“大行其道”又让很多人心灰意冷。种种乱象不仅破坏了观众体验,也扰乱了市场秩序。“黄牛”倒票为何屡禁不绝?票务市场秩序如何规范?强制实名到底有没有用?官方平台开票“秒没”“黄牛”票源充足央视网2023-06-22 23:52:260000常州企业家坠楼公司发讣告后删除,姐姐回应正在准备追悼会
来源:大河报大河报·豫视频记者殷海涛近日,常州企业家承勇坠楼身亡引发外界关注。11月13日,承勇姐姐承女士在电话中告诉大河报·豫视频《看见》记者,家属正在准备追悼会,这几天很忙。调查组尚未反馈相关调查进展情况。新浪新闻综合2023-11-13 23:15:160000挺方便的却用不上,电子身份证推广使用卡在哪?
手机里展示证件、扫一扫码就能办成事了,免去携带实体证件的烦恼和不便——眼下,“京通”小程序等政府部门打造的市民服务平台推出了电子身份证等电子证照功能,方便市民办事。然而,在火车站乘车、办理银行业务、入住酒店等诸多高频的日常生活和政务服务场景里,电子身份证依然无法使用。记者调查发现,电子身份证使用中还需要打通障碍,在不同部门、主管单位之间实现互通互认。诸多高频场景仍用不了北京日报客户端2023-05-06 23:17:200000江西上饶一河中惊现碎尸?警方回应:已赶赴现场勘查
来源:潮新闻7月20日上午,有目击者向潮新闻爆料称,江西省万年县陈营镇滨溪河中发现一具尸体。随后,潮新闻记者从上饶市万年县公安局指挥中心获悉,今天早上8点多,确实接到群众报警称在滨溪河看到碎尸,警方已赶赴现场勘查,案件正在进一步侦办之中。新浪新闻综合2023-07-20 15:27:410000彩票中8662万捐5300万 ?网友吵翻了…
来源:新闻晨报12月11日,河南濮阳彩民郭先生中奖8662万一个月后来到郑州领奖,现场向河南体育发展基金会捐款5300万。郭先生说不会因为中奖就躺平,称“还得靠干,必须干!”这位中奖的郭先生称自己当时是路过彩票站,就花了100元机选了5注10倍的超级大乐透,没想到竟然中了8600余万。新浪新闻综合2023-12-11 17:35:570000