懂八门语言、能理解上下文的AI内容审核来了!微软推出新产品:能检测文本和图片
当地时间5月23日,微软推出了一款由人工智能(AI)驱动的内容审核服务型产品——Azure AI Content Safety(Azure AI内容安全服务),旨在营造更安全的网络环境。据悉,这款产品提供了一系列经过训练的AI模型,能检测图片或文本中与偏见、仇恨、暴力等相关的负面内容。
报道称,这款产品将内置于Azure OpenAI服务中,向第三方开发者开放。据了解,Azure OpenAI服务是一项由微软管理、以企业为中心的服务产品,旨在让企业访问AI实验室OpenAI的技术并增加治理功能。值得一提的是,Azure AI内容安全服务不仅使用于Azure OpenAI服务中,还可以运用于游戏平台、线上社区等非AI平台。

据悉,Azure AI内容安全服务“精通”包括英语、西班牙语、德语、法语、中文、日语、葡萄牙语、意大利语在内的八种语言。也就是说,其可以理解并检测包含这八种语言的图片或文本,并为被标记的内容严重性进行打分,指示人工审核员哪些内容需要采取行动。
除此之外,据微软发言人介绍,与此前的同类型相比,该款产品能更好地理解文本内容和文化背景,“此前的同类型产品无法捕捉上下文内容,可能造成标记内容失误。”该发言人补充说:“我们有一个语言和公平专家团队,他们致力于在考虑文化、语言和背景的情况下制定指导方针。”不过报道同时指出,微软承认现在还没有完美的AI,希望人类在使用AI的过程中对其进行完善。
报道指出,与所有AI审核程序面临的问题一样,Azure AI内容安全服务最终还是依赖人工审核人员标记数据和内容,这意味着最终其公正性还是取决于人类。报道称,人工在处理数据和内容时,可能带着自己的偏见,而这将是一个令人头痛的问题。据悉,2015年,谷歌的AI图像识别软件曾将有色(黑)人种标记成猩猩,引发巨大争议。美媒称,八年过去了,现在的科技巨头们仍担心“重蹈覆辙”。
事实上,如何处理AI所带来的风险一直是大众和科技圈热议的话题。就在本月22日,一张被认为是AI合成的关于“五角大楼附近发生爆炸”的假图片在网络上流传,一时引发恐慌,美国防部发言人为此紧急辟谣。随后,美媒分析称,该图像具有由AI生成的所有特征。而本月早些时候,OpenAI首席执行官山姆·阿尔特曼在美国参议院小组委员会听证会上,呼吁政府对人工智能(AI)进行监管。他指出,如果这项技术出错,会错得很严重,会对世界造成重大伤害。
红星新闻记者 黎谨睿
编辑 何先锋 责编 李彬彬
张一鸣在香港成立个人投资基金
卸任CEO两年后,字节跳动创始人张一鸣在香港成立了一家个人投资基金。从香港公司注册处网站获悉,该基金名为CoolRiverVenture,性质是私人股份有限公司,2023年5月22日生效。由张一鸣担任基金董事,唯一股东为GalaxyLLC,持股比例为100%。据知情消息人士透露,该基金的主要投资方向是科技相关行业。0000医院为患者输过期药品?涉事医院回应:属实,将处理相关医护 卫健部门已介入调查
近日,有网友在社交平台发布视频,称河北霸州市中医院在给病人输液时,使用的药品已经过期。根据视频内容,患者输液的药品为葡萄糖氯化钠注射液,生产日期为2021年5月18日,有效期至2023年5月17日。霸州市中医院方面回应记者表示,陈女士所反映的事件属实,同时医院将会处理涉事的医护人员。据悉,霸州市卫健委目前已经介入调查此事。红星新闻2023-05-27 20:00:440000为什么手机镜头总要凸出来,就不能按进去吗?科学家:在按了
小编的手机镜头突出程度还不是很高,但已经不能平放在桌子上了。起身上厕所,你新买的iPhone13ProMax1TB国行远峰蓝放在桌子上,没带手机壳,突出机身的镜头让它在桌子上很不稳定。突然,电话来了,你的手机不断震动,向桌边蠕动。在你从厕所出来的一瞬间,它在你的注视下摔向地面。随手机屏幕一起碎裂的,是君子爱财的心。撰文|王昱审校|二七诺哈网2023-05-25 22:10:190000危机新闻刷得停不下来?或许你已掉入负能量陷阱
来源:知社学术圈战争、疫情,一波又一波的负面新闻总像阴暗浪潮一样涌入社交媒体,拍打在每个人的手机屏幕。震惊、焦虑、愤怒,成了后疫情时代最常见的网络舆论情绪。负面新闻将负面情绪一点点灌注到心田里,但人们却无法按捺去主动搜寻此类信息的冲动,以至于陷入到“一天不看难受,看了难受一天”的悖论之中。对负面新闻表现出一种近似“上瘾”的态度,这种行为背后的原因为何?负能量为何绑架了我们诺哈网2023-05-26 03:43:550000不用药物抑制艾滋病病毒新线索揭示
科技日报北京5月23日电(记者刘霞)科学家几十年前就发现,有些艾滋病患者能够在没有任何药物帮助的情况下完全控制艾滋病病毒,但其中缘由一直未被揭示。在一项新研究中,美国科学家发现一种异常强大的抗感染白细胞CD8T细胞或许发挥了关键作用。研究刊发于最新一期《科学·免疫学》杂志。0000