浙江日报 数字报纸


00005版:观点

AI不该成为谣言“二传手”

  ■ 王妤晗

  近日,歌手汪苏泷把小红书AI助手“点点”给投诉了,这个AI模型抓取了网络上的零散信息,转头向用户输出“乐坛杜鹃”“纸上压轴”“克泷羊”等带有贬损性质的外号,引得汪苏泷方以“损害个人名誉”为由向平台发起投诉。

  一个AI助手,怎么就成了不实信息的“二传手”?

  按理说,AI是工具,工具没有恶意,它只是把网上已有的东西搬过来、拼起来、递出去。可问题就出在这“搬”和“递”上。过去有人造谣,好歹是躲在键盘后面匿名发帖,明眼人一看来源就知道可能真假参半,不能全信。现在呢?谣言被AI吞进去再放出来,这就披上了一层人工智能的皮,语气笃定,格式规整。谣言还是那个谣言,可信度却被人工智能技术“镀了金”,让谣言升了级。

  有人或许要替AI喊冤:网上本来就有这些说法,AI只是“如实呈现”。但“如实呈现”就是对的吗?网上还有人骂街呢,AI难道也学着骂?网上还有诈骗信息,AI难道也整合到用户面前?工具没有恶意,但设计工具、运营工具的人有责任。AI不是从石头缝里蹦出来的,它被喂养什么数据、怎么加权、输出时如何措辞,每一步都是人的选择。把网络垃圾不加甄别地吞进去,再原封不动地吐给用户,这不是中立,这是失责。

  AI是好东西,查资料、理思路、省时间,谁用谁知道。但好东西更需要好规矩。不能让泼脏水、做坏事的人藏到了AI背后,更不能让平台用“技术自动生成”几个字,把责任推得一干二净。平台既然把AI推到用户面前,就得对它的输出负责。抓取什么数据、过滤什么内容、遇到错误信息怎么响应,这些规矩不立起来,AI就如一匹脱缰之马。今天纵容AI给一个歌手起不实外号,明天它就敢给一个普通人编造莫须有的劣迹。

  今天,我们追问一个AI助手为何沦为谣言“二传手”,其实是在追问:技术狂奔的时代,责任能否跟上发展的脚步?法治能否划清边界?一个健康的社会,容不得谣言披着智能的外衣招摇过市,更容不得平台以“技术中立”之名行失责之实。这不仅是对一个歌手的交代,更是对亿万网民、对整个社会信任基石的守护。

  (作者系浙江师范大学学生)