当前位置:首页 > 知识

不能搜的关键词

我在一家互联网公司做内容安全审核,关键每天面对的关键是成百上千条被算法拦截的搜索词。有些词,关键你输入进去,关键屏幕上只会跳出一行冷冰冰的关键提示:“根据相关法律法规,部分结果未予显示。关键”但真正让我后背发凉的关键,是关键那些连提示都不给,直接静默的关键词。

上个月值夜班,关键系统推送来一条异常记录。关键有人连续七次搜索“怎么让猫吃下洗衣凝珠”,关键每次间隔不超过三分钟。关键IP地址来自一个老旧小区,关键注册手机号的关键主人是个七十多岁的独居老人。我调出她过往的搜索历史——买过老年鞋、查过高血压食谱、搜过广场舞教学视频。那条关于猫和洗衣凝珠的搜索像一根刺,扎在整片平静的数据流里。我上报了,但第二天回访电话打过去,老人说家里根本没养猫。那这七次搜索是误触?是恶作剧?还是某个孩子拿老人手机玩?系统判定为“低危异常”,直接归档了。

这类词有个共同特征:它们不涉及政治敏感、不触碰色情红线,却精准地踩在某个伦理裂缝上。比如“如何让邻居家的狗安静下来”是正常词,但加上“用老鼠药”就变成了禁词。可问题是,一个被狗叫吵了三个月、精神濒临崩溃的人,和一个纯粹想虐待动物的人,搜出的是同一个结果——什么都没有。系统一刀切地把答案封死了,把那个失眠的可怜人也一起封死了。

更吊诡的是“不能搜”本身会制造新的搜索需求。我见过一个十四岁的男孩,因为好奇同学口中“搜了会坐牢的词”,用流量卡在深夜反复尝试各种谐音、拼音缩写、甚至用emoji组合来规避过滤。他最后什么也没搜到,但那个夜晚,他脑子里转过的念头比任何搜索结果都危险。我们屏蔽了关键词,却把好奇心逼成了越狱游戏。

还有个案例让我记到现在。一个中年男人搜索“妻子总说头疼怎么确认她是不是装的”,这词没被禁,但他接着搜了“脑部损伤鉴定标准”和“意外险理赔流程”。三组词单独看都合法,连起来看让人脊背发麻。可系统不这么判断——每条记录都合规,只是时间戳靠得太近。我犹豫了半小时,还是没上报。后来那个男人的妻子因为严重的偏头痛住院了,病历显示是良性肿瘤,手术很成功。我不知道该庆幸自己没多事,还是该警惕自己差点把一场家庭危机误判成谋杀预案。

这些被拦截的搜索词背后,全是活生生的人。有绝望的家属搜“安乐死药物配方”,有被霸凌的学生搜“怎么让同学消失”,有产后抑郁的妈妈搜“婴儿窒息多久会停止呼吸”。他们的共同点是什么?是搜不到答案。但搜不到答案之后呢?有人会去搜更隐蔽的替代词,有人会放弃,也有人会走向无法挽回的下一步。

我常想,真正的安全不该是把所有危险词都抹掉,而是让每个搜出空白页的人,至少能看到一行字:“你需要帮助吗?”可目前的技术做不到——它只会沉默。而沉默,有时候比任何答案都更让人恐惧。

分享到: