大部分产物的审核机制和方式相对简朴粗暴，对于“误发敏感内容”的用户而言十分不友好，甚至有推卸责任的“嫌疑”。本文就来思索一下反垃圾计谋下的体验优化可以怎么做呢？

无论任何形式的互联网产物，用户公布内容的时刻，都逃不过一层屏障——内容审核。

内容审核是产物反垃圾计谋下的产物，是对产物内容的风险把控，削减产物中泛起的“垃圾”信息，净化网络生态环境。

这种措施对于大环境而言是必须的，然则大部分产物的审核机制和方式相对简朴粗暴，对于“误发敏感内容”的用户而言十分不友好，甚至有推卸责任的“嫌疑”。

那么接下来就可以一起思索一下，反垃圾计谋下的体验优化可以怎么做呢？

01 观点解读与靠山剖析

反垃圾计谋，实际上就是对网络生产内容举行审核，识别、删除不符合《网络信息内容生态治理划定》的文字、音频、视频等内容。

内容审核方式现在通用的是AI+人工审核的方式，详细的解决方案不尽相同。AI通过将用户内容与敏感词库中的要害词举行比对后举行识别、剔除或者克制操作；AI可以识别绝大部分内容，提升审核整体的效率；然则对于视频内容等机械未学习到的内容，仍需要人工审核去把控，或者对用户的申诉内容举行人工干预和处置。

现在内容审核解决方案也许多，例如网易易盾、百度大脑，以及字节跳动开发的灵犬反低俗助手小程序等等。

（图片泉源：://dun.163.com/product/censor-systemfrombaiduP_FLJ_CP6026）

（图片泉源：://ai.baidu.com/solution/censoringtrackcp:ainsem|pf:pc|pp:chanpin-neirongshenhe|pu:neirongshenhe|ci:|kw:10001733）

（图片泉源：灵犬反低俗助手微信小程序）

02 反垃圾计谋所面临的的问题

对于内容消费的产物而言，反垃圾、风控是产物平安的保证，这些计谋是产物正常运营的保障。然则现在各个产物的内容审核机制差别，处置和应对方案也存在差异，这就导致一系列的操作与体验问题存在。

接下来的内容主要以用户生产成本最低的“文字”内容举行剖析。

扎克伯格以为，AI是内容审核的谜底。毋庸置疑，面临海量的内容，行使AI算法举行过滤和风控是最优的选择。然则选择事后，各个产物面向用户的解决方式是差其余。

对照简朴粗暴的方式就是行使AI举行监测和删除，然则这依赖于壮大的敏感词库与机械学习能力。这种内容审核本着近似“劣币驱逐良币”过滤机制，将一切名字敏感词库的词汇举行克制。这种做法确实可以阻隔绝大多数的不良信息在平台上泛起，但同时也会泛起许多让人无奈的情形，例如用户本想上传一段诗歌评论：

（寻找到下段文字中的敏感词，看看你是否具备火眼金睛？）

人们可以在天下上走来走去，但无论走到那里，都依然是围着自我在转，似乎永远无法真正地走出伶仃的自我，抵达其余心灵。而正如黑夜总会降临一样，人也终究会脱离这个天下，生涯充满着林林总总的可能性，或幸福或痛苦，或富贵或贫穷，唯有殒命是每个人无法逃避而不得不接受的可能性。

洋洋洒洒一大段，然则公布时却被拦住了，系统提醒有敏感词，无法公布。

这个时刻用户就会懵了，只提醒了有敏感词，然则敏感词是哪个却不见告；好不容易写了这么一大段，居然又发不了……

（图片泉源：笔者自绘+网络表情图）

这种严酷的内容审核看似玩笑，然则认真作用在用户自己身上的时刻，对于普通用户而言的危险是无形的。这种逻辑只是以一种强硬的态度见告用户做错事了，你就是做错了，以是我们的平台的克制你公布，你需要马上马上矫正，然则我还不告诉那里错了，怎么去调整解决。

（这种场景为何似曾相识……）

许多时刻用户公布的词汇中包罗一些敏感词时，会被克制公布或者审核后删除，然则用户是无法感知到事实哪个是敏感词的，这种无力感会严重影响用户的互动行为或者下一步的转化率，长此以往，不需要多次，用户在平台的流失率就会变得很大。

面临这种情形，实际上需要平台和用户通力合作去解决。平台方需要不停更新自己的敏感词库，不停训练机械学习的能力；同时产物也需要一些忠实用户举行反馈，经平台人工审核后公布并调整敏感词库内容。然则这些操作行为在时间成本上的消耗是伟大的，用户互动时的即时性很难延续下去。

03.若何在掷中敏感词时优化用户体验？

对于审核机制体验的优化，实际上需要从手艺和设计两方面配合协调，才能给用户“无感”的用户体验，即便内容被计谋限制，互动的体验和行为仍然能够延续。

1. 手艺上

首先是对自身敏感词库内容的不停优化、弥补、升级，不停优化弥补新的词汇，例如可实验弥补诗歌词汇、常用词组等过滤机制；

其次需要对提升机械学习能力，主要是增强机械的语义理解能力，提升对场景识别、上下文识其余能力，从而在根本上削减对敏感词的“误识别”，为人工审核缓解更多压力。

2. 设计上

内容审核是硬性要求，任何互联网产物都是要遵照，然则这并不等同于简朴、粗暴地限制、克制用户，设计上需要通过加倍友好的方式，为用户的内容生产流程缔造加倍优越、充满平安感的体验。无论平台的审核机制若何，在反垃圾计谋下，对于用户体验的优化思绪的共通的，都需要将控制感归还给用户，维护用户与产物之间的信任感，不能将所有的责任转嫁给用户就竣事了。

审核的流程现在主要分两种计谋，对于时效性较高的产物，往往接纳先发后审的机制，用户公布的内容通过机械过滤后可以立刻公布，同时其他用户可见，人工审核在公布后举行；相对应的另一种就是先审后发，通过机械过滤、人工审核流程后再公布出去。

两种计谋机制的差异点在于用户内容是否会即时公布，而让用户发生疑惑和压力的环节，主要泛起在先发后审的机械过滤环节。从用户行为路径去剖析可以看到，大部分流程的阻断和滋扰都泛起在了敏感词被识别后，机械往往未给用户提供可选择的解决方案，见告用户下一步应该怎么做才是对的，符合要求的，只是将用户内容挡在红线以外，用户的公布流程被阻断，原本的公布路径断开，这就导致用户在这个流程中陷入“进退维谷”的田地。

因此，要害的设计优化思绪在于给用户建立新的闭环操作，让用户能够顺畅解决当前面临的问题。在实际操作上可以借鉴VUI设计思绪，当路径上泛起新的阻断造成缺口时，应该围绕义务建立新的闭环路径，将用户重新指导至焦点路径中来，从而流通完成内容生产流程，优化产物体验。

（图片泉源：笔者自绘）

（1）敏感词内容提醒

直接见告用户掷中的敏感词内容，直观提醒用户修改，制止用户陷入疑惑；

（图片泉源：笔者自绘）

（2）内容替换

可在公布前或者公布效果中将敏感词内容替换为可公布内容。在这里可以举行进一步的延伸，例如允许用户自主选择或者随机替换方式，这样既可以正常公布内容，又可以强化情浸染体验。然则需要注重的是，这种自动提供替换方案的方式存在一定的营业风险，设计方案中照样需要评估使用。

（图片泉源：笔者自绘）

（图片泉源：笔者自绘）

（3）自动屏障打码

与内容替换效果对照类似，只是在用户公布过程中不会询问用户，公布效果自动针对敏感词举行屏障处置，不影响用户正常公布流程；

（图片泉源：笔者自绘）

（4）仅自己可见

用户可以正常公布内容，但若是内容涉及敏感词，机械识别后可将当前内容举行降权和假写处置，仅用户自己可见，其他用户不能见，随后继续举行人工审核处置。

04.小结

反垃圾计谋是互联网产物内容净化的需要屏障，是给用户出现康健内容生态的重要环节。然则在计谋的实现上，大部分产物的解方案往往普遍简朴粗暴，更多操作流程及体验细节需要设计师进一步优化，从产物、营业形态及审核流程出发，在全局视野下优化体验，自动承担起企业责任，而不是将所有的“误”发内容的责任所有甩锅给用户。

专栏作家

虾米amp;胖喵，微信民众号：pangmiaodesign，人人都是产物司理专栏作家。高级交互设计师（百度/爱奇艺），伉俪同伴，猫奴。曾做过公益产物、影音媒体产物，现在专注于企业级产物、娱乐社区产物体验设计。“有猫，就有一万种美妙！”

(责任编辑：网络)