# 违规检测简介
违规检测基于AI自然语言理解、深度学习等技术，有效识别违规文本内容，具备拼音、谐音、拆字、形近字、影射等变体识别能力。
违规检测能够准确识别出文本中的违禁违规、文本色情、政治敏感、低俗辱骂、低质灌水、恶意推广等内容，避免用户上传违规内容到平台，降低业务风险。
违禁违规： 识别暴力行为、恐怖描述、赌博、毒品、枪支弹药等违禁文字内容。
文本色情： 识别文本中的色情行为描述、色情资源链接、低俗交友、污秽文爱等涉黄内容。
政治敏感： 识别文本中的政治敏感信息。
低俗辱骂： 识别文本中的侮辱谩骂、人身攻击、消极宣泄等不良内容。
低质灌水： 识别网络社区常见的乱码、水帖、刷屏等无意义的灌水信息。
恶意推广： 识别带有售卖意向的软文广告、微信/QQ/联系方式等违规广告，支持包含符号、图标等变异广告。
# 违规检测设置
使用违规检测前需要在云助手管理中启用违规检测功能，同时可以根据需要设置违规检测选项：
保存内容时强制检测
勾选后，当保存内容时系统会自动对包括内容标题、正文、摘要在内的文本进行内容审查，如果识别结果为不合规，系统将禁止保存内容。
可以忽略违规词
勾选后，可以手动忽略本次检测到的违规词，手动忽略的词语下次检测时依然会作为违规词进行提醒。
可以将违规词加入白名单
勾选后，可以手动将检测到的违规词加入白名单，下次检测时白名单内的词语将不再作为违规词进行提醒。
# 违规词白名单
我们可以添加违规词白名单，白名单中的文本将不作为违规内容。
# 违规词黑名单
除了系统判断的违规词，您也可以自定义违规词黑名单，系统将首先匹配文本是否在违规词黑名单中，如果存在将禁止保存。