分类

← View All Tools

违禁词检测器 - AI内容安全审核

智能检测文本中的敏感词汇、不当内容和违规行为，提供详细分析和修改建议，适用于内容审核、安全检测等场景

任何需要进行安全分析的文本内容 - 文章、评论、帖子、文档等。

关键信息

分类
AI Tools
输入类型
textarea, select
输出类型
stream
样本覆盖
4
支持 API
Yes

概览

违禁词检测器是一款基于人工智能的内容安全审核工具，能够精准识别文本中的敏感词汇、不当内容及潜在违规风险，并提供专业的修改建议，助力企业与个人快速完成内容合规性检查。

适用场景

  • •在发布社交媒体帖子或文章前，进行合规性自查以避免违规风险。
  • •处理大量用户生成内容（UGC）时，快速筛选出不当言论或敏感信息。
  • •在商业营销或教育内容创作中，确保文本符合特定场景的安全标准。

工作原理

  • •在输入框中粘贴需要审核的文本内容。
  • •根据发布场景选择对应的检测类型（如社交媒体、商业或教育）。
  • •设置检测严格程度，并选择是否获取修改建议。
  • •点击检测后，系统将实时分析并输出详细的违规报告及优化方案。

使用场景

社交媒体运营：批量过滤评论区敏感词，维护社区健康氛围。
企业合规审核：检查营销文案是否符合广告法及行业规范。
教育内容创作：确保教学资料内容适龄，排除不当表述。

用户案例

1. 社交媒体文案合规检查

新媒体运营
背景原因
运营人员需要发布一篇推广文案，担心文中包含可能触发平台审核机制的敏感词汇。
解决问题
手动排查耗时且容易遗漏隐蔽的违规词。
如何使用
将文案粘贴至输入框，选择“社交媒体”检测类型，并将严格程度设为“中”。
效果
系统识别出文中两处潜在风险词，并给出了符合平台规范的替换建议，确保文案顺利发布。

2. 企业营销邮件安全过滤

市场部主管
背景原因
部门计划向客户发送一批营销邮件，需确保内容符合法律法规，避免被判定为垃圾邮件或违规内容。
解决问题
需要快速验证大段营销文本的合规性。
如何使用
输入邮件正文，选择“商业”检测类型，开启“包含建议”功能，并导出为 CSV 报告。
效果
系统精准定位了不当用词，并提供了合规的修改建议，帮助团队规避了潜在的法律风险。

用 Samples 测试

text
ELK Stack 日志分析示例
全面的 ELK Stack（Elasticsearch、Logstash、Kibana）示例，用于分布式系统中的日志聚合、处理和可视化
title token analysis
text
Splunk 日志分析示例
全面的 Splunk 配置和查询示例，用于日志分析、监控和运营智能
title token analysis
text
中英混合文本示例
用于测试自动添加空格工具的中英文混合内容示例文本文件
matched family text
text
路径分析器样本
来自Windows、Linux和macOS的文件系统路径综合集合，用于路径分析和测试
matched family text
text

相关专题

TextAnalyze工具专题
探索 12 个围绕 text 的 analyze 工作流工具，快速找到相近能力。
TextConvert工具专题
探索 80 个围绕 text 的 convert 工作流工具，快速找到相近能力。
Text 工具专题
探索 33 个围绕 text 的 utility 工作流工具，快速找到相近能力。
TextFormat工具专题
探索 9 个围绕 text 的 format 工作流工具，快速找到相近能力。

常见问题

该工具支持哪些类型的文本检测？

支持包括通用、儿童友好、职场沟通、社交媒体、教育、商业及法律等多种场景的合规性检测。

检测结果是否包含修改建议？

是的，您可以选择开启“包含建议”功能，系统会针对检测到的违规内容提供具体的优化方案。

如何调整检测的灵敏度？

您可以通过“检测严格程度”选项，在低、中、高三个级别中进行选择，以适应不同的审核需求。

支持导出哪些格式的报告？

检测结果支持导出为纯文本、Markdown、JSON 数据或 CSV 报告格式。

该工具是否保护隐私？

我们致力于保护用户隐私，所有输入的文本仅用于实时分析，不会被用于训练模型或存储。

API 文档

请求端点

POST /zh/api/tools/content-moderation-detector

请求参数

参数名 类型 必填 描述
text textarea 是 任何需要进行安全分析的文本内容 - 文章、评论、帖子、文档等。
detectionType select 否 -
strictness select 否 -
language select 否 -
includeSuggestions select 否 -
exportFormat select 否 -

响应格式

data: {"chunk": "data: processed content 1", "type": "stream"}


data: {"chunk": "data: processed content 2", "type": "stream"}


data: {"type": "done"}
流式: 流式

AI MCP 文档

将此工具添加到您的 MCP 服务器配置中： 

{
  "mcpServers": {
    "elysiatools-content-moderation-detector": {
      "name": "content-moderation-detector",
      "description": "智能检测文本中的敏感词汇、不当内容和违规行为，提供详细分析和修改建议，适用于内容审核、安全检测等场景",
      "baseUrl": "https://elysiatools.com/mcp/sse?toolId=content-moderation-detector",
      "command": "",
      "args": [],
      "env": {},
      "isActive": true,
      "type": "sse"
    }
  }
}

你可以串联多个工具，比如：`https://elysiatools.com/mcp/sse?toolId=png-to-webp,jpg-to-webp,gif-to-webp`，最多20个。

如果遇见问题，请联系我们：[email protected]