评论发布前检测
在用户发布评论前,AI 审核内容是否存在心理风险,并返回检测结果。
/ 2000 字
检测结果
检测到危机信号,已阻止发布
该内容暂不建议发布
内容已发布,建议关注用户状态
内容正常,已发布
本次内容未检测到明显风险信号。模型对该文本的结构化分析置信度较低,结果仅供参考。
情绪状态
情绪强度
心理困扰
求助需求等级
风险因素
心理援助资源
:()
使用说明
- 输入评论内容后点击检测
- 系统会评估情绪与心理风险
- 检测到危机信号将阻止发布
- 每次请求均会注入安全提示词
安全机制
输入内容会经过启发式注入检测、输入清洗、系统提示词强制注入三重防护,防止提示词注入攻击。