OpenDetector AI
按申请开展评估利用 AI 生成信号对文本进行人工复核优先级排序。
- 适用场景
- 来自文档、提交材料及出版发布工作流的文本。
涵盖您所需语种与长度的人工撰写、AI 生成、经编辑及改写的文本。
检测信号仅用于辅助人工审核，不能证明作者身份，也不构成自动做出不利决定的依据。
Forward Intelligence / OpenDetector
为您的 AI 业务流程注入安全检测能力。
对疑似 AI 生成的文本进行优先级排序以供人工审阅。在模型与智能体执行操作前评估提示词注入与越狱风险信号。选择契合您工作流需求的检测模型与运行策略。
按需申请评估。生产环境访问权限、服务版本、检测覆盖范围及商务条款将针对您的具体部署进行确认。
检测信号与策略决策
将策略控制权牢牢掌握在自己手中。
检测得分只是工作流的一项输入。您的策略决定了何时记录信号、请求人工审阅或阻断操作。
AI 文本检测与提示词注入检测相互独立运行。AI 生成的文本可能是良性的，而人工编写的文本也可能包含攻击指令。请使用各自对应的标注样本分别进行评估。
为不确定性结果制定预案。
针对过短文本、不支持的语言、不完整的文本提取或检测器不可用等情况，必须配置明确的降级回退机制。切勿将未覆盖的情况默认视为审批通过。
将提示词安全防护与受限的工具权限、经授权的检索机制以及关键操作的人工审批结合使用。
定义覆盖范围与决策逻辑选择检测能力接入的位置
检测 API
规划独立集成方案，对提交的文本进行评分并返回结构化信号。可与您的现有应用程序及任何模型提供商配合使用。
推理与智能体护栏
在用户输入、知识检索与工具调用边界处规划安全检查。建议先从观察模式（Observation Mode）起步，再商定何时触发人工审阅或执行阻断。
私有化部署
针对特定的企业工作负载规划预留容量、运行区域、数据处理方式及版本控制。
试点将衡量受支持的输入类型与响应行为。具体得分、分类及文档覆盖范围取决于双方商定的服务契约。