OpenDetector AI
按申请开展评估利用 AI 生成信号对文本进行人工复核优先级排序。
- 适用场景
- 来自文档、提交材料及出版发布工作流的文本。
涵盖您所需语种与长度的人工撰写、AI 生成、经编辑及改写的文本。
检测信号仅用于辅助人工审核，不能证明作者身份，也不构成自动做出不利决定的依据。
Forward Intelligence / OpenDetector
为您的 AI 业务流程注入安全检测能力。
对疑似 AI 生成的文本进行优先级排序以供人工审阅。在模型与智能体执行操作前评估提示词注入与越狱风险信号。选择契合您工作流需求的检测模型与运行策略。
按需申请评估。生产环境访问权限、服务版本、检测覆盖范围及商务条款将针对您的具体部署进行确认。
可量化的准入路径
从边界清晰的评估开始。
所选模型： OpenDetector AI. 提交请求时将保留此选择。
试点将在投入生产前确认覆盖范围、运行策略、API 契约、账户权限及报价费率。欢迎提供初步估算和仍在完善中的需求。
01准备具有代表性的业务样本
定义文本量、语种、文本长度及来源类型。请包含疑难边界案例与良性内容，并商定统一的样本标注方式。
02商定运行策略
设定可接受的误报率、漏报率、人工审阅工作量及响应时间。定义当检测覆盖不完整或检测器不可用时的处理机制。
03验证并启用访问权限
固定服务版本并量化评估试点效果。在投入生产使用前，确认 API 契约、账户权限、计费费率及上线推广决策。
检测信号与策略决策
将策略控制权牢牢掌握在自己手中。
检测得分只是工作流的一项输入。您的策略决定了何时记录信号、请求人工审阅或阻断操作。
AI 文本检测与提示词注入检测相互独立运行。AI 生成的文本可能是良性的，而人工编写的文本也可能包含攻击指令。请使用各自对应的标注样本分别进行评估。
为不确定性结果制定预案。
针对过短文本、不支持的语言、不完整的文本提取或检测器不可用等情况，必须配置明确的降级回退机制。切勿将未覆盖的情况默认视为审批通过。
将提示词安全防护与受限的工具权限、经授权的检索机制以及关键操作的人工审批结合使用。
定义覆盖范围与决策逻辑选择检测能力接入的位置
检测 API
规划独立集成方案，对提交的文本进行评分并返回结构化信号。可与您的现有应用程序及任何模型提供商配合使用。
推理与智能体护栏
在用户输入、知识检索与工具调用边界处规划安全检查。建议先从观察模式（Observation Mode）起步，再商定何时触发人工审阅或执行阻断。
私有化部署
针对特定的企业工作负载规划预留容量、运行区域、数据处理方式及版本控制。
试点将衡量受支持的输入类型与响应行为。具体得分、分类及文档覆盖范围取决于双方商定的服务契约。