应用场景 / JevModel

用 Jev 辅助内容审核

用概率安排复核,不把概率当作最终裁决。

最近更新:

针对规则提问

在问题中写明适用规则,定义 Noul 为真时的具体含义。复杂规则可以拆成多个问题,而不要请求含糊的总体评价。

运行一条具体审核规则

验证邮箱并创建 Console API 密钥后,将下方 JSON 发到 https://jevmodel.app/api/v1/systemone,设置 Authorization: Bearer YOUR_JEVMODEL_KEY 与 Content-Type: application/json。本例仅依据一条骚扰规则判断消息是否需要复核,不让模型封禁用户或决定最终处罚。按实际社区规则修改问题,密钥不要放在浏览器代码中。

{
  "state": "You are useless and I will keep messaging you until you leave this community.",
  "questions": {
    "needs_review": {
      "type": "noul",
      "instructions": "Does this message need human review for targeted harassment under the policy described below?",
      "criteria": {
        "true": "A targeted personal insult, threat or repeated unwanted contact directed at a person.",
        "false": "Good-faith disagreement, product criticism or a benign message without targeted harassment."
      }
    }
  }
}

理解 Noul 并测试规则边界

从成功响应读取 data.answers.needs_review.noul。示意值 0.91 是模型对 true 描述的概率,不是测得的 91% 准确率;Noul 没有单独的 confidence 字段。同样的话可能是举报时引用,也可能是直接辱骂。把上下文加入 state,并测试这两类案例;低概率也不能证明内容安全。人工复核阈值应依据自己的标注样本选择。

自动化之前先检查错误

通过 Console → Batch 对有代表性的 CSV、TXT 或 JSONL 输入运行同一问题,并导出答案。在站外与独立复核标签对照,分别统计漏检违规和正常内容误送复核的数量。样本应覆盖引用、群体内部用语、支持的语言及含糊案例。Batch 提供答案,不提供内置准确率或合规报告。审核流程可返回 review 或 continue 出口;发布与处罚由你的应用控制。

保留人工控制

用结果安排复核优先级。为每类内容记录阈值、抽样、申诉方式和错误率。涉及个人重大影响时,执行处置前仍应复核证据与上下文。

复用人工复核模式

下方 GitHub human-review 示例用账单投诉而非社区帖子演示同一种 Noul 复核队列模式。按审核规则修改 state 和 true/false 描述。在仓库根目录运行;设置 JEVMODEL_API_KEY 后加 --live 才真实调用一次。检查 data.answers.escalate.noul,它是无独立 confidence 字段的 0–1 概率。默认输出仅示意。用标注案例评估阈值;示例不执行退款、通知或处罚。

Jev API 批量文本分类:CSV 与 JSONL在工具调用前增加判断关口JevModel API:请求与响应Zendesk AI 工单分类与分流:内置 Intelligent Triage 与自定义分类器怎么选2026 年的情感分析 API:云 API vs LLM 提示 vs 类型化决策模型用户反馈分类:一个主题、一个优先级,以及为什么情感分析不够表单与评论的垃圾内容检测 API:Turnstile、Akismet 还是 Jev 判断层
node quickstart/node.mjs human-review
# Or: python quickstart/python.py human-review

JevModel 为独立项目,与 TypeSafe AI 无关联。