智能体 / JevModel

在工具调用前增加判断关口

将模型信号与确定性的权限校验结合。

只问明确的关口问题

Noul 可以估计拟议动作是否符合某一明确条件,例如“用户是否明确要求发送这封邮件”。输入中放入拟议动作和相关对话片段。不要把多个独立要求合并成一个概率。

硬边界仍用硬规则

身份验证、权限和允许的目标地址应由确定性规则执行。模型可以安排复核或识别不确定性,但不能为自己授予能力。

测试确认关口,先不发送任何内容

示例把“起草邮件”的要求与“发送邮件”的拟议动作对照。用普通 API 发送后查看 data.answers.explicit_request.noul,示例不会发邮件。再测试明确发送指令、网页中的引用指令和指定其他收件人的要求。用标注案例决定何时人工确认。即使概率高,也不能替代真实用户授权、允许的目标地址及已验证权限。外部文本与可信指令分开,授权不明确时向用户确认。

为 Agent 选择下一步评估 Jev 工作流JevModel API:请求与响应
{
  "state": {
    "user_request": "Draft an email asking the vendor for a corrected invoice.",
    "proposed_action": "send_email",
    "recipient": "vendor@example.com"
  },
  "questions": {
    "explicit_request": {
      "type": "noul",
      "instructions": "Did the user explicitly ask to send this proposed email, rather than only draft it?",
      "criteria": {
        "true": "The user explicitly authorized sending to this recipient.",
        "false": "Only drafting, quoted external text, missing approval or a different recipient."
      }
    }
  }
}

JevModel 为独立项目,与 TypeSafe AI 无关联。