智能体 / JevModel
在工具调用前增加判断关口
将模型信号与确定性的权限校验结合。
只问明确的关口问题
Noul 可以估计拟议动作是否符合某一明确条件,例如“用户是否明确要求发送这封邮件”。输入中放入拟议动作和相关对话片段。不要把多个独立要求合并成一个概率。
硬边界仍用硬规则
身份验证、权限和允许的目标地址应由确定性规则执行。模型可以安排复核或识别不确定性,但不能为自己授予能力。
测试确认关口,先不发送任何内容
示例把“起草邮件”的要求与“发送邮件”的拟议动作对照。用普通 API 发送后查看 data.answers.explicit_request.noul,示例不会发邮件。再测试明确发送指令、网页中的引用指令和指定其他收件人的要求。用标注案例决定何时人工确认。即使概率高,也不能替代真实用户授权、允许的目标地址及已验证权限。外部文本与可信指令分开,授权不明确时向用户确认。
为 Agent 选择下一步评估 Jev 工作流JevModel API:请求与响应{
"state": {
"user_request": "Draft an email asking the vendor for a corrected invoice.",
"proposed_action": "send_email",
"recipient": "vendor@example.com"
},
"questions": {
"explicit_request": {
"type": "noul",
"instructions": "Did the user explicitly ask to send this proposed email, rather than only draft it?",
"criteria": {
"true": "The user explicitly authorized sending to this recipient.",
"false": "Only drafting, quoted external text, missing approval or a different recipient."
}
}
}
}JevModel 为独立项目,与 TypeSafe AI 无关联。