智能体 / JevModel
在工具调用前增加判断关口
将模型信号与确定性的权限校验结合。
只问明确的关口问题
Noul 可以估计拟议动作是否符合某一明确条件,例如“用户是否明确要求发送这封邮件”。输入中放入拟议动作和相关对话片段。不要把多个独立要求合并成一个概率。
硬边界仍用硬规则
身份验证、权限和允许的目标地址应由确定性规则执行。模型可以安排复核或识别不确定性,但不能为自己授予能力。
JevModel 为独立项目,与 TypeSafe AI 无关联。
智能体 / JevModel
将模型信号与确定性的权限校验结合。
Noul 可以估计拟议动作是否符合某一明确条件,例如“用户是否明确要求发送这封邮件”。输入中放入拟议动作和相关对话片段。不要把多个独立要求合并成一个概率。
身份验证、权限和允许的目标地址应由确定性规则执行。模型可以安排复核或识别不确定性,但不能为自己授予能力。
JevModel 为独立项目,与 TypeSafe AI 无关联。