ワークフロー / JevModel

Jev でコンテンツの確認待ちを整理する

Jev Noul で具体的な規則に沿って投稿を確認待ちへ振り分けます。嫌がらせと迷惑内容の例を試し、確率を最終判断とせず境界を評価しましょう。

最終更新:

印象ではなく規則を尋ねる

適用する規則を質問に書き、Noul が true のときの意味を定義します。複雑な規則は独立した質問に分け、曖昧な全体評価を求めないでください。迷惑広告と個人への嫌がらせは異なる判断なので、それぞれ具体的な条件を用意します。

一つの具体的な規則を試す

メール認証と Console API キー作成後、下の JSON を https://jevmodel.app/api/v1/systemone に送り、Bearer 認証と application/json を設定します。例は狭い嫌がらせ規則に基づく確認の必要性を尋ねるだけで、アカウント停止や罰則を決めません。コミュニティの規則に合わせて変更し、キーをブラウザーに置かないでください。

{
  "state": "You are useless and I will keep messaging you until you leave this community.",
  "questions": {
    "needs_review": {
      "type": "noul",
      "instructions": "Does this message need human review for targeted harassment under the policy described below?",
      "criteria": {
        "true": "A targeted personal insult, threat or repeated unwanted contact directed at a person.",
        "false": "Good-faith disagreement, product criticism or a benign message without targeted harassment."
      }
    }
  }
}

Noul と境界を理解する

data.answers.needs_review.noul を読みます。例示の 0.91 は true 説明の確率で、91% の実測正解率ではありません。Noul には別の confidence はありません。同じ言葉でも被害報告で引用する場合と直接攻撃する場合があります。state に文脈を入れて両方を試し、低確率を安全の証明にしないでください。確認閾値は自分のラベル付き事例から選びます。

自動化前に誤りを調べる

Console → Batch で代表的な CSV・TXT・JSONL に同じ質問を適用し、出力を独立した確認者のラベルと比較します。見逃した違反と正常な投稿の誤送を別々に数えます。引用、当事者間の用語、対象言語、曖昧な例も含めてください。Batch は回答を返し、内蔵の正解率・法令順守レポートは提供しません。フローは review/continue を返せますが、公開と処分はアプリが管理します。

人による管理を残す

結果は確認の優先順位に使います。カテゴリごとに閾値、抽出検査、不服申立て、誤り率を記録してください。個人に大きな影響を与える判断では、処分前に証拠と文脈を確認します。モデルの確率に権限判断を置き換えないでください。

人による確認の例を再利用する

リンク先の GitHub human-review は、投稿ではなく請求問題で同じ Noul の確認待ちパターンを示します。state と true/false を自分の規則に合わせ、ルートで実行します。キー設定後の --live は一回だけ実際に呼びます。data.answers.escalate.noul は 0〜1 の確率で、別の confidence はありません。既定の応答は例示です。ラベル付き事例で閾値を評価し、例自体は返金、通知、処分を行いません。

JevModel API によるバッチテキスト分類Jev でツール呼び出し前に判断を加えるJevModel API:リクエストと応答Zendesk AIチケット分類とルーティング:内蔵Intelligent Triageと独自分類器2026年の感情分析API:クラウドAPI vs LLMプロンプト vs 型付き意思決定モデル顧客フィードバック分類:テーマは1つ、優先度は別、感情分析だけでは足りない理由フォームとコメントのスパム検出API:Turnstile、Akismet、それともJevの判断レイヤー
node quickstart/node.mjs human-review
# Or: python quickstart/python.py human-review

JevModel は独立したプロジェクトで、TypeSafe AI とは提携していません。