Jev AI: https://typesafe.ai
一、誕生背景與命名由來:為自動化痛點而生
Jev 由 TypeSafe AI 開發,創辦人 Diogo Almeida 曾是 OpenAI 團隊成員,也是 RLHF(來自人類回饋的強化學習)與 InstructGPT 相關研究的共同參與者之一。他在離開 OpenAI 後,花了兩年時間研發全新的訓練方法,最終打造出 Jev。
Jev 的名稱取自經濟學家 William Stanley Jevons,呼應經濟學著名的傑文斯悖論(Jevons Paradox)——當一種資源的使用效率提高、成本大幅下降時,人們對該資源的需求反而可能成長。
在現行的 AI 自動化工作流中,許多環節僅需做單純的判斷(如「信件是否要回覆」、「客戶單據該轉交哪個部門」、「留言是否為廣告」)。傳統做法是調用大型語言模型(如 GPT 或 Claude)來處理這些單純的判斷題,可能增加預算,也拖慢整體運作速度。Jev 的出現正是為了填補這個缺口,作為工作流中的高效決策節點。
二、核心運作機制:選擇題取代申論題
傳統的大語言模型運作方式如同撰寫「申論題」,需要逐字生成答案;輸出越長,生成所需的時間通常也越多,同時也伴隨著產生「AI 幻覺」的風險。
相反地,Jev 的運作模式如同撰寫「選擇題」。使用者提供一份資料及一個或多個問題;若是單選題或打分題,還需預先設定選項或評分階梯。
收到請求後,Jev 不會自行撰寫文本,而是回傳預先定義格式的判斷結果與機率。由於其輸出被限制在給定的選項範圍內,不會自行編造新選項;但它仍可能選錯,因此不能將「不產生新選項」視為「判斷不會出錯」。根據 TypeSafe AI 公布的數據,回應時間約為 70 至 500 毫秒。
在成本與速度方面,TypeSafe AI 的特定決策型工作流測試顯示,Jev 相較受測的大模型具有明顯的速度與成本優勢;實際差距仍會因任務與比較對象而異。其公布的價格為每 100 萬輸入 token 0.042 美元,輸出不另計費。
三、支援的三大決策題型
Jev 目前能處理的邏輯判斷主要分為三種型態:
- 是非題(Noul):輸入敘述後,模型回傳 0 到 1 之間的機率。例如詢問「這份發票是否有詐騙疑慮」,若回傳 90% 的機率,自動化系統可將案件標記,交由人員進一步複核。
- 單選題(Choice):使用者可自訂最多 255 個選項,並為選項附上說明。Jev 會挑出最合適的選項,並附上各選項的機率,常用於信件分類或工單路由。
- 打分題(Score):用於評估程度問題。使用者可設定 2 至 10 個階梯的光譜(如從 0 分的「無預算學生」到 3 分的「預算充足大企業」),Jev 可回傳介於階梯之間的分數(如 2.9 分),以便系統通知業務優先跟進高價值客戶。
四、落地案例:建構高效且安全的 AI 客服系統
在企業應用中,Jev 可以擔任自動化流程的第一站與最後一站。以下是一種可行的客服系統設計:
- 第一站:前端路由與標籤化 當客戶提出客訴單時,系統可透過一次 Jev 請求,並行完成五項判定:分類(帳務/系統/其他)、嚴重程度、是否要求退款、是否附帶操作步驟,以及客戶情緒狀態(平靜/不耐/憤怒)。系統隨後根據這些結果與預設規則,將工單派送給對應部門。
- 第二站:大模型生成回覆文本 確認問題類別後,再由具備語言能力的大模型代筆撰寫客製化的回覆信件。
- 最後一站:品管與安全把關 信件發送前,再次呼叫 Jev 進行審查,檢查回覆是否切中問題、語氣是否合適,以及是否可能洩漏公司內部機密。對於有疑慮的回覆,系統可交由人員複核,以降低直接發送錯誤內容的風險。
五、結論
Jev 的出現代表了 AI 自動化思維的轉變:除了問哪個模型最強,也要問哪個模型最適合當下的工作流步驟。
將強大的大模型用於生成回覆,配合快速且平價的 Jev 處理範圍明確的判斷,開發者與企業有機會以更低的營運成本與更高的運作效率,打造更穩健的自動化應用系統。