Jev、メール分類ベンチマークでGeminiに敗れるも実運用を検討
著者は、産業サプライヤーからのドイツ語・英語のビジネスメール1,565通を10カテゴリで分類するベンチマークでJevをテストし、Geminiより精度が低いものの、誤りの傾向に関心を持ち、実運用を検討している。
TypeSafe AIのJevモデルを従業員サーベイの自由記述分類に使った業務検証記事の要点と、自分ならどう試すかをまとめたスレッド。
自分も悩んでた「分類タスクをLLMに任せる」問題、ようやく整理できた気がする。 TypeSafe AIのJevというモデルが「判断だけを返す」設計で話題になっていて、従業員サーベイの自由記述分類に使う業務検証記事を読んだ。要点と、自分ならこう試す、をまとめておく。 🧵 #AI実装ノウハウ