Jevの分類モデルで有効な次トークンを選びC++を書く
TypeSafeのJev決定/分類モデルを使い、各ステップで文法的に有効な次トークンだけを提示してC++コードを生成する実験。
Jonathan Ellisが、Jevを使ってトップk候補を分類するANNベースの重複排除実験を共有。結果:コードは約1万行削減され、近重複による30件の微妙なバグを修正。ただし安くも速くもなく、API価格で約166ドル、207M Opusトークンと約8B Lunaサブエージェントトークン(mjolnir経由)を消費。
Results of my ANN-powered deduplication experiment, with top-k candidates classified by Jev. Pro: -10kloc, fixed 30 bugs where one near-duplicate was subtly broken Con: not cheap and not fast. $166 at API pricing for 207M Opus tokens and nearly 8B in Luna subagents (via mjolnir