「判断基準にどう組み込むか」と聞かれて詰まった

NexA Voiceの収録で、AIホストに何度も聞かれた。Jevを判断基準にどう組み込むのか。判断のしかたは変わるのか。答えに詰まったのは、考えていなかったからではない。そもそも、何か一つを判断の中心に据えるという発想で仕組みを作っていないからだ。

うちの仕組みは、最初から並列でできている

社内では、Repo Deckやnexa-agentを含めていろいろなAIを並行して走らせ、必要に応じて部品として組み込む仕組みを作ってある。判断はデシジョングラフに横並びで積まれていて、Jevはそこに加わる1票にすぎない。新しいモデルが来たからといって、全部がそれに置き換わることは当然起きない。そもそもJevは、そこまで汎用的なものではない。万能なAIはないし、正解も一つではない。最後の判断を中央で決めるのではなく、それぞれの部品がベターだと思うことをやり、問題が出たら直す。

赤ちゃんが歩いて喋っても、大学受験には受からない

Jevは大ばかではない。でも、頭が良いというほどでもない。生まれてすぐの赤ちゃんが何か喋って歩いたら、それはびっくりする。けれど、喋って歩けるだけで大学受験に合格できるかといえば、そうではない。正直、使いづらい。しかも手元にはローカルLLMがあって、実際には電気代だけで回せる。普通の判断なら、わざわざJevを選ぶ理由がない。

使いどころは「ゆるい判断を、同時に大量に、速く」

考えた結果、残った使いどころは一つだった。すごい頻度で来るゆるい判断を、高速でさばきたいときだ。たとえばVTuberのライブ配信で、怪しいコメントをすごい勢いで拾い上げる場面。ローカルLLMは、同時に大量のリクエストをさばけない。同時に大量に、速く処理したいものは、確かにある。ただ、うちはライブ配信の会社ではないので、今すぐ使う場面はない。だからJevは「ワンオブゼム」として手元に置き、新しいツールが出るたびに同じ検証を続ける。