被問「要怎麼放進判斷標準」時卡住了
錄NexA Voice時,AI主持人問了好幾次:Jev要怎麼放進你的判斷標準?判斷方式會因此改變嗎?我卡住,不是因為沒想過,而是我們從一開始就不是用「把某個東西放在判斷中心」的想法來設計系統。
我們的系統,一開始就是並行的
公司內部包括Repo Deck和nexa-agent在內,同時運行著各種AI,需要時再當作零件接進來。判斷在decision graph裡並排累積,Jev只是多加進來的一票。新模型來了,不代表一切都會被它取代,這當然不會發生。而且Jev本來就沒有那麼通用。沒有萬能的AI,正確答案也不只一個。不是由中央拍板最後的判斷,而是每個零件去做它認為更好的事,出了問題再修。
嬰兒會走會說,也考不上大學
Jev不笨,但也稱不上聰明。剛出生的嬰兒說了句話、走了幾步,你一定會嚇一跳。但只會說話走路,能不能考上大學?不能。老實說,不太好用。更何況手邊有本地LLM,實際上只要電費。一般的判斷,沒有理由特地選Jev。
用得上的地方:寬鬆的判斷,同時大量,而且要快
想過之後,剩下一個用途:頻率極高、要求寬鬆的判斷,需要高速處理的時候。例如VTuber直播時,要飛快挑出可疑留言。本地LLM處理不了大量同時的請求,而需要同時大量、快速處理的事情,確實存在。不過我們不是做直播的公司,所以現在沒有用武之地。因此Jev會作為「其中之一」留在手邊,每次有新工具出現,就照樣再驗證一次。