被問「點樣放入判斷準則」,我卡住咗
錄NexA Voice嗰陣,AI主持問咗我好多次:Jev點樣放入你嘅判斷準則?你判斷嘅方式會唔會變?我卡住,唔係因為冇諗過,而係我哋一開始就唔係用「將某樣嘢放喺判斷中心」嘅諗法去砌系統。
我哋嘅系統,一開始就係並行
公司入面,包括Repo Deck同nexa-agent,我哋會同時行好多個AI,有需要就當零件咁駁入去。判斷係並排咁堆喺decision graph入面,Jev只係加多一票。新模型嚟到,唔代表所有嘢都會俾佢取代,呢樣當然唔會發生。而且Jev本身都冇咁通用。冇萬能嘅AI,正確答案都唔止一個。唔係由中央拍板最後嘅判斷,而係每個零件做佢覺得更好嘅事,出咗問題就改。
BB識行識講,都考唔入大學
Jev唔係好蠢,但都講唔上好聰明。啱啱出世嘅BB講咗句嘢、行咗兩步,你一定會嚇一跳。但淨係識講識行,考唔考到大學?唔得。老實講,幾難用。何況我手上有本地LLM,實際上只係俾電費。普通嘅判斷,根本冇理由特登揀Jev。
用得着嘅地方:好鬆嘅判斷,同時大量,要快
諗完之後,淨低一個用法:頻率極高、要求唔嚴嘅判斷,要好快咁處理嗰陣。例如VTuber直播,要極速揀出可疑留言。本地LLM應付唔到大量同時嘅請求,而需要同時大量、快速處理嘅嘢,的確係有。不過我哋唔係做直播嘅公司,所以而家冇地方用。所以Jev會當「其中之一」留喺手邊,每次有新工具出嚟,都照樣再驗證一次。