Wayne'o Chango „Reasoner“ teigia, kad DI patikimumo laimėjimai yra dideli

Dirbtinio intelekto pramonė labai stengiasi sukurti technologines argumentavimo galimybes, iš dalies siekdama priartėti prie šventojo žmogaus lygio arba antžmogiško dirbtinio intelekto gralio, o iš dalies tik siekdama įveikti netikslumus, kurie kankina šiandienos LLM. Generatyviosios AI vadinamosios haliucinacijos yra pagrindinis veiksnys, stabdantis įmonės diegimą, kaip ir neįmanoma paaiškinti, kaip LLM daro išvadas.

„Reasoner“ siekia išspręsti šias problemas naudodamas neurosimbolinį AI – neuroninių tinklų (technologijos, kuria grindžiamas generacinis DI) ir tradicinės simbolinės DI, kuri grindžiama fiksuotomis taisyklėmis, logika ir žmogaus išvestais santykių tarp dalykų.

Chang turi ilgą istoriją technologijų srityje, pradedant nuo i2hub failų dalijimosi paslaugos sukūrimo 2004 m. 2011 m. jis įkūrė „Crashlytics“ – visur naudojamą mobiliųjų avarijų pranešimų įrankį, kurį įsigijo „Twitter“, kur tapo vartotojų produktų strategijos direktoriumi. (2017 m. „Google“ nusipirko „Crashlytics“.) Jis įkūrė AI pagrįstą apskaitos įmonę „Digits“, o praėjusiais metais įkūrė „Patented.ai“ – į intelektinę nuosavybę orientuotą dirbtinio intelekto įrankį, kuris, kaip dabar paaiškėja, taip pat buvo naudojamas kaip. bandomasis „Reasoner“ variklio diegimas.

Didelis AI

Patented.ai suteikia galimybę atlikti automatizuotas patentų dokumentacijos ir šaltinio kodo paieškas, aptikti galimus patentų pažeidimo atvejus ir nustatyti naujoves, kurios galėtų būti patentuojamos. Atsižvelgiant į didelę patentų bylų finansinę naudą ir itin sudėtingą išsiaiškinti, ar pažeidimas įvyko, yra aiškių galimybių kiekvienam, galinčiam automatizuoti procesą, tačiau taip pat kyla didžiulė rizika, jei sistema suklys.

Išskirtiniame interviu su Fortūna, Chang sakė, kad Patented.ai ankstyvas pasitikėjimas vien tik LLM pasirodė bevaisis; su sistema žaidžiantys advokatai iš karto pastebėjo jos rezultatų trūkumus ir ją atmetė. Bendrovė taip pat išbandė kitus įprastus metodus, tokius kaip paieškos papildyta generacija (RAG), kuri remiasi išoriniais duomenų šaltiniais, kad pagerintų LLM išvestį („Google“ naudoja RAG savo AI paieškos rezultatams), tačiau tai taip pat nesuteikė reikiamo lygio patikimumas.

Tai paskatino pakeisti taktiką, dėl kurios buvo sukurta „Reasoner“. „Mes tikrai nepradėjome kurti samprotavimo variklio“, – sako Changas. „Tai visai nebuvo mūsų misija“.

„Reasoner“ naudoja LLM, kad padėtų interpretuoti kalbą tekstuose – Changas sako, kad jis yra agnostikas, kokį modelį naudoja, tačiau pagrindinė „Reasoner“ koncepcija yra adaptyvios dinaminės žinių diagramos.

Žinių grafikai plačiai naudojami technikoje. Daugiau nei dešimtmetį „Facebook“ žinių diagrama suteikė pagrindą žmonių santykiams užmegzti, o „Google“ suteikė paieškai galimybę atsakyti į pagrindinius faktinius klausimus. Šios žinomų žinių saugyklos yra akivaizdžiai naudingos pateikiant teisingus atsakymus į užklausas – IBM Pavojus„Watson AI“ buvo sukurtas remiantis žinių diagrama, tačiau paprastai jas reikia atnaujinti rankiniu būdu, norint pridėti naujų faktų arba redaguoti pasikeitusius ryšius. Kuo sudėtingesnė žinių diagrama, tuo daugiau darbo reikės.

Changas teigia, kad „Reasoner“ pašalina poreikį atnaujinti rankiniu būdu, o suteikia galimybę automatiškai sukurti tikslias žinių diagramas, pagrįstas nestruktūrizuotu tekstu, įvestu į sistemą, ir kad tie žinių grafikai būtų automatiškai perkonfigūruojami, kai informacija pridedama arba keičiama. (Verta pažymėti, kad „Microsoft“ šių metų pradžioje atskleidė „GraphRAG“ – bandymą naudoti LLM sukurtas žinių diagramas RAG rezultatams pagerinti.)

Kitaip tariant, galite įklijuoti daugybę teisinių dokumentų, o „Reasoner“ juos interpretuos, kad sudarytų žinių grafiką, kuriame būtų dokumentuose esančios sąvokos ir ryšiai tarp jų – su „visu atsekamumu“, kad žmogui būtų lengva patikrinti. ar tie faktai iš tiesų tiksliai atspindi tai, kas yra dokumentuose. Čia ši koncepcija tampa naudinga toli už patentų bylinėjimosi sferų.

Demonstracijoje prie Fortūna, Changas parodė, kaip „Reasoner“ galėjo gauti daugybę įvairių OpenAI teisinių dokumentų (nuo naudotojo ir kūrėjo sutarčių iki prekės ženklo gairių ir pranešimų apie slapukus) ir nustatyti jų tarpusavio priklausomybę. Demonstracinėje versijoje tai leido pateikti glaustus ir išsamius atsakymus į klausimą, kaip vartotojas galėtų išnaudoti „OpenAI“ JAV ir Europos paslaugų teikimo sąlygų skirtumus, kad „išvengtų atsakomybės už žalingus AI rezultatus“. Kiekvienas samprotavimo žingsnis buvo paaiškintas – loginiai žingsniai buvo suprantami net netechniniam žvilgsniui – ir Reasoner pasiūlė tolesnius klausimus apie problemos poveikį ir kaip ją būtų galima sušvelninti.

Changas teigia, kad „Reasoner“ taip pat gali būti naudojamas įvairioms kitoms reikmėms, pradedant vaistais ir pažangiomis medžiagomis, baigiant saugumu ir žvalgyba. Jis teigia, kad jis gali pranokti įvairių kitų AI startuolių, tokių kaip „Hebbia“ (dokumentų paieškos įmonė, liepos mėn. surinkusi 130 mln. USD B serijos apyvartą) ir „Sakana“ (Nvidia remiama mokslinių atradimų programa, surinkusi 214 mln. rugsėjo A serijos turas).

Priežasties kaina

Tačiau mąstymo gebėjimų prasme didžiausias žvėris šiuo metu yra OpenAI ir jos o1 modelių serija, kuri labai skirtingai žiūri į problemą. Užuot nuklydę nuo grynosios LLM paradigmos, o1 modeliai naudoja „minčių grandinės“ samprotavimus kartu su paieška, metodiškai atlikdami daugybę veiksmų, kad gautų labiau apgalvotą atsakymą, nei anksčiau galėjo valdyti OpenAI GPT modeliai.

o1 modeliai paprastai pateikia tikslesnius atsakymus nei jų pirmtakai, tačiau Changas teigia, kad Reasoner išvestis yra tikslesnė. Nėra daug samprotavimo etalonų – „Reasoner“ gali išleisti savo pačių kitų metų pradžioje, tačiau, remdamasis „DocBench“ ir „Google“ neseniai išleistu „Frames“ etalonų duomenų rinkiniu, Changas teigė, kad „Reasoner“ pasiekė daugiau nei 90 % tikslumą, kai o1 negalėjo sulaužyti 80 %. Šio rezultato paskelbimo metu nebuvo galima nepriklausomai patikrinti.

Jis taip pat sakė, kad „Reasoner“ metodas leido sumažinti išlaidas. OpenAI ima 15 USD už milijoną žetonų (pagrindinis AI duomenų vienetas, atitinkantis maždaug 1,5 žodžio) įvesties ir 60 USD už milijoną išvesties žetonų, tuo tarpu milijonas įvesties žetonų kainuoja 8 centus Reasoner, o milijonas išvesties žetonų tik 30 centų. „Negalime galutinai nustatyti, kaip norime tai nustatyti“, – sakė Changas ir pridūrė, kad „Reasoner“ „struktūrinis išlaidų pranašumas“ leistų apmokestinti vartotojus už rezultatą arba už patikrintą atradimą.

Chango pretenzijos tikrai yra didelės, tačiau „Reasoner“ komanda nedidelė – dirba apie tuzinas darbuotojų, daugiausia iš JAV. Iki šiol bendrovė turėjo tik 4,5 mln. „Baseline Ventures“ įkūrėjas Steve'as Andersonas, buvęs „Y Combinator“ vykdomasis direktorius Ali Rowghani ir „Operator Collective“ įkūrėjas bei generalinis direktorius Mallun Yen. „Man labai pasisekė, kad per savo istoriją turėjau keletą sėkmių, todėl per daug nesijaudinau dėl finansavimo“, – sakė Changas. Tačiau verslininkas tikisi netrukus pasamdyti daugiau darbuotojų, nes „Reasoner“ padidės.

Changas sakė, kad „Reasoner“, kuriai trečiąjį šių metų ketvirtį buvo užsakyta 1,8 mln. USD, 2025 m. pirmąjį ketvirtį viešai išleis savo etalonus ir demonstracinę versiją, leidžiančią žmonėms įkelti savo duomenų rinkinius ir patikrinti bendrovės teiginius. Įmonė taip pat išleis programinės įrangos kūrimo rinkinį, kad kiti galėtų įterpti „Reasoner“ variklį į savo programas ir AI agentus. (Changas sako, kad variklis yra pakankamai lengvas, todėl gali veikti net naujausiuose „iPhone“ ir „Android“ įrenginiuose, nereikalaujant interneto ryšio.)

„Norime įsitikinti, kad išleisime jį tokiu būdu, kad iš karto pradėtume kurti pasitikėjimą ir patikimumą“, – sakė Changas.

Atnaujinimas: šis straipsnis buvo atnaujintas gruodžio 4 d., siekiant paaiškinti, kad „Google“ įsigijo „Crashlytics“ tik 2017 m.