Usporava li meteorski uspon umjetne inteligencije
‘Insajderi’ iz industrije počinju priznavati da veliki jezički modeli (LLM) ne mogu rasti unedogled iako se opskrbljuju s više podataka i računarske snage.
U Silicijskoj dolini polako raste uvjerenje koje bi moglo imati goleme posljedice – usporava se napredak velikih modela umjetne inteligencije (AI), za koje se očekuje da će u bliskoj budućnosti doseći ljudsku razinu, piše AFP.
Od entuzijastičnog lansiranja govornog robota ChatGPT-ja prije dvije godine, kako navodi ista agencija, pobornici umjetne inteligencije smatrali su da će njezina postignuća eksponencijalno ubrzati pošto su tehnološki divovi olakšali proces računarskom snagom te velikim količinama podataka za obučavanje modela.
Nastavite čitati
list of 4 itemsGoogle najavio najnapredniji AI model do sada
Putin: Rusija i BRICS će stvoriti AI savez
Trumpovi ‘tehnološki ljudi’ koji žele promijeniti Washington
Mislili su da to ovisi samo o resursima: osigura li se dovoljno računarske snage i podataka, pojavit će se opća umjetna inteligencija (AGI) s jednakim ili većim sposobnostima od ljudskih.
Proces je napredovao toliko brzo da su vodeće ličnosti iz industrije, uključujući Elona Muska, tražile moratorij na istraživanje umjetne inteligencije.
Međutim, piše dalje AFP, velike tehnološke kompanije, uključujući Muskove, nisu prestale s radom nego su potrošile desetke milijardi dolara kako ne bi zaostale u razvoju.
OpenAI, organizacija odgovorna za ChatGPT koju podržava Microsoft, nedavno je prikupila 6,6 milijardi dolara za finansiranje daljnjeg napretka.
xAI, Muskova kompanija za umjetnu inteligenciju, trenutno prikuplja šest milijardi dolara kako bi kupila 100.000 čipova kompanije Nvidia, koji pogone rad velikih modela.
Međutim, čini se da na putu prema općoj umjetnoj inteligenciji postoje zapreke.
‘Insajderi’ iz industrije počinju priznavati da veliki jezički modeli (LLM) ne mogu rasti unedogled iako se opskrbljuju s više podataka i računarske snage.
Uprkos ogromnim ulaganjima, istraživanja pokazuju znakove stagnacije.
“Basnoslovne vrijednosti kompanija poput OpenAI-a i Microsofta se uglavnom temelje na zamisli da će LLM-ovi postati opća umjetna inteligencija ako se nastave proširivati”, rekao je stručnjak i redovni kritičar AI-a Gary Marcus.
“Kao što sam oduvijek upozoravao, to je samo fantazija”.
‘Nema zida’
Među temeljnim izazovima je ograničena količina jezičnih podataka dostupnih za obučavanje modela.
Prema Scottu Stevensonu, šefu AI kompanije za pravna pitanja Spellbook, pouzdanje u isključivo jezičke podatke za širenje modela nužno mora dovesti do zastoja.
“Neki od laboratorija bili su daleko previše usredotočeni na to da (modelu) dodaju samo više jezičkih podataka, misleći da će jednostavno i dalje postajati pametniji”, objasnio je Stevenson.
Sasha Luccioni, istraživačica i čelnica Odjela za umjetnu inteligenciju u razvojnoj kompaniji Hugging Face, tvrdi da je zastoj bio predvidljiv s obzirom na fokus kompanija na veličinu, a ne na svrhu.
“Težnja za AGI-om je oduvijek bila nerealna, a pristup ‘veće je bolje’ kada je riječ o umjetnoj inteligenciji s vremenom je morao doći do granice, a mislim da je to ono što sada ovdje vidimo”, rekla je za AFP, a prenijela Hina.
Branša, pak, osporava te interpretacije i drži da je napredak prema umjetnoj inteligenciji ljudske razine nepredvidiv.
“Nema zida”, napisao je šef OpenAI-a Sam Altman u četvrtak na društvenoj platformi X, no nije objasnio šta je pod tim mislio.
Dario Amodei, čelnik kompanije Anthropic, koja razvija govornog robota Claude u partnerstvu s Amazonom, dodaje: “Ako pogledate stopu rasta ovih sposobnosti, zaista možete pomisliti da ćemo stići tamo do 2026. ili 2027”.
Vrijeme za razmišljanje
Ipak, OpenAI je odgodio izlazak očekivanog nasljednika modela GPT-4, koji koristi ChatGPT, zato što povećanje njegovih sposobnosti nije ispunilo očekivanja, prema izvorima koje je citirao The Information.
Kompanija se sada usredotočuje na to da učinkovitije iskoristi svoje postojeće sposobnosti.
Promjena strategije se održava u njihovom nedavnom modelu o1, dizajniranom za to da pruža tačnije odgovore na temelju poboljšanog rasuđivanja umjesto povećanih podataka.
Stevenson je rekao kako je promjena smjera u OpenAI-u da svoje modele uči da “provode više vremena u razmišljanju nego u odgovaranja” dovela do “radikalnih poboljšanja”.
Usporedio je pojavu umjetne inteligencije s otkrićem vatre. Umjesto da se dodaje više goriva u obliku podataka i računalne snage, vrijeme je da se napredak iskoristi za specifične zadatke.
Stanfordski sveučilišni profesor Walter De Brouwer usporedio je napredne LLM-ove s učenicima koji prelaze iz srednjih škola na fakultete: “Dijete umjetne inteligencije bio je govorni robot koji je mnogo improvizirao” i bio sklon greškama, istaknuo je.
“Sada stiže čovjekov pristup – da se razmisli prije nego što se djeluje”, dodao je.