Kompanije sve više koriste AI: Više ne mogu samo da izaberu model i nastave dalje

Veštačka inteligencija u kompanijama polako izlazi iz faze eksperimentisanja. Organizacije već koriste velike jezičke modele za naučna istraživanja, korisničku podršku, upravljanje znanjem, razvoj softvera i pretragu poslovnih podataka. Prema izveštaju kompanije Straive, međutim, najveći izazov koji sledi neće biti samo izbor modela koji može da obavi određeni zadatak, već upravljanje njegovim promenama kroz vreme.

Širenje AI alata već je omogućilo timovima da zadatke poput pretrage, sažimanja, provere i kreiranja sadržaja završe za nekoliko minuta, umesto za više sati. Ali što kompanije više zavise od tih sistema, to postaje važnije pitanje šta se događa kada model na kojem se njihov rad zasniva bude promenjen ili zamenjen.

Straive zato preporučuje da kompanije modele ne biraju samo prema tome koji je najnoviji ili najjeftiniji. Pravi izbor zavisi od konkretnog poslovnog procesa, njegovih zahteva i očekivanih rezultata. Promena modela trebalo bi da se posmatra kao poslovni proces koji zahteva planiranje, testiranje i procenu posledica, a ne kao rutinsko tehničko ažuriranje.

Jedan od problema koji postaje sve značajniji jeste način na koji se AI usluge naplaćuju. Za razliku od tradicionalnih softverskih licenci, osnovni modeli uglavnom koriste model naplate prema potrošnji. Cena zato može zavisiti od broja ulaznih i izlaznih tokena, tokena koji se koriste za zaključivanje, pretraga, poziva alatima, dubine preuzimanja podataka i veličine kontekstnog prozora.

Izveštaj kao primer navodi prelazak sa Gemini 2.0Flash na Gemini 2.5 Flash, pri čemu cena ulaznih tokena raste sa 0,10 na 0,30 dolara za milion tokena, dok cena izlaznih raste sa 0,40 na 2,50 dolara. Kod Gemini 3.5 Flash navedeni troškovi dodatno rastu, na 1,50 dolara za ulazne i 9 dolara za izlazne tokene. Iz Straive upozoravaju i da samo promena podešavanja za zaključivanje može napraviti razliku u troškovima i do četiri puta, čak i kada ostali parametri aplikacije ostanu isti.

Srinivasan Govindarajan, poslovni direktor za nauku i istraživanje i digitalizovane operacije u Straive, ukazao je na to da svaka interakcija sa osnovnim modelom može stvarati trošak. Na njegovu visinu utiče više faktora, od ulaznih i izlaznih tokena do pretraga, poziva alatima, dubine preuzimanja podataka i veličine konteksta.

Zbog toga se od kompanija očekuje drugačiji pristup upravljanju AI sistemima. Izveštaj preporučuje da se migracije između modela tretiraju kao poslovni procesi, da se unapred planiraju troškovi stalnog razvoja AI sistema i da se posebna pažnja posveti ekonomiji tokena. Istovremeno, sistemi bi trebalo da budu projektovani tako da efikasno koriste resurse, dok bi uspeh trebalo meriti kroz konkretne poslovne rezultate.

Kako se modeli budu menjali sve brže, kompanijama će biti sve teže da jednostavno izaberu jednu tehnologiju i dugoročno ostanu na njoj. Njihov zadatak biće da održavaju ravnotežu između kvaliteta, troškova, bezbednosti i rezultata, dok se modeli ispod njihovih aplikacija neprestano razvijaju.

Upravo zato Straive smatra da će naredna faza poslovne AI biti manje usmerena na pitanje koliko je inteligentan model kojem kompanija ima pristup, a više na to koliko uspešno organizacija tu inteligenciju pretvara u merljivu poslovnu vrednost.

Zabranjeno preuzimanje dela ili čitavog teksta i/ili foto/videa, bez navođenja i linkovanja izvora i autora, a u skladu sa odredbama WMG uslova korišćenja i Zakonom o javnom informisanju i medijima.