Niko zapravo ne zna šta će se dogoditi ako vještačka inteligencija dođe do tačke u kojoj počne u potpunosti sama sebe trenirati, upozorava Jared Kaplan, suosnivač i glavni naučni direktor kompanije Anthropic, koja razvija model Claude.

Upozorenje fizičara koji je postao ključan čovjek Silicijumske doline

Kaplan, fizičar koji je prešao u svijet vještačke inteligencije i postao jedan od ključnih ljudi Silicijumske doline, izjavio je da bi prepuštanje sistema samome sebi moglo izazvati pravu „eksploziju inteligencije“. No to je, ističe, ujedno i najveći mogući rizik te vjerovatno najstrašniji potez koji čovječanstvo može povući.

Prema njegovim procjenama, ta prelomna tačka mogla bi nastupiti između 2027. i 2030. godine, a najnapredniji sustavi već danas pomažu programerima u stvaranju novih modela, piše Business Insider.

Naučnik koji stoji iza temelja ChatGPT-ja Kaplan nije vanjski teoretičar ili paničar – on je čovjek koji je postavio matematičke temelje današnjeg buma vještačke inteligencije. Dok je radio u OpenAI-ju, vodio je istraživanje koje je dokazalo da veći modeli i više računarske snage daju dramatično bolje rezultate, a učestvovao je i u stvaranju modela GPT-3, na kojem je nastao ChatGPT. Zajedno s kolegama napustio je OpenAI 2021. godine kako bi osnovao Anthropic, upravo zato što su smatrali da se moraju pripremiti za trenutak kada će čovječanstvo početi prepuštati kontrolu mašinama.

Njegov je posao danas osigurati da razvoj ne ode u krivom smjeru. Njegova upozorenja sve češće odjekuju među samim inženjerima. Jakob Kokson (Jacob Coxon), istraživač koji je ovog mjeseca dao otkaz u Anthropic-u, javno je poručio da se vodeće tehnološke kompanije „kockaju s našim životima“ jer dopuštaju da se modeli sami usavršavaju.

Strah od gubitka kontrole

Na oprez poziva i izvršni direktor Anthropica Dario Amodei, koji je nedavno upozorio da bi razvojne laboratorije morale usporiti tempo. Amodei ističe kako vještačka inteligencija napreduje drastično brže prvenstveno zato što već sada sama pomaže u stvaranju sljedeće generacije sistema. Ako se to ne stavi pod strogi nadzor, upozorio je, tehnologija bi mogla pregaziti čovjekovu sposobnost razumijevanja i upravljanja tim procesima. Iako su u stalnom poslovnom i tehnološkom sukobu, s takvim se crnim procjenama slažu i šef OpenAI-ja Sam Altman te Elon Mask.

Obojica su u više navrata podržala teze da nekontrolirani razvoj vještačke inteligencije i stvaranje sistema koji samostalno donose odluke predstavljaju egzistencijalnu prijetnju za čovječanstvo, zbog čega traže strogu regulaciju i uvođenje bezbjednosnih kočnica.

Inženjeri traže uvođenje „tipke za gašenje“

Rasprava je stigla i do američkih zakonodavaca u Vašingtonu, koji sve glasnije razmatraju donošenje novih zakona o bezbjednosti. Bivši inženjeri iz kompanije navode kako je važno da javnost i političari čuju stvarne stručnjake koji grade sisteme, a ne samo ljude iz odnosa s javnošću. Nekadašnji članovi tima ističu da pozivi čelnika kompanije na uvođenje mehanizma za gašenje sistema u slučaju opasnosti pokazuju koliko je situacija ozbiljna.

Kako za Business Insider navodi jedan od bivših istraživača koji je radio s Kaplanom, dopustiti vještačkoj inteligenciji da se automatski sama unapređuje suludo je kockanje, čak i ako tim procesom upravljaju najrazumniji ljudi na svijetu.