Visoki komesar Ujedinjenih nacija za ljudska prava Volker Türk upozorio je da bi vještačka inteligencija mogla postati toliko moćna da ugrozi čovječanstvo, najavljujući da će od vodećih tehnoloških kompanija zatražiti hitne mjere za smanjenje rizika.
„Dijelim zabrinutost ljudi iz same industrije da bi napredna vještačka inteligencija mogla predstavljati egzistencijalni rizik za čovječanstvo“, rekao je Türk pred Savjetom UN-a za ljudska prava u Ženevi, u govoru uoči početka svog drugog mandata.
„Danas, sa ovog mjesta, pozivam na sveobuhvatan napor kako bi se uspostavile čvrste garancije za bezbjednost vještačke inteligencije, prije nego što bude prekasno“, poručio je visoki komesar UN-a.
„Nekolicina ljudi ima gotovo neograničenu moć“
Ne navodeći imena, Türk je upozorio da svega nekolicina ljudi ima „gotovo neograničenu moć nad vještačkom inteligencijom“. Među vodećim kompanijama u oblasti AI-ja su Meta, Anthropic, OpenAI i Google.
„Potrebno je da zemlje u kojima se razvijaju vodeći sistemi vještačke inteligencije, kao i države i kompanije uključene u njihove lance snabdijevanja, utvrde jasne granice“, rekao je Türk.
On je najavio i da će se narednih dana obratiti kompanijama koje razvijaju vještačku inteligenciju i pozvati ih da odmah preduzmu mjere koje su u njihovoj moći kako bi se postojeći rizici smanjili.
Na koga Türk misli kada govori o „ljudima iz industrije“?
Türkovo upozorenje nadovezuje se na ranije istupe vodećih svjetskih naučnika, inženjera i rukovodilaca tehnoloških kompanija koji su upozoravali na moguće rizike razvoja veoma naprednih sistema vještačke inteligencije.
Jedna od prekretnica u toj raspravi bila je zajednička izjava Centra za sigurnost vještačke inteligencije (CAIS), koju su potpisale stotine stručnjaka, među kojima Sam Altman iz OpenAI-ja, Demis Hassabis iz Google DeepMinda i Dario Amodei iz Anthropica.
U toj izjavi navedeno je da bi smanjenje rizika od izumiranja povezanog sa vještačkom inteligencijom trebalo da bude globalni prioritet, uporediv sa drugim velikim rizicima za čovječanstvo, poput pandemija i nuklearnog rata.
Na moguće opasnosti upozoravali su i pioniri modernog mašinskog učenja Geoffrey Hinton i Yoshua Bengio, koji se često nazivaju „kumovima vještačke inteligencije“.
Hinton je, nakon odlaska iz Googlea, javno govorio o mogućnosti da budući napredni sistemi postanu inteligentniji od ljudi i razviju ciljeve koji nijesu usklađeni sa ljudskim interesima.
Regulativa zaostaje za razvojem tehnologije
Ujedinjene nacije i druga međunarodna tijela već duže vrijeme raspravljaju o uspostavljanju globalnih standarda za razvoj i korišćenje vještačke inteligencije.
Evropska unija usvojila je Akt o vještačkoj inteligenciji (AI Act), kojim se regulišu sistemi prema nivou rizika i zabranjuju ili ograničavaju određene primjene, uključujući pojedine oblike biometrijskog nadzora i manipulativnih AI sistema. Globalno usklađen regulatorni okvir, međutim, još ne postoji.
Pored dugoročnog scenarija gubitka kontrole nad budućom opštom vještačkom inteligencijom, čiji eventualni razvoj i rok nije moguće pouzdano predvidjeti, Ujedinjene nacije i organizacije za zaštitu ljudskih prava upozoravaju i na mnogo neposrednije prijetnje.
Među njima su masovno širenje uvjerljivih dezinformacija, automatizovano narušavanje privatnosti, algoritamska diskriminacija, uticaj na tržište rada i demokratske procese, kao i razvoj autonomnog oružja koje bi moglo donositi odluke sa smrtonosnim posljedicama bez neposredne ljudske kontrole, prenosi Seebiz.eu.
Türk smatra da je upravo zbog brzine razvoja tehnologije potrebno djelovati prije nego što najmoćniji AI sistemi dostignu nivo na kojem postojeće zaštitne mjere više neće biti dovoljne.
Izvor: Reuters / Index.hr