Zahtjev za pauzu u razvoju vještačke inteligencije

U otvorenom pismu su eksperti iz oblasti naučnih istraživanja i visoke tehnologije zatražili da se privremeno zaustavi razvoj vještačke inteligencije, kako bi se stvorio set pravila za tu tehnologiju. Potpise je sakupila organizacija „Budućnost života“ (Future of life). U pismu se zahtijeva da se razviju bezbjednosni standardi za razvoj vještačke inteligencije kako bi se izbjegla šteta koju može da nanesu rizične tehnologije vještačke inteligencije.

Pismo je do sada potpisalo više od hiljadu ljudi. Među njima su saosnivač Epla Stiv Voznijak, milijarder Ilon Mask, ali i pioniri razvoja vještačke inteligencije Stjaart Rasel i Džošua Benžio. Među potpisnicima su konkurenti trenutno najpoznatijeg modela vještačke inteligencije ChatGPT.

„Rizici su nemjerljivi"

U pismu se navodi: „Sistemi vještačke inteligencije, koja stvara konkurenciju čovjeku, mogu donijeti velike rizike za društvo i čovjeka. Moćni sistemi vještačke inteligencije bi trebalo da se stvore tek onda, kada budemo sigurni da će učinak biti pozitivan a rizik prihvatljiv“.

Takozvana generativna vještačka inteligencija kao što je ChatGTP-4 ili DALL-E je, prema potpisnicima, u međuvremenu toliko napredovala, da je i tvorci programa više ne razumiju ili ne mogu da ih djelotvorno kontrolišu. U pismu se kaže da bi informacioni kanali mogli biti preplavljeni propagandom i neistinama. Osim toga, poslovi koji se ne sastoje od rutinskih zahvata i koje ljudi doživljavaju kao zadovoljstvo, mogu da se zamijene modelima vještačke inteligencije. 

Zahtjev da se napravi pauza u razvoju odnosi se na slijedeću generaciju vještačke inteligencije koja će biti moćnija od modela ChatGPT-4. Programeri koji rade na razvoju morali bi transparentno obustaviti taj posao. Ako se to ne desi, potpisnici zahtijevaju od vlada da uvedu moratorijum.

„Širenje straha"

Profesorica informatike na univerzitetu Umeo u Švedskoj Johana Berklund kritikuje ovaj apel: „Nema razloga da se povlači ručna kočnica“. Ona kaže da bi samo trebalo da se pooštre pravila transparentnosti za programere i dodaje da apel služi jedino širenju straha. I ChatGPT i DALL-E je razvila firma OpenAI, u kojoj značajni udio ima Microsoft. Šef firme Sem Altman nije potpisao ovaj apel. Agencija Rojters je zamolila njegovu firmu da se oglasi ovim povodom, ali za sada nema reakcije.

Preduzetnik Ilon Mask je bio jedan od osnivača firme OpenAI, ali se povukao iz nje, kada se Altman odlučio da Microsoft bude partner. Otkako je ChatGPT predstavljen u novembru prošle godine zahuktala se borba za prevlast u ovoj branši između giganata kao što su Microsoft i Google. Novi modeli su ubrzano predstavljeni javnosti. Države kao što su Kina posmatraju vještačku inteligenciju kao strateški važan sektor i dopuštaju stručnjacima za razvoj veliku slobodu. 

Sve više upozorenja na opasnost razvoja vještačke inteligencije

U Njemačkoj je ovo pismo pozdravio Savez tehničkog nadzora (TÜV): „Apel pokazuje potrebu političkog djelovanja u smjeru jasne zakonske regulative vještačke inteligencije“, kaže Joahim Biler, rukovodilac poslova Saveza. On je dodao da je to jedini način da se rizik pri razvoju posebno moćnih sistema vještačke inteligencije stavi pod kontrolu. Biler navodi da je zakonski okvir posebno neophodan tamo gdje bi greške vještačke inteligencije mogle dovesti do fatalnih posljedica, kao u medicini ili saobraćaju. „To stvara povjerenje i podstiče inovativne ponude umjesto da ih koči“, rekao je on.

I Evropska policijska služba Evropol upozorila je na rizike koje donosi vještačka inteligencija kao što je ChatGPT: „Sposobnost sistema ChatGPT, da stvori veoma realistične tekstove čini od njega koristan alat za 'pecanje'." Radi se o mrežnoj krađi podataka (phishing) kako bi se obezbijedio elektronski pristup tuđim računima u banci. Evropol je upozorio i na dezinformacione kampanje, koji se uz pomoć vještačke inteligencije mogu pokrenuti bez velikog truda. Osim toga, kriminalci bi mogli zahtijevati od sistema vještačke inteligencije da im stvore štetne programe i softver.

Pratite nas i na Facebooku, preko Twittera, na Youtubeu, kao i na Instagramu