U podcastu Leksa Fridmena, informatičara i istraživača veštačke inteligencije na Masačuset instituta za tehnologiju (MIT), Maks Erik Tegmark, fizičar, kozmolog i istraživač strojnog učenja, profesor na MIT-ju i predsednik instituta Budućnost života, objasnio je, među ostalim, zašto je zabrinut sadašnjim načinom razvoja veštačke inteligencije i zašto je sa skupinom naučnika, mislilaca i stručnjaka za veštačku inteligenciju pokrenuo otvoreno pismo kojim traže šestomesečni moratorij na buduće unapređivanje sastava moćnijih nego što je GPT-4.
U pismu, koje kritikuje postojeći pristup u stilu – prvo izgradimo brod, a poslije ćemo ga popravljati – i upozorava da važnu trku u razvoju AI-a vode čelnici kompanija koji nisu izabrani predstavnici ljudi, odnosno biračkog tela, već čelnici tehnoloških kompanija, autori postavljaju četiri pitanja:
Da li treba dopustiti strojevima da preplave naše informacijske kanale propagandom i neistinom?
Da li treba automatizovati sve poslove, uključujući i one koji ispunjavaju ljudske živote smislom?
Da li treba razviti neljudske umove koji bi nas na kraju mogli brojčano nadmašiti, nadmudriti, zastarjeti i zamijeniti?
Da li treba rizikovati gubitak kontrole nad svojom civilizacijom?
Pismo je do sada potpisalo više od 27.500 ljudi, među kojima su istoričar i autor nekoliko bestselera kao što je Sapiens Juval Noah Harari, suosnivač Apela Stiv Vozniak, suosnivač Skajpa Jan Talin te brojni istraživači veštačke inteligencije kao što su Stuart Rasel, Josua Bengio, Gari Markus i Emad Mostakue.
Teško je očekivati da bi pismo samo po sebi moglo zaustaviti ili usporiti kompanije poput Gugla i Majkrsofta, ali njegove poruke možda bi mogle dopreti do političara koji bi mogli nešto poduzeti u zakonodavnom smislu.
U ovom kontekstu zanimljivo je istaknuti da Tegmark nije nov u razvoju računarstva. On je još kao srednjoškolac, zajedno sa svojim prijateljem, kreirao i prodavao program za obradu teksta napisan u čistom strojnom kodu i 3D igru sličnu Tetrisu pod nazivom Frac. Danas je na MIT-ju fokusiran na povezivanje fizike i strojnog učenja, odnosno na korištenje AI-a za potrebe fizike te fizike za potrebe razvoja AI-a.
Institut Budućnost života, koji danas vodi, objavio je još 2015. sličnu peticiju za moratorij na razvoj autonomne oružane tehnologije. Nju je uz Tegmarka tada potpisalo cijelo mnoštvo poznatih osoba.
U ovom tekstu prenijet ćemo slobodan prevod nekih od najvažnijih dijelova razgovora Fridmana i Tegmarka, koji do danas ima preko 800.000 pregleda.
U uvodnom dijelu gotovo trosatnog razgovora Tegmark kaže kako, za razliku od brojnih drugih naučnika, veruje da je tehnološki napredan život, kao što je ljudski na Zemlji, izuzetak u vidljivom svemiru.
“Ako je to istina, to nam nameće veliku odgovornost da ne zabrljamo… Mi smo čuvari ove iskre napredne svesti koja se, ako je negujemo i pomažemo joj rasti, može proširiti po svemiru i mi možemo imati zadivljujuću budućnost”, rekao je Tegmark.
“S druge strane, ako smo bezobzirni u razvoju tehnologije, onda ćemo je iz gluposti ili u sukobima ugasiti. Zapravo, mislim da će nas strana inteligencija (eng. alien intelligence) posetiti vrlo skoro. No to je inteligencija koju ćemo sami izgraditi, a ne vanzemaljska”, dodao je istaknuvši da će ta veštačka inteligencija biti egzotičnija od inteligencije najegzotičnijih stvorenja na Zemlji jer neće biti stvorena kroz uobičajenu Darvinovu kompeticiju, u kojoj su važne stvari kao što su samoočuvanje, strah od smrti i sl.
Upozorio je da će se ona razvijati mnogo brže nego što to omogućuje evolucija, što podrazumijeva veliku odgovornost da umovi koje ćemo stvoriti budu vredni stvaranja, da dele naše vrijednosti i budu dobri za čovečanstvo i život uopće.
Objasnio je da je nama teško i zamisliti kako bi izgledala inteligencija koja se ne boji smrti, koja u trenutku može naučiti neki jezik, poput švedskog, ili može iz memorije izbrisati sve doživljaje koji joj se ne sviđaju.
Upozorio je da je važno biti svestan i zamisliti se nad očiglednom činjenicom da je prostor za razvoj veštačke inteligencija vrlo širok i da je vrlo opasno pretpostaviti da će veštačka inteligencija biti na bilo koji način slična našoj.
Govoreći o svojoj knjizi Život 3.0, Tegmark je objasnio da život 1.0 podrazumijeva oblike poput bakterija koji ne mogu puno naučiti tijekom svojeg života. Život 2.0 je nalik na naš i život životinja s mozgom koje mogu puno naučiti. Život 3.0, koji još nije stvoren, podrazumeva život koji neće moći promeniti samo svoj softver, koji mi možemo menjati, već i hardver.
“To je ono prema čemu se ubrzano krećemo. Kompanije koje pokušavaju napraviti veštačku opštu inteligenciju razvijaju život 3.0. Tu inteligenciju moći ćete smestiti u nešto što nema nikakvih bioloških temelja”, rekao je misleći na robote.
Trenutnu situaciju u razvoju AI-a Tegmark je usporedio s radnjom filma Ne gledaj gore, u kojem mnogi ljudi ne veruju u ozbiljnost prijetnje i ne poduzimaju ništa razumno premda imaju informacije da veliki asteroid juri prema Zemlji.
Upozorio je da čovečanstvo upravo u ovom trenutku samo gradi takav asteroid i da gotovo niko o tome u javnosti ozbiljno ne raspravlja.
“Mnogi političari to nemaju nigde na svom radaru i misle da je to nešto što će se možda dogoditi za 100 godina ili više. No mi se upravo sada nalazimo na račvanju. To je najvažnije račvanje do kojeg je čovečanstvo došlo u svojih stotinjak hiljada godina postojanja na Zemlji. Mi u suštini gradimo novu vrstu koja je pametnija od nas”, upozorava.
“A dolazak veštačke opšte inteligencije koja može raditi sve poslove jednako dobro kao mi, i verovatno uskoro nakon toga superinteligencije koja će daleko nadići naše kognitivne sposobnosti, bit će ili najbolja stvar koja se ikad dogodila čovečanstvu ili najgora. Snažno sam uveren da tu ne postoji sredina”, tumači Tegmark.
“Ako vi pauzirate, a oni drugi ne, mi ne želimo da nam neko pojede ručak. A dioničari u najgorem slučaju čak imaju moć da smene direktore. Stoga smo mi sastavili to otvoreno pismo jer smo hteli pomoći tim idealističnim tehnološkim rukovoditeljima da učine ono što im nalaže srce tako što ćemo stvoriti dovoljno javnog pritiska na celi sektor, tako da svi mogu pauzirati na koordinirani način”, rekao je.
“Mislim da bez javnog pritiska niko od njih to ne može učiniti sam, suprotstaviti se dioničarima, bez obzira na to koliko bio dobronameran. Naime, Moloh je vrlo moćan neprijatelj… Tako bi rukovoditelji dobili priliku reći dioničarima: ‘Svi usporavaju, to je ispravna stvar koju treba učiniti'”, objasnio je Tegmark.