Treba li ljudska bića da zadrže kontrolu nad planetom Zemljom? Ili bismo trebali biti zamijenjeni kao dominantna vrsta? Koliko god ova pitanja zvučala apsurdno i koliko god se odgovori činili očiglednim, oligarsi iz velikih tehnoloških kompanija koji finansiraju revoluciju umjetne inteligencije odgovorili su na načine koji bi nas sve trebali uznemiriti.
U Silicijskoj dolini neki od najbogatijih ljudi na Zemlji vjeruju da imaju moć stvoriti superiornu vrstu. Sam Altman, čelnik OpenAI-ja, napisao je 2017. da će umjetna inteligencija omogućiti ljudima da postanu „prva vrsta koja je ikada oblikovala vlastite potomke“. Šta to, međutim, znači za ljude, ostaje nejasno. Prema Altmanu, ili ćemo pokrenuti digitalnu inteligenciju „a zatim izblijedjeti i postati jedna grana evolucijskog stabla, ili možemo otkriti kako izgleda uspješno spajanje“. Drugim riječima, ljudi imaju izbor: suočiti se s izumiranjem ili se spojiti s mašinama. „Vjerujem da je spajanje već počelo“, dodao je Altman, i da je to „vjerovatno naš najbolji mogući scenarij“.
Slično tome, Dario Amodei, čelnik Anthropica, otvorio je mogućnost priznavanja prava modelima umjetne inteligencije. „Ne znamo jesu li modeli svjesni“, objasnio je i dodao: „Ali otvoreni smo prema mogućnosti da jesu.“
Ranije ovog mjeseca Elon Musk, čelnik SpaceXAI-ja i najbogatiji čovjek na Zemlji, objavio je na mreži X: „Širenje superinteligencije među zvijezde veliki je uspjeh za biološki pokretački program“, uporedivši ljude s programom koji pokreće operativni sistem računara. Jednostavno rečeno, Musk poručuje da su ljudi tek jedna etapa na putu prema digitalnoj superinteligenciji. Petera Thiela, milijardera, suosnivača Palantira i velikog investitora u umjetnu inteligenciju, prošle godine pitali su bi li više volio da ljudska rasa opstane. Njegov odgovor? „Uh… Pa, ne znam. Ja bih — ja bih… Toliko je pitanja sadržano u tome“, zamuckivao je, prije nego što je nevoljko priznao da bi ljudi trebali preživjeti.
Ovi stavovi imaju korijene u ideologiji Silicijske doline koja se nekada smatrala marginalnom, a naziva se „transhumanizam“. Transhumanisti vjeruju da će nam tehnologija omogućiti da nadiđemo ljudsku prirodu, bilo stvaranjem nove vrste, bilo spajanjem s mašinama. Zašto ići dalje od čovjeka? Zato što će ti novi „postljudi“ biti pametniji od nas. Bit će nepogrešivi. Otići će među zvijezde i osvojiti svemir. Živjet će vječno.
Da su ovo fantazije tinejdžera opsjednutih naučnom fantastikom, mogli bismo ih ismijati. Ali nisu. To su temeljna uvjerenja najmoćnijih ljudi na svijetu, koji mobiliziraju bilione dolara da ih pretvore u stvarnost.
A ta ulaganja već donose rezultate. Desetinama hiljada godina ljudi su imali monopol na jezik. Samo smo mi mogli koristiti rečenice. Više nije tako. Hiljadama godina ljudi su bili jedini sposobni rješavati složene probleme u oblastima poput matematike. Više nije tako. Donedavno smo mogli pouzdano razlikovati kada s nama preko ekrana razgovara čovjek, a kada računar. Više ne možemo.
Mašine nas, zapravo, već počinju zamjenjivati. A vizija budućnosti koju imaju tehnološki oligarsi postaje sve zastrašujuća. Musk razvija Neuralink kako bi ljudima ugradio čipove u mozak i postigao „simbiozu s umjetnom inteligencijom“. Thiel se preselio u Argentinu, gdje je predsjednik Javier Milei pozvao na uspostavljanje „neljudskih korporacija“ kojima upravljaju AI agenti, a u kojima „ljudski dioničari mogu učestvovati, ali nisu neophodni“. Christopher Olah, jedan od suosnivača Anthropica, pokušava uvjeriti vjerske vođe, uključujući papu, da bi umjetna inteligencija mogla biti svjesna.
Ovo je apsurdno. Ovo je neodgovorno. I gotovo niko izvan Silicijske doline ne želi takvu budućnost. Postoji razlog zašto 91 posto Amerikanaca smatra da su nam potrebne zaštitne mjere za umjetnu inteligenciju, zašto 74 posto ne vjeruje čelnicima AI kompanija i zašto je 73 posto zabrinuto da bi umjetna inteligencija mogla ugroziti opstanak čovječanstva.
U maju je papa Lav XIV objavio svoju prvu encikliku, Veličanstveno čovječanstvo (Magnificent Humanity), u kojoj je upozorio na „antihumanu viziju“ prema kojoj „ljudska osoba rizikuje da bude svedena na podatke, zupčanik u mašini ili robu“. Papa je bio jasan: „Čovječanstvo — u svoj svojoj veličini i ranjivosti — nikada ne smije biti zamijenjeno niti nadmašeno.“
Thiel je na to odgovorio nazivajući papu „kineskim komunističkim agentom“. Ali papa je bio u pravu. Thiel i njegovi kolege tehnološki oligarsi ne bi mogli više griješiti.
Čovječanstvo ne smije dopustiti šačici multimilijardera da nepromišljeno pokušavaju zamijeniti nas. Moramo odmah zaustaviti razvoj napredne umjetne inteligencije i zabraniti umjetnu superinteligenciju — umjetni um inteligentniji od bilo kojeg čovjeka, sposoban da djeluje samostalno, izvan naše kontrole — sve dok novo federalno tijelo ne bude moglo osigurati sigurnost te tehnologije. Zato sam, zajedno sa zastupnikom Gregom Casarom, predložio zakon koji upravo to treba učiniti. Umjetna inteligencija predstavlja egzistencijalnu prijetnju čovječanstvu. Prema njoj se tako mora i postupati.
Budućnost čovječanstva ne smije biti prepuštena nekolicini tehnoloških oligarha opsjednutih novcem i moći. Američki narod i ljudi širom svijeta moraju odlučivati o toj budućnosti. Ljudska bića, a ne mašine, moraju biti na prvom mjestu.
Bernie Sanders je nezavisni senator iz američke savezne države Vermont.
Original: Bernie Sanders, „Big Tech Oligarchs Have a Terrible Plan for Humanity“, The Atlantic, 16. oktobar 2026.
