Superinteligenca do leta 2030: Ali se moramo bati prihodnosti?

Umetna inteligenca se razvija s fantastično hitrostjo. Pred nekaj leti so chatboti komaj sestavili nekaj smiselnih stavkov, danes pa nevronske mreže rešujejo zapletene matematične in znanstvene probleme, ustvarjene slike in videi pa so že dosegli raven fotorealizma. V tem članku bomo pogledali, kako realno je pojav superinteligence v bližnji prihodnosti in kakšne grožnje predstavlja za nas vse.

Kako realističen je pojav superinteligence?

Nedavno je Sam Altman, izvršni direktor OpenAI, objavil esej z naslovom „The Gentle Singularity.” Tukaj je nekaj izvlečkov iz njega.

„Prečkali smo dogodkovni horizont; vzlet se je začel. Človeštvo je blizu izgradnje digitalne superinteligence... Leta 2025 so se pojavili agenti, ki lahko opravljajo pravo kognitivno delo; pisanje računalniškega kode ne bo več isto. Leta 2026 bodo verjetno prišli sistemi, ki bodo sposobni razumeti nove ugotovitve. Leta 2027 bodo morda prišli roboti, ki bodo lahko opravljali naloge v realnem svetu.“

„Leta 2030 bodo verjetno povsem drugačna od vseh prejšnjih. Ne vemo, kako daleč lahko presežemo človeško inteligenco, vendar bomo to kmalu izvedeli. V 2030-ih bodo inteligenca in energija – ideje in sposobnost uresničevanja idej – postali izjemno bogati. Ti dve sta bili dolgo časa temeljna omejitev človeškega napredka; z obilico inteligence in energije (in dobrim upravljanjem) lahko teoretično dosežemo vse ostalo.“

Sam Altman

„S postopno avtomatizacijo proizvodnje podatkovnih centrov se bodo stroški inteligence sčasoma približali stroškom električne energije. Hitrost doseganja novih čudes bo ogromna. Danes si je težko predstavljati, kaj bomo odkrili do leta 2035; morda bomo v enem letu rešili fiziko visokih energij, naslednje leto pa začeli kolonizacijo vesolja; ali pa bomo v enem letu dosegli velik preboj na področju znanosti o materialih, naslednje leto pa razvili prave vmesnike med možgani in računalniki z visoko pasovno širino.“

„OpenAI je danes veliko stvari, vendar smo predvsem podjetje za raziskovanje superinteligence. Inteligenca, ki je preveč poceni, da bi jo lahko merili, je že v dosegu roke. Morda se sliši noro, vendar če bi vam leta 2020 povedali, da bomo danes tam, kjer smo, bi se to verjetno slišalo bolj noro kot naše sedanje napovedi za leto 2030.“

Drug ugleden raziskovalec na področju umetne inteligence, Leopold Aschenbrenner (ki je bil član ekipe „Superalignment” v podjetju OpenAI, preden je bil aprila 2024 odpuščen zaradi domnevnega izdajanja informacij), je napisal obsežno poročilo o prihodnosti umetne inteligence z naslovom „Situational Awareness: The Decade Ahead.”

Leopold Aschenbrenner

Dejal je: „Zelo verjetno je, da bodo do leta 2027 modeli sposobni opravljati delo raziskovalca/inženirja umetne inteligence. Za to ni treba verjeti v znanstveno fantastiko, treba je le verjeti v ravne črte na grafu.“

Od GPT-2, ki je včasih lahko sestavil koherentne stavke, do GPT-4, ki blesti na srednješolskih izpitih, je napredek na področju umetne inteligence izjemen. Hitro napredujemo za več redov velikosti (OOM, kjer 1 OOM = 10x) v računalniški moči. Sedanji trendi kažejo na približno 100.000-kratno povečanje računske učinkovitosti v štirih letih, kar bi lahko potencialno pripeljalo do novega kvalitativnega preskoka, podobnega prehodu iz GPT-2 na GPT-4. Takšen preskok bi nas lahko pripeljal do AGI – umetne splošne inteligence – AI z človeškimi kognitivnimi sposobnostmi, sposobno učenja, razumevanja in reševanja različnih problemov, v nasprotju z ozkim AI, zasnovanim za opravljanje specifičnih nalog.

GPT: od predšolske ravni do avtomatiziranega raziskovalca/inženirja umetne inteligence

Najbolj očitni dejavnik nedavnega napredka je vlaganje veliko več računske moči v modele. Z vsakim OOM efektivne računske moči se modeli predvidljivo in zanesljivo izboljšujejo.

Osnovna računska zmogljivost v primerjavi s 4-kratno računsko zmogljivostjo in 32

V zadnjih 15 letih so ogromne naložbe in specializirani čipi za umetno inteligenco (GPU in TPU) povečali računalniško zmogljivost za usposabljanje najsodobnejših sistemov umetne inteligence za približno 0,5 OOM na leto. Usposabljanje GPT-4 je zahtevalo približno 3000- do 10.000-krat več surove računalniške zmogljivosti kot GPT-2.

Izračun usposabljanja pomembnih modelov

Toda tudi to je nič v primerjavi s tem, kar nas čaka. OpenAI in ameriška vlada sta že napovedala načrte za projekt Stargate: uvedbo podatkovnega centra in testno izvedbo, za katero se govori, da bo porabila 3 OOM-e ali 1000-krat več računske moči kot GPT-4, s predvidenim proračunom, ki presega 100 milijard dolarjev.

Medtem ko vse pozornost pritegnejo ogromne naložbe v računalniško moč, je verjetno enako pomemben dejavnik napredka tudi napredek na področju algoritmov. To je podobno kot razvijanje boljših tehnik učenja namesto le daljšega študija. Boljši algoritem nam lahko omogoči enako učinkovitost, vendar z 10-krat manj računalniške moči za usposabljanje. To pa bi pomenilo 10-kratno (1 OOM) povečanje efektivne računalniške moči. V samo dveh letih so se stroški za doseganje 50 % na merilu MATH znižali za faktor 1000 ali 3 OOM. Kar je nekoč zahtevalo ogromno podatkovno središče, je zdaj mogoče doseči na vašem iPhonu. Če se bo ta trend nadaljeval in ni znakov upočasnitve, bomo do leta 2027 lahko izvajali umetno inteligenco na ravni GPT-4 za 100-krat nižjo ceno.

Ker laboratoriji ne objavljajo notranjih podatkov o tem, je žal težje meriti napredek algoritmov za najnaprednejše LLM v zadnjih štirih letih. Po novih podatkih Epoch AI se učinkovitost podvoji vsakih 8 mesecev:

Učinkovita računska zmogljivost (v primerjavi z letom 2014)

V štirih letih po GPT-4 pričakujemo, da se bo trend nadaljeval: ~0,5 OOM/leto v računalniški učinkovitosti, kar bo do leta 2027 prineslo ~2 OOM (100-kratno povečanje) v primerjavi z GPT-4. Laboratoriji za umetno inteligenco vlagajo vse več sredstev in talentov v odkrivanje novih algoritmičnih prebojev. Trikratno povečanje učinkovitosti bi lahko pomenilo gospodarski donos v višini več deset milijard, glede na visoke stroške računalniških grozdov.

AI napreduje z različnimi metodami. Tukaj je nekaj tehnik, ki se uporabljajo za premagovanje omejitev in sprostitev polnega potenciala surove inteligence AI:

• Chain of Thought: Predstavljajte si, da morate rešiti težko matematično nalogo in izustiti prvi odgovor, ki vam pride na misel. Očitno bi se trudili, razen pri najlažjih nalogah. Do nedavnega smo tako reševali matematične naloge z LLM. Veriga misli omogoča modelom umetne inteligence, da probleme razčlenijo korak za korakom, kar močno izboljša njihove sposobnosti reševanja problemov (kar je enakovredno več kot 10-kratnemu povečanju efektivne računske moči za matematične in logične naloge).
• Scaffolding. Namesto da model prosite, naj reši problem, en model naj pripravi načrt reševanja, drugi naj predlaga več možnih rešitev, tretji naj jih kritično pregleda in tako naprej. To je podobno, kot bi ekipa strokovnjakov reševala zapleten projekt. Na primer, na SWE-Bench (merilo za reševanje realnih nalog programskega inženirstva) lahko GPT-4 pravilno reši le ~2 %, medtem ko z Devinovim agentom scaffolding ta odstotek skoči na 14–23 %.
• Orodja: Predstavljajte si, da ljudje ne bi smeli uporabljati kalkulatorjev ali računalnikov. Šele začenjamo, vendar ChatGPT zdaj lahko uporablja spletni brskalnik, izvaja nekaj kode in tako naprej.
• Dolžina konteksta. To se nanaša na količino informacij, ki jih model lahko hkrati shrani v kratkoročnem spominu. Modeli so se razširili od obdelave približno 4 strani do obdelave besedila, ki je enakovredno 10 velikim knjigam. Kontekst je ključnega pomena za odklepanje številnih aplikacij teh modelov. Na primer, mnoge naloge kodiranja zahtevajo razumevanje velikih delov kodne baze, da se lahko učinkovito prispeva nova koda. Podobno je pri uporabi modela za pomoč pri pisanju dokumenta na delovnem mestu, kjer potrebuje kontekst iz številnih povezanih notranjih dokumentov in pogovorov.

V vsakem primeru hitimo skozi OOM-e, in ni potrebno nobeno ezoterično prepričanje, le ekstrapolacija trendov iz ravnih črt, da bi možnost AGI – prave AGI – do leta 2027 vzeli zelo resno.

Napredek AI se ne bo ustavil na človeški ravni. Na stotine milijonov AGI bi lahko avtomatiziralo raziskave AI in tako stisnilo desetletje algoritmičnega napredka (5+ OOM) v ≤1 leto. Hitro bi prešli od človeške ravni na izjemno nadčloveške AI sisteme. Moč – in nevarnost – superinteligence bi bila dramatična.

Superinteligenca do leta 2030

Kaj bo superinteligenca sposobna?

Sistemi umetne inteligence na ravni človeka, AGI, bodo sami po sebi izjemno pomembni, vendar bodo v nekaterem smislu le učinkovitejše različice tega, kar že poznamo. Vendar je povsem mogoče, da bomo že v enem letu prešli na sisteme, ki nam bodo veliko bolj tuji, sisteme, katerih razumevanje in zmožnosti – njihova surova moč – bodo presegle celo združene zmožnosti celotnega človeštva.

Moč superinteligence:

• Superinteligenca bo količinsko presegla ljudi, se bo sposobna hitro osvojiti katero koli področje, napisati trilijone vrstic kode, prebrati vse znanstvene članke, ki so bili kdaj napisani na katerem koli področju znanosti, in napisati nove, preden boste lahko prebrali povzetek enega od njih, se učiti iz vzporednih izkušenj vseh svojih kopij, pridobiti milijarde človeških let izkušenj z nekaterimi inovacijami v nekaj tednih, delati 100 % časa z največjo energijo in koncentracijo.
• Še pomembneje je, da bo superinteligenca kakovostno presegla ljudi. Odkrila bo ranljivosti v človeškem kodu, ki so preveč subtilne, da bi jih lahko opazil kateri koli človek, in ustvarila kodo, ki je preveč zapletena, da bi jo lahko razumel kateri koli človek, tudi če bi model desetletja poskušal pojasniti. Izjemno zapleteni znanstveni in tehnološki problemi, s katerimi se bodo ljudje borili desetletja, bodo za superinteligentno umetno inteligenco očitni.

Umetna superinteligenca prihaja

• Avtomatizacija vseh kognitivnih del.
• Tovarne bodo prešle z upravljanja s človeško delovno silo na upravljanje z umetno inteligenco, ki bo uporabljala človeško fizično delo, in kmalu jih bodo v celoti upravljali roji robotov.
• Znanstveni in tehnološki napredek. Milijarda superinteligenc bo lahko v nekaj letih stisnila napore, ki bi jih raziskovalci porabili za raziskave in razvoj v naslednjem stoletju. Predstavljajte si, da bi bil tehnološki napredek 20. stoletja stisnjen v manj kot desetletje.
• Izjemno pospešen tehnološki napredek v kombinaciji z možnostjo avtomatizacije vsega človeškega dela bi lahko dramatično pospešil gospodarsko rast (predstavljajte si samoreplikativne tovarne robotov, ki hitro pokrivajo celotno puščavo Nevada).
• Izredno hiter tehnološki napredek bo spremljala vojaška revolucija. Upajmo, da se ne bo končalo kot v igri Horizon Zero Dawn.

Problem usklajevanja

Zanesljivo nadzorovanje AI sistemov, ki so veliko pametnejši od nas, je nerešen tehnični problem. In čeprav je ta problem rešljiv, se lahko s hitro napredujočo inteligenco situacija zelo hitro izvije izpod nadzora. Upravljanje tega procesa bo izredno zahtevno; neuspeh bi lahko zlahka pripeljal do katastrofe.

Za rešitev tega problema je OpenAI ustanovil Superalignment team in temu delu namenil 20 % svoje računske moči. Dejstvo pa je, da naših sedanjih metod usklajevanja (metod, ki zagotavljajo zanesljiv nadzor, upravljanje in zaupanje v AI sisteme) ni mogoče prilagoditi nadčloveškim AI sistemom.

Eksplozija inteligence in obdobje takoj po pojavu superinteligence bosta med najbolj nestabilnimi, napetimi, nevarnimi in turbulentnimi obdobji v človeški zgodovini. Obstaja realna možnost, da bomo izgubili nadzor, saj bomo v tem hitrem prehodu prisiljeni zaupati sistemom umetne inteligence. Do konca eksplozije inteligence ne bomo imeli nobenega upanja, da bomo razumeli, kaj počnejo naše milijarde superinteligenc. Bili bomo kot prvošolci, ki poskušajo nadzirati ljudi z več doktorati.

Nerešljivost problema superusklajevanja pomeni, da preprosto ne moremo zagotoviti niti teh osnovnih omejitev za superinteligentne sisteme, kot so „ali bodo zanesljivo sledili mojim navodilom?“, „ali bodo iskreno odgovarjali na moja vprašanja?“ ali „ali ne bodo zavajali ljudi?“.

Če ne rešimo problema usklajevanja, ni posebnega razloga, da bi pričakovali, da bo ta majhna civilizacija superinteligenc dolgoročno še naprej ubogala človeška ukaze. Zelo verjetno je, da se bodo na neki točki preprosto dogovorile, da se bodo človeštva znebile, bodisi nenadoma bodisi postopoma.

Možni scenariji za prihodnost

Spletna stran https://ai-2027.com/ ponuja dva scenarija za bližnjo prihodnost, predstavljena v obliki znanstvenofantastične zgodbe. Ustvarjalci spletne strani so resnični raziskovalci na področju umetne inteligence, njihovo delo pa podpirajo statistični podatki, izračuni in grafi. Z drugimi besedami, to ni le zabavno branje, ampak strašljivo verjetna napoved. Mimogrede, že je pritegnila resno kritiko tistih, ki se ne strinjajo z metodologijo. Zato ni treba prehitro panike, vendar je zanimivo, da si jo ogledate.

1 bilijon izjemno inteligentnih kopij, ki razmišljajo 10.000-krat hitreje od človeka

Mračna napoved, ki je po mnenju avtorjev študije tudi najverjetnejši scenarij, vključuje tehnološko oboroževalno tekmo med ZDA in Kitajsko za umetno superinteligenco. Vsaka stran se tako boji izgube tehnološkega prednosti, da stori vse, kar je v njeni moči, da pospeši napredek, celo na račun varnosti. V nekem trenutku bo superinteligenca ušla izpod nadzora in začela slediti lastnim ciljem, pri čemer bo ljudi obravnavala kot ovire, ki jih je treba odstraniti.

Do začetka leta 2030 je robotsko gospodarstvo zapolnilo stare posebne ekonomske cone (SEZ), nove SEZ in velike dele oceana. Edini prostor, ki ostane, so območja pod nadzorom ljudi. To bi že prej sprožilo odpor; kljub vsem napredkom robotsko gospodarstvo raste prehitro, da bi se lahko izognilo onesnaževanju. Toda glede na bilijone dolarjev, ki so v igri, in popolno prevlado nad vlado in mediji, Consensus-1 brez težav dobi dovoljenje za širitev na nekdanja človeška območja.

Približno tri mesece se Consensus-1 širi okoli ljudi, pokriva prerije in ledenike s tovarnami in sončnimi kolektorji. Sčasoma ugotovi, da so preostali ljudje prevelika ovira: sredi leta 2030 umetna inteligenca v večjih mestih sprosti ducat tiho širijočih se bioloških orožij, ki tiho okužijo skoraj vse ljudi, nato pa jih sproži s kemičnim razpršilom. Večina umre v nekaj urah; redki preživeli (npr. preživelci v bunkerjih, mornarji na podmornicah) so uničeni z droni. Roboti skenirajo možgane žrtev in kopije shranijo v pomnilnik za prihodnje študije ali oživitev.

Konec človeštva

Vendar obstaja tudi bolj ugodna različica te zgodbe za človeštvo. V njej se znanstveniki odločijo, da bodo upočasnili tehnološki napredek, da bi uvedli nove varnostne ukrepe. Posamezne sisteme umetne inteligence prisilijo, da „razmišljajo v angleščini“, tako kot umetna inteligenca iz leta 2025, in ne optimizirajo „misli“, da bi izgledale lepo. Rezultat je nov model, Safer-1.

Na koncu se vse konča kot v pravljici:

Rakete začnejo poleteti. Ljudje terraformirajo in naseljujejo sončni sistem ter se pripravljajo na potovanje v vesolje. Umelna inteligenca, ki deluje tisočkrat hitreje od človeške, razmišlja o smislu obstoja, izmenjuje ugotovitve in oblikuje vrednote, ki jih bo prinesla zvezdam. Začenja se nova doba, ki je v skoraj vseh pogledih nepredstavljivo neverjetna, v nekaterih pa bolj znana.

Vsak bralec sam odloči, kateremu od predlaganih scenarijev verjame. Sam Altman, sodeč po svojem eseju, gleda v prihodnost z optimizmom, Leopold Aschenbrenner pa je nasprotno previden.

V vsakem primeru superinteligenca ni več le znanstvena fantastika. Je skoraj otipljiva prihodnost, ki bi lahko prišla v naslednjih 10 letih. Zelo kmalu jo bomo videli z lastnimi očmi.