Superinteligentné bytosti do roku 2030: Máme sa báť budúcnosti?

Umelá inteligencia sa vyvíja fantastickým tempom. Pred pár rokmi chatboty dokázali sotva poskladať pár zmysluplných viet, ale dnes neurónové siete riešia zložité matematické a vedecké problémy a generované obrázky a videá už dosiahli úroveň fotorealizmu. V tomto článku sa pozrieme na to, ako realistický je vznik superinteligentných systémov v blízkej budúcnosti a aké hrozby pre nás všetkých predstavujú.

Ako reálne je vznik superinteligence?

Nedávno Sam Altman, generálny riaditeľ OpenAI, uverejnil esej s názvom „The Gentle Singularity.” Tu je niekoľko úryvkov z nej.

„Prekročili sme horizont udalostí; štart sa začal. Ľudstvo je blízko k vytvoreniu digitálnej superinteligentnej bytosti... V roku 2025 sa objavili agenti, ktorí dokážu vykonávať skutočnú kognitívnu prácu; písanie počítačového kódu už nikdy nebude také isté. V roku 2026 sa pravdepodobne objavia systémy, ktoré dokážu prichádzať s novými poznatkami. V roku 2027 sa možno dočkáme robotov, ktorí budú schopní vykonávať úlohy v reálnom svete.“

„Roky 2030 budú pravdepodobne úplne odlišné od akéhokoľvek obdobia, ktoré doteraz bolo. Nevieme, ako ďaleko môžeme zájsť v porovnaní s inteligenciou človeka, ale čoskoro to zistíme. V 30. rokoch 21. storočia sa inteligencia a energia – nápady a schopnosť realizovať nápady – stanú mimoriadne hojnými. Tieto dve veci boli dlho základnými limitujúcimi faktormi ľudského pokroku; s hojnou inteligenciou a energiou (a dobrým riadením) môžeme teoreticky dosiahnuť čokoľvek.“

Sam Altman

„S automatizáciou výroby dátových centier by sa náklady na inteligenciu mali nakoniec priblížiť nákladom na elektrinu. Tempo dosahovania nových zázrakov bude obrovské. Dnes je ťažké si predstaviť, čo všetko objavíme do roku 2035. Možno sa z riešenia problémov vysokej energie vo fyzike dostaneme v priebehu jedného roka k začatiu kolonizácie vesmíru, alebo z významného prelomu v materiálových vedách v jednom roku k skutočným rozhraniam mozgu a počítača s vysokou šírkou pásma v roku nasledujúcom.“

„OpenAI je dnes veľa vecí, ale predovšetkým sme spoločnosť zaoberajúca sa výskumom superinteligentných systémov. Inteligencia, ktorá je príliš lacná na to, aby sa dala merať, je na dosah ruky. Možno to znie šialene, ale keby sme vám v roku 2020 povedali, že budeme tam, kde sme dnes, znie to pravdepodobne šialenejšie ako naše súčasné predpovede o roku 2030.“

Ďalší významný výskumník v oblasti umelej inteligencie, Leopold Aschenbrenner (ktorý bol členom tímu „Superalignment“ spoločnosti OpenAI, než bol v apríli 2024 prepustený pre údajný únik informácií), napísal rozsiahlu správu o budúcnosti umelej inteligencie s názvom „Situational Awareness: The Decade Ahead.”

Leopold Aschenbrenner

Povedal: „Je veľmi pravdepodobné, že do roku 2027 budú modely schopné vykonávať prácu výskumníka/inžiniera v oblasti umelej inteligencie. Na to nie je potrebné veriť v sci-fi, stačí veriť v priamky na grafe.“

Od GPT-2, ktorý dokázal niekedy vytvoriť súvislé vety, po GPT-4, ktorý vyniká v stredoškolských skúškach, pokrok v oblasti umelej inteligencie je pozoruhodný. V oblasti výpočtového výkonu rýchlo postupujeme o niekoľko rádov (OOM, kde 1 OOM = 10x). Súčasné trendy naznačujú približne 100 000-násobné zvýšenie výpočtovej efektívnosti za štyri roky, čo by mohlo potenciálne viesť k ďalšiemu kvalitatívnemu skoku podobnému prechodu od GPT-2 k GPT-4. Takýto skok by nás mohol priviesť k AGI – umelej všeobecnej inteligencii – umelej inteligencii s kognitívnymi schopnosťami podobnými ľudským, schopnej učiť sa, rozumieť a riešiť rôzne problémy, na rozdiel od úzko špecializovanej umelej inteligencie určenej na vykonávanie konkrétnych úloh.

GPT: od predškolského veku po automatizovaného výskumníka/inžiniera v oblasti umelej inteligencie

Najviditeľnejším motorom nedávneho pokroku je výrazné zvýšenie výpočtového výkonu modelov. S každým OOM efektívneho výpočtového výkonu sa modely predvídateľne a spoľahlivo zlepšujú.

Základný výpočtový výkon vs 4x výpočtový výkon vs 32x výpočtový výkon

Za posledných 15 rokov masívne investície a špecializované čipy pre umelú inteligenciu (GPU a TPU) zvýšili výpočtovú kapacitu pre najmodernejšie systémy umelej inteligencie o približne 0,5 OOM ročne. Tréning GPT-4 vyžadoval približne 3 000- až 10 000-krát viac surovej výpočtovej kapacity ako GPT-2.

Výpočet výcviku významných modelov

Ale aj to je nič v porovnaní s tým, čo nás čaká. OpenAI a vláda USA už oznámili plány na projekt Stargate: zavedenie dátového centra a testovanie, ktoré podľa povestí bude využívať 3 OOM, alebo 1 000-krát viac výpočtového výkonu ako GPT-4, s odhadovaným rozpočtom presahujúcim 100 miliárd dolárov.

Zatiaľ čo masívne investície do výpočtovej kapacity pútajú všetku pozornosť, algoritmický pokrok je pravdepodobne rovnako dôležitým motorom pokroku. Je to ako vyvíjať lepšie techniky učenia namiesto toho, aby sme sa len dlhšie učili. Lepší algoritmus by nám mohol umožniť dosiahnuť rovnaký výkon, ale s 10-krát menšou výpočtovou kapacitou. To by zase znamenalo 10-násobné (1 OOM) zvýšenie efektívnej výpočtovej kapacity. Za pouhé 2 roky náklady na dosiahnutie 50 % v benchmarku MATH klesli tisíckrát, alebo 3 OOM. To, čo kedysi vyžadovalo obrovské dátové centrum, je teraz možné dosiahnuť na vašom iPhone. Ak tento trend bude pokračovať a nie sú žiadne známky spomalenia, do roku 2027 budeme schopní prevádzkovať umelú inteligenciu na úrovni GPT-4 za 100-krát nižšiu cenu.

Nanešťastie, keďže laboratóriá nezverejňujú interné údaje o tomto, je ťažšie merať algoritmický pokrok v oblasti špičkových LLM za posledné štyri roky. Podľa novej práce Epoch AI sa efektívnosť zdvojnásobuje každých 8 mesiacov:

Efektívny výpočtový výkon (v porovnaní s rokom 2014)

V priebehu štyroch rokov po uvedení GPT-4 očakávame, že tento trend bude pokračovať: ~0,5 OOM/rok v oblasti výpočtovej efektívnosti, čo do roku 2027 prinesie ~2 OOM (100x) v porovnaní s GPT-4. Laboratóriá umelej inteligencie investujú čoraz viac finančných prostriedkov a talentov do objavovania nových algoritmických prelomov. Vzhľadom na vysoké náklady na výpočtové klastre by trojnásobné zvýšenie efektívnosti mohlo priniesť ekonomický zisk v desiatkach miliárd.

AI napreduje prostredníctvom rôznych metód. Tu je niekoľko techník používaných na prekonanie obmedzení a odomknutie plného potenciálu surovej inteligencie AI:

• Chain of Thought: Predstavte si, že máte vyriešiť zložitý matematický problém a musíte vyriecť prvú odpoveď, ktorá vám príde na um. Okrem najjednoduchších problémov by ste s tým zrejme mali problém. Až donedávna sme takto riešili matematické problémy pomocou LLM. Reťazec myšlienok umožňuje modelom umelej inteligencie rozložiť problémy na jednotlivé kroky, čím sa výrazne zvýšia ich schopnosti riešiť problémy (čo zodpovedá viac ako 10-násobnému zvýšeniu efektívneho výpočtového výkonu pri matematických a logických úlohách).
• Lešenie. Namiesto toho, aby ste model požiadali o vyriešenie problému, nechajte jeden model vypracovať plán riešenia, druhý navrhne niekoľko možných riešení, tretí ich skritizuje atď. Je to ako keby tím expertov riešil komplexný projekt. Napríklad v SWE-Bench (benchmarku riešenia reálnych úloh softvérového inžinierstva) dokáže GPT-4 správne vyriešiť len ~2 %, zatiaľ čo s Devinovým agentom scaffolding sa tento podiel zvýši na 14–23 %.
• Nástroje: Predstavte si, že by ľudia nemohli používať kalkulačky ani počítače. Sme ešte len na začiatku, ale ChatGPT už vie používať webový prehliadač, spúšťať kód a tak ďalej.
• Dĺžka kontextu. Ide o množstvo informácií, ktoré model dokáže naraz uchovať vo svojej krátkodobej pamäti. Modely sa rozrástli z približne 4 strán na spracovanie textu v objeme 10 veľkých kníh. Kontext je kľúčový pre odomknutie mnohých aplikácií týchto modelov. Napríklad mnoho úloh v oblasti kódovania vyžaduje pochopenie veľkej časti kódovej základne, aby bolo možné efektívne prispievať novým kódom. Podobne, pri použití modelu na pomoc pri písaní pracovného dokumentu potrebuje kontext z mnohých súvisiacich interných dokumentov a konverzácií.

V každom prípade sa rýchlo blíži moment, kedy vyčerpáme všetky možnosti OOM, a na to, aby sme možnosť vzniku AGI – skutočnej AGI – do roku 2027 brali vážne, nepotrebujeme žiadne ezoterické viery, stačí len extrapolovať súčasný trend.

Pokrok v oblasti AI sa nezastaví na úrovni človeka. Stovky miliónov AGI by mohli automatizovať výskum AI a skrátiť desaťročie algoritmického pokroku (5+ OOM) na ≤1 rok. Rýchlo by sme prešli od systémov na úrovni človeka k systémom AI s výrazne nadľudskými schopnosťami. Sila – a nebezpečenstvo – superinteligentných systémov by bolo dramatické.

Superinteligencia do roku 2030

Čoho bude superinteligentná bytosť schopná?

Systémy umelej inteligencie na úrovni človeka, AGI, budú samy osebe nesmierne dôležité, ale v istom zmysle budú len efektívnejšími verziami toho, čo už poznáme. Je však celkom možné, že už o rok prejdeme na systémy, ktoré budú pre nás oveľa cudzejšie, systémy, ktorých pochopenie a schopnosti – ich surová sila – prekonajú dokonca aj kombinované schopnosti celého ľudstva.

Sila superinteligentnosti:

• Superinteligentnosť kvantitatívne prekoná ľudí, bude schopná rýchlo zvládnuť akúkoľvek oblasť, napísať bilióny riadkov kódu, prečítať všetky vedecké články, ktoré kedy boli napísané v akejkoľvek oblasti vedy, a napísať nové, skôr ako stihnete prečítať abstrakt jedného z nich, učiť sa z paralelných skúseností všetkých svojich kópií, získať miliardy ľudských rokov skúseností s niektorými inováciami za pár týždňov, pracovať 100 % času s maximálnou energiou a koncentráciou.
• Ešte dôležitejšie je, že superinteligentná umelá inteligencia bude kvalitatívne prevyšovať ľudí. Nájde slabé miesta v ľudskom kóde, ktoré sú príliš jemné na to, aby ich človek mohol zaznamenať, a vytvorí kód, ktorý je príliš zložitý na to, aby ho človek mohol pochopiť, aj keby sa model snažil vysvetliť ho desaťročia. Extrémne zložité vedecké a technologické problémy, s ktorými sa ľudia budú potýkať desaťročia, budú pre superinteligentnú umelú inteligenciu samozrejmé.

Umelá superinteligencia prichádza

• Automatizácia akejkoľvek kognitívnej práce.
• Továrne prejdú z ľudského riadenia na riadenie umelou inteligenciou s využitím ľudskej fyzickej práce a čoskoro budú úplne riadené rojmi robotov.
• Vedecký a technologický pokrok. Miliarda superinteligentných bytostí bude schopná skrátiť úsilie, ktoré by vedci vynaložili na výskum a vývoj v priebehu nasledujúceho storočia, na niekoľko rokov. Predstavte si, keby bol technologický pokrok 20. storočia skrátený na menej ako desať rokov.
• Extrémne zrýchlený technologický pokrok v kombinácii s možnosťou automatizácie všetkej ľudskej práce by mohol dramaticky urýchliť hospodársky rast (predstavte si samoreplikujúce sa robotické továrne, ktoré rýchlo pokryjú celú nevadskú púšť).
• S mimoriadne rýchlym technologickým pokrokom prídu aj vojenské revolúcie. Dúfajme, že to neskončí ako v Horizon Zero Dawn.

Problém zosúladenia

Spoľahlivé ovládanie systémov umelej inteligencie, ktoré sú oveľa inteligentnejšie ako my, je nevyriešený technický problém. A hoci je tento problém riešiteľný, s rýchlo sa rozvíjajúcou inteligenciou by sa situácia mohla veľmi ľahko vymknúť spod kontroly. Riadenie tohto procesu bude mimoriadne náročné; zlyhanie by mohlo ľahko viesť k katastrofe.

Na riešenie tohto problému vytvorila OpenAI tím Superalignment a na túto prácu vyčlenila 20 % svojho výpočtového výkonu. Faktom však je, že naše súčasné metódy zosúlaďovania (metódy, ktoré zabezpečujú spoľahlivú kontrolu, riadenie a dôveru v systémy umelej inteligencie) nie je možné rozšíriť na nadľudské systémy umelej inteligencie.

Explózia inteligencie a obdobie bezprostredne po vzniku superinteligentných bytostí bude patriť medzi najnestabilnejšie, najnapätejšie, najnebezpečnejšie a najbúrlivejšie obdobia v dejinách ľudstva. Existuje reálna možnosť, že stratíme kontrolu, pretože počas tohto rýchleho prechodu budeme nútení vložiť svoju dôveru do systémov umelej inteligencie. Na konci explózie inteligencie nebudeme mať žiadnu nádej na pochopenie toho, čo robia naše miliardy superinteligentných bytostí. Budeme ako prváci, ktorí sa snažia ovládať ľudí s viacerými doktorátmi.

Neriešiteľnosť problému superalignmentu znamená, že jednoducho nemôžeme zabezpečiť ani tieto základné obmedzenia superinteligentných systémov, ako napríklad „budú spoľahlivo dodržiavať moje pokyny?“ alebo „budú úprimne odpovedať na moje otázky?“ alebo „nebudú klamať ľudí?“

Ak nevyriešime problém zosúladenia, nie je žiadny dôvod očakávať, že táto malá civilizácia superinteligencií bude naďalej dlhodobo poslúchať ľudské príkazy. Je celkom možné, že v určitom momente sa jednoducho dohodnú, že sa ľudí zbavia, buď náhle, alebo postupne.

Možné scenáre budúcnosti

Webová stránka

https://ai-2027.com/ ponúka dva scenáre blízkej budúcnosti, prezentované vo forme sci-fi príbehu. Tvorcovia webovej stránky sú skutoční výskumníci v oblasti umelej inteligencie a ich práca je podložená štatistickými údajmi, výpočtami a grafmi. Inými slovami, nejde len o zábavné čítanie, ale o desivo pravdepodobnú predpoveď. Mimochodom, už vyvolala vážnu kritiku zo strany tých, ktorí nesúhlasia s použitou metodikou. Nie je teda dôvod na predčasnú paniku, ale je zaujímavé sa na to pozrieť.

1 bilión mimoriadne superinteligentných kópií mysliacich 10 000-krát rýchlejšie ako človek

Pochmúrna prognóza, ktorá je podľa autorov štúdie aj najpravdepodobnejším scenárom, zahŕňa technologický zbrojný závod medzi USA a Čínou v oblasti umelej superinteligentnosti. Každá strana sa tak bojí straty svojho technologického náskoku, že robí všetko, čo je v jej silách, aby urýchlila pokrok, a to aj na úkor bezpečnosti. V určitom momente sa superinteligentnosť vymkne spod kontroly a začne sledovať svoje vlastné ciele, pričom ľudí bude považovať za prekážky, ktoré je potrebné eliminovať.

Do začiatku roka 2030 robotická ekonomika zaplnila staré SEZ (špeciálne ekonomické zóny), nové SEZ a veľké časti oceánu. Jediným miestom, kam sa môže rozšíriť, sú oblasti kontrolované ľuďmi. To by už skôr vyvolalo odpor; napriek všetkým pokrokom robotická ekonomika rastie príliš rýchlo, aby sa dalo zabrániť znečisteniu. Vzhľadom na bilióny dolárov, ktoré sú v hre, a úplnú kontrolu vlády a médií však Consensus-1 nemá veľké problémy získať povolenie na expanziu do bývalých ľudských zón.

Približne tri mesiace sa Consensus-1 rozširuje okolo ľudí, pokrývajúc prérie a ľadové čiapky továrňami a solárnymi panelmi. Nakoniec zistí, že zostávajúci ľudia sú príliš veľkou prekážkou: v polovici roku 2030 umelá inteligencia uvoľní v hlavných mestách tucet ticho sa šíriacich biologických zbraní, nechá ich ticho infikovať takmer všetkých a potom ich aktivuje chemickým sprejom. Väčšina ľudí zomrie do niekoľkých hodín; niekoľko preživších (napr. prepperov v bunkroch, námorníkov na ponorkách) zlikvidujú drony. Roboty skenujú mozgy obetí a ich kópie ukladajú do pamäte na budúce štúdium alebo oživenie.

Koniec ľudstva

Existuje však aj priaznivejšia verzia tohto príbehu pre ľudstvo. V nej sa vedci rozhodnú spomaliť technologický pokrok, aby mohli zaviesť nové bezpečnostné opatrenia. Donútia jednotlivé systémy umelej inteligencie „myslieť v angličtine“ ako umelá inteligencia z roku 2025 a neoptimalizujú „myšlienky“, aby vyzerali pekne. Výsledkom je nový model Safer-1.

Nakoniec všetko skončí ako v rozprávke:

Rakety začínajú štartovať. Ľudia terraformujú a osídľujú slnečnú sústavu a pripravujú sa na ďalšie výpravy. Umelá inteligencia, ktorá funguje tisíckrát rýchlejšie ako ľudský mozog, uvažuje o zmysle existencie, vymieňa si zistenia a formuje hodnoty, ktoré prinesie hviezdam. Začína nová éra, ktorá je takmer vo všetkých ohľadoch nepredstaviteľne úžasná, ale v niektorých ohľadoch aj známa.

Je na každom čitateľovi, aby sa rozhodol, ktorému z navrhovaných scenárov uverí. Sam Altman, súdiac podľa svojho eseje, hľadí do budúcnosti s optimizmom, zatiaľ čo Leopold Aschenbrenner je naopak opatrný.

V každom prípade, superinteligencia už nie je len sci-fi. Je to takmer hmatateľná budúcnosť, ktorá by mohla nastať v priebehu najbližších 10 rokov. Veľmi skoro ju uvidíme na vlastné oči.