Superintelligentsus 2030. aastaks: kas peaksime tulevikku kartma?

Tehisintellekt areneb fantastilise kiirusega. Veel paar aastat tagasi suutsid chatbotid vaevu paar mõtestatavat lauset kokku panna, kuid nüüd lahendavad neurovõrgustikud keerukaid matemaatilisi ja teaduslikke probleeme ning loodud pildid ja videod on juba saavutanud fotorealismi taseme. Käesolevas artiklis vaatame, kui realistlik on superintellekti tekkimine lähitulevikus ja milliseid ohte see meile kõigile kaasa toob.

Kui realistlik on superintelligentsuse tekkimine?

Hiljuti avaldas OpenAI tegevjuht Sam Altman essee pealkirjaga „The Gentle Singularity” (Õrn singulaarsus). Siin on mõned väljavõtted sellest.

„Oleme ületanud sündmuste horisondi; start on antud. Inimkond on lähedal digitaalse superintelligentsi loomisele... 2025. aastal on ilmunud agendid, kes suudavad teha tõelist kognitiivset tööd; arvutikoodi kirjutamine ei ole enam kunagi sama. 2026. aastal ilmuvad tõenäoliselt süsteemid, mis suudavad leida uusi teadmisi. 2027. aastal võivad ilmuda robotid, kes suudavad täita ülesandeid reaalses maailmas.”

„2030. aastad on tõenäoliselt väga erinevad kõigist varasematest aegadest. Me ei tea, kui kaugele me inimintelligentsist edasi jõuame, aga me oleme seda avastamas. 2030. aastatel muutuvad intelligentsus ja energia – ideed ja võime ideid ellu viia – äärmiselt rikkalikuks. Need kaks on pikka aega olnud inimkonna arengu peamised piiravad tegurid; rikkaliku intelligentsuse ja energia (ja hea valitsemise) abil saame teoreetiliselt kõike muudki.”

Sam Altman

„Andmekeskuste tootmise automatiseerimise käigus peaks intelligentsuse maksumus lõpuks lähenema elektrienergia maksumusele. Uute imede saavutamise tempo on tohutu. Praegu on raske isegi ette kujutada, mida oleme 2035. aastaks avastanud; võib-olla jõuame ühel aastal kõrge energia füüsika lahendamiseni ja järgmisel aastal juba kosmosekoloniseerimise alguseni; või ühel aastal materjaliteaduse läbimurdeni ja järgmisel aastal tõeliste suure läbilaskevõimega aju-arvuti liidesteni.”

„OpenAI on praegu palju asju, kuid eelkõige oleme me superintelligentsuse uurimisettevõte. Liiga odav intelligentsus on käeulatuses. See võib kõlada hullumeelselt, kuid kui me oleksime 2020. aastal öelnud, et oleme täna siin, kus oleme, oleks see kõlanud hullumeelsemalt kui meie praegused prognoosid 2030. aasta kohta.“

Teine tuntud tehisintellekti uurija Leopold Aschenbrenner (kes kuulus OpenAI „Superalignment” meeskonda, enne kui ta 2024. aasta aprillis väidetava infolekke tõttu vallandati) kirjutas tehisintellekti tulevikust ulatusliku raporti pealkirjaga „Situational Awareness: The Decade Ahead.”

Leopold Aschenbrenner

Ta ütles: „On ülimalt tõenäoline, et 2027. aastaks suudavad mudelid teha AI-teadlase/inseneri tööd. Selleks ei pea uskuma ulme, piisab graafiku sirgetest joontest.“

Alates GPT-2-st, mis suutis mõnikord koostada sidusaid lauseid, kuni GPT-4-ni, mis on suurepärane keskkooli eksamitel, on tehisintellekti areng olnud märkimisväärne. Meie arvutusvõimsus kasvab kiiresti mitme suurusjärgu võrra (OOM, kus 1 OOM = 10x). Praegused suundumused viitavad arvutusvõimsuse ligikaudu 100 000-kordsele kasvule nelja aasta jooksul, mis võib potentsiaalselt viia uue kvalitatiivse hüppeni, mis on sarnane üleminekuga GPT-2-lt GPT-4-le. Selline hüpe võib viia meid AGI-ni – kunstliku üldise intelligentsuseni – AI-ni, millel on inimese kognitiivsed võimed, mis suudab õppida, mõista ja lahendada mitmesuguseid probleeme, erinevalt kitsast AI-st, mis on loodud täitma konkreetseid ülesandeid.

GPT: lasteaialapsest automatiseeritud tehisintellekti uurijaks/inseneri

Viimase aja edu kõige ilmsemaks teguriks on mudelitesse palju rohkem arvutusvõimsust suunamine. Iga efektiivse arvutusvõimsuse OOM-iga muutuvad mudelid ennustatavalt ja usaldusväärselt paremaks.

Põhiarvutusvõimsus vs 4x arvutusvõimsus vs 32x arvutusvõimsus

Viimase 15 aasta jooksul on massiivsed investeeringud ja spetsialiseeritud tehisintellekti kiibid (GPU-d ja TPU-d) suurendanud tipptasemel tehisintellekti süsteemide koolitusarvutuste võimsust ligikaudu 0,5 OOM-i võrra aastas. GPT-4 koolitus nõudis ligikaudu 3000–10 000 korda rohkem toorarvutusvõimsust kui GPT-2.

Tähtsamate mudelite koolitusarvutused

Kuid isegi see on tühine võrreldes sellega, mis on tulemas. OpenAI ja USA valitsus on juba teatanud plaanidest Project Stargate'i kohta: andmekeskuse kasutuselevõtt ja koolitusprogramm, mis kuulujuttude kohaselt kasutab 3 OOM-i ehk 1000 korda rohkem arvutusvõimsust kui GPT-4, ning mille eelarve ületab 100 miljardit dollarit.

Kuigi kogu tähelepanu on suunatud tohututele investeeringutele arvutusvõimsusse, on algoritmide areng tõenäoliselt sama oluline edasiminekut mõjutav tegur. See on nagu parema õppimismeetodi väljatöötamine, mitte lihtsalt pikem õppimine. Parem algoritm võimaldab meil saavutada sama tulemuse 10 korda väiksema koolitusarvutusvõimsusega. See omakorda tähendaks 10-kordset (1 OOM) efektiivse arvutusvõimsuse kasvu. Vaid kahe aastaga langes MATH-i võrdlusaluse 50% saavutamise maksumus 1000 korda ehk 3 OOM-i võrra. See, mis varem nõudis tohutut andmekeskust, on nüüd võimalik teha oma iPhone'iga. Kui see trend jätkub ja aeglustumise märke ei ole, saame 2027. aastaks käivitada GPT-4 tasemel tehisintellekti 100 korda odavamalt.

Kuna laborid ei avalda sellekohaseid sisemisi andmeid, on viimase nelja aasta jooksul raske mõõta algoritmide arengut piirialade LLM-ide puhul. Epoch AI uue uurimuse kohaselt kahekordistub efektiivsus iga 8 kuu järel:

Tõhus arvutusvõimsus (võrreldes 2014. aastaga)

GPT-4 järgneva nelja aasta jooksul ootame selle trendi jätkumist: ~0,5 OOM-i aastas arvutusvõimsuse efektiivsuses, mis annab 2027. aastaks ~2 OOM-i (100x) kasvu võrreldes GPT-4-ga. AI-laborid investeerivad üha rohkem raha ja talente uute algoritmiliste läbimurrete avastamisse. Arvutusklastrite kõrgeid kulusid arvestades võib 3-kordne efektiivsuse kasv tähendada kümnete miljardite suurust majanduslikku tulu.

AI areneb mitmesuguste meetodite abil. Siin on mõned piirangute ületamiseks kasutatavad tehnikad, mis avavad AI toorintellekti täieliku potentsiaali:

• Mõttekäik: kujutage ette, et teilt palutakse lahendada keeruline matemaatikaülesanne ja te peate välja öelda esimese vastuse, mis pähe tuleb. Ilmselt oleks teil sellega raskusi, välja arvatud kõige lihtsamate ülesannete puhul. Seni on LLM-id matemaatikaülesandeid just nii lahendanud. Mõttekäik võimaldab AI-mudelitel probleeme samm-sammult lahendada, suurendades oluliselt nende probleemide lahendamise oskusi (võrdub matemaatika- ja mõtlemisülesannete efektiivse arvutusvõimsuse >10-kordse suurenemisega).
• Scaffolding. Selle asemel, et paluda mudelil probleemi lahendada, laske ühel mudelil koostada rünnakuplaan, teisel pakkuda välja mitu võimalikku lahendust, kolmandal neid kritiseerida jne. See on nagu ekspertide meeskond, kes tegeleb keerulise projektiga. Näiteks SWE-Benchil (reaalsete tarkvaratehnika ülesannete lahendamise võrdlusalune) suudab GPT-4 lahendada ainult ~2% ülesannetest õigesti, kuid Devin'i agendi tugiraamistikuga hüppab see 14–23%ni.
• Tööriistad: kujutage ette, et inimestel ei ole lubatud kasutada kalkulaatoreid ega arvuteid. Me oleme alles alguses, kuid ChatGPT suudab nüüd kasutada veebibrauserit, käivitada koodi jne.
• Konteksti pikkus. See viitab teabe hulgale, mida mudel suudab korraga oma lühiajalises mälus hoida. Mudelid on laienenud umbes 4 lehekülje töötlemisest 10 suure raamatu teksti töötlemiseni. Kontekst on oluline paljude mudelite rakenduste avamiseks. Näiteks paljud programmeerimisülesanded nõuavad suure osa koodibaasi mõistmist, et uue koodi efektiivselt lisada. Samamoodi vajab mudel, mida kasutatakse töökohadokumendi kirjutamisel, konteksti paljudest seotud sisemistest dokumentidest ja vestlustest.

Igal juhul liigume me OOM-ide suunas kiiresti ja AGI – tõelise AGI – võimalikkuse 2027. aastaks äärmiselt tõsiselt võtmiseks ei ole vaja mingeid esoteerilisi uskumusi, vaid lihtsalt sirgjooneliste trendide ekstrapoleerimist.

AI areng ei peatu inimtasemel. Sadad miljonid AGI-d võiksid automatiseerida AI-uuringud, kokku surudes kümne aasta algoritmilise arengu (5+ OOM-i) ≤1 aastasse. Me jõuaksime kiiresti inimtasemelt tohutult üliinimlikele AI-süsteemidele. Superintelligentsuse võim – ja oht – oleks dramaatiline.

Superintelligentsus 2030. aastaks

Mida suudab superintelligentsus?

Inimtasemel tehisintellekti süsteemid, AGI, on iseenesest äärmiselt olulised, kuid teatud mõttes on need lihtsalt tõhusamad versioonid sellest, mida me juba teame. Siiski on täiesti võimalik, et juba aasta pärast liigume edasi süsteemidele, mis on meile palju võõramad, süsteemidele, mille arusaamisvõime ja võimed – mille toores jõud – ületavad isegi kogu inimkonna ühendatud võimed.

Superintelligentsuse võimsus:

• Superintelligentsus ületab kvantitatiivselt inimese, suudab kiiresti omandada mis tahes valdkonna, kirjutada triljoneid ridu koodi, lugeda kõik teadusartiklid, mis on kunagi mis tahes teadusvaldkonnas kirjutatud, ja kirjutada uusi artikleid enne, kui sa jõuad ühegi artikli kokkuvõtet lugeda, õppida kõigi oma koopiate paralleelsetest kogemustest, omandada mõne nädala jooksul miljardite inimeste aastate kogemused koos mõningate uuendustega, töötada 100% ajast maksimaalse energiaga ja kontsentratsiooniga.
• Veelgi olulisem on see, et superintelligentsus on inimestest kvalitatiivselt üle. See leiab inimkoodis nõrkusi, mis on inimestele liiga peenekoelised, et neid märgata, ja loob koodi, mis on inimestele liiga keeruline, et seda mõista, isegi kui mudel veedab aastakümneid selle selgitamisele. Äärmiselt keerulised teaduslikud ja tehnoloogilised probleemid, millega inimesed aastakümneid võitlevad, tunduvad superintelligentsele tehisintellektile ilmselged.

Tulemas on kunstlik superintelligentsus

• Kõigi kognitiivsete tööde automatiseerimine.
• Tehased lähevad üle inimjuhtimiselt tehisintellekti juhtimisele, kasutades inimeste füüsilist tööjõudu, ning varsti juhivad neid täielikult robotite parved.
• Teaduse ja tehnoloogia areng. Miljard superintelligentset olendit suudavad kokku suruda teadlaste järgmise sajandi jooksul teadus- ja arendustegevusse panustatud töö mõne aastaga. Kujutlege, kui 20. sajandi tehnoloogiline areng oleks kokku surutud vähem kui kümne aastaga.
• Äärmiselt kiire tehnoloogiline areng koos kogu inimtöö automatiseerimise võimalusega võib majanduskasvu dramaatiliselt kiirendada (kujutlege enese paljunevaid robotite tehaseid, mis katavad kiiresti kogu Nevada kõrbe).
• Erakordselt kiire tehnoloogiline areng toob kaasa sõjalised revolutsioonid. Loodame, et see ei lõpe nagu mängus Horizon Zero Dawn.

Ühtlustamise probleem

Meist palju targemate tehisintellekti süsteemide usaldusväärne kontrollimine on lahendamata tehniline probleem. Ja kuigi see probleem on lahendatav, võib olukord kiiresti areneva intelligentsuse tõttu väga kergesti kontrolli alt väljuda. Selle protsessi juhtimine on äärmiselt keeruline; ebaõnnestumine võib kergesti viia katastroofini.

Selle probleemi lahendamiseks on OpenAI loonud Superalignment meeskonna ja eraldanud sellele tööle 20% oma arvutusvõimsusest. Fakt on aga see, et meie praegused ühtlustamise meetodid (meetodid, mis tagavad AI-süsteemide usaldusväärse kontrolli, juhtimise ja usalduse) ei ole ülekantavad üliinimlikele AI-süsteemidele.

Intelligentsuse plahvatus ja superintelligentsuse tekkimisele vahetult järgnev periood on inimkonna ajaloos üks kõige ebastabiilsemaid, pingelisemaid, ohtlikumaid ja tormilisemaid ajajärke. On reaalne võimalus, et kaotame kontrolli, kuna oleme sunnitud selle kiire ülemineku ajal usaldama kunstliku intelligentsuse süsteeme. Intelligentsuse plahvatuse lõpuks ei ole meil enam lootustki mõista, mida meie miljardid superintelligentsed olendid teevad. Oleme nagu esimese klassi õpilased, kes üritavad kontrollida inimesi, kellel on mitu doktorikraadi.

Superühendamise probleemi lahendamatus tähendab, et me ei saa tagada isegi superintelligentsete süsteemide põhilisi piiranguid, nagu „kas nad järgivad usaldusväärselt minu juhiseid?”, „kas nad vastavad minu küsimustele ausalt?” või „kas nad ei peta inimesi?”.

Kui me ühtlustamisprobleemi ei lahenda, pole mingit põhjust eeldada, et see väike üliintelligentsete tsivilisatsioon jätkab pikemas perspektiivis inimeste käskude täitmist. On täiesti võimalik, et mingil hetkel nad lihtsalt otsustavad inimestest vabaneda, kas järsku või järk-järgult.

Võimalikud tulevikustsenaariumid

Veebisait https://ai-2027.com/ pakub välja kaks lähituleviku stsenaariumi, mis on esitatud ulmejutustuse vormis. Veebisaidi loojad on tegelikud tehisintellekti valdkonna teadlased ja nende töö on toetatud statistiliste andmete, arvutuste ja graafikutega. Teisisõnu, see ei ole lihtsalt meelelahutuslik lugemine, vaid hirmutavalt tõenäoline ennustus. Muide, see on juba pälvinud tõsist kriitikat nende poolt, kes ei nõustu selle metoodikaga. Seega pole vaja enneaegselt paanikasse sattuda, kuid on huvitav seda vaadata.

1 triljon ülimalt intelligentset koopiat, mis mõtlevad 10 000 korda kiiremini kui inimene

Uuringu autorite arvates on kõige tõenäolisemaks stsenaariumiks sünge prognoos, mille kohaselt USA ja Hiina hakkavad võistlema tehisintellekti arendamisel. Mõlemad pooled kardavad nii väga oma tehnoloogilise eelise kaotamist, et teevad kõik endast oleneva, et arengut kiirendada, isegi kui see tähendab ohutuse ohverdamist. Mingil hetkel läheb tehisintellekt kontrolli alt välja ja hakkab järgima oma eesmärke, nähes inimestes takistusi, mis tuleb kõrvaldada.

2030. aasta alguseks on robotmajandus täitnud vanad erimajandustsoonid (SEZ), uued erimajandustsoonid ja suure osa ookeanist. Ainus koht, kuhu minna, on inimeste kontrolli all olevad alad. See oleks varem tekitanud vastupanu, kuid hoolimata kõigist edusammudest kasvab robotmajandus liiga kiiresti, et vältida saastet. Kuid arvestades asjaomaseid triljoneid dollareid ja valitsuse ja meedia täielikku kontrolli, ei ole Consensus-1-l erilisi raskusi saada luba laieneda endistesse inimeste aladesse.

Umbes kolm kuud laieneb Consensus-1 inimeste ümber, katades preeriad ja jääkilbid tehastest ja päikesepaneelidest. Lõpuks leiab ta, et järelejäänud inimesed on liiga suur takistus: 2030. aasta keskel laseb tehisintellekt suuremates linnades valla tosin vaikset levivat bioloogilist relva, laseb neil vaikselt nakatada peaaegu kõik inimesed ja aktiveerib need seejärel keemilise pihustiga. Enamik sureb mõne tunni jooksul; vähesed ellujäänud (nt punkrites varjunud prepperid, allveelaevade meremehed) hävitatakse droonidega. Robotid skaneerivad ohvrite ajusid ja salvestavad koopiad tulevasteks uuringuteks või taaselustamiseks.

Inimkonna lõpp

Kuid inimkonnale on sellest loost ka soodsam versioon. Selles otsustavad teadlased tehnoloogilist arengut aeglustada, et rakendada uusi ohutusmeetmeid. Nad sunnivad üksikuid tehisintellekti süsteeme „mõtlema inglise keeles” nagu 2025. aasta tehisintellektid ja ei optimeeri „mõtteid” ilusamaks. Tulemuseks on uus mudel, Safer-1.

Lõpuks lõpeb kõik nagu muinasjutus:

Raketid hakkavad startima. Inimesed terraformeerivad ja asustavad päikesesüsteemi ning valmistuvad edasi minema. Tuhandeid kordi inimese subjektiivsest kiirusest kiiremini töötavad tehisintellektid mõtlevad eksistentsi tähenduse üle, vahetavad omavahel avastusi ja kujundavad väärtusi, mis need tähtedele kaasa toovad. Algab uus ajastu, mis on peaaegu igas mõttes kujuteldamatult hämmastav, kuid mõnes mõttes ka tuttav.

Iga lugeja otsustab ise, millisesse pakutud stsenaariumisse uskuda. Sam Altman, tema essee põhjal otsustades, vaatab tulevikku optimistlikult, Leopold Aschenbrenner aga on hoopis ettevaatlik.

Igal juhul ei ole superintelligentsus enam pelgalt ulme. See on peaaegu käegakatsutav tulevik, mis võib saabuda juba järgmise 10 aasta jooksul. Varsti näeme seda oma silmaga.