Superintelektas iki 2030 m.: ar turėtume bijoti ateities?

Dirbtinis intelektas vystosi fantastišku greičiu. Prieš kelerius metus pokalbių robotai vos sugebėdavo sudėlioti porą prasmingų sakinių, o dabar neuroniniai tinklai sprendžia sudėtingas matematines ir mokslines problemas, o sugeneruoti vaizdai ir vaizdo įrašai jau pasiekė fotorealizmo lygį. Šiame straipsnyje pažvelgsime, kiek realus yra superintelektas artimoje ateityje ir kokią grėsmę jis kelia mums visiems.

Kiek realistiška yra superintelekto atsiradimo galimybė?

Neseniai „OpenAI“ generalinis direktorius Sam Altman paskelbė esė „The Gentle Singularity“ (Švelni singularumas). Čia pateikiame keletą ištraukų iš jo.

„Mes jau peržengėme įvykių horizontą; startas jau duotas. Žmonija yra arti sukurti skaitmeninį superintelektą... 2025 m. pasirodė agentai, galintys atlikti realų kognityvinį darbą; kompiuterio kodų rašymas niekada nebebus toks pats. 2026 m. greičiausiai pasirodys sistemos, galinčios suvokti naujas įžvalgas. 2027 m. gali pasirodyti robotai, galintys atlikti užduotis realiame pasaulyje.“

„2030-ieji metai greičiausiai bus visiškai kitokie nei bet kada anksčiau. Nežinome, kiek toli galime nueiti už žmogaus intelekto ribų, bet netrukus tai sužinosime. 2030-aisiais intelekto ir energijos – idėjų ir gebėjimo jas įgyvendinti – bus nepaprastai daug. Šie du dalykai ilgą laiką buvo pagrindiniai žmogaus pažangos ribotuvai; turėdami gausų intelektą ir energiją (ir gerą valdymą), teoriškai galime turėti viską, ko norime.“

Sam Altman

„Automatizuojant duomenų centrų gamybą, žvalgybos išlaidos galiausiai turėtų priartėti prie elektros energijos išlaidų. Naujų stebuklų pasiekimo tempai bus milžiniški. Šiandien sunku net įsivaizduoti, ką atradime iki 2035 m. Galbūt vienais metais išspręsime aukštųjų energijų fizikos uždavinius, o kitais – pradėsime kolonizuoti kosmosą. Arba vienais metais padarysime didelį proveržį medžiagotyros srityje, o kitais – sukursime tikrai didelės spartos smegenų ir kompiuterio sąsajas.“

„OpenAI dabar yra daug kas, bet pirmiausia mes esame superintelekto tyrimų įmonė. Intelektas, kurio negalima įvertinti pinigais, yra visiškai pasiekiamas. Tai gali skambėti keistai, bet jei 2020 m. būtume pasakę, kad būsime ten, kur esame dabar, tai tikriausiai skambėtų keisčiau nei mūsų dabartiniai prognozės apie 2030 m.“

Kitas žinomas AI tyrėjas Leopold Aschenbrenner (kuris buvo OpenAI „Superalignment“ komandos narys, kol 2024 m. balandį buvo atleistas dėl įtariamo informacijos nutekinimo) parašė didžiulį pranešimą apie dirbtinio intelekto ateitį, pavadintą „Situational Awareness: The Decade Ahead.“

Leopold Aschenbrenner

Jis sakė: „Labai tikėtina, kad iki 2027 m. modeliai galės atlikti AI tyrėjo/inžinieriaus darbą. Tam nereikia tikėti moksline fantastika, reikia tik tikėti tiesiomis linijomis grafike.“

Nuo GPT-2, kuris kartais galėjo sudaryti nuoseklius sakinius, iki GPT-4, kuris puikiai išlaiko vidurinės mokyklos egzaminus, AI pažanga buvo neįtikėtina. Mes sparčiai žengiame į priekį keliais dydžio eilėmis (OOM, kur 1 OOM = 10x) skaičiavimo galios srityje. Dabartinės tendencijos rodo, kad per ketverius metus skaičiavimo efektyvumas padidės maždaug 100 000 kartų, o tai galėtų lemti dar vieną kokybinį šuolį, panašų į perėjimą nuo GPT-2 prie GPT-4. Toks šuolis galėtų mus atvesti prie AGI – dirbtinio bendrojo intelekto – AI, turinčio žmogaus kognityvinius gebėjimus, gebančio mokytis, suprasti ir spręsti įvairias problemas, priešingai nei siauras AI, sukurtas atlikti konkrečias užduotis.

GPT: nuo ikimokyklinio amžiaus iki automatizuoto AI tyrėjo/inžinieriaus

Akivaizdžiausias pastarojo meto pažangos veiksnys yra daug didesnis skaičiavimo pajėgumų skyrimas modeliams. Su kiekvienu efektyvaus skaičiavimo OOM modeliai tampa vis geresni, o jų prognozės – vis tikslesnės ir patik

Bazinis skaičiavimas vs 4x skaičiavimas vs 32x skaičiavimas

Per pastaruosius 15 metų didžiulės investicijos ir specializuoti AI lustai (GPU ir TPU) padidino pažangiausių AI sistemų mokymo skaičiavimo pajėgumus maždaug 0,5 OOM per metus. GPT-4 mokymui reikėjo maždaug 3000–10 000 kartų daugiau žaliavinio skaičiavimo pajėgumų nei GPT-2.

Žinomų modelių mokymo skaičiavimas

Tačiau net tai nublanksta palyginti su tuo, kas dar laukia. „OpenAI“ ir JAV vyriausybė jau paskelbė planus dėl „Project Stargate“ projekto: duomenų centro diegimas ir mokymo programa, kurioje, kaip gandai sako, bus naudojami 3 OOM arba 1000 kartų daugiau skaičiavimo pajėgumų nei GPT-4, o numatomas biudžetas viršys 100 milijardų JAV dolerių.

Nors didžiulės investicijos į skaičiavimo pajėgumus sulaukia visų dėmesio, algoritmų pažanga yra tikriausiai ne mažiau svarbus pažangos variklis. Tai tarsi geresnių mokymosi metodų kūrimas, o ne tiesiog ilgesnis mokymasis. Geresnis algoritmas galėtų leisti mums pasiekti tokį patį našumą, bet su 10 kartų mažesniais mokymo skaičiavimo pajėgumais. Tai savo ruožtu reikštų 10 kartų (1 OOM) efektyvesnių skaičiavimo pajėgumų padidėjimą. Per vos 2 metus išlaidos, reikalingos pasiekti 50 % MATH benchmarko, sumažėjo 1000 kartų, arba 3 OOM. Tai, kam anksčiau reikėjo didžiulio duomenų centro, dabar galima padaryti savo iPhone. Jei ši tendencija tęsis ir nebus jokių sulėtėjimo požymių, iki 2027 m. galėsime naudoti GPT-4 lygio AI 100 kartų pigiau.

Deja, kadangi laboratorijos neskelbia vidinių duomenų apie tai, sunku įvertinti pažangiausių LLM algoritmų pažangą per pastaruosius ketverius metus. Remiantis „Epoch AI“ naujausiais tyrimais, efektyvumas padvigubėja kas 8 mėnesius:

Efektyvus skaičiavimas (palyginti su 2014 m.)

Per ketverius metus po GPT-4 pasirodymo tikimės, kad ši tendencija išliks: ~0,5 OOM per metus skaičiavimo efektyvumo srityje, o iki 2027 m. palyginti su GPT-4 bus pasiektas ~2 OOM (100 kartų) prieaugis. AI laboratorijos skiria vis daugiau lėšų ir talentų naujų algoritmų atradimams. Atsižvelgiant į dideles skaičiavimo klasterių išlaidas, 3 kartus padidėjęs efektyvumas galėtų duoti dešimčių milijardų ekonominę naudą.

AI tobulėja įvairiais būdais. Štai keletas metodų, naudojamų siekiant įveikti apribojimus ir išlaisvinti visą AI žalios intelekto potencialą:

• Minties grandinė: įsivaizduokite, kad jūsų paprašoma išspręsti sudėtingą matematikos uždavinį ir jūs turite iškart pasakyti pirmą atsakymą, kuris ateina į galvą. Akivaizdu, kad jums tai būtų sunku, išskyrus pačius paprasčiausius uždavinius. Iki šiol būtent taip LLM sprendė matematikos uždavinius. Minties grandinė leidžia AI modeliams išskaidyti problemas žingsnis po žingsnio, taip žymiai padidindama jų problemų sprendimo įgūdžius (tai prilygsta >10 kartų padidėjusiam efektyviam skaičiavimo pajėgumui matematikos ir mąstymo užduotims).
• Scaffolding. Vietoj to, kad paprašytumėte modelio išspręsti problemą, vienam modeliui liepiate sudaryti veiksmų planą, kitam pasiūlyti keletą galimų sprendimų, trečiam juos kritikuoti ir t. t. Tai tarsi ekspertų komanda, sprendžianti sudėtingą projektą. Pavyzdžiui, SWE-Bench (realaus pasaulio programinės įrangos inžinerijos užduočių sprendimo etalonas) GPT-4 gali teisingai išspręsti tik ~2 %, o naudojant Devin agent scaffolding šis skaičius šoktelėja iki 14–23 %.
• Įrankiai: Įsivaizduokite, jei žmonėms nebūtų leidžiama naudoti skaičiuotuvų ar kompiuterių. Mes dar tik pradedame, bet ChatGPT jau gali naudoti interneto naršyklę, vykdyti kodą ir pan.
• Kontekstas yra labai svarbus norint išnaudoti daugelį šių modelių pritaikymo galimybių. Pavyzdžiui, daugelis kodavimo užduočių reikalauja suprasti didelę kodų bazės dalį, kad būtų galima efektyviai kurti naują kodą. Panašiai, kai modelis naudojamas padėti rašyti darbo dokumentą, jam reikia konteksto iš daugybės susijusių vidinių dokumentų ir pokalbių.

Bet kuriuo atveju, mes sparčiai artėjame prie OOM, ir nereikia jokių ezoterinių įsitikinimų, tik tiesių linijų tendencijų ekstrapoliacija, kad iki 2027 m. labai rimtai vertintume AGI – tikros AGI – galimybę.

AI pažanga nesustos žmogaus lygyje. Šimtai milijonų AGI galėtų automatizuoti AI tyrimus, sutrumpindami dešimtmetį algoritmų pažangos (5+ OOM) iki ≤1 metų. Mes greitai pereitume nuo žmogaus lygio prie žymiai viršžmogiškų AI sistemų. Superintelekto galia – ir pavojus – būtų dramatiški.

Superintelektas iki 2030 m.

Ką galės superintelektas?

Žmogaus lygio dirbtinio intelekto sistemos, AGI, bus labai svarbios savaime, tačiau tam tikra prasme jos bus tiesiog efektyvesnės versijos to, ką jau žinome. Tačiau visiškai įmanoma, kad vos per metus pereisime prie mums daug labiau nežinomų sistemų, kurių supratimas ir galimybės – jų grynasis galingumas – pranoks net visos žmonijos sujungtas galimybes.

Superintelekto galia:

• Superintelektas kiekybiškai pranoks žmones, sugebės greitai įvaldyti bet kurią sritį, parašyti trilijonus eilučių kodo, perskaityti visus kada nors parašytus mokslo straipsnius ir parašyti naujus, kol jūs spėsite perskaityti vieno iš jų santrauką, mokytis iš visų savo kopijų patirties, per kelias savaites įgyti milijardus žmogaus metų patirties su kai kuriomis naujovėmis, dirbti 100 % laiko su maksimaliu energijos ir koncentracijos lygiu.
• Dar svarbiau, superintelektas bus kokybiškai pranašesnis už žmones. Jis ras žmogaus kodo silpnąsias vietas, kurios yra pernelyg subtilios, kad jas pastebėtų bet kuris žmogus, ir sukurs kodą, kuris bus pernelyg sudėtingas, kad jį suprastų bet kuris žmogus, net jei modelis dešimtmečius bandytų jį paaiškinti. Itin sudėtingos mokslinės ir technologinės problemos, su kuriomis žmonės kovos dešimtmečius, superintelektualiai AI atrodys akivaizdžios.

Artificinė superintelekto era artėja

• Visų kognityvinių darbų automatizavimas.
• Gamybos įmonės pereis nuo žmogaus valdymo prie dirbtinio intelekto valdymo, naudojant žmogaus fizinį darbą, ir netrukus bus visiškai valdomos robotų pulkais.
• Mokslo ir technologijų pažanga. Milijardai superintelektų galės per kelerius metus sutrumpinti pastangas, kurias mokslininkai per ateinantį šimtmetį būtų skyrę moksliniams tyrimams ir plėtrai. Įsivaizduokite, jei 20-ojo amžiaus technologijų pažanga būtų sutrumpinta iki mažiau nei dešimties metų.
• Itin sparti technologijų pažanga kartu su galimybe automatizuoti visą žmogaus darbą galėtų smarkiai pagreitinti ekonomikos augimą (įsivaizduokite, kaip visą Nevados dykumą greitai užpildo savaime besidauginantys robotų fabrikai).
• Kartu su nepaprastai sparčia technologine pažanga ateis ir karinės revoliucijos. Tikėkimės, kad viskas nesibaigs kaip „Horizon Zero Dawn“.

Suderinimo problema

Patikimas daug protingesnių už mus AI sistemų valdymas yra neišspręsta techninė problema. Ir nors ši problema yra išsprendžiama, sparčiai tobulėjant intelektui, situacija gali labai lengvai išeiti iš po kontrolės. Šio proceso valdymas bus itin sudėtingas, o nesėkmė gali lengvai baigtis katastrofa.

Siekiant išspręsti šią problemą, „OpenAI“ sukūrė „Superalignment“ komandą ir šiam darbui skyrė 20 % savo skaičiavimo galios. Tačiau faktas yra tas, kad mūsų dabartiniai suderinimo metodai (metodai, užtikrinantys patikimą AI sistemų kontrolę, valdymą ir pasitikėjimą jomis) negali būti pritaikyti superžmogiškoms AI sistemoms.

Intelektualinės revoliucijos ir laikotarpis, kuris prasidės iškart po superintelektualumo atsiradimo, bus vieni iš labiausiai nestabilių, įtemptų, pavojingų ir neramų laikotarpių žmonijos istorijoje. Yra reali tikimybė, kad mes prarasime kontrolę, nes per šį greitą pereinamąjį laikotarpį būsime priversti pasitikėti dirbtinio intelekto sistemomis. Intelektualinės revoliucijos pabaigoje mes neturėsime jokios vilties suprasti, ką daro mūsų milijardai superintelektualų. Būsime kaip pirmokai, bandantys kontroliuoti žmones, turinčius kelis daktaro laipsnius.

Superlyginimo problemos neišsprendžiamumas reiškia, kad mes tiesiog negalime užtikrinti net šių pagrindinių apribojimų superintelektualioms sistemoms, pavyzdžiui, „ar jos patikimai vykdys mano nurodymus?“, „ar jos sąžiningai atsakys į mano klausimus?“ arba „ar jos neapgaudinės žmonių?“.

Jei nespręsime suderinimo problemos, nėra jokios ypatingos priežasties tikėtis, kad ši maža superintelektų civilizacija ilgainiui toliau paklus žmonių įsakymams. Gana įmanoma, kad tam tikru momentu jie tiesiog susitars atsikratyti žmonių, staiga arba palaipsniui.

Galimi ateities scenarijai

Svetainėje https://ai-2027.com/ pateikiami du artimos ateities scenarijai, pateikti mokslinės fantastikos istorijos forma. Svetainės kūrėjai yra tikri dirbtinio intelekto srities mokslininkai, o jų darbas pagrįstas statistiniais duomenimis, skaičiavimais ir grafikais. Kitaip tariant, tai ne tik pramoginis skaitinys, bet ir bauginantis, bet įtikinamas prognozavimas. Beje, tai jau sulaukė rimtos kritikos iš tų, kurie nesutinka su metodologija. Taigi nėra reikalo skubėti panikuoti, bet įdomu pažvelgti.

1 trilijonas nepaprastai superintelektualių kopijų, mąstančių 10000 kartų greičiau už žmogų

Pagal tyrimo autorių nuomonę, niūriausia prognozė, kuri yra ir labiausiai tikėtinas scenarijus, numato technologinę JAV ir Kinijos varžybą dirbtinio superintelekto srityje. Abi pusės taip bijo prarasti technologinį pranašumą, kad daro viską, kas jų galioje, kad pagreitintų pažangą, net jei tai kenkia saugumui. Tam tikru momentu superintelektas taps nekontroliuojamas ir pradės siekti savo tikslų, laikydamas žmones kliūtimis, kurias reikia pašalinti.

Iki 2030 m. pradžios robotų ekonomika užpildė senąsias SEZ (specialiąsias ekonomines zonas), naująsias SEZ ir didelę dalį vandenynų. Liko tik žmonių kontroliuojamos teritorijos. Tai būtų sukėlę pasipriešinimą anksčiau, tačiau, nepaisant visų pažangos, robotų ekonomika auga pernelyg greitai, kad būtų galima išvengti taršos. Tačiau, atsižvelgiant į trilijonus dolerių ir visišką vyriausybės bei žiniasklaidos kontrolę, „Consensus-1“ nesunku gauti leidimą plėstis į buvusias žmonių zonas.

Apie tris mėnesius „Consensus-1“ plečiasi aplink žmones, dengdama prerijas ir ledo kepures gamyklomis ir saulės baterijomis. Galiausiai ji nusprendžia, kad likę žmonės yra per didelė kliūtis: 2030 m. viduryje AI paleidžia tuziną tyliai plintančių biologinių ginklų didžiuosiuose miestuose, leidžia jiems tyliai užkrėsti beveik visus žmones, tada juos suaktyvina cheminiu purškalu. Dauguma žmonių miršta per kelias valandas, o keletas išgyvenusiųjų (pvz., bunkeruose pasislėpę preperiai, povandeninių laivų jūreiviai) yra likviduojami dronų. Robotai nuskenuoja aukų smegenis ir jų kopijas įrašo į atmintį ateities tyrimams ar atgaivinimui.

Žmonijos pabaiga

Tačiau yra ir žmonijai palankesnė šio pasakojimo versija. Joje mokslininkai nusprendžia sulėtinti technologijų pažangą, kad galėtų įgyvendinti naujas saugumo priemones. Jie priverčia atskiras AI sistemas „mąstyti anglų kalba“, kaip 2025 m. AI, ir neoptimizuoja „minčių“, kad jos atrodytų gražiai. Rezultatas – naujas modelis „Safer-1“.

Galiausiai viskas baigiasi kaip pasakoje:

Pradedamos paleisti raketos. Žmonės terraformuoja ir apgyvendina saulės sistemą bei ruošiasi keliauti toliau. Tūkstančius kartų greitesni už žmogų dirbantys dirbtiniai intelektualai mąsto apie egzistencijos prasmę, keičiasi atradimais ir formuoja vertybes, kurias jie nuneš į žvaigždes. Prasideda nauja era, kuri beveik visais atžvilgiais yra neįsivaizduojamai nuostabi, bet kai kuriais atžvilgiais labiau pažįstama.

Kiekvienas skaitytojas pats sprendžia, kuriam iš siūlomų scenarijų tikėti. Sam Altman, sprendžiant iš jo esė, į ateitį žiūri optimistiškai, o Leopold Aschenbrenner, priešingai, yra atsargus.

Bet kuriuo atveju, superintelektas jau nebėra tik mokslinė fantastika. Tai beveik apčiuopiama ateitis, kuri gali įvykti per artimiausius 10 metų. Labai greitai mes tai pamatysime savo akimis.