Gestionarea riscurilor inteligenței artificiale pentru un viitor mai sigur

Tehnologiile bazate pe inteligența artificială își fac rapid loc în toate aspectele vieții: medicină, educație, finanțe, social media, vehicule autonome, programare etc. Progresele nu pot fi oprite, astfel încât impactul inteligenței artificiale va continua să se extindă în fiecare an. În articolul nostru anterior am examinat riscurile inteligenței artificiale, iar acum vom analiza modul în care pot fi reduși factorii negativi asociați cu utilizarea inteligenței artificiale.

Instrumente de detectare a IA

Cu ajutorul tehnologiilor moderne, este posibil să se fabrice înregistrări audio, fotografii și videoclipuri, să se creeze deepfakes, să se manipuleze opinia publică, să se imite vocea unei alte persoane și să se falsifice dovezi.

Cercetătorii lucrează în prezent la modalități de detectare a falsurilor, care să le permită să determine dacă o înregistrare audio sau video a fost modificată sau generată în întregime de inteligența artificială.

Detectarea imaginilor generate

• Intel a creat prima platformă de detectare deepfake în timp real bazată pe tehnologia FakeCatcher. Tehnologia utilizează tehnici de fotopletismografie la distanță pentru a analiza "fluxul de sânge" subtil din pixelii unei imagini. Semnalele din mai multe cadre sunt prelucrate prin intermediul unui clasificator pentru a determina dacă videoclipul în cauză este real sau fals.
• Agenția guvernamentală americană DARPA lucrează la tehnologiile SemaFor (prescurtarea de la Semantic Forensics) care pot detecta cu precizie imaginile sintetice generate artificial.

În plus, există deja zeci de instrumente diferite menite să detecteze imagini și texte generate.

Gândire critică

Dezinformarea, propaganda și diferitele metode de înșelăciune au existat cu mult înainte de inventarea inteligenței artificiale. Poate că tu sau cineva pe care îl cunoști ați fost ținta escrocilor. Unii oameni sunt ușor înșelați de scheme precum e-mailul moștenitor al "prințului nigerian", în timp ce alții sunt mai sceptici și gândesc critic. Odată cu apariția tehnologiei care poate manipula imagini, materiale audio și video, trebuie să fim acum și mai sârguincioși în verificarea faptelor.

Futuristul Mark Ford a spus: "Nimeni nu știe ce este real și ce nu este. Așadar, se ajunge la o situație în care nu-ți poți crede proprii ochi și urechi; nu te poți baza pe ceea ce, din punct de vedere istoric, am considerat a fi cele mai bune dovezi posibile."

Contracararea înșelăciunilor și a dezinformării va fi un proces ciclic: pe măsură ce apar noi modalități de detectare a înșelăciunilor, alții vor dezvolta modalități de contracarare a acestora, ceea ce va duce la crearea a și mai multe măsuri de protecție. Deși s-ar putea să nu ofere o protecție completă, nu vom fi lipsiți de apărare.

Fotografie falsă a Papei Francisc

Creating new jobsCrearea de noi locuri de muncă

Adoptarea pe scară largă a inteligenței artificiale vine la pachet cu riscul pierderii locurilor de muncă. Am discutat această problemă în detaliu într-unul dintre articolele anterioare. Acolo puteți găsi, de asemenea, linkuri către studii, aflați ce profesii sunt cele mai expuse la risc și care nu sunt expuse la risc.

Desigur, multe persoane își vor pierde locul de muncă din cauza inteligenței artificiale (conform diferitelor estimări, de la 100 la 800 de milioane de persoane), iar unele vor trebui să urmeze cursuri de reconversie profesională (Seo.ai estimează numărul acestora la 120 de milioane de persoane).

Cu toate acestea, inteligența artificială nu va elimina doar locuri de muncă, ci va crea și altele noi. Mai mult, este posibil un scenariu în care noile locuri de muncă apar mai repede decât dispar cele vechi. Iată ce scrie Forumul Economic Mondial despre acest lucru:

Deși numărul locurilor de muncă distruse va fi depășit de numărul "locurilor de muncă de mâine" create, spre deosebire de anii precedenți, crearea de locuri de muncă încetinește în timp ce distrugerea locurilor de muncă se accelerează. Pe baza acestor cifre, estimăm că, până în 2025, 85 de milioane de locuri de muncă ar putea fi înlocuite de o schimbare în diviziunea muncii între oameni și mașini, în timp ce 97 de milioane de noi roluri ar putea apărea.

Printre aceste noi locuri de muncă emergente se numără:

• Ingineri de modele și prompturi de IA
• Designeri de interfață și interacțiune
• Creatori de conținut de IA
• Curatori și formatori de date
• Specialiști în etică și guvernanță

Unele dintre noile locuri de muncă

Îmbrățișarea tehnologiei

Unii profesori sunt îngrijorați de faptul că elevii ar putea să nu își dezvolte abilitățile de scriere, deoarece IA va face treaba pentru ei. O situație similară a fost în anii 1970 și 1980, când calculatoarele electronice au devenit foarte răspândite. Profesorii de matematică se temeau că elevii nu vor mai învăța aritmetica de bază.

Întotdeauna au existat adversari ai progresului. Cu mii de ani în urmă, în Grecia Antică, Socrate s-a pronunțat împotriva scrisului în sine:

Scrisul va crea uitare în sufletele cursanților, deoarece ei nu își vor folosi memoria; ei se vor încrede în caracterele scrise din exterior și nu își vor aminti de ei înșiși. Specificul pe care l-ați descoperit nu este un ajutor pentru memorie, ci pentru reminiscență, și nu le oferiți discipolilor voștri adevărul, ci doar aparența adevărului; ei vor asculta multe lucruri și nu vor fi învățat nimic; ei vor părea a fi omniscienți și în general nu vor ști nimic; ei vor fi o companie obositoare, având aparența înțelepciunii fără realitate.

Nu sunt atât de bătrân încât să îmi amintesc de Grecia Antică, dar profesorul meu de matematică obișnuia să spună: "Nu vei avea întotdeauna un calculator în buzunar". Și ghici ce? Eu chiar am un calculator în buzunar. Este o aplicație pe telefonul meu.

Progresul nu poate fi oprit. Mai devreme sau mai târziu, oamenii vor trebui să îmbrățișeze tehnologiile bazate pe inteligența artificială. IA va deveni un instrument la fel de comun ca un calculator.

MathGPT Pro

În acest moment, trebuie să ne amintim că roboții de chat sunt imperfecți, predispuși la halucinații, iar informațiile generate trebuie să fie verificate cu atenție pentru acuratețe. Cu toate acestea, lucrul cu sursele și dubla verificare a faptelor este ceva obișnuit în activitatea educațională sau de cercetare. Iar în timp, chatboții vor deveni mai buni și mai fiabili - putem vedea acest lucru în evoluția ChatGPT, de la GPT-2 la GPT-4.

Supraveghere scalabilă

Pe măsură ce sistemele de IA devin mai puternice și mai complexe, devine din ce în ce mai dificilă controlarea lor prin feedback uman. Evaluarea comportamentelor complexe ale IA de către oameni poate fi lentă sau imposibilă, în special atunci când IA depășește performanțele oamenilor într-un anumit domeniu. Pentru a detecta când rezultatele IA sunt fals convingătoare, oamenii au nevoie de asistență sau de mult timp. Supravegherea scalabilă poate reduce timpul și efortul necesare pentru supraveghere.

Potrivit lui Nick Bostrom, dezvoltarea superinteligenței ar putea atenua riscurile existențiale prezentate de alte tehnologii avansate, precum nanotehnologia moleculară sau biologia sintetică. Astfel, prioritizarea creării superinteligenței înaintea altor tehnologii potențial periculoase ar putea reduce riscul existențial general.

Dezvoltarea unei superinteligențe care să supravegheze inteligența artificială obișnuită poate părea ca și cum am pune carul înaintea boilor, dar superinteligența nu este departe. Conform cărții "Situational Awareness" de Leopold Aschenbrenner, am putea vedea superinteligența peste 10 ani.

Explozia inteligenței artificiale

Înainte să ne dăm seama, vom avea de-a face cu o superinteligență - sisteme de inteligență artificială mult mai inteligente decât oamenii, capabile de comportamente noi, creative și complicate pe care nici nu am putea începe să le înțelegem - poate chiar o mică civilizație formată din miliarde de astfel de sisteme. Puterea lor ar fi, de asemenea, uriașă. Aplicând superinteligența la cercetarea și dezvoltarea în alte domenii, progresul exploziv s-ar extinde dincolo de simpla cercetare în domeniul învățării mașinilor; în curând ar rezolva robotica, ar face salturi dramatice în alte domenii ale științei și tehnologiei în câțiva ani și ar urma o explozie industrială. Superinteligența ar oferi probabil un avantaj militar decisiv și ar dezvălui puteri de distrugere de nedescris. Ne vom confrunta cu unul dintre cele mai intense și mai volatile momente din istoria omenirii.