Gestió dels riscos de la intel·ligència artificial per a un futur més segur
Les tecnologies basades en la intel·ligència artificial s'obren ràpidament a tots els àmbits de la vida: medicina, educació, finances, xarxes socials, vehicles autònoms, programació, etc. El progrés no es pot aturar, de manera que l'impacte de la IA només continuarà creixent cada any. En el nostre article anterior vam examinar els riscos de la intel·ligència artificial i ara explorarem com es poden reduir els factors negatius associats a l'ús de la intel·ligència artificial.
Eines de detecció d'IA
Amb l'ajuda de les tecnologies modernes, és possible fabricar àudio, fotos i vídeos, crear deepfakes, manipular l'opinió pública, imitar la veu d'una altra persona i falsificar proves.
Els investigadors estan treballant ara en maneres de detectar falsificacions, que els permetin determinar si una gravació d'àudio o vídeo ha estat alterada o generada completament per la intel·ligència artificial.
Detecció d'imatges generades
- Intel va crear la primera plataforma de detecció de deepfake en temps real basada en la tecnologia FakeCatcher. La tecnologia utilitza tècniques de fotopletismografia remota per analitzar el subtil "flux de sang" en els píxels d'una imatge. Els senyals de diversos fotogrames s'estan processant mitjançant un classificador per determinar si el vídeo en qüestió és real o fals.
- L'agència del govern dels Estats Units DARPA està treballant en tecnologies SemaFor (abreviatura de Semantic Forensics) que poden detectar amb precisió imatges sintètiques generades artificialment.
A més, ja hi ha desenes d'eines diferents destinades a detectar imatges i text generats.
Pensament crític
La desinformació, la propaganda i diversos mètodes d'engany han existit molt abans de la invenció de la intel·ligència artificial. Potser vostè o algú que coneixeu ha estat l'objectiu dels estafadors. Algunes persones són fàcilment enganyades per esquemes com el correu electrònic d'herència del "príncep nigerià", mentre que altres són més escèptics i pensen de manera crítica. Amb l'auge de la tecnologia que pot manipular imatges, àudio i vídeo, ara hem de ser encara més diligents en la verificació dels fets.
El futurista Mark Ford va dir: "Ningú sap què és real i què no. Per tant, realment condueix a una situació en què, literalment, no et pots creure els teus propis ulls i orelles; no pots confiar en allò que, històricament, hem considerat com la millor evidència possible".
Contrarestar l'estafa i la desinformació serà un procés cíclic: a mesura que sorgeixin noves maneres de detectar l'engany, altres desenvoluparan maneres de contrarestar-los, donant lloc a la creació de encara més salvaguardes. Encara que potser no ofereixi una protecció completa, no estarem indefensos.
Foto falsa del Papa Francesc
Creació de nous llocs de treball
L'adopció generalitzada de la intel·ligència artificial comporta el risc de pèrdua de llocs de treball. Hem tractat aquest problema amb detall en un dels articles anteriors. També hi podreu trobar enllaços a estudis, saber quines professions estan més en risc i quines no.
Per descomptat, moltes persones perdran la feina a causa de la intel·ligència artificial (segons diverses estimacions, de 100 a 800 milions de persones), i algunes hauran de fer un reciclatge professional (Seo.ai estima el seu nombre en 120 milions de persones).
Tanmateix, la IA no només eliminarà llocs de treball, sinó que també en crearà de nous. A més, és possible un escenari en què els nous llocs de treball apareixen més ràpidament que els antics desapareixen. Això és el que escriu el Fòrum Econòmic Mundial sobre això:
Tot i que el nombre de llocs de treball destruïts serà superat pel nombre d'"ocupació de demà" creat, a diferència d'anys anteriors, la creació d'ocupació s'està alentint mentre la destrucció d'ocupació s'accelera. A partir d'aquestes xifres, calculem que l'any 2025 es podrien desplaçar 85 milions de llocs de treball per un canvi en la divisió del treball entre humans i màquines, mentre que podrien sorgir 97 milions de nous rols.
Entre els nous llocs de treball emergents es troben:
- Enginyers de models d'IA i promptes
- Dissenyadors d'interfícies i interaccions
- Creadors de contingut d'IA
- Curadors i formadors de dades
- Especialistes en ètica i governança
Alguns dels nous llocs de treball
Abraçant la tecnologia
A alguns professors els preocupa que els estudiants no desenvolupin les seves habilitats d'escriptura perquè la IA farà el treball per ells. Una situació semblant va ser als anys 70 i 80, quan es van generalitzar les calculadores electròniques. Els professors de matemàtiques es preocupaven que els estudiants ja no aprenguin aritmètica bàsica.
Sempre hi ha hagut opositors al progrés. Fa milers d'anys, a l'antiga Grècia, Sòcrates es va pronunciar en contra de l'escriptura mateixa:
L'escriptura crearà oblit en l'ànima dels aprenents, perquè no utilitzaran els seus records; confiaran en els personatges escrits externs i no es recordaran d'ells mateixos. L'especificitat que heu descobert és una ajuda no per a la memòria, sinó per a la reminiscència, i doneu als vostres deixebles no la veritat, sinó només l'aparença de la veritat; seran oients de moltes coses i no hauran après res; semblaran que són omniscients i, en general, no saben res; seran una companyia cansada, amb la demostració de la saviesa sense la realitat.
No sóc tan antic per recordar l'antiga Grècia, però el meu professor de matemàtiques solia dir: "No sempre tindreu una calculadora a la butxaca". I endevina què? Tinc una calculadora a la butxaca. És una aplicació al meu telèfon.
El progrés no es pot aturar. Tard o d'hora, la gent haurà d'adoptar les tecnologies basades en la intel·ligència artificial. La IA es convertirà en una eina tan habitual com una calculadora.
MathGPT Pro
En aquest punt, hem de recordar que els chatbots són imperfectes, propensos a les al·lucinacions i la informació generada s'ha de comprovar acuradament per a la seva precisió. Tanmateix, treballar amb fonts i comprovar els fets és habitual en el treball educatiu o de recerca. I amb el temps, els chatbots seran millors i més fiables; això ho podem veure en l'evolució de ChatGPT, de GPT-2 a GPT-4.
Supervisió escalable
A mesura que els sistemes d'IA es tornen més potents i complexos, cada cop és més difícil controlar-los mitjançant la retroalimentació humana. Pot ser lent o inviable per als humans avaluar comportaments complexos d'IA, especialment quan la IA supera els humans en un domini determinat. Per detectar quan la sortida de la IA és falsament convincent, els humans necessiten ajuda o molt de temps. La supervisió escalable pot reduir el temps i l'esforç necessaris per a la supervisió.
Segons Nick Bostrom, el desenvolupament de la superintel·ligència podria mitigar els riscos existencials que plantegen altres tecnologies avançades com la nanotecnologia molecular o la biologia sintètica. Per tant, prioritzar la creació de superintel·ligència abans que altres tecnologies potencialment perilloses podria reduir el risc existencial general.
Desenvolupar la superintel·ligència per supervisar la IA regular pot semblar posar el carro abans que el cavall, però la superintel·ligència pot no estar lluny. Segons "Situational Awareness" de Leopold Aschenbrenner podríem veure la superintel·ligència d'aquí a 10 anys.
Explosió de la intel·ligència artificial
Abans de saber-ho, tindríem superintel·ligència a les nostres mans: sistemes d'IA molt més intel·ligents que els humans, capaços d'un comportament nou, creatiu i complicat que ni tan sols podríem començar a entendre, potser fins i tot una petita civilització de milers de milions d'ells. El seu poder també seria enorme. Aplicant la superintel·ligència a la investigació i el desenvolupament en altres camps, el progrés explosiu s'ampliaria des de només la recerca d'aprenentatge automàtic; aviat resoldrien la robòtica, donarien salts espectaculars a altres camps de la ciència i la tecnologia en qüestió d'anys, i seguiria una explosió industrial. La superintel·ligència probablement proporcionaria un avantatge militar decisiu i desplegaria poders de destrucció incalculables. Ens trobarem davant d'un dels moments més intensos i volàtils de la història de la humanitat.