Gérer les risques de l'intelligence artificielle pour un avenir plus sûr

Les technologies basées sur l'intelligence artificielle s'imposent rapidement dans tous les aspects de la vie : médecine, éducation, finance, médias sociaux, véhicules autonomes, programmation, etc. Les progrès ne pouvant être stoppés, l'impact de l'IA ne cessera de s'étendre chaque année. Dans notre précédent article, nous avons examiné les risques de l'intelligence artificielle, et nous allons maintenant explorer comment les facteurs négatifs associés à l'utilisation de l'IA peuvent être réduits.

Outils de détection de l'IA

Grâce aux technologies modernes, il est possible de fabriquer des enregistrements audio, des photos et des vidéos, de créer des "deepfakes", de manipuler l'opinion publique, d'imiter la voix d'une autre personne et de falsifier des preuves.

Les chercheurs travaillent actuellement à la mise au point de méthodes de détection des faux, qui leur permettraient de déterminer si un enregistrement audio ou vidéo a été modifié ou entièrement généré par l'intelligence artificielle.

Détection des images générées

Intel a créé la toute première plateforme de détection de deepfake en temps réel basée sur la technologie FakeCatcher. Cette technologie utilise des techniques de photopléthysmographie à distance pour analyser le subtil "flux sanguin" dans les pixels d'une image. Les signaux provenant de plusieurs images sont traités par un classificateur afin de déterminer si la vidéo en question est réelle ou fausse.
L'agence gouvernementale américaine DARPA travaille sur les technologies SemaFor (abréviation de Semantic Forensics) qui peuvent détecter avec précision les images synthétiques générées artificiellement.

Par ailleurs, il existe déjà des dizaines d'outils différents destinés à détecter les images et les textes générés.

Pensée critique

La désinformation, la propagande et les diverses méthodes de tromperie existaient bien avant l'invention de l'intelligence artificielle. Peut-être avez-vous été la cible d'escrocs ou connaissez-vous quelqu'un qui l'a été. Certaines personnes se laissent facilement tromper par des stratagèmes tels que le courriel d'héritage du "prince nigérian", tandis que d'autres sont plus sceptiques et font preuve d'esprit critique. Avec l'essor des technologies capables de manipuler les images, le son et la vidéo, nous devons être encore plus diligents dans la vérification des faits.

Le futurologue Mark Ford a déclaré : "Personne ne sait ce qui est réel et ce qui ne l'est pas : "Personne ne sait ce qui est réel et ce qui ne l'est pas. On en arrive donc à une situation où l'on ne peut littéralement pas croire ses propres yeux et ses propres oreilles ; on ne peut pas se fier à ce que, historiquement, nous avons considéré comme la meilleure preuve possible".

La lutte contre les escroqueries et la désinformation sera un processus cyclique : à mesure que de nouveaux moyens de détecter la tromperie apparaîtront, d'autres mettront au point des moyens de les contrecarrer, ce qui conduira à la création d'un nombre encore plus grand de mesures de protection. Même si la protection n'est pas totale, nous ne serons pas sans défense.

Fausse photo du pape François

Créer de nouveaux emplois

L'adoption généralisée de l'intelligence artificielle s'accompagne d'un risque de perte d'emplois. Nous avons abordé ce problème en détail dans l'un des articles précédents. Vous y trouverez également des liens vers des études, des informations sur les professions les plus menacées et celles qui ne le sont pas.

Bien entendu, de nombreuses personnes perdront leur emploi à cause de l'intelligence artificielle (selon diverses estimations, de 100 à 800 millions de personnes), et certaines devront suivre une reconversion professionnelle (Seo.ai estime leur nombre à 120 millions de personnes).

Toutefois, l'IA ne fera pas que supprimer des emplois, elle en créera également de nouveaux. En outre, un scénario est possible dans lequel les nouveaux emplois apparaissent plus rapidement que les anciens ne disparaissent. Voici ce qu'écrit le Forum économique mondial à ce sujet :

Même si le nombre d'emplois détruits sera dépassé par le nombre d'"emplois de demain" créés, contrairement aux années précédentes, la création d'emplois ralentit tandis que la destruction d'emplois s'accélère. Sur la base de ces chiffres, nous estimons que d'ici 2025, 85 millions d'emplois pourraient être déplacés en raison d'un changement dans la division du travail entre les humains et les machines, tandis que 97 millions de nouveaux rôles pourraient émerger.

Parmi ces nouveaux emplois émergents, on peut citer

Ingénieurs en modèles d'IA et en messages-guides
Concepteurs d'interface et d'interaction
Créateurs de contenu d'IA
Conservateurs de données et formateurs
Spécialistes de l'éthique et de la gouvernance

Quelques-uns des nouveaux emplois

Accepter la technologie

Certains enseignants craignent que les élèves ne développent pas leurs compétences en rédaction parce que l'IA fera le travail à leur place. Une situation similaire s'est produite dans les années 1970 et 1980, lorsque les calculatrices électroniques se sont répandues. Les professeurs de mathématiques craignaient que les élèves n'apprennent plus les opérations arithmétiques de base.

Il y a toujours eu des opposants au progrès. Il y a des milliers d'années, dans la Grèce antique, Socrate s'est élevé contre l'écriture elle-même :

[L'écriture] créera l'oubli dans l'âme des apprenants, parce qu'ils n'utiliseront pas leur mémoire ; ils se fieront aux caractères écrits extérieurs et ne se souviendront pas d'eux-mêmes. Le spécifique que vous avez découvert est une aide non pas à la mémoire, mais au souvenir, et vous donnez à vos disciples non pas la vérité, mais seulement l'apparence de la vérité ; ils entendront beaucoup de choses et n'auront rien appris ; ils sembleront omniscients et ne sauront généralement rien ; ils seront d'une compagnie fatigante, ayant l'apparence de la sagesse sans en avoir la réalité.

Je ne suis pas assez ancienne pour me souvenir de la Grèce antique, mais mon professeur de mathématiques avait l'habitude de dire : "Tu n'auras pas toujours une calculatrice dans ta poche". Et devinez quoi ? J'ai une calculatrice dans ma poche. C'est une application sur mon téléphone.

On ne peut pas arrêter le progrès. Tôt ou tard, les gens devront adopter les technologies basées sur l'intelligence artificielle. L'IA deviendra un outil aussi courant qu'une calculatrice.

MathGPT Pro

À ce stade, nous devons nous rappeler que les chatbots sont imparfaits, sujets à des hallucinations, et que les informations générées doivent être soigneusement vérifiées pour être exactes. Toutefois, le travail avec des sources et la double vérification des faits sont monnaie courante dans les travaux éducatifs ou de recherche. Avec le temps, les chatbots deviendront meilleurs et plus fiables, comme le montre l'évolution du ChatGPT, du GPT-2 au GPT-4.

Un contrôle évolutif

À mesure que les systèmes d'IA deviennent plus puissants et plus complexes, il devient de plus en plus difficile de les contrôler par le biais d'un retour d'information humain. Il peut être lent ou impossible pour les humains d'évaluer les comportements complexes de l'IA, en particulier lorsque l'IA est plus performante que les humains dans un domaine donné. Pour détecter les résultats faussement convaincants de l'IA, les humains ont besoin d'aide ou de beaucoup de temps. La supervision évolutive peut réduire le temps et les efforts nécessaires à la supervision.

Selon Nick Bostrom, le développement de la superintelligence pourrait potentiellement atténuer les risques existentiels posés par d'autres technologies avancées telles que la nanotechnologie moléculaire ou la biologie synthétique. Ainsi, en donnant la priorité à la création de la superintelligence avant d'autres technologies potentiellement dangereuses, on pourrait réduire le risque existentiel global.

Développer une superintelligence pour superviser l'IA ordinaire peut sembler mettre la charrue avant les bœufs, mais la superintelligence n'est peut-être pas loin. Selon "Situational Awareness" de Leopold Aschenbrenner, la superintelligence pourrait voir le jour d'ici dix ans.

Explosion de l'intelligence artificielle

Avant même de nous en rendre compte, nous aurions entre les mains une superintelligence - des systèmes d'IA beaucoup plus intelligents que les humains, capables de comportements nouveaux, créatifs et compliqués que nous ne pouvons même pas commencer à comprendre - peut-être même une petite civilisation composée de milliards d'entre eux. Leur puissance serait également considérable. En appliquant la superintelligence à la recherche et au développement dans d'autres domaines, les progrès explosifs ne se limiteraient pas à la recherche sur l'apprentissage automatique ; ils permettraient bientôt de résoudre le problème de la robotique, de faire des bonds spectaculaires dans d'autres domaines de la science et de la technologie en l'espace de quelques années, et une explosion industrielle s'ensuivrait. La superintelligence offrirait probablement un avantage militaire décisif et déploierait des pouvoirs de destruction inouïs. Nous serons confrontés à l'un des moments les plus intenses et les plus instables de l'histoire de l'humanité.