Gestionar los riesgos de la inteligencia artificial para un futuro más seguro
Las tecnologías basadas en la inteligencia artificial se están abriendo paso rápidamente en todos los aspectos de la vida: medicina, educación, finanzas, redes sociales, vehículos autónomos, programación, etc. El progreso no puede detenerse, por lo que el impacto de la IA no hará sino aumentar cada año. En nuestro artículo anterior examinamos los riesgos de la inteligencia artificial, y ahora exploraremos cómo se pueden reducir los factores negativos asociados al uso de la IA.
Herramientas de detección de IA
Con la ayuda de las tecnologías modernas, es posible fabricar audio, fotos y vídeos, crear deepfakes, manipular la opinión pública, imitar la voz de otra persona y falsificar pruebas.
Los investigadores trabajan ahora en formas de detectar las falsificaciones, que les permitan determinar si una grabación de audio o vídeo ha sido alterada o generada en su totalidad por la inteligencia artificial.
Detección de imágenes generadas
- Intel ha creado la primera plataforma de detección de deepfakes en tiempo real basada en la tecnología FakeCatcher. La tecnología utiliza técnicas de fotopletismografía a distancia para analizar el sutil "flujo sanguíneo" en los píxeles de una imagen. Las señales de varios fotogramas se procesan mediante un clasificador para determinar si el vídeo en cuestión es real o falso.
- La agencia gubernamental estadounidense DARPA está trabajando en tecnologías SemaFor (abreviatura de Semantic Forensics) capaces de detectar con precisión imágenes sintéticas generadas artificialmente.
Además, ya existen decenas de herramientas diferentes destinadas a detectar imágenes y textos generados.
Pensamiento crítico
La desinformación, la propaganda y diversos métodos de engaño existen desde mucho antes de la invención de la inteligencia artificial. Tal vez usted o alguien que conoce haya sido blanco de estafadores. Algunas personas se dejan engañar fácilmente por estafas como el correo electrónico de la herencia del "príncipe nigeriano", mientras que otras son más escépticas y tienen un pensamiento crítico. Con el auge de la tecnología capaz de manipular imágenes, audio y vídeo, ahora debemos ser aún más diligentes en la comprobación de los hechos.
El futurista Mark Ford dijo: "Nadie sabe lo que es real y lo que no. Así que realmente nos lleva a una situación en la que literalmente no puedes creer en tus propios ojos y oídos; no puedes confiar en lo que, históricamente, hemos considerado la mejor prueba posible".
Contrarrestar la estafa y la desinformación será un proceso cíclico: a medida que surjan nuevas formas de detectar el engaño, otros desarrollarán formas de contrarrestarlas, lo que llevará a la creación de aún más salvaguardas. Aunque no ofrezca una protección completa, no estaremos indefensos.
Foto falsa del Papa Francisco
Creación de nuevos puestos de trabajo
La adopción generalizada de la inteligencia artificial conlleva el riesgo de pérdida de puestos de trabajo. En uno de los artículos anteriores tratamos en detalle este problema. Allí también puede encontrar enlaces a estudios, averiguar qué profesiones corren más riesgo y cuáles no.
Por supuesto, muchas personas perderán su empleo debido a la inteligencia artificial (según diversas estimaciones, de 100 a 800 millones de personas), y algunas tendrán que someterse a una reconversión profesional (Seo.ai estima su número en 120 millones de personas).
Sin embargo, la IA no sólo eliminará puestos de trabajo, sino que también creará otros nuevos. Es más, es posible un escenario en el que aparezcan nuevos empleos más rápido de lo que desaparecen los antiguos. Esto es lo que escribe el Foro Económico Mundial al respecto:
Aunque el número de empleos destruidos será superado por el número de "empleos del mañana" creados, a diferencia de años anteriores, la creación de empleo se ralentiza mientras que la destrucción de puestos de trabajo se acelera. Basándonos en estas cifras, estimamos que para 2025, 85 millones de empleos pueden verse desplazados por un cambio en la división del trabajo entre humanos y máquinas, mientras que pueden surgir 97 millones de nuevas funciones.
Entre esos nuevos empleos emergentes se encuentran:
- Ingenieros de modelos e indicadores de inteligencia artificial
- Diseñadores de interfaz e interacción
- Creadores de contenidos de IA
- Curadores y formadores de datos
- Especialistas en ética y gobernanza
Algunos de los nuevos empleos
Adoptar la tecnología
A algunos profesores les preocupa que los alumnos no desarrollen sus habilidades de escritura porque la IA hará el trabajo por ellos. Algo parecido ocurrió en los años 70 y 80, cuando se generalizaron las calculadoras electrónicas. A los profesores de matemáticas les preocupaba que los alumnos dejaran de aprender aritmética básica.
Siempre ha habido detractores del progreso. Hace miles de años, en la Antigua Grecia, Sócrates se pronunció en contra de la propia escritura:
La escritura creará olvido en las almas de los aprendices, porque no usarán sus memorias; confiarán en los caracteres escritos externos y no recordarán de sí mismos. Lo específico que habéis descubierto no es una ayuda para la memoria, sino para la reminiscencia, y no dais a vuestros discípulos la verdad, sino sólo la apariencia de la verdad; serán oidores de muchas cosas y no habrán aprendido nada; parecerán omniscientes y generalmente no sabrán nada; serán una compañía fastidiosa, pues tendrán la apariencia de la sabiduría sin la realidad.
No soy tan antiguo como para recordar la Antigua Grecia, pero mi profesor de matemáticas solía decir: "No siempre tendrás una calculadora en el bolsillo". ¿Y adivina qué? Sí tengo una calculadora en el bolsillo. Es una aplicación en mi teléfono.
No se puede detener el progreso. Tarde o temprano, la gente tendrá que adoptar las tecnologías basadas en la inteligencia artificial. La IA se convertirá en una herramienta tan común como una calculadora.
MathGPT Pro
Llegados a este punto, hay que recordar que los chatbots son imperfectos, propensos a las alucinaciones, y que es necesario comprobar cuidadosamente la exactitud de la información generada. Sin embargo, trabajar con fuentes y comprobar dos veces los hechos es algo habitual en el trabajo educativo o de investigación. Y con el tiempo, los chatbots serán mejores y más fiables: podemos verlo en la evolución de ChatGPT, de GPT-2 a GPT-4.
Supervisión escalable
A medida que los sistemas de IA se hacen más potentes y complejos, resulta cada vez más difícil controlarlos mediante la retroalimentación humana. Evaluar comportamientos complejos de IA puede resultar lento o inviable para los humanos, sobre todo cuando la IA supera a los humanos en un dominio determinado. Para detectar cuándo los resultados de la IA son falsamente convincentes, los humanos necesitan ayuda o mucho tiempo. La supervisión escalable puede reducir el tiempo y el esfuerzo necesarios para la supervisión.
Según Nick Bostrom, el desarrollo de la superinteligencia podría mitigar los riesgos existenciales que plantean otras tecnologías avanzadas como la nanotecnología molecular o la biología sintética. Así, dar prioridad a la creación de la superinteligencia antes que a otras tecnologías potencialmente peligrosas podría reducir el riesgo existencial general.
Desarrollar una superinteligencia para supervisar a la IA normal puede parecer poner el carro delante de los bueyes, pero la superinteligencia puede no estar muy lejos. Según "Situational Awareness", de Leopold Aschenbrenner, podríamos ver la superinteligencia dentro de 10 años.
Explosión de la inteligencia artificial
Antes de que nos demos cuenta, tendremos entre manos una superinteligencia, sistemas de inteligencia artificial mucho más inteligentes que los humanos, capaces de comportamientos novedosos, creativos y complicados que ni siquiera podríamos empezar a comprender, quizá incluso una pequeña civilización de miles de millones de ellos. Su poder también sería enorme. Aplicando la superinteligencia a la investigación y el desarrollo en otros campos, el progreso explosivo se extendería más allá de la investigación en aprendizaje automático; pronto resolverían la robótica, darían saltos espectaculares en otros campos de la ciencia y la tecnología en cuestión de años, y se produciría una explosión industrial. La superinteligencia proporcionaría probablemente una ventaja militar decisiva y desplegaría poderes de destrucción incalculables. Nos enfrentaremos a uno de los momentos más intensos y volátiles de la historia de la humanidad.