El pasado miércoles, en una reunión de la sección de filosofía del Ateneu Barcelonès, mi colega Ramon Alcoberro me dio a conocer el artículo que acaba de publicar el 21 de septiembre el conocido politólogo estadounidense Francis Fukuyama en la comunidad digital «Persuasion». Se trata de un artículo titulado «Por qué cambié de opinión sobre el riesgo de la IA. Sobre los aceleracionistas y los pesimistas» [«Why I Changed My Mind About AI Risk. On Accelerationists and Doomers»] que merece una lectura detenida para quienes deseen sopesar sus opiniones acerca de la IA y del peligro potencial de su desarrollo.
En esos días, ante la proliferación de opiniones, diagnósticos y noticias —muchas de ellas apocalípticas— sobre el desarrollo de la inteligencia artificial, había escrito en las redes que el asunto tiene una complejidad notable y que merece la pena que los gobernantes presten atención a lo que dicen los expertos: en su mayor parte, lo que recomiendan es que se establezcan medidas internacionales de seguridad, tal como se hizo en su día con la investigación sobre la bomba atómica.
Dos consideraciones venían a mi memoria. La primera, la inolvidable escena de la película «2001: Una odisea del espacio» —que pude ver con gran emoción en su estreno en 1968— en la que el comandante Bowman va extrayendo una a una las tarjetas de memoria de HAL —el ordenador de la nave que se había rebelado contra la tripulación— hasta desconectarlo. Me parece que siempre podremos hacer eso con las máquinas: desenchufarlas.
La segunda consideración —trivial, por otra parte— es que el peligro realmente no está en la IA, sino en sus dueños y en sus usuarios. Si estos quieren hacer el mal, la IA potenciará enormemente los daños. El problema no está en la IA, sino en las personas que la manejan. Terminaba mi post diciendo que hay mucho ruido de fondo, pero de lo que se trata realmente —como decía León XIV en su encíclica Magnifica Humanitas— es de «desarmar la IA» (n. 110). Como me escribió Jacin Luna al leer mi post: «Los algoritmos nunca podrán con los latidos del corazón».
Después de escuchar a los catastrofistas que quieren detener el desarrollo de la IA porque les parece una amenaza que puede causar la extinción de la especie humana, la lectura reposada del artículo de Fukuyama me ha reconfortado. Es innegable que el desarrollo de la IA encierra peligros, en particular el de la devaluación del trabajo de todos los que estamos detrás de un ordenador si se descubre que la IA puede hacer lo mismo o incluso mejor que un ser humano. Algunos argumentan que esa destrucción de muchos puestos de trabajo podría solucionarse mediante un sueldo básico universal, pero es claro que una vida de perpetua vacación para una parte importante de la población implicaría una lamentable pérdida del sentido.
Fukuyama no ve un problema en la prometida «superinteligencia» —nadie sabe muy bien lo que será—, sino en los agentes de IA que ya existen: «En mi opinión, el principal peligro no radica en la superinteligencia en sí misma, sino más bien en el creciente uso de una IA agentiva cada vez más capaz. Hoy en día se encarga a los agentes de IA que realicen una amplia gama de tareas, desde las más cotidianas, como gestionar tu cuenta de correo electrónico, hasta otras más importantes, como la selección de objetivos militares o la elaboración de estrategias empresariales. […] Delegar —prosigue Fukuyama— es fundamental para el funcionamiento de todos los sistemas jerárquicos, desde las empresas hasta los gobiernos nacionales. A los agentes humanos se les puede controlar sea mediante el establecimiento de normas detalladas que deben seguir, sea confiando en que tomen decisiones autónomas basadas en su formación, sus habilidades y su lealtad. Lograr que esto funcione correctamente en las organizaciones humanas es muy difícil, y lo será aún más en el caso de la IA con capacidad de agencia».
Me parece interesantísimo esto que afirma Fukuyama, pues apela a la experiencia tan común que todos tenemos al delegar tareas, ya sea en el ámbito laboral o incluso en el espacio doméstico. Cuando se le pide a un miembro de la familia que recoja la cena de la mesa del comedor y deje preparados los platos del desayuno, cualquiera —incluso los niños— es capaz de hacerlo perfectamente bien si está familiarizado con los usos de la casa; sin embargo, no parece que sea posible educar a un robot para que lleve a cabo esa tarea tan genérica, que implica limpiar los platos, cargarlos en el lavaplatos, recoger las migas, y tantas otras pequeñas cosas a menudo imprevisibles.
Los agentes de IA pueden tornarse peligrosos cuando un ser humano los usa para hacer el mal. Un ejemplo de esto podría ser el mal uso de la IA en biotecnología. Copio de Fukuyama: «Los últimos modelos de IA destacan en biología sintética, y la biología sintética es una tecnología relativamente barata y muy extendida. Hoy en día, un laboratorio capaz de crear y modificar virus y bacterias cabe dentro de un container de transporte y hasta los alumnos de secundaria organizan concursos en los que intentan modificar genéticamente organismos. Esto significa un grupo muy amplio de personas que podrían utilizar la IA para crear patógenos muy peligrosos. Hoy en día, los sociópatas se arman con armas automáticas [en USA] y disparan contra escolares; en el futuro, sus posibles objetivos podrían ser mucho más amplios».
Fukuyama piensa que los temores de que los agentes de IA se «desalineen» —es la palabra técnica— de los propósitos de sus creadores, esto es, que ganen independencia, están poco fundados. Donde ve el problema es en que los seres humanos deleguemos excesivamente en los agentes de IA. Copio de sus últimas líneas: «Los seres humanos tienden a delegar en exceso en las organizaciones humanas, y no hay motivos para pensar que esto no vaya a ocurrir en entornos de IA en los que el agente sea mucho más capaz. La IA es una herramienta que puede utilizarse con fines buenos o malos, y, por el momento, disponemos de pocos mecanismos para regular los malos usos, aparte de las buenas intenciones de las personas que crean la tecnología».
Por mi parte no añado nada más, pues Fukuyama de nuevo me deja pensando.
_____________________________
Jaime Nubiola es profesor emérito de Filosofía, Universidad de Navarra (jnubiola@unav.es).
La entrada Pensar la IA<br/><span class=”autorcontitulo”>Jaime Nubiola</span> se publicó primero en Jóvenes Católicos.
————————————————————————————————————————————————————————————
El anterior contenido fue publicado en: