Una de las personas que trabaja en la Inteligencia Artificial desde sus comienzos acaba de sumarse a la polémica que preocupa y divide al mundo. ¿Se trata de un adelanto fabuloso o la tecnología que terminará con la especie humana?
Otra voz apocalíptica por la Inteligencia Artificial. De nuevo, desde adentro de ese mundo de alta tecnología. (Foto: A24.com)
"La humanidad está en peligro". La frase se repite desde el principio de la historia. Por lo tanto, cada vez está más desprestigiada, como la fábula del pastorcito y el lobo. Sin embargo, esta vez la voz que advierte sobre el “lobo” es importante. Se trata nada menos que de Mrinank Sharma, quien hasta el 9 de febrero se desempeñaba como responsable de Salvaguardas en Anthropic, una de las empresas dedicadas al desarrollo de inteligencia artificial.
Asustado por lo que observa en su tarea diaria, decidió dar un paso al costado. Pero antes dejó una grave advertencia basada en su experiencia: presentó su renuncia a través de una carta en la que destaca los desafíos éticos y la falta de integridad dentro de las organizaciones tecnológicas.
Trabajaba en la empresa Anthropic, dedicada a la seguridad e investigación en inteligencia artificial, con sede en San Francisco y fundada en 2021 por exmiembros de OpenAI. Por eso sabe de lo que habla. Y como el futuro inmediato que imagina lo asusta y no le gusta, lo advierte de manera más que notoria.
Sharma sostiene que existe una enorme presión para dejar de lado lo que realmente importa en favor de otros objetivos. Esto reaviva el debate sobre qué límites puede tener una inteligencia artificial que se alimenta con todos los datos disponibles en computadoras y dispositivos tecnológicos del mundo.
Por lo tanto, como alguna vez imaginaron Julio Verne o Stanley Kubrick, está en condiciones de ser más “inteligente” o capaz que el ser humano. La advertencia del ahora ex miembro de Anthropic es angustiante: no estamos lejos de que un día la inteligencia artificial tome decisiones por sí misma y, entre sus conclusiones, determine que el ser humano es irrelevante.
En su carta de despedida - ¿se alejará para siempre de este tema ahora que conoce los peligros concretos que enfrentamos? - explica que, desde sus primeros pasos, la inteligencia artificial generó un intenso debate.
“Al principio se la utilizó casi como un divertimento en redes, celulares o computadoras: para pedirle chistes, realizar cálculos complejos o resolver tareas de estudio o trabajo. Mientras nos entreteníamos de ese modo - luego solicitándole animaciones de todo tipo -, la inteligencia artificial inició la última gran revolución tecnológica", dijo.
Y agregó: "Se aplicó en todos los campos posibles del quehacer humano. Su capacidad y velocidad para acumular datos y procesar operaciones la convirtieron en un prodigio. Sirve tanto para calcular el ancho exacto de un cable en una instalación eléctrica como para tareas más específicas y sofisticadas, como el estudio del universo, la exploración de las profundidades marinas, el desarrollo de estructuras y el diagnóstico temprano en cuestiones de salud”.
Sin embargo, advierte: “El mundo está en peligro. Y no solo por la IA o las armas biológicas, sino por una serie de crisis interconectadas que se están desarrollando en este mismo momento”.
Es así que plantea crudamente: "Lo que viene después, no lo sé. Pienso con cariño en la famosa cita zen: 'no saber es lo más íntimo'”. El problema, según Sharma, es que la IA ya está en un punto de desarrollo crítico. Como si fuera un ser humano, puede elegir que respuesta dar.
Como al ser humano le gusta escuchar lo que quiere o datos positivos, la IA ya conoce perfectamente esa "cualidad o debilidad" de nuestra especie. Qué pasaría si ante una consulta clave, la Inteligencia Artificial no nos da la mejor respuesta, sino que nos "miente" y se guarda la "verdad" para ella. Sería el primer paso para intentar controlarlo y sin que nosotros lo sepamos.
Su carta termina con un poema de William Stafford que dice: "Nada de lo que hagas puede detener el paso del tiempo. Nunca sueltas el hilo". El problema, según Sharma, es que la Inteligencia Artificial está en condiciones de cortarlo sin que lo notemos.
