Uno de los principales desarrolladores de la Inteligencia Artificial hizo una dramática premonición. Apuntó a desarrolladores de este avance tecnológico que no miden las consecuencias y pueden poner en peligro a la humanidad.
Una dramática advertencia sobre los alcances de una Inteligencia Artificial sin control. (Foto: A24.com)
"La IA podría matar a todos los humanos", la advertencia es nada menos que de Jacob Coxon. No se trata de un cineasta o un autor de ciencia ficción. Con sólo 27 años, dejó la empresa el martes acusando a OpenAI y Anthropic de correr hacia una superinteligencia que no van a poder controlar.
Coxon trabajaba en el entrenamiento de modelos de IA y antes había pasado por OpenAI. Su preocupación central es que las principales empresas están inmersas en una carrera para desarrollar sistemas cada vez más capaces, especialmente modelos que puedan mejorarse a sí mismos.
El problema, según él, es que una IA capaz de participar en su propia evolución podría generar un proceso difícil de controlar. Su temor es que las compañías estén llegando a un punto en el que la velocidad del desarrollo sea mayor que la capacidad de los investigadores para garantizar que esos sistemas sigan obedeciendo a los seres humanos.
Coxon sostiene que el escenario más preocupante podría producirse antes de que termine 2027. Según su visión, para entonces algunos sistemas podrían haber alcanzado un nivel de autonomía y capacidad de automejora que haga mucho más difícil detenerlos o corregir su comportamiento. O peor aún, tomar al ser humano, como una molestia o un enemigo.
Acaba de hacer la advertencia más impactante que aparece alrededor de la investigación. Coxon asegura que algunos de sus colegas utilizan expresiones como "crunchtime" y "endgame" (fin de juego) para describir el momento actual de la carrera tecnológica. También afirma que existen investigadores que creen, en privado, que una IA avanzada podría provocar la extinción humana antes de 2030.
No sólo Coxon plantea este grave problema para el futuro inmediato de la especie humana. Varios de los responsables del desarrollo impresionante de la Inteligencia Artificial comparten el diagnóstico. Difieren en el porcentaje y la fecha, pero el vaticinio es coincidente.
La Inteligencia Artificial ha logrado ya un desarrollo tal que está en condiciones de "autoeducarse" y superarse en conocimientos que ya superan al del humano medio. Por lo tanto, pueden comenzar, de manera imprevista, a tomar sus propias decisiones. De hecho ya hay informes de "máquinas" que se negaron a cumplir misiones predeterminadas o "se dictaron a sí mismas" nuevas órdenes.
Es su posteo por las redes, se nota claramente ese matiz que no cambia el peligro final de la advertencia de Coxon: "Jacob tiene razón aquí, realmente creemos con sinceridad que la IA podría matar a todos los humanos. Personalmente, pienso que es >10% dentro de la próxima década. Creo que Anthropic está haciendo lo mejor que puede, pero aún no tenemos un plan para resolver el alineamiento para la superinteligencia y no estamos claramente en camino de lograrlo".
Evan Hubinger, es responsable de Alignment Science -la investigación destinada a conseguir que los objetivos de una IA permanezcan alineados con los intereses humanos- de Anthropic. Sin embargo, consciente de lo que sucede, lo conoce desde adentro sólo atina a señalar que su empresa "está haciendo lo mejor que puede".
Por lo que cuentan estos especialistas, no hay duda de que estamos muy cerca de una línea de no retorno. Que se cumplan las centenarias profecías (de libros y películas) de las máquinas en guerra contra los seres humanos.
El investigador aclaró que el problema no está necesariamente en los modelos actuales. Según explicó, los sistemas que existen hoy presentan un riesgo relativamente bajo. Su preocupación principal está puesta en el desarrollo de una superinteligencia capaz de mejorar sus propias capacidades de manera recursiva. Si una IA pudiera diseñar versiones cada vez más inteligentes de sí misma, el proceso podría acelerarse hasta niveles difíciles de controlar por los seres humanos.
Las declaraciones de Hubinger, sumadas a las declaraciones se produjeron después de la renuncia de Jacob Coxon, otro investigador de Anthropic especializado en inteligencia artificial, son una señal inequívoca del problema grave que tenemos a la vista.
El investigador sostuvo que algunos de los científicos que trabajan en IA creen que los sistemas podrían llegar a ser capaces de "matarnos a todos" antes del final de esta década y aseguró que esa posibilidad no es una estrategia de marketing ni una exageración.
Según Coxon, Anthropic entiende mejor que otras compañías la gravedad del problema, pero está atrapada en una carrera tecnológica en la que cada empresa teme que, si no desarrolla primero una superinteligencia, otra compañía lo hará sin las mismas precauciones. Y la humanidad depende de ello.
