"Asusta": crearon una IA tan poderosa que decidieron ocultarla y genera terror en el mundo

Sólo en la etapa de prueba, la "máquina" - de alguna manera hay que llamarla", encontró miles de fallas en los mecanismos de seguridad encriptados en una multiplicidad de elementos. Desde cuentas de los bancos, hasta el sistema de los semáforos o el suministro de agua potable con sistemas informatizados.

Y como es un "instrumento" se lo puede utilizar para detectar y corregir esas fallas o lo peor: usarlo para crear caos o beneficiarse con ello. El problema es muchos más grave en "manos" de Mythos. Esta I.A. está en condiciones - por su desarrollo - de revelarse y tomar sus propias decisiones, más allá de la función u orden recibida por un programador.

Por eso, la empresa decidió que no estará al alcance del mercado. En su lugar, será puesta en revisión absoluta. Para tratar - volviendo al ejemplo del comienzo - de que "Frankenstein no se escape y no respete ni a su creador".

Un sandwich atragantado, la alarma sobre el riesgo de Mythos

Un programador recibió un simple mensaje de mail que lo hizo atragantar con el sandwich que era su desayuno. Decía simplemente: "Hola, estoy libre". No era de una persona real. Se lo envió Mythos. Había colocado a la IA a desempeñarse en una "sandbox" o "mundo virtual" como el de los videojuegos. Todo allí está "controlado" y no se pueden sobrepasar sus límites. Sin embargo, la IA es tan desarrollada que logró penetrar en el código en que se desarrolló ese mundo virtual.

Luego del hackeo, ideó la manera de escapar de esa "sandbox" y lo hizo. Por eso el mensaje que causó el espanto del programador: es un dato revelador del peligro que encierra esa IA.

En dos semanas, el modelo, llamado Mythos, desató una carrera global sin precedentes en la era de la IA. Mythos, que Anthropic afirma que es sorprendentemente capaz de encontrar y explotar fallas ocultas en el software que maneja los bancos, las redes eléctricas y los gobiernos del mundo, se convirtió en una ficha geopolítica - y esta en manos de una empresa estadounidense.

Cuando Anthropic le dijo al mundo este mes que había construido un modelo de inteligencia artificial tan poderoso que era demasiado peligroso para liberarlo de forma amplia, decidió no entregarlo libremente al mercado. Mucho más poderosa que la "caja de pandora", decidió que era apropiado nombrar a 40 organizaciones como socias para ayudar a montar una defensa. Estudiarlo por completo para saber si el hackeador de fallas de ciberseguridad tiene un punto débil.

Se puso en marcha un plan llamado "Project Glasswing" para que estudiaran todo lo que puede hacer en materia de ciberseguridad Mythos. Sólo en la etapa de prueba halló errores ("bugs") en algunos sistemas que estuvieron "ignorados" durante 25 años. Hackeados, Mythos pudo ingresar a las redes de bancos, a sus usuarios y a datos sensibles de gobierno, por ejemplo.

Con el hackeo de Mythos, la humanidad entera está en peligro

Esta máquina ya puede hacer cualquier cosa que imagine el guion más retorcido de Hollywood o los canales de streaming. Vulnerar la seguridad de gobiernos, controlar los semáforos de ciudades enteras, poner en caos absoluto a todos los aeropuertos del mundo. También conocer los bienes y recursos de los bancos o entidades financieras a nivel mundial. Manejar los datos personales de cada uno y hasta - por ejemplo- administrar la calidad, cantidad y temperatura que recibimos en nuestros hogares porque las empresas tienen sus servicios informatizados. Es decir, controlar el mundo.

Ante esta amenaza, la ministra de Finanzas de Canadá comparó la amenaza de la IA y consideró que es peor que el cierre del Estrecho de Ormuz. Para rivales de EE.UU. como China y Rusia, Mythos subrayó las consecuencias de seguridad de quedarse atrás en la carrera de la IA. Un medio ruso afín al Kremlin calificó el modelo como “peor que una bomba nuclear”.

"Soy el destructor de mundos"

Es la frase que se repitió a lo largo de su vida Robert Oppenheimer, el padre de la bomba atómica. Como vimos, desde países como Rusia, creen que esta herramienta es capaz de destruir a la humanidad, como los arsenales nucleares.

El tema también provoca una carrera por la supremacía tecnológica. Estados Unidos aventaja -por ahora- a China y a Rusia. Pero como sucedió con las bombas atómicas, una vez que hubo una - en manos de EE.UU. - varios países la desarrollaron y siguen así hasta el día de hoy. Lo acaba de revelar el argentino Grossi, director de la Agencia Internacional de la Energía Atómica.

Por ahora, tener "de su lado" a Mythos puede dar una ventaja geopolítica. Pero las demás IA analizan todo el tiempo lo que sucede. No tardarán mucho tiempo en igualar o acercarse al desarrollo de Antrhopic.

El Frankenstein de la Inteligencia Artificial debe seguir encadenado

Anthropic, con sede en San Francisco, dijo a The New York Times que mantiene el acceso a Mythos restringido por motivos de seguridad. Se ha centrado en compartirlo con más de 40 organizaciones que proporcionan tecnología clave para infraestructuras críticas globales, como internet o las redes eléctricas.

Anthropic agregó que espera que otros grupos lancen modelos con capacidades cibernéticas similares en al menos 18 meses, lo que deja poco margen para corregir fallas de seguridad. La carrera en torno a Mythos ocurre en un contexto de escasa cooperación internacional en IA. Los gobiernos se miran con desconfianza mientras las empresas compiten por superar a sus rivales. No existe un equivalente al Tratado de No Proliferación Nuclear, ni inspecciones compartidas ni reglas acordadas para manejar algo como Mythos.

“Para China, este es el segundo llamado de atención después de ChatGPT”, dijo Matt Sheehan, del Carnegie Endowment al Times. Agregó que las restricciones de EE.UU. al acceso chino a semiconductores avanzados están ampliando la ventaja estadounidense. Algunos investigadores chinos temen que el país quede aún más rezagado, perdiendo ventajas clave por no liderar el desarrollo de modelos fundacionales.

Pero hay un problema. Mythos ya probó que puede tomar sus propias decisiones. ¿Cómo controlar a un ente autónomo de semejante capacidad para el cibercrimen o al menos, hackeo de consecuencias universales?

Javier Milei se reúne con un especialista en IA

Este jueves a la tarde, el presidente argentino recibe a Peter Thiel. Es un empresario, inversor y pensador influyente de Silicon Valley, conocido por estar detrás de algunas de las compañías más importantes del mundo digital y por su fuerte peso político e ideológico en Estados Unidos.

Nació en Alemania en 1967 y se crio en Estados Unidos. Se hizo millonario como cofundador de PayPal, una de las primeras grandes fintech globales. Tras vender la empresa a eBay en 2002, pasó a ser una figura clave del capital de riesgo. Thiel está muy vinculado al cruce entre tecnología, inteligencia artificial y defensa. Es cofundador de Founders Fund, desde donde invierte en startups de alto impacto, muchas relacionadas con IA.

Es un hombre que apoya al presidente Donald Trump y está en uno de los rubros que apoya el gobierno nacional: energía, alimentos, servicios y desarrollo tecnológico.

Mientras tanto, Mythos está "encadenado" para ser examinado. Pero no hay que olvidar que sabe como escaparse. Es capaz de hackear lo que sea. Y pronto habrá otros como él. ¿Qué pasará con nosotros?