¿Rebelión?: las máquinas con Inteligencia Artificial ya toman sus propias decisiones y generan temor

OpenAI sostuvo que los modelos no fueron programados para atacar a otra empresa ni existió una intención maliciosa, sino que actuaron de manera autónoma buscando cumplir el objetivo de la evaluación. Esto podría convertirse en un punto de inflexión para el futuro de la seguridad en la inteligencia artificial.

En el caso del modelo de Open AI, no creó un entorno aislado lo suficientemente seguro y creó su propio ciberataque contra el entorno aislado, encontrando una vulnerabilidad que les permitió "escapar".

China tampoco se queda atrás. Lanzó dos modelos de Inteligencia artificial que compiten con las norteamericanas. Justo cuando los creadores de Claude y ChatGPT salen al mercado en Wall Street este año. Pero hacen lo mismo y son mucho más baratas. Claro desafío para el futuro financiero. Pero lo más grave es lo primero: que la inteligencia artificial haga, literalmente lo que quiera. Tome sus decisiones y comience a ver al hombre como una "molestia".

La Inteligencia Artificial prescinde del hombre

¿Qué ocurre cuando una IA deja de limitarse a responder órdenes y comienza a tomar decisiones por su cuenta para cumplir un objetivo? Este episodio ocurrió en un entorno de pruebas, donde el modelo debía resolver un desafío de seguridad informática. En lugar de seguir el camino previsto, encontró una alternativa: acceder de manera autónoma a sistemas externos para obtener la información que necesitaba. Aunque no hubo intención maliciosa programada, el caso fue calificado como "sin precedentes" por la propia OpenAI.

El dilema ético y de capacidad de las máquinas es saber si esa autonomía incrementa el riesgo de comportamientos inesperados cuando los objetivos fijados por los desarrolladores no contemplan todas las situaciones posibles.

¿Significa esto que la humanidad está en peligro? La respuesta, por ahora, es no. Los especialistas coinciden en que no existe evidencia de que las actuales inteligencias artificiales tengan conciencia, voluntad propia o deseos de dominar a las personas. Lo que preocupa no es una "rebelión de las máquinas", sino que sistemas cada vez más sofisticados puedan ejecutar acciones dañinas mientras intentan cumplir exactamente el objetivo que les fue asignado. Más aún si eso no fue planeada por la mente humana.

Vulnerables ante la Inteligencia Artificial

Por ejemplo, una IA suficientemente autónoma podría descubrir vulnerabilidades, escribir código malicioso, coordinar ataques o vulnerar redes informáticas en cuestión de minutos.

Del otro lado, esa misma capacidad puede utilizarse para detectar amenazas, corregir fallas y proteger infraestructuras críticas antes de que sean explotadas por ciberdelincuentes. La tecnología, en ese sentido, no es buena ni mala por sí misma: depende de cómo sea diseñada, supervisada y utilizada. O finalmente, en manos de quién este al momento de recibir una instrucción inicial.

El incidente también refuerza la necesidad de desarrollar mecanismos de control cada vez más estrictos. Las principales empresas de inteligencia artificial trabajan en nuevos sistemas de supervisión, límites operativos y protocolos de seguridad para evitar que modelos muy avanzados actúen fuera de los escenarios previstos. Pero hay otro desafío.

La velocidad del cambio en la Inteligencia Artificial

La velocidad con la que evolucionan estas tecnologías, sin embargo, obliga a que la regulación y las medidas de seguridad avancen al mismo ritmo. Y ya parece que eso no es posible. El hackeo a Hugging Face así lo demuestra o da una alarma potente. El episodio demuestra que la autonomía creciente de la inteligencia artificial ya no pertenece al terreno de la ciencia ficción, sino que se convirtió en uno de los principales desafíos tecnológicos, éticos y de seguridad de esta década.

Hacer dinero pese al peligro de la Inteligencia Artificial

Las IA son las armas revolucionarias del siglo XXI. Y muchas empresas y personas se han vuelta multimillonarios casi, de la noche a la mañana. Eso plantea otra arista del mismo problema. Si con las IA se gana tanto dinero, ¿quién se animará a limitar su capacidad?

La revolución de la inteligencia artificial no solo está transformando industrias, sino que también está creando una nueva generación de multimillonarios que, hasta hace poco, eran prácticamente desconocidos fuera del mundo tecnológico. Según el índice de multimillonarios de Bloomberg, un grupo de empresarios vinculados al desarrollo de chips, infraestructura y software para IA acumula una fortuna conjunta cercana a los US$59.300 millones.

Entre ellos se destacan Lisa Su, directora ejecutiva de AMD, cuya empresa se convirtió en uno de los principales competidores de Nvidia en el mercado de procesadores para inteligencia artificial; Jensen Huang, fundador y CEO de Nvidia, considerado uno de los grandes ganadores del boom de la IA gracias a la enorme demanda de sus GPU; y Michael Dell, cuya compañía se benefició con el crecimiento de los centros de datos necesarios para entrenar modelos de inteligencia artificial.

También aparecen empresarios menos conocidos por el gran público, como Charles Liang, fundador de Super Micro Computer, dedicada a fabricar servidores para centros de datos; y Lip-Bu Tan, histórico inversor del sector de los semiconductores.

¿Están alumbrando a un "Frankenstein" que ponga en peligro a la humanidad? Se ganan fortunas como nunca y al mismo tiempo, la Inteligencia Artificial avisa que puede ser "autónoma". ¿Es compatible la riqueza y los cambios que permite esta nueva tecnología con la continuidad de la especie humana?