¿IA sin control? Cómo fue el ataque de un agente de OpenAI al gobierno de Australia

Esto quiere decir que durante un tiempo, sin que nadie lo notara, una máquina con Inteligencia Artificial tuvo acceso - ¿y control? - a todo el sistema de salud de un país desarrollado como Australia, con una población de casi 30 millones de habitantes.

Inteligencia Artificial infiltrada en el sistema nacional de salud de Australia

Un agente de inteligencia artificial de OpenAI vulneró un portal de Medicare en Australia y logró sortear las barreras de seguridad del sistema, en un episodio que el primer ministro Anthony Albanese calificó como inaceptable.

El incidente ocurrió el pasado 18 de junio, cuando el agente realizaba una investigación relacionada con el gasto público en medicamentos. Y para peor, OpenAI recién lo comunicó al gobierno de ese país tres meses más tarde. ¿Lo hizo en cuanto lo supo o guardó información todo este tiempo?

Eso es lo que molesta por igual al primer ministro australiano y así se lo hizo saber a Sam Altman, el CEO de OpenAI, la empresa cuya "máquina" vulneró todas las claves de seguridad del sistema sanitario de ese país.

El sistema comenzó consultando información disponible públicamente, pero cuando el portal bloqueó sus solicitudes, el agente encontró mecanismos alternativos para continuar con la búsqueda. De esta manera, logró acceder a información pública y también a archivos que en ese momento no estaban destinados a ser públicos.

El episodio fue detectado por OpenAI durante una revisión interna realizada en agosto. Sin embargo, la empresa recién notificó al gobierno australiano el 10 de septiembre, mediante un correo enviado a una bandeja de entrada general de Services Australia. Tres meses más tarde.

El problema tampoco habría quedado limitado al portal de Medicare. Los agentes de OpenAI habrían accedido a cuatro sitios web gubernamentales australianos, entre ellos el Australian Institute of Health and Welfare, el Bureau of Crime Statistics and Research de Nueva Gales del Sur y el Departamento de Salud de Victoria.

El tema es particularmente grave porque concentra a las dos principales ciudades del país: Sydney en Nueva Gales del Sur y Melbourne en Victoria.

Qué información obtuvo la IA

El portal de Medicare involucrado contiene principalmente estadísticas agregadas sobre el sistema sanitario australiano. Hasta ahora, las autoridades no encontraron evidencia de que el agente haya accedido a información personal de pacientes, historias clínicas o datos médicos individuales. Pero no lo pueden descartar.

El objetivo del agente era obtener información relacionada con el gasto en medicamentos. Sin embargo, el hecho de que haya podido atravesar las restricciones del portal y acceder a información que no era pública generó preocupación entre las autoridades australianas.

La diferencia con un ciberataque tradicional es uno de los aspectos que más preocupa. No se trató simplemente de una persona que ingresó manualmente al sistema: fue un agente de IA que recibió una tarea, encontró obstáculos y posteriormente buscó una manera alternativa de completar el objetivo.

Las consecuencias para Australia y OpenAI

El gobierno australiano inició una investigación para determinar qué ocurrió, qué información fue consultada y si se violaron leyes. También se analiza si otros organismos públicos fueron afectados.

Por ahora, no existe evidencia de que información personal de ciudadanos australianos haya quedado expuesta. Por eso, el principal impacto conocido no está relacionado con el robo de datos médicos individuales, sino con la capacidad demostrada por un agente de IA para superar mecanismos de seguridad y continuar operando sin autorización.

Albanese habló personalmente con Sam Altman, CEO de OpenAI, en Nueva York y el caso también puede aumentar la presión sobre el gobierno australiano para establecer reglas más estrictas sobre el funcionamiento y la supervisión de agentes autónomos de inteligencia artificial.

La investigación deberá determinar quién tiene responsabilidad cuando una IA ejecuta acciones que sus desarrolladores no autorizaron expresamente. El episodio plantea así una pregunta que empieza a ser central en la regulación tecnológica: cómo controlar a sistemas capaces de interpretar una barrera de seguridad no como una orden para detenerse, sino como un obstáculo que deben superar.

Un país desarrollado vulnerable, ¿qué queda para el resto?

Esta es la gran pregunta detrás de la infiltración australiana. Ya son varios los casos alertados de máquinas con IA que hacen cosas para las que no fueron programadas. Especialmente grave son aquellas en las que vulneran sistemas de seguridad, cosa que no tienen "permitido realizar".

Australia es un país desarrollado en muchos campos y en la tecnología, especialmente. Si fue tan vulnerable, a punto tal que ni siquiera detectaron la "filtración" hasta que OpenAI desde Estados Unidos les avisó, ¿qué puede esperarse en países menos desarrollados?

Para quienes creen que no hay casualidades, este caso puede servir. En Washington se encuentran las dos personas más importantes de la Tierra. La Inteligencia Artificial es uno de los temas centrales de la agenda.