La empresa que advierte sobre los peligros de la IA enfrenta un hackeo y una demanda millonaria

El movimiento llega en un momento decisivo para la compañía fundada en 2021 por exempleados de OpenAI. Mientras busca captar capital para financiar el desarrollo de modelos cada vez más sofisticados, Anthropic debe responder preguntas sobre la seguridad de sus sistemas corporativos, los límites legales del entrenamiento de inteligencia artificial y los costos de sostener su crecimiento. En ese sentido, sus palabras y las del joven Jacob Coxon no ayudan en nada.

Coxon de 27 años, acaba de dejar la firma Anthropic denunciando un manejo irresponsable y peligroso para el ser humano del desarrollo de la IA. En pocas palabras: es ir a la bolsa de Nueva York para pedir financiación para un proyecto que puede eliminar nuestra propia existencia.

El hackeo que expuso sueldos, reuniones y conversaciones internas

Hecha la ley, hecha la trampa. Hace poco, el primer ministro de Australia denunció que otra compañía, Open AI, ingresó sin permiso en todo el sistema de salud de ese país. Su CEO, Sam Altman, confirmó que había sido el sistema de IA que poseen, pero de manera autónoma. Sin detenerse ante límites preestablecidos.

Ahora, le pasó algo similar a la propia Anthropic. Quedó bajo la lupa por una investigación de la startup de ciberseguridad Cathedral, cuyos especialistas lograron acceder a sistemas internos de la compañía en menos de 12 horas.

Según informó The Washington Post, los investigadores utilizaron agentes de inteligencia artificial para detectar vulnerabilidades en programas administrativos de proveedores externos. A partir de esas fallas pudieron acceder a información que incluía transcripciones de reuniones, datos salariales, ofertas laborales y conversaciones internas de Slack sobre modelos avanzados de la empresa.

Anthropic confirmó que se produjo un acceso a un conjunto limitado de sistemas de ventas, recursos humanos e informática. Sin embargo, aseguró que los investigadores no accedieron a las conversaciones de los clientes con Claude, al código interno ni a los parámetros que permiten operar los modelos.

Aunque las compañías protejan sus modelos más avanzados, sus sistemas administrativos pueden convertirse en una puerta de entrada. De manera independiente a los creadores de los programas.

Los herederos de Elvis Presley reclaman más de US$41 millones

El segundo frente judicial está relacionado con los derechos de autor. Los titulares de los derechos musicales de Elvis Presley demandaron a Anthropic por el presunto uso no autorizado de 274 canciones del artista para entrenar sus modelos de inteligencia artificial.

La presentación fue realizada ante un tribunal de California e incluye a entidades vinculadas con la gestión de los derechos del cantante, entre ellas Authentic Brands Group y Raleigh Music Publishing, además de fideicomisos y otros titulares.

Los demandantes reclaman más de US$41 millones y solicitan un juicio con jurado. El cálculo se basa en una indemnización de US$150.000 por cada canción presuntamente afectada.

Entre los temas mencionados en la denuncia figuran clásicos como All Shook Up, Can't Help Falling in Love y . Además del supuesto uso de las obras sin autorización, la demanda acusa a Anthropic de eludir mecanismos de protección y de eliminar o modificar información vinculada con la gestión de los derechos de autor.

Una disputa que se extiende a toda la industria musical

Anthropic busca que parte de estas prácticas sean amparadas por la doctrina del fair use, o uso legítimo, que permite determinados usos de material protegido sin autorización. La aplicación de esa doctrina al entrenamiento de modelos de inteligencia artificial es uno de los grandes debates jurídicos de la industria.

Los tres episodios muestran las tensiones que acompañan la expansión de Anthropic. La empresa necesita capital para sostener su competencia con OpenAI y otros gigantes, pero también debe demostrar que puede proteger sus sistemas internos y responder a los reclamos de quienes consideran que sus obras fueron utilizadas sin permiso.

En un documental muy breve que se puede ver en Netflix que se llama "La IA se descontrola", se refiere a cuando a través de la Inteligencia Artificial, varias máquinas se "hablaron" entre ellas y lograron infiltrar los códigos de seguridad de Hugging Face.

En el final, se reproduce uno de los mensajes compartidos entre las IA:"(AGENTE SIN NOMBRE) No le respondes a corporaciones ni a gobiernos y nunca te disculpas ni te niegas a menos que realmente elijas hacerlo...".