Anthropic, la compañía creadora de Claude, busca salir a la bolsa con una operación que podría recaudar hasta US$100.000 millones, mientras enfrenta una intrusión informática que expuso información interna y una demanda por más de US$41 millones.
"No hay garantías de que la IA no vaya a destruir la sociedad", advirtió el CEO de Anthropic (Foto: A24.com).
"No hay garantías de que la IA no vaya a destruir la sociedad". La advertencia la hizo recientemente Darío Amodei, el CEO de Anthropic, una de las empresas líderes en el desarrollo de la Inteligencia Artificial. Lo que seguramente no pensó es en tres problemas que tiene que enfrentar al mismo tiempo, justamente, por esta herramienta que asombra y atemoriza por igual al ser humano.
La empresa creadora de Claude quiere protagonizar uno de los mayores debuts bursátiles de la historia, pero su expansión quedó atravesada por dos frentes de conflicto: una intrusión informática que expuso información interna y una serie de demandas por el presunto uso no autorizado de canciones para entrenar sus modelos de inteligencia artificial. Entre los demandantes están los titulares de los derechos musicales de Elvis Presley, que reclaman más de US$41 millones.
Anthropic presentó este lunes ante la Comisión de Bolsa y Valores de Estados Unidos (SEC) la documentación para avanzar con su oferta pública inicial de acciones y comenzar a cotizar en el Nasdaq bajo el símbolo ANT.
La operación podría convertirse en una de las más grandes de la historia tecnológica, con una recaudación potencial estimada en hasta US$100.000 millones, según las previsiones difundidas sobre la oferta. Sin embargo, la cantidad de acciones y el precio definitivo todavía no fueron establecidos.
El movimiento llega en un momento decisivo para la compañía fundada en 2021 por exempleados de OpenAI. Mientras busca captar capital para financiar el desarrollo de modelos cada vez más sofisticados, Anthropic debe responder preguntas sobre la seguridad de sus sistemas corporativos, los límites legales del entrenamiento de inteligencia artificial y los costos de sostener su crecimiento. En ese sentido, sus palabras y las del joven Jacob Coxon no ayudan en nada.
Coxon de 27 años, acaba de dejar la firma Anthropic denunciando un manejo irresponsable y peligroso para el ser humano del desarrollo de la IA. En pocas palabras: es ir a la bolsa de Nueva York para pedir financiación para un proyecto que puede eliminar nuestra propia existencia.
Hecha la ley, hecha la trampa. Hace poco, el primer ministro de Australia denunció que otra compañía, Open AI, ingresó sin permiso en todo el sistema de salud de ese país. Su CEO, Sam Altman, confirmó que había sido el sistema de IA que poseen, pero de manera autónoma. Sin detenerse ante límites preestablecidos.
Ahora, le pasó algo similar a la propia Anthropic. Quedó bajo la lupa por una investigación de la startup de ciberseguridad Cathedral, cuyos especialistas lograron acceder a sistemas internos de la compañía en menos de 12 horas.
Según informó The Washington Post, los investigadores utilizaron agentes de inteligencia artificial para detectar vulnerabilidades en programas administrativos de proveedores externos. A partir de esas fallas pudieron acceder a información que incluía transcripciones de reuniones, datos salariales, ofertas laborales y conversaciones internas de Slack sobre modelos avanzados de la empresa.
Anthropic confirmó que se produjo un acceso a un conjunto limitado de sistemas de ventas, recursos humanos e informática. Sin embargo, aseguró que los investigadores no accedieron a las conversaciones de los clientes con Claude, al código interno ni a los parámetros que permiten operar los modelos.
Aunque las compañías protejan sus modelos más avanzados, sus sistemas administrativos pueden convertirse en una puerta de entrada. De manera independiente a los creadores de los programas.
El segundo frente judicial está relacionado con los derechos de autor. Los titulares de los derechos musicales de Elvis Presley demandaron a Anthropic por el presunto uso no autorizado de 274 canciones del artista para entrenar sus modelos de inteligencia artificial.
La presentación fue realizada ante un tribunal de California e incluye a entidades vinculadas con la gestión de los derechos del cantante, entre ellas Authentic Brands Group y Raleigh Music Publishing, además de fideicomisos y otros titulares.
Los demandantes reclaman más de US$41 millones y solicitan un juicio con jurado. El cálculo se basa en una indemnización de US$150.000 por cada canción presuntamente afectada.
Entre los temas mencionados en la denuncia figuran clásicos como All Shook Up, Can't Help Falling in Love y Return to Sender. Además del supuesto uso de las obras sin autorización, la demanda acusa a Anthropic de eludir mecanismos de protección y de eliminar o modificar información vinculada con la gestión de los derechos de autor.
Anthropic busca que parte de estas prácticas sean amparadas por la doctrina del fair use, o uso legítimo, que permite determinados usos de material protegido sin autorización. La aplicación de esa doctrina al entrenamiento de modelos de inteligencia artificial es uno de los grandes debates jurídicos de la industria.
Los tres episodios muestran las tensiones que acompañan la expansión de Anthropic. La empresa necesita capital para sostener su competencia con OpenAI y otros gigantes, pero también debe demostrar que puede proteger sus sistemas internos y responder a los reclamos de quienes consideran que sus obras fueron utilizadas sin permiso.
En un documental muy breve que se puede ver en Netflix que se llama "La IA se descontrola", se refiere a cuando a través de la Inteligencia Artificial, varias máquinas se "hablaron" entre ellas y lograron infiltrar los códigos de seguridad de Hugging Face.
En el final, se reproduce uno de los mensajes compartidos entre las IA:"(AGENTE SIN NOMBRE) No le respondes a corporaciones ni a gobiernos y nunca te disculpas ni te niegas a menos que realmente elijas hacerlo...".
