Desde hace una semana se repiten a diario las alertas sobre el desarrollo acelerado de esta tecnología y el peligro que puede significar para el ser humano y su supervivencia.
Nueva adevertancia sobre la Inteligencia Artificial y el peligro de la falta de control o que solo una persona tenga ese poder (Foto: A24.com
"Tan peligroso es que la Inteligencia Artificial avance sin control como que haya un control, pero en manos de una sola persona". Es otra advertencia sobre la potencial amenaza de este avance fabuloso de la tecnología. Y conviene prestarle atención porque este llamado de alerta es de otro de los creadores y desarrolladores de la IA.
Sam Altman es el CEO de Open IA y señaló que existe un riesgo real de que “los humanos perdamos el control del futuro frente a la IA” y sostuvo que ninguna presión competitiva, incluso entre Estados Unidos y otros países, justifica avanzar de manera imprudente si las capacidades de los sistemas crecen más rápido que los mecanismos de seguridad.
También describió un segundo peligro: la concentración excesiva de poder. Según Altman, una IA muy poderosa en manos de una sola persona o empresa podría utilizarse para imponer su propia visión del mundo sobre el resto de la sociedad, generando un escenario “extremadamente distópico”.
Por eso, consideró necesario que las empresas de IA trabajen por sí mismas en medidas de seguridad, aunque también reclamó la participación de los gobiernos para establecer un marco internacional común.
La semana pasada uno de de las mentes más brillantes en este campo, Jacob Coxon, de sólo 29 años, luego de su paso por Open IA (con Altman) acaba de renunciar a Anthropic por denunciar esta falta de controles y que la IA ya está a un paso de poder desarrollar "pensamientos y acciones" autónomas. Incluso, decidir eliminar a los seres humanos.
Hay una comisión bicameral en los Estados Unidos que pide un "botón universal" que permita "apagar" cualquier equipo de Inteligencia Artificial y el rey del Reino Unido, Carlos III, acaba de anunciar que convocará a los sectores de la tecnología para estudiar controles severos que impidan el desarrollo autónomo de la Inteligencia Artificial.
“No creemos que haga falta esperar una exención antimonopolio ni una legislación para empezar el trabajo de dar esta confianza”, señaló el CEO de Open IA. " No podemos seguir perdiendo el tiempo", alertó.
Son las amenazas que se desprenden del nivel actual de la inteligencia artificial y de su constante evolución. Ya hay máquinas, de diverso uso y aplicación, que ya pueden "aprender solas" y hasta tomar sus propias decisiones. Incluso, desoyendo las instrucciones pautadas.
Por eso, el CEO de OPENAI avisa a "dos bandas" como en el billar: tan peligroso puede resultar para la condición humana que nada las controle, como que la posibilidad de tenerla bajo su mando que en manos de solo una persona, una empresa o un gobierno. En ambos casos, las consecuencias sería nefastas. Doxon acaba de pronosticar que en pocos años más la Inteligencia Artificial podría "concluir" que es necesario eliminar a parte de la humanidad.
En el primer escenario, el riesgo es que los humanos pierdan el control sobre sistemas capaces de actuar de manera autónoma, aprender, mejorar sus propias capacidades y acceder a recursos. Ese es precisamente uno de los temores planteados por Jacob Coxon, el investigador que renunció a Anthropic después de advertir que las compañías están avanzando hacia una inteligencia capaz de superarse a sí misma sin tener todavía una solución clara para garantizar que permanezca alineada con los intereses humanos.
Altman señala también otro escenario que puede ser igualmente inquietante: que la IA no se descontrole y que, justamente por eso, alguien consiga utilizarla como una herramienta de poder sin precedentes.
OpenAI es una empresa de investigación y desarrollo de inteligencia artificial creada en 2015 en Estados Unidos. Su objetivo inicial fue desarrollar sistemas de IA que fueran beneficiosos para la humanidad y evitar que esta tecnología quedara concentrada exclusivamente en unas pocas empresas.
OpenAI fue fundada por un grupo de empresarios e investigadores tecnológicos. Entre sus principales cofundadores estuvieron Sam Altman, Elon Musk, Greg Brockman, Ilya Sutskever, John Schulman y Wojciech Zaremba. Altman se convirtió posteriormente en una de las figuras centrales de la organización y actualmente es su CEO. Musk abandonó la organización en 2018 y ya no forma parte de OpenAI.
Su producto más conocido es ChatGPT, un sistema de inteligencia artificial capaz de mantener conversaciones, responder preguntas, resumir y analizar información, traducir textos, escribir y corregir documentos, programar y realizar distintas tareas de razonamiento. ChatGPT utiliza modelos de lenguaje desarrollados por OpenAI, capaces de procesar grandes cantidades de información y generar respuestas a partir de las instrucciones del usuario.
Pero OpenAI no se limita a ChatGPT. También desarrolla modelos y herramientas de IA para generar imágenes, analizar documentos, trabajar con audio y voz, programar y automatizar tareas complejas. Sus tecnologías son utilizadas tanto por usuarios particulares como por empresas y desarrolladores.
El crecimiento de OpenAI convirtió a la compañía en uno de los principales protagonistas de la carrera mundial por desarrollar una inteligencia artificial cada vez más avanzada. Y justamente por eso, sus decisiones tienen una importancia que va mucho más allá de una empresa tecnológica: lo que OpenAI construya puede influir en cómo se desarrolla y se utiliza la IA en todo el mundo.
