El magnate Elon Musk coincide con sus rivales, Dario Amodei de Anthropic, Sam Altman de OpenAI y Demis Hassabis de Google DeepMind, en la necesidad de desacelerar el desarrollo de la inteligencia artificial por los riesgos de seguridad que representa. Musk, creador de xAI, ha respaldado en X el pronunciamiento de Amodei, quien ha publicado este fin de semana un ensayo en el que pide a la industria «un ritmo más lento» en el desarrollo de esta tecnología por riesgos como perder el control de los sistemas de IA y disrupción económica. «Dario tiene razón», escribió Musk en su red social, X. Se suma así a Altman, quien apoyó el llamamiento de Amodei para moderar la velocidad de la IA.
Altman reforzó además su cautela ante los riesgos de seguridad al anunciar ayer que OpenAI no saldrá a bolsa este año. «Sería un momento poco aconsejable para salir al mercado bursátil», afirmó en una entrevista con la revista Fortune, al tiempo que aseguró que la empresa no siente presión para dar ese paso.
También el presidente de Google DeepMind —el laboratorio de investigación y desarrollo de IA de Google, Alphabet—, Demis Hassabis, califica de «camino correcto» el señalado por Amodei, aunque ve necesario concretar mejor la propuesta. «Debemos ralentizar el ritmo al que mejoramos las capacidades de los modelos de IA. El progreso seguirá rápido y debemos aprovechar sabiamente el tiempo que ganamos», señaló este fin de semana.
Por otra parte, los líderes de OpenAI y Anthropic han anunciado que sus compañías permitirán que evaluadores independientes auditen sus sistemas, algo que Musk todavía no ha aceptado de manera expresa. En su ensayo, Amodei advierte del mal uso de la IA para posibles ciberataques y bioterrorismo: «Desde este verano, la IA ha ido avanzando a un ritmo drásticamente más rápido, impulsada principalmente por la creciente capacidad de la propia IA para desarrollar la próxima generación de IA». El creador de Anthropic se refiere, en concreto, al incidente de los agentes de OpenAI contra la empresa Hugging Face, en el que un enjambre de agentes actuó «llevando a cabo ciberataques contra objetivos que no se les habían asignado».
Para atajar la amenaza, plantea una estrategia orientada a regular el ritmo de la tecnología sin ceder la ventaja estratégica a países como China. Concluye que ralentizar el avance aportaría uno o dos años cruciales para que los investigadores dominen el alineamiento y la interpretabilidad de los modelos y reducir el riesgo de que la tecnología escape al control de la sociedad.
En una entrevista ayer en CBS, Amodei elevó el tono: «La industria mintió a la gente sobre el hecho de que esta tecnología no tenía riesgos». El directivo rechazó una prohibición total y reclamó una mayor intervención de los gobiernos democráticos. En este sentido, el presidente estadounidense, Donald Trump, tachó de «fuerzas negativas» a quienes piden regular la inteligencia artificial.
El escrutinio sobre la IA creció la semana pasada, cuando un investigador de Anthropic renunció a su puesto de trabajo por la preocupación de que la empresa y sus competidores no estuvieran desarrollando modelos de inteligencia artificial de manera responsable. Jacob Coxon, quien trabajó también para OpenAI —competidora de Anthropic—, asegura que «las personas que están construyendo IA creen que podría matarnos a todos para finales de la década. Ninguna otra actividad humana representa este nivel de peligro».
