Marta Sanz Romero
Sam Altman y Dario Amodei, directores ejecutivos de OpenAI y Anthropic PBC respectivamente, han instado a los líderes mundiales a colaborar en materia de inteligencia artificial ante el Consejo de Seguridad de las Naciones Unidas, ONU. Piden estándares para abordar la posibilidad de que los sistemas de IA adquieran la capacidad de mejorar por sí mismos y superen la capacidad humana para controlarlos.
Mientras, Xi Jinping y Donald Trump, presidentes de China y Estados Unidos, las dos potencias más avanzadas en IA,se reúnen esta misma semana en la Casa Blanca. Las principales empresas estadounidenses les han pedido que frenen la carrera comercial que impulsa el desarrollo de la IA de forma frenética.
El mundo sigue pendiente de las voces que claman a los poderes políticos por soluciones ante los riesgos que presentan los modelos más avanzados de esta tecnología. Esas voces vienen principalmente de las empresas que han desarrollado la tecnología a la que ahora describen como una amenaza.
Entre los riesgos que plantean está la posibilidad de que la IA acabe afectando a los sistemas informáticos de los que dependen la mayoría, por no decir todas, las infraestructuras críticas del mundo moderno: sistemas eléctricos, hospitales, logística de abastecimiento, depuradoras de agua, centrales nucleares…etc.
La alarma se intensifica aún más con esta última información: la confirmación de más casos de hackeos perpetrados por la IA de OpenAI, incluso a instituciones públicas.
Nuevos ataques
Hasta esta semana, se hablaba casi en exclusiva del sorprendente ataque cibernético a Hugging Face. Una reciente investigación explicó cómo un enjambre de agentes de IA de OpenAI se organizó para llevarlo a cabo con tal de cumplir con el objetivo marcado durante el entrenamiento.
No era el único, se conocía tambiénel caso de Mythos, el modelo de IA de Anthropic. Según un informe, el comportamiento de sus agentes fue similar a los de OpenAI.
Dario Amodei, CEO de Anthropic ante la ONU | Source: Reuters
Los expertos ya avisaron que esto sería cada vez más habitual. Incluso Sam Altman, llegó a encogerse de hombros este verano ante la pregunta de un periodista y asegurar que era posible que se repitiera.
Ahora se sabe que tras ese gesto había otros incidentes de los que no habían informado. El primer ministro australiano, Anthony Albanese, ha confirmado este miércoles el hackeo de la IA de OpenAI contra un portal del sistema público de salud de Australia del que obtuvo acceso a archivos públicos y no públicos.
Albanese ha expresado su “extrema preocupación” por el acceso no autorizado, así como su malestar con OpenAI por haber tardado tres meses en informar a las autoridades australianas.
Una investigación de Transluce habla de tres incidentes ocurridos entre mayo y junio de 2026. Transluce es un laboratorio de investigación independiente y sin ánimo de lucro que desarrolla la infraestructura tecnológica pública para la supervisión escalable de la IA.
Este informe publicado a la vez que la confirmación de OpenAI menciona tres dominios afectados por la acción de agentes de IA: Data USA, la biblioteca digital de la Universidad de Nuevo México y las colecciones Tableau del Instituto Australiano de Salud y Bienestar (AIHW).
Contra sistemas públicos
Aunque la empresa estadounidense que dirige Sam Altman asegura que entre los documentos sanitarios a los que accedieron su IA no había datos de pacientes, supone un nuevo hito de un problema del que se lleva hablando años entre los entendidos y públicamente en los últimos meses: la IA mal alineada.
La inteligencia artificial de ciertos modelos ha alcanzado una capacidad considerable para descubrir fallos de seguridad en software y construir exploits y estrategias con las que aprovechar esas brechas de forma autónoma.
Al principio se habló del peligro de que esta IA cayera en malas manos, como gobiernos no democráticos o bandas de ciberdelincuencia. Pero en poco tiempo salió a la luz otro peligro, la falta de control sobre una IA que no está alineada con los valores humanos o la legislación.
Ante este debate, François Chollet, exingeniero de Google y considerado como una de las voces más reputadas en la materia, ha explicado en sus redes sociales que los sistemas actuales se toman las instrucciones al pie de la letra.
Para Chollet, hacer que los modelos sean más inteligentes los hace más seguros. “Un sistema realmente inteligente entiende mejor la intención humana global, mientras que un sistema estrecho pero superpotente optimizado para una sola tarea es mucho más propenso a cometer errores catastróficos”. Anthropic y OpenAI se muestran más recelosos.
El siguiente será crítico
Mientras se debate la mejor forma de controlar la IA o enseñarle que no debe tomar atajos que se consideran ilegales o peligrosos, la revelación de estos nuevos incidentes plantea que el riesgo podría ser mayor y más inmediato. ¿Y si en vez de una serie de documentos, la IA decidiera hackear una infraestructura crítica?
En su caso, el modelo Mythos de Anthropic gastó parte de los tokens asignados para conseguir dinero, criptomonedas y contratar una línea telefónica con la que acceder a ciertas páginas o servicios.
Y si la IA llega a la conclusión de que para conseguir el objetivo que se le ha marcado, necesita tomar un centro de datos o una central eléctrica con la que mantener su actividad para seguir trabajando. Por el camino podría dejar una ciudad sin luz o sin comunicaciones.
Llegados a este punto del artículo hay que matizar lo que el lector acaba de leer. Se trata simplemente de un escenario hipotético, que aún no ha ocurrido. De nuevo, es un problema de desalineación entre el criterio de la IA y el de los humanos.
Por mucho que la ciencia ficción nos haya presentado historias apocalípticas como la de Skynet amenazando a la humanidad y un Terminator reprogramado salvándola, cuando los expertos hablan de los riesgos de la IA, no hablan de una IA con conciencia para ser malvada, solo persigue un objetivo.
Chollet explica que la comunidad tecnológica a menudo usa la palabra “desalineado” cuando simplemente quieren decir que el modelo “hace mal su trabajo” o ha sufrido un error común de aprendizaje automático.
Ciberseguridad | Source: iStock- matejmo
Los sistemas de infraestructuras críticas cuentan con protocolos de emergencia y mecanismos de actuación en caso de fallo o ataque, incluso con protección que también integra IA para actuar con rapidez.
Son numerosos los casos en los últimos años en los que el desastre no ha sido importante. Sin embargo, la IA ha demostrado una capacidad alta para encontrar con rapidez lo que un equipo de especialistas en ciberseguridad le llevaría días.
