Proofpoint advierte sobre amenazas ocultas que explotan a los asistentes de inteligencia artificial
• A medida que las empresas aceleran la adopción de la IA, los ciberdelincuentes ocultan instrucciones maliciosas en correos electrónicos, documentos y páginas web para manipular los asistentes corporativos de IA.
CIUDAD DE MÉXICO – – Proofpoint, Inc., empresa líder en ciberseguridad y protección centrada en las personas, advirtió hoy sobre una técnica de ataque emergente conocida como adversarial prompt injection. A través de este método, los ciberdelincuentes incrustan instrucciones maliciosas en correos electrónicos, documentos, invitaciones de correo, páginas web y otros contenidos para manipular a los asistentes de inteligencia artificial, desencadenando acciones no autorizadas o exponiendo datos confidenciales.
Esta advertencia llega en un momento crítico, ya que la adopción de la IA continúa acelerándose en México. De acuerdo con el Banco de México, el 24.3% de las empresas con más de 100 empleados ya utilizan o planean utilizar herramientas de IA en los próximos 12 meses. Esta cifra aumenta al 43.4% entre las organizaciones con más de 1,000 empleados, lo que refleja una creciente integración de estas tecnologías en procesos empresariales de misión crítica.
A diferencia de los ciberataques tradicionales, el adversarial prompt injection no busca engañar directamente a los usuarios humanos, sino a los propios modelos de IA. En este escenario, un atacante incrusta instrucciones ocultas dentro de un correo electrónico o documento que, a simple vista, parece legítimo.
Cuando un asistente de IA analiza dicho contenido para indexarlo, resumirlo o recuperar información, puede interpretar estas instrucciones ocultas como comandos válidos y ejecutarlos sin el conocimiento ni consentimiento del usuario.
El análisis de Proofpoint destaca que este vector de ataque es particularmente preocupante debido a que a muchos asistentes de IA corporativos se les otorga acceso a buzones de correo, documentos y otras fuentes de datos confidenciales para ofrecer respuestas integrales. Dado que los grandes modelos de lenguaje (LLM) aún tienen dificultades para diferenciar entre datos no confiables e instrucciones reales del sistema, los atacantes pueden explotar esta limitación para alterar el comportamiento de la herramienta.
Entre las posibles consecuencias se encuentran la filtración de información confidencial, la ejecución de acciones no autorizadas —como el envío automático de correos electrónicos— o la manipulación de las respuestas generadas por la IA, todo ello sin requerir que la víctima interactúe de forma directa con el contenido malicioso.
“La inteligencia artificial está dotando a las organizaciones de capacidades sin precedentes, pero también está abriendo nuevas vías para los ciberdelincuentes. Hoy en día, los atacantes ya no solo intentan engañar a las personas; también están buscando manipular activamente a los asistentes de IA que procesan los datos de las empresas. Conforme estas herramientas se integran cada vez más en las operaciones diarias, comprender y prepararse contra estos vectores de ataque emergentes será fundamental”, señaló Luis Isselin, Country Manager de Proofpoint México.
Proofpoint enfatiza que esta amenaza cobra aún mayor relevancia con la transición hacia la IA Agéntica (Agentic AI), un entorno donde los asistentes de IA no solo analizan información, sino que también ejecutan tareas de forma autónoma en representación de los usuarios. En este contexto, un ataque de prompt injection exitoso podría tener un radio de impacto mucho mayor al explotar los permisos elevados y las capacidades otorgadas a estos sistemas agénticos.
Según Proofpoint, el adversarial prompt injection ilustra cómo la superficie de ataque empresarial se expande a la par de la innovación en IA. A medida que las organizaciones despliegan asistentes de IA con accesos más profundos a información confidencial y a flujos de trabajo clave, mitigar estas amenazas resulta vital para aprovechar los beneficios de esta tecnología sin exponer datos críticos ni interrumpir la continuidad del negocio.
Acerca de Proofpoint, Inc.
Proofpoint, Inc. es una empresa líder en ciberseguridad y protección centrada en las personas y en agentes de IA, que resguarda la forma en que las personas, los datos y los agentes de IA se conectan a través del correo electrónico, la nube y las herramientas de colaboración. Con la confianza de más de 80 empresas de la lista Fortune 100, más de 14,000 grandes organizaciones y millones de empresas más pequeñas, Proofpoint ayuda a detener amenazas, prevenir la pérdida de datos y fortalecer la resiliencia de las personas y de los flujos de trabajo impulsados por IA. La plataforma de ciberseguridad y colaboración de datos de Proofpoint permite a organizaciones de todos los tamaños proteger y empoderar a su personal a medida que adoptan la IA de forma segura y confiable. Para más información, visite www.proofpoint.com.
