Contenido
- Qué significa la seguridad de la IA en una empresa
- Amenazas contra el modelo: evasión, envenenamiento y privacidad
- Amenazas en asistentes y agentes con IA generativa
- Cómo proteger la IA: capas y controles prácticos
- Qué exige la ley de datos en Panamá
- Plan de seguridad de la IA para empezar
- Preguntas frecuentes sobre la seguridad de la IA
Para proteger tu empresa de las amenazas contra la IA hay que defender tres frentes: los datos con los que aprende el modelo, el propio modelo y las acciones que la IA puede ejecutar en tus sistemas. Las amenazas principales son la inyección de instrucciones, el envenenamiento de datos y la fuga de información. Esta guía las explica con los marcos del NIST, OWASP y ENISA, y repasa qué exige la ley en Panamá.
Qué significa la seguridad de la IA en una empresa
La seguridad de la IA protege los sistemas de inteligencia artificial frente a ataques y usos indebidos. No es lo mismo que la ciberseguridad tradicional, aunque se apoya en ella. La diferencia es que un modelo de IA también se ataca a través de sus datos o de las instrucciones que recibe. Es decir, no basta con proteger contraseñas y servidores.
El problema ya es medible. Según el AI Index 2026 de la Universidad de Stanford, los incidentes de IA documentados subieron a 362, frente a 233 en 2024. El mismo informe advierte que la IA responsable no avanza al ritmo de las capacidades de la IA.
Esta guía se centra en las amenazas de seguridad. En cambio, los sesgos o el impacto en el empleo se tratan en la guía de principales desafíos y riesgos de la inteligencia artificial.
Amenazas contra el modelo: evasión, envenenamiento y privacidad
El NIST publicó en marzo de 2025 una taxonomía de referencia, la guía NIST AI 100-2 sobre aprendizaje automático adversario. Para la IA predictiva, como un modelo que aprueba créditos o detecta fraudes, el documento distingue tres grandes familias de ataques:
- Evasión: el atacante modifica una entrada para que el modelo se equivoque. Por ejemplo, ajusta una transacción para que el sistema antifraude no la marque.
- Envenenamiento: el atacante contamina los datos de entrenamiento o el propio modelo. Así logra que el sistema aprenda un comportamiento erróneo o una puerta trasera.
- Ataques a la privacidad: el atacante intenta reconstruir datos de entrenamiento, saber si una persona estaba en ellos o incluso copiar el modelo.
Para la IA generativa, la misma guía añade otras categorías. En concreto, cubre los ataques a la cadena de suministro y los ataques directos mediante instrucciones. También incluye la inyección indirecta de instrucciones y la seguridad de los agentes. Es decir, cuanto más conectada está la IA a los sistemas de la empresa, más formas hay de atacarla.
Amenazas en asistentes y agentes con IA generativa
Los asistentes que usan modelos de lenguaje tienen su propia lista de riesgos. La más usada es el Top 10 de OWASP para aplicaciones con modelos de lenguaje, en su edición 2025. La inyección de instrucciones ocupa el primer lugar. Le siguen, entre otros, la divulgación de información sensible, la cadena de suministro, el envenenamiento de datos y modelos, y la agencia excesiva.
La ficha de OWASP sobre inyección de instrucciones distingue dos variantes. En la directa, el propio usuario escribe un mensaje que altera el comportamiento del modelo. En la indirecta, el modelo procesa un contenido externo, como una página web o un archivo, que esconde instrucciones. Por ejemplo, un asistente que resume correos podría leer un mensaje con órdenes ocultas para reenviar datos.
La agencia excesiva agrava ese riesgo. Según la ficha de OWASP sobre agencia excesiva, el problema aparece cuando un sistema tiene más funciones o permisos de los necesarios. También aparece cuando falta supervisión humana. Por lo tanto, un agente de IA que puede borrar registros o enviar pagos necesita límites estrictos.
| Amenaza | Qué ocurre | Ejemplo en una empresa | Defensa principal |
|---|---|---|---|
| Inyección de instrucciones | Un texto altera el comportamiento del modelo | Un archivo con órdenes ocultas manipula a un asistente | Separar y marcar el contenido externo; aprobación humana en acciones de riesgo |
| Envenenamiento | Datos o modelos contaminados enseñan un comportamiento erróneo | Datos de entrenamiento alterados en un modelo antifraude | Controlar el origen de los datos y de los modelos de terceros |
| Evasión | Una entrada modificada engaña al modelo | Una transacción ajustada para no activar alertas | Pruebas adversarias periódicas |
| Fuga de información | El modelo revela datos sensibles o sus instrucciones internas | Un chatbot muestra datos de otro cliente | Filtrar entradas y salidas; dar acceso mínimo a los datos |
| Agencia excesiva | La IA ejecuta acciones dañinas con permisos de más | Un agente borra registros por una orden manipulada | Mínimo privilegio y autorización fuera del modelo |
Cómo proteger la IA: capas y controles prácticos
La protección empieza por lo básico. La agencia europea de ciberseguridad, ENISA, propone en su marco de buenas prácticas de ciberseguridad para la IA, de junio de 2023, tres capas. Primero, las bases de ciberseguridad de cualquier sistema. Después, las medidas específicas para los riesgos propios de la IA. Por último, una capa que adapta esas medidas a cada sector, como la banca o la salud.
Para la capa específica de la IA, OWASP recomienda varios controles. Por ejemplo, limitar el papel del modelo en sus instrucciones de sistema, validar el formato de las respuestas con código y filtrar entradas y salidas. También aconseja dar a la IA solo los permisos mínimos, exigir aprobación humana en las acciones de alto riesgo y hacer pruebas adversarias periódicas.
Sin embargo, conviene ser realista. OWASP indica que hoy no se conoce un método infalible para prevenir la inyección de instrucciones. Por eso estas medidas reducen el impacto, pero no eliminan el riesgo. En consecuencia, la defensa más eficaz es limitar lo que la IA puede hacer si la engañan.
Qué exige la ley de datos en Panamá
Cuando la IA trata datos personales, la seguridad también es una obligación legal. En Panamá rige la Ley 81 de 26 de marzo de 2019, sobre protección de datos personales. Su artículo 2 incluye el principio de seguridad de los datos. Según ese principio, el responsable debe adoptar las medidas técnicas y organizativas necesarias, sobre todo con datos sensibles. Además, debe avisar al titular lo más pronto posible si sus datos se sustraen sin autorización. El mismo deber aplica cuando hay indicios de que su seguridad se vulneró.
El artículo 7 añade que el responsable establecerá protocolos de gestión y transferencia segura de los datos, bajo la supervisión de la ANTAI. La ley se reglamentó con el Decreto Ejecutivo 285 de 2021, según un análisis del Órgano Judicial de Panamá. Por lo tanto, un chatbot que filtra datos de clientes no es solo un fallo técnico: también es un incumplimiento posible.
La amenaza no siempre llega por los sistemas. A veces llega por la suplantación, como se explica en la guía sobre qué es un deepfake y cómo reconocerlo.
Plan de seguridad de la IA para empezar
- Haz un inventario. Lista cada sistema de IA, qué datos usa y qué acciones puede ejecutar.
- Refuerza la base. Aplica controles de acceso, registros y actualizaciones, como en cualquier sistema.
- Limita los permisos. Da a cada asistente o agente solo lo imprescindible y exige aprobación humana en acciones críticas.
- Prueba como un atacante. Intenta inyecciones de instrucciones y entradas manipuladas antes de cada lanzamiento.
- Prepara la respuesta. Define cómo detectar un incidente y cómo avisar a los titulares afectados.
Fuente: ENISA, OWASP y Ley 81 de 2019; consulta: 12 de noviembre de 2026.
Por eso la seguridad debe formar parte de la estrategia de IA de la empresa desde el inicio. Además, sus pruebas deben repetirse con la misma disciplina que la medición de la eficacia de los modelos. Si necesitas apoyo para implementar agentes o automatizaciones con controles de seguridad, conoce nuestras soluciones de IA para empresas en Panamá.
Preguntas frecuentes sobre la seguridad de la IA
¿Cuáles son las principales amenazas contra la IA de una empresa?
Las principales son la inyección de instrucciones, el envenenamiento de datos, la evasión del modelo, la fuga de información sensible y la agencia excesiva. Las tres primeras atacan cómo aprende o decide el modelo. Las dos últimas afectan a lo que la IA revela o hace. El Top 10 de OWASP, edición 2025, sitúa la inyección de instrucciones en primer lugar.
¿Qué es la inyección de instrucciones o prompt injection?
Es un ataque en el que un texto altera el comportamiento de un modelo de lenguaje sin que el desarrollador lo quiera. Puede ser directa, cuando el usuario escribe la orden, o indirecta, cuando la orden está escondida en una web o un archivo que el modelo procesa. OWASP indica que no existe hoy una forma infalible de prevenirla.
¿Qué es el envenenamiento de datos en inteligencia artificial?
Es la contaminación de los datos de entrenamiento o del propio modelo para que aprenda un comportamiento erróneo. Por ejemplo, un atacante puede introducir ejemplos falsos para que un sistema antifraude ignore cierto tipo de operación. El NIST lo clasifica como una de las tres grandes familias de ataques contra la IA predictiva, junto con la evasión y la privacidad.
¿Qué es OWASP Top 10 para modelos de lenguaje?
Es una lista de los diez riesgos de seguridad más importantes en aplicaciones que usan modelos de lenguaje y IA generativa. La publica el proyecto de seguridad de IA generativa de OWASP, una comunidad abierta. La edición 2025 incluye, entre otros, la inyección de instrucciones, la divulgación de información sensible, la agencia excesiva y el consumo ilimitado de recursos.
¿Mi empresa debe avisar si la IA filtra datos personales en Panamá?
Sí. La Ley 81 de 2019 incluye el principio de seguridad de los datos. Según ese principio, el responsable debe informar al titular lo más pronto posible cuando sus datos se sustraen sin autorización o hay indicios de que su seguridad se vulneró. Además, debe adoptar medidas técnicas y organizativas para proteger los datos.
¿Por dónde empieza una pyme a proteger sus sistemas de IA?
Por un inventario. Primero, la pyme debe listar qué herramientas de IA usa, qué datos reciben y qué acciones pueden ejecutar. Después, conviene limitar los permisos al mínimo, exigir aprobación humana en las acciones críticas y no compartir datos sensibles con herramientas que no cumplan la Ley 81. Por último, debe probar cada sistema antes de lanzarlo.
