Contenido
- Las tres familias de riesgos de la inteligencia artificial
- Uso malicioso: fraudes, manipulación y ciberataques
- Fallos de la IA: errores, sesgo y decisiones opacas
- Riesgos sistémicos: empleo y autonomía humana
- Cómo gestionar los riesgos de la IA con el marco del NIST
- Riesgos de la IA para empresas en Panamá: qué exige la ley
- Preguntas frecuentes sobre los riesgos de la inteligencia artificial
Los riesgos de la inteligencia artificial se agrupan en tres familias: el uso malicioso, los fallos de los propios sistemas y los efectos sistémicos sobre la sociedad y la economía. Así los ordena el Informe Internacional sobre la Seguridad de la IA 2026. Esta guía explica cada familia y qué dice la evidencia sobre el sesgo y el empleo. Además, muestra cómo una empresa en Panamá puede gestionar esos riesgos.
Las tres familias de riesgos de la inteligencia artificial
Hablar de «riesgos de la IA» en general no ayuda a decidir nada. Por eso conviene usar una clasificación. El Informe Internacional sobre la Seguridad de la IA 2026 separa tres familias de riesgos. Se publicó el 3 de febrero de 2026. El informe lo dirige el investigador Yoshua Bengio. Además, lo escribieron y revisaron más de 100 expertos, con el respaldo de más de 30 países y organismos internacionales.
La primera familia es el uso malicioso: personas que usan la IA para hacer daño a propósito. La segunda familia son los fallos: el sistema se equivoca aunque nadie quiera causar un daño. Por último, están los riesgos sistémicos. Es decir, los efectos que aparecen cuando millones de personas y empresas usan la IA a la vez. Cada familia pide respuestas distintas, así que vale la pena revisarlas por separado.
Uso malicioso: fraudes, manipulación y ciberataques
El uso malicioso es la familia más visible. Según el informe de 2026, el contenido generado por IA ya se usa en estafas, fraudes, chantajes e imágenes íntimas sin consentimiento. Los audios y videos falsos son el caso más conocido. Los explicamos en la guía sobre qué es un deepfake y cómo reconocerlo.
El informe también describe dos amenazas menos evidentes. Por un lado, en experimentos el contenido de la IA resulta tan persuasivo como el humano. Aun así, su uso real para manipular todavía no está extendido. Por otro lado, la IA puede encontrar fallos en programas y escribir código malicioso. De hecho, el informe señala que grupos criminales y grupos vinculados a Estados ya la usan con ese fin. Para el lado empresarial, revisa nuestra guía de seguridad de la IA para proteger tu empresa.
Fallos de la IA: errores, sesgo y decisiones opacas
Un sistema de IA puede fallar sin que nadie lo manipule. El informe de 2026 menciona información inventada, código defectuoso y consejos engañosos. Además, advierte que los agentes de IA suman riesgo, porque actúan de forma autónoma. En cambio, sobre la pérdida de control, el informe concluye que los sistemas actuales no tienen esas capacidades, aunque mejoran en áreas relacionadas.
El sesgo: cuando el error no se reparte por igual
Entre los fallos, el sesgo tiene nombre propio. El estudio Gender Shades, de Joy Buolamwini y Timnit Gebru (2018), evaluó tres sistemas comerciales que clasificaban el género a partir de fotos. El error llegó al 34,7 % en mujeres de piel oscura. En cambio, no pasó del 0,8 % en hombres de piel clara. El estudio también encontró que dos bases de datos de referencia tenían una mayoría clara de personas de piel clara, con un 79,6 % y un 86,2 %.
Una versión anterior de esta página atribuía ese hallazgo a «investigadores del MIT y Stanford» y hablaba de identificación facial. En realidad, el estudio midió la clasificación de género. Por eso lo citamos con sus autoras y sus cifras exactas.
La caja negra: decisiones difíciles de explicar
Muchos modelos dan una respuesta sin mostrar cómo llegaron a ella. Por esa razón, el marco de gestión de riesgos de IA del NIST incluye la explicabilidad y la interpretabilidad entre las características de una IA confiable. También figuran la validez, la seguridad, la rendición de cuentas, la privacidad y la equidad.
Riesgos sistémicos: empleo y autonomía humana
El empleo es la preocupación más repetida, y también la que más cifras dudosas acumula. La cifra del 47 % que circula en internet viene de un estudio de Frey y Osborne. Lo publicó en 2013 la Oxford Martin School. Ese estudio estimó que cerca del 47 % del empleo total de Estados Unidos estaba en riesgo de automatización. Es decir, no habla del mundo ni de América Latina.
Los datos más recientes matizan el panorama. La Organización Internacional del Trabajo publicó un índice en mayo de 2025. Según ese índice, uno de cada cuatro trabajadores del mundo tiene una ocupación con alguna exposición a la IA generativa. Sin embargo, solo el 3,3 % del empleo mundial cae en la categoría de exposición más alta. Las tareas administrativas son las más expuestas. Además, la OIT concluye que el efecto más probable es la transformación de los puestos, no su sustitución completa.
El informe de 2026 añade que la evidencia temprana no muestra efectos sobre el empleo total. Aun así, detecta menos demanda de trabajadores que empiezan su carrera en algunas ocupaciones expuestas, como la redacción. También advierte que depender de la IA puede debilitar el pensamiento crítico. Otro efecto es el sesgo de automatización, que consiste en confiar en la máquina más de lo debido.
| Familia | Ejemplos que documenta el informe de 2026 | Pregunta que debe hacerse la empresa |
|---|---|---|
| Uso malicioso | Estafas, chantajes, imágenes íntimas sin consentimiento, código malicioso | ¿Podría alguien suplantar a nuestra empresa o engañar a nuestro personal con IA? |
| Fallos | Información inventada, código defectuoso, consejos engañosos, sesgo | ¿Quién revisa lo que produce la IA antes de que llegue a un cliente? |
| Riesgos sistémicos | Cambios en la demanda de algunos puestos, sesgo de automatización | ¿Qué tareas cambian y cómo formamos al equipo para supervisarlas? |
Cómo gestionar los riesgos de la IA con el marco del NIST
Conocer los riesgos es el primer paso. Después hace falta un método para tratarlos. El marco del NIST se publicó el 26 de enero de 2023. Es de uso voluntario y está pensado para organizaciones que diseñan o usan IA. Su núcleo tiene cuatro funciones. Además, en julio de 2024 el NIST publicó un perfil para la IA generativa. Hoy, según su página, la versión 1.0 está en revisión.
- Gobernar. Define quién decide sobre la IA, con qué políticas y cómo se rinden cuentas. Esta función atraviesa todas las demás.
- Mapear. Describe para qué se usa cada sistema, a quién afecta y qué podría salir mal en ese contexto.
- Medir. Evalúa el sistema con pruebas: precisión, sesgo, seguridad y privacidad.
- Gestionar. Prioriza los riesgos, aplica controles y vigila el sistema después de ponerlo en marcha.
Fuente: NIST, AI Risk Management Framework; consulta: 12 de noviembre de 2026.
Riesgos de la IA para empresas en Panamá: qué exige la ley
En Panamá, la norma que más pesa sobre la IA es la de datos personales. La Ley 81 de 2019 protege frente a ciertas decisiones automáticas. Su artículo 19 reconoce el derecho a no ser objeto de una decisión basada solo en el tratamiento automatizado con efectos jurídicos negativos. El artículo cita ejemplos como el rendimiento laboral, el crédito o la conducta. Sin embargo, esa decisión es posible si la persona la consiente, si la exige un contrato o si la autoriza una ley especial.
Por lo tanto, un sistema que filtra candidatos o aprueba préstamos necesita una persona que revise los casos. Los otros grandes frentes tienen guía propia. Son la privacidad y la vigilancia con IA, los riesgos del contenido generado por IA y la ética de la inteligencia artificial. Si quieres aplicar estas medidas en tu organización, conoce nuestras soluciones de inteligencia artificial para empresas en Panamá.
Preguntas frecuentes sobre los riesgos de la inteligencia artificial
¿Cuáles son los riesgos más importantes de la inteligencia artificial?
Se agrupan en tres familias. El Informe Internacional sobre la Seguridad de la IA 2026 distingue el uso malicioso, como estafas o ciberataques; los fallos, como información inventada o sesgo; y los riesgos sistémicos, como los cambios en el empleo. Cada familia exige controles distintos, así que conviene evaluarlas por separado.
¿Es cierto que la IA eliminará el 47 % de los empleos?
No exactamente. Esa cifra sale de un estudio de Frey y Osborne de 2013 y se refiere al empleo de Estados Unidos en riesgo de automatización. La OIT estimó en 2025 que uno de cada cuatro trabajadores del mundo tiene alguna exposición a la IA generativa, y que lo más probable es que los puestos se transformen.
¿Por qué un sistema de IA puede discriminar a las personas?
Porque aprende de datos que no representan a todos por igual. El estudio Gender Shades, de 2018, mostró que tres sistemas comerciales fallaban hasta un 34,7 % con mujeres de piel oscura y como máximo un 0,8 % con hombres de piel clara. Las bases de datos usadas tenían mayoría de personas de piel clara.
¿Qué marco sirve para gestionar los riesgos de la IA en una empresa?
El marco de gestión de riesgos de IA del NIST es una opción reconocida. Se publicó en enero de 2023, es voluntario y organiza el trabajo en cuatro funciones: gobernar, mapear, medir y gestionar. Además, tiene un perfil específico para la IA generativa, publicado en julio de 2024, con riesgos como los errores presentados como ciertos.
¿Puede una IA decidir sola si me dan un crédito en Panamá?
Solo en ciertos casos. El artículo 19 de la Ley 81 de 2019 reconoce el derecho a no ser objeto de decisiones basadas únicamente en tratamiento automatizado que tengan efectos jurídicos negativos, como las de crédito. La excepción aplica si la persona lo consiente, si lo requiere un contrato o si una ley especial lo autoriza.
¿La IA puede salirse de control?
Hoy no hay evidencia de que pueda. El Informe Internacional sobre la Seguridad de la IA 2026 analiza la pérdida de control como un escenario posible, pero concluye que los sistemas actuales no tienen las capacidades necesarias. Aun así, advierte que mejoran en áreas relacionadas y que los agentes autónomos añaden riesgos nuevos.
