Contenido
La ética en la inteligencia artificial importa porque fija qué límites debe respetar una IA para no dañar a las personas, aunque la ley todavía no lo exija. Los marcos más usados son la Recomendación de la UNESCO de 2021, los Principios de la OCDE y el marco de riesgos del NIST. En 2026, además, Panamá presentó su propia evaluación con la metodología de la UNESCO.
Por qué importa la ética en la inteligencia artificial
Una IA puede cumplir la ley y, aun así, tratar mal a las personas. Por ejemplo, un sistema que filtra currículos puede ser legal y descartar sin motivo a un grupo concreto. La ética de la IA sirve justo para ese espacio. Es decir, define qué debe respetar un sistema antes de que una norma lo obligue.
La ética de la IA no es una opinión personal. Al contrario, existen marcos internacionales con principios concretos y herramientas para aplicarlos. En este artículo comparamos tres de ellos y vemos cómo se conectan con la realidad de Panamá. Si buscas el inventario de peligros concretos, como el fraude o el sesgo, lo encontrarás en la guía de desafíos y riesgos de la inteligencia artificial.
Tres marcos de ética de la IA: UNESCO, OCDE y NIST
La Recomendación de la UNESCO
Según la UNESCO, en noviembre de 2021 el organismo elaboró la primera norma mundial sobre la ética de la IA. Se trata de la Recomendación sobre la ética de la inteligencia artificial, aplicable a sus 194 Estados miembros. La Recomendación se apoya en cuatro valores: los derechos humanos y la dignidad humana, la vida en sociedades pacíficas y justas, la diversidad y la inclusión, y el florecimiento del medio ambiente.
A partir de esos valores, la UNESCO enumera diez principios. Entre ellos están la proporcionalidad e inocuidad, el derecho a la intimidad, la transparencia y explicabilidad, la supervisión y decisión humanas, y la equidad y no discriminación. Además, la Recomendación propone once ámbitos de acción política para los gobiernos.
Los Principios de IA de la OCDE
Los Principios de IA de la OCDE se adoptaron en mayo de 2019 y se actualizaron en mayo de 2024. Tienen cinco principios basados en valores. En traducción propia, son el crecimiento inclusivo y el bienestar; los derechos humanos y los valores democráticos, incluidas la equidad y la privacidad; la transparencia y explicabilidad; la robustez y la seguridad; y la rendición de cuentas.
Por otra parte, la OCDE contabiliza 47 adherentes. En América Latina figuran Argentina, Brasil, Chile, Colombia, Costa Rica, México y Perú. En cambio, Panamá no aparece en la lista que publica OECD.AI. Aun así, cualquier empresa panameña puede usar esos principios como guía voluntaria.
El marco de riesgos del NIST
El tercer marco no habla de ética de forma directa, pero la vuelve práctica. El marco de gestión de riesgos de IA del NIST, de enero de 2023 y de uso voluntario, describe las características de una IA confiable. Por ejemplo, incluye la rendición de cuentas, la explicabilidad, la privacidad y la equidad con los sesgos dañinos gestionados.
| Marco | Quién lo emite y cuándo | A quién se dirige | Para qué sirve más |
|---|---|---|---|
| Recomendación de la UNESCO | UNESCO, noviembre de 2021 | Sus 194 Estados miembros | Orientar políticas públicas con valores y principios |
| Principios de la OCDE | OCDE, mayo de 2019, actualizados en mayo de 2024 | Gobiernos adherentes y actores de la IA | Dar un lenguaje común entre países |
| Marco de riesgos del NIST | NIST de Estados Unidos, enero de 2023 | Organizaciones que diseñan, despliegan o usan IA | Convertir principios en controles medibles |
Panamá y la ética de la IA: la evaluación de la UNESCO
La UNESCO aplica la Recomendación con una herramienta llamada metodología de evaluación del estadio de preparación, conocida como RAM por su sigla en inglés. Según la nota de la UNESCO del 14 de agosto de 2026, Panamá presentó sus resultados de la RAM. El proceso tuvo el liderazgo técnico de la SENACYT, la coordinación de la UNESCO y el apoyo del PNUD.
En la evaluación participaron cerca de ochenta personas del gobierno, la academia, el sector privado, las fintech y la sociedad civil. Además, en marzo de 2026 hubo sesiones de validación en la ciudad de Panamá, Chitré y David. El informe emite diecinueve recomendaciones de política pública. Entre ellas, la nota destaca adoptar formalmente la Política Nacional de Inteligencia Artificial e incluir criterios éticos en las compras públicas de tecnología.
La misma nota menciona otros avances. Por ejemplo, la SENACYT lanzó el 30 de julio sus estrategias nacionales de IA, semiconductores y microelectrónica. También cita la aprobación en primer debate del proyecto de ley 588 sobre gobernanza adaptativa de la IA.
Dilemas éticos de la IA y cómo responderlos
En la práctica, los principios se entienden mejor con casos. Estos son cuatro dilemas frecuentes y el principio que ayuda a resolver cada uno:
- ¿Quién responde si la IA se equivoca? La rendición de cuentas exige que siempre haya una persona o una empresa responsable, no «el algoritmo».
- ¿Trata igual a todos? La equidad pide probar el sistema con grupos distintos antes de usarlo, porque los datos de entrenamiento pueden estar desbalanceados.
- ¿Puede la persona entender la decisión? La transparencia y la explicabilidad piden informar que se usa IA y explicar los motivos en lenguaje claro.
- ¿Quién tiene la última palabra? La supervisión humana reserva a las personas las decisiones con efectos graves, como un despido o un crédito.
La privacidad merece su propio análisis, porque la IA vive de datos. Lo tratamos en la guía sobre si la IA puede espiarte. Por su parte, la honestidad con el público es clave en el contenido generado por IA y en los deepfakes.
Ética y ley en Panamá: la Ley 81 como piso
La ética va más allá de la ley, pero empieza por cumplirla. En Panamá, la Ley 81 de 2019 sobre protección de datos personales fija nueve principios en su artículo 2. Son la lealtad, la finalidad, la proporcionalidad, la veracidad y exactitud, la seguridad, la transparencia, la confidencialidad, la licitud y la portabilidad.
Además, varios coinciden con la ética de la IA. Por ejemplo, la proporcionalidad pide usar solo los datos mínimos necesarios. Del mismo modo, la transparencia exige informar al titular en lenguaje sencillo y claro. Por lo tanto, una empresa que cumple bien la Ley 81 ya avanza en buena parte del camino ético.
- Haz un inventario. Anota cada uso de IA, qué datos usa y a quién afecta.
- Evalúa el impacto. Pregunta qué daño podría causar a clientes o empleados y a qué grupos.
- Asigna responsables. Nombra a una persona que responda por cada sistema.
- Informa y explica. Avisa cuando una persona trata con una IA y explica sus decisiones.
- Revisa con frecuencia. Mide resultados por grupo y corrige si aparecen diferencias injustas.
Fuente: elaboración propia a partir de la Recomendación de la UNESCO y del marco de riesgos de IA del NIST; consulta: 12 de noviembre de 2026.
Si quieres llevar estos pasos a tu organización, revisa nuestras soluciones y servicios de inteligencia artificial en Panamá.
Preguntas frecuentes sobre la ética de la IA
¿Por qué es importante la ética en la inteligencia artificial?
Porque la ley no cubre todos los daños que puede causar una IA. Un sistema puede ser legal y aun así discriminar, engañar o tomar decisiones que nadie entiende. La ética fija límites previos, como la equidad, la transparencia y la supervisión humana, para que la tecnología respete a las personas desde el diseño.
¿Cuáles son los principios de la UNESCO sobre la ética de la IA?
Son diez. La UNESCO incluye proporcionalidad e inocuidad, seguridad y protección, intimidad y protección de datos, gobernanza adaptativa, responsabilidad y rendición de cuentas, transparencia y explicabilidad, supervisión humana, sostenibilidad, sensibilización y educación, y equidad y no discriminación. Se apoyan en cuatro valores, empezando por los derechos humanos.
¿Panamá se adhirió a los Principios de IA de la OCDE?
No figura entre los adherentes. La lista que publica OECD.AI suma 47 adherentes e incluye, en América Latina, a Argentina, Brasil, Chile, Colombia, Costa Rica, México y Perú. Aun así, una empresa panameña puede seguir esos principios de forma voluntaria como referencia para un uso responsable de la IA.
¿Qué hizo Panamá con la UNESCO en materia de ética de la IA?
Aplicó la metodología RAM de la UNESCO, que mide la preparación de un país para usar la IA de forma ética. El proceso lo lideró la SENACYT, con apoyo del PNUD y cerca de ochenta participantes. Los resultados se presentaron en 2026 con diecinueve recomendaciones de política pública.
¿La ética de la IA es obligatoria para las empresas?
En general, no. La Recomendación de la UNESCO se dirige a los Estados, y los marcos de la OCDE y del NIST son voluntarios. Sin embargo, parte de la ética sí es obligatoria por otras vías. En Panamá, por ejemplo, la Ley 81 de 2019 exige lealtad, finalidad y transparencia al tratar datos personales.
¿Quién es responsable cuando una IA causa un daño?
Siempre debe haber una persona o una organización responsable. La rendición de cuentas figura entre los principios de la UNESCO y de la OCDE, y el marco del NIST pide definir responsables desde su función de gobierno. En la práctica, la empresa que usa el sistema debería nombrar a una persona que supervise sus resultados.
