Legal & IAinteligencia artificial etica
Inteligencia artificial ética: 6 principios para decidir
Aplica seis principios de inteligencia artificial ética en tu empresa: compara riesgos, protege a las personas y documenta decisiones antes de implantar una herramienta.
- Autor: humAIns
- 9 min de lectura
índice · 5 apartados
Una inteligencia artificial ética no es una herramienta certificada como «buena» para cualquier situación: es una forma de decidir cómo, para qué y con qué controles se utiliza. Antes de incorporarla, concreta quién puede verse afectado, qué podría salir mal, qué alternativa existe y quién revisará el resultado. Así conviertes principios generales en decisiones que se pueden explicar y reevaluar.
La ética, el cumplimiento y la reputación se relacionan, pero no son lo mismo. El cumplimiento pregunta qué exige la norma aplicable; la deliberación ética pregunta también si la decisión respeta a las personas y es proporcionada; la reputación depende, entre otras cosas, de cómo se perciba la actuación. La recomendación de la UNESCO sobre ética de la inteligencia artificial ofrece un marco internacional de valores y principios, no una ley directamente aplicable a cada empresa. Para obligaciones concretas, consulta el texto oficial del Reglamento europeo de inteligencia artificial y asesórate según el caso.
Qué significa una IA ética y cómo se diferencia del cumplimiento
Un sistema puede dar resultados técnicamente correctos y, aun así, ser inadecuado para el contexto: por ejemplo, si la organización no puede explicar una decisión importante, si una persona no tiene forma de corregir datos erróneos o si la tarea exige información que no debería compartirse con ese servicio. La pregunta útil no es solo «¿funciona?», sino «¿es apropiado usarlo aquí y podemos hacernos cargo de sus efectos?».
La recomendación de la UNESCO, adoptada por sus Estados miembros en noviembre de 2021, propone principios como proporcionalidad, privacidad, responsabilidad, transparencia, supervisión humana, sostenibilidad, equidad y no discriminación. Sirve como referencia para estructurar una conversación y una política interna. No reemplaza el análisis jurídico ni convierte cada recomendación en una obligación legal. La Agencia Española de Protección de Datos publica recursos sobre protección de datos y tecnologías; consulta sus materiales vigentes si el caso implica datos personales.
Este artículo no sustituye el análisis específico de la legislación sobre inteligencia artificial ni la prueba detallada de sesgo. Para esos temas, consulta la guía sobre la ley de inteligencia artificial y el análisis de sesgos de género en inteligencia artificial.
Seis principios que cambian decisiones
Los principios sirven cuando llevan a una acción verificable. La tabla no promete eliminar el daño: ayuda a registrar qué riesgo se consideró, qué alternativa se eligió y qué evidencia puede justificarlo.
| Principio | Riesgo que invita a considerar | Decisión práctica | Evidencia útil |
|---|---|---|---|
| Equidad y no discriminación | Un resultado perjudica de forma desigual a un grupo o replica patrones históricos. | Probar casos relevantes, revisar errores y permitir corrección o revisión humana. | Casos de prueba, resultados observados y límites de la evaluación. |
| Privacidad y protección de datos | Se introducen datos personales o confidenciales en un servicio no autorizado. | Minimizar o anonimizar datos y usar solo herramientas y cuentas aprobadas para esa información. | Clasificación de datos, autorización y configuración revisada. |
| Transparencia y explicabilidad | Las personas no saben que intervino IA o no entienden cómo se usó la salida. | Comunicar el papel de la herramienta de manera adecuada al contexto y explicar el proceso con claridad. | Instrucciones de uso, avisos y registro de versiones o decisiones. |
| Responsabilidad y rendición de cuentas | Nadie asume la decisión porque «lo dijo la IA». | Nombrar una persona responsable de aceptar, corregir o descartar la salida. | Responsable asignado, criterios de aceptación y registro de cambios. |
| Supervisión humana | Un error se propaga sin que nadie tenga autoridad para detenerlo. | Definir quién revisa y cuándo puede parar o escalar el proceso. | Puntos de control, incidencias y decisiones de revisión. |
| Proporcionalidad | Se usa una solución más intrusiva o automatizada de lo necesario. | Comparar con un proceso manual o menos arriesgado y elegir el medio adecuado al objetivo. | Finalidad, alternativas y motivo de la elección. |
Los principios pueden entrar en tensión. Explicar en detalle un proceso podría revelar información personal o facilitar un abuso; una comprobación de equidad puede requerir datos cuyo tratamiento también debe evaluarse. No hay una puntuación universal que resuelva esas tensiones. Registra qué valor priorizaste, qué salvaguarda usaste y qué queda sin resolver.
Tres situaciones de trabajo: evaluar antes de usar
Los siguientes casos son supuestos de trabajo, no hechos sobre una empresa concreta. En cada uno, la decisión ética empieza por reconocer a las personas afectadas y no confundir una propuesta generada por IA con una decisión validada.
Selección de personal
Un equipo quiere resumir currículos y ordenar candidaturas con una herramienta generativa. Las personas candidatas pueden verse afectadas por omisiones, criterios que no guardan relación con el puesto o datos incompletos. Antes de usarla, el equipo puede comparar el resumen con el currículo original, definir criterios profesionales relevantes y evitar que la herramienta descarte automáticamente a alguien. Una alternativa menos arriesgada es usarla solo para resumir documentos autorizados, con revisión persona por persona y un canal para corregir información. Si el sistema recomienda un rechazo, una persona con autoridad debe comprobar los motivos antes de tomar una decisión.
Imágenes para una campaña
Un departamento creativo genera una imagen de una persona que representa a un colectivo o pretende parecerse a alguien real. Pueden verse afectados quienes aparecen representados, la persona cuya imagen se aportó y quienes reciban la campaña. El equipo puede optar por una ilustración no identificable, utilizar material con derechos y permisos claros, y revisar si el resultado introduce estereotipos o induce a pensar que representa un hecho real. Una imagen vistosa no acredita que su uso o representación sean adecuados. Si hay dudas sobre identidad, consentimiento o derechos, se detiene la publicación y se consulta a las personas responsables.
Borradores con información sensible
Una profesional quiere resumir un expediente con datos de clientes en un asistente público. Los interesados pueden verse perjudicados si la información se comparte fuera de un entorno autorizado. La primera alternativa es no introducir esos datos: trabajar con un ejemplo sintético o con información reducida puede bastar para preparar una estructura. Si el caso requiere datos reales, hay que confirmar antes que la organización autoriza el servicio, el tratamiento y la configuración concretos. Cuando no se pueda verificar, no se pega el expediente; se escala la consulta al responsable de privacidad o seguridad.
Cómo crear un registro de decisiones antes de implantar una herramienta
Un registro breve ayuda a que la decisión sea repetible. No tiene que convertirse en un formulario interminable: debe permitir que otra persona entienda el propósito, los límites y quién actúa si algo falla.
- Finalidad. Describe la tarea concreta y el resultado que se espera. Evita objetivos vagos como «mejorar la eficiencia»; especifica qué trabajo cambia y cómo se evaluará.
- Personas interesadas. Incluye a quienes usarán el sistema y a quienes podrían recibir, sufrir o depender de sus resultados: clientes, candidatos, plantilla o público.
- Alternativas y proporcionalidad. Anota si basta un método manual, una herramienta menos intrusiva o una prueba acotada. Explica por qué la opción elegida guarda proporción con la finalidad.
- Datos y límites. Señala qué información puede utilizarse, cuál queda excluida y qué configuración o cuenta está aprobada. No supongas que cualquier herramienta protege del mismo modo las entradas.
- Riesgos y comprobaciones. Escribe qué errores serían relevantes, cómo se probarán y qué no puede comprobar la evaluación. Una prueba pequeña informa sobre sus casos, no garantiza resultados en todos los grupos o situaciones.
- Responsables y revisión. Identifica quién configura, quién valida la salida y quién puede detener el proceso. Define cómo las personas afectadas pueden señalar un error o pedir revisión cuando corresponda.
- Fecha de reevaluación. Fija un momento para revisar la decisión y también un disparador extraordinario: cambio del modelo, nueva finalidad, incidente o modificación del tipo de datos.
Registra las decisiones y las razones, no solo el nombre del producto. Conserva la versión de las instrucciones o el proceso cuando sea relevante, las pruebas realizadas, los fallos observados y las medidas adoptadas. El alcance de los documentos obligatorios depende de la normativa aplicable y del papel de la organización; un registro interno útil no sustituye evaluaciones o documentación legalmente exigidas.
Cuándo detenerse y escalar una duda
Detén la tarea antes de introducir información si no sabes si puede salir del entorno autorizado, si la herramienta pide datos que no necesita, si no puedes explicar el uso a las personas afectadas o si la salida podría activar una consecuencia importante sin revisión. También es razonable parar cuando no hay una persona responsable, no existe una vía de corrección o el equipo no sabe qué hacer ante un error.
Escala la consulta al área adecuada: privacidad o protección de datos para el tratamiento de información personal; seguridad para accesos, almacenamiento o incidentes; asesoría jurídica para dudas sobre derechos u obligaciones; y la persona responsable del proceso para criterios y revisión. No delegues a un modelo la resolución final de una duda legal o profesional: puede ayudar a ordenar preguntas, pero la interpretación debe contrastarse con fuentes y especialistas competentes.
Como siguiente paso, revisa los derechos de autor del contenido creado con IA antes de reutilizar una salida en un encargo o publicación. La ética ofrece preguntas para decidir; no reemplaza comprobar la titularidad, los permisos ni las condiciones aplicables al material concreto.
Si necesitas formación práctica para conectar estos criterios con procesos de Legal y Compliance, consulta el programa de IA para Legal y comprueba en la ficha sus contenidos y disponibilidad actuales.
Sigue leyendo en humAIns