Legal & IAia confiable
IA confiable: cómo evaluarla con ALTAI
Evalúa una IA confiable con ALTAI: requisitos, preguntas prácticas y ejemplos para detectar riesgos antes de usar una herramienta en tu empresa.
- Autor: humAIns
- 9 min de lectura
índice · 5 apartados
Una IA confiable no se determina con una etiqueta universal: hay que valorar un sistema para una finalidad, unas personas afectadas y unas condiciones de uso concretas. La lista ALTAI de la Comisión Europea ayuda a desarrolladores y organizaciones que despliegan IA a realizar esa autoevaluación; es voluntaria y no es una certificación ni una prueba automática de cumplimiento normativo. El resultado útil no es un «aprobado», sino una decisión documentada sobre riesgos, controles y seguimiento.
La confiabilidad reúne varias preguntas distintas. ¿Es lícito el uso? ¿Respeta principios éticos y derechos? ¿Es suficientemente robusto y seguro para la tarea? ¿Puede una persona entender sus límites y actuar si falla? Una respuesta positiva en una dimensión no resuelve las demás. Para una introducción a principios y deliberación, consulta nuestra guía sobre ética de la inteligencia artificial; aquí nos centramos en convertirlos en evaluación práctica.
Qué significa IA confiable y por qué depende del uso
Las directrices del Grupo de Expertos de Alto Nivel sobre IA (AI HLEG), presentadas a la Comisión Europea, describen la IA confiable como lícita, ética y robusta. La licitud remite a las leyes aplicables; la ética, a principios y valores; y la robustez, a que el sistema sea técnicamente sólido y considere su entorno social. Las directrices proponen siete requisitos para orientar esa valoración.
No son sinónimos «ética», «seguridad», «fiabilidad» y «cumplimiento». La seguridad técnica busca prevenir daños y gestionar fallos; la fiabilidad del resultado se refiere a su consistencia para una tarea; el cumplimiento depende de las obligaciones jurídicas concretas. La ética plantea además si la finalidad y los efectos son aceptables. El marco de los siete requisitos conecta varias de estas cuestiones, pero no reemplaza ninguna revisión especializada.
Por eso, evalúa el sistema en su contexto: una misma herramienta puede ser útil para proponer borradores de respuestas y no resultar adecuada para resolver reclamaciones sin revisión. Cambian los datos, la posibilidad de corregir un error, el impacto de una salida y quién decide. No confundas esta evaluación amplia con comprobar un detector de IA más fiable: un detector clasifica texto y sus límites no dicen si un sistema de IA, considerado en conjunto, es confiable.
Los siete requisitos de las directrices europeas
La Comisión publicó ALTAI como una lista de autoevaluación que traduce los principios a preguntas y pasos prácticos para quienes desarrollan o despliegan IA. La tabla resume los siete requisitos originales y sugiere qué preguntar, qué evidencia guardar y qué no se puede concluir de una revisión puntual.
| Requisito | Pregunta para evaluar | Evidencia útil | Límite de la evidencia |
|---|---|---|---|
| Supervisión y control humano | ¿Una persona puede entender cuándo debe revisar, corregir o detener la salida? | Roles, instrucciones, criterios de escalado y ejemplos de revisión. | Asignar una persona no garantiza que tenga tiempo, capacidad o autoridad para intervenir. |
| Robustez técnica y seguridad | ¿Cómo se comporta el sistema ante errores, entradas inusuales o indisponibilidad? | Pruebas, límites conocidos, plan alternativo y registro de incidencias. | Una batería de pruebas solo cubre escenarios seleccionados y una versión determinada. |
| Privacidad y gobernanza de datos | ¿Qué datos entran, con qué autorización y controles de acceso, calidad y conservación? | Mapa de datos, permisos, configuración y condiciones del proveedor. | Un formulario de proveedor no demuestra por sí solo que todos los tratamientos sean lícitos. |
| Transparencia | ¿Las personas afectadas entienden el papel de la IA y sus capacidades y límites? | Avisos, documentación, trazabilidad y materiales de uso. | Explicar el sistema no hace automáticamente comprensible cada resultado. |
| Diversidad, no discriminación y equidad | ¿Se han buscado errores o efectos desiguales en grupos relevantes? | Casos de prueba, criterios, resultados y medidas correctoras. | Una muestra limitada no acredita ausencia de sesgo en todos los grupos o contextos. |
| Bienestar social y ambiental | ¿Qué efectos más amplios o costes ambientales puede tener este uso? | Análisis de impacto, alternativas y decisiones de proporcionalidad. | El impacto puede cambiar con escala, frecuencia y población afectada. |
| Rendición de cuentas | ¿Quién responde por decisiones, auditoría, corrección y reclamaciones? | Responsable asignado, registros, canal de queja y proceso de revisión. | Documentar responsabilidades no elimina obligaciones de otros actores ni riesgos. |
Las denominaciones se basan en las directrices europeas de ética para una IA confiable y en la lista ALTAI de autoevaluación. La lista ofrece apoyo para la reflexión y la implementación; no convierte una respuesta afirmativa en evidencia suficiente de cumplimiento de todas las normas.
Cómo usar ALTAI con un caso práctico
Imagina que una empresa quiere usar un asistente para proponer respuestas a consultas de atención al cliente. El sistema redacta un borrador a partir de una base de conocimiento interna y una persona del equipo lo revisa antes de enviarlo. Esta descripción acota finalidad y flujo; no presupone que el servicio sea seguro o adecuado.
- Delimita el uso. Anota qué tipo de consultas puede ayudar a responder, quién usará la herramienta y qué decisiones quedan fuera. Por ejemplo, puede sugerir una respuesta informativa, pero no aprobar devoluciones ni cerrar reclamaciones.
- Nombra responsables. Identifica quién autoriza el uso, quién administra las instrucciones y quién puede detenerlo. Explica al equipo cómo escalar una respuesta dudosa; «revisión humana» debe significar una tarea y autoridad reales.
- Define datos permitidos. Decide qué información se puede introducir y cuál debe excluirse, especialmente datos personales, credenciales o información confidencial. Comprueba dónde se procesa, qué conserva el proveedor y qué configuración contractual y técnica aplica al servicio concreto.
- Prueba casos representativos. Prepara consultas habituales, ambiguas y fuera de alcance; incluye errores conocidos de la base documental y situaciones en las que la respuesta correcta sea reconocer que no sabe. Revisa exactitud, tono, accesibilidad y posibles diferencias de resultado relevantes para el servicio.
- Establece controles y alternativa. La persona revisora contrasta cada borrador con fuentes autorizadas antes de enviarlo. Si el asistente inventa condiciones, expone datos o deja de estar disponible, el equipo vuelve al procedimiento manual, registra el incidente y suspende el uso si hace falta.
- Deja rastro y revisa. Conserva la finalidad, versión o configuración probada, casos y resultados, límites detectados, decisión, responsables y fecha de revisión. Repite la evaluación cuando cambien el modelo, los datos, el proveedor o el proceso, y tras incidentes relevantes.
Una prueba pequeña sirve para encontrar problemas en los casos que se han preparado; no demuestra ausencia de sesgos, seguridad universal ni rendimiento futuro. Si no puedes definir quién revisa una respuesta o qué ocurre cuando el sistema se equivoca, eso es una brecha a resolver antes de ampliar el uso, no un detalle que deba ocultarse en una puntuación.
Qué pedir a un proveedor antes de contratar
Pide información que permita evaluar el servicio para tu uso y obtener respuestas comprobables. La disponibilidad de cada documento depende del proveedor, del producto y del contrato: no asumas que existe una certificación o informe específico sin verlo.
- Descripción de las funciones, usos previstos, límites conocidos y condiciones en las que no recomiendan utilizar el sistema.
- Información sobre los datos de entrada y salida, conservación, acceso, eliminación, ubicación del tratamiento y posible uso para mejorar modelos. Contrasta lo declarado con contrato y configuración.
- Instrucciones de supervisión, gestión de errores, trazabilidad y versiones; pregunta cómo comunicar una vulnerabilidad o incidente y qué respuesta ofrece el proveedor.
- Resultados de pruebas pertinentes para tu tarea, metodología, fecha y limitaciones. Una cifra aislada de precisión no explica cómo se midió ni si representa tus casos.
- Responsabilidades de proveedor y cliente, subcontratistas relevantes, canales de soporte y condiciones para suspender o terminar el servicio.
Separa las buenas prácticas de las obligaciones legales. El Reglamento europeo de inteligencia artificial establece obligaciones diferenciadas según la categoría del sistema, los roles de los operadores y el uso; no todos los requisitos se aplican a cualquier herramienta. Además, pueden resultar aplicables normas de protección de datos y otras reglas sectoriales. Consulta el texto oficial del Reglamento (UE) 2024/1689 y los recursos de la Agencia Española de Protección de Datos para analizar el caso. ALTAI no es una lista legal exhaustiva ni un dictamen jurídico.
Una decisión de compra defendible deja claro qué información se pidió, qué no pudo verificarse y qué control compensatorio se establecerá. Si el proveedor no responde a una cuestión esencial, limita el despliegue a un contexto que puedas supervisar o elige otra alternativa; no rellenes el vacío con una suposición favorable.
Preguntas frecuentes sobre IA confiable y ALTAI
¿Qué es ALTAI?
Es la lista de evaluación de la Comisión Europea para apoyar la autoevaluación de sistemas de IA conforme a los siete requisitos de las directrices de IA confiable. Está dirigida a desarrolladores y responsables del despliegue y ofrece preguntas prácticas; no certifica un producto.
¿Una IA confiable está certificada?
No por el mero hecho de llamarse confiable o de completar ALTAI. Una evaluación interna documenta decisiones y evidencia para un contexto delimitado. Cualquier certificación o evaluación de conformidad debe comprobarse por separado y solo cuando corresponda al sistema y al marco legal aplicable.
¿Qué diferencia hay entre ética y confiabilidad?
La ética considera principios, derechos y consecuencias; la confiabilidad en las directrices europeas abarca que la IA sea lícita, ética y robusta. La lista transforma esos elementos en áreas de reflexión, pero no decide por la organización si todos los efectos son aceptables.
¿Es obligatorio usar ALTAI?
No, ALTAI es una herramienta voluntaria. Eso no significa que el uso de IA esté exento de obligaciones: el Reglamento europeo y otras normas pueden imponer requisitos según finalidad, riesgo, papel de la empresa y tipo de datos. Revisa el texto vigente en lugar de usar la lista como sustituto del análisis.
¿Cómo se documenta una evaluación?
Registra el caso de uso, responsables, datos y límites, preguntas de evaluación, evidencia revisada, riesgos pendientes, controles, decisión y fecha de seguimiento. Conserva también incidencias y cambios relevantes. Adapta el registro a las obligaciones aplicables y evita almacenar datos personales innecesarios.
Para convertir estos criterios en decisiones responsables en tu organización, puedes consultar el curso de IA Legal. Si quieres identificar qué conocimientos prácticos te conviene reforzar, realiza el diagnóstico ¿Cuánto te queda?.