El plan de ETSI ayuda a prevenir los deepfakes desde el diseño y no solo a detectarlos tarde

Casi toda la conversación sobre los deepfakes empieza cuando el problema ya está en la calle, con un vídeo circulando y un equipo corriendo para etiquetarlo. Una nueva especificación de ETSI intenta mover ese trabajo mucho antes. El 30 de octubre, ETSI publicó la Especificación Técnica TS 104 275, elaborada por su Comité Técnico sobre Seguridad de la Inteligencia Artificial, conocido como TC SAI, con medidas prácticas para reducir el riesgo de que los sistemas de inteligencia artificial generativa produzcan deepfakes dañinos.

El cambio de momento es el corazón del documento. En lugar de limitarse a detectar contenido manipulado después de creado, la especificación trata la prevención como una responsabilidad que acompaña todo el ciclo de vida, en cinco fases: diseño seguro, desarrollo, despliegue, mantenimiento y fin de vida. Un sistema debería construirse, comprobarse y vigilarse de forma que la salida dañina sea menos probable desde el principio.

Cinco fases y una sola responsabilidad

El diseño seguro viene primero por una razón sencilla. Las decisiones que se toman en una pizarra, sobre lo que un modelo debe rechazar, registrar y señalar, son mucho más baratas de corregir que las que se descubren después del lanzamiento. Después viene el desarrollo, cuando los equipos entrenan y prueban frente a esas decisiones. El despliegue es donde los usuarios reales se encuentran con el sistema, con todas las peticiones raras y sin guion que trae la vida real.

El mantenimiento es la fase que demasiados planes olvidan. Los modelos se actualizan. Los datos cambian. Aparecen trucos nuevos para hacer un mal uso. Una protección que funcionaba en el lanzamiento puede quedarse vieja en silencio. La especificación mantiene el mantenimiento dentro de la responsabilidad, con una vigilancia continua como tarea permanente y no como una auditoría ocasional. El fin de vida cierra el círculo y pregunta qué ocurre con un sistema, sus datos y sus resultados cuando se retira.

El ponente y secretario del TC SAI, Alex Cadzow, lo expresó con claridad. Las organizaciones de inteligencia artificial necesitan apoyo para abordar los riesgos de los deepfakes mucho antes, empezando por el diseño del sistema. Esa frase podría servir como tesis del documento. Antes es más fácil, antes es más barato y antes protege a personas que, de otro modo, se encontrarían el problema ya convertido en una falsificación terminada. Es el mismo espíritu preventivo que guía otras normas recientes de la casa, como contamos en los sistemas diseñados con estructura y controles desde el inicio.

Medidas concretas, no consejos vagos

Las medidas enumeradas son concretas. Incluyen evaluaciones de riesgo, documentación, filtrado de contenidos, etiquetado del contenido generado por inteligencia artificial, vigilancia continua y supervisión humana. Ninguno de esos elementos es exótico por sí solo. Juntos forman una rutina que una organización puede aplicar de verdad.

Las evaluaciones de riesgo obligan a un equipo a nombrar lo que podría salir mal antes de que lo haga un crítico por él. La documentación hace revisables esas decisiones. El filtrado de contenidos ofrece al sistema una primera línea de respuesta en el mismo momento de la generación. El etiquetado ayuda a quien mira a saber qué está mirando. La vigilancia detecta las desviaciones. Y la supervisión humana mantiene a una persona al mando de los juicios que un programa no debería tomar solo.

Pruebas que se aprueban o se suspenden

La especificación incluye además escenarios de prueba con criterios de aprobado o suspenso, para que las organizaciones puedan demostrar que las protecciones funcionan de verdad. Ese detalle importa más de lo que parece. Una política que dice tenga cuidado no se puede comprobar. Un escenario con una nota clara de aprobado, sí. Los equipos pueden repetir la misma prueba después de cada actualización y comparar resultados, y los revisores externos pueden pedir las puntuaciones en lugar de conformarse con promesas.

El lenguaje de aprobado o suspenso también ayuda a las organizaciones pequeñas. Un gran laboratorio puede contratar especialistas para interpretar orientaciones vagas. Un equipo pequeño necesita algo que pueda ejecutar un martes y entender antes de comer. Los escenarios concretos igualan un poco ese terreno de juego, y eso es una virtud práctica de la especificación.

Construida sobre una base que ya existe

La TS 104 275 no parte de cero. Se apoya en la norma EN 304 223 de ETSI, la referencia de ciberseguridad para la inteligencia artificial, y respalda los objetivos de la Ley de Inteligencia Artificial de la Unión Europea. Apoyarse en una base mantiene la coherencia de los consejos. Los equipos que ya trabajan con la EN 304 223 pueden extender hábitos que ya tienen, como proteger datos, controlar accesos y guardar registros, hacia el problema concreto de prevenir deepfakes.

Ese segundo anclaje, el apoyo a los objetivos europeos, ofrece a las organizaciones una guía práctica para un riesgo definido, en lugar de leer metas amplias y tener que adivinar los pasos de ingeniería. En un sector que se mueve rápido, disponer de una lista de comprobación clara para todo el ciclo de vida es algo realmente útil sobre la mesa de trabajo.

La TS 104 275 no acabará por sí sola con los deepfakes, y el documento no pretende lo contrario. Lo que ofrece es un punto de partida compartido y práctico, publicado el 30 de octubre por el equipo del TC SAI, para construir sistemas generativos más difíciles de usar mal, desde el primer boceto de diseño hasta el último día de servicio. Prevención hecha pronto y comprobada a menudo: así es como una herramienta generativa se gana la confianza de quienes la usan.

También publicado en: