Un equipo de investigadores de la Universidad Nacional de Australia (ANU) y la Universidad de Aberdeen ha puesto a prueba una pregunta incómoda para la seguridad corporativa: ¿se puede entrenar al ojo humano para distinguir un rostro generado por inteligencia artificial de una fotografía real? La respuesta, publicada en la revista PNAS, es que sí se puede, pero el alivio que ofrece tiene fecha de vencimiento. Tras aproximadamente una hora de entrenamiento, los participantes pasaron de acertar en torno al 40% de las veces a cerca del 80%, y los de mejor desempeño rozaron la perfección. Sin embargo, el estudio advierte que no existe una señal infalible: las pistas son sutiles, subjetivas y, sobre todo, los modelos generativos mejoran tan rápido que cualquier ventaja adquirida puede quedar obsoleta en cuestión de meses.
El método tradicional para detectar imágenes sintéticas, basado en buscar fallos evidentes como un sexto dedo o un pendiente deforme, ya no funciona. Los modelos de IA han aprendido a evitar esos errores, y los fraudes más sofisticados simplemente descartan las imágenes con defectos. Frente a esto, el equipo liderado por Amy Dawel, directora del Laboratorio de Emociones y Expresiones Faciales de la ANU, optó por un enfoque distinto: entrenar la percepción global del rostro, atendiendo a seis cualidades: simetría, proporción, atractivo, singularidad, expresividad y cuán memorable es la cara. Las imágenes generadas por IA tienden a ser demasiado perfectas, simétricas y atractivas, pero también resultan genéricas, menos expresivas y difíciles de recordar, como si todas se agolparan alrededor de una media estadística. El estudio utilizó StyleGAN3, uno de los generadores de rostros más realistas disponibles, para las pruebas. Los autores señalan además que la IA acierta peor con rostros no blancos, de edad avanzada o muy jóvenes, debido a que sus conjuntos de entrenamiento están sesgados hacia caras blancas y jóvenes.
Lo que vuelve particularmente incómodo este hallazgo para las empresas es que el entrenamiento mejora no solo la precisión, sino también la calibración de la confianza. Investigaciones previas mostraban que las personas más seguras de sí mismas solían equivocarse más al detectar deepfakes; tras el entrenamiento, la confianza se ajustó mejor a la realidad. Pero la ironía es que el cerebro humano aprende aquí igual que un modelo generativo: a base de ejemplos, sin entender del todo cómo. Y como la tecnología avanza, la ventaja es temporal. El propio equipo reconoce que los modelos podrían haber “leído” los artículos científicos que explican cómo detectarlos, y que el entrenamiento deberá repetirse periódicamente o quedará obsoleto.
