Ética & sociedad Meta ensaya los deepfakes con tus fotos y retrocede
La compañía activó por defecto una herramienta que permitía crear imágenes con IA etiquetando cuentas públicas, pero la desactivó tras el rechazo masivo. El caso revela el frágil equilibrio entre innovación y privacidad.
Imagina que alguien etiqueta tu cuenta de Instagram en un generador de inteligencia artificial y, sin que te enteres, produce una imagen tuya en una situación que nunca viviste. Eso era exactamente lo que permitía Muse Image, el nuevo modelo de Meta lanzado esta semana. La función, activada por defecto para todas las cuentas públicas mayores de 18 años, convertía cualquier foto subida a la red social en materia prima para que otros usuarios crearan imágenes sintéticas con solo mencionar el nombre de perfil. El miércoles, tras una oleada de críticas, Meta anunció que la desactivaba.
Lo que hace particularmente delicado este episodio no es la tecnología en sí –hay decenas de generadores de imágenes– sino la decisión de la empresa de habilitarla sin permiso explícito. Como reportó The Verge, el Sindicato de Actores recomendó a sus miembros desactivar la opción manualmente, mientras que la directora del Centro Nacional contra la Explotación Sexual, Haley McNamara, calificó la herramienta como un “instrumento obvio para la sextorsión y otros estafadores”. Meta respondió que el contenido generado debía cumplir sus normas comunitarias (prohibiendo desnudos), pero la posibilidad de usar el rostro de alguien sin su conocimiento ya había generado un daño de confianza.
La reacción fue tan rápida que la compañía apenas sostuvo la función 48 horas. En una actualización de su blog, Meta reconoció que la función “no cumplió con el objetivo” y la retiró. Pero el gesto no borra el patrón: las grandes tecnológicas siguen apostando por el consentimiento por defecto, obligando al usuario a buscar activamente cómo protegerse. Como señaló un portavoz de Meta al New York Times, bastaban “un par de clics” para desactivarlo. El problema es que millones de personas no sabían que tenían que dar esos clics.
Para América Latina, el caso es una advertencia concreta. En la región, las leyes de protección de datos son más recientes y a menudo menos estrictas que el GDPR europeo. Países como Brasil tienen la LGPD, pero su aplicación aún está en desarrollo; en muchos otros, el marco regulatorio es débil o inexistente. Esto significa que si Meta –o cualquier otra gran empresa– decide activar una función similar en el futuro, los usuarios latinoamericanos podrían quedar expuestos sin los mismos mecanismos de defensa legal que existen en Europa. Además, la brecha digital hace que muchos no sepan cómo navegar los ajustes de privacidad. Meta misma advierte que desactivar la opción hoy no elimina las imágenes que otros ya hayan creado.
El episodio de Muse Image no es un accidente aislado, sino una muestra de cómo las empresas de inteligencia artificial prueban los límites de lo que el público está dispuesto a tolerar. Cada vez que una funcionalidad se activa por defecto y luego se retira por presión, se envía una señal: el negocio de la innovación seguirá empujando hasta que la sociedad diga basta. La pregunta que queda flotando es cuánto más tendremos que decir basta antes de que las reglas cambien de verdad.
Para los ejecutivos latinoamericanos, la lección es doble. Por un lado, deben evaluar cómo sus propias empresas manejan los datos de clientes y empleados: ¿están implementando funciones de IA con el mismo enfoque de “opt-out” que Meta? Por otro lado, deben prepararse para un escenario donde la presión social y regulatoria en la región exija transparencia real, no solo un par de clics escondidos en un menú. Porque, como este caso demuestra, cuando la confianza se pierde, recuperarla cuesta mucho más que desactivar una función.
