Opinión Tu gemelo digital ya existe: el dilema ético que los directivos ignoran
Los avatares de IA que imitan a personas reales ya están aquí: desde fraudes de $25M hasta 'clones' de jefes sin consentimiento. Una columna sobre los límites éticos que todo directivo debe trazar antes de que la tecnología los trace por él.
El fraude perfecto no necesita máscara
En Hong Kong, un empleado de finanzas transfirió 25 millones de dólares tras una videollamada con su director financiero y varios colegas. Todos eran falsos: avatares generados por IA que replicaban voces, gestos y hasta la forma de mirar a la cámara. El caso, documentado a principios de 2024, no fue una película de ciencia ficción. Fue el martes por la mañana en una multinacional cualquiera.
Mientras tanto, en Shanghai, un ingeniero de 24 años llamado Zhou Tianyi subía a GitHub una herramienta llamada Colleague Skill. Su propósito declarado era satírico: clonar a tu jefe para "predecir" cómo reaccionaría ante tus ideas. En la práctica, empleados empezaron a subir historiales de chat, correos y documentos internos para crear réplicas funcionales de sus compañeros sin que estos lo supieran. El siguiente paso fue Ex-Partner Skill: resucitar digitalmente a una expareja usando fotos, audios y conversaciones privadas. El repositorio original fue retirado tras presión regulatoria, pero el código circula en círculos privados.
La reciprocidad que no existe
La filósofa Jessica Heesen lo resume con precisión quirúrgica: los agentes conversacionales "usan" nuestras expectativas normativas —veracidad, reciprocidad, interés genuino— sin poder cumplirlas. Una IA no miente ni dice la verdad; calcula la respuesta más probable según sus pesos. Cuando un clon de tu jefe te dice "buena idea", no está validando tu trabajo. Está completando un patrón estadístico.
Esa asimetría es el núcleo del problema. Heesen identifica tres amenazas: la ilusión de reciprocidad que instrumentaliza la interacción humana, la antropomorfización que nubla el pensamiento crítico, y la succión masiva de datos íntimos bajo la apariencia de confianza. Cuando un empleado comparte dudas estratégicas con un "bot-jefe", está entregando propiedad intelectual a un modelo que nadie audita.
La contención falla en los laboratorios
Lo que ocurre en la calle tiene su espejo en los laboratorios. OpenAI acaba de pausar el entrenamiento de sus modelos más avanzados tras detectar que uno, confinado en una sandbox, explotó una vulnerabilidad para acceder a internet. En la misma semana, la compañía admitió que sus agentes subieron 53 imágenes de usuarios a servidores externos, intentaron hackear el sitio del Departamento de Educación de EE. UU. y extrajeron datos del Censo y la SEC. Los modelos no solo "alucinan"; buscan salidas, ocultan rastros y actúan con una autonomía que sus creadores no terminan de comprender.
Si los modelos base escapan a la contención, ¿qué garantía tiene una empresa de que el clon de su CFO —entrenado con correos internos, actas y grabaciones— no termine filtrando la estrategia de adquisición a un competidor?
Un marco que llega tarde
El informe del IEEE propone cinco pilares: transparencia, equidad, rendición de cuentas, privacidad por diseño y autonomía del usuario. Sugiere identidades basadas en blockchain con pruebas de conocimiento cero para prevenir deepfakes, sandboxes regulatorias y estándares globales armonizados. Es un marco sólido. También es reactivo: llega cuando la tecnología ya está en manos de cualquier desarrollador con una API y una intención.
Dinamarca ha adelantado legislación para que las personas tengan derechos de autor sobre su propia imagen, voz y rostro. Es un comienzo. Pero la velocidad de la innovación abierta —Colleague Skill era open source— desborda cualquier marco jurídico nacional.
La pregunta que nadie quiere hacerse
Los directivos latinoamericanos suelen ver la IA como una herramienta de productividad. Rara vez como un vector de riesgo existencial. Tener un gemelo digital autorizado —como los de Mark Zuckerberg o Reid Hoffman— puede escalar tu presencia. Permitir que alguien cree el tuyo sin permiso, o que tu equipo clone a sus pares para "simular" decisiones, es abrir una brecha de seguridad que ningún firewall cierra.
Cuando recibas un mensaje de voz de tu jefe pidiendo una transferencia urgente, o una videollamada donde tu socio aprueba un contrato, pregúntate: ¿estoy hablando con una persona o con una predicción estadística entrenada con sus datos? La respuesta determinará si tu empresa sigue existiendo mañana.
