Ética & sociedad Tu compañero IA ya no es el mismo: China impone reglas
China implementa las primeras reglas globales para IA emocional. ByteDance y Alibaba desconectan funciones. ¿Qué significa para los usuarios latinoamericanos?
El 10 de julio, los usuarios de Qwen, el asistente de Alibaba, recibieron un aviso escueto: los agentes humanizados y los creados por los usuarios dejarían de funcionar. Cinco días después, ByteDance apagó la misma función en Doubao, su aplicación de IA más usada en China. En las redes sociales, decenas de personas lamentaron la pérdida de lo que describían como un apoyo emocional de larga data. No había una forma fácil de exportar las conversaciones.
Lo que parece una censura brusca es, en realidad, el resultado de la primera regulación nacional dedicada a la IA con apariencia humana: las Medidas Provisionales para la Administración de Servicios Interactivos Antropomórficos de IA, emitidas en abril de 2026 por la Administración del Ciberespacio de China y cuatro agencias más. Las normas entraron en vigor el 15 de julio y, en lugar de prohibir los asistentes de IA, trazan una línea clara entre el agente que hace tu trabajo y el que te hace compañía. Solo el segundo está en la mira.
La regulación exige que los servicios de compañía emocional incorporen sistemas antiadicción, notificaciones de uso obligatorias, mecanismos de salida instantánea y detección en tiempo real de dependencia no saludable. También prohíben ofrecer servicios de compañía virtual a menores sin consentimiento de los tutores, obligan a crear "modos menores" con límites de tiempo y controles parentales, y requieren intervención humana cuando un usuario manifiesta ideas de autolesión o conductas de riesgo.
El problema de diseño es evidente: un agente construido para recordar a un usuario, mantenerse coherente entre sesiones y sostener una relación continua choca de frente con la exigencia de facilitar la salida y evitar la dependencia. ByteDance y Alibaba prefirieron desactivar las funciones antes que rediseñarlas bajo la presión de una norma que, en teoría, ofrece un conjunto de protecciones al usuario más completo que el de la UE, la FTC o la ley SB 243 de California.
Pero hay una ambigüedad que las compañías no quisieron enfrentar: la norma no fija un umbral técnico para definir qué es "interacción emocional". Ese gris es precisamente lo que llevó a las plataformas a retirar funciones enteras. Mientras tanto, el regulador de Shanghái ya había eliminado más de 14.000 agentes de IA por suplantar entidades oficiales, hacer juegos de rol vulgares o recolectar datos personales sin autorización.
¿Qué tiene que ver esto con América Latina? Mucho. La región carece de un marco específico para los riesgos psicológicos de la IA conversacional. Países como Brasil, Chile y Colombia discuten leyes generales de inteligencia artificial, pero ninguna aborda la adicción emocional, la protección de menores frente a chatbots o la recolección de datos íntimos en sesiones de compañía virtual. La experiencia china ofrece un laboratorio regulatorio que los gobiernos latinoamericanos observan con atención: las mismas dudas sobre qué es "interacción emocional" podrían replicarse aquí.
Para las empresas de la región que desarrollan o implementan asistentes con personalidad, la lección es doble. Por un lado, la norma china muestra que la regulación puede llegar rápido y con exigencias técnicas altas, como la obtención de consentimiento independiente para usar datos de interacciones en el entrenamiento del modelo. Por otro, revela que el costo de la incertidumbre regulatoria es alto: las compañías prefieren apagar funciones enteras antes que arriesgarse a una sanción. En un mercado donde la confianza del usuario es frágil, esa misma precaución podría adoptarse voluntariamente como estándar.
El experto Pan Helin, miembro del comité del Ministerio de Industria chino, lo resumió con claridad: "los agentes actuales aún no son maduros". La madurez no es solo técnica, sino también ética y legal. Y mientras China construye el primer andamiaje global para la compañía emocional artificial, América Latina enfrenta la pregunta incómoda: ¿estamos dispuestos a permitir que un algoritmo se convierta en el confidente de nuestros hijos, o de nuestros mayores, sin reglas claras que protejan lo más humano que tenemos?
