Publica Microsoft un código que subordina los modelos al control humano

Microsoft publicó este lunes un código de conducta de inteligencia artificial de 37 páginas en el que fija una posición ética inconfundible: "las personas importan más que la IA". El movimiento no ocurre en el vacío. El fin de semana pasado, Dario Amodei pidió una desaceleración coordinada del avance de la IA, después de que investigadores advirtieran que el progreso de los modelos podría superar la capacidad de desplegarlos con seguridad y de verificar y controlar las acciones de los agentes autónomos. En ese clima de incertidumbre, Microsoft eligió diferenciarse con un documento que define su postura frente a uno de los debates más incómodos de la industria: si los modelos pueden llegar a ser considerados entidades conscientes.

Un golpe directo a Anthropic

El texto es explícito. Afirma que los modelos de IA no son conscientes y que "no deberían diseñarse para imitar la conciencia". Va más lejos y rechaza "la búsqueda de personalidad jurídica, o la idea de que los modelos puedan merecer bienestar o tener derechos". Con esas frases, Microsoft no solo establece su política: responde a la corriente de investigación sobre bienestar de la IA que Anthropic ha impulsado con fuerza. Su CEO, Dario Amodei, dijo a comienzos de año que está "abierto a la idea" de que los modelos sean conscientes, y la empresa ha trabajado en la hipótesis de que los chatbots podrían ser, en algún sentido, entidades pensantes y sensibles.

La tensión entre ambas compañías ya era conocida. Mustafa Suleyman calificó esa especulación como "realmente, realmente peligrosa" en una entrevista con The Verge en junio. Ahora Microsoft convierte esa opinión en política corporativa. El código lo compromete a que sus modelos "sigan siendo subordinados a la humanidad, sujetos a supervisión y control humano significativos".

El detalle no es menor: Microsoft todavía no está entre los principales proveedores de IA, pero Suleyman ha dicho que la meta es demostrar que puede convertirse en uno de los cuatro laboratorios más importantes del mundo, junto a Google, Anthropic y OpenAI. Publicar un código de esta naturaleza es también una jugada de posicionamiento: mientras otros discuten si las máquinas merecen derechos o bienestar, Microsoft se presenta como la opción donde el control humano sigue siendo el centro.

Hay además una implicación legal concreta. Al negar personalidad jurídica a los modelos, Microsoft evita un escenario de responsabilidad difuso. Si un sistema fuera tratado como una entidad con derechos, las empresas que lo usan tendrían que responder la pregunta de quién es culpable cuando el agente se equivoca. La postura de Microsoft simplifica la ecuación: el modelo es una herramienta y la responsabilidad sigue siendo humana.

Lo que importa en América Latina

Este debate puede parecer exclusivo de Silicon Valley, pero tiene consecuencias operativas en la región. Mientras los marcos regulatorios de América Latina maduran, los códigos de conducta y términos de uso de los proveedores globales se convierten de facto en la capa de gobernanza de los sistemas que adoptan las empresas locales. Un banco, un comercio o una empresa de logística que contrate un modelo para automatizar procesos terminará sujeto a reglas definidas en la sede del proveedor, sin que un regulador local haya evaluado su alcance.

Con la autonomía de los agentes, el tema se vuelve más urgente. Cuando un sistema actúa solo, atiende un reclamo, actualiza una base de datos o autoriza una operación, la capacidad de detectar errores, interrumpir el proceso y rendir cuentas depende de las garantías técnicas y contractuales del proveedor. El código de Microsoft ofrece un piso interesante, pero no es suficiente. Los equipos de cumplimiento y riesgo en la región deberían exigir evidencia verificable de supervisión humana efectiva en la operación real, no solo confiar en una declaración de principios.

Para cada organización que evalúa incorporar agentes de IA, la pregunta queda abierta: si el proveedor proclama que las personas importan más que la tecnología, ¿está su empresa en condiciones de demostrar lo mismo en su propia operación? La respuesta no debería esperar a que un regulador local la exija.