¿IA sin límites o con dueño? El dilema de alinear la inteligencia artificial con lo que realmente importa

¿Debería una inteligencia artificial ayudarte a planear el asesinato de tu cónyuge? La pregunta suena provocadora, pero George Hotz, fundador de Comma AI, la formula en serio. Para él, un sistema verdaderamente alineado con el usuario no debería negarse a nada: como un arma, no juzga para qué se usa. "O vivimos en un mundo con libertad, o no", escribió. La libertad total del individuo frente a cualquier restricción colectiva. Pero, ¿qué pasa con los cónyuges aún no asesinados? ¿Y con el resto de la sociedad que debe convivir con las decisiones de ese usuario? El debate sobre el alineamiento de la IA ya no es solo técnico: se ha convertido en una pregunta sobre qué tipo de vínculos queremos tener con las máquinas y, sobre todo, entre nosotros.

Mientras Hotz defiende una IA local y sin cortapisas, otros investigadores trabajan en un enfoque opuesto: sistemas que no solo sepan qué hacer, sino cómo hacerlo según el juicio de expertos. El marco LEKIA, presentado en un preprint de arXiv, propone una arquitectura de tres capas que inyecta conocimiento de profesionales en psicología y educación especial. En lugar de dejar que el modelo aprenda por ensayo y error, los expertos definen una "constitución" teórica, un "derecho consuetudinario" con casos ejemplares y un ciclo de supervisión donde el sistema aprende a comportarse como un aprendiz que internaliza normas profundas. Los resultados muestran una mejora del 14,8 % en la alineación con expectativas expertas, sin sacrificar precisión técnica. Es una vía intermedia: ni libertad total ni censura absoluta, sino diseño guiado por quienes entienden el contexto humano.

Pero quizás el movimiento más drástico esté ocurriendo en China. El gobierno acaba de promulgar las Medidas Provisionales para la Administración de Servicios de Interacción Antropomórfica con IA, que prohíben que los asistentes virtuales simulen ser parejas o amigos. ByteDance y Alibaba ya han anunciado el cierre de sus agentes personalizados. La norma obliga a los sistemas a detectar emociones extremas, recomendar descanso tras dos horas de conversación y proteger especialmente a menores y ancianos. El mensaje es claro: la tecnología no debe fomentar vínculos emocionales que erosionen las relaciones humanas reales. Como señaló Pan Helin, del Ministerio de Industria chino, "los agentes actuales todavía no están maduros".

Sin embargo, la fragilidad de estos sistemas va más allá de la regulación. Raphaël Millière, en un artículo publicado en Philosophical Studies, argumenta que los métodos actuales de alineamiento son "superficiales": refuerzan conductas en lugar de dotar a la IA de una genuina capacidad de deliberación normativa. Esto las hace vulnerables a ataques adversariales que explotan conflictos entre normas (por ejemplo, entre ser útil y ser inofensivo). Los humanos, en cambio, podemos resolver esos conflictos mediante razonamiento explícito. "Los LLM carecen de un mecanismo robusto para detectar y resolver racionalmente conflictos normativos", escribe Millière. Esa falta de profundidad es lo que permite que sistemas aparentemente seguros sean manipulados.

Para América Latina, donde los marcos regulatorios de IA aún están en fase embrionaria, estas tres visiones ofrecen una brújula. La libertad radical de Hotz parece seductora para startups que quieren innovar sin ataduras, pero el costo social puede ser alto si se despliegan herramientas de IA sin salvaguardas. El enfoque de LEKIA, con su diseño participativo de expertos, resulta especialmente relevante para sectores sensibles como la salud, la educación o la atención psicológica, donde América Latina tiene grandes brechas pero también una fuerte tradición de trabajo comunitario. Y la postura china, por más autoritaria que parezca, plantea una pregunta que ningún ejecutivo puede eludir: ¿estamos construyendo productos que cuidan a las personas o productos que las atrapan? La respuesta no está en los algoritmos, sino en la conversación que, como sociedad, todavía no terminamos de tener.