La IA sale del centro de datos y entra en la calle: ¿estamos listos para responder?

NVIDIA acaba de bajar la barrera de entrada para que la inteligencia artificial generativa abandone la nube y se instale en el mundo físico. Su Jetson Orin Nano 2 entrega 78 billones de operaciones por segundo, 8 GB de memoria y un consumo de apenas 15 vatios en un formato que cabe en la palma de la mano. El doble de rendimiento de inferencia que su predecesor con un 40 % menos de energía. Deepu Talla, vicepresidente de robótica de la compañía, lo resume sin ambages: "pone ese avance al alcance de millones de desarrolladores".

La promesa técnica es seductora. Modelos medianos y pequeños alcanzan hoy la precisión que solo los gigantes de frontera lograban hace un año. Eso permite que un dron de inspección, un robot de almacén o una cámara de visión industrial interpreten lenguaje e imágenes y actúen en tiempo real sin llamar a un centro de datos. La eficiencia energética y el coste bajo convierten la experimentación masiva en algo viable. Pero la facilidad de despliegue no debe confundirse con madurez ética.

El Grupo Europeo de Ética en Ciencia y Nuevas Tecnologías advirtió ya en 2018 que los sistemas autónomos generan "dilemas morales cada vez más urgentes y complejos". Señaló tres frentes que hoy golpean la puerta de cualquier junta directiva: seguridad y prevención de daño, atribución de responsabilidad moral, y gobernanza democrática. Cuando un robot decide frenar o esquivar, cuando un dron clasifica a una persona como amenaza, cuando un brazo mecánico manipula un objeto frágil, ¿dónde reside la agencia moral? ¿El programador, el integrador, el operador, el fabricante del chip?

La opacidad técnica agrava el problema. Los modelos que "aprenden" estrategias nuevas —como AlphaZero en el ajedrez— producen resultados que sus propios creadores no pueden explicar paso a paso. Si los datos de entrenamiento contienen sesgos, esos sesgos se enraízan en el comportamiento físico de la máquina. Y a diferencia de un chatbot que alucina texto, un robot que alucina movimientos puede romper mercancía, dañar infraestructura o herir personas.

Latinoamérica no es espectadora. La región adopta drones para logística agrícola, robots para inspección de oleoductos, visión artificial en puertos y manufactura. La llegada de hardware barato y potente acelera esa curva. Pero los marcos regulatorios locales siguen rezagados respecto a la velocidad del silicio. La Comisión Europea pidió entonces —y sigue valiendo— un "proceso colectivo, amplio e inclusivo de reflexión y diálogo" para construir un marco ético y legal común. No basta con cumplir la norma del momento; hay que anticipar la norma que vendrá.

Tres preguntas deberían estar en la agenda de todo comité de dirección esta semana. Primera: ¿tenemos trazabilidad de decisión en los sistemas autónomos que ya operan o pilotamos? Segunda: ¿existe un procedimiento claro de rendición de cuentas cuando la máquina actúa sin intervención humana directa? Tercera: ¿estamos invirtiendo en auditoría algorítmica y en equipos humanos capaces de supervisar el borde, no solo el centro?

Las tres leyes de Asimov —no dañar, obedecer, auto-preservarse— siguen siendo una brújula pedagógica útil, pero insuficiente. La ética tecnológica debe evolucionar al ritmo de la innovación, como bien apuntan desde la educación robótica: hoy hay que considerar privacidad, manipulación de datos, autonomía emocional de las máquinas. El dilema del tranvía ya no es un experimento mental; lo resuelven ingenieros de Tesla y Waymo cada vez que programan una frenada de emergencia.

NVIDIA ha democratizado el músculo computacional. La responsabilidad de ponerle cerebro y conciencia sigue siendo, enteramente, nuestra.