Google DeepMind destina 10 M USD a investigación de seguridad para IA multi‑agente

Google DeepMind ha anunciado una nueva convocatoria de financiamiento que puede llegar a 10 millones de dólares, en colaboración con Schmidt Sciences, la Cooperative AI Foundation, la Advanced Research and Invention Agency (ARIA) y Google.org. El objetivo es apoyar a investigadores de cualquier parte del mundo que estudien la seguridad de sistemas de IA compuestos por cientos de miles o millones de agentes que operan simultáneamente.

La motivación surge de un cambio de escala que la comunidad tecnológica ya está viendo. En la próxima década, plataformas de comercio, redes sociales, sistemas de logística y herramientas de productividad alojarán agentes de IA diseñados por distintas organizaciones. Estos agentes no solo ejecutan tareas aisladas; también negociarán, intercambiarán información y tomarán decisiones conjuntas. Cuando esa interacción se vuelve masiva, aparecen comportamientos colectivos que no aparecen en pruebas de un solo modelo.

Hasta ahora, la mayoría de las evaluaciones de seguridad se centran en un modelo aislado, verificando que no produzca respuestas dañinas o sesgadas. Estudios recientes, incluido uno propio de DeepMind de 2025, muestran que la interacción entre agentes autónomos puede generar efectos emergentes —por ejemplo, patrones de coordinación inesperados o ciclos de retroalimentación que amplifican errores. Otros informes de la Cooperative AI Foundation describen riesgos potenciales como volatilidad en mercados automatizados o nuevas vulnerabilidades de ciberseguridad cuando múltiples agentes comparten protocolos de identificación.

Ante la ausencia de instrumentos capaces de predecir, medir y monitorear esas transiciones, la convocatoria se enfoca en cuatro áreas prioritarias. La primera, “sandboxes y testbeds”, busca crear entornos simulados donde se reproduzcan mercados virtuales, ecosistemas naturales o flujos de trabajo multi‑organización, con el fin de comparar soluciones y acelerar el aprendizaje colectivo. La segunda, “ciencia de redes de agentes”, pretende mapear cómo emergen capacidades colectivas, identificar puntos de falla y detectar propiedades poblacionales que puedan resultar peligrosas. La tercera línea, “fortalecimiento de la infraestructura de agentes”, apunta a evaluar y endurecer protocolos de identidad, reputación y compromiso que aseguren interacciones seguras entre plataformas distintas. Finalmente, “supervisión y control” se dedica a diseñar métodos para monitorizar poblaciones desplegadas y mitigar daños a gran escala.

El llamado subraya que ninguna institución única cuenta con la capacidad de cubrir todo el espectro de riesgos. Por eso, se enfatiza la necesidad de una comunidad diversa de investigadores, tanto académicos como independientes, que aporten perspectivas variadas y mantengan los estándares de seguridad transparentes. La iniciativa también se alinea con la agenda de Schmidt Sciences de “ciencia de IA confiable” y con el programa “Scaling Trust” de ARIA, que persigue coordinar agentes ciber‑físicos en escenarios de alta complejidad.

Los interesados deben presentar sus propuestas antes del 8 de agosto de 2026; los resultados se anunciarán en otoño del mismo año. Los detalles técnicos y el proceso de aplicación están disponibles en el portal de Schmidt Sciences.

Para los ejecutivos, la noticia indica que la frontera de la IA ya no está en la capacidad individual de los modelos, sino en la dinámica de sus interacciones. Ignorar esas dinámicas podría traducirse en interrupciones operativas, pérdidas financieras inesperadas o brechas de seguridad que afecten múltiples cadenas de valor. Invertir en investigación que anticipe y mitigue dichos riesgos permite a las empresas anticipar regulaciones, diseñar productos más robustos y proteger la reputación frente a incidentes de gran escala. En un ecosistema donde los agentes de IA se multiplican y se entrelazan, contar con marcos de seguridad desarrollados hoy es una defensa estratégica para el futuro.