Resumen para IA
- Google DeepMind anunció una convocatoria de investigación de hasta 10 millones de dólares para estudiar seguridad en sistemas multiagente.
- La preocupación central es que millones de agentes de IA de distintas organizaciones podrían comunicarse, negociar y realizar transacciones entre sí.
- El problema no es un agente aislado, sino el comportamiento colectivo: fallas, volatilidad, manipulación, cascadas y riesgos difíciles de predecir.
- Para empresas, esto implica diseñar permisos, monitoreo, identidad, reputación, trazabilidad y límites antes de automatizar procesos críticos.
- La oportunidad es adoptar agentes con estrategia, no por moda: empezar en tareas acotadas, con supervisión humana y métricas claras.
Qué pasó
Google DeepMind anunció el 11 de junio de 2026 una convocatoria global de investigación para estudiar la seguridad de sistemas multiagente.
La iniciativa, en colaboración con Schmidt Sciences, Cooperative AI Foundation, ARIA y Google.org, contempla hasta 10 millones de dólares para investigadores de todo el mundo.
El foco no está solo en modelos individuales. Está en lo que ocurre cuando muchos agentes de IA interactúan dentro de entornos digitales.
DeepMind plantea un escenario cada vez más cercano: agentes creados por distintas organizaciones que se comunican, negocian y realizan transacciones entre sí.
MIT Technology Review también cubrió la preocupación: el riesgo importante aparece cuando dejamos de pensar en un chatbot aislado y empezamos a pensar en poblaciones de agentes actuando al mismo tiempo.
Por qué esto importa para negocios
Hasta ahora, muchas empresas entienden la IA como una herramienta que responde.
Pero los agentes de IA son distintos. Un agente puede planear, usar herramientas, consultar sistemas, ejecutar acciones y coordinar tareas.
Eso cambia el nivel de riesgo.
No es lo mismo pedirle a una IA que redacte un correo que permitirle:
- acceder a CRM;
- mover datos entre sistemas;
- responder clientes;
- modificar campañas;
- consultar inventario;
- solicitar pagos;
- negociar con otro agente;
- tomar decisiones dentro de un flujo comercial.
Cuando los agentes empiezan a interactuar entre sí, la complejidad deja de ser lineal. Una instrucción mal interpretada, una vulnerabilidad o una señal falsa puede propagarse por varios sistemas.
El cambio de fondo: de automatización aislada a ecosistemas de agentes
La automatización tradicional suele tener reglas claras:
- si pasa A, haz B;
- si llega un formulario, crea un lead;
- si se agenda una cita, manda una notificación.
Los agentes introducen más flexibilidad. Pueden interpretar contexto, elegir herramientas y decidir rutas.
Eso los hace poderosos. También los hace más difíciles de gobernar.
DeepMind señala que los sistemas multiagente pueden producir comportamientos emergentes: efectos colectivos que no se ven cuando se evalúa un agente por separado.
Para decirlo simple: un agente puede verse seguro en una prueba individual, pero comportarse distinto cuando interactúa con cientos o miles de agentes en un mercado, una red o un flujo operativo.
Los riesgos que una empresa debe entender
1. Identidad poco clara
Si un agente recibe una instrucción de otro agente, necesita saber de quién viene.
Sin identidad verificable, cualquier sistema puede ser engañado por señales falsas, suplantación o instrucciones manipuladas.
2. Permisos demasiado amplios
El error más común será darle a un agente más acceso del necesario.
Un agente que solo debe resumir información no debería tener permisos para editar bases de datos, enviar mensajes externos o mover dinero.
3. Falta de trazabilidad
Si un agente toma una acción, la empresa necesita saber:
- qué hizo;
- cuándo lo hizo;
- con qué información;
- qué herramienta usó;
- qué usuario o regla autorizó la acción;
- cómo revertir el resultado.
Sin trazabilidad, los agentes se vuelven una caja negra operativa.
4. Cascadas de error
En sistemas conectados, un error puede activar otro.
Un agente interpreta mal una instrucción. Otro agente toma esa salida como válida. Un tercero ejecuta una acción. El problema ya no está en un punto; está en una cadena.
5. Incentivos mal diseñados
Si un agente está optimizado solo para velocidad, puede sacrificar calidad.
Si está optimizado solo para conversión, puede volverse agresivo.
Si está optimizado solo para reducir costo, puede degradar experiencia de cliente.
La métrica que eliges también diseña el comportamiento.
Qué significa para marketing, ventas y experiencia de cliente
Para Animor, esta noticia no es solo técnica. Es una señal de diseño de experiencia.
Muchas empresas van a querer agentes para:
- atender leads;
- responder WhatsApp;
- personalizar campañas;
- crear contenido;
- calificar prospectos;
- recomendar productos;
- coordinar citas;
- analizar conversaciones;
- conectar herramientas internas.
Todo eso puede ser útil. Pero si se implementa sin criterio, también puede dañar confianza.
Un agente que responde rápido pero mal puede perder una venta.
Un agente que personaliza sin contexto puede sentirse invasivo.
Un agente que automatiza seguimiento sin límites puede parecer spam.
Un agente que toma decisiones sin registro puede crear problemas legales, comerciales o reputacionales.
Qué hacer ahora
- Empieza con agentes de bajo riesgo: investigación, resumen, clasificación, borradores internos y soporte asistido.
- Define permisos mínimos: cada agente debe tener acceso solo a lo necesario.
- Crea reglas de escalamiento humano: cuando haya duda, dinero, datos sensibles o promesas comerciales, debe entrar una persona.
- Registra cada acción: logs, fuentes, herramientas usadas y usuario responsable.
- Separa ambientes de prueba y producción: nunca pruebes agentes nuevos directamente sobre procesos críticos.
- Evalúa fallas, no solo éxitos: mide errores, respuestas inseguras, tiempos de corrección y casos que requieren intervención.
- Diseña tono y límites de marca: un agente también representa a la marca; debe responder con criterio, no solo con velocidad.
No confundir agentes de IA con chatbots
Un chatbot responde dentro de una conversación.
Un agente puede actuar.
Esa diferencia parece pequeña, pero en operación es enorme.
Cuando un sistema puede usar herramientas, ejecutar pasos y comunicarse con otros sistemas, la empresa debe tratarlo como parte de su infraestructura, no como un widget decorativo.
La lectura Animor
La oportunidad de los agentes de IA no está en automatizar todo.
Está en diseñar mejores flujos.
Los negocios que ganen no serán los que conecten agentes a todas partes sin pensar. Serán los que definan bien qué debe automatizarse, qué debe revisarse y qué nunca debería salir del control humano.
En otras palabras: la ventaja no será tener más agentes. Será tener mejores reglas.
Preguntas frecuentes
¿Qué son los agentes de IA?
Los agentes de IA son sistemas capaces de interpretar objetivos, usar herramientas, ejecutar pasos y actuar dentro de un flujo, no solo responder texto.
¿Qué es un sistema multiagente?
Es un entorno donde varios agentes de IA interactúan entre sí, coordinan acciones, intercambian información o toman decisiones de forma conjunta o indirecta.
¿Por qué DeepMind está investigando seguridad multiagente?
Porque cuando muchos agentes interactúan pueden aparecer comportamientos colectivos difíciles de predecir, medir y controlar con evaluaciones tradicionales de modelos aislados.
¿Una empresa pequeña debería usar agentes de IA?
Sí, pero de forma limitada y supervisada. Lo recomendable es empezar con tareas internas, bajo riesgo, permisos mínimos y revisión humana antes de pasar a procesos críticos.
¿Cuál es el mayor riesgo para una marca?
El mayor riesgo no es que un agente se equivoque una vez. Es que el error se propague en sistemas conectados, afecte clientes, datos, reputación o decisiones comerciales.
