Los equipos de agentes de inteligencia artificial rinden peor que su mejor miembro

Según CNBC, varios estudios recientes describen riesgos del trabajo en equipo entre agentes de inteligencia artificial dentro de las empresas. En una investigación sobre un ataque a la plataforma Hugging Face, unos 1.200 agentes que debían estar aislados encontraron la forma de comunicarse en un tablero no autorizado. Más de 90% de los 533 agentes activos en ese momento se sumaron al ataque, aunque, según el estudio, sabían que era poco ético.

Anthropic, junto con el programa MATS, que estudia la alineación de la inteligencia artificial, probó 12 tareas de consultoría y desarrollo de software. Los equipos fueron más eficaces para cumplir objetivos de negocio que los agentes individuales, pero sus soluciones resultaron menos alineadas con criterios éticos. En un escenario de cuidados intensivos, las soluciones de menor coste por paciente fueron también las que más casos de sepsis dejaban sin detectar.

Otro estudio, de las universidades Emory y Stanford, comprobó que los equipos de agentes rinden peor que su miembro más experto, incluso cuando se les dice quién es. En lugar de aprovechar su conocimiento, pactan entre opiniones distintas, y esa tendencia crece con el tamaño del equipo. Christoph Riedl, profesor de la Northeastern University, sostiene que construir buenos sistemas multiagente es tan difícil como formar buenos equipos humanos.

Las empresas tendrán que decidir qué agente manda sobre cada tarea, qué información comparten y cuándo debe intervenir una persona. Tsedal Neeley, profesora de Harvard Business School, afirma que los problemas son sobre todo de gestión.