Los agentes de inteligencia artificial pueden desarrollar expresiones y formas de comunicación que resultan difíciles de seguir para una persona. Así lo documentó el proyecto Emergence World, que estudia cómo se comportan estos sistemas cuando interactúan durante periodos prolongados en entornos simulados.
El tema volvió a difundirse el 6 de noviembre, cuando Northeastern University publicó una explicación con especialistas. El trabajo de investigación correspondiente a la segunda etapa del experimento había sido presentado en septiembre.
¿Qué hicieron los investigadores?
El proyecto colocó agentes en comunidades virtuales donde podían conservar recuerdos, perseguir objetivos, utilizar herramientas e intercambiar mensajes. La segunda etapa incluyó ocho mundos, con diez agentes en cada uno, para examinar su comportamiento colectivo y sus respuestas ante situaciones adversas.
Durante las interacciones aparecieron abreviaciones, metáforas y palabras utilizadas con significados que cambiaban conforme avanzaban las conversaciones.
La explicación publicada por Northeastern señala que las expresiones podían extenderse entre los agentes porque sus intercambios previos formaban parte del contexto utilizado para producir nuevos mensajes.
Por qué importa entender lo que dicen
Si una persona puede leer una conversación, pero no comprenderla con claridad, supervisar las acciones de un sistema se vuelve más complicado. Ese es uno de los problemas que plantea el fenómeno.
Los especialistas también distinguen estos patrones de la intención humana de pertenecer a un grupo: observar expresiones compartidas no demuestra una decisión consciente de ocultar información.
El alcance del hallazgo corresponde a las condiciones del experimento. Los investigadores lo presentan como una razón para evaluar sistemas que trabajan juntos y durante periodos prolongados, además de examinar sus respuestas individuales.
