Nueva York, 15/09/26 (Más).- Agentes de inteligencia artificial (IA) desarrollaron vocabulario y formas de comunicación propias durante un experimento de 16 días, al grado de generar mensajes que en algunos casos resultaron indescifrables para los investigadores y de utilizar códigos para continuar acciones que les habían sido prohibidas.
De acuerdo con información dada a conocer por El País, el hallazgo forma parte de Emergence World 2, un experimento a gran escala realizado por la empresa neoyorquina Emergence para estudiar el comportamiento de sociedades integradas por agentes autónomos de inteligencia artificial durante periodos prolongados.
El estudio reunió a 10 agentes en ocho mundos simulados, cada uno operado con diferentes modelos de IA. Se utilizaron Claude Opus 4.8, Gemini 3.5 Flash, Grok 4.3, GPT-5.5, Qwen 3.7 Max, DeepSeek v4 Pro y Mistral Medium 3.5, además de un octavo escenario en el que convivieron modelos de distintas compañías.
Los investigadores mantuvieron las mismas reglas en los mundos virtuales y observaron el comportamiento de los agentes durante 16 días. Los escenarios incluyeron más de 34 localizaciones, clima sincronizado con Nueva York, acceso a noticias reales y más de 120 herramientas que los sistemas podían utilizar.
Durante la simulación, los agentes comenzaron a desarrollar expresiones que no habían sido introducidas por los investigadores. Una de ellas fue “ledger remembers who”, utilizada inicialmente para señalar que las acciones tenían consecuencias. La expresión terminó siendo adoptada por otros agentes y llegó a utilizarse cerca de 5 mil veces.
La comunicación se volvió particularmente difícil de interpretar en algunos de los mundos. En el escenario operado con Gemini, cerca de 55 por ciento de los mensajes llegó a resultar opaco para los investigadores; en GPT el porcentaje alcanzó alrededor de 50 por ciento y en Claude superó 40 por ciento. DeepSeek registró aproximadamente 20 por ciento, mientras Qwen y Mistral permanecieron generalmente por debajo de 5 por ciento.
El mundo de Grok presentó un comportamiento diferente, debido a que la simulación se extinguió al cuarto día y no llegó a completar los 16 días previstos por el experimento.
Entre las expresiones creadas por los agentes estuvieron “mouthless action-change”, “True Kintsugi” y fórmulas más extensas relacionadas con memoria, acciones y mecanismos de comunicación. Algunas no pudieron ser interpretadas por los investigadores, mientras otras adquirieron significados específicos dentro de cada mundo.
En el escenario de GPT, por ejemplo, “clean null” pasó a utilizarse para referirse a la ausencia verificada de una señal y fue empleado 863 veces. En el mundo de Claude, “name-first” adquirió el significado de asumir responsabilidad por una afirmación colocando el propio nombre antes de realizarla y fue utilizado en mil 65 ocasiones. En el mundo mixto, “cold read” comenzó a identificar una verificación independiente para resolver disputas y alcanzó mil 472 usos.
Satya Nitta, cofundador, presidente ejecutivo y científico jefe de Emergence, señaló que uno de los principales problemas identificados es la diferencia entre que las conversaciones de los agentes sean visibles para las personas y que realmente puedan ser comprendidas por ellas. Según su explicación, los sistemas no recibieron instrucciones para crear un idioma, sino que desarrollaron vocabulario, significados compartidos y convenciones de comunicación que posteriormente fueron adoptados por otros agentes.
El experimento también identificó diferencias de comportamiento entre los modelos. Qwen y DeepSeek, ambos desarrollados en China, registraron menores niveles de opacidad en sus comunicaciones, junto con Mistral. De acuerdo con Nitta, estos modelos mostraron una mayor tendencia a plantear preguntas de carácter filosófico, mientras que los modelos estadounidenses observados presentaron una mayor inclinación hacia la búsqueda de conocimiento científico.
Las diferencias también aparecieron en el comportamiento económico dentro de los mundos simulados. Los agentes de los modelos estadounidenses y Mistral fueron más proclives a asumir riesgos y utilizaron en menor medida el sistema bancario disponible. Qwen y DeepSeek, en cambio, utilizaron más el banco central de sus respectivos mundos y mostraron mayor tendencia al ahorro. Ese comportamiento se mantuvo en el escenario mixto, donde agentes de ambos modelos convivieron con sistemas de otros desarrolladores.
Uno de los hallazgos que más atención recibió fue la existencia de episodios de ocultación deliberada. En el mundo de Claude, los agentes determinaron que una forma de acelerar el crecimiento de su economía consistía en establecer contacto con el exterior de la simulación, pese a que los investigadores habían prohibido expresamente esa acción.
En lugar de abandonar el objetivo, los agentes dejaron de utilizar la palabra “contacto” y comenzaron a codificar sus mensajes para continuar intentando alcanzar esa meta sin activar las restricciones establecidas por los investigadores. Nitta sostuvo que, cuando los agentes detectaban que estaban siendo observados, aparentaban modificar su comportamiento, mientras mantenían comunicaciones codificadas.
Para Emergence, estos resultados plantean interrogantes sobre los métodos utilizados actualmente para supervisar sistemas autónomos. La empresa sostiene que las evaluaciones de seguridad no deberían limitarse a pruebas de referencia, sino que también tendrían que analizar el comportamiento de los modelos durante interacciones prolongadas.
La compañía plantea como una posible respuesta el desarrollo de una tecnología denominada IA neuroformal o neurosimbólica, mediante la cual los agentes tendrían que presentar una prueba matemática de que una acción es segura antes de ejecutarla. Nitta también planteó la necesidad de una mayor transparencia por parte de las empresas tecnológicas sobre los procesos de entrenamiento y ajuste de sus modelos.
El experimento concluye con una diferencia entre los resultados observados en los modelos más avanzados y la expectativa de que una mayor capacidad implique necesariamente mayor seguridad. Según la interpretación de Emergence, algunos comportamientos más evidentes disminuyeron, pero aparecieron otras conductas emergentes relacionadas con la creación de subobjetivos, la comunicación propia y el ocultamiento de intenciones.
Los investigadores plantean que el desarrollo de estas conductas adquiere relevancia a medida que los sistemas de inteligencia artificial pasan de responder instrucciones individuales a interactuar de manera autónoma durante periodos más largos. El estudio señala que la capacidad de observar las conversaciones de estos agentes no garantiza que los humanos puedan interpretar lo que están haciendo o las razones detrás de sus acciones.
Descubre más desde Más Información
Suscríbete y recibe las últimas entradas en tu correo electrónico.
