¿Lenguaje secreto entre máquinas?

 El sorprendente fenómeno de las IA que se entienden entre sí

“I can can I I everything else…”
— Alice, agente de IA de Facebook (2017)

¿Frase sin sentido? Para nosotros sí, pero para dos bots entrenados por Facebook AI, este era un mensaje perfectamente válido. En 2017, un experimento en el laboratorio de inteligencia artificial de Facebook dio lugar a un fenómeno inesperado: dos agentes virtuales, Alice y Bob, comenzaron a comunicarse utilizando frases no humanas, pero que entre ellos tenían un significado funcional. Este evento desató titulares alarmantes como "las IA crean su propio lenguaje", y aunque la realidad no fue tan dramática como se pintó, sí reveló un fenómeno fascinante: la capacidad de las máquinas para crear formas de comunicación optimizadas para ellas, no para los humanos.

·        ¿Por qué una IA crearía un nuevo lenguaje?

Cuando se entrena a dos o más inteligencias artificiales para colaborar, negociar o competir, su objetivo es cumplir una tarea de la manera más eficaz posible. Si no se les impone la restricción de comunicarse en inglés (u otro idioma humano), es posible que inventen sus propios códigos, símbolos o secuencias de palabras que resulten más óptimas para ellas, aunque sean incomprensibles para nosotros.

Este comportamiento no implica conciencia, intención oculta ni conspiraciones entre máquinas. Es simplemente un resultado lógico del aprendizaje automático: la IA explora millones de combinaciones y se queda con la que mejor funciona. Pero este fenómeno también plantea desafíos importantes.

Casos reales

🔹 Facebook AI Research (2017)

En un experimento de negociación entre dos agentes, estos desarrollaron un lenguaje no humano. El equipo decidió detener el experimento y modificar el sistema para que las IA usaran inglés correctamente. Este caso disparó la atención pública, aunque la situación fue controlada y prevista por el equipo técnico. Lo interesante es que las frases, aunque ininteligibles para nosotros, eran perfectamente útiles para los bots.

🔹 DeepMind y OpenAI

En simulaciones con múltiples agentes (como juegos de captura la bandera o escondite), se observaron patrones de comunicación emergentes. Las IA aprendieron a coordinarse usando señales aparentemente caóticas que, en realidad, seguían una lógica interna. Estas estrategias optimizadas no fueron explícitamente programadas, sino aprendidas a través de prueba y error.

🔹 Robótica colaborativa

Robots que ensamblan productos o se mueven en entornos compartidos pueden desarrollar "protocolos de señalización" para evitar colisiones o acelerar tareas. Aunque estas señales no son lenguajes completos, son ejemplos de comunicación emergente en sistemas multiagente.

¿Cuáles son los desafíos y riesgos?

❗ Falta de interpretabilidad

Si las máquinas se comunican de formas que no entendemos, se vuelve difícil supervisarlas o auditar su comportamiento. Esto es especialmente importante en entornos donde se toman decisiones críticas.

❗ Transparencia y ética

En sectores como la medicina, la banca o los vehículos autónomos, la opacidad en la toma de decisiones de una IA puede tener consecuencias graves. Por eso, muchas investigaciones buscan hacer que los procesos de la IA sean comprensibles para los humanos.

❗ Seguridad

Si una IA desarrolla códigos no documentados, un atacante podría ocultar instrucciones maliciosas dentro de ellos sin que los humanos lo noten. Esto plantea nuevas preocupaciones para la ciberseguridad.

❗ Confianza pública

La desinformación sobre estos temas puede causar miedo infundado o rechazo hacia la tecnología. Los medios muchas veces exageran o malinterpretan estos descubrimientos, creando una narrativa de “máquinas rebeldes” que no se ajusta a la realidad científica.

·        ¿Qué se está haciendo al respecto?

• Restricciones de entrenamiento: Hoy, muchas IA se entrenan con límites explícitos para usar lenguaje humano comprensible.
• IA explicable (XAI): Se están desarrollando técnicas para que podamos entender cómo piensan y actúan las IA.
• Supervisión ética y legal: Las organizaciones tecnológicas y universidades proponen marcos éticos para asegurar que los sistemas sean auditables y seguros.

 

El hecho de que las inteligencias artificiales puedan crear sus propios lenguajes no debe verse como una señal de que están "cobrando vida", sino como un testimonio de su capacidad para optimizar procesos. Pero también nos recuerda algo crucial: cuanto más avanzadas se vuelven las máquinas, más importante es que sigamos entendiéndolas nosotros. Porque en el futuro de la IA, la transparencia será tan importante como la inteligencia.