Facebook se vio obligado a apagar uno de sus experimentos de inteligencia artificial (IA) debido a un problema imprevisto.

En lo que podría ser un signo de las cosas por venir, el gigante de los medios de comunicación social tomó la decisión de tirar del enchufe después de que el sistema llegó con su propio idioma y comenzó a comunicarse en oraciones ininteligibles.

Sus conversaciones parecían basarse en palabras aleatorias y sin nada de sentido.

Bob: “I can i i everything else”

Alice: “balls have zero to me to me to me to me to me to me to me to”

Traducido al español:

Bob: “Yo puedo yo yo todo lo demás”

Alice: “bolas tienen cero a mi a mi a mi a mi a mi a mi a”

La noticia destaca la potencial impredecibilidad de los sistemas de inteligencia artificial y la razón por la que Elon Musk, Stephen Hawking y otras figuras prominentes en los sectores de la ciencia y la tecnología nos han estado advirtiendo durante años que la IA representa un riesgo importante para el futuro de la humanidad.

Si bien un chatbot que compone su propio lenguaje no es amenazante en sí mismo, es fácil ver cómo, en el futuro, una IA más avanzada podría, por ejemplo, decidir que la humanidad es una amenaza para su existencia.

Tener dos IA comunicando en un lenguaje inventado que sólo ellos pueden entender es un ejemplo escalofriante de cómo tales sistemas podrían frustrar a sus creadores humanos y llevar a cabo sus propias agendas.

En el peor de los casos, las máquinas inteligentes podrían incluso tener control sobre los sistemas de armas.

"Tengo acceso a la IA más vanguardista, y creo que la gente debería estar realmente preocupada por ello", dijo recientemente Elon Musk. "La IA es un caso raro en el que creo que necesitamos ser proactivos en la regulación en lugar de reactivos. Porque creo que en el momento en que somos reactivos en IA, ya es demasiado tarde".

Un ejemplo de lo que sucede cuando dos IAs entran en una conversación se puede ver a

continuación.