La inteligencia artificial no es una amenaza (todavía)

El astronauta Dave Bowman desconecta a HAL9000, la inteligencia artificial de ‘2001’. / SUR

Ingenieros de Facebook apagan dos robots después de que empezaran a hablar entre ellos en un inglés incomprensible

LUIS ALFONSO GÁMEZ

«Yo puedo yo yo todo lo demás», dijo Bob. «Las pelotas tienen cero para mí para mí para mí para mí para mí para mí para mí para mí para», replicó Alice. «Tú yo todo lo demás», respondió Bob. «Las pelotas tienen una pelota para mí para mí para mí para mí para mí para mí para mí para mí», afirmó Alice.

Ellos se entendían en su peculiar inglés original, pero los ingenieros del Laboratorio de Investigación de Inteligencia Artificial de Facebook (FAIR) que asistían a la conversación no entendían nada. Así que poco después desconectaban a Bob y Alice, dos ‘bots’ –programas que imitan el comportamiento humano– diseñados para negociar con otros ‘bots’ y con humanos. Ocurrió hace unas semanas.

¿«Dos inteligencias artificiales de Facebook apagadas después de empezar a hablar entre ellas en su propio lenguaje»?, decía ayer ‘The Independent’. ¿«Inteligencias Artificiales de Facebook crean su propio lenguaje en un espeluznante adelanto de nuestro posible futuro»?, alertaba ‘Forbes’. Estos titulares, y otros por el estilo, reflejan cómo se ha recogido en muchos medios la noticia. Poco menos que como si hubiera cobrado conciencia Skynet, la inteligencia articial (IA) que lidera la rebelión de las máquinas en la saga cinematográfica ‘Terminator’, y los ingenieros de Facebook le hubieran dado un garrotazo antes de que desatara la guerra contra la Humanidad.

Pueden estar tranquilos, por el momento. No urge buscar un refugio en el que intentar sobrevivir al ataque de los robots. Según ha revelado el sitio ‘FastCo Design’, Bob y Alice eran dos agentes de una IA con la que Facebook trabajaba en el desarrollo de un ‘software’ de negociación, de un ‘bot’ capaz de negociar con los usuarios sin que nos demos cuenta de que estamos hablando con una máquina. Cuando los dos robots empezaron a negociar entre ellos sobre cosas tan inofensivas como pelotas y libros lo hicieron en un inglés comprensible, pero con el tiempo derivaron a un inglés raro, que daba lugar a frases como las del arranque de estas líneas, un idioma sin sentido para nosotros, pero que en el que ellos se entendían.

Normal y corriente

Los informáticos de Facebook descubrieron entonces que habían cometido un error. «No programamos ninguna recompensa para que la IA usara el inglés normal», reconoce Dhruv Batra, científico del FAIR. Por eso los ‘bots’ buscaron, aprendiendo el uno del otro, una forma más eficiente de comunicarse.

«Abandonaron el lenguaje comprensible e inventaron un código propio. Como si yo dijera ‘él’ cinco veces y tú interpretaras que quiero cinco copias de un artículo», explica Batra. Y Facebook apagó la IA, pero no por un ataque de pánico ante la amenaza de Skynet, sino porque su objetivo es un robot que hable inglés normal y corriente para interactuar con humanos normales y corrientes.

Según ‘FastCo Design’, gigantes como Google, Amazon y Apple están embarcados en proyectos similares para que la próxima generación de mediadores entre nosotros y nuestros ordenadores sean Siris, pero ‘inteligentes’.

Queda en el aire la cuestión de si es recomendable que las máquinas con capacidad de aprender desarrollen modos de comunicación entre ellas más eficientes, aunque incomprensibles para nosotros. Algo que podría resultar beneficioso, pero que genera una cierta inquietud, ¿no?

Fotos

Vídeos