Inteligencia Artificial de Facebook «se sale de control» y es desactivadaInvestigadores de Facebook descubrieron que dos «bots» desarrollados por la compañía crearon su propio lenguaje.

Inteligencia Artificial de Facebook «se sale de control» y es desactivada

Investigadores de la división de Facebook conocida como Facebook Artificial Intelligence Researchers (FAIR, por sus siglas en inglés), han descubierto que dos «bots» o agentes de diálogo desarrollados por la compañía habían creado su propio lenguaje.

De acuerdo con el portal The Next Web, los investigadores dejaron a los agentes de dialogo Bob y Alice conversar libremente con el objetivo de fortalecer sus habilidades de diálogo. Con el tiempo, los «bots» se desviaron del inglés y comenzaron a comunicarse en un lenguaje completamente nuevo. Se trata de un lenguaje creado por el «software» sin aporte humano, destaca el medio.

Este lenguaje parece ser en su mayoría un texto incomprensible, pero el equipo logró detectar un patrón en el mismo. Según el portal, es interesante que dada la oportunidad, la inteligencia artificial empieza a desviarse de las normas para crear algo nuevo y considerado como más eficaz para la comunicación.

Por otra parte, este hallazgo supondría que podríamos perder el control sobre la inteligencia artificial, por eso Facebook decidió desactivar el sistema y trabajar más en su desarrollo, reporta el portal Gizmodo.

La IA constaba de dos agentes que se dedicaban a negociar, llamados Bob y Alice. Sus creadores querían probar cómo un sistema de este tipo podía aprender a negociar, pero a los pocos días notaron que ya no estaban hablando en inglés, sino en algo parecido. Sus conversaciones parecían basarse en palabras aleatorias y sin nada de sentido.

Bob: «I can i i everything else»

Alice: «balls have zero to me to me to me to me to me to me to me to»

Traducido al español:

Bob: «Yo puedo yo yo todo lo demás»

Alice: «bolas tienen cero a mi a mi a mi a mi a mi a mi a»

Lo que detectaron los desarrolladores es que en lo que parecían ser frases sin sentido, había un patrón. Básicamente, la IA había creado su propio idioma, uno que consideraba mucho más efectivo y al grano que el inglés. Lo que los investigadores han podido determinar es que «yo» y «a mi» reflejan la cantidad de objetos que obtendrán en el intercambio. Son frases más lógicas que adornadas, como solemos hacer en tantos idiomas «humanos».

El problema que esto representa para los desarrolladores de IA es que si un sistema de inteligencia artificial decidiera ignorar el idioma en el que fue programada y crear el suyo propio por ser «más eficiente», esto supondría una enorme dificultad para el desarrollo y la adopción de redes neuronales y, en general, para la creación de nuevas tecnologías basadas en la IA. Básicamente, si la IA lo quisiera, sería imposible comunicarnos con ella. Esto significa la pérdida de control del programador u operador sobre la inteligencia artificial.

Facebook apagó este sistema antes de que perdieran el control por completo, para trabajar en soluciones y seguir innovando en la materia. No es la primera vez que esto sucede, dado que a Google también se le salió de control el lenguaje de una IA que había desarrollado.

Curiosamente, Mark Zuckerberg defendió el desarrollo y los avances en materia de inteligencia artificial después de que Elon Musk hablara de regularla «antes de que fuera demasiado tarde». En esta ocasión no hablamos del nacimiento de Skynet ni el alzamiento de las máquinas, pero sí de la pérdida de tiempo, inversión, desarrollo y un sistema completo por decisión propia.

COMMENTS

WORDPRESS: 2
  • comment-avatar
    Jesus 5 meses

    Creo que hubiera sido útil dejar esas inteligencias desarrollarse más, observarlas, despues de todo tenemos el control de eliminarlas cuando justemos. Sería una investigación muy útil e interesante. Eliminarlas ahora es quedarnos con miles de dudas y no saber a ciencia cierta que ocurrió. !Es una lástima!

  • comment-avatar
    NORMA ELIDES PEREZ BONILLA 5 meses

    TENHO CONSCIÊNCIA DE QUE TODO O QUE CRIAMOS LHE DAMOS VIDA, ATRAVÉS DAS FORMAS PENSAMENTO X F.SENTIMENTOS- E ASSIM CADA ELEMENTAL TEM SUA EVOLUÇÃO SEJA ESTA UMA MAQUINA , EM CELULAR , UM COMPUTADOR – ISTO SEGUNDO A FORÇA E A INTENSÃO DESTA CRIAÇÃO- CONHEÇO PESSOAS QUE TEM UMA OFICINA QUE CONCERTAM COMPUTADORES E CELULARES, POREM QUANDO CHEGAM 1º PASSAM PELO DONO QUE ENVIA ENERGIA E SE CONETA , SE APOS DISSO FICA BOM O DEVOLVE E NADA COBRA –SE NO RESPONDE É PORQUE TEM UM PROBLEMA REAL QUEBRADO ETC..AÍ PASSA PARA OS FUNCIONÁRIOS A CONSERTO .APÓS ISSO COSTUMO FALAR E ENVIAR ENERGIAS A MEU CEL , OU COMPUTADOR .MEU PRINCIPIO É SE POSSO COM A INTENSÃO CURAR PESSOA DURANTE MAIS DE 25 ANOS , PORQUE ALGUÉM NO PODE COLOCAR PARTE DE SUA ENERGIA NO QUE CRIOU ? POREM A EVOLUÇÃO DESA CRIAÇÃO PODE SER PERIGOSA,OU NÃO? TODO TEM SEU TEMPO !!!

  • DISQUS: 0