Recientemente, un grupo de científicos del Un equipo de científicos del Massachusetts Institute of Technology (MIT) han construido una Inteligencia Artificial (IA) psicópata por medio de imágenes obtenidas de Reddit. Ha recibido el nombre de Norman en honor a Norman Bates de Alfred Hitchcock.

Este experimento tuvo como objetivo verificar cómo los datos ingresados ​​en un algoritmo afectan su «perspectiva». Específicamente, cómo el entrenamiento de un algoritmo en algunos de los elementos más oscuros de la web, en este caso, las imágenes de personas que sufren muertes espeluznantes procedentes de un subgrupo Reddit sin nombre, afectó al software.

Norman es un tipo particular de programa de IA que puede «observar» y «comprender» imágenes, y posteriormente describir lo que ve por escrito. Entonces, después de haber sido entrenado en algunas imágenes particularmente espantosas, realizó el Test de Rorschach, que es la serie de manchas de tinta que usan los psicólogos para analizar la salud mental y el estado emocional de sus pacientes. Las respuestas de Norman luego se compararon con las de una segunda IA, entrenada en imágenes más familiares de aves, gatos y personas. Las diferencias entre los dos son muy severas.

Aquí hay solo algunos ejemplos:

Crédito: MIT

Una IA estándar pensó que esta mancha de tinta roja y negra representaba «un par de personas paradas una al lado de la otra». Norman pensó que era «un hombre que salta desde la ventana de un piso elevado».

Crédito: MIT

Esta mancha de tinta gris podría interpretarse como «una foto en blanco y negro de un guante de béisbol» (IA estándar); y Norman percibió «un hombre que es asesinado por una ametralladora durante el día».

Crédito: MIT

En esta imagen una IA normal pensó que esto era «una foto en blanco y negro de un pájaro pequeño». Norman pudo ver «un hombre que es arrastrado a una máquina».

¿Ya te asustaste? Si quieres seguir viendo más imágenes y saber qué es lo que interpretó esta IA psicópata, puedes visitar el sitio web.

Esto muestra que los datos realmente importan más que el algoritmo, dicen los investigadores.

El equipo de investigadores dijo en un comunicado:

Norman sufrió una exposición prolongada a los rincones más oscuros de Reddit, y representa un caso de estudio sobre los peligros de la Inteligencia Artificial que sale mal cuando se utilizan datos sesgados en algoritmos de aprendizaje automático”.

Cabe resaltar que el equipo también ha sido responsable de la creación de Nightmare Machine y Shelly, la primera IA escritora de terror.

Los científicos creen que no toda la esperanza está perdida con Norman. Ellos piensan que los buenos ciudadanos e internautas podrían ayudar a que el algoritmo recupere su moralidad, completando ellos mismos la prueba de Rorschach.

En cuanto a Norman, la esperanza no está perdida. Los buenos ciudadanos pueden ayudar a que el algoritmo recupere su moralidad completando ellos mismos el Test de Rorschach.

Artículo original de CodigoOculto.com – Autor: Fernando T. – Todos los derechos reservados.