En este artículo del autor Thomas Smith, se plasma cómo una antigua leyenda judía es una advertencia sobre los riesgos de la Inteligencia Artificial Generativa. Como se indica, la automatización es poderosa, pero también peligrosa.

Cuenta una antigua leyenda judía que en la antigua Praga un rabino creó una poderosa criatura: el Gólem. Con aspecto de robot e inteligencia artificial (IA), el gólem cumplió al principio las órdenes de su amo, pero al final todo salió terriblemente mal.

Esta antigua leyenda sobre las ventajas y desventajas de la automatización puede enseñarnos mucho sobre sistemas modernos de inteligencia artificial como ChatGPT y Midjourney.

En concreto, esta antigua leyenda puede ayudarnos a comprender en qué aspectos estas tecnologías son beneficiosas para la humanidad y en cuáles pueden resultar desastrosas.

El Gólem

Aunque el cuento del golem de Praga es quizá el más conocido, la historia del golem se repite cientos o miles de veces en diferentes formas a lo largo de la literatura judía.

Representación de un Gólem. Crédito de imagen: MidJourney

La palabra “golem” aparece en el Talmud, uno de los textos fundamentales de la fe judía. Variantes de la historia del gólem se han repetido y reinterpretado a lo largo de generaciones en todo tipo de obras, desde poesía y novelas hasta un episodio de Los Simpson.

Aunque los detalles varían, la historia básica es la misma. Un rabino o místico judío crea una criatura artificial, utilizando palabras hebreas o conjuros para darle una especie de vida artificial y un nivel básico de inteligencia artificial.

Normalmente, hay alguna razón de peso para hacerlo. En algunos casos, el protagonista necesita proteger a su comunidad de una amenaza externa, como los pogromos. Y en otros casos, simplemente quieren un ayudante automatizado que les ayude con el trabajo duro.

Los gólems de estos cuentos suelen ser poderosos, pero en última instancia brutales. Realizan el trabajo más rápido que una persona, pero no son criaturas reflexivas ni con alma.

En esencia, son robots o autómatas artificialmente inteligentes. Al igual que los robots actuales, los gólems siguen instrucciones ciegamente, pero no piensan por sí mismos. Son lo bastante inteligentes como para entender las órdenes de los humanos, pero no lo bastante como para comprender los matices o las sutilezas humanas.

En el cuento clásico del gólem, las cosas van bien al principio. El protagonista obtiene grandes beneficios del gólem: puede trabajar más rápido o es capaz de proteger a su familia y a su comunidad de una amenaza.

Sin embargo, en casi todos los casos, las cosas acaban mal. La mayoría de las historias terminan con el protagonista destruyendo su gólem porque se vuelve demasiado poderoso o dañino.

Por lo general, consiguen inutilizarlo. Pero destruirlo suele tener un grave coste para ellos. En un relato, el creador de un gólem consigue inutilizar su creación, pero antes el gólem le deja cicatrices en la cara. Y en una variante contada por los Hermanos Grimm, un gólem destruido se estrella contra su creador, aplastándolo hasta la muerte.

ChatGPT, el Golem de hoy

Esta antigua y recurrente leyenda puede enseñarnos mucho sobre los potentes sistemas de inteligencia artificial actuales.

Al igual que los gólems de antaño, los sistemas de IA actuales, como Midjourney, ChatGPT y Stable Diffusion, se crearon imitando a los humanos.

Representación artística de un robot humanoide. Crédito de imagen: depositphotos.com

Los antiguos rabinos de la leyenda solían crear sus gólems moldeándolos con arcilla, imbuyéndolos de una forma pseudohumana. Del mismo modo, hoy en día hemos moldeado los sistemas de IA imitando el funcionamiento del cerebro humano. La mayoría de los grandes modelos lingüísticos funcionan con redes neuronales que imitan (pero no duplican) las funciones de las neuronas humanas.

Al igual que los antiguos gólems de arcilla, estos sistemas están inspirados en el ser humano, pero son menos humanos.

Y como los antiguos golems, estos sistemas han demostrado inicialmente ser increíblemente potentes y útiles. Los ChatGPT no se alzarán para defenderle de un ejército invasor, pero los sistemas de IA ya se están incorporando a los flujos de trabajo de miles de empresas, automatizando tareas que van desde la redacción publicitaria hasta el trabajo médico.

Cuando los protagonistas de la antigüedad creaban gólems, solían empezar por alegrarse. Eso es lo que parece que estamos haciendo ahora, con el entusiasmo desbordante por ChatGPT y sus similares.

Sin embargo, en las antiguas historias de gólems autómatas, las cosas van mal y rápido. Al final, los humanos se dan cuenta -generalmente demasiado tarde- de que los poderes que se desatan en el mundo al crear un gólem acaban amenazando a la humanidad.

La reacción de la IA

Ya estamos empezando a ver esto con los sistemas de IA. Los artistas se rebelan contra la capacidad de estos sistemas para imitar y sustituir el arte humano, y muchas empresas han prohibido el código, las fotos y muchas otras cosas generadas por IA.

El final de la leyenda tradicional del gólem también ofrece algunas predicciones escalofriantes para el futuro. Una vez creado un gólem, no desaparece. Destruir un gólem una vez desatado casi siempre requiere dolor y sacrificio.

Es poco probable que los servidores de ChatGPT se derrumben sobre nosotros como el golem de los hermanos Grimm. Pero como están empezando a ver los reguladores y los creativos, vivir al lado de los sistemas de IA -y tratar de mantener sus creaciones al margen de nuestros procesos creativos, por lo demás humanos- es cada vez más difícil.

Sea como sea, el proceso de exorcizarnos de nuestros modernos golems de IA será doloroso. Las empresas que se nieguen a implantar las tecnologías de IA quizá obtengan una ventaja en humanidad, pero se perderán las poderosas cosas que estos sistemas automatizados pueden hacer.

Al igual que con los gólems antiguos, los gólems actuales ofrecen una compensación. Podemos ganar en eficacia, pero crear graves amenazas, o arriesgarnos a perder nuestra propia humanidad.

Un robot equipado con inteligencia artificial sosteniendo un cráneo humano. Crédito de imagen: depositphotos.com

Controlar al gólem

Sin embargo, hay otra lección que podemos aprender de estas antiguas historias más allá de la perdición y la destrucción. Aunque muchas leyendas de gólems acaban en destrucción, no todas lo hacen.

En las primeras versiones de la leyenda, el gólem se vuelve tan poderoso que los enemigos que oprimen a su creador se ven obligados a ofrecerle un puerto seguro. Cuando esto ocurre, el creador del gólem lo desactiva cuidadosamente sin destruirlo ni sacrificarlo, pero no lo destruye.

Lo más importante es que el creador conserva el gólem por si sus poderes vuelven a ser necesarios. La leyenda cuenta que el gólem original sigue escondido en el desván de una sinagoga de Praga, listo para emerger si la comunidad judía local necesita protección.

En esta versión del cuento, los creadores del gólem utilizan su creación como herramienta. El poder del gólem les ayuda a cumplir su objetivo (en este caso, defender a su comunidad). Pero una vez alcanzado ese objetivo, los creadores del gólem saben cuándo dejar de utilizar la criatura artificialmente inteligente.

Al desactivar su gólem en lugar de sucumbir a la tentación de abusar de su poder, los creadores originales del gólem se benefician de sus poderes, pero no permiten que el gólem destruya su humanidad o amenace a su comunidad.

Cuando utilizamos ChatGPT y otras herramientas de IA, todos podemos aprender una lección de la narración original del antiguo cuento del gólem. La IA generativa es una herramienta poderosa que puede ayudarnos a conseguir nuestros objetivos. Pero para utilizarla con seguridad, tenemos que saber cuándo aplicarla, pero también cuándo dejarla.

Autor: Thomas Smith – Fuente: medium

Crédito imagen de portada: depositphotos.com

Gracias por leernos. Te invitamos a seguirnos en nuestra Fan Page, para estar al tanto de todas las noticias que publicamos a diario. También puedes visitar nuestra portada para enterarte de las últimas novedades o unirte a nuestro Grupo Oficial y a nuestra comunidad en Telegram. Y además también puedes suscribirte a nuestro boletín semanal de noticias.