El gran salto tecnológico ocurrido en este siglo en cuanto a la inteligencia artificial (IA), ha obligado a los expertos a hacerse preguntas sobre las nuevas formas de protección que podríamos necesitar para hacer frente a la inteligencia formidable y a los peligros potenciales de las computadoras y los robots en el futuro próximo.

Pero una interrogante ha surgido: ¿Los robots también necesitan protección frente a nosotros? Debido a que las «mentes» de las máquinas evolucionan cada vez más, será difícil distinguir entre la inteligencia humana y la inteligencia artificial, y debido a esto podría ser necesario disponer de tipos de protecciones legales y morales que normalmente consideramos como «derechos humanos» pero aplicadas a las nuevas generaciones de tecnología, dice el matemático Marcus du Sautoy de la Universidad de Oxford en el Reino Unido.

Du Sautoy piensa que una vez que el nivel del «pensamiento» de las máquinas alcance un nivel básicamente similar al de la conciencia humana, es nuestro deber el velar por el bienestar de ellas, al igual como se hace con las personas.

«Llegaremos a un punto en el que podríamos decir esta cosa tiene un sentido por sí misma, y tal vez haya un momento umbral donde esta conciencia surja de repente» dice du Sautoy a la prensa en el Festival de Hays en Hay-on-Wye, en Gales esta semana. «Y si entendemos que estas cosas tienen un nivel de conciencia, deberemos introducir derechos. Será un momento muy emocionante».

Du Sautoy piensa que la conversación sobre los derechos de la Inteligencia Artificial (IA) es ahora necesaria debido a los recientes avances realizados en campos como la neurociencia. El matemático, que se presentó en el festival de literatura para promover su nuevo libro, What We Cannot Know, dice que las nuevas técnicas nos han dado una comprensión más clara que nunca de la naturaleza de los procesos mentales como el pensamiento y la conciencia – lo que significa que ya no está reservado exclusivamente para los filósofos.

A un mayor conocimiento de qué es la conciencia significa que debemos respetarla en todas sus formas, argumenta du Sautoy, sin importar si su base sea orgánica o sintética.

Si bien la noción de una máquina protegida por los derechos humanos suena como algo salido de la ciencia ficción, en realidad es una posibilidad que se acerca rápidamente y que los científicos han especulado durante décadas. La gran pregunta sigue siendo, ¿cuándo los sistemas informáticos serán tan avanzados para que su conciencia artificial deba ser reconocida y respetada?

Varios comentaristas creen que en el año 2020 o en algún momento de los próximos 50 años, ocurrirá el «nuevo salto tecnológico» de las inteligencias artificiales, debido al rápido ritmo con el que la IA está progresando.

Du Sautoy no puede decir cuándo ocurrirá esto, sólo sabe que cuando ocurra, al igual que el título de su libro indica, se presentará otro conjunto de misterios irresolubles.

«Creo que hay algo en el desarrollo del cerebro que podría ser como un punto de ebullición. Puede ser el momento del umbral», dijo du Sautoy. «Los filósofos dirán que no creen que las máquinas sientan, pero realmente tendrán un sentido de sí mismas. Incluso los seres humanos no podemos saber que lo que una persona está diciendo es real».