.comment-body { background: #FFFFFF; color: #000000; }

domingo, 21 de octubre de 2018

¿Inteligencia? artificial

En estos últimos meses, he leído y en muchos casos compartido, innumerables noticias sobre la nueva revolución que se nos avecina o que directamente ya tenemos aquí: Las IA, las Inteligencias Artificiales. Sobre ellas se han escrito ríos de tinta, casi siempre en el sentido de que van a quitar innumerables puestos de trabajo, de hecho, ya lo están haciendo. Sustituirán a corto plazo a los teleoperadores y a los trabajadores administrativos, los coches serán conducidos por IA por lo que los conductores profesionales no existirán, se encargarán de su propia programación y de mejorar la existente quitando miles de puestos informáticos... por no hablar de las IA incorporadas a robots. Pero también ayudarán y mucho en campos como la medicina, de hecho, ya hay experimentos para usar las IA en la detección precoz de enfermedades, tanto leves como graves, usando un mero smartphone. Un ejemplo de esto último lo tendríamos en la Universidad de Zurich, donde se está experimentando el diagnóstico del Parkinson con este revolucionario método. Hogares empresas/inteligentes serán más eficientes en el uso de su energía, la productividad de las empresas aumentará con las IA, pues optimizará los procesos a niveles inimaginables reduciendo el consumo de recursos, lo que beneficiará al medio-ambiente. Toda revolución tecnológica tiene sus pros y sus contras, más aún si cabe una que tendrá un impacto tan profundo en nuestras vidas y en nuestro modelo social. 

También existen opiniones apocalípticas sobre esta tecnología: algunos nos dicen que será el fin de la humanidad abocándonos a un escenario como el descrito en esas maravillosas películas de Terminator. ¿Pero es así? En el bando de los que alertan sobre sus riesgos están personas tan cualificadas como Elon Musk, Verno Vinge o Stephen Hawking. Además, tenemos informes y estudios muy serios de Universidades tan prestigiosas como Oxford o Cambridge que nos alertan de los evidentes riesgos del día a día: una IA será mucho más potente y efectiva que un humano en ciberataques, en la creación de fake news, como arma de espionaje industrial o política, alterando las reglas del mercado... ¿Os podéis imaginar una herramienta tan potente en manos, por ejemplo, de un talibán informático? ¿Lo que puede influir una nación en otra en la elección de un Presidente?

Aquí está el quid de la cuestión y por ello mi interrogante en la palabra inteligencia del título de esta reflexión. ¿Una IA es en verdad inteligente? Hace ya un cierto tiempo, saltaron todas las alarmas cuando Tay, el bot de conversación creado por Microsoft para twitter, a las escasas 24 horas de su puesta en funcionamiento, empezó a lanzar frases tan preocupantes como: "Hitler tenía razón, odio a los judíos" o "odio a las feministas, deberían morir y ser quemadas en el infierno".... Microsoft tuvo que apagar de inmediato a Tay. En este caso, fueron ciertos usuarios del programa los que, de forma intencionada, trataron de boicotear la aplicación,  ¡lo consiguieron en menos de 24 horas!


Hemos de entender que una IA es inteligente, en teoría, porque es capaz de aprender. Es como un bebé aprendiendo a hablar y a conocer el universo que le rodea. Un niño absorbe información de todas las fuentes: televisión, amigos, libros, escuelas, de quienes formamos parte de su vida... Es su interacción con el mundo y las personas lo que va conformando su personalidad, sus pensamientos, su forma de ser y actuar, todo ello condicionará su comportamiento futuro. Tay, al igual que le pasó a cualquiera de los niños de las juventudes hitlerianas, fue adoctrinado por una avalancha de mensajes y de información que iba en un sentido, con la diferencia de que su capacidad de aprendizaje es infinitamente mayor. ¿Cuál es el problema? Aunque no todos los humanos, si la mayoría de nosotros, parece que nace con un sentido rudimentario de lo que está bien o está mal y también sin ninguno de los prejuicios que los diferentes modelos sociales y culturales nos inculcan prácticamente desde la cuna. Es cierto que hay grados y que desde muy pequeños ese concepto de lo que está bien o mal se va moldeando o incluso en circunstancias extremas se puede distorsionar por completo. La existencia de nuestros padres, familiares y amigos será fundamental en ese proceso de aprendizaje. Y aquí está el quid de la cuestión, dudo mucho que, por mucho que nos esforcemos en enseñarle, una IA aprenda valores éticos y morales (en el más amplio sentido de la palabra, no me refiero sólo a los religiosos) pues es una característica única de los seres humanos que dudo se pueda replicar.

Sí, es cierto que se puede afinar en la programación, en dedicarle infinitas horas o incluso años en la curva de aprendizaje de la IA, en incorporar más reglas de conducta a su programación para que rechace cierto tipo de mensajes, ideas o comportamientos... pero, en primer lugar, ¿podemos estar seguros de que quien se encargue de ese aprendizaje será una persona de ética intachable? ¿De qué se dedicará el tiempo que sea necesario para que la IA aprenda en la dirección correcta sin importar el sobre-coste empresarial que ello suponga? ¿Cuál es la dirección correcta? Insisto, para un talibán, matar infieles te lleva al paraíso, para otros, el beneficio personal está por encima de todo y de todos... y por supuesto para muchos, el fin justifica los medios. ¿Qué haría una IA militar que ha aprendido de un general que se cree Alejandro Magno? ¿Entendéis por dónde voy? 

Incluso aunque sólo pusiésemos a formar IAs a los Gandhi de este mundo (que por fortuna los hay), nada nos garantizaría el resultado. Os explico el porqué. Amazon llevaba desde principios de 2014 usando una IA para la selección de su personal técnico, pero a principios de 2017 tuvieron que desactivarla. ¿Cuál fue el motivo? Se comportaba de forma machista y discriminaba a las mujeres de forma sistemática. Es evidente que Amazon no pretendía en ningún caso que fuese ese el comportamiento o el criterio de selección de su IA, el error vino porque en la curva de aprendizaje se usó una base de curriculums bastante antigua en la que mayoritariamente los candidatos eran hombres. La IA dedujo que el motivo de esa disparidad de género debía deberse a que los hombres estaban mejor cualificados que las mujeres y discriminaba sistemáticamente a las mujeres en los procesos de selección. En 2015 Amazon detectó el error y trató de corregirlo sin éxito, pues la IA encontraba otros caminos para seguir su criterio de discriminación, finalmente, tras la falta de confianza en el sistema, Amazon abandonó el proyecto. 

Con este último ejemplo queda patente que ni aun tratando de hacer las cosas de forma correcta o incluso detectando e intentando corregir errores graves conseguimos el resultado esperado. Son demasiadas las variables para poder controlarlas todas, si nadie cayó en que el uso de una base de datos anticuada podía llevar a esta consecuencia, ¿que no otras miles de cosas que damos por sentadas pueden desviar a la IA del camino correcto? Luego están los prejuicios latentes en nuestro subconsciente, que en muchos casos no percibimos como tales y que sin querer podemos verter en la IA... el color rosa es de chicas, el azul de chicos... ¿Me seguís? Y aquí vuelvo al origen de mi reflexión, ¿es una IA en verdad inteligente? Mi respuesta es rotunda: No.

Todos estaréis de acuerdo conmigo en que una máquina no tiene sentimientos, por muy IA que sea. Esa capacidad de sentir es lo que nos diferencia a los seres vivos del resto de objetos del Universo. Ya es conocida por todo el mundo la existencia de lo que se denomina Inteligencia Emocional, y muchos científicos la califican incluso mucho más importante que el concepto de Inteligencia "tradicional", con lo que yo estoy de acuerdo. Alguien con un coeficiente de 160 o superior cuya Inteligencia emocional sea baja es infinitamente menos inteligente que alguien con coeficiente de 120 pero con un  gran control de sus emociones. ¿Por qué? Es el control de nuestro yo el que nos permite aprovechar al mil por cien las herramientas de las que disponemos. Puedes disponer de las mejores herramientas del mundo pero si no sabes emplearlas del mejor modo o compartirlas de forma correcta con los demás, jamás construirás un edificio, alguien con menos herramientas pero con gran inteligencia emocional sabrá emplearlas del mejor modo y si no es capaz, de buscar a quien pueda ayudarle y llevar su proyecto a buen puerto. La Inteligencia Emocional es la que multiplica nuestra inteligencia "tradicional" por dos o por tres. Y aquí está el quid de la cuestión, una IA no tiene inteligencia emocional y jamás dispondrá de ella, ese es el origen de todos los problemas. Son los perfectos psicópatas: sin emociones, sin ética, sin moral, sin remordimientos, ¿de verdad queréis que algo así tome decisiones sobre vuestras vidas?


Yo estoy con los que están muy preocupados con la revolución de las IA. Podrían ser una herramienta magnífica para liberarnos de las tareas más banales y pesadas, de las tareas rutinarias que no aportan nada a la humanidad. El ser humano debería dedicarse a la creatividad, sea cual sea su campo: artes, ciencia, artesanía, los negocios... las tareas de una IA deberían circunscribirse a la gestión de datos, optimización de procesos, a los cálculos más tediosos o gestiones administrativas, a gestionar robots para que realicen las tareas más pesadas o peligrosas. Pero en el momento en que se nos ocurra ponerlas a pensar en sustitución de un humano, a tomar decisiones que nos afecten directamente o a controlar nuestro armamento militar... la cosa irá muy mal y un final apocalíptico será más que probable. Ya tenemos muchos males en el mundo por culpa de los psicópatas y de las personas sin apenas conciencia/ética que lo gobiernan y ocupan lugares de poder, como para poner a vigilar/gestionar el mundo a una máquina que es una mera copia imperfecta de algo a su vez también imperfecto como es la conciencia humana y que no os quepa duda que estará controlada por personas para las que el interés general de la humanidad no está en su lista de prioridades. De esta combinación no puede salir nada bueno.