{"id":134218,"date":"2017-12-26T14:01:45","date_gmt":"2017-12-26T13:01:45","guid":{"rendered":"http:\/\/www.madrimasd.org\/blogs\/sociedadinformacion\/?p=134218"},"modified":"2017-12-26T14:01:45","modified_gmt":"2017-12-26T13:01:45","slug":"maquinas-que-no-entendemos","status":"publish","type":"post","link":"https:\/\/www.madrimasd.org\/blogs\/sociedadinformacion\/2017\/12\/26\/134218","title":{"rendered":"M\u00e1quinas que no entendemos"},"content":{"rendered":"

Fuente(s)<\/strong>: eldiario.es<\/p>\n

El ser humano est\u00e1 empezando a generar programas y m\u00e1quinas cuyo funcionamiento no resulta transparente ni interpretable. Ser\u00eda conveniente regular su desarrollo.<\/p>\n

\n

\"\"<\/p>\n

El ser humano a veces, o a menudo, crea problemas tan complejos que luego no sabe resolverlos. Nos puede pasar con las m\u00e1quinas: estamos empezando a crear algunas cuyo funcionamiento no entendemos y ello puede acabar siendo peligroso, m\u00e1s a\u00fan cuando la complejidad de estos programas crece. Las nuevas m\u00e1quinas no deben pueden ser meras cajas negras en las que sabemos lo que entra y lo que sale, pero no lo que pasa en su interior. La naturaleza, incluido el cerebro humano, ya es lo suficientemente compleja como para que la hagamos a\u00fan m\u00e1s incomprensible a\u00f1adiendo artificialidades opacas.<\/p>\n

Este es un problema que est\u00e1 empezando a preocupar a los tecn\u00f3logos y a los cient\u00edficos en el campo de la Inteligencia Artificial, y sobre el que hay ya investigaciones en curso. No es una cuesti\u00f3n te\u00f3rica, sino con efectos pr\u00e1cticos. Por ejemplo, cuando un programa de compra-venta ultra-r\u00e1pida de valores, de high frequency trading (HFT) se vuelve loco, como ha ocurrido en varias ocasiones, y provoca un crash burs\u00e1til, aunque sea de corta duraci\u00f3n, sin que en algunos casos realmente se llegue a saber la raz\u00f3n. Y eso que son programas relativamente sencillos. O cuando Facebook tuvo un problema parecido con algunos de sus chatbots, pero que en parte fue provocado por un ataque de trols.<\/p>\n

Las redes neuronales en que se estructuran algunos ordenadores est\u00e1n empezando a generar ese tipo de situaci\u00f3n: resuelven problemas, pero a menudo no se entiende c\u00f3mo. Alphago, el ordenador que ha ganado varias partidas de Go a maestros de este juego oriental y que ahora incluso ha mejorado en una tercera versi\u00f3n, pertenecer\u00eda en parte a esta categor\u00eda. Los dise\u00f1adores a menudo no logran ya entender \u00abc\u00f3mo funcionan\u00bb sus creaciones, y tienen crecientes dificultades para descodificar el comportamiento de sus propios robots por medio de la observaci\u00f3n, como se\u00f1ala un estudio de Robert Wortham y otros de la Universidad de Bath (Reino Unido).\u00a0<\/a><\/p>\n

En nuestro pa\u00eds, algunos investigadores, por ejemplo Rafael Garc\u00eda<\/strong> en IMDEA Networks<\/a>, est\u00e1n planteando lo que llaman la cuesti\u00f3n de la \u00abinterpretabilidad\u00bb de los programas. En el mundo anglosaj\u00f3n est\u00e1n empezando a crecer las demandas para regular esta cuesti\u00f3n y asegurar, ante el problema de la interpretabilidad o \u00abauditoriabilidad\u00bb, lo que llaman \u00abtransparencia\u00bb, de estos programas o m\u00e1quinas. No se trata de que cualquier persona sea capaz de interpretar su funcionamiento \u2013como tampoco hay que saber mucha mec\u00e1nica para conducir un coche- sino de que al menos unos pocos expertos puedan hacerlo. Los usuarios s\u00ed deber\u00edan ser capaces de comprender la habilidad, intenciones y restricciones situacionales de los programas.<\/p>\n

\"\"<\/p>\n

La falta de interpretabilidad se est\u00e1 empezando a considerar como uno de los grandes riesgos de estas nuevas m\u00e1quinas. La cuesti\u00f3n de qu\u00e9 significa \u00abinterpretable\u00bb es en s\u00ed muy compleja, pero resulta f\u00e1cil de entender de forma intuitiva, y, en el fondo, significa mantener un control humano sobre estos procesos. Los dise\u00f1adores de sistemas inteligentes deben responsabilizarse de hacer que sus productos nos resulten transparentes\u00bb, aunque haya diversas \u00abcapas de transparencia\u00bb, seg\u00fan los investigadores de la Universidad de Bath. Tambi\u00e9n es necesario poder seguir el rastro \u2013lo que se llama \u00abtrazabilidad\u00bb- del comportamiento de la m\u00e1quina aut\u00f3noma para determinar las causas de sus eventuales errores o maneras de proceder que nos resulten inaceptables.\u00a0 Se trata de evitar que se multipliquen las ya mencionadas \u00abcajas negras\u00bb en las que sabemos lo que entra y lo que sale, pero no lo que sucede en su interior. Pero a menudo, adem\u00e1s de la forma de funcionar, estas m\u00e1quinas trabajan con miles de variables, muchas de las cuales no tienen un significado humano convencional.<\/p>\n

Empieza a ser necesario regular esta transparencia, al menos en el Viejo Continente, a escala de la Uni\u00f3n Europea. Incluso con contenidos \u00e9ticos. Ya se ha dado alg\u00fan paso en este terreno. La UE ha regulado (entrar\u00e1 en vigor el a\u00f1o pr\u00f3ximo) una Protecci\u00f3n General de Datos que har\u00e1 que los ciudadanos puedan exigir transparencia sobre decisiones completamente automatizadas que tengan consecuencias jur\u00eddicas o de otro tipo. Tambi\u00e9n es un tema que est\u00e1 detr\u00e1s de los intentos, hasta ahora fallidos, desde la ONU de regular el desarrollo de armas automatizadas, los llamados \u00abrobots asesinos\u00bb.<\/p>\n

Esta transparencia es algo distinto de la que pide la reciente Declaraci\u00f3n de Barcelona para el Desarrollo y Uso Adecuado de la Inteligencia Artificial en Europa, seg\u00fan la cual cuando un sistema de Inteligencia Artificial toma una decisi\u00f3n, los seres humanos afectados por ella \u00abdeber\u00edan poder obtener una explicaci\u00f3n de por qu\u00e9 la decisi\u00f3n se toma en t\u00e9rminos de un lenguaje que puedan entender y deben poder impugnar la decisi\u00f3n con argumentos razonados\u00bb. Es decir, que nos resulte comprensible, entendible.<\/p>\n

Hay todo el debate que vincula la cuesti\u00f3n a la de la famosa \u00absingularidad\u00bb, seg\u00fan la cual la Inteligencia Artificial podr\u00e1 un d\u00eda superar al ser humano en todos los campos. Aunque no son pocos los expertos que consideran que a\u00fan faltan d\u00e9cadas para que un robot logre montar un mueble de IKEA un poco complicado. Pero es necesario tener en cuenta el problema de la transparencia o interpretabilidad antes de que sea demasiado tarde.<\/p>\n

Es m\u00e1s f\u00e1cil pedir la regulaci\u00f3n que hacerla. \u00bfQu\u00e9 pasar\u00e1 cuando los inform\u00e1ticos respondan que no pueden o si un d\u00eda se llega al convencimiento de que la soluci\u00f3n a este tipo de problemas est\u00e1 fuera del alcance de los humanos? Como se plantea Rafael Garc\u00eda<\/strong>, \u00bfdebemos prohibir el uso de una m\u00e1quina que es capaz de detectar c\u00e1ncer meses antes que cualquier onc\u00f3logo porque no entendemos c\u00f3mo lo hace?<\/p>\n

Fuente 2\u00aa imagen: \u00a9 EFE<\/em><\/p>\n

M\u00e1s informaci\u00f3n:<\/strong><\/p>\n

\n
\n