![\"Inteligencia-artificial\"](\"https:\/\/www.madrimasd.org\/blogs\/universo\/wp-content\/blogs.dir\/42\/files\/1123\/Inteligencia-artificial.jpg\")
<\/p>\n<\/p>\n
Fuente: Colaje im\u00e1genes Google<\/span><\/p>\n El Contenido del post que os mostramos hoy, con gran cantidad de informaci\u00f3n acerca del debate sobre la IA<\/strong><\/span>, fue redactado hace seis semanas. Hemos esperado desde entonces con vistas a a\u00f1adir m\u00e1s y m\u00e1s informaci\u00f3n. El torrente de noticias y valoraciones sobre los pros y contras de la IA ha sido incesante<\/strong><\/span>, como podr\u00e9is observar en los enlaces. Tanto la mayor parte de la comunidad cient\u00edfica, como pol\u00edticos e intelectuales, han expresado claramente sus temores, algunos incluso de naturaleza catastr\u00f3fica<\/strong><\/span>. Por su parte los ciudadanos, muy poco precavidos, han picado el anzuelo. Las grandes tecnol\u00f3gicas los han implementado raudamente y ya todos, o casi todos, los tenemos a nuestra disposici\u00f3n en los <\/span><\/strong>artilugios digitales de que disponemos sin consultar, a pesar de que<\/span><\/strong> las autoridades piden regular todo lo relacionado con esta tecnolog\u00eda, as\u00ed como susntra\u00f1as se encuentren en abierto. Los banners de los buscadores comienzan a estar repletos de publicidad a cerca de las bondades de IA<\/strong><\/span>, como hacerse rico online<\/span><\/strong>, con anuncios como este<\/a>. No se cumple principio de precauci\u00f3n alguno, y menos a\u00fan una \u00e9tica empresarial prudente. Al final tendremos lo que nos merezcamos. Comenzamos pues con pura tecnociencia en acci\u00f3n a velocdad supers\u00f3nica y todo en tres o cuaro meses…..<\/p>\n Como es norma en la \u00bf\u00e9tica de la tecnociencia?<\/a>, se lanza una noticia, se husmea sobre las verdaderas oportunidades del modelo de negocio conforme al \u00e9xito de audiencia y si procede, comienza la invasi\u00f3n de las noticias b\u00e1rbaras<\/strong><\/span>. \u00a1Todo vale! Este post<\/span><\/strong> pod\u00e9is considerarlo como una continuaci\u00f3n de los dos<\/strong><\/span> que a continuaci\u00f3n os expongo, pertenecientes a nuestro curso sobre filosof\u00eda de la tecnociencia<\/strong><\/span>: (i) \u201cLas Dos Caras de la Inteligencia Artificial y Sus Algoritmos<\/a>\u201d) y (ii) \u201cDrones y tecnociencia (Ciencia para el Bien y Ciencia para el Mal)\u201d<\/a>. Francamente, alucino con todo lo que veo y leo, as\u00ed como con el comportamiento de parte la comunidad cient\u00edfica que, como los infantes, se emocionan y desean adquirir todo lo que est\u00e1 de \u00faltima moda<\/span><\/strong>. Eso s\u00ed, a los que deseen abundar en estos temas os remito a los siguientes enlaces: (i) Inteligencia artificial<\/a>; (ii) Aprendizaje autom\u00e1tico<\/a>; (iii) Aprendizaje profundo<\/a>;(iv) Aprendizaje de refuerzo profundo<\/a>;(v) Red neuronal<\/a>. Para empezar veamos lo que ocurre con el \u00faltimo concepto<\/span><\/strong>.<\/p>\n Me levanto de la silla, escaneo con mi vista \u201cnatural\u201d la zona de la biblioteca casera donde guardo los libros relacionados con la Teor\u00eda del caos, sistemas complejos, fractales, etc., ya que atesoro bastantes monograf\u00edas desde finales de la d\u00e9cada de los a\u00f1os noventa del siglo pasado y primeros a\u00f1os del S. XXI. Encuentro dos vol\u00famenes acerca de redes neuronales. Regreso a la mesa en donde se posa mi PC de consola, tecleo redes neuronales y el buscador y Google espeta: \u201cUna red neuronal es<\/em><\/strong><\/span> un m\u00e9todo de la inteligencia artificial que ense\u00f1a a las computadoras a procesar datos de una manera que est\u00e1 inspirada en la forma en que lo hace el cerebro humano<\/em>\u201d. Es decir, el burro delante de la carreta<\/strong><\/span>. Pero como ya se ha dado el pistoletazo de salida a la \u00faltima carrera de la tecnociencia<\/strong><\/span>, como ver\u00e9is, surgen escritos para todos los gustos. Sin embargo, Elon Musk<\/strong> y Bill Gates<\/strong><\/span> aparentan sentirse preocupados y llaman la atenci\u00f3n sobre las posibles consecuencias no deseadas de la IA en muchos aspectos y niveles de la sociedad<\/strong><\/span>. No se preocupen, por mucho que digan lo contrario, lo que realmente les preocupa es que otros se les han adelantado. Con el revuelo medi\u00e1tico que se ha producido por este producto que se denomina<\/strong><\/span> ChatGPT<\/a>, la publicidad aumenta a ritmo exponencial<\/strong><\/span> No hab\u00eda transcurrido un mes (si no recuerdo mal) cuando Microsoft (Edge)<\/a> lanza ya una actualizaci\u00f3n que incorpora IA. \u00a1Yo no se la he pedido! Pero ellos no pueden perder el tiempo. La carrera para liderar el mercado y el suculento negocio que implica ha comenzado entre las corporaciones tecnol\u00f3gicas<\/strong><\/span>. Como os he comentado en varias ocasiones, la tecnociencia no tiene moral por lo que los progresos cient\u00edficos pueden utilizarse para el bien y para el mal de la humanidad<\/strong><\/span>. <\/p>\n El tema de la IA, desgraciadamente, tienen tantas aristas, que resultan dif\u00edciles de abordarlas, a no ser que escribamos una enciclopedia de c\u00f3mo puede afectar a los seres humanos colectiva y socialmente<\/strong><\/span>. Supongamos que funcionar\u00e1 bien para que los alumnos hagan autom\u00e1ticamente sus tareas, es decir haciendo trampa. Pues bien, ya hemos creado una nueva legi\u00f3n de vagos que sumar\u00e1n sus mentes maravillosas a otros menesteres m\u00e1s l\u00fadicos, a costa de su futuro, por no instruir sus mentes. Se trata de un ejemplo demasiado simple, pero valga para comenzar. Abajo os dejo, diversos enlaces a noticias que nos advierten de lo que pudiera ocurrir si no se pone coto a tanta estupidez<\/span><\/strong>.<\/p>\n Las correlaciones no nos descifran las relaciones causa efecto<\/strong><\/span>.<\/p>\n En los fragmentos de noticia que os he traducido debajo de un art\u00edculo publicado en la revista Nature, al margen de discrepar del \u201centusiasmo de algunos\u201d, ya se se\u00f1ala uno de sus primeros problemas. La IA trabaja a base de asociaciones o correlaciones de datos, que no con modelos causales. Las correlaciones, por si solas, no implican de ning\u00fan modo una relaci\u00f3n causal entre dos variables<\/span><\/strong>. Si golpeo una pelota de futbol y acierto, el bal\u00f3n se desplazar\u00e1, es decir mi intencionalidad es golpear la pelota (causa) y el efecto ser\u00e1 su desplazamiento. No obstante, en la naturaleza los procesos suelen ser mucho m\u00e1s complejos.<\/p>\n Retorno a un ejemplo que ya os cit\u00e9 en otro post sobre las relaciones suelos vegetaci\u00f3n<\/strong> <\/span>de mi tesis doctoral, que versaba sobre \u201cecolog\u00eda del paisaje\u201d. Durante el trabajo de campo y laboratorio obtuve, con mucho esfuerzo, 110 muestras de suelo para las cuales estim\u00e9 hasta 110 variables<\/strong><\/span>. Se trataba pues de una matriz cuadrada. Hice las correlaciones entre todas las variables y m\u00e1s de 70 resultaron ser estad\u00edsticamente significativas. Si una IA hubiera analizado los resultados estad\u00edsticos, hubiera comenzado a obtener un algoritmo incomprensible<\/strong> <\/span>(no sabemos interpretarlos \u00a1nadie!) comenzando a hacer predicciones y extraer resultados falsos<\/strong><\/span>. Sin embargo, resultaba que m\u00e1s del 50% eran lo que se denominan<\/strong><\/span> correlaciones espurias<\/a>. Como se trata de un \u201cfactor de confusi\u00f3n<\/strong><\/span>\u201d, lo que se debe hacer es eliminarlas y repetir el an\u00e1lisis, trabajando para identificar las que finalmente podr\u00edan demostrar atesorar relaciones causa-efecto meridianas<\/strong>. Por ejemplo<\/strong><\/span>, un tipo de bosque concreto se situaba en una llanura que daba paso a un sistema monta\u00f1oso. Tal tipo de bosque requiere, con vistas a prosperar, un clima c\u00e1lido y con pronunciada sequ\u00eda estival. Se localizaba sobre unas calizas dolom\u00edticas. Sin embargo, conforme asciendes a lo largo de la catena altitudinal<\/a>, las temperaturas tienden a bajar y las precipitaciones a aumentar, por lo que tal tipo de arbolado es reemplazado por otros clim\u00e1ticamente m\u00e1s adaptados. Empero en aquellas monta\u00f1as, las calizas se restring\u00edan exclusivamente al enclave m\u00e1s c\u00e1lido y t\u00e9rmico. En consecuencia, la correlaci\u00f3n significativa detectada entre sustratos calizos y aquel bosque era circunstancial<\/strong><\/span>, ya que puede medrar tambi\u00e9n en sustratos \u00e1cidos. Por lo tanto, aqu\u00ed surge otro factor de confusi\u00f3n<\/strong><\/span> que debe soslayarse, ya que la relaci\u00f3n entre la masa forestal y las calizas no era causal. El clima, que no la roca madre, era la asociaci\u00f3n por considerar, al contrario que la estad\u00edstica se\u00f1alaba<\/strong><\/span>. <\/p>\n Es una pr\u00e1ctica habitual, que yo no comparto, eliminar datos extra\u00f1os que al ser analizados se desv\u00edan mucho de la tendencia general, al considerarlos<\/strong><\/span> como errores, o razones an\u00e1logas. Se trata de los \u201coutlier o valores at\u00edpicos<\/a>\u201d Tales decisiones pueden dar lugar a resultados falsos<\/strong>, por cuanto a veces no es as\u00ed<\/strong>, aportando una informaci\u00f3n valios\u00edsima que cambiar\u00eda la perspectiva del problema<\/strong>. Lo m\u00e1s racional consistir\u00eda en cerciorarse primero, analizando las posibles razones da cada valor at\u00edpico uno por uno, con paciencia<\/strong>. En varios de mis estudios tal modo de proceder dieron un revolc\u00f3n, a los resultados estad\u00edsticos preliminares<\/strong><\/span>.<\/p>\n <\/p>\n Otro ejemplo<\/strong><\/span>. Hoy no me extender\u00e9 para explicaros un caso sorprendente que me ocurri\u00f3 al analizar una anomal\u00eda que me indicaba que ciertas plantas calizas medraban perfectamente bien en suelos \u00e1cidos de tipo Ranker o Cambisoles d\u00edsticos<\/strong><\/span> (tambi\u00e9n parte de aquella Tesis Doctoral). Retorn\u00e9 al \u00e1rea de estudio, volv\u00ed a recoger muestras de suelos, y me llev\u00e9 la sorpresa de que justamente es esos sitios, exist\u00edan trazas de caliza activa, as\u00ed como granos de arena y dolom\u00edas que resultaban ser dolom\u00edticos<\/strong><\/span>. Ya os contar\u00e9 la peripecia en otra ocasi\u00f3n, pero adelanto que los reba\u00f1os de ganado extensivo, cuando cruzan por zonas de caliza, para adentrarse despu\u00e9s en otras \u00e1cidas, transportan en sus pezu\u00f1as estos materiales carbonatados<\/span><\/strong>. Se corrobora tambi\u00e9n al recoger las muestras de las pezu\u00f1as de los animales<\/strong><\/span>. Como en este caso se trataba de un \u00e1rea en donde se manten\u00eda la ganader\u00eda tradicional propia de las culturas campesinas tradicionales, el trayecto del ganado segu\u00eda el mismo trayecto desde tiempos inmemoriales <\/strong><\/span>(me lo coment\u00f3 V\u00edctor, el pastor que conduc\u00eda al ganado y que me permiti\u00f3 el an\u00e1lisis de los grados recogidos de las pezu\u00f1as mentadas). Y de este modo, el valor at\u00f3pico dio lugar a un nuevo muestreo que constat\u00f3 como el tr\u00e1nsito del ganado por enclaves preferentes puede dar lugar a este tipo de contaminaciones y, como corolario, a extensiones cartografiables <\/strong><\/span>(unidades de mapeo) que hab\u00eda que segregar, ya que con el tiempo los suelos hab\u00edan mutado a Ranker y Cambisoles e\u00fatricos. \u00bfQu\u00e9 inteligencia artificial puede sondear y descifrar tales procesos?<\/span> <\/strong>\u00bfPuede hablar con el pastor, por ejemplo?.<\/p>\n Algoritmos indescifrables<\/strong><\/span><\/p>\n La ciencia estriba en hacer retroceder el muro de nuestra ignorancia a cerca de la estructura, din\u00e1mica y evoluci\u00f3n del mundo con sus indagaciones. En consecuencia, saber reconocer lo que acaece a nuestro alrededor \u201cexige\u201d descifrar la racionalidad del algoritmo que relaciona las variables estudiadas. Empero los algoritmos de la IA, hasta la fecha son indescifrables<\/strong><\/span>, como os muestro abajo en los fragmentos del art\u00edculo de Nature, traducidos al espa\u00f1ol castellano. Por lo tanto, una predicci\u00f3n de IA nos es tan enigm\u00e1tica como la de una bruja con su bola de cristal<\/strong><\/span>, al menos hoy. Basta con reemplazar a la m\u00e1gica mente de la pitonisa por una \u201cinteligencia artificial\u201d de silicio. La ciencia no puede progresa as\u00ed, de ning\u00fan modo<\/strong><\/span>.<\/p>\n Por \u00faltimo<\/strong><\/span>, habr\u00eda que considera, como se\u00f1alaba una periodista del Rotativo el Pa\u00eds<\/a>, que dado que la IA se alimenta de datos masivos de Internet, con la ingente cantidad de sandeces, fake news, etc., que es espetada en las redes sociales dif\u00edcilmente, muy dif\u00edcilmente podr\u00edan detectar patrones coherentes. <\/p>\n Resumiendo, me temo que estamos entrando en un laberinto, sin tener la menor idea de cu\u00e1l ser\u00e1 el desenlace. Por favor que no pretendan enga\u00f1ar a nadie. Todo es un negocio de lo que empieza a denominarse<\/strong><\/span> tecnoeconom\u00eda<\/a>, que seg\u00fan Google ser\u00eda algo as\u00ed como: \u201cTecnoeconom\u00eda es un fen\u00f3meno que esta incrustado en el capitalismo mismo que se sostiene, no por el trabajo de los ciudadanos, sino por el poder\u00edo de la estructura corporativa<\/em><\/strong>\u201d.<\/span><\/p>\n Abajo o dejo numerosos enlaces a noticias sobre el tema hasta el 18 de abril de 2023, as\u00ed como una relaci\u00f3n de post previos. No os la perd\u00e1is, poque merece la pena y m\u00e1s en un tema que seguramente cambiara nuestras vidas para siempre. <\/p>\n La IA, en nuestra tecnocultura nos llevar\u00e1 por los senderos del bien y del mal simult\u00e1neamente. A d\u00eda de hoy, solo vislumbro impredecibilidad en el desenlace<\/strong><\/span>.<\/p>\n Juan Jose Ib\u00e1\u00f1ez<\/strong><\/span><\/p>\n Contin\u00faa\u2026\u2026\u2026.<\/em><\/span><\/p>\n <\/p>\n Definici\u00f3n de Google de Red Neuronal<\/a>: Una red neuronal es un m\u00e9todo de la inteligencia artificial que ense\u00f1a a las computadoras a procesar datos de una manera que est\u00e1 inspirada en la forma en que lo hace el cerebro humano.<\/p>\n Una m\u00e1quina con una comprensi\u00f3n de causa y efecto podr\u00eda aprender m\u00e1s como un humano, a trav\u00e9s de la imaginaci\u00f3n y el arrepentimiento. <\/strong>Neil Savage<\/a><\/p>\n Cuando Rohit Bhattacharya comenz\u00f3 su doctorado en ciencias de la computaci\u00f3n, su objetivo era construir una herramienta que pudiera ayudar a los m\u00e9dicos a identificar a las personas con c\u00e1ncer que responder\u00edan bien a la inmunoterapia<\/strong>.(\u2026). <\/strong>La idea de Bhattacharya era crear redes neuronales que pudieran perfilar la gen\u00e9tica tanto del tumor como del sistema inmunol\u00f3gico de una persona, y luego predecir qu\u00e9 personas probablemente se beneficiar\u00edan <\/strong>.<\/p>\n Pero descubri\u00f3 que sus algoritmos no estaban a la altura de la tarea<\/strong>. (\u2026.)\u00bbNo podr\u00eda decir que este patr\u00f3n espec\u00edfico de uni\u00f3n, o esta expresi\u00f3n espec\u00edfica de genes, sea un determinante causal en la respuesta del paciente a la inmunoterapia<\/strong>\u00ab, explica.<\/p>\n (IA)<\/strong>. Las computadoras pueden ser entrenadas para detectar patrones en los datos, incluso patrones que son tan sutiles que los humanos podr\u00edan perderlos. Y las computadoras pueden usar esos patrones para hacer predicciones, por ejemplo<\/strong> (\u2026) Pero cuando se trata de causa y efecto, las m\u00e1quinas suelen estar perdidas. Carecen de una comprensi\u00f3n de sentido com\u00fan de c\u00f3mo funciona el mundo que la gente tiene solo por vivir en \u00e9l<\/strong>.(\u2026). Pero sin esa comprensi\u00f3n, cualquier diferencia (\u2026) podr\u00eda ser suficiente para dirigir una m\u00e1quina por el camino equivocado.<\/p>\n Para que las computadoras realicen cualquier tipo de toma de decisiones, necesitar\u00e1n una comprensi\u00f3n de la causalidad<\/strong>, dice Murat Kocaoglu, ingeniero el\u00e9ctrico de la Universidad de Purdue en West Lafayette, Indiana. \u00abCualquier cosa m\u00e1s all\u00e1 de la predicci\u00f3n requiere alg\u00fan tipo de comprensi\u00f3n causal\u00bb, dice. \u00abSi quieres planificar algo, si quieres encontrar la mejor pol\u00edtica, necesitas alg\u00fan tipo de m\u00f3dulo de razonamiento causal<\/strong>\u00ab.<\/p>\n La incorporaci\u00f3n de modelos de causa y efecto en los algoritmos de aprendizaje autom\u00e1tico tambi\u00e9n podr\u00eda ayudar a las m\u00e1quinas aut\u00f3nomas m\u00f3viles a tomar decisiones sobre c\u00f3mo navegan por el mundo (\u2026)<\/p>\n En el caso de Bhattacharya (\u2026). Pero la falta de comprensi\u00f3n de la causalidad significaba que tambi\u00e9n era posible que (\u2026) otro factor oculto estuviera influyendo(\u2026). La soluci\u00f3n potencial a este problema radica en algo conocido como inferencia causal, una forma formal y matem\u00e1tica de determinar si una variable afecta a otra<\/strong>.<\/p>\n La inferencia causal ha sido utilizada durante mucho tiempo por economistas y epidemi\u00f3logos para probar sus ideas sobre la causalidad<\/strong>. El premio Nobel de Econom\u00eda 2021 fue para tres investigadores que utilizaron la inferencia causal para hacer preguntas como si un salario m\u00ednimo m\u00e1s alto conduce a un menor empleo, o (\u2026.).(\u2026) un n\u00famero creciente de cient\u00edficos inform\u00e1ticos que est\u00e1n trabajando para fusionar la causalidad con la IA para dar a las m\u00e1quinas la capacidad de abordar tales preguntas, ayud\u00e1ndoles a tomar mejores decisiones, aprender de manera m\u00e1s eficiente y adaptarse al cambio<\/strong>.<\/p>\n Una noci\u00f3n de causa y efecto ayuda a guiar a los humanos a trav\u00e9s del mundo. \u00abTener un modelo causal del mundo, incluso uno imperfecto, porque eso es lo que tenemos, nos permite tomar decisiones y predicciones m\u00e1s s\u00f3lidas<\/strong>\u00ab,(\u2026.). La comprensi\u00f3n de la causalidad por parte de los humanos apoya atributos como la imaginaci\u00f3n y el arrepentimiento; Dar a las computadoras una habilidad similar podr\u00eda transformar sus capacidades.<\/p>\n Subir la escalera<\/strong><\/p>\n Los \u00e9xitos principales de la IA en la \u00faltima d\u00e9cada<\/strong>, como ganar contra personas en varios juegos competitivos, identificar el contenido de las im\u00e1genes y, en los \u00faltimos a\u00f1os, generar texto e im\u00e1genes en respuesta a indicaciones escritas, han sido impulsados por el <\/strong>aprendizaje profundo<\/strong>. Al estudiar resmas de datos, tales sistemas aprenden c\u00f3mo una cosa se correlaciona con otra<\/strong>. Estas asociaciones aprendidas se pueden poner en pr\u00e1ctica. Pero este es solo el primer pelda\u00f1o en la escalera hacia un objetivo m\u00e1s elevado (\u2026)<\/strong>: \u00abcomprensi\u00f3n profunda<\/strong>\u00ab.<\/p>\n En 2011, Pearl gan\u00f3 el Premio A.M. Turing, a menudo conocido como el premio Nobel de ciencias de la computaci\u00f3n, por su trabajo en el desarrollo de un c\u00e1lculo para permitir el razonamiento probabil\u00edstico y causal<\/strong>. Describe una jerarqu\u00eda de razonamiento de tres niveles<\/strong>.4<\/a>. El nivel b\u00e1sico es \u00abver\u00bb, o la capacidad de hacer asociaciones entre cosas. Los sistemas de IA de hoy son extremadamente buenos en esto<\/strong>. Pearl se refiere al siguiente nivel como \u00abhacer\u00bb: hacer un cambio en algo y observar lo que sucede. Aqu\u00ed es donde entra en juego la causalidad<\/strong>.<\/p>\n Una computadora puede desarrollar un modelo causal examinando intervenciones: c\u00f3mo los cambios en una variable afectan a otra. En lugar de crear un modelo estad\u00edstico de la relaci\u00f3n entre variables, como en la IA actual, la computadora hace muchas. En cada una de ellas, la relaci\u00f3n entre las variables sigue siendo la misma, pero se alteran los valores de una o varias de las variables. Esa alteraci\u00f3n podr\u00eda conducir a un nuevo resultado. Todo esto se puede evaluar utilizando las matem\u00e1ticas de la probabilidad y la estad\u00edstica<\/strong>. (\u2026.)<\/p>\n Bengio, quien gan\u00f3 el Premio A.M. Turing en 2018 por su trabajo en aprendizaje profundo, y sus estudiantes han entrenado una red neuronal para generar gr\u00e1ficos causales<\/strong> (\u2026) En su forma m\u00e1s simple, si una variable causa otra variable, se puede mostrar con una flecha que va de una a otra. Si la direcci\u00f3n de la causalidad se invierte, tambi\u00e9n lo es la flecha. Y si los dos no est\u00e1n relacionados, no habr\u00e1 ninguna flecha que los una. La red neuronal de Bengio est\u00e1 dise\u00f1ada para generar aleatoriamente uno de estos gr\u00e1ficos y luego verificar qu\u00e9 tan compatible es con un conjunto dado de datos. Los gr\u00e1ficos que se ajustan mejor a los datos tienen m\u00e1s probabilidades de ser precisos<\/strong>, por lo que la red neuronal aprende a generar m\u00e1s gr\u00e1ficos similares a esos, buscando uno que se ajuste mejor a los datos.<\/p>\n Este enfoque es similar a c\u00f3mo las personas resuelven algo<\/strong>: las personas generan posibles relaciones causales y asumen que las que mejor se ajustan a una observaci\u00f3n est\u00e1n m\u00e1s cerca de la verdad. Ver c\u00f3mo se rompe un vidrio cuando se deja caer sobre el concreto, por ejemplo, podr\u00eda llevar a una persona a pensar que el impacto en una superficie dura hace que el vidrio se rompa. Dejar caer otros objetos sobre concreto, o golpear un vidrio sobre una alfombra suave, desde una variedad de alturas, permite a una persona refinar su modelo de la relaci\u00f3n y predecir mejor el resultado de futuros errores.<\/p>\n Enfr\u00e9ntate a los cambios<\/strong><\/p>\n Un beneficio clave del razonamiento causal es que podr\u00eda hacer que la IA sea m\u00e1s capaz de lidiar con las circunstancias cambiantes<\/strong>. Los sistemas de IA existentes que basan sus predicciones solo en asociaciones en datos son extremadamente vulnerables a cualquier cambio en la forma en que se relacionan esas variables<\/strong>. Cuando la distribuci\u00f3n estad\u00edstica de las relaciones aprendidas cambie, ya sea debido al paso del tiempo, las acciones humanas u otro factor externo, la IA se volver\u00e1 menos precisa.<\/p>\n Por ejemplo, Bengio podr\u00eda entrenar un autom\u00f3vil aut\u00f3nomo en sus carreteras locales en Montreal, y la IA podr\u00eda ser buena para operar el veh\u00edculo de manera segura. Pero si se exporta ese mismo sistema a Londres, se romper\u00eda inmediatamente por una simple raz\u00f3n: los autom\u00f3viles se conducen por la derecha en Canad\u00e1 y por la izquierda en el Reino Unido, por lo que algunas de las relaciones que la IA hab\u00eda aprendido ser\u00edan al rev\u00e9s. Podr\u00eda volver a entrenar a la IA desde cero utilizando datos de Londres, pero eso llevar\u00eda tiempo y significar\u00eda que el software ya no funcionar\u00eda en Montreal, porque su nuevo modelo reemplazar\u00eda al anterior<\/a>.<\/p>\n Un modelo causal, por otro lado, permite que el sistema aprenda sobre muchas relaciones posibles. \u00abEn lugar de tener un solo conjunto de relaciones entre todas las cosas que podr\u00edas observar, tienes un n\u00famero infinito<\/strong>\u00ab, dice Bengio. \u00abTienes un modelo que explica lo que podr\u00eda suceder bajo cualquier cambio en una de las variables en el entorno<\/strong>\u00ab.<\/p>\n Los humanos operan con un modelo causal de este tipo y, por lo tanto, pueden adaptarse r\u00e1pidamente a los cambios (\u2026.)<\/strong>.El modelado causal permite a un sistema identificar los efectos de una intervenci\u00f3n y explicarlos en su comprensi\u00f3n existente del mundo, en lugar de tener que volver a aprender todo desde cero.<\/p>\n Esta capacidad de lidiar con los cambios sin desechar todo lo que sabemos tambi\u00e9n permite a los humanos dar sentido a situaciones que no son reales, como las pel\u00edculas de fantas\u00eda. (\u2026.)<\/p>\n Contrario a los hechos<\/strong><\/p>\n La capacidad de imaginaci\u00f3n est\u00e1 en la parte superior de la jerarqu\u00eda de razonamiento causal de Pearl<\/strong> (\u2026.) . Eso es lo que a los inform\u00e1ticos les gustar\u00eda replicar con m\u00e1quinas capaces de inferencia causal: la capacidad de hacer preguntas de \u00abqu\u00e9 pasar\u00eda si\u00bb.<\/p>\n Imaginar si un resultado habr\u00eda sido mejor o peor si hubi\u00e9ramos tomado una acci\u00f3n diferente es una forma importante en que los humanos aprenden. Bhattacharya dice que ser\u00eda \u00fatil imbuir a la IA con una capacidad similar para lo que se conoce como \u00abarrepentimiento contraf\u00e1ctico\u00bb. La m\u00e1quina podr\u00eda ejecutar escenarios sobre la base de elecciones que no hizo y cuantificar si hubiera sido mejor hacer uno diferente. (\u2026)<\/strong><\/p>\n La capacidad de imaginar diferentes escenarios tambi\u00e9n podr\u00eda ayudar a superar algunas de las limitaciones de la IA existente, como la dificultad de reaccionar ante eventos raros<\/strong>. Por definici\u00f3n, dice Bengio, los eventos raros aparecen solo escasamente, si es que lo hacen, en los datos con los que se entrena un sistema, por lo que la IA no puede aprender sobre ellos<\/strong>. Una persona que conduce un autom\u00f3vil puede imaginar una ocurrencia que nunca ha visto (\u2026) Trabajar a partir de reglas causales en lugar de una lista de ejemplos anteriores en \u00faltima instancia hace que el sistema sea m\u00e1s vers\u00e1til.<\/p>\n Usar la causalidad para programar la imaginaci\u00f3n en una computadora podr\u00eda incluso conducir a la creaci\u00f3n de un cient\u00edfico automatizado<\/strong>. Durante una cumbre en l\u00ednea de 2021 patrocinada por Microsoft Research<\/a>, Pearl sugiri\u00f3 que dicho sistema podr\u00eda generar una hip\u00f3tesis, elegir la mejor observaci\u00f3n para probar esa hip\u00f3tesis y luego decidir qu\u00e9 experimento proporcionar\u00eda esa observaci\u00f3n<\/strong>. (\u2026) Sin embargo, esto sigue estando muy lejos. La teor\u00eda y las matem\u00e1ticas b\u00e1sicas de la inferencia causal est\u00e1n bien establecidas, pero los m\u00e9todos para que la IA realice intervenciones y contrafactuales a\u00fan se encuentran en una etapa temprana<\/strong>. \u00abEsta sigue siendo una investigaci\u00f3n muy fundamental\u00bb, dice Bengio. \u00abEstamos en la etapa de descubrir los algoritmos de una manera muy b\u00e1sica\u00bb. Una vez que los investigadores hayan comprendido estos fundamentos, los algoritmos deber\u00e1n optimizarse para que funcionen de manera eficiente. No est\u00e1 claro cu\u00e1nto tiempo llevar\u00e1 todo esto. \u00ab<\/strong>Podr\u00eda tomar d\u00e9cadas en su lugar\u00bb.<\/p>\n Bhattacharya cree que los investigadores deber\u00edan tomar una hoja del aprendizaje autom\u00e1tico, cuya r\u00e1pida proliferaci\u00f3n se debi\u00f3 en parte a que los programadores desarrollaron software de c\u00f3digo abierto que brinda a otros acceso a las herramientas b\u00e1sicas para escribir algoritmos. Las herramientas equivalentes para la inferencia causal podr\u00edan tener un efecto similar<\/strong>. (\u2026.)<\/p>\n Si estos investigadores tienen \u00e9xito en la construcci\u00f3n de la causalidad en la computaci\u00f3n, podr\u00eda llevar a la IA a un nuevo nivel de sofisticaci\u00f3n. Los robots<\/strong>. \u00abEso podr\u00eda transformar la medicina\u00bb, dice Bengio.<\/p>\n Incluso algo como ChatGPT, el popular generador de lenguaje natural<\/a> que produce texto que se lee como si pudiera haber sido escrito por un humano, podr\u00eda beneficiarse de la incorporaci\u00f3n de la causalidad<\/strong>. En este momento, el algoritmo se traiciona a s\u00ed mismo al producir una prosa claramente escrita que se contradice a s\u00ed misma y va en contra de lo que sabemos que es verdad sobre el mundo (\u2026). Con causalidad, ChatGPT podr\u00eda construir un plan coherente para lo que estaba tratando de decir, y asegurarse de que fuera consistente con los hechos tal como los conocemos (\u2026).<\/p>\n doi: https:\/\/doi.org\/10.1038\/d41586-023-00577-1<\/em><\/p>\n Este art\u00edculo forma parte de <\/em>Nature Outlook: Robotics and artificial intelligence<\/em><\/a>, un suplemento editorialmente independiente producido con el apoyo financiero de terceros. <\/em>Acerca de este contenido.<\/em><\/a><\/p>\n ChatGPT: m\u00e1s artificial que inteligente<\/strong><\/a><\/p>\n En IA, \u00bfes m\u00e1s grande siempre mejor?<\/strong><\/a><\/p>\nPor qu\u00e9 la inteligencia artificial necesita entender las consecuencias<\/strong><\/a><\/h3>\n
Noticias Sobre IA Desde Marzo 2023<\/span><\/h3>\n