![\"IA-Moda-ciencia\"](\"https:\/\/www.madrimasd.org\/blogs\/universo\/wp-content\/blogs.dir\/42\/files\/405\/IA-Moda-ciencia.jpg\")
<\/p>\n<\/p>\n
Fuente: Colaje im\u00e1genes Google<\/span><\/p>\n Los l\u00edderes tecnol\u00f3gicos deben \u00abdevolver\u00bb a la sociedad para apoyar el bien com\u00fan<\/a><\/p>\n En nuestro post \u201cInteligencia Artificial A Gritos en la Oscuridad (atrapados y sin salida)<\/a>\u201c ya os narr\u00e9, mi aprensi\u00f3n por la eclosi\u00f3n ilegal de la IA generativa<\/a> por cuanto invadi\u00f3 mi privacidad de un modo escandaloso, mediante un artilugio comercial que hab\u00edan regalado a mi pareja para poner m\u00fasica. \u201cIncluso apagado lo escuchaba todo ( pero no el enchufe a la corriente), pudiendo hablar con ella unos minutos. a \u201cpetici\u00f3n suya\u201d. Es decir, estaba espi\u00e1ndonos a todos a lo largo del del d\u00eda. M\u00e1s que invasi\u00f3n de la privacidad yo lo llamar\u00eda espionaje en el sentido estricto del t\u00e9rmino<\/strong>. Muy pocos a\u00f1os despu\u00e9s, sin respetar a nada y a nadie, las compa\u00f1\u00edas tecnol\u00f3gicas que lo implantan hab\u00edan violado todos los derechos de autor, mientras que las mismas corporaciones digitales amasan miles y miles de millones de euros de forma palmariamente ilegal<\/strong><\/span>. Y mientras tanto las autoridades, contin\u00faan a paso de tortuga intentando redactar nomas para regularizar su uso \u00bf? Obviamente, ya ver\u00e9is como en algunas de las noticias que os muestro abajo, se habla del tema abundantemente.<\/p>\n Seguidamente, editamos otro post \u201cIA y Tecnociencia (Inteligencia Artificial)<\/a>\u201d, expresando nuestra opini\u00f3n y finalmente en una tercera entradilla \u201cLas Dos Caras de la Inteligencia Artificial y Sus Algoritmos<\/a>\u201d os mostr\u00e9 porque debemos desconfiar mucho de ella, por cuanto las modelizaciones no aportan nada si no podemos entender\/interpretar el significado de sus algoritmos, como es el caso<\/strong>. La ciencia estriba en<\/strong><\/span> avanzar, haciendo retroceder el muro de nuestra ignorancia acerca del mundo que nos rodea. Incluso si la bola de cristal<\/a> de la tecnociencia<\/a> acertara, poco o nada entender\u00edamos, ya que reitero que sus algoritmos son indescifrables<\/strong><\/span>, al menos a d\u00eda de hoy . Su uso se ha extendido ya por doquier<\/strong> y los ciudadanos parecemos como adolescentes con un nuevo juguete que est\u00e1 de moda<\/strong>, a pesar de que otros muchos expertos vaticinan tambi\u00e9n que puede llevar nuestra sociedad hacia el abismo, incluyendo entre los cr\u00edticos a algunos de sus creadores y\/o promotores iniciales<\/strong><\/span>.<\/p>\n Sin embargo, tras leer la siguiente noticia, han vuelto a revelarse mis humildes neuronas org\u00e1nicas: \u201cLos art\u00edculos cient\u00edficos que mencionan la IA reciben un aumento en las citas<\/a>\u201d<\/strong><\/p>\n \u00abLos art\u00edculos con t\u00edtulos o res\u00famenes que mencionan ciertos m\u00e9todos de inteligencia artificial (IA) tienen m\u00e1s probabilidades de estar entre el 5% de los trabajos m\u00e1s citados en su campo durante un a\u00f1o determinado que aquellos que no hacen referencia a esas t\u00e9cnicas, seg\u00fan un an\u00e1lisis. Estos art\u00edculos tambi\u00e9n tienden a recibir m\u00e1s citas de fuera de su campo que los estudios que no se refieren a t\u00e9rminos de IA<\/em>\u201d<\/strong><\/span>.<\/p>\n Personalmente puedo confirmarlo<\/strong><\/span>, ya que me han solicitado formar parte de varias revisiones por pares y aparecen por doquier la IA, aprendizaje autom\u00e1tico y bla, bla<\/strong><\/span>). Obviamente los resultados van acompa\u00f1ados por especulaciones de los autores nada m\u00e1s. Eso no es ciencia en el sentido estricto del t\u00e9rmino<\/a>. Francamente no logro entenderlo, ya que todo apunta que pensamos como si fueramos adolescentes que se afanan en estar a la \u00faltima moda bajo el lema (burro grande ande o no ande<\/a>) y el palabro grande debe entenderse, en este contexto, como estar a la moda<\/strong><\/span>. Empero, si no se entiende el algoritmo, como nos dedicamos ahora a bombardear le revista con predicciones que ni tan siquiera podemos descifrar<\/span><\/strong><\/span>. Lo dicho, si la bola de cristal<\/a><\/span><\/strong> de la tecnociencia<\/a>. Y como corolario, el m\u00e9todo cient\u00edfico descarrila gracias a nuestros esfuerzos<\/span><\/strong>. Ocurrir\u00e1 como los modelos de Circulaci\u00f3n General de la Atm\u00f3sfera y los Oc\u00e9anos, separados o desecoplados. Dado que las predicciones generales fallaban como una metralleta, se iban cambiando por otros nuevos, con regularidad, y as\u00ed las predicciones anteriores pasaban al limbo de los justos (eran soslayadas). Empero incluso as\u00ed se hab\u00eda publicado un texto y sin los indescifrables algoritmos-I<\/span>A<\/span><\/strong> se podr\u00eda intentar escudri\u00f1ar en que se fallaba, datos y premisas de los modelos, etc. Llagada la moda de la IA topamos con la bola de cristal de la tecnociencia<\/strong><\/span>, ni tan siquiera eso.<\/p>\n Y reitero que mento como la IA de lenguaje natural, generativa o no, ya en manos de expertos y para prop\u00f3sitos concretos, si pueden ser de gran utilidad en muchos campos del conocimiento<\/span>. Pero<\/span><\/strong> en el universo de la Tecnociencia se pudren<\/strong><\/span>, soslayan y olvidad demasiadas cosas, como los c\u00e1nones del propio m\u00e9todo cient\u00edfico por aquellos que deb\u00edan ser sus guardianes.<\/p>\n \u00bfEl ocaso del m\u00e9todo cient\u00edfico?. Pues\u2026..<\/strong><\/span><\/p>\n Juan Jos\u00e9 Ib\u00e1\u00f1ez<\/strong><\/span><\/p>\n Contin\u00faa\u2026\u2026<\/em><\/span><\/p>\n <\/p>\n \u201cInteligencia artificial generativa<\/a>\u201c \u201cAprendizaje autom\u00e1tico<\/a>\u201d<\/p>\n A la inteligencia artificial se le da muy bien para encontrar patrones en los datos, pero este enfoque no revela la causa-efecto de las cosas y resulta muy limitado para entender el mundo real<\/strong>. Un investigador acaba de presentar una estrategia que podr\u00eda conseguir que la IA <\/strong>analice las relaciones causales<\/p>\n \u201cInteligencia Artificial A Gritos en la Oscuridad (atrapados y sin salida)<\/a>\u201d<\/p>\n \u201cIA y Tecnociencia (Inteligencia Artificial)<\/a>\u201d<\/p>\n \u201cLas Dos Caras de la Inteligencia Artificial y Sus Algoritmos<\/a>\u201d<\/p>\n <\/p>\n \u00bfQu\u00e9 debemos hacer si la IA se vuelve consciente? Estos cient\u00edficos dicen que es hora de un plan<\/a><\/strong><\/p>\n \u00bfEl uso de herramientas de IA es innovaci\u00f3n o explotaci\u00f3n? Tres maneras de pensar la \u00e9tica<\/a><\/p>\n Punto de vista: La IA pronto podr\u00eda estar haciendo grandes descubrimientos cient\u00edficos. Una m\u00e1quina podr\u00eda incluso ganar un Premio Nobel alg\u00fan d\u00eda<\/a><\/p>\n Un an\u00e1lisis de decenas de millones de art\u00edculos muestra qu\u00e9 campos han adoptado las herramientas de IA con entusiasmo, y cu\u00e1les han sido m\u00e1s lentos.<\/strong><\/p>\n Mariana Lenharo<\/a><\/p>\n Los art\u00edculos con t\u00edtulos o res\u00famenes que mencionan ciertos<\/strong> m\u00e9todos de inteligencia artificial (IA)<\/strong><\/a> tienen m\u00e1s probabilidades de estar entre el 5% de los trabajos m\u00e1s citados en su campo durante un a\u00f1o determinado que aquellos que no hacen referencia a esas t\u00e9cnicas, seg\u00fan un an\u00e1lisis<\/strong>1<\/strong><\/a>. Estos art\u00edculos tambi\u00e9n tienden a recibir m\u00e1s<\/strong> citas<\/a> de fuera de su campo que los estudios que no se refieren a t\u00e9rminos de IA<\/strong>.<\/p>\n Pero este \u00abaumento de citas\u00bb no fue compartido por igual por todos los autores<\/strong>. El an\u00e1lisis tambi\u00e9n mostr\u00f3 que los investigadores de grupos que hist\u00f3ricamente han estado infrarrepresentados en la ciencia<\/a> no obtienen el mismo aumento en las citas que sus hom\u00f3logos cuando utilizan herramientas de IA en su trabajo, lo que sugiere que la IA podr\u00eda exacerbar<\/strong> las desigualdades existentes<\/a>.<\/p>\n Los hallazgos surgieron de un estudio que ten\u00eda como objetivo cuantificar el uso y los beneficios potenciales de la IA en la investigaci\u00f3n cient\u00edfica. Pero el informe, publicado la semana pasada en Nature Human Behaviour<\/em>, tambi\u00e9n plantea preocupaciones. Los cient\u00edficos podr\u00edan verse incentivados a usar la IA simplemente como una forma de aumentar sus citas, independientemente de si las herramientas de IA mejoran la calidad del trabajo<\/strong>, se\u00f1ala Lisa Messeri, antrop\u00f3loga de ciencia y tecnolog\u00eda de la Universidad de Yale en New Haven, Connecticut. \u00abQueremos asegurarnos de que, a medida que estamos [invirtiendo] en IA, no lo estamos haciendo en detrimento de otros enfoques<\/strong>\u00ab, dice.<\/p>\n El estudio tambi\u00e9n proporciona una cuantificaci\u00f3n muy necesaria de c\u00f3mo la IA est\u00e1 cambiando la investigaci\u00f3n cient\u00edfica<\/a>, dice Dashun Wang, coautor del estudio y cient\u00edfico social computacional que estudia la ciencia de la ciencia en la Universidad Northwestern en Evanston, Illinois. \u00abAhora finalmente tenemos datos sistem\u00e1ticos\u00bb, dice Wang, que ser\u00e1n fundamentales para abordar las disparidades relacionadas con el uso de la IA en la ciencia.<\/p>\n Rastreando el auge de la IA<\/strong><\/span><\/p>\n Para medir el compromiso de los cient\u00edficos con la IA, los autores identificaron t\u00e9rminos relacionados con la IA, como \u00abaprendizaje autom\u00e1tico\u00bb y \u00abred neuronal profunda\u00bb, en los res\u00famenes y t\u00edtulos de casi 75 millones de art\u00edculos, que abarcan 19 disciplinas, que se publicaron entre 1960 y 2019<\/strong>. Wang reconoce que, debido a la fecha l\u00edmite, el estudio no capta los desarrollos recientes en IA, incluido el aumento de grandes modelos de lenguaje como<\/strong> ChatGPT, que ya est\u00e1n cambiando la forma en que algunos investigadores hacen ciencia<\/a>.<\/p>\n Seg\u00fan el estudio, los cient\u00edficos de las 19 disciplinas han intensificado el uso de herramientas de IA en las \u00faltimas dos d\u00e9cadas (v\u00e9ase \u00abEl uso de la IA despega\u00bb). Pero hay una gran variaci\u00f3n: <\/strong>las ciencias de la computaci\u00f3n, las matem\u00e1ticas y la ingenier\u00eda tienen las tasas m\u00e1s altas de uso de la IA, y la historia, el arte y las ciencias pol\u00edticas tienen las m\u00e1s bajas. Las tasas de geolog\u00eda, f\u00edsica, qu\u00edmica y biolog\u00eda est\u00e1n en el medio<\/strong>.<\/p>\n Para estimar<\/strong> los beneficios potenciales de la IA<\/a> para cada disciplina, los autores primero identificaron las tareas relacionadas con la investigaci\u00f3n que la IA puede realizar. Luego, rastrearon el aumento de estas capacidades a lo largo del tiempo mediante<\/strong> la detecci\u00f3n de ciertos pares de verbos y sustantivos, como ‘analizar datos’ y ‘generar imagen’, en publicaciones sobre IA entre 1960 y 2019<\/strong>. Al observar cu\u00e1nto se superpon\u00edan estos t\u00e9rminos en las publicaciones relacionadas con la IA con las tareas b\u00e1sicas de un campo de investigaci\u00f3n determinado a lo largo del tiempo, los investigadores pudieron evaluar si las capacidades de la IA pod\u00edan satisfacer las necesidades cambiantes de ese campo<\/strong>. Una vez m\u00e1s, las ciencias de la computaci\u00f3n, las matem\u00e1ticas y la ingenier\u00eda se asociaron con los beneficios potenciales m\u00e1s altos, y la historia, el arte y las ciencias pol\u00edticas con los m\u00e1s bajos.<\/p>\n Marinka Zitnik, especialista en inform\u00e1tica biom\u00e9dica de la Escuela de Medicina de Harvard en Boston, Massachusetts, dice que el enfoque del art\u00edculo es interesante porque permite un an\u00e1lisis sistem\u00e1tico de varias disciplinas cient\u00edficas. Pero tiene sus limitaciones. \u00abDebido a que<\/strong> los autores quer\u00edan hacer un estudio muy amplio y sistem\u00e1tico, eso significaba que no necesariamente pod\u00edan entrar en una comprensi\u00f3n muy intrincada de por qu\u00e9 un verbo o sustantivo espec\u00edfico aparecer\u00eda en un art\u00edculo\u00bb, dice. El hecho de que ciertos verbos y sustantivos aparezcan juntos en un trabajo no significa que, si la IA puede realizar la tarea descrita, necesariamente ser\u00e1 \u00fatil para ese campo, se\u00f1ala<\/strong>.<\/p>\n doi: https:\/\/doi.org\/10.1038\/d41586-024-03355-9<\/em><\/p>\n Referencias<\/strong><\/p>\n Gao, J. y Wang, D. Naturaleza Hum. Behav.<\/em> https:\/\/doi.org\/10.1038\/s41562-024-02020-5 (2024).<\/p>\n Esta experta en filosof\u00eda moral y tecnolog\u00eda alerta de los riesgos para la democracia de las inteligencias artificiales.<\/strong><\/p>\n La fil\u00f3sofa de Oxford Carissa V\u00e9liz, en Madrid. \u2014<\/em> P. R.; <\/em>MADRID; 19\/10\/2024 21:31<\/a><\/p>\n PABLO ROMERO<\/strong><\/a>@PABLOROMERO<\/a><\/p>\n Hablar unos minutos con Carissa V\u00e9liz<\/strong>, profesora asociada en el Instituto para la \u00e9tica de la inteligencia artificial y miembro del Hertford College de la Universidad de Oxford, es una experiencia profundamente did\u00e1ctica y, al mismo, tiempo, serena. Autora de varias obras de referencia sobre vigilancia y privacidad<\/strong>, ahora ense\u00f1a a empresas y gobiernos a considerar la finalidad del uso de las IA y los peligros que entra\u00f1a ignorar sus riesgos<\/strong>, incluso para el propio sistema democr\u00e1tico<\/strong>.<\/p>\n \u00abAl final, la democracia depende de tener informaci\u00f3n fiable y de que los ciudadanos est\u00e9n relativamente bien informados<\/strong>\u00ab, explica V\u00e9liz a P\u00fablico<\/em>, \u00aby si tienes una m\u00e1quina cuya especialidad es inventarse historias que son plausibles y veros\u00edmiles, pero no verdad<\/strong>, y facilita la generaci\u00f3n de estos contenidos a escala, pues evidentemente hay un problema de <\/strong>desinformaci\u00f3n<\/strong>\u00ab. Esta renombrada experta, reciente participante estrella en el Foro L\u00edderes con Prop\u00f3sito<\/strong> en Madrid, reivindica un abordaje serio de los<\/strong> problemas \u00e9ticos<\/a> que pueden generar estas tecnolog\u00edas porque \u00abhay diferentes tipos de inteligencia artificial, diferentes empresas, diferentes usos, y hay quien se toma en serio la inteligencia artificial y hay quien no<\/strong>; necesitamos que todo el mundo se lo tome en serio<\/strong>\u00ab, afirma. De hecho, ella misma imparte un curso sobre \u00e9tica de la IA en la Fundaci\u00f3n Rafael del Pino enfocado al mundo empresarial.<\/p>\n John J. Hopfield y Geoffrey E. Hinton, Premio Nobel de F\u00edsica 2024 por contribuir al aprendizaje de las m\u00e1quinas<\/strong><\/a><\/p>\n \u00abEuropa de nuevo va a la cabeza en regulaci\u00f3n<\/strong> [sobre inteligencia artificial<\/a>], pero creo que las leyes tienen que ser minimalistas\u00bb, apunta V\u00e9liz, cuyo enfoque sobre el asunto legislativo tiene que ver con la protecci\u00f3n de los derechos de los ciudadanos<\/strong><\/a>, m\u00e1s all\u00e1 del an\u00e1lisis de coste-beneficio<\/strong>. \u00abEs normal que la tecnolog\u00eda vaya por delante de las leyes<\/strong>, y creo que es un enfoque bueno que la legislaci\u00f3n se fije en los fines<\/strong> de su uso m\u00e1s que en la tecnolog\u00eda en particular, porque la tecnolog\u00eda cambia todo el rato<\/strong>\u00ab, comenta, aunque a\u00f1ade: \u00abEs verdad que existe el riesgo de que de que no estemos haciendo una asesor\u00eda correcta\u00bb. Porque, aunque tengamos una normativa b\u00e1sica pero clara sobre qu\u00e9 limites son necesarios en el despliegue de las inteligencias artificiales, algunos requisitos, como la evaluaci\u00f3n de riesgos,<\/strong> son poco menos que imposibles de cumplir ya que las IA fundacionales son, naturalmente, opacas y casi nadie sabe c\u00f3mo funcionan realmente<\/strong>. <\/p>\n Washington act\u00faa ya contra las mentiras generadas con inteligencia artificial<\/strong><\/a><\/p>\n Estimar los riesgos<\/strong><\/p>\n Para V\u00e9liz, \u00abes muy dif\u00edcil tener una estimaci\u00f3n real de los riesgos cuando existen tecnolog\u00edas<\/strong> con las que no hemos interactuado antes, no hay datos para calcular ese riesgo adecuadamente<\/strong>\u00ab, aunque sostiene que analizar los fines de la herramienta<\/strong>, aunque sea una IA fundacional multiprop\u00f3sito, es un buen camino de inicio.<\/p>\n \u00abAl final la IA es una herramienta, sofisticada, pero una herramienta<\/strong>; por lo tanto, los seres humanos que est\u00e1n detr\u00e1s<\/strong><\/a> de esa herramienta son responsables\u00bb <\/strong>de esos motores de IA. \u201dLas tecnol\u00f3gicas han ignorado la ley y dise\u00f1ado un sistema de manera ilegal<\/u><\/strong>\u00ab.<\/p>\n La experta recuerda, para empezar, que \u00ablas tecnol\u00f3gicas han ignorado la ley y dise\u00f1ado un sistema de manera ilegal<\/strong>, o sea, tomando datos que ten\u00edan derechos de autor<\/a>, datos personales, todo lo que han podido barrer en internet\u00bb, hasta el momento \u00abparece que hemos aceptado ese hecho\u00bb, y \u00abahora tenemos la contradicci\u00f3n de que<\/strong> estamos utilizando esas herramientas<\/a> que no cumplen ni siquiera con las normas de derechos de autor ni con el reglamento de protecci\u00f3n de datos, pero esas normas siguen vigentes<\/strong>\u00ab.<\/p>\n Porno infantil, violencia, machismo: \u00bfqu\u00e9 hacemos si la inteligencia artificial produce monstruos?<\/strong><\/a><\/p>\n Acerca del reciente premio Nobel de F\u00edsica George Hinton<\/strong>, V\u00e9liz nos cuenta una historia: \u00abGeorge Hinton fue recientemente a Oxford y tuve la oportunidad de hablar con \u00e9l; durante la charla explic\u00f3 lo que estamos haciendo con la inteligencia artificial<\/a>, algo que se ha vuelto muy peligroso<\/u><\/strong> y que incluso est\u00e1 dise\u00f1ado de una manera que realmente pone en riesgo a la democracia e incluso a la ciencia<\/strong>. Yo le pregunt\u00e9: Bueno, si realmente supone un riesgo incluso existencial<\/em><\/strong>, si usted volviera a vivir de nuevo, \u00bfqu\u00e9 har\u00eda diferente?<\/em> Y me dijo que no cambiar\u00eda nada, que lo har\u00eda todo igual<\/strong>\u00ab. A\u00fan con todo, V\u00e9liz se muestra optimista porque est\u00e1 segura de que \u00abhay maneras de dise\u00f1ar la tecnolog\u00eda para que la entendamos mejor, para que sea m\u00e1s responsable\u00bb. Y se debe calibrar la importancia real de cualquier tecnolog\u00eda nueva<\/strong>. \u00abAl principio hab\u00eda mucho hype<\/em> en las empresas pero la realidad es que muchas de ellas no han encontrado suficientes mejoras en la productividad <\/strong>como esperaban\u00bb.<\/p>\n Ahorro o p\u00e9rdida de tiempo<\/strong><\/p>\n Si la IA \u00abse inventa algo muy complicado de comprobar<\/strong>,<\/strong> se pierde tanto tiempo editando y corrigiendo errores que parece que el trabajo lo hace una<\/strong>\u00ab, comenta esta experta, que se\u00f1ala que \u00abde momento la gente sobre todo usa las herramientas de IA por curiosidad, por diversi\u00f3n, para escribir alg\u00fan email<\/em> poco importante; est\u00e1 por ver qu\u00e9 usos ser\u00e1n realmente importantes<\/strong>\u00ab.<\/p>\nAlgunos conceptos b\u00e1sicos<\/strong><\/span><\/h3>\n
Post Previos <\/strong><\/span><\/h3>\n
Art\u00edculos y prensa cient\u00edfica relacionada (ejemplos)<\/strong><\/span><\/h3>\n
C\u00f3mo los enjambres maliciosos de IA pueden amenazar la democracia<\/a><\/strong><\/h4>\n
\u201cLos art\u00edculos cient\u00edficos que mencionan la IA reciben un aumento en las citas<\/strong><\/a>\u201d<\/strong><\/h3>\n
IA y ciencia: lo que piensan 1.600 investigadores<\/a><\/u><\/strong><\/h3>\n
Carissa V\u00e9liz, fil\u00f3sofa en Oxford: \u00abLa IA est\u00e1 dise\u00f1ada para inventar contenidos veros\u00edmiles, no para buscar la verdad\u00bb<\/strong><\/a><\/h3>\n