![\"AI-y-tecnociencia\"](\"https:\/\/www.madrimasd.org\/blogs\/universo\/wp-content\/blogs.dir\/42\/files\/405\/AI-y-tecnociencia.jpg\")
<\/p>\n<\/p>\n
Fuente: Colaje Im\u00e1genes Google<\/span><\/p>\n Me recuerda al libro del fil\u00f3sofo espa\u00f1ol Xavier Echeverr\u00eda<\/a> que llevaba el t\u00edtulo de \u201c Ciencia del bien y el mal<\/a>\u201d. Y sinceramente, ya venimos constatando en nuestro curso sobre filosof\u00eda de la tecnociencia. Sin denostar los potenciales de esta tecnolog\u00eda para ciertos prop\u00f3sitos, me causa terror lo que veo y leo en el \u00e1mbito de la ciencia y de la propia sociedad en su conjunto. Cuando escribo este post se est\u00e1 produciendo un serio debate sobre el acceso abierto a la IA ofrecido por ChatGPT<\/a>, producto de la empresa OpenAI<\/a> con la ayuda de Microsoft. Basta saber quien esta detr\u00e1s de todo ello para ponerme los pelos de punta. Se trata, en mi modesta opini\u00f3n, un poderoso salto adelante de la perversa Tecnociencia<\/a>. No me cabe la menor duda.<\/p>\n Los cient\u00edficos, como humanos, no somos ajenos a las modas, \u201chay que estar al d\u00eda\u201d y denost\u00e1rselo a nuestros colegas. Del mismo modo la sociedad enferma, al parecer ajena a los grandes males que nos afectan a nosotros y al medio ambiente, comport\u00e1ndonos como una manada de borregos, cada vez menos ajenos al campo de minas que nos van poniendo delante las empresas tecnol\u00f3gicas y los poderes que se ocultan detr\u00e1s de ellas.<\/p>\n Todo ello me recuerdo a la trilog\u00eda de hace diez a\u00f1os: \u201cBig data<\/a>, Miner\u00eda de datos<\/a>, Meta-an\u00e1lisis<\/a>, que ya pas\u00f3 de moda con el auge exponencial de la IA. En su momento, hice re\u00edr mucho al editor de una revista cient\u00edfica de mi campo, no amante de este trio calamita al demostrar a un revisor de mi manuscrito a publicar que yo, sin tanta fanfarria y por \u201cconocimiento humano e intuici\u00f3n\u201d era capaz de superar en velocidad y cantidad de informaci\u00f3n, respecto a un estudio previo que me intentaba restregar como ciencia seria utilizando esos conceptos.<\/p>\n Con el advenimiento de la IA, salen a relucir palabros, algunos ya casi olvidados, como los de redes neuronales<\/a>, l\u00f3gica difusa<\/a>, m\u00e9todos bayesianos<\/a>, m\u00e1quinas de aprendizaje<\/a>, etc. Adelanto que tengo libros de m\u00e1s de 25 a\u00f1os de antig\u00fcedad sobre los tres primeros. M\u00e1s aun, utilic\u00e9 dos de ellas en varios trabajos, Nada nuevo bajo el sol. Tan solo la potencia de calculo y ensamblar el un nuevo producto conocimientos antiguos, otros antiguos, como advert\u00ed hace m\u00e1s de diez a\u00f1os en el post: \u201cTecnolog\u00edas de Primera y Segunda Generaci\u00f3n (Un Riesgo Social en Ciernes)<\/a>\u201d. No debe extra\u00f1arnos que, como se ha publicado en varios estudios y la propia revista Nature, en las \u00faltimas d\u00e9cadas ha deca\u00eddo pronunciadamente esa ciencia con may\u00fascula que denominan disruptiva y yo remarcar\u00eda \u201ccreativa\u201d. Entendemos como tales a las que a la postre abran nuevas perspectivas al conocimiento humano, haciendo retroceder el muro de nuestra ignorancia. Y mirar por donde, la IA nos lleva por el camino inverso. Si un an\u00e1lisis con IA ofrece unos resultados concretos, e intentamos interpretar las relaciones causa(s)-efecto(s), resulta que no sabemos ni por d\u00f3nde empezar. No podemos interpretar los algoritmos y como corolario hacer avanzar el conocimiento cient\u00edfico. \u00bf?.<\/p>\n Leo numeros\u00edsimas notas de prensa en las que los \u201cpumillas\u201d escriben, pero tambi\u00e9n los propios autores exclaman con alegr\u00eda mediante un an\u00e1lisis de inteligencia artificial de los expertos ue hacen uso de la IA: \u201cpredicen, calculan, etc. tal o cual cosa\u201d. En el caso de las predicciones habr\u00e1 que esperar a ver lo que ocurre en la realidad. Ya sabemos lo que ha ocurrido durante decenios con los modelos de circulaci\u00f3n general de la atm\u00f3sfera. Nadie usaba razonamientos y herramientas de los sistemas complejos y\/o no lineales dando lugar a predicciones muy pobres<\/a>. Hoy todo el mundo reconoce, sin mentarlo, tal monumental error y espetan con naturalidad que el sistema clim\u00e1tico no es lineal, con todas las consecuencias que ello acarrea, que son tremendas. Sin embargo, podemos ir m\u00e1s lejos y afirmar con rotundidad que encontrar correlaciones o como algunos dicen ahora \u201casociaciones\u201d, no significa que logr\u00e1ramos detectar las relaciones causa(s)-efecto(s). Simplificando mucho, padecemos resumir diciendo que la estad\u00edstica nos ofrece lo que se denominan<\/strong><\/span> correlaciones espurias<\/a>.<\/p>\n Recuerdo la conversaci\u00f3n con un matem\u00e1tico en la cual le expresaba que una serie de datos se me ajustaban pr\u00e1cticamente igual a distintos modelos de regresi\u00f3n distribuci\u00f3n estad\u00edstica y no sab\u00eda por d\u00f3nde avanzar. En un momento dado, \u00e9l exclam\u00f3 algo as\u00ed como \u201cJuanjo, deme una base de datos numerosa, y yo te elaboro un nuevo<\/strong><\/span> modelo de regresi\u00f3n que se ajuste al 100% a esos datos. \u00bfNos vamos entendiendo? Ahora bien, \u00bfc\u00f3mo interpretar el algoritmo?, \u00bfc\u00f3mo desentra\u00f1ar la informaci\u00f3n que proporciona con vistas al avance de la comprensi\u00f3n de un problema?<\/span><\/strong> Esas son cuestiones que la IA no nos proporciona<\/strong><\/span>. Por tanto, resulta ser una caja negra, como las bolas de crista que utilizaban las brujas para adivinar el futuro<\/strong><\/span>. Personalmente considero que eso no es ciencia.<\/p>\n ChatGPT<\/a> se encuentra generando un intenso y acalorado debate entre seguidores acr\u00edticos, y los que denuncian los peligros inherentes que acarrean hoy y peor aun en el futuro. Como ver\u00e9is, en el seno de la Academia, la pol\u00e9mica ha puesto al descubierto, tales peligros, as\u00ed como que resulta ser una v\u00eda de entrada a la mala praxis cient\u00edfica y el plagio, entre otros<\/strong>. Hacernos perezosos es una manera eficiente con vistas a que pensemos menos, y ser m\u00e1s manipulables<\/strong><\/span>. Hay quien apunta desde la IA que, en poco tiempo, los art\u00edculos cient\u00edficos podr\u00e1n ser escritos por las m\u00e1quinas. Empero tal hecho significa que las conclusiones sean indescifrables para nuestra raz\u00f3n. \u00bfesto es ciencia?. F\u00edjense en algunos de los esperp\u00e9nticos comentarios (ver material al final de esta entradilla) que lanzan los defensores de la IA, como por ejemplo: \u201cEl aprendizaje autom\u00e1tico imita nuestro comportamiento, aunque sin las limitaciones de la imaginaci\u00f3n y la intuici\u00f3n<\/em>\u201d. Siempre se ha sostenido que la creatividad es en gran parte fruto de la imaginaci\u00f3n y la intuici\u00f3n, y ahora resulta que estos humanoides nos quieren hacer creer que en realidad son un estorbo. \u00bf\u00bf??. Todo ello atenta contra los c\u00e1nones del m\u00e9todo cient\u00edfico y de la filosof\u00eda de la ciencia.<\/p>\n Al final de la documentaci\u00f3n que os ofrezco abajo, ubico las razonables alarmas de muchos cient\u00edficos, ChatGPT<\/a>. Sin embargo, desde hace ya tiempo y antes del advenimiento de ChatGPT han comenzado a proliferar los art\u00edculos de investigaci\u00f3n usando los resultados de tecnolog\u00edas IA<\/strong><\/span>. Leyendo los resultados y conclusiones os puedo asegurar con el menos sesgo posible, que o dec\u00edan obviedades o alcanzaban conclusiones que a m\u00ed personalmente me parec\u00edan err\u00f3neas. Es decir que mientras unos cient\u00edficos se escandalizan, para otros parece resultarles un negocio con may\u00fasculas muy lucrativos. Estos \u00faltimos solo ostentan en su cabeza el lema de \u201cpublica o perece\u201d y con tal prop\u00f3sito los palabros de moda son francamente sugestivos para las editoriales, por cuanto suelen ser los m\u00e1s reclamados\/bajados por los usuarios, pagando por supuesto.<\/p>\n Hace falta ser tonto para agradecer que ChatGPT se encuentre en acceso abierto. No se trata de generosidad, sino de picard\u00eda<\/strong><\/span>. Si el producto es testado por millones de usuarios, su calidad se afina \u201cgratis\u201d. \u00bfNos vamos entendiendo?<\/p>\n Y lo que m\u00e1s me duele (\u2026), en un mundo repleto de injusticias, hambrunas, guerras y crisis de toda clase y en el cual falta trabajo para alimentarse, seguimos obcecados en secuestrar millones y millones de empleos, alimentando un bucle magnicida que tan solo beneficia a los que m\u00e1s poseen, siendo ellos los que alimentan este holocausto can\u00edbal<\/a>. Sum\u00e9mosle la rob\u00f3tica y otros juguetitos, y luego reflexionemos. Abajo encontrareis mucha informaci\u00f3n ya que he utilizado este post para profundizar en un tema que no conoc\u00eda muy bien de antemano.<\/p>\n Juan Jos\u00e9 Ib\u00e1\u00f1ez <\/strong><\/span><\/p>\n Contin\u00faa\u2026\u2026\u2026.<\/em><\/span><\/p>\n <\/p>\n Google nos dice sobre los algoritmos de<\/strong> IA: \u201c<\/strong>Los algoritmos son los que otorgan autonom\u00eda a la Inteligencia Artificial<\/strong>. Estos se entienden como un conjunto de instrucciones inform\u00e1ticas que recibe una m\u00e1quina para realizar una acci\u00f3n o resolver un problema. De esta manera, un algoritmo tiene una entrada (input) o una salida (output)<\/em>\u201d.<\/strong> La inteligencia artificial es un t\u00e9rmino general que se refiere a cualquier metodolog\u00eda en la que las m\u00e1quinas o las computadoras emulan la capacidad de tomar decisiones bas\u00e1ndose en los datos disponibles similar a la de un operador humano.<\/strong><\/p>\n Usamos la Inteligencia Artificial a diario y casi sin darnos cuenta. Por ejemplo, cuando pedimos a Siri o al asistente de Google que nos ponga la alarma del d\u00eda siguiente. Pero, \u00bfc\u00f3mo funciona? En este post, te comentamos la relaci\u00f3n de la Inteligencia Artificial y los algoritmos, lo que da vida a estas fascinantes herramientas. Sintetizando se puede decir que los algoritmos son instrucciones paso a paso que ayudan a un ordenador a completar un c\u00e1lculo. De esta manera, la Inteligencia Artificial utiliza algoritmos para crear m\u00e1quinas que aprendan de su propia experiencia, se reconfiguran ante nuevos escenarios y desarrollan las tareas de manera similar a c\u00f3mo lo har\u00edamos nosotros<\/strong>. Para crear Inteligencia Artificial hay dos fundamentos b\u00e1sicos de los que se valen: los algoritmos y los datos para configurarlos<\/strong>. El algoritmo proporciona las instrucciones para la m\u00e1quina y los datos permiten a la m\u00e1quina aprender a emplear esas instrucciones y perfeccionar su uso.<\/p>\n Seg\u00fan la disposici\u00f3n de las instrucciones se puede hablar de distintos tipos de Inteligencia Artificial y los algoritmos, destacamos los siguientes<\/strong>:<\/p>\n Los que emplean la l\u00f3gica, crean algoritmos bas\u00e1ndose en los principios racionales del pensamiento humano. Los que combinan l\u00f3gica e intuici\u00f3n (Deep Learning)<\/strong>, los algoritmos se dise\u00f1an como neuronas humanas, empleando el patr\u00f3n de funcionamiento del cerebro de las personas para que la m\u00e1quina aprenda como lo har\u00eda una persona. Tipos de algoritmos<\/strong>: (i) Aprendizaje por refuerzo (RL, Reinforcement Learning); (ii) Aprendizaje supervisado (Supervised machine learning) y (iii) Aprendizaje no supervisado (Unsupervised machine learning)<\/p>\n El aprendizaje autom\u00e1tico imita nuestro comportamiento, aunque sin las limitaciones de la imaginaci\u00f3n y la intuici\u00f3n<\/strong><\/a> (\u2026.) Aunque este enfoque pueda parecer simple, es en realidad muy potente. En el fondo, no es m\u00e1s que imitar nuestro proceso de aprendizaje, pero sin las limitaciones de nuestra imaginaci\u00f3n, prejuicios e intuici\u00f3n<\/strong>. As\u00ed, los sistemas de aprendizaje autom\u00e1tico son capaces de extraer las caracter\u00edsticas m\u00e1s importantes y sintetizar la informaci\u00f3n que reciben. Como ejemplo, s\u00f3lo hay que ver los grandes avances que se han logrado en reconocimiento de voz con redes neuronales profundas. Estos sistemas pueden ser entrenados: se les alimenta con \u00abpedazos\u00bb<\/strong> de audio y su transcripci\u00f3n para que aprendan c\u00f3mo funciona el habla. As\u00ed extraen reglas que, aunque probablemente incomprensibles y extra\u00f1as para nosotros, sirven para identificar palabras mucho mejor que otros modelos inspirados en supuestos de c\u00f3mo<\/strong> funciona nuestro lenguaje y nuestra voz. (\u2026.) Por desgracia, no todo es perfecto, y el aprendizaje autom\u00e1tico no es siempre tan directo como \u00abpasar unos datos, que aprenda y ya\u00bb. Es, de hecho, m\u00e1s arte que ciencia<\/strong>. El principal problema que uno se puede encontrar es el del sobreajuste (\u2026) El otro problema es ver qu\u00e9 tipo de clasificador usar. Resulta que no hay ning\u00fan \u00abclasificador supremo\u00bb. <\/strong>Las redes neuronales son bastante relevantes por los resultados que consiguen, pero no son las \u00fanicas ni los mejores algoritmos para ciertos problemas<\/strong> (\u2026) Por ejemplo, para identificar la estructura de las prote\u00ednas, las m\u00e1quinas de vectores de soporte (SVM) dan mejores resultados que las redes neuronales<\/strong>. Y para la clasificaci\u00f3n de spam los m\u00e9todos bayesianos y de aprendizaje estad\u00edstico<\/strong> consiguen muy buenos resultados con una implementaci\u00f3n muy sencilla (\u2026..) Aprender est\u00e1 muy bien, pero no podemos dejar de lado algo muy interesante: razonar y hacer deducciones para a\u00f1adir m\u00e1s conocimientos al sistema. La primera opci\u00f3n es usar la l\u00f3gica. Hay hasta varios lenguajes de programaci\u00f3n dedicados a ello<\/strong>. El m\u00e1s conocido es Prolog, con un paradigma muy distinto al de lenguajes m\u00e1s habituales.<\/p>\n La idea es que en lugar de darle instrucciones de c\u00f3mo hacer algo, simplemente le damos algunas reglas l\u00f3gicas y hechos y el sistema deduce las soluciones<\/strong>. Por ejemplo (\u2026.) Por \u00faltimo, le preguntas si<\/strong> existe alguna serie de movimientos que resuelvan ese acertijo y, por arte de magia, te responde (\u2026.) <\/strong>No es, por supuesto, magia. Prolog usa las reglas de la l\u00f3gica para razonar (todo sea dicho, bastante m\u00e1s r\u00e1pido que t\u00fa y que yo) y ver cu\u00e1l es la soluci\u00f3n<\/strong>. De esta forma, evitas tener que decirle c\u00f3mo resolver la pregunta. Puede parecer un ahorro trivial, pero no lo es cuando tienes montones de hechos, reglas y preguntas posibles: un sistema l\u00f3gico puede enfrentarse a preguntas que su creador ni siquiera habr\u00eda imaginado<\/strong>. La l\u00f3gica difusa permite trabajar con conceptos imprecisos<\/strong> como \u00abmucho fr\u00edo\u00bb o \u00abllueve poco\u00bb.<\/p>\n <\/p>\n Sin embargo, aqu\u00ed nos encontramos con varios problemas. El primero es f\u00e1cil de ver: hay que tener el conocimiento base<\/strong>. No nos sirve de nada razonar si no tenemos nada sobre qu\u00e9 hacerlo. Hay que crear esa base, y puede no ser f\u00e1cil. Por un lado, es complicado enumerar todas las reglas y relaciones de un campo en concreto. Por otro, puede ser dif\u00edcil escribirlo formalmente y ordenarlo para que un ordenador lo entienda. Pensadlo: \u00bfser\u00edais capaces de expresar sin lugar a dudas todo lo que sab\u00e9is?<\/p>\n Hay otro problema adicional, y es que <\/strong>el mundo real<\/strong> (especialmente el mundo que percibimos y del que hablamos los humanos) no se adapta del todo bien a algo tan estricto como la l\u00f3gica. No hace falta decir que los humanos somos de todo menos l\u00f3gicos, y que no todo es verdadero o falso<\/strong>. Para lo primero hay poco que hacer, pero lo segundo s\u00ed tiene soluci\u00f3n: la l\u00f3gica difusa<\/strong>.<\/p>\n \u00bfPor qu\u00e9 es importante comprender y ser capaces de interpretar las decisiones tomadas por los modelos de anal\u00edtica avanzada<\/strong> que utilizan Inteligencia Artificial (Machine Learning<\/em>)? En nuestro d\u00eda a d\u00eda utilizamos y confiamos a ciegas en una gran cantidad de tecnolog\u00eda de la que apenas podemos intuir sus bases de funcionamiento<\/strong>. Entonces, \u00bfqu\u00e9 tienen de diferente los modelos de inteligencia artificial para que sea tan importante <\/strong>entender y explicar su funcionamiento interno<\/strong><\/a>?<\/strong>.<\/p>\n En 2015 el prestigioso hospital Monte Sina\u00ed de Nueva York desarroll\u00f3 un modelo de inteligencia artificial llamado Deep Patient que, aprendiendo de los datos de un mill\u00f3n de pacientes, era capaz de predecir enfermedades<\/strong>. En concreto, result\u00f3 ser casi infalible en la detecci\u00f3n de la esquizofrenia<\/strong>, aunque nunca se utiliz\u00f3 con este objetivo. Si <\/strong>funcionaba tan bien \u00bfcu\u00e1l era el problema?<\/strong><\/a> La esquizofrenia es una enfermedad cuyas causas son especialmente dif\u00edciles de explicar por la ciencia m\u00e9dica y nadie fue capaz de entender c\u00f3mo Deep Patient realizaba sus predicciones. De este modo, los m\u00e9dicos no pod\u00edan ofrecer argumentos a sus pacientes que explicasen esta conclusi\u00f3n y recetarles el tratamiento adecuado<\/strong>. En resumen, sin entender las predicciones no confiaban en el modelo<\/strong>. (\u2026.) <\/strong>pero nadie puede explicarte c\u00f3mo ha llegado un algoritmo a esta conclusi\u00f3n<\/strong>.<\/strong><\/p>\n Lo m\u00e1s sencillo ser\u00eda responsabilizar a los prejuicios humanos de no utilizar un gran avance<\/strong> de tecnolog\u00eda m\u00e9dica, pero antes de emitir este juicio deber\u00edamos ponernos en situaci\u00f3n. Si en una revisi\u00f3n m\u00e9dica un algoritmo recomienda que tu hijo sea operado de coraz\u00f3n para evitar un grave problema indetectable, pero nadie puede explicarte c\u00f3mo ha llegado un algoritmo a esta conclusi\u00f3n, \u00bfaceptar\u00edais operar a tu hijo sin una explicaci\u00f3n de un m\u00e9dico cualificado?<\/p>\n Con el crecimiento imparable de la anal\u00edtica avanzada, se hace cada vez m\u00e1s patente la necesidad de disponer de modelos de IA comprensibles y explicables<\/strong>, que permitan mejorar la confianza en el empleo de esta tecnolog\u00eda<\/a>. El objetivo ser\u00eda evitar ejemplos como algunos modelos de selecci\u00f3n de personal con inexplicables sesgos de g\u00e9nero o etnia, modelos de predicci\u00f3n de fraude con falsos positivos aleatorios, o modelos de detecci\u00f3n de v\u00eddeos violentos en internet que no diferencian acciones de terrorismo real de escenas de videojuegos de guerra.<\/p>\n Entendida la importancia, \u00bfpor qu\u00e9 estos modelos son tan dif\u00edciles de interpretar? B\u00e1sicamente, porque la mayor\u00eda se basan en modelos deep learning, principal responsable de la explosi\u00f3n de la IA. Estos modelos utilizan las ya famosas redes neuronales, que son un conjunto de miles y miles de neuronas simuladas interconectadas entre s\u00ed en capas<\/strong>. Cada neurona toma una peque\u00f1a decisi\u00f3n y pasa el resultado a otras neuronas adyacentes para que a su vez tomen su decisi\u00f3n y la pasen a las siguientes en un procedimiento de aprendizaje iterativo que produce un resultado global. Este mecanismo hace pr\u00e1cticamente imposible observar una red neuronal de gran tama\u00f1o en funcionamiento y comprender qu\u00e9 ha ocurrido dentro<\/strong>.<\/p>\n por Bob Yirka , Tech Xplore<\/p>\n (\u2026..) Adem\u00e1s, un equipo de Dartmouth College construy\u00f3 una aplicaci\u00f3n de inteligencia artificial<\/a> que pod\u00eda leer conversaciones en Reddit e informar sobre el estado mental de las personas que participan en tales conversaciones<\/strong>. Las pruebas mostraron que la aplicaci\u00f3n era capaz, en algunos escenarios, de detectar trastornos de salud mental. El equipo present\u00f3 su documento que describe su aplicaci\u00f3n y su trabajo con ella en la Conferencia Internacional sobre Inteligencia Web y Tecnolog\u00eda de Agentes Inteligentes de este a\u00f1o (\u2026.).<\/p>\n \u2026Y un equipo con miembros de la Universidad de Cambridge y la Universidad de Oslo inform\u00f3 que una paradoja matem\u00e1tica<\/a> demuestra algunos de los l\u00edmites de la IA<\/strong>. Se\u00f1alaron que la mayor\u00eda de estos sistemas, debido a que est\u00e1n construidos sobre redes neuronales, no son buenos para comprender cuando llegan a una respuesta incorrecta. Esto se debe a una paradoja descrita por primera vez por Alan Turing y Kurt G\u00f6del que implicaba poder probar si un estado matem\u00e1tico dado es verdadero o falso<\/strong>\u2026\u2026<\/p>\n Tambi\u00e9n recordando a los fan\u00e1ticos del cine escenas de varias pel\u00edculas de ciencia ficci\u00f3n, un equipo de la Universidad de Zhejiang que trabaja con un colega de la Universidad de Ciencias de Hong Kong y otro del Instituto de Tecnolog\u00eda y Huzhou de la Universidad de Zhejiang, cre\u00f3 un enjambre de drones<\/a> capaces de volar de forma aut\u00f3noma a trav\u00e9s de un espeso bosque. Diez cuadric\u00f3pteros fueron mostrados volando juntos a trav\u00e9s de un bosque de bamb\u00fa en China sin toparse con ramas u otros arbustos\u2026\u2026\u00a9 Red Ciencia X 2022<\/p>\n Las falacias del encantamiento con la inteligencia artificial de ChatGPT<\/strong><\/a><\/p>\n Esta herramienta de la empresa OpenAI <\/strong>usa muchos textos diferentes para generar uno nuevo. Por ello, es f\u00e1cil que recombine segmentos que, conceptualmente, son como el agua y el aceite y que cree una explicaci\u00f3n con errores importantes. Adem\u00e1s, sus fuentes de entrenamiento son opacas y no sabemos de d\u00f3nde ha sacado la informaci\u00f3n que utiliza para explicarnos las ideas principales<\/strong>. David Casacuberta y Ariel Guersenzvaig. 16\/12\/2022 09:21 CEST<\/a><\/p>\n Imagen simb\u00f3lica de los ‘clickworkers’, mano de obra invisible que hay detr\u00e1s de los sistemas de IA. Sin humanos reales que realicen el tedioso trabajo de etiquetar conjuntos de datos, el aprendizaje autom\u00e1tico y sus muchas aplicaciones en la vida real ser\u00edan imposibles. \/ Max Gruber \/ Better Images of AI <\/a><\/p>\n Coherencia no es sin\u00f3nimo de verdad<\/strong>, pero tendemos a confundir ambos conceptos<\/strong>. Cu\u00e1nto m\u00e1s coherente es un discurso, ya sea oral o textual, m\u00e1s f\u00e1cil es que lo tomemos por verdadero y m\u00e1s convincente nos parecer\u00e1. Y confundir coherencia con verdad puede llevarnos a cometer errores desastrosos<\/strong>. Un ejemplo perfecto de esta confusi\u00f3n es el ChatGPT de<\/strong> OpenAI<\/strong><\/a>. Sus desarrolladores han optimizado sus modelos ling\u00fc\u00edstico<\/strong>s<\/strong> con esmero para conseguir textos, que no solo son gramaticalmente correctos, sino que son tersos y hasta elocuentes. Encadenan frases de manera \u00e1gil, generando as\u00ed una fascinante y persuasiva impresi\u00f3n de razonamiento. Al mismo tiempo, ese chat de inteligencia artificial (IA) no se limita a copiar y pegar textos existentes, sino que, en base a la informaci\u00f3n adquirida en su entrenamiento, realmente genera textos exnovo<\/em>.<\/p>\n Algunas personas han quedado tan alucinadas que se habla ya del fin de Google<\/strong>, de estar un paso de la Inteligencia Artificial General (AGI), en la que los sistemas son comparables en inteligencia a los seres humanos. Algunos, con a\u00fan mayor osad\u00eda, ven razones para dar la bienvenida a la singularidad<\/strong>, ese estadio de desarrollo tecnol\u00f3gico en el que esta trasciende la inteligencia y el control humano<\/strong>s. Este encantamiento suele ir acompa\u00f1ado del emoji de la cabeza que explota. Somos nosotros mismos, los humanos, quienes dotamos de significado a estos textos, que, en sentido estricto, no son producto del razonamiento sino de vectores probabil\u00edsticos. Uno de los aspectos que m\u00e1s deber\u00eda preocuparnos a estas alturas es precisamente esta capacidad de generar textos que se perciben como tremendamente coherentes y de enorme eficacia persuasiva. Pero tal como est\u00e1 implementado, a efectos pr\u00e1cticos y si queremos usarlo de manera responsable, ChatGPT es poco m\u00e1s que un juguete para esas tardes en que<\/strong> ya estamos cansados del humor de TikTok, de rifirrafes tuiteros o de la \u00faltima serie de moda.<\/p>\n Sesgos, errores matem\u00e1ticos y de razonamiento inferencial <\/strong><\/p>\n La veracidad de una noticia o de un art\u00edculo cient\u00edfico no se mide por la coherencia del texto, sino por la credibilidad de las fuentes, por la fortaleza de las evidencias y la solidez de los argumentos. Y es aqu\u00ed donde encontramos un gran problema con ChatGPT. Un problema que no es el \u00fanico, ya que hay otros documentados como los sesgos discriminatorios o, curiosamente, los errores matem\u00e1ticos y de razonamiento inferencial que contienen algunas de sus respuestas. Por ejemplo<\/strong>, \u201cno saber\u201d si Lincoln y su asesino estaban en el mismo continente en el momento del asesinato.<\/p>\n Aqu\u00ed nos enfocaremos en el problema de sonar tremendamente convincente. Por un lado, sus fuentes de entrenamiento son opacas<\/strong>. No sabemos de d\u00f3nde ha sacado la informaci\u00f3n que utiliza para explicarnos las ideas principales<\/strong> del Tractatus Logico-Philosophicus<\/em> de Wittgenstein o c\u00f3mo funciona un coche el\u00e9ctrico. No podemos verificarlas y establecer si son de fiar. Pero ese es el menor de los problemas<\/strong>.<\/p>\n Recomendar libros que no existen<\/strong><\/p>\n Al usar muchos textos diferentes para generar uno nuevo, es f\u00e1cil que el programa recombine segmentos de textos que conceptualmente son como el agua y el aceite y que cree una explicaci\u00f3n con<\/strong> errores importantes<\/strong>. As\u00ed, ChatGPT nos ha recomendado un libro que no existe, cuyo supuesto t\u00edtulo no es m\u00e1s que un \u201ccad\u00e1ver exquisito\u201d construido con los t\u00edtulos de dos libros diferentes y cuyo supuesto autor es un tercero no relacionado<\/strong>. O cuando le pedimos que resuma las diferencias y similitudes entre dos autores, acaba asignando, err\u00f3neamente, opiniones del primer autor al segundo o viceversa<\/strong>. El problema a\u00f1adido es que las respuestas err\u00f3neas a estas preguntas solo son evidentes para quienes ya saben del tema.<\/p>\n El sistema puede resultar terco y recalcitrante de una manera muy curiosa. Si le pedimos que genere una nueva respuesta, nos ofrecer\u00e1 respuestas que, manteniendo un tono de total certidumbre, pueden ser del todo o parcialmente contradictorias con las generadas anteriormente<\/strong>, y que hab\u00edan sido comunicadas con similar firmeza y certidumbre.<\/p>\n La interacci\u00f3n con el sistema evoca los di\u00e1logos de S\u00f3crates con el sofista Hipias<\/strong>. Tanto Hipias como ChatGPT<\/strong> muestran una perturbadora inconstancia en sus argumentos, pero, a diferencia de Hipias, ChatGPT no \u201cconcede\u201d error alguno y lo suyo es m\u00e1s una simple violaci\u00f3n del principio de no contradicci\u00f3n. Digamos que<\/strong> m\u00e1s que a un sofista, se parece m\u00e1s a un \u2018enteradillo\u2019 de Twitter<\/strong>.<\/p>\n La c\u00e9lebre frase \u201cSi he podido ver m\u00e1s lejos que otros es porque me sub\u00ed a hombros de gigantes\u201d, frecuentemente atribuida a Newton \u2014aunque existe una viva pol\u00e9mica sobre su origen\u2014 celebra y reconoce las deudas intelectuales que tenemos con quienes nos precedieron. Al presentar un batido, un <\/strong>remix<\/em><\/strong>, de conclusiones e ideas inestables, ChatGPT rompe radicalmente con esa valiosa tradici\u00f3n. Decimos radicalmente, porque incluso si nos top\u00e1ramos con una idea que resulta prometedora o inspiradora, resultar\u00eda virtualmente imposible descubrir su origen<\/strong>.<\/p>\n \u00bfGeneraci\u00f3n de noticias falsas a gran escala?<\/strong><\/p>\n Los peligros que en su momento aire\u00f3 OpenAI \u2014y que ahora la propia empresa parece haber olvidado\u2014 de c\u00f3mo esta m\u00e1quina ser\u00eda una terrible generadora de noticias falsas<\/strong> tambi\u00e9n son muy exagerados. Cierto, la coherencia intr\u00ednseca del programa la hace ideal para generar ese tipo de textos, pero a los humanos tambi\u00e9n se nos da muy bien generarlo<\/strong>s, as\u00ed que no hay ning\u00fan tipo de escalada cualitativa<\/strong> de esos subproductos digitales. Adem\u00e1s, lo que hace que una noticia falsa sea problem\u00e1tica no es la habilidad incomparable de la entidad que la genere \u2014la mayor\u00eda de noticias falsas o de textos de clickbaits<\/em> son repetitivos y facilones\u2014 sino c\u00f3mo se distribuyen en las redes sociales digitales y ah\u00ed ChatGPT no aporta nada novedoso en cuanto a la creatividad o el ingenio necesarios para crear estos contenidos<\/strong>. La diferencia, sin embargo, puede estar, de implementarse en la pr\u00e1ctica e integrarse con otros sistemas, en la facilidad que ofrece para crear estos contenidos a gran escala.<\/p>\n <\/p>\n Pero ello no significa que ChatGPT sea completamente in\u00fatil<\/strong>. A continuaci\u00f3n un listado de posibles campos de actuaci\u00f3n<\/strong> en su versi\u00f3n actual:<\/p>\n Siendo optimistas, una futura versi\u00f3n de este sistema podr\u00eda aportar cierto valor. Para ello deber\u00eda ser m\u00e1s robusto y fiable, y sus creadores deber\u00edan ofrecernos maneras para verificar que esta robustez y fiabilidad es tal<\/strong> (por ejemplo, facilitando documentaci\u00f3n acerca de los datos de entrenamiento adem\u00e1s de fuentes verificables en los resultados). Lo que este sistema NO puede hacer es ser autor de argumentos, ya que, para serlo, se requiere querer decir algo y comprender lo que uno est\u00e1 diciendo<\/strong>. Tambi\u00e9n hace falta tener una voz m\u00ednimamente constante en el tiempo, que por lo menos se haga cargo de lo que dice. En suma, poseer una cierta capacidad de juicio y una intenci\u00f3n comunicativa.<\/p>\n Sin embargo, y dicho con cautela, no est\u00e1 nada claro que estos sistemas tengan estas capacidades. Mediante medios probabil\u00edsticos, ChatGPT s\u00ed que puede decirnos que Lincoln fue apu\u00f1alado, pero es incapaz de inferir mediante sentido com\u00fan que para apu\u00f1alar a alguien es necesario estar a su lado. No debemos dejarnos llevar por el seductor encantamiento de la elocuencia basada en correlaciones<\/strong>. ChatGPT es un desarrollo experimental, t\u00e9cnicamente elogiable y ciertamente entretenido, pero, bien mirado, no justifica que a tantos les explote la cabeza y vean en dicho sistema el comienzo de una nueva era de la creatividad y la inteligencia<\/strong>.<\/p>\n David Casacuberta<\/strong> es doctor en Filosof\u00eda y m\u00e1ster en Ciencias cognitivas y del lenguaje y profesor de Filosof\u00eda de la ciencia en la Universidad Aut\u00f3noma de Barcelona. Tambi\u00e9n codirige el m\u00e1ster en Dise\u00f1o y Direcci\u00f3n de Proyectos para Internet de Elisava.<\/p>\n Ariel Guersenzvaig<\/strong> es investigador en \u00e9tica de la inteligencia artificial y profesor en Elisava, Facultad de Dise\u00f1o e Ingenier\u00eda de la Universidad de Vic y miembro del comit\u00e9 de \u00e9tica de la investigaci\u00f3n de esa universidad. <\/p>\n Fuente: SINC; <\/strong>Derechos: Creative Commons.<\/strong><\/p>\n Casi cualquiera que haya utilizado esta aplicaci\u00f3n de IA puede haber tenido la sensaci\u00f3n de estar ante algo disruptivo, como cuando prob\u00f3 el buscador de Google por primera vez. Sin embargo, las limitaciones de esta herramienta de la empresa OpenAI est\u00e1n en su propio dise\u00f1o: no entiende las respuestas que genera<\/strong>. El experto Pablo Haya explica hasta d\u00f3nde puede llegar la inteligencia del ChatGPT.<\/p>\n Alejandro Mu\u00f1oz; <\/a>28\/12\/2022 11:13 CEST<\/a><\/p>\n Durante las \u00faltimas semanas se ha desatado una gran expectaci\u00f3n sobre el ChatGPT<\/strong>, una aplicaci\u00f3n de inteligencia artificial (IA) basada en el software GPT-3.5<\/a> de la empresa OpenAI<\/a>, que es capaz de resolver gran variedad de preguntas y tareas, de forma muy intuitiva. Desde crear un art\u00edculo que <\/strong>podr\u00eda haber escrito Rajoy<\/strong><\/a>, a realizar los deberes de estudiantes o facilitar las tareas<\/strong> de un profesional de consultor\u00eda<\/a>, para que pudiese llegar a una cena. Los ejemplos en redes sociales <\/strong>han sido muchos<\/strong><\/a>, por su facilidad de uso y lo acertado de sus respuestas<\/strong>. Las posibilidades que ofrece esta nueva aplicaci\u00f3n parecen infinitas, pero expertos como Pablo Haya creen que no se debe exagerar con las capacidades del ChatGPT, e insisten en recordar la<\/strong> limitaci\u00f3n tecnolog\u00eda<\/strong> detr\u00e1s de este programa. Haya est\u00e1 especializado en IA y procesamiento de lenguaje. Es profesor de big data<\/em> y ciencia de datos y lidera el grupo de Social Business Analytics en el instituto de Ingenier\u00eda del Conocimiento<\/a>, ubicado en la Universidad Aut\u00f3noma de Madrid, un centro de transferencia tecnol\u00f3gica centrado en inteligencia artificial, con 30 a\u00f1os de historia.<\/p>\n \u00bfEstamos ante la nueva revoluci\u00f3n digital tras la creaci\u00f3n de internet?<\/strong><\/p>\n La sensaci\u00f3n es que el ChatGPT es un poco el doctor Jekyll y Mr. Hyde<\/strong>. Por un lado, estamos ante una revoluci\u00f3n en el \u00e1rea del Procesamiento del Lenguaje Natural<\/strong> (PLN). Supone un cambio cuantitativo y cualitativo impresionante en IA generativa de texto respecto<\/strong>, por ejemplo, al software anterior GPT-3. Cualquier humano que lo ha probado ha tenido esa sensaci\u00f3n de estar ante algo que no hab\u00eda experimentado nunca. Como cuando apareci\u00f3 Google por primera vez, que pon\u00edas una pregunta y en el primer o segundo resultado ya encontrabas la respuesta. Era algo alucinante. Por otro lado, se est\u00e1n generando unas expectativas desmedidas en cuanto a c\u00f3mo va a influir esto en la sociedad, porque no tenemos lo suficientemente interiorizado c\u00f3mo funcionan estas tecnolog\u00edas. Las limitaciones de su dise\u00f1o implican que hay tareas que, a d\u00eda de hoy, no se pueden hacer<\/strong>\u2026\u2026..<\/p>\n Pero se trata de una aplicaci\u00f3n en fase de pruebas, \u00bfno?<\/strong><\/p>\n S\u00ed, en eso \u2013a diferencia de <\/strong>Morir de hambre en la era de la inteligencia artificial: por qu\u00e9 839 millones de personas no pueden comer dignamente<\/a><\/h3>\n
La Inteligencia Artificial y los algoritmos<\/strong><\/a><\/h3>\n
<\/strong>Estos son los tipos de algoritmos clave en la b\u00fasqueda de la inteligencia artificial<\/strong><\/a><\/h3>\n
Interpretar (y comprender) la Inteligencia Artificial<\/strong><\/a><\/h3>\n
Lo mejor del a\u00f1o pasado: los mejores art\u00edculos de Tech Xplore de 2022<\/strong><\/a><\/h3>\n
\n
ChatGPT es una m\u00e1quina de desinformaci\u00f3n<\/strong><\/a>\u201d<\/strong><\/h3>\n