![\"IA-Riesgos\"](\"https:\/\/www.madrimasd.org\/blogs\/universo\/wp-content\/blogs.dir\/42\/files\/1123\/IA-Riesgos.jpg\")
<\/p>\n<\/p>\n
Fuente. Colaje im\u00e1genes Google<\/span><\/p>\n Har\u00e1 unos trece meses la noticia salt\u00f3 a todos los medios de comunicaci\u00f3n del mundo. La IA con lenguaje natural<\/a> y los Chatbot<\/a> invadieron todos los noticieros del y aun seguimos as\u00ed. La batalla comenz\u00f3 con unas breves noticias que pronto se convirtieron en miles, cientos de miles y ya, seguramente, millones. No vamos ha hablar en este post, de sus riesgos y beneficios para la humanidad, ya que ni siquiera los conocemos con exactitud. Tambi\u00e9n hemos comentado que la ciencia no tiene moral, pudiendo utilizarse sus productos, <\/strong><\/span>para el bien o para el mal<\/a>. Son las dos caras de la ciencia<\/a>. Por lo tanto, y a sabiendas de los riesgos que conlleva su desarrollo, crecimiento y comercializaci\u00f3n crecieron exponencialmente sin control alguno. Mientras tanto nuestras autoridades siguen d\u00e1ndole vueltas, tarde mal y nunca, a regularizar el uso de tal tecnolog\u00eda, cuando en realidad ya se encuentra en casi todos los buscadores de Internet<\/strong><\/span>. Malas noticias acerca de la gobernabilidad de nuestra sociedad. Entiendo que tal hecho no es nuevo ya que hemos visto lo acaecido en la lucha contra el cambio clim\u00e1tico, tras d\u00e9cadas y decenas de cumbres, conferencias, simposios auspiciados por la ONU, etc. Ahora bien, dicen que el hombre es el \u00fanico animal que tropieza dos veces en la misma piedra<\/a>. Discrepo, ya que no tenemos limites para recaer \u201cad nauseam\u201d en todos los socavones que nosotros mismos creamos<\/strong><\/span>. Abajo os dejo una muestra o relaci\u00f3n de noticias para aquellos que quer\u00e1is profundizar en el tema.<\/p>\n Los primeros beneficiados, como no, son las grandes tecnol\u00f3gicas que est\u00e1n obteniendo miles de millones de beneficios extra<\/strong><\/span>, lanzando sus productos al mundo, sin la menor garant\u00eda de lo que pueden hacer, ni para el mal ni para el bien. <\/p>\n Se han detectado ya flagrantes fraudes que afectan a los propios cient\u00edficos, a los gobernantes y, como no al publico en general<\/strong><\/span>. Y como no, a las propias noticias de la prensa tambi\u00e9n.<\/p>\n Seguidamente parte de la comunidad cient\u00edfica ha encontrado otro nicho ecol\u00f3gico para poder discutir, teorizar y disparatar, sobre ella pero tambi\u00e9n (\u2026.)<\/strong><\/span><\/p>\n (\u2026) Si, pero tambi\u00e9n a cerca de en que consiste la consciencia<\/strong><\/span>. Ya que dicen que La IA generativa puede emularla y superarla, cuando ni tan siquiera sabemos \u201ccient\u00edficamente\u201d como definir que es en realidad lo que llamamos consciencia<\/strong><\/span>. Discusiones bizantinas disfrazadas de art\u00edculos sabios y eruditos.<\/p>\n Resumiendo, que la sociedad de la tecnolog\u00eda e informaci\u00f3n han dado un salto cualitativo, para alent\u00e9 o para atr\u00e1s, sin que se tomen cartas en el asunto y casi inadvertidamente.<\/p>\n Me asombra la ingente cantidad de cient\u00edficos que, (dicen estar en la vanguardia) \u00bfde qu\u00e9? \u00a1dir\u00e1n modas! \u00bfno? Somos como ni\u00f1os con juguetes nuevos. El problema reside en que estos juguetitos podr\u00edan llevar al colapso de la civilizaci\u00f3n y nosotros observando tan tranquilos como si fuera simplemente una pal\u00edcula de ciemcia ficcion. Esperemos que no sea as\u00ed. es la \u00fanico que podemos hacer. Y luego no nos cansamos de apelar a las bondades sobre el principio de precauci\u00f3n<\/a>. \u00a1Qu\u00e9 gran falacia!<\/span><\/strong><\/p>\n Ahora bien, lo que resulta ya palmario es que vivimos en un mundo descarriado, en el que las gobernanzas, el principio de precauci\u00f3n y m\u00e1s lindezas, brillan por su ausencia, por mucho que intenten enga\u00f1arnos. Se trata de un ejemplo magnifico de lo que nos propone la tecnociencia<\/a>. <\/p>\n Personalmente, no me gusta la orina del enfermo, que en el fondo resultamos ser todos nosotros y nuestro planeta. Os dejo sin m\u00e1s con los titulares de las noticias, advirtiendo que algunos pueden fallar y que varias noticias enlazadas se encuentran escritas en el idioma del imperio.<\/p>\n Juan Jos\u00e9 Ib\u00e1\u00f1ez<\/strong><\/span><\/p>\n Contin\u00faa\u2026\u2026\u2026<\/em><\/span><\/p>\n <\/p>\n Las grandes tecnol\u00f3gicas logran beneficios r\u00e9cord subidas a la ola de la inteligencia artificial<\/a><\/strong><\/p>\n El beneficio de Apple, Microsoft, Alphabet, Amazon y Meta se dispara un 45% en el tercer trimestre, hasta los 86.398 millones de d\u00f3lares<\/p>\n Si la IA se vuelve consciente As\u00ed es como los investigadores lo sabr\u00e1n<\/strong><\/a><\/p>\n Una lista de verificaci\u00f3n derivada de seis teor\u00edas de la conciencia basadas en la neurociencia podr\u00eda ayudar en la evaluaci\u00f3n.<\/strong><\/p>\n NOTICIA; <\/strong>24 agosto 2023: Mariana Lenharo<\/a><\/p>\n La ciencia ficci\u00f3n ha considerado durante mucho tiempo la idea de que la inteligencia artificial se vuelva consciente: piense en HAL 9000<\/strong>, la supercomputadora convertida en villano en la pel\u00edcula de 1968 2001: Una odisea del espacio<\/em>. Con el r\u00e1pido progreso de la inteligencia artificial (IA), esa posibilidad se est\u00e1 volviendo cada vez menos fant\u00e1stica, e incluso ha sido reconocida por los l\u00edderes en IA<\/strong>. El a\u00f1o pasado, por ejemplo, Ilya Sutskever, cient\u00edfico jefe de OpenAI, la compa\u00f1\u00eda detr\u00e1s del chatbot ChatGPT, tuite\u00f3 que algunas de las redes de IA m\u00e1s avanzadas podr\u00edan ser \u00abligeramente conscientes<\/a>\u00ab.<\/p>\n Muchos investigadores dicen que los sistemas de IA a\u00fan no est\u00e1n en el punto de conciencia, pero que el ritmo de la evoluci\u00f3n de la IA los ha hecho reflexionar: \u00bfc\u00f3mo sabr\u00edamos si lo estuvieran?<\/p>\n La apuesta de d\u00e9cadas por la conciencia termina, y es fil\u00f3sofo 1, neurocient\u00edfico 0<\/strong><\/a><\/p>\n Para responder a esto, un grupo de 19 neurocient\u00edficos, fil\u00f3sofos e inform\u00e1ticos han elaborado una lista de criterios que, si se cumplen, indicar\u00edan que un sistema tiene una alta probabilidad de ser consciente. Publicaron su gu\u00eda provisional a principios de esta semana en el repositorio de preprints arXiv.1<\/a>, antes de la revisi\u00f3n por pares. Los autores emprendieron el esfuerzo porque \u00abparec\u00eda que hab\u00eda una escasez real de discusi\u00f3n detallada, emp\u00edricamente fundamentada y reflexiva sobre la conciencia de la IA\u00bb, dice el coautor Robert Long, fil\u00f3sofo del Centro para la Seguridad de la IA, una organizaci\u00f3n de investigaci\u00f3n sin fines de lucro en San Francisco, California.<\/p>\n El equipo dice que el hecho de no identificar si un sistema de IA se ha vuelto consciente tiene importantes implicaciones morales. Si algo ha sido etiquetado como \u00abconsciente\u00bb, seg\u00fan la coautora Megan Peters, neurocient\u00edfica de la Universidad de California, Irvine, \u00abeso cambia mucho sobre c\u00f3mo nosotros, como seres humanos, sentimos que esa entidad debe ser tratada\u00bb.<\/p>\n Long agrega que, por lo que puede decir, las compa\u00f1\u00edas que construyen sistemas avanzados de IA no est\u00e1n haciendo suficiente esfuerzo para evaluar los modelos de conciencia y hacer planes sobre qu\u00e9 hacer si eso sucede. \u00abY eso es a pesar del hecho de que, si escuchas los comentarios de los jefes de los principales laboratorios, dicen que la conciencia de la IA o la sintiencia de la IA es algo sobre lo que se preguntan\u00bb, agrega.<\/p>\n Nature<\/em> contact\u00f3 a dos de las principales empresas de tecnolog\u00eda involucradas en el avance de la IA: Microsoft y Google. Un portavoz de Microsoft dijo que el desarrollo de IA de la compa\u00f1\u00eda se centra en ayudar a la productividad humana de una manera responsable, en lugar de replicar la inteligencia humana. Lo que est\u00e1 claro desde la introducci\u00f3n de GPT-4, la versi\u00f3n m\u00e1s avanzada de ChatGPT lanzada p\u00fablicamente, \u00abes que se requieren nuevas metodolog\u00edas para evaluar las capacidades de estos modelos de IA a medida que exploramos c\u00f3mo lograr todo el potencial de la IA para beneficiar a la sociedad en su conjunto\u00bb, dijo el portavoz. Google no respondi\u00f3.<\/p>\n \u00bfQu\u00e9 es la conciencia?<\/strong><\/p>\n Uno de los desaf\u00edos en el estudio de la conciencia en IA es definir lo que significa ser consciente. Peters dice que para los prop\u00f3sitos del informe, los investigadores se centraron en la \u00abconciencia fenom\u00e9nica\u00bb, tambi\u00e9n conocida como la experiencia subjetiva. Esta es la experiencia de ser: lo que es ser una persona, un animal o un sistema de IA (si uno de ellos resulta ser consciente).<\/p>\n ChatGPT rompi\u00f3 la prueba de Turing: la carrera est\u00e1 en marcha para nuevas formas de evaluar la IA<\/a><\/u><\/strong><\/p>\n Hay muchas teor\u00edas basadas en la neurociencia que describen la base biol\u00f3gica de la conciencia. Pero no hay consenso sobre cu\u00e1l es el \u00abcorrecto\u00bb.<\/a> Para crear su marco, los autores utilizaron una serie de estas teor\u00edas. La idea es que si un sistema de IA funciona de una manera que coincida con aspectos de muchas de estas teor\u00edas, entonces hay una mayor probabilidad de que sea consciente.<\/p>\n Argumentan que este es un mejor enfoque para evaluar la conciencia que simplemente someter a un sistema a una prueba de comportamiento, por ejemplo, preguntarle a ChatGPT si es consciente o desafiarlo y ver c\u00f3mo responde. Esto se debe a que los sistemas de IA se han vuelto notablemente buenos para imitar a los humanos.<\/p>\n La IA finalmente vence a los humanos en un deporte de la vida real: las carreras de drones<\/strong><\/a><\/p>\n ChatGPT puede obtener buenas calificaciones. \u00bfQu\u00e9 deben hacer los educadores al respecto?<\/a><\/strong><\/p>\n Los detectives cient\u00edficos detectan el uso deshonesto de ChatGPT en los art\u00edculos<\/a><\/strong><\/p>\n Si la IA se vuelve consciente, as\u00ed es como podemos saberlo<\/a><\/strong><\/p>\n Los detectives cient\u00edficos detectan el uso deshonesto de ChatGPT en los art\u00edculos<\/a><\/strong><\/p>\n Chatbots de IA m\u00e9dica Son seguros para hablar con los pacientes?<\/a><\/strong><\/p>\n Los chatbots de inteligencia artificial basados en grandes modelos de lenguaje pueden pasar ex\u00e1menes m\u00e9dicos, pero sus diagn\u00f3sticos a menudo son inexactos<\/strong><\/a><\/p>\n Una prueba de inteligencia artificial (nature.com)<\/strong><\/a><\/p>\n La inteligencia artificial finalmente podr\u00eda permitirnos hablar con los animales<\/a><\/strong><\/p>\n C\u00f3mo evitar que los deepfakes de IA hundan a la sociedad y a la ciencia<\/a><\/strong><\/p>\n Los sesgos de la inteligencia artificial pueden pasar a las personas<\/a><\/strong><\/p>\n \u00bfPueden los chatbots ser terapeutas? Solo si quieres que lo sean C\u00f3mo ChatGPT y otras herramientas de IA podr\u00edan alterar la publicaci\u00f3n cient\u00edfica<\/a><\/strong><\/p>\n Un mundo de escritura y revisi\u00f3n asistida por IA podr\u00eda transformar la naturaleza del art\u00edculo cient\u00edfico<\/strong><\/p>\n Con el auge de la IA generativa, un investigador advierte de los costes energ\u00e9ticos<\/a><\/strong><\/p>\n Directrices vivas para la IA generativa: por qu\u00e9 los cient\u00edficos deben supervisar su uso (nature.com)<\/a><\/strong><\/p>\n Establecer un organismo cient\u00edfico independiente para probar y certificar la inteligencia artificial generativa, antes de que la tecnolog\u00eda da\u00f1e la ciencia y la confianza p\u00fablica<\/strong><\/a><\/p>\n <\/strong>\u00abAvance\u00bb de la IA: la red neuronal tiene una capacidad similar a la humana para generalizar el lenguaje<\/strong><\/a><\/p>\n Una inteligencia artificial basada en redes neuronales supera a ChatGPT a la hora de incorporar r\u00e1pidamente nuevas palabras a su l\u00e9xico, un aspecto clave de la inteligencia humana.<\/strong><\/p>\n El uso de ChatGPT muestra que el sistema de solicitud de subvenciones no funciona Financiaci\u00f3n de la ciencia<\/strong><\/a><\/p>\n El hecho de que la inteligencia artificial pueda hacer gran parte del trabajo es una burla del proceso. Es hora de facilitar que los cient\u00edficos soliciten financiaci\u00f3n para la investigaci\u00f3n.<\/strong><\/p>\n Joy Buolamwini: \u00abEstamos dando v\u00eda libre a las empresas de IA\u00bb<\/a><\/p>\n La investigadora y activista pionera en IA comparte su viaje personal en un nuevo libro y explica sus preocupaciones sobre los sistemas de IA actuales.<\/p>\n Basura que entra, basura que sale: mitigar los riesgos y maximizar los beneficios de la IA en la investigaci\u00f3n<\/a><\/strong><\/p>\n Las herramientas de inteligencia artificial est\u00e1n transformando la ciencia basada en datos: se necesitan mejores est\u00e1ndares \u00e9ticos y una curaci\u00f3n de datos m\u00e1s s\u00f3lida para impulsar el auge y evitar una ca\u00edda.<\/p>\n Por qu\u00e9 la cumbre mundial de IA liderada por el Reino Unido no tiene sentido<\/strong><\/a><\/p>\n Una regulaci\u00f3n s\u00f3lida de las tecnolog\u00edas de IA ser\u00e1 crucial para protegerse contra los da\u00f1os. Las voces de los investigadores deben ser escuchadas.<\/p>\n Un nuevo m\u00e9todo de entrenamiento ayuda a la IA a generalizar como lo hacen las personas<\/a><\/p>\n <\/strong>Para mejorar el aprendizaje autom\u00e1tico, la respuesta podr\u00eda ser adoptar un enfoque diferente para la educaci\u00f3n rob\u00f3tica en lugar de simplemente alimentar a los modelos con m\u00e1s datos<\/p>\n C\u00f3mo los robots pueden aprender a seguir un c\u00f3digo moral<\/a><\/strong><\/p>\n La inteligencia artificial \u00e9tica tiene como objetivo impartir valores humanos en los sistemas de aprendizaje autom\u00e1tico.<\/strong><\/p>\n Casa Blanca 2024: La IA amenaza con \u00absobrecargar\u00bb la desinformaci\u00f3n<\/strong><\/a> Los activistas de ambos lados del pasillo pol\u00edtico de Estados Unidos est\u00e1n aprovechando herramientas avanzadas impulsadas por inteligencia artificial, que muchos expertos en tecnolog\u00eda ven como un arma de doble filo.<\/p>\n La semana mundial de la seguridad de la IA: se lanzan potentes esfuerzos inform\u00e1ticos para impulsar la investigaci\u00f3n<\/strong><\/a><\/p>\n Los gobiernos del Reino Unido y Estados Unidos establecen esfuerzos para democratizar el acceso a las supercomputadoras que ayudar\u00e1n a los estudios sobre los sistemas de IA.<\/strong><\/p>\n El ‘detector de ChatGPT’ detecta documentos generados por IA con una precisi\u00f3n sin precedentes<\/strong><\/a><\/p>\n La herramienta basada en el aprendizaje autom\u00e1tico utiliza caracter\u00edsticas del estilo de escritura para distinguir entre autores humanos y de IA.<\/strong><\/p>\n El auge de la tecnolog\u00eda de lectura cerebral: lo que necesitas saber<\/strong><\/a><\/p>\n Meta exigir\u00e1 que los anuncios pol\u00edticos revelen im\u00e1genesalteradas por IA<\/a><\/strong><\/p>\n Sonia Contera: \u201cLa gente reaccionar\u00e1 contra los abusos de la tecnolog\u00eda y acabar\u00e1 con la ciencia\u201d<\/a><\/strong><\/p>\n <\/strong>La Ciencia y la nueva era de la IA<\/a><\/p>\n Actualizado el 27 de septiembre de 2023<\/p>\n IA y ciencia: lo que piensan 1.600 investigadores<\/strong><\/a><\/p>\n Un Naturaleza<\/em> La encuesta revela que los cient\u00edficos est\u00e1n preocupados, as\u00ed como entusiasmados, por el creciente uso de herramientas de inteligencia artificial en la investigaci\u00f3n.<\/p>\n REPORTAJE DE NOTICIAS<\/strong><\/p>\n C\u00f3mo evitar que los deepfakes de IA hundan a la sociedad y a la ciencia<\/strong><\/a><\/p>\n Los videos e im\u00e1genes enga\u00f1osos creados con IA generativa podr\u00edan influir en las elecciones, colapsar los mercados burs\u00e1tiles y arruinar la reputaci\u00f3n. Los investigadores est\u00e1n desarrollando m\u00e9todos para limitar su da\u00f1o.<\/p>\n La aplicaci\u00f3n de chatbot de inteligencia artificial desarrollado en 2022 por OpenAI responde a preguntas sobre su presente y su futuro entre los humanos<\/p>\n Madrid 30\/10\/2023 Actualizada 13:13<\/p>\n OpenAI decidi\u00f3 entregar al gran p\u00fablico una aplicaci\u00f3n de chat basada en inteligencia artificial <\/strong>el 30 de octubre de 2022<\/strong>. Un servicio gratuito que pronto tuvo versiones de pago y que vive en medio de duras cr\u00edticas ante el incierto futuro que se avecina y los que defienden que es una herramienta \u00fanica <\/strong>de ayuda que har\u00e1 la vida m\u00e1s f\u00e1cil <\/a>y no quitar\u00e1 empleos.<\/p>\n Mientras los mecanismos de aprendizaje siguen adelante y otras inteligencias artificiales como Bard, de Google, generan intrincadas competencias<\/a>, es el momento de parar y reflexionar con el propio ChatGPT sobre su existencia, su modelo de entrenamiento y sus fallos.<\/p>\n \u2013 Hoy es tu primer aniversario entre los humanos, \u00bfhay m\u00e1s gente a favor o en contra de ChatGPT?<\/a><\/strong><\/p>\n La IA transformar\u00e1 la ciencia: ahora los investigadores deben domesticarla<\/strong><\/a><\/p>\n Un nuevo Nature<\/em> La serie explorar\u00e1 las muchas formas en que la inteligencia artificial est\u00e1 cambiando la ciencia, para bien y para mal.<\/p>\n Descubrimiento cient\u00edfico en la era de la inteligencia artificial<\/strong><\/a><\/p>\n C\u00f3mo evitar que los deepfakes de IA hundan a la sociedad y a la ciencia<\/a><\/strong><\/p>\n
\n<\/a><\/strong><\/p>\n
\nPor Anuj CHOPRA
\nWashington (AFP) 3 de noviembre de 2023
\n<\/strong>Desde im\u00e1genes fabricadas del arresto de Donald Trump hasta un video que muestra un futuro dist\u00f3pico bajo Joe Biden, la carrera por la Casa Blanca de 2024 se enfrenta a una manguera de desinformaci\u00f3n habilitada por la tecnolog\u00eda en lo que se anuncia ampliamente como la primera elecci\u00f3n de IA de Estados Unidos.<\/p>\nEntrevistamos a ChatGPT en su primer a\u00f1o de vida: \u00abNo puedo tomar decisiones como los seres humanos\u00bb<\/a><\/h4>\n
La inteligencia artificial ya es capaz de relacionar conceptos igual o mejor que los humanos<\/a><\/h4>\n