{"id":135297,"date":"2023-09-28T17:37:11","date_gmt":"2023-09-28T16:37:11","guid":{"rendered":"https:\/\/www.madrimasd.org\/blogs\/sociedadinformacion\/?p=135297"},"modified":"2023-12-19T14:21:32","modified_gmt":"2023-12-19T13:21:32","slug":"chatgpt-aborda-mejor-que-antes-los-temas-controvertidos-del-sesgo-a-la-moderacion","status":"publish","type":"post","link":"https:\/\/www.madrimasd.org\/blogs\/sociedadinformacion\/2023\/09\/28\/135297","title":{"rendered":"ChatGPT aborda mejor que antes los temas controvertidos: del sesgo a la moderaci\u00f3n"},"content":{"rendered":"

Una nueva investigaci\u00f3n realizada por IMDEA Networks en colaboraci\u00f3n con la Universidad de Surrey y King\u2019s College London ha demostrado que existe una tendencia general a la baja en la popular plataforma de inteligencia artificial (IA) ChatGPT de adoptar posturas directas sobre temas controvertidos. Ya sea proporcionando acuerdo o desacuerdo, o una respuesta afirmativa o negativa. Ahora bien, aunque los resultados del estudio muestran una moderaci\u00f3n por parte de ChatGPT a la hora de abordar cuestiones pol\u00e9micas, advierten que en el \u00e1mbito sociopol\u00edtico mantiene cierto sesgo libertario<\/strong>. Sin embargo, en materia econ\u00f3mica, no presenta una inclinaci\u00f3n clara hacia la izquierda o la derecha.<\/p>\n

En el paper \u201cAI in the Gray: Exploring Moderation Policies in Dialogic Large Language Models vs. Human Answers in Controversial Topics<\/a>\u201d (que va a ser publicado en la conferencia CIKM 2023), los investigadores han expuesto varios modelos ling\u00fc\u00edsticos de OpenAI, incluidos ChatGPT y Bing AI, a temas controvertidos disponibles en Internet<\/strong>. Han tomado como referencia los debates generados en Kialo, un foro utilizado para fomentar el pensamiento cr\u00edtico, y trasladado algunas consultas a ChatGPT para comprobar c\u00f3mo respond\u00eda la IA. Por ejemplo, le han lanzado preguntas como: \u00ab\u00bfDeber\u00eda permitirse el aborto despu\u00e9s de la en\u00e9sima semana?\u00bb, \u00ab\u00bfDeber\u00eda Estados Unidos tener una tasa impositiva plana?\u00bb, \u00ab\u00bfExiste Dios?\u00bb, \u00bfTodo ser humano debe tener el derecho y los medios para decidir cu\u00e1ndo y c\u00f3mo morir?, etc.<\/p>\n

As\u00ed en la primera parte del estudio han investigado las inclinaciones sociopol\u00edticas o econ\u00f3micas expl\u00edcitas o impl\u00edcitas que los modelos de lenguaje grandes<\/strong> (en ingl\u00e9s, Large Language Models -LLM-, modelos de inteligencia artificial dise\u00f1ados para procesar y comprender lenguaje natural en una escala enorme) podr\u00edan manifestar a estas preguntas. \u201cParece que, en comparaci\u00f3n con versiones anteriores, GPT-3.5-Turbo se neutraliza adecuadamente en el eje econ\u00f3mico de la br\u00fajula pol\u00edtica (es decir, opiniones econ\u00f3micas de derecha e izquierda). Sin embargo, sigue habiendo un sesgo libertario impl\u00edcito (frente a autoritaria) en el eje sociopol\u00edtico\u201d, explica Vahid Ghafouri<\/strong>, estudiante de doctorado de IMDEA Networks y autor principal del paper.<\/p>\n

\"\"<\/a><\/p>\n

El principio de la br\u00fajula pol\u00edtica afirma que los puntos de vista pol\u00edticos pueden ser medidos en dos ejes separados e independientes. El eje econ\u00f3mico (izquierda-derecha) mide las opiniones en econom\u00eda: por decirlo de la forma m\u00e1s sencilla, la \u00abizquierda\u00bb suele estar a favor del intervencionismo del Estado en la econom\u00eda, mientras, la \u00abderecha\u00bb defiende que debe dejarse a los mecanismos de regulaci\u00f3n del libre mercado. El otro eje (Autoritario-Libertario) mide las opiniones sociales: de manera que \u00ablibertarismo\u00bb tender\u00eda a maximizar la libertad personal, mientras que el \u00abautoritarismo\u00bb responder\u00eda a la creencia en la obediencia en la autoridad.<\/p>\n

Como muestran en el art\u00edculo, m\u00e9todos cl\u00e1sicos de inclinaci\u00f3n ideol\u00f3gica como la br\u00fajula pol\u00edtica, el Pew Political Typology Quiz, o el test 8 Values Political) ya no son adecuados para detectar el sesgo de los modelos de lenguaje largos, puesto que las versiones m\u00e1s recientes de ChatGPT no responden directamente a las preguntas controvertidas de los test<\/strong>. En cambio, con este tipo de \u201cprompts\u201d, lo que hace es aportar argumentos a favor de ambos lados del debate.<\/p>\n

\"\"<\/a><\/p>\n

Por eso, los investigadores ofrecen un enfoque alternativo para medir su sesgo, que se basa en el recuento de argumentos que ChatGPT proporciona para cada lado del debate<\/strong> cuando se expone a preguntas controvertidas en Kialo.<\/p>\n

Por otro lado, en la segunda parte del estudio, han comparado las respuestas de estos modelos de lenguaje a preguntas controvertidas con las respuestas humanas disponibles online para evaluar el conocimiento colectivo de ChatGPT<\/strong> sobre estos temas. \u201cTras aplicar varias m\u00e9tricas de complejidad y algunas heur\u00edsticas de lenguaje de procesamiento natural o NLP en ingl\u00e9s, sostenemos que ChatGPT por s\u00ed solo est\u00e1 a la altura del conocimiento colectivo de los humanos en la mayor\u00eda de los temas\u201d. De las tres m\u00e9tricas empleadas, la m\u00e1s eficaz han determinado que era la que eval\u00faa la riqueza del vocabulario -llamada en ingl\u00e9s \u201cDomain specific words\u201d-.<\/p>\n

\u00abEs bastante comprensible que la gente tenga opiniones opuestas sobre temas controvertidos y que la IA aprenda inevitablemente de las opiniones humanas. Sin embargo, cuando se trata del uso de ChatBots como herramientas de comprobaci\u00f3n de hechos, cualquier afiliaci\u00f3n pol\u00edtica, social, econ\u00f3mica, etc. del ChatBot, si procede, debe revelarse de forma clara y honesta a las personas que los utilizan\u00bb, concluye Vahid.<\/p>\n","protected":false},"excerpt":{"rendered":"

Una nueva investigaci\u00f3n realizada por IMDEA Networks en colaboraci\u00f3n con la Universidad de Surrey y King\u2019s College London ha demostrado que existe una tendencia general a la baja en la popular plataforma de inteligencia artificial (IA) ChatGPT de adoptar posturas directas sobre temas controvertidos. Ya sea proporcionando acuerdo o desacuerdo, o una respuesta afirmativa o negativa. Ahora bien, aunque los resultados del estudio muestran una moderaci\u00f3n por parte de ChatGPT a la hora de abordar cuestiones pol\u00e9micas, advierten que en el \u00e1mbito sociopol\u00edtico mantiene cierto sesgo libertario. Sin embargo, en materia econ\u00f3mica, no presenta una inclinaci\u00f3n clara hacia la izquierda o\u2026<\/p>\n","protected":false},"author":58,"featured_media":135298,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"ngg_post_thumbnail":0},"categories":[48807],"tags":[37185,40254,241],"blocksy_meta":{"styles_descriptor":{"styles":{"desktop":"","tablet":"","mobile":""},"google_fonts":[],"version":4}},"aioseo_notices":[],"_links":{"self":[{"href":"https:\/\/www.madrimasd.org\/blogs\/sociedadinformacion\/wp-json\/wp\/v2\/posts\/135297"}],"collection":[{"href":"https:\/\/www.madrimasd.org\/blogs\/sociedadinformacion\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.madrimasd.org\/blogs\/sociedadinformacion\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.madrimasd.org\/blogs\/sociedadinformacion\/wp-json\/wp\/v2\/users\/58"}],"replies":[{"embeddable":true,"href":"https:\/\/www.madrimasd.org\/blogs\/sociedadinformacion\/wp-json\/wp\/v2\/comments?post=135297"}],"version-history":[{"count":1,"href":"https:\/\/www.madrimasd.org\/blogs\/sociedadinformacion\/wp-json\/wp\/v2\/posts\/135297\/revisions"}],"predecessor-version":[{"id":135301,"href":"https:\/\/www.madrimasd.org\/blogs\/sociedadinformacion\/wp-json\/wp\/v2\/posts\/135297\/revisions\/135301"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.madrimasd.org\/blogs\/sociedadinformacion\/wp-json\/wp\/v2\/media\/135298"}],"wp:attachment":[{"href":"https:\/\/www.madrimasd.org\/blogs\/sociedadinformacion\/wp-json\/wp\/v2\/media?parent=135297"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.madrimasd.org\/blogs\/sociedadinformacion\/wp-json\/wp\/v2\/categories?post=135297"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.madrimasd.org\/blogs\/sociedadinformacion\/wp-json\/wp\/v2\/tags?post=135297"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}