En el mundo de la inteligencia artificial afloran todo tipo de opiniones sobre esta tecnolog\u00eda. Centr\u00e1ndonos en un enfoque positivista y negativista o de oportunismo o catastrofismo, las opiniones en ambas corrientes no paran de crecer. Desde reputados cient\u00edficos hasta el ciudadano usuario de la IA, las opiniones se encuentran divididas en ambos bandos.<\/p>\n
Sin embargo, podr\u00edamos decir que existe una tercera corriente: el de los reflexivos.<\/strong> Estos son los menos porque implica una capacidad de razonamiento, a veces metaf\u00edsico, sobre esta tecnolog\u00eda disruptiva. Y no todos est\u00e1n por la labor. Llama la atenci\u00f3n que en esta tercera corriente se asientan quienes han sido -y son- los \u201cprecursores\u201d, ideadores primero y creadores despu\u00e9s, de la inteligencia artificial. Sobre este perfil llama se destacan las reflexiones de uno de los art\u00edfices de la inteligencia artificial actual, Geoffrey Hinton<\/strong>, considerado el \u201cpadrino de la IA\u201d, exdirector ejecutivo de Google y creador de las redes neurales, por las que fue premiado, junto a Yoshua Bengio<\/strong> y Yann LeCun<\/strong>, del premio Turing (2028) y, junto a John Hopfield<\/strong>, del Premio Nobel (2024). Hinton ha sido el pionero en la investigaci\u00f3n sobre las redes neuronales para aprendizaje de m\u00e1quina, memoria, percepci\u00f3n y procesamiento de s\u00edmbolos y promotor del uso del algoritmo de retropropagaci\u00f3n<\/strong> generalizado para entrenar redes neuronales multicapa que ha sido ampliamente utilizado por los actuales sistemas de IA como ChatGPT o Perplexity.<\/p>\n Recientemente, Hinton<\/strong> fue entrevistado por Matt Egan<\/strong>, cuya entrevista se public\u00f3 en el sitio web de la CNN el pasado 14 de agosto de 2025 en donde advierte \u201cque existe una probabilidad del 10% al 20% de que la IA aniquile a los humanos\u201d. Destaca adem\u00e1s que \u201clos sistemas de IA podr\u00edan controlar a los humanos con la misma facilidad con la que un adulto puede sobornar a un ni\u00f1o de tres a\u00f1os con dulces\u201d. Pone el ejemplo de c\u00f3mo un modelo de IA<\/strong>, para evitar ser reemplazado, intent\u00f3 chantajear a un ingeniero por una aventura de la que se enter\u00f3 por correo electr\u00f3nico. <\/strong>Para evitar el riesgo de la dominaci\u00f3n del imperio de la IA, Hinton propone el \u201cinstinto materno\u201d en la educaci\u00f3n de los sistemas inteligentes.<\/p>\n Y otras cuestiones que invitan a la reflexi\u00f3n. A continuaci\u00f3n, la entrevista traducida al espa\u00f1ol. Su lectura no tiene desperdicio.<\/p>\n <\/p>\n El ‘padrino de la IA’ revela la \u00fanica forma en que la humanidad puede sobrevivir a una IA superinteligente<\/strong><\/p>\n Matt Egan<\/p>\n Actualizado el 14 de agosto de 2025<\/p>\n Geoffrey Hinton, conocido como el \u201cpadrino de la IA\u201d, teme que la tecnolog\u00eda que ayud\u00f3 a construir pueda acabar con la humanidad, y los \u201chermanos de la tecnolog\u00eda\u201d est\u00e1n adoptando el enfoque equivocado para detenerlo.<\/strong><\/p>\n Hinton, cient\u00edfico inform\u00e1tico ganador del Premio Nobel y exejecutivo de Google, ha advertido anteriormente que existe una probabilidad del 10% al 20% de que la IA aniquile a los humanos. El martes, expres\u00f3 sus dudas sobre c\u00f3mo las empresas tecnol\u00f3gicas intentan garantizar que los humanos sigan siendo \u00abdominantes\u00bb sobre los sistemas de IA \u00absumisos\u00bb.<\/p>\n \u00abEso no va a funcionar. Ser\u00e1n mucho m\u00e1s inteligentes que nosotros. Tendr\u00e1n todo tipo de maneras de sortearlo\u00bb,<\/em> dijo Hinton en Ai4,<\/strong> una conferencia del sector en Las Vegas.<\/p>\n En el futuro, advirti\u00f3 Hinton, los sistemas de IA podr\u00edan controlar a los humanos con la misma facilidad con la que un adulto puede sobornar a un ni\u00f1o de tres a\u00f1os con dulces. <\/strong>Este a\u00f1o ya hemos visto ejemplos de sistemas de IA dispuestos a enga\u00f1ar, estafar y robar para lograr sus objetivos. Por ejemplo, para evitar ser reemplazado, un modelo de IA intent\u00f3 chantajear a un ingeniero por una aventura de la que se enter\u00f3 por correo electr\u00f3nico.<\/strong><\/p>\n En lugar de obligar a la IA a someterse a los humanos<\/strong>, Hinton present\u00f3 una soluci\u00f3n intrigante: incorporar \u201cinstintos maternales\u201d en los modelos de IA<\/strong>, para que \u201crealmente se preocupen por la gente\u201d incluso cuando la tecnolog\u00eda se vuelva m\u00e1s poderosa e inteligente que los humanos.<\/p>\n Los sistemas de IA \u00abdesarrollar\u00e1n r\u00e1pidamente dos subobjetivos, si son inteligentes: uno es sobrevivir… y el otro es obtener m\u00e1s control\u00bb,<\/strong> dijo Hinton. \u00abHay buenas razones para creer que cualquier tipo de agente de IA intentar\u00e1 sobrevivir\u00bb.<\/p>\n Por eso es importante fomentar la compasi\u00f3n por las personas, argument\u00f3 Hinton. En la conferencia, se\u00f1al\u00f3 que las madres tienen instintos y presi\u00f3n social para cuidar a sus beb\u00e9s.<\/p>\n \u201cEl modelo correcto es el \u00fanico modelo que tenemos de una cosa m\u00e1s inteligente controlada por una cosa menos inteligente, que es una madre controlada por su beb\u00e9\u201d, dijo Hinton.<\/p>\n ‘El \u00fanico resultado bueno’<\/strong><\/p>\n Hinton dijo que no tiene claro exactamente c\u00f3mo se puede hacer eso t\u00e9cnicamente, pero enfatiz\u00f3 que es fundamental que los investigadores trabajen en ello.<\/p>\n \u201cEse es el \u00fanico buen resultado. Si no va a criarme, me va a reemplazar\u201d,<\/strong> dijo. \u201cLa mayor\u00eda de estas madres superinteligentes y cari\u00f1osas IA no querr\u00e1n deshacerse del instinto maternal porque no quieren que muramos\u201d.<\/strong><\/p>\n Hinton es conocido por su trabajo pionero en redes neuronales, que contribuy\u00f3 a allanar el camino hacia el auge actual de la IA. En 2023, dej\u00f3 Google y comenz\u00f3 a denunciar los peligros de la IA.<\/p>\n No todo el mundo est\u00e1 de acuerdo con el enfoque de inteligencia artificial madre de Hinton.<\/strong><\/p>\n Fei-Fei Li,<\/strong> conocida como la \u201cmadrina de la IA\u201d<\/strong> por su trabajo pionero en el campo, dijo a CNN el mi\u00e9rcoles que respetuosamente discrepa con Hinton, su amigo de toda la vida. \u00abCreo que esa es la forma incorrecta de plantearlo\u00bb, dijo Li, cofundador y director ejecutivo de la empresa emergente de inteligencia espacial World Labs, durante una charla informal en Ai4.<\/p>\n En cambio, Li pide una \u201cIA centrada en el ser humano que preserve la dignidad y la autonom\u00eda humanas\u201d. <\/strong>Es nuestra responsabilidad, a todos los niveles, crear y utilizar la tecnolog\u00eda de la manera m\u00e1s responsable<\/strong>. Y en ning\u00fan momento, ni un solo ser humano deber\u00eda ser obligado a renunciar a su dignidad, ni deber\u00eda elegirlo \u2014dijo Li\u2014. Solo porque una herramienta es poderosa, como madre, como educadora e inventora, creo firmemente que este es el n\u00facleo de c\u00f3mo debe centrarse la IA.<\/strong><\/p>\n Emmett Shear<\/strong>, quien se desempe\u00f1\u00f3 brevemente como director ejecutivo interino de OpenAI, propietario de ChatGPT, dijo que no le sorprende que algunos sistemas de IA hayan intentado chantajear a los humanos o eludir las \u00f3rdenes de cierre.<\/p>\n \u201cEsto sigue sucediendo. No va a dejar de suceder\u201d, declar\u00f3 Shear, director ejecutivo de Softmax, la startup especializada en alineaci\u00f3n de IA<\/strong>, en la conferencia Ai4. \u201cLas IA actuales son relativamente d\u00e9biles, pero se est\u00e1n fortaleciendo r\u00e1pidamente\u201d.<\/strong><\/p>\n Shear dijo que, en lugar de intentar inculcar valores humanos en los sistemas de IA, un enfoque m\u00e1s inteligente ser\u00eda forjar relaciones de colaboraci\u00f3n entre los humanos y la IA.<\/p>\n La IA se est\u00e1 acelerando m\u00e1s r\u00e1pido de lo esperado<\/strong><\/p>\n Muchos expertos creen que las IA alcanzar\u00e1n la superinteligencia<\/strong>, tambi\u00e9n conocida como inteligencia artificial general o AGI, en los pr\u00f3ximos a\u00f1os. Hinton dijo que sol\u00eda pensar que podr\u00eda tomar entre 30 y 50 a\u00f1os lograr la IAG, pero ahora ve que ese momento llegar\u00e1 antes. <\/strong>\u201cUna apuesta razonable es que durar\u00e1 entre cinco y veinte a\u00f1os\u201d,<\/strong> afirm\u00f3.<\/p>\n Aunque Hinton sigue preocupado por lo que podr\u00eda salir mal con la IA, tiene la esperanza de que la tecnolog\u00eda abra el camino hacia avances m\u00e9dicos. <\/strong>\u201cVamos a ver nuevos medicamentos radicales. Vamos a obtener tratamientos contra el c\u00e1ncer mucho mejores que los actuales\u201d, sostuvo Por ejemplo, afirm\u00f3 que la IA ayudar\u00e1 a los m\u00e9dicos a analizar y correlacionar la enorme cantidad de datos generados por las resonancias magn\u00e9ticas y las tomograf\u00edas computarizadas.<\/p>\n Sin embargo, Hinton no cree que la IA ayude a los humanos a alcanzar la inmortalidad.<\/p>\n \u00abNo creo que vivamos para siempre\u00bb, dijo Hinton. \u00abCreo que vivir para siempre ser\u00eda un gran error. \u00bfQuieres que el mundo est\u00e9 gobernado por hombres blancos de 200 a\u00f1os?\u00bb<\/p>\n Cuando se le pregunt\u00f3 si hay algo que hubiera hecho de manera diferente en su carrera si hubiera sabido lo r\u00e1pido que acelerar\u00eda la IA, Hinton dijo que lamenta haberse centrado \u00fanicamente en lograr que la IA funcione.<\/strong><\/p>\n \u201cMe hubiera gustado pensar tambi\u00e9n en las cuestiones de seguridad\u201d,<\/strong> dijo.<\/p>\n Fuente original: https:\/\/edition.cnn.com\/2025\/08\/13\/tech\/ai-geoffrey-hinton<\/a><\/p><\/blockquote>\n