Los niños prodigio de las tecnológicas y sus inquietantes futuros distópicos (Riesgo para la humanidad)
Fuente Colaje imágenes Google
Ya he comentado en alguna ocasión, tanto en esta bitácora como a muchos amigos(as), que me parecía que los filmes distópicos de ciencia ficción vaticinan mejor el futuro que los propios científicos al publicitar sus tecnologías. La enorme cantidad de películas (especialmente las buenas) producidas en este género del séptimo arte así parecen confirmarlo. En este sentido debemos retroceder en el tiempo tanto como para incluir entre otras este titulo “Cuando el destino nos alcance 1973)”. En ella, se muestra un mundo superpoblado y azotado por los males que el hombre ha infligido al planeta (contaminación, cambio climático, etc.) la mayor parte de la empobrecida humanidad recicla todo, llegando a fabricar galletas “riquísimas” con los restos de los humanos recién fallecidos. ¿Cuánta veces se han repetido argumentos similares en la filmográfica futurista distópica? Les podría de memoria (y es pésima) enlazar más de diez filmes posteriores. Estos problemas que actualmente nos acechan quedan reflejados hace ya unos 50 años. Francamente me perturba que, de un modo u otro, consciente o inconscientemente, vayamos forjando nuestro más que probable futuro distópico a base de imaginación y espectáculo, que a la postre los esforzados de la Tecnociencia intentan llevar a la realidad. Y en este sentido, “2001: Odisea del espacio 1968 con su Hall 9000 ” con su enigmático “Monolito” que nadie entendíamos, entrando en discusiones eternas acerca del cual podría ser su significado se encontra a punto de hacerse realidad. Ahora resulta que Hall 9000 era una premonición de lo que tiempo después llegaría a ser la Inteligencia Artificial. De no reconocer que me gustan mucho estos filmes, si bien no han calado en mi imaginario mental. En este setido y unque muy posterior la serie Vigilados en otro ejemplo del control de la población por pare la Inteligancia artificial.
Sin embargo, la tecnología progresa y la sociedad ha dado lugar a toda la filosofía y entramado de Silicon Valley en Mountain View. Las criaturas nacidas en sus inicios se nutrieron de auellos productos y se enamoraron a esos jóvenes prodigiosos que podían hacerse ricos, siendo aun casi adolescentes alcanzando más fama y gloria que Indiana Jones. Al margen de reconocer que ChatGPT, OpenAI, me quitan el sueño, por sus posibles implicaciones (Las Dos Caras de la Ciencia), Sam Altman se me antoja como un superdotado estúpido e irresponsable. Basta con leer sus declaraciones, algunas de las cuales debían incluso tomarse en cuenta, ya que pueden ser motivos de un magnicidio de lesa humanidad (sin precedentes) en el futuro. Discutir y alardear con sus amigos de que entre las razones más probables del fin de la humanidad el apostaba por el desarrollo de la Inteligencia Artificial con lenguaje natural, ya nos dice de Sam que es un peligro público, como también lo es Elon Musk. (narcisista impenitente y tendencias peligrosamente fascistas). Abajo os muestro algunas de sus declaraciones de Sam.
TESCREAL, Castas y Razas tecnológicas (linkedin.com)
La entradilla que os muestro hoy, versa sobre una carta de opinión que lleva el título de “Los multimillonarios de la tecnología deben dejar de intentar hacer realidad la ciencia ficción con la que crecieron “y muestra en un breve artículo de opinión publicado en Scientific American por Charles Stross con comentarios agudos y certeros, la mayoría de los cuales firmaría con los ojos cerrados. Reitero que debo felicitarle ¡En hora buena! Se me antoja magnifico y más profundo de lo que parece.
Abajo os muestro los Comentarios del ínclito Sam, el contenido de la carta de opinión aludida (traducido al español-castellano) que no os debéis perder, aunque siempre recomiendo la lectura de los originales.
Debemos ya a comenzar a replantarnos el lema de “la inteligencia al poder”, si estos son los resultados. ¿¿??
La IA se enseña a sí misma y supera a los algoritmos diseñados por humanos
Juan José Ibáñez
Continúa………
Quién es Sam Altman: millonario creador de ChatGPT, gurú de ‘startups’ y profeta apocalíptico
“El emprendedor equipara su plan para alcanzar la IA general al Proyecto Manhattan, que dirigió Robert Oppenheimer para construir la bomba atómica”. “El caso positivo es tan increíblemente bueno que pareces un loco hablando de ello. El peor acontecimiento posible es que todos la palmemos”. escribió en Twitter. Altman habla de estas profecías apocalípticas con la calma de quien toma una cerveza con amigos; lleva, de hecho, años haciéndolo. En 2015 escribió: “Tema de debate popular entre mis amigos: ¿el fin del mundo será por biología sintética, IA o escasez de energía/guerra?”.
popular debate topic among my friends: will the end of the world be synthetic biology, AI, or energy shortage/war? — Sam Altman (@sama) March 17, 2015
Años antes de la pandemia, Altman ya había abrazado la comunidad prepper, un grupo de gente que está preparada para sobrevivir a un apocalipsis en la Tierra: “Mi problema es que cuando mis amigos se emborrachan hablan de cómo acabará el mundo”, expresaba en un perfil publicado en la revista New Yorker en 2016.
Los multimillonarios de la tecnología deben dejar de intentar hacer realidad la ciencia ficción con la que crecieron
Los multimillonarios de Silicon Valley de hoy crecieron leyendo ciencia ficción clásica estadounidense. Ahora están tratando de hacerlo realidad, encarnando una perspectiva política peligrosa
POR CHARLES STROSS
La ciencia ficción (SF) influye en todo hoy en día, desde el diseño de artefactos cotidianos hasta cómo trabajamos nosotros, incluida la actual cosecha de multimillonarios de Silicon Valley de 50 y tantos años. Y eso es algo malo: nos deja ante un futuro del que todos fuimos advertidos, cortesía de novelas distópicas confundidas con manuales de instrucciones.
Los multimillonarios que crecieron leyendo clásicos de ciencia ficción publicados hace 30 o 50 años están afectando nuestra vida hoy en día de casi demasiadas maneras para enumerarlas: Elon Musk quiere colonizar Marte. Jeff Bezos prefiere los planes de la década de 1970 para hábitats orbitales gigantes. Peter Thiel está financiando investigaciones sobre inteligencia artificial, extensión de la vida y «seasteading«. Mark Zuckerberg ha gastado 10.000 millones de dólares tratando de crear el Metaverso a partir de la novela Snow Crash de Neal Stephenson. Y Marc Andreessen, de la firma de capital de riesgo Andreessen Horowitz, ha publicado un «manifiesto tecno-optimista» que promueve una extraña filosofía aceleracionista que aboga por un futuro no regulado, únicamente capitalista, de puro caos tecnológico.
Estos hombres tienen colectivamente más de medio billón de dólares para gastar en su búsqueda para realizar inventos extraídos de las historias de ciencia ficción y fantasía que leyeron en su adolescencia. Pero esta es una noticia tremendamente mala porque las obras de ciencia ficción y fantasía del siglo pasado vienen cargadas de suposiciones peligrosas.
La ciencia ficción es un género profundamente ideológico: se trata de mucho más que nuevos artilugios o inventos. El novelista canadiense de ciencia ficción y futurista Karl Schroeder me ha dicho que «toda tecnología viene con una agenda política implícita». Y la plutocracia tecnológica parece decidida a imponer su agenda a los ocho mil millones de habitantes de nuestro planeta.
Timnit Gebru, ex codirectora técnica del equipo de inteligencia artificial ética de Google y fundadora del Instituto de Investigación de Inteligencia Artificial Distribuida (DAIR), y Émile Torres, filósofo especializado en amenazas existenciales para la humanidad, nos advirtieron sobre la ideología que impulsa a estos ricos empresarios. Llamaron a esta ideología TESCREAL, que significa «transhumanismo, extropianismo, singularitarismo, cosmismo, racionalismo, altruismo efectivo y largoplacismo». Estas son creencias separadas pero superpuestas en los círculos asociados con las grandes empresas tecnológicas en California. Los transhumanistas buscan extender la cognición humana y mejorar la longevidad; Los extropianos añaden a estos ideales la colonización espacial, la carga mental, la IA y el racionalismo (en sentido estricto). Tanto el altruismo efectivo como el largoplacismo descartan el alivio del sufrimiento actual para financiar un mañana mejor dentro de siglos. Apuntalando visiones de colonias espaciales, inmortalidad y apoteosis tecnológica, TESCREAL es esencialmente un programa teológico, destinado a engalanar a sus sumos sacerdotes con riquezas.
¿Cómo surgió esta ideología y por qué creo que es peligrosa?
El género de ciencia ficción con el que crecieron los multimillonarios de hoy, el que existía en la década de 1970, se remonta al inventor y editor Hugo Gernsback. Gernsback publicó artículos generales sobre ciencia y tecnología y luego ficción en ese sentido. Comenzó a publicar la revista Amazing Stories en 1926 como un vehículo para historias fantásticas sobre un futuro tecnológico. La variedad de ciencia ficción de su revista promovía la combinación del sueño americano del éxito capitalista, combinado con el solucionismo tecnológico acrítico y un orden paralelo de colonialismo fronterizo.
Comisariado por nuestros editores
Musk y Bezos ofrecen a la humanidad un futuro sombrío en colonias espaciales
¿Vivimos en una simulación? Las probabilidades son de 50 a 50
Neuralink quiere conectar tu cerebro a Internet, ¿qué podría salir mal?
CHRISTOPHER MARKOU y THE CONVERSATION
La ciencia ficción gernsbackiana reflejaba el rechazo del futurismo italiano al pasado y la celebración de la velocidad, la maquinaria, la violencia, la juventud y la industria, y ambos estaban abiertos al pensamiento de extrema derecha. El rival de Gernsback, John W. Campbell, Jr. (editor de Astounding Science Fiction desde 1937 hasta 1971), promovió a muchos autores ahora famosos, incluidos Robert Heinlein e Isaac Asimov. Pero Campbell también era racista, sexista y un racista de los rojos. Campbell no estaba solo en el ala derecha de la ciencia ficción: por ejemplo, la autora de bestsellers Ayn Rand sostenía que el único sistema social compatible con su filosofía del objetivismo era el capitalismo de laissez-faire. El atractivo que esto tiene para los multimillonarios de hoy es obvio.
Quizás la contribución más extraña de la ciencia ficción a TESCREAL es el cosmismo ruso, el hijastro posterior a 1917 de la especulación teológica mística del filósofo Nikolai Fyodorovich Fyodorov. Es omnipresente en la ciencia ficción, que se ve en temas que van desde la colonización espacial hasta el inmortalismo, los superhumanos, la singularidad, la carga mental y más.
La contribución del cosmismo a la ideología de TESCREAL es una cuasi-religión secular con un destino implícito -colonizar Marte y luego la galaxia, alcanzar la inmortalidad, priorizar los intereses a largo plazo de la humanidad- que proporciona a los multimillonarios una justificación atractiva para el enriquecimiento personal. Podemos ver esto con Thiel, quien cofundó la compañía de análisis Palantir Technologies con un nombre temático de El Señor de los Anillos y recientemente le dijo a The Atlantic que quería ser inmortal como los elfos de J.R.R. Tolkien. Y podemos verlo cuando Musk aterriza sus cohetes en barcazas con nombres tomados de una serie de ciencia ficción de Iain M. Banks (irónicamente, una sobre una utopía socialista galáctica). TESCREAL también está fuertemente contaminado con el razonamiento teológico cristiano, el supremacismo blanco campbelliano, la crueldad randiana, la eugenesia que fue omnipresente en el género hasta la década de 1980 y el subtexto imperialista de la colonización del universo.
Pero hay un problema: los autores de ciencia ficción como yo somos artistas populares que trabajan para divertir a una audiencia que está entrenada sobre qué esperar de las generaciones anteriores de autores de ciencia ficción. No estamos tratando de predecir con precisión los futuros posibles, sino de ganarnos la vida: cualquier previsión es estrictamente una coincidencia. Reciclamos el material existente, y el resultado está fuertemente influenciado por los prejuicios de escritores y lectores anteriores. El género funciona de forma muy parecida a un gran modelo de lenguaje que se entrena utilizando un cuerpo de texto muy contaminado por los LLM anteriores; Tiende a emitir material como el de sus predecesores. La mayor parte de la ciencia ficción es conservadora en minúscula en la medida en que refleja la historia del campo en lugar de tratar de abrir caminos o cuestionar la sabiduría recibida.
La ciencia ficción, por lo tanto, no se desarrolla de acuerdo con el método científico. Se desarrolla por artistas populares que intentan atraer a una audiencia más grande complaciéndolos. El público de hoy incluye a multimillonarios que leyeron ciencia ficción en su infancia y que parecen no ser conscientes de los fundamentos ideológicos de su entretenimiento juvenil: elitismo, racismo «científico», eugenesia, fascismo y una alegre creencia actual en la tecnología como solución a los problemas sociales.
En 2021 surgió un meme basado en el tuit del escritor y diseñador de juegos Alex Blechman sobre este tema (que luego se publicó en Mastodon):
Autor de ciencia ficción: En mi libro inventé el Nexo del Tormento como un cuento
con moraleja Tech Company: Por fin, hemos creado el Nexo del Tormento a partir de la novela clásica de ciencia ficción No crees el Nexo del Tormento
Es un resumen preocupantemente preciso de la situación en Silicon Valley en este momento: los multimillonarios detrás del volante han confundido cuentos con moraleja y entretenimientos con una hoja de ruta, y estamos atrapados en el asiento del pasajero. Esperemos que no haya un precipicio frente a nosotros.
Este es un artículo de opinión y análisis, y las opiniones expresadas por el autor o autores no son necesariamente las de Científico Americano.
Algunos posts Previos
De la Filosofía de la Ciencia a la Filosofía de la Tecnociencia (Nuevo Curso Básico y Sus Razones)
Los Avances Tecnológicos Amenazan el Futuro de la Humanidad
Filosofía de la Ciencia y Ficción: ¿Vida Inorgánica?
La humanidad y sus futuros distópicos (borrador)
Ciencia Inversa: El colapso de la Civilización
El Tsunami de la IA: ¿Que nos dice de la sociedad actual?
El Progreso de la Ciencia y La Computación: ¡No es Oro todo lo que Reluce!
Los Límites de la Ciencia y Sus Posibles Futuros
El terror de la Neurociencias en el mundo de la Tecnociencia
La Futura Revolución Industrial y la Supremacía Cuántica: Ciudadanos a Temblar