El Ataque de los Cylon (II)

Seguimos la serie de posts titulada “El Ataque de los Cylon“. En este artículo contamos con la colaboración de Raúl Arrabales, uno de los mayores expertos nacionales en el tema de la Consciencia Artificial,  y gestor del magnífico portal sobre consciencia y robótica ConsciousRobots, que a lo largo del post discute la evolución de los robots conscientes, y analiza las posibilidades a medio y largo plazo de los mismos, estudiando el momento en el que podremos contar con robots conscientes en una forma similar a la humana, el equivalente a los Cylon de Battlestar Galactica. A continuación tenéis el excelente post de Raúl, al que agradecemos el tiempo y la dedicación a contribuir a esta serie de posts, que esperamos sean de vuestro interés.

Como comentaba José Carlos en el primer artículo de la serie hay que tener en consideración muchos factores a la hora de hacer predicciones sobre la posibilidad de construir máquinas capaces de revelarse contra los humanos. En esta segunda entrega de la serie vamos a centrarnos en la posibilidad del desarrollo de máquinas conscientes, en concreto vamos a analizar cuáles podrían ser las etapas de desarrollo tecnológico por los que pasaríamos hasta alcanzar ese hito.

Lo que describimos a continuación no es más que una especulación basada en una escala, llamada ConsScale, que se ha propuesto recientemente para medir el nivel de conciencia de agentes inteligentes .  Esta escala define una serie de niveles de desarrollo cognitivo que presumiblemente coincidirían con las etapas de desarrollo tecnológico necesarias para la construcción de máquinas inteligentes.

Una Escala para Medir la Conciencia Artificial

Consideremos que cada una de estas etapas de desarrollo tecnológico dará lugar a una nueva generación de robots inteligentes. De este modo podremos caracterizar fácilmente a los robots de cada generación (e incluso identificar en que estadio en el desarrollo de robots tipo Cylon nos encontramos actualmente). Este ejercicio mental de especulación, predicción e incluso (me atrevo a decir) planificación nos servirá además para prever en que momentos clave del desarrollo de robots inteligentes tendremos que tener especial cuidado para evitar “resultados indeseados”, como por ejemplo una rebelión.

De acuerdo con el enfoque de desarrollo cognitivo planteado en ConsScale, la primera generación de robots, que podríamos denominar “1G” o “pre-funcionales”, se corresponde con los primeros intentos de construcción de máquinas automáticas, en las que por diversos motivos, principalmente la falta de la tecnología necesaria, los robots construidos no eran capaces de demostrar ninguna habilidad cognitiva o mínimamente inteligente. Obviamente, esta etapa ya se ha superado, aunque de vez en cuando vemos ejemplos en nuestros laboratorios de robots volviendo a 1G, normalmente debido a fallos de software o de hardware.

Los robots de segunda generación, 2G o Reactivos, son aquellos capaces de demostrar comportamientos reflejos. Es decir, dada una serie de condiciones externas son capaces de reaccionar a las mismas de acuerdo a reglas prefijadas en su programación. Obviamente, su comportamiento no es muy flexible porque no son capaces de aprender nada ni tienen memoria, pero son muy útiles por ejemplo en entornos de fabricación controlados. Los robots 2G son probablemente los más abundantes hoy en día. Un ejemplo de este tipo de robots son los que solemos tener en casa y llamamos electrodomésticos.

Los robots 3G o Adaptativos constituyen la siguiente etapa en el desarrollo de máquinas inteligentes. Un robot 3G es capaz no sólo de responder de forma preprogramada a una situación sino que además puede adquirir nuevos comportamientos reflejos y almacenarlos en su memoria para un uso posterior. Este tipo de robots, capaces de adaptarse con cierta eficacia a situaciones nuevas, no es tan común en nuestra sociedad actual. De hecho, la inmensa mayoría de dispositivos electrónicos que utilizamos de forma cotidiana no son capaces de aprender nuevos comportamientos, o a funcionar en situaciones distintas de las consideradas durante su programación. Es en los laboratorios de investigación donde hoy es fácil encontrar prototipos de robots 3G. Repasar cual es el estado actual del desarrollo de este tipo de robots queda fuera del ámbito de este artículo, pero sería interesante considerarlo para una futura entrega de la serie.

Los robots 4G o “Atencionales” son aquellos que, como su nombre indica, son capaces de prestar atención a contenidos específicos seleccionados a partir de la información sensorial disponible. Además, los robots 4G son capaces de evaluar estos contenidos como positivos o negativos, de forma que se desarrollan comportamientos dirigidos, es decir, de acercamiento o alejamiento a un objeto, de ataque o de huída de un determinado objetivo, etc. En esta generación, el aprendizaje de los robots está caracterizado por estrategias de prueba y error. Un ejemplo de sistema “rudimentario” de atención es el sistema de seguimiento visual del robot Domo:

Los robots “Ejecutivos” o 5G son los capaces de perseguir múltiples metas al mismo tiempo. En otras palabras, un robot 5G es capaz de pasar de una tarea a otra cuando sea necesario y más tarde volver a la anterior para retomarla de forma efectiva (cuando las condiciones así lo aconsejen). Por supuesto, el hecho de que los robots 5G puedan cambiar de una tarea a otra de forma efectiva implica que son capaces de planificar sus acciones. Además, los robots 5G muestran capacidades de aprendizaje emocional, asignando más tiempo al desarrollo de aquellas tareas que les resultan más agradables.

En la siguiente etapa del desarrollo de robots conscientes (según la escala ConsScale) nos encontramos con los robots 6G o “Emocionales”. Estos robots se caracterizan por tener un modelo del yo y de su propio cuerpo. Esto hace posible la generación de sentimientos, que en esta etapa son básicamente representaciones del estado actual del yo del robot. Estos robots podrían ser potencialmente conscientes (tener ciertas sensaciones), pero no autoconscientes (ser conscientes del yo que está experimentando esas sensaciones).

La autoconsciencia se alcanzaría en realidad en la siguiente etapa, con los robots 7G o “Autoconscientes”. En este caso el modelo del yo del robot se amplía con una representación de segundo orden que permite al robot razonar sobre sí mismo. Esto implica la aparición de capacidades cognitivas superiores como el aprendizaje de uso de herramientas, puesto que el robot es capaz de planificar un futuro en el que él mismo aparece como un actor más en el plan.

Siguiendo con nuestra carrera tecnológica dirigida a la construcción de máquinas tipo Cylons llegamos a los robots de octava generación, los 8G o “Empáticos”. Estos robots se caracterizan por la capacidad de intersubjetividad. Es decir, además del modelo del propio yo, estos robots son capaces de construir un modelo interno de otros yos (en otras palabras, son capaces de atribuir creencias, deseos e intenciones a otras entidades). Esta capacidad permitiría a los robots 8G ponerse en el lugar de otros y de estar forma ser capaces de trabajar en equipo con humanos de forma efectiva.

Como vemos, la posibilidad del desarrollo de robots 8G ya puede considerarse peligrosa en el sentido de que la capacidad cognitiva de estos robots se va acercando bastante a la de los humanos. Sin embargo es en la novena generación de robots, los 9G o “Sociales”, cuando por primera vez los robots son capaces de desarrollar estrategias de inteligencia Maquiavélica. Debido a que los robots 9G son capaces de razonar con modelos internos que pueden predecir los estados mentales de otros robots o personas, estos robots podrían mostrar comportamientos sociales complejos como el liderazgo, la mentira o la astucia.
Los robot 10G o “Androides” son los que tienen capacidades cognitivas iguales a las de los humanos, incluyendo la capacidad de comunicación lingüística compleja, aprendizaje abstracto y creación de tecnología. Este sería el caso de los Cylon, capaces de crear su propia tecnología diferente de la humana. Por último tenemos a los robots G11 o “Super-Conscientes”, capaces de coordinar y sincronizar varios flujos de pensamiento consciente al mismo tiempo.

Desde el punto de vista de la escala considerada (ConsScale), el desarrollo tecnológico actual de los robots se encuentra entre las generaciones 3 y 4. No sabemos si llegaremos a desarrollar robots tipo G9, ni si el desarrollo tecnológico seguirá exactamente las pautas esbozadas en este artículo, pero sea como sea, conviene estar preparados y no perder de vista las implicaciones asociadas a la construcción de este tipo de robots.

Agradecimientos: Gracias a José Carlos Cortizo por invitarme a participar en esta apasionante serie.

Raúl Arrabales Moreno.
31 de Julio de 2009.

votar

Entradas relacionadas

Etiquetas:

Si te gustó esta entrada anímate a escribir un comentario o suscribirte al feed y obtener los artículos futuros en tu lector de feeds.

Comentarios

Hay una cosa que no me ha quedado del todo clara, según leo, estamos en una fase de desarrollo de robots entre las generaciones 3 y 4, pero, si tomamos la definición de lo que sería un robot de 5ª generación:

"[...] son los capaces de perseguir múltiples metas al mismo tiempo. En otras palabras, un robot 5G es capaz de pasar de una tarea a otra cuando sea necesario [...]"

¿ésto no sería lo mismo (o algo muy similar) a uno de los sistemas multi-agente que ya existen en la actualidad?

Me parece que esta escala que planteas no mide la consciencia en si, sino que mas bien plantea una serie de hitos que estimas son significativos, algunos de los cuales pueden implicar consciencia y otros no.

Esto es, aparte claro, de definir consciencia antes de todo. A este respecto, me parece interesante el tratamiento information theory del articulo de Tononi (que he visto has linkado en tu pagina), y tambien una perspective evolutiva que considera la consciencia como una adaptacion que confiere beneficios (eg el primate saltando por los arboles de Cant 1995)

No voy a contradecir ni un ápice de lo expuesto en la gradación de consciencia propuesta. En primer lugar porque la encuentra muy rigurosa (esto sería la razón más objetiva), y en segundo lugar, porque me gusta, sinceramente. Es clara y bastante racional…y por ende, algoritmizable, que es de lo que se trata que sea el proceso de creación de seres inteligentes. Así que, estoy plenamente de acuerdo con ella. Ahora bien, como ya me conocereis, tengo el empeño de invitar a todo el mundo a la reflexión. Así que vamos a ello. En primer lugar observo que la escala parte de una observación atenta de la psique humana y su desarrollo evolutivo (y acumulativo). Y en segundo lugar, hay funcionalidades o logros de alguna generación de las propuestas, que no se dan, o dificilmente se encuentran en algunos humanos. Por ejemplo, la empatia o la capacidad de interiorizar y experimentar sentimientos ajenos. Sin perjuicio de que sea capaz de conocerlos. Característica totalmente ausente en los comportamientos psicopáticos. Existen individuos, muy peligrosos socialmente por cierto, incapaces de empatizar y que en cambio sí son aptos para desarrollar y llevar a cabo funcionalidades de orden G superiores en la escala propuesta. ¿Quizá el problema en nuestra coexistencia con artificios inteligentes vendría dado por saltos en esta evolución necesariamente secuencial y acumulativa? ¿serían estos "cyberpsicópatas" los autores de ciertas rebeliones? ¿qué hay de la asunción del liderazgo, por parte de estos artificios inteligentes? Siempre se ha dicho que los que ostentan un liderazgo despiadado suele ser gente que no empatiza pero que conoce y entiende sobradamente los sentimientos ajenos, precisamente para manipularlos convenientemente… Bueno, el debate, queda lanzado. Saludos cordiales,

VValdes

(requerido)

(requerido)


*