Historias de la IA: robots que cumplen las leyes

Si en la entrada anterior de Matemáticas y sus fronteras nos hacíamos eco de algunas historias inquietantes de robots, nos fijaremos hoy en cómo podríamos construir robots que fueran útiles y no destructivos, lo que entronca directamente con los desafíos éticos que nos plantea la actual IA.

En su colección de 1950, Yo, Robot, Isaac Asimov incluyó un cuento titulado Círculo vicioso (Runaround en el original inglés) en el que introdujo las llamadas Tres Leyes de la Robótica, un conjunto de reglas que debería cumplir un robot. Estas leyes eran:

1. Un robot no puede herir a un ser humano ni, por inacción, permitir que un ser humano sufra daño.
2. Un robot debe obedecer las órdenes que le den los seres humanos, excepto cuando dichas órdenes entren en conflicto con la Primera Ley.
3. Un robot debe proteger su propia existencia siempre que dicha protección no entre en conflicto con la Primera o la Segunda Ley.

En este relato, el robot Speedy obedece a los dos científicos en su misión, pero tiene un conflicto, ya que no puede decidir si obedecerles (Segunda Ley) o protegerse a sí mismo del peligro (la Tercera Ley), así que da vueltas sin tomar la decisión. Finalmente, uno de los científicos se pone en peligro para que se pueda aplicar la Primera Ley y salir así del bucle.

Estas tres leyes fueron sometidas por el autor en sus cuentos de robots a una gran variedad de situaciones que las ponían a prueba.

Asimov presenta dos futuros alternativos y completamente diferentes en las obras «Que te acuerdes de él» y «El hombre bicentenario» con robots que obvian las Tres Leyes y llegan a considerarse humanos: uno retrata esto de forma positiva con un robot que se une a la sociedad humana, y el otro de forma negativa con robots que suplantan a los humanos.

¿Y qué tienen que ver las Tres Leyes con la Robótica y las IA actuales? Digamos que no las obedecen; los robots más complejos que se fabrican actualmente son incapaces de comprender y aplicar las Tres Leyes. En cuanto a la IA, es un tema que está sobre el tapete. Si la IA aprende (mejorando sus algoritmos) de los datos, lo que está es aprendiendo de nosotros y reproduciendo nuestros sesgos. Es significativa esta opinión del escritor de ciencia-ficción Robert J. Sawyer:

“El desarrollo de la IA es un negocio, y a las empresas no les interesan las garantías fundamentales, especialmente las filosóficas. (Algunos ejemplos rápidos: la industria tabaquera, la industria automovilística, la industria nuclear. Ninguna de ellas ha dicho desde el principio que sean necesarias salvaguardias fundamentales, todas se han resistido a las salvaguardias impuestas externamente y ninguna ha aceptado un edicto absoluto contra cualquier daño a los seres humanos).”

Pero también la ciencia se ha hecho eco de las Tres Leyes; a principios de 2011 el Reino Unido publicó un conjunto revisado de 5 leyes, las 3 primeras de las cuales actualizaban las de Asimov, Principles of robotics. Regulating robots in the real world: 

1. Los robots son herramientas multiuso. Los robots no deben diseñarse única o principalmente para matar o dañar a los humanos, salvo en interés de la seguridad nacional.
2. Los humanos, no los robots, son los agentes responsables. Los robots deben diseñarse y utilizarse, en la medida de lo posible, respetando la legislación vigente y los derechos y libertades fundamentales, incluida la intimidad.
3. Los robots son productos. Deben diseñarse mediante procesos que garanticen su seguridad.
4. Los robots son artefactos fabricados. No deben diseñarse de forma engañosa para explotar a usuarios vulnerables, sino que su naturaleza de máquina debe ser transparente.
5. Debe atribuirse a la persona con responsabilidad legal sobre un robot.

Para terminar, esta es la respuesta que el propio Asimov dio en alguna ocasión cuando le preguntaban sobre sus tres leyes:

“Siempre que alguien me pregunta si creo que mis Tres Leyes de la Robótica servirán para gobernar el comportamiento de los robots, una vez que sean lo bastante versátiles y flexibles como para poder elegir entre distintos comportamientos, tengo la respuesta preparada. Mi respuesta es: «Sí, las Tres Leyes son la única forma en que los seres humanos racionales pueden tratar con robots -o con cualquier otra cosa». Pero cuando digo esto, siempre recuerdo (tristemente) que los seres humanos no siempre son racionales.”

Frases para reflexionar.

_____________

Manuel de León (CSIC, Fundador del ICMAT, Real Academia de Ciencias, Real Academia Canaria de Ciencias, Real Academia Galega de Ciencias).