{"id":150817,"date":"2025-01-01T16:10:05","date_gmt":"2025-01-01T15:10:05","guid":{"rendered":"https:\/\/www.madrimasd.org\/blogs\/matematicas\/?p=150817"},"modified":"2025-01-01T16:10:05","modified_gmt":"2025-01-01T15:10:05","slug":"historias-de-la-ia-robots-que-cumplen-las-leyes","status":"publish","type":"post","link":"https:\/\/www.madrimasd.org\/blogs\/matematicas\/2025\/01\/01\/150817","title":{"rendered":"Historias de la IA: robots que cumplen las leyes"},"content":{"rendered":"

Si en la entrada anterior de Matem\u00e1ticas y sus fronteras nos hac\u00edamos eco de algunas historias inquietantes de robots, nos fijaremos hoy en c\u00f3mo podr\u00edamos construir robots que fueran \u00fatiles y no destructivos, lo que entronca directamente con los desaf\u00edos \u00e9ticos que nos plantea la actual IA.<\/p>\n

\"\"<\/a>
Isaac Asimov<\/figcaption><\/figure>\n

En su colecci\u00f3n de 1950, Yo, Robot<\/strong>, Isaac Asimov incluy\u00f3 un cuento titulado C\u00edrculo vicioso<\/strong> (Runaround<\/em> en el original ingl\u00e9s) en el que introdujo las llamadas Tres Leyes de la Rob\u00f3tica, un conjunto de reglas que deber\u00eda cumplir un robot. Estas leyes eran:<\/p>\n

    \n
  1. Un robot no puede herir a un ser humano ni, por inacci\u00f3n, permitir que un ser humano sufra da\u00f1o.<\/li>\n
  2. Un robot debe obedecer las \u00f3rdenes que le den los seres humanos, excepto cuando dichas \u00f3rdenes entren en conflicto con la Primera Ley.<\/li>\n
  3. Un robot debe proteger su propia existencia siempre que dicha protecci\u00f3n no entre en conflicto con la Primera o la Segunda Ley.<\/li>\n<\/ol>\n

    \"\"<\/a><\/p>\n

    En este relato, el robot Speedy obedece a los dos cient\u00edficos en su misi\u00f3n, pero tiene un conflicto, ya que no puede decidir si obedecerles (Segunda Ley) o protegerse a s\u00ed mismo del peligro (la Tercera Ley), as\u00ed que da vueltas sin tomar la decisi\u00f3n. Finalmente, uno de los cient\u00edficos se pone en peligro para que se pueda aplicar la Primera Ley y salir as\u00ed del bucle.<\/p>\n

    Estas tres leyes fueron sometidas por el autor en sus cuentos de robots a una gran variedad de situaciones que las pon\u00edan a prueba.<\/p>\n

    Asimov presenta dos futuros alternativos y completamente diferentes en las obras \u00abQue te acuerdes de \u00e9l\u00bb y \u00abEl hombre bicentenario\u00bb con robots que obvian las Tres Leyes y llegan a considerarse humanos: uno retrata esto de forma positiva con un robot que se une a la sociedad humana, y el otro de forma negativa con robots que suplantan a los humanos.<\/p>\n

    \"\"<\/a>
    C-3PO y R2-D2, sin duda los robots m\u00e1s famosos de la galaxia<\/figcaption><\/figure>\n

    \u00bfY qu\u00e9 tienen que ver las Tres Leyes con la Rob\u00f3tica y las IA actuales? Digamos que no las obedecen; los robots m\u00e1s complejos que se fabrican actualmente son incapaces de comprender y aplicar las Tres Leyes. En cuanto a la IA, es un tema que est\u00e1 sobre el tapete. Si la IA aprende (mejorando sus algoritmos) de los datos, lo que est\u00e1 es aprendiendo de nosotros y reproduciendo nuestros sesgos. Es significativa esta opini\u00f3n del escritor de ciencia-ficci\u00f3n Robert J. Sawyer:<\/p>\n

    \u201cEl desarrollo de la IA es un negocio, y a las empresas no les interesan las garant\u00edas fundamentales, especialmente las filos\u00f3ficas. (Algunos ejemplos r\u00e1pidos: la industria tabaquera, la industria automovil\u00edstica, la industria nuclear. Ninguna de ellas ha dicho desde el principio que sean necesarias salvaguardias fundamentales, todas se han resistido a las salvaguardias impuestas externamente y ninguna ha aceptado un edicto absoluto contra cualquier da\u00f1o a los seres humanos).\u201d<\/em><\/p>\n

    Pero tambi\u00e9n la ciencia se ha hecho eco de las Tres Leyes; a principios de 2011 el Reino Unido public\u00f3 un conjunto revisado de 5 leyes, las 3 primeras de las cuales actualizaban las de Asimov, Principles of robotics. <\/strong><\/a>Regulating robots in the real world: <\/strong><\/p>\n

      \n
    1. Los robots son herramientas multiuso. Los robots no deben dise\u00f1arse \u00fanica o principalmente para matar o da\u00f1ar a los humanos, salvo en inter\u00e9s de la seguridad nacional.<\/li>\n
    2. Los humanos, no los robots, son los agentes responsables. Los robots deben dise\u00f1arse y utilizarse, en la medida de lo posible, respetando la legislaci\u00f3n vigente y los derechos y libertades fundamentales, incluida la intimidad.<\/li>\n
    3. Los robots son productos. Deben dise\u00f1arse mediante procesos que garanticen su seguridad.<\/li>\n
    4. Los robots son artefactos fabricados. No deben dise\u00f1arse de forma enga\u00f1osa para explotar a usuarios vulnerables, sino que su naturaleza de m\u00e1quina debe ser transparente.<\/li>\n
    5. Debe atribuirse a la persona con responsabilidad legal sobre un robot.<\/li>\n<\/ol>\n

      Para terminar, esta es la respuesta que el propio Asimov dio en alguna ocasi\u00f3n cuando le preguntaban sobre sus tres leyes:<\/p>\n

      \u201cSiempre que alguien me pregunta si creo que mis Tres Leyes de la Rob\u00f3tica servir\u00e1n para gobernar el comportamiento de los robots, una vez que sean lo bastante vers\u00e1tiles y flexibles como para poder elegir entre distintos comportamientos, tengo la respuesta preparada. <\/em>Mi respuesta es: \u00abS\u00ed, las Tres Leyes son la \u00fanica forma en que los seres humanos racionales pueden tratar con robots -o con cualquier otra cosa\u00bb. <\/em>Pero cuando digo esto, siempre recuerdo (tristemente) que los seres humanos no siempre son racionales.\u201d<\/em><\/p>\n

      Frases para reflexionar.<\/p>\n

      _____________<\/p>\n

      Manuel de Le\u00f3n<\/strong> (CSIC, Fundador del ICMAT, Real Academia de Ciencias, Real Academia Canaria de Ciencias, Real Academia Galega de Ciencias).<\/p>\n","protected":false},"excerpt":{"rendered":"

      Si en la entrada anterior de Matem\u00e1ticas y sus fronteras nos hac\u00edamos eco de algunas historias inquietantes de robots, nos fijaremos hoy en c\u00f3mo podr\u00edamos construir robots que fueran \u00fatiles y no destructivos, lo que entronca directamente con los desaf\u00edos \u00e9ticos que nos plantea la actual IA. En su colecci\u00f3n de 1950, Yo, Robot, Isaac Asimov incluy\u00f3 un cuento titulado C\u00edrculo vicioso (Runaround en el original ingl\u00e9s) en el que introdujo las llamadas Tres Leyes de la Rob\u00f3tica, un conjunto de reglas que deber\u00eda cumplir un robot. Estas leyes eran: Un robot no puede herir a un ser humano ni, por\u2026<\/p>\n","protected":false},"author":49,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"ngg_post_thumbnail":0},"categories":[1],"tags":[49639,49641,33532],"blocksy_meta":{"styles_descriptor":{"styles":{"desktop":"","tablet":"","mobile":""},"google_fonts":[],"version":4}},"aioseo_notices":[],"yoast_head":"\nHistorias de la IA: robots que cumplen las leyes - Matem\u00e1ticas y sus fronteras<\/title>\n<meta name=\"robots\" content=\"index, follow, max-snippet:-1, max-image-preview:large, max-video-preview:-1\" \/>\n<link rel=\"canonical\" href=\"https:\/\/www.madrimasd.org\/blogs\/matematicas\/2025\/01\/01\/150817\" \/>\n<meta property=\"og:locale\" content=\"es_ES\" \/>\n<meta property=\"og:type\" content=\"article\" \/>\n<meta property=\"og:title\" content=\"Historias de la IA: robots que cumplen las leyes - Matem\u00e1ticas y sus fronteras\" \/>\n<meta property=\"og:description\" content=\"Si en la entrada anterior de Matem\u00e1ticas y sus fronteras nos hac\u00edamos eco de algunas historias inquietantes de robots, nos fijaremos hoy en c\u00f3mo podr\u00edamos construir robots que fueran \u00fatiles y no destructivos, lo que entronca directamente con los desaf\u00edos \u00e9ticos que nos plantea la actual IA. En su colecci\u00f3n de 1950, Yo, Robot, Isaac Asimov incluy\u00f3 un cuento titulado C\u00edrculo vicioso (Runaround en el original ingl\u00e9s) en el que introdujo las llamadas Tres Leyes de la Rob\u00f3tica, un conjunto de reglas que deber\u00eda cumplir un robot. Estas leyes eran: Un robot no puede herir a un ser humano ni, por\u2026\" \/>\n<meta property=\"og:url\" content=\"https:\/\/www.madrimasd.org\/blogs\/matematicas\/2025\/01\/01\/150817\" \/>\n<meta property=\"og:site_name\" content=\"Matem\u00e1ticas y sus fronteras\" \/>\n<meta property=\"article:published_time\" content=\"2025-01-01T15:10:05+00:00\" \/>\n<meta property=\"og:image\" content=\"https:\/\/www.madrimasd.org\/blogs\/matematicas\/files\/2025\/01\/16946810680841.jpg\" \/>\n<meta name=\"twitter:card\" content=\"summary_large_image\" \/>\n<meta name=\"twitter:label1\" content=\"Escrito por\" \/>\n\t<meta name=\"twitter:data1\" content=\"Matem\u00e1ticas y sus fronteras\" \/>\n\t<meta name=\"twitter:label2\" content=\"Tiempo de lectura\" \/>\n\t<meta name=\"twitter:data2\" content=\"4 minutos\" \/>\n<script type=\"application\/ld+json\" class=\"yoast-schema-graph\">{\"@context\":\"https:\/\/schema.org\",\"@graph\":[{\"@type\":\"WebSite\",\"@id\":\"https:\/\/www.madrimasd.org\/blogs\/matematicas\/#website\",\"url\":\"https:\/\/www.madrimasd.org\/blogs\/matematicas\/\",\"name\":\"Matem\u00e1ticas y sus fronteras\",\"description\":\"\",\"potentialAction\":[{\"@type\":\"SearchAction\",\"target\":{\"@type\":\"EntryPoint\",\"urlTemplate\":\"https:\/\/www.madrimasd.org\/blogs\/matematicas\/?s={search_term_string}\"},\"query-input\":\"required name=search_term_string\"}],\"inLanguage\":\"es\"},{\"@type\":\"ImageObject\",\"@id\":\"https:\/\/www.madrimasd.org\/blogs\/matematicas\/2025\/01\/01\/150817#primaryimage\",\"inLanguage\":\"es\",\"url\":\"https:\/\/www.madrimasd.org\/blogs\/matematicas\/files\/2025\/01\/16946810680841.jpg\",\"contentUrl\":\"https:\/\/www.madrimasd.org\/blogs\/matematicas\/files\/2025\/01\/16946810680841.jpg\",\"width\":990,\"height\":1413,\"caption\":\"Isaac Asimov\"},{\"@type\":\"WebPage\",\"@id\":\"https:\/\/www.madrimasd.org\/blogs\/matematicas\/2025\/01\/01\/150817#webpage\",\"url\":\"https:\/\/www.madrimasd.org\/blogs\/matematicas\/2025\/01\/01\/150817\",\"name\":\"Historias de la IA: robots que cumplen las leyes - Matem\u00e1ticas y sus fronteras\",\"isPartOf\":{\"@id\":\"https:\/\/www.madrimasd.org\/blogs\/matematicas\/#website\"},\"primaryImageOfPage\":{\"@id\":\"https:\/\/www.madrimasd.org\/blogs\/matematicas\/2025\/01\/01\/150817#primaryimage\"},\"datePublished\":\"2025-01-01T15:10:05+00:00\",\"dateModified\":\"2025-01-01T15:10:05+00:00\",\"author\":{\"@id\":\"https:\/\/www.madrimasd.org\/blogs\/matematicas\/#\/schema\/person\/15722bca1b77eece37f4c192bd1b5230\"},\"breadcrumb\":{\"@id\":\"https:\/\/www.madrimasd.org\/blogs\/matematicas\/2025\/01\/01\/150817#breadcrumb\"},\"inLanguage\":\"es\",\"potentialAction\":[{\"@type\":\"ReadAction\",\"target\":[\"https:\/\/www.madrimasd.org\/blogs\/matematicas\/2025\/01\/01\/150817\"]}]},{\"@type\":\"BreadcrumbList\",\"@id\":\"https:\/\/www.madrimasd.org\/blogs\/matematicas\/2025\/01\/01\/150817#breadcrumb\",\"itemListElement\":[{\"@type\":\"ListItem\",\"position\":1,\"name\":\"Portada\",\"item\":\"https:\/\/www.madrimasd.org\/blogs\/matematicas\"},{\"@type\":\"ListItem\",\"position\":2,\"name\":\"Historias de la IA: robots que cumplen las leyes\"}]},{\"@type\":\"Person\",\"@id\":\"https:\/\/www.madrimasd.org\/blogs\/matematicas\/#\/schema\/person\/15722bca1b77eece37f4c192bd1b5230\",\"name\":\"Matem\u00e1ticas y sus fronteras\",\"image\":{\"@type\":\"ImageObject\",\"@id\":\"https:\/\/www.madrimasd.org\/blogs\/matematicas\/#personlogo\",\"inLanguage\":\"es\",\"url\":\"https:\/\/secure.gravatar.com\/avatar\/50eb6cc40d97cb9ad268a3471c7e2492?s=96&d=mm&r=g\",\"contentUrl\":\"https:\/\/secure.gravatar.com\/avatar\/50eb6cc40d97cb9ad268a3471c7e2492?s=96&d=mm&r=g\",\"caption\":\"Matem\u00e1ticas y sus fronteras\"},\"description\":\"Manuel de Le\u00f3n es Profesor de Investigaci\u00f3n del CSIC, acad\u00e9mico de la Real Academia de Ciencias y su Tesorero, fundador del ICMAT (CSIC), acad\u00e9mico de la Real Academia Canaria de Ciencias y de la Real Academia Galega de Ciencias. Es adem\u00e1s Director del programa Estalmat.\",\"url\":\"https:\/\/www.madrimasd.org\/blogs\/matematicas\/author\/matematicas\"}]}<\/script>\n<!-- \/ Yoast SEO plugin. -->","yoast_head_json":{"title":"Historias de la IA: robots que cumplen las leyes - Matem\u00e1ticas y sus fronteras","robots":{"index":"index","follow":"follow","max-snippet":"max-snippet:-1","max-image-preview":"max-image-preview:large","max-video-preview":"max-video-preview:-1"},"canonical":"https:\/\/www.madrimasd.org\/blogs\/matematicas\/2025\/01\/01\/150817","og_locale":"es_ES","og_type":"article","og_title":"Historias de la IA: robots que cumplen las leyes - Matem\u00e1ticas y sus fronteras","og_description":"Si en la entrada anterior de Matem\u00e1ticas y sus fronteras nos hac\u00edamos eco de algunas historias inquietantes de robots, nos fijaremos hoy en c\u00f3mo podr\u00edamos construir robots que fueran \u00fatiles y no destructivos, lo que entronca directamente con los desaf\u00edos \u00e9ticos que nos plantea la actual IA. En su colecci\u00f3n de 1950, Yo, Robot, Isaac Asimov incluy\u00f3 un cuento titulado C\u00edrculo vicioso (Runaround en el original ingl\u00e9s) en el que introdujo las llamadas Tres Leyes de la Rob\u00f3tica, un conjunto de reglas que deber\u00eda cumplir un robot. Estas leyes eran: Un robot no puede herir a un ser humano ni, por\u2026","og_url":"https:\/\/www.madrimasd.org\/blogs\/matematicas\/2025\/01\/01\/150817","og_site_name":"Matem\u00e1ticas y sus fronteras","article_published_time":"2025-01-01T15:10:05+00:00","og_image":[{"url":"https:\/\/www.madrimasd.org\/blogs\/matematicas\/files\/2025\/01\/16946810680841.jpg"}],"twitter_card":"summary_large_image","twitter_misc":{"Escrito por":"Matem\u00e1ticas y sus fronteras","Tiempo de lectura":"4 minutos"},"schema":{"@context":"https:\/\/schema.org","@graph":[{"@type":"WebSite","@id":"https:\/\/www.madrimasd.org\/blogs\/matematicas\/#website","url":"https:\/\/www.madrimasd.org\/blogs\/matematicas\/","name":"Matem\u00e1ticas y sus fronteras","description":"","potentialAction":[{"@type":"SearchAction","target":{"@type":"EntryPoint","urlTemplate":"https:\/\/www.madrimasd.org\/blogs\/matematicas\/?s={search_term_string}"},"query-input":"required name=search_term_string"}],"inLanguage":"es"},{"@type":"ImageObject","@id":"https:\/\/www.madrimasd.org\/blogs\/matematicas\/2025\/01\/01\/150817#primaryimage","inLanguage":"es","url":"https:\/\/www.madrimasd.org\/blogs\/matematicas\/files\/2025\/01\/16946810680841.jpg","contentUrl":"https:\/\/www.madrimasd.org\/blogs\/matematicas\/files\/2025\/01\/16946810680841.jpg","width":990,"height":1413,"caption":"Isaac Asimov"},{"@type":"WebPage","@id":"https:\/\/www.madrimasd.org\/blogs\/matematicas\/2025\/01\/01\/150817#webpage","url":"https:\/\/www.madrimasd.org\/blogs\/matematicas\/2025\/01\/01\/150817","name":"Historias de la IA: robots que cumplen las leyes - Matem\u00e1ticas y sus fronteras","isPartOf":{"@id":"https:\/\/www.madrimasd.org\/blogs\/matematicas\/#website"},"primaryImageOfPage":{"@id":"https:\/\/www.madrimasd.org\/blogs\/matematicas\/2025\/01\/01\/150817#primaryimage"},"datePublished":"2025-01-01T15:10:05+00:00","dateModified":"2025-01-01T15:10:05+00:00","author":{"@id":"https:\/\/www.madrimasd.org\/blogs\/matematicas\/#\/schema\/person\/15722bca1b77eece37f4c192bd1b5230"},"breadcrumb":{"@id":"https:\/\/www.madrimasd.org\/blogs\/matematicas\/2025\/01\/01\/150817#breadcrumb"},"inLanguage":"es","potentialAction":[{"@type":"ReadAction","target":["https:\/\/www.madrimasd.org\/blogs\/matematicas\/2025\/01\/01\/150817"]}]},{"@type":"BreadcrumbList","@id":"https:\/\/www.madrimasd.org\/blogs\/matematicas\/2025\/01\/01\/150817#breadcrumb","itemListElement":[{"@type":"ListItem","position":1,"name":"Portada","item":"https:\/\/www.madrimasd.org\/blogs\/matematicas"},{"@type":"ListItem","position":2,"name":"Historias de la IA: robots que cumplen las leyes"}]},{"@type":"Person","@id":"https:\/\/www.madrimasd.org\/blogs\/matematicas\/#\/schema\/person\/15722bca1b77eece37f4c192bd1b5230","name":"Matem\u00e1ticas y sus fronteras","image":{"@type":"ImageObject","@id":"https:\/\/www.madrimasd.org\/blogs\/matematicas\/#personlogo","inLanguage":"es","url":"https:\/\/secure.gravatar.com\/avatar\/50eb6cc40d97cb9ad268a3471c7e2492?s=96&d=mm&r=g","contentUrl":"https:\/\/secure.gravatar.com\/avatar\/50eb6cc40d97cb9ad268a3471c7e2492?s=96&d=mm&r=g","caption":"Matem\u00e1ticas y sus fronteras"},"description":"Manuel de Le\u00f3n es Profesor de Investigaci\u00f3n del CSIC, acad\u00e9mico de la Real Academia de Ciencias y su Tesorero, fundador del ICMAT (CSIC), acad\u00e9mico de la Real Academia Canaria de Ciencias y de la Real Academia Galega de Ciencias. Es adem\u00e1s Director del programa Estalmat.","url":"https:\/\/www.madrimasd.org\/blogs\/matematicas\/author\/matematicas"}]}},"_links":{"self":[{"href":"https:\/\/www.madrimasd.org\/blogs\/matematicas\/wp-json\/wp\/v2\/posts\/150817"}],"collection":[{"href":"https:\/\/www.madrimasd.org\/blogs\/matematicas\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.madrimasd.org\/blogs\/matematicas\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.madrimasd.org\/blogs\/matematicas\/wp-json\/wp\/v2\/users\/49"}],"replies":[{"embeddable":true,"href":"https:\/\/www.madrimasd.org\/blogs\/matematicas\/wp-json\/wp\/v2\/comments?post=150817"}],"version-history":[{"count":1,"href":"https:\/\/www.madrimasd.org\/blogs\/matematicas\/wp-json\/wp\/v2\/posts\/150817\/revisions"}],"predecessor-version":[{"id":150821,"href":"https:\/\/www.madrimasd.org\/blogs\/matematicas\/wp-json\/wp\/v2\/posts\/150817\/revisions\/150821"}],"wp:attachment":[{"href":"https:\/\/www.madrimasd.org\/blogs\/matematicas\/wp-json\/wp\/v2\/media?parent=150817"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.madrimasd.org\/blogs\/matematicas\/wp-json\/wp\/v2\/categories?post=150817"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.madrimasd.org\/blogs\/matematicas\/wp-json\/wp\/v2\/tags?post=150817"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}