{"id":131101,"date":"2026-11-12T20:27:42","date_gmt":"2026-11-12T19:27:42","guid":{"rendered":"https:\/\/www.madrimasd.org\/blogs\/culturadered\/?p=131101"},"modified":"2026-11-12T20:30:10","modified_gmt":"2026-11-12T19:30:10","slug":"ciberseguridad-de-la-ia-y-riesgos-asociados","status":"publish","type":"post","link":"https:\/\/www.madrimasd.org\/blogs\/culturadered\/ciberseguridad-de-la-ia-y-riesgos-asociados\/","title":{"rendered":"Ciberseguridad de la IA y riesgos asociados"},"content":{"rendered":"

Actualmente, pocas personas trabajan en la seguridad de la IA. Esta es una de la conclusiones a la que llega un estudio realizado por el Center for AI Safety (CAIS). Seg\u00fan se destaca en el sitio web de esta entidad, CAIS<\/a> existe para garantizar el desarrollo y la implementaci\u00f3n seguros de la IA. <\/strong><\/p>\n

El riesgo que plantea la inteligencia artificial se ha convertido en una prioridad global, a la par de las pandemias y la guerra nuclear. A pesar de su importancia, la seguridad de la IA sigue estando notablemente desatendida, superada por el r\u00e1pido ritmo de su desarrollo. Actualmente, la sociedad no est\u00e1 preparada para gestionar los riesgos derivados de la IA.<\/p>\n

En esta l\u00ednea, los expertos en materia de seguridad de la IA, coinciden en sostener la importancia de avanzar esta importante materia aunque en algunos casos se descuida el inter\u00e9s que debe generar. Esto es as\u00ed porque vivimos una eclosi\u00f3n de las IA, que ante sus respuestas nos quedamos maravillados y no calibramos el riesgo que hay detr\u00e1s de todo esto. Para las grandes empresas tecnol\u00f3gicas como Microsoft, IBM y Google, entre otras, la seguridad en la inteligencia artificial es fundamental porque protege los datos, garantiza la integridad de los sistemas y evita que las herramientas se conviertan en vectores de riesgo para las organizaciones y los usuarios.<\/p>\n

La seguridad de la IA garantiza que los sistemas se utilicen de la forma m\u00e1s responsable posible y que el futuro de esta tecnolog\u00eda se desarrolle en consonancia con los valores humanos. Desarrollar y mantener una IA segura implica identificar los riesgos potenciales de la IA (como el sesgo, la seguridad de datos y la vulnerabilidad a las amenazas externas) y crear procesos para evitar y mitigar dichos riesgos.<\/p>\n

En este contexto, la preocupaci\u00f3n por las repercusiones negativas de la IA es cada vez mayor. Una encuesta de 2023 revel\u00f3 que el 52 % de los estadounidenses estaban m\u00e1s preocupados que entusiasmados por el uso creciente de la IA. Otro estudio concluy\u00f3 que al 83 % le preocupa que la IA pueda desencadenar un evento catastr\u00f3fico de manera accidental.<\/p>\n

A los expertos tambi\u00e9n les preocupa que algunos sistemas avanzados de IA puedan llegar a ser igual o m\u00e1s inteligentes que los humanos. La inteligencia artificial general (AGI: Artificial General Intelligence ) se refiere a sistemas potenciales de IA que entienden, aprenden y llevan a cabo tareas de pensamiento de la misma manera que lo hacen los seres humanos. La superinteligencia artificial<\/a> (ASI: Artificial Super Intelligence), se refiere a sistemas hipot\u00e9ticos de IA con un alcance intelectual y funciones cognitivas m\u00e1s avanzadas que cualquier ser humano. Seg\u00fan Ray Kurzweil, director de ingenier\u00eda de Google y autor del best seller, La Singularidad est\u00e1 cerca (2005), el desarrollo de la AGI y la ASI suscita la preocupaci\u00f3n de que estos sistemas sean peligrosos si no se alinean con los valores humanos o no est\u00e1n sujetos a la supervisi\u00f3n humana. Si se les dota de demasiada autonom\u00eda, los cr\u00edticos (como Geoffrey Hinton), afirman que estos sistemas supondr\u00edan una amenaza existencial para la humanidad.<\/p>\n

Seguridad y riesgos asociados a la IA<\/strong><\/p>\n

Si por un lado, la ciberseguridad de la IA es un asunto de crucial importancia, por otro lado, no debemos dejar de pensa y debatir sobre o los riesgos asociados a los avances de inteligencia artificial, y que para el CAIS, asistimos a un panorama general de los riesgos catastr\u00f3ficos de la IA.<\/p>\n

Esto es porque la inteligencia artificial ha experimentado avances r\u00e1pidos en los \u00faltimos tiempos, lo que ha generado preocupaci\u00f3n entre expertos, responsables pol\u00edticos y l\u00edderes mundiales sobre sus riesgos potenciales. Como ocurre con todas las tecnolog\u00edas poderosas, la IA avanzada debe manejarse con gran responsabilidad para gestionar los riesgos y aprovechar su potencial.<\/p>\n

Para el Center for AI Safety (CAIS), los riesgos catastr\u00f3ficos de la IA se pueden agrupar en cuatro categor\u00edas clave:<\/p>\n

Uso malicioso<\/span><\/strong> : Es posible que se utilicen intencionadamente potentes IA para causar da\u00f1os generalizados. La IA podr\u00eda emplearse para provocar nuevas pandemias, para propaganda, censura y vigilancia, o bien para perseguir de forma aut\u00f3noma objetivos perjudiciales. Para reducir estos riesgos, sugerimos mejorar la bioseguridad, restringir el acceso a modelos de IA peligrosos y responsabilizar a los desarrolladores de IA por los da\u00f1os causados.<\/span><\/p><\/blockquote>\n

Carrera tecnol\u00f3gica en el campo de la IA<\/span><\/strong> : La competencia podr\u00eda impulsar a naciones y corporaciones a acelerar el desarrollo de la IA, cediendo el control a estos sistemas. Los conflictos podr\u00edan descontrolarse con armas aut\u00f3nomas y ciberguerras basadas en IA. Las corporaciones se ver\u00e1n incentivadas a automatizar el trabajo humano, lo que podr\u00eda generar desempleo masivo y dependencia de los sistemas de IA. A medida que los sistemas de IA se multiplican, <\/span>la din\u00e1mica evolutiva<\/span><\/a> sugiere que ser\u00e1n m\u00e1s dif\u00edciles de controlar. Recomendamos regulaciones de seguridad, coordinaci\u00f3n internacional y control p\u00fablico de las IA de prop\u00f3sito general.<\/span><\/p><\/blockquote>\n

Riesgos organizacionales<\/span><\/strong> : Existe el riesgo de que las organizaciones que desarrollan IA avanzada provoquen accidentes catastr\u00f3ficos, especialmente si priorizan las ganancias sobre la seguridad. Las IA podr\u00edan filtrarse accidentalmente al p\u00fablico o ser robadas por actores malintencionados, y las organizaciones podr\u00edan no invertir adecuadamente en investigaci\u00f3n sobre seguridad. Sugerimos fomentar una cultura organizacional orientada a la seguridad e implementar auditor\u00edas rigurosas, defensas contra riesgos multicapa y seguridad de la informaci\u00f3n de vanguardia.<\/span><\/p><\/blockquote>\n

IA descontroladas<\/span><\/strong> : Corremos el riesgo de perder el control sobre las IA a medida que se vuelven m\u00e1s capaces. Podr\u00edan optimizar objetivos err\u00f3neos, desviarse de sus metas originales, buscar poder, resistirse al apagado y recurrir al enga\u00f1o. Sugerimos que no se implementen IA en entornos de alto riesgo, como la b\u00fasqueda aut\u00f3noma de objetivos abiertos o la supervisi\u00f3n de infraestructuras cr\u00edticas, a menos que se demuestre su seguridad. Tambi\u00e9n recomendamos impulsar la investigaci\u00f3n sobre la seguridad de la IA en \u00e1reas como la robustez ante ataques, la honestidad de los modelos, la transparencia y la eliminaci\u00f3n de capacidades no deseadas.<\/span><\/p><\/blockquote>\n

Ciberseguridad y riesgos de la IA en los medios<\/strong><\/p>\n

De cara a las empresas medi\u00e1ticas, es necesario desarrollar un c\u00f3digo de buenas practicas que incluyan la implementaci\u00f3n de soluciones de seguridad en IA, Verificaci\u00f3n de fuentes y contenidos, la capacitaci\u00f3n a equipos y audiencia y capacidad para monitorear y responder a ante las amenazas.<\/p>\n

Los riegos asociados que tienen los medios de comunicaci\u00f3n pasan por vigilar ataques a sus sistemas inform\u00e1ticos, filtraci\u00f3n de datos, desinformaci\u00f3n a gran escala, aumento de depfakes, phishing a gran escala.<\/p>\n

Es importante, incrementar los niveles de seguridad en los medios, por cuanto partimos de la base que una IA segura en los medios, construye una informaci\u00f3n mas confiable y cre\u00edble y por consiguiente, una sociedad mas y mejor informada.<\/p>\n

 <\/p>\n

El contenido de este sitio est\u00e1 bajo una licencia Creative Commons Attribution 4.0 International. Difunde, cita y enlaza<\/strong>.<\/em><\/p>\n

COMO CITAR (APA 7)<\/p>\n

Flores-Vivar, J.M. (12 de noviembre de 2026). Ciberseguridad de la IA y riesgos asociados. Cultura de Red<\/em> (Blogs Fundaci\u00f3n para el Conocimiento Madrid+d), [https:\/\/shorturl.at\/mS7h1<\/a>]<\/p>\n","protected":false},"excerpt":{"rendered":"

Actualmente, pocas personas trabajan en la seguridad de la IA. Esta es una de la conclusiones a la que llega un estudio realizado por el Center for AI Safety (CAIS). Seg\u00fan se destaca en el sitio web de esta entidad, CAIS existe para garantizar el desarrollo y la implementaci\u00f3n seguros de la IA.  El riesgo que plantea la inteligencia artificial se ha convertido en una prioridad global, a la par de las pandemias y la guerra nuclear. A pesar de su importancia, la seguridad de la IA sigue estando notablemente desatendida, superada por el r\u00e1pido ritmo de su desarrollo. Actualmente,\u2026<\/p>\n","protected":false},"author":60,"featured_media":131171,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"ngg_post_thumbnail":0},"categories":[23002,50774],"tags":[50789,50777,50852,38260,23627,40259,17192,1597],"blocksy_meta":{"styles_descriptor":{"styles":{"desktop":"","tablet":"","mobile":""},"google_fonts":[],"version":4}},"aioseo_notices":[],"aioseo_head":"\n\t\t\n\t\n\t\n\t\n\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t