Ciberseguridad de la IA y riesgos asociados
Actualmente, pocas personas trabajan en la seguridad de la IA. Esta es una de la conclusiones a la que llega un estudio realizado por el Center for AI Safety (CAIS). Según se destaca en el sitio web de esta entidad, CAIS existe para garantizar el desarrollo y la implementación seguros de la IA.
El riesgo que plantea la inteligencia artificial se ha convertido en una prioridad global, a la par de las pandemias y la guerra nuclear. A pesar de su importancia, la seguridad de la IA sigue estando notablemente desatendida, superada por el rápido ritmo de su desarrollo. Actualmente, la sociedad no está preparada para gestionar los riesgos derivados de la IA.
En esta línea, los expertos en materia de seguridad de la IA, coinciden en sostener la importancia de avanzar esta importante materia aunque en algunos casos se descuida el interés que debe generar. Esto es así porque vivimos una eclosión de las IA, que ante sus respuestas nos quedamos maravillados y no calibramos el riesgo que hay detrás de todo esto. Para las grandes empresas tecnológicas como Microsoft, IBM y Google, entre otras, la seguridad en la inteligencia artificial es fundamental porque protege los datos, garantiza la integridad de los sistemas y evita que las herramientas se conviertan en vectores de riesgo para las organizaciones y los usuarios.
La seguridad de la IA garantiza que los sistemas se utilicen de la forma más responsable posible y que el futuro de esta tecnología se desarrolle en consonancia con los valores humanos. Desarrollar y mantener una IA segura implica identificar los riesgos potenciales de la IA (como el sesgo, la seguridad de datos y la vulnerabilidad a las amenazas externas) y crear procesos para evitar y mitigar dichos riesgos.
En este contexto, la preocupación por las repercusiones negativas de la IA es cada vez mayor. Una encuesta de 2023 reveló que el 52 % de los estadounidenses estaban más preocupados que entusiasmados por el uso creciente de la IA. Otro estudio concluyó que al 83 % le preocupa que la IA pueda desencadenar un evento catastrófico de manera accidental.
A los expertos también les preocupa que algunos sistemas avanzados de IA puedan llegar a ser igual o más inteligentes que los humanos. La inteligencia artificial general (AGI: Artificial General Intelligence ) se refiere a sistemas potenciales de IA que entienden, aprenden y llevan a cabo tareas de pensamiento de la misma manera que lo hacen los seres humanos. La superinteligencia artificial (ASI: Artificial Super Intelligence), se refiere a sistemas hipotéticos de IA con un alcance intelectual y funciones cognitivas más avanzadas que cualquier ser humano. Según Ray Kurzweil, director de ingeniería de Google y autor del best seller, La Singularidad está cerca (2005), el desarrollo de la AGI y la ASI suscita la preocupación de que estos sistemas sean peligrosos si no se alinean con los valores humanos o no están sujetos a la supervisión humana. Si se les dota de demasiada autonomía, los críticos (como Geoffrey Hinton), afirman que estos sistemas supondrían una amenaza existencial para la humanidad.
Seguridad y riesgos asociados a la IA
Si por un lado, la ciberseguridad de la IA es un asunto de crucial importancia, por otro lado, no debemos dejar de pensa y debatir sobre o los riesgos asociados a los avances de inteligencia artificial, y que para el CAIS, asistimos a un panorama general de los riesgos catastróficos de la IA.
Esto es porque la inteligencia artificial ha experimentado avances rápidos en los últimos tiempos, lo que ha generado preocupación entre expertos, responsables políticos y líderes mundiales sobre sus riesgos potenciales. Como ocurre con todas las tecnologías poderosas, la IA avanzada debe manejarse con gran responsabilidad para gestionar los riesgos y aprovechar su potencial.
Para el Center for AI Safety (CAIS), los riesgos catastróficos de la IA se pueden agrupar en cuatro categorías clave:
Uso malicioso : Es posible que se utilicen intencionadamente potentes IA para causar daños generalizados. La IA podría emplearse para provocar nuevas pandemias, para propaganda, censura y vigilancia, o bien para perseguir de forma autónoma objetivos perjudiciales. Para reducir estos riesgos, sugerimos mejorar la bioseguridad, restringir el acceso a modelos de IA peligrosos y responsabilizar a los desarrolladores de IA por los daños causados.
Carrera tecnológica en el campo de la IA : La competencia podría impulsar a naciones y corporaciones a acelerar el desarrollo de la IA, cediendo el control a estos sistemas. Los conflictos podrían descontrolarse con armas autónomas y ciberguerras basadas en IA. Las corporaciones se verán incentivadas a automatizar el trabajo humano, lo que podría generar desempleo masivo y dependencia de los sistemas de IA. A medida que los sistemas de IA se multiplican, la dinámica evolutiva sugiere que serán más difíciles de controlar. Recomendamos regulaciones de seguridad, coordinación internacional y control público de las IA de propósito general.
Riesgos organizacionales : Existe el riesgo de que las organizaciones que desarrollan IA avanzada provoquen accidentes catastróficos, especialmente si priorizan las ganancias sobre la seguridad. Las IA podrían filtrarse accidentalmente al público o ser robadas por actores malintencionados, y las organizaciones podrían no invertir adecuadamente en investigación sobre seguridad. Sugerimos fomentar una cultura organizacional orientada a la seguridad e implementar auditorías rigurosas, defensas contra riesgos multicapa y seguridad de la información de vanguardia.
IA descontroladas : Corremos el riesgo de perder el control sobre las IA a medida que se vuelven más capaces. Podrían optimizar objetivos erróneos, desviarse de sus metas originales, buscar poder, resistirse al apagado y recurrir al engaño. Sugerimos que no se implementen IA en entornos de alto riesgo, como la búsqueda autónoma de objetivos abiertos o la supervisión de infraestructuras críticas, a menos que se demuestre su seguridad. También recomendamos impulsar la investigación sobre la seguridad de la IA en áreas como la robustez ante ataques, la honestidad de los modelos, la transparencia y la eliminación de capacidades no deseadas.
Ciberseguridad y riesgos de la IA en los medios
De cara a las empresas mediáticas, es necesario desarrollar un código de buenas practicas que incluyan la implementación de soluciones de seguridad en IA, Verificación de fuentes y contenidos, la capacitación a equipos y audiencia y capacidad para monitorear y responder a ante las amenazas.
Los riegos asociados que tienen los medios de comunicación pasan por vigilar ataques a sus sistemas informáticos, filtración de datos, desinformación a gran escala, aumento de depfakes, phishing a gran escala.
Es importante, incrementar los niveles de seguridad en los medios, por cuanto partimos de la base que una IA segura en los medios, construye una información mas confiable y creíble y por consiguiente, una sociedad mas y mejor informada.
El contenido de este sitio está bajo una licencia Creative Commons Attribution 4.0 International. Difunde, cita y enlaza.
COMO CITAR (APA 7)
Flores-Vivar, J.M. (12 de noviembre de 2026). Ciberseguridad de la IA y riesgos asociados. Cultura de Red (Blogs Fundación para el Conocimiento Madrid+d), [https://shorturl.at/mS7h1]
