Cada vez más aspectos de la vida cotidiana dependen de algoritmos que nadie entiende cómo funcionan. Son los que deciden qué vemos en las redes, qué música escuchamos o si obtenemos un préstamo, pero su lógica interna sigue siendo opaca.
En este artículo de Ethic se nos recuerda que incluso quienes desarrollan los algoritmos suelen ignorar por qué sus sistemas toman ciertas decisiones. Esa falta de transparencia multiplica los riesgos. Por ejemplo, los sesgos en los datos se pueden traducir en discriminaciones invisibles. Además, la responsabilidad se diluye. Si una máquina se equivoca, ¿quién tiene la culpa?
A medida que los algoritmos se extienden, la población cede poder a procesos que no puede cuestionar. Frente a esa automatización silenciosa, el texto propone que los algoritmos sean comprensibles y auditables. No basta con que funcionen. La inteligencia artificial necesita también inteligencia humana que la supervise, la interrogue y la ponga en contexto.
