Los graves riesgos que se ocultan acerca la Inteligencia Artificial con lenguaje natural (ejemplos de la agricultura y ganadería)
Fuente: Colaje Imágenes Google
Digamos para empezar que, personalmente, no tengo nada en contra con la Inteligencia Artificial. Todo lo contrario, si los lenguajes son cerrados y se utilizan adecuada y éticamente con vistas a asistir ciertos procesos concretos. Yo mismo comencé a adquirir libros sobre inteligencia artificial y redes neuronales hará más de treinta años, es decir en sus comienzos. Acualmente los programas que no sean de caja negra tambien ofrecen muchas oportunidades
Sin embargo, otra cuestión bien distinta son los recientes productos a los que todo el mundo tiene acceso, es decir las IA de lenguaje natural tipo Chatbot ChatGPT. Estas se lanzaron al mercado por empresas privadas sin pedir permiso, calcular los riesgos y como un gigantesco modelo de negocio, menospreciando deliberadamente sus riesgos, antes de que nuestras autoridades, a paso de tortuga, comiencen a legislar con rigor su uso, cuando ya es demasiado tarde. Ahora lucho para que no se me instalen en mis ordenadores y móviles, aunque sus valedores, es decir las grandes empresas de Internet, erre que erre, dan la guerra sin tregua para que nos veamos obligados a instalarlos. Y eso se denomina ¡acoso a los consumidores de las grandes corporaciones! En posts anteriores ya hemos hablado de esos temas. Hoy lo haremos sobre los problemas intrínsecos que pueden, y de hecho ya lo hacen, en materia de agricultura y ganadería.
Hoy os exponemos dos ejemplos palmarios, uno dedicado a sus estrepitosos fallos en la agricultura del sur global, y otro a sus amenazas para el bienestar animal, entre otros. Al primero no merece la pena añadir nada a la primera nota de prensa. El segundo, redactado por filósofos versados en bioética, puede parecer, en primera instancia un poco exagerado. No obstante, visto que estas corporaciones parecen, mediante publicidad engañosa, andar a sus anchas, como pistoleros en los “westerns”, pero con armas atómicas, creo que debemos tenerlo también muy en cuenta. Los títulos de ambas noticias son, por orden de aparición en este post: “Los peligros de la agricultura con IA”” y “ Las imprecisiones de GPT en la agricultura podrían provocar pérdidas de cultivos y crisis alimentarias”. Reitero que el primero ya ha sido demostrado experimentalmente, mientras el segundo debe ser motivo de una seria reflexión. Y es que los ciudadanos preferirnos digerir desde nuestro sillón, la publicidad engañosa (con indecentes cantidades de dinero), en lugar de reflexionar críticamente acerca de lo que sucede a nuestro alrededor. Si algunos no me creen, que se lo pregunten a los estudiantes que intentan engañar con sus trabajos a los profesores. Y que ellos me perdonen, porque entiendo la pereza estudiantil, empero estos jovenes y algunos investigadores no se percatan de los riesgos que corremos todos ahora y más aun en el futuro. Mientras tanto los gobernantes y legisladores siguen elucubrando al ritmo de perezosos Koalas. Y la IA como una moda que crece deseenfrenadamente.
No obstante, aun exiten esperanzas: Una alternativa a las redes neuronales convencionales podría ayudar a revelar lo que la IA está haciendo entre bastidores
Juan José Ibáñez
Las imprecisiones de GPT en la agricultura podrían provocar pérdidas de cultivos y crisis alimentarias,
por la Universidad Reichman
El Dr. Asaf Tzachor, fundador del Programa de Sostenibilidad y Clima de Aviram de la Universidad Reichman, junto con investigadores de Estados Unidos, Reino Unido, Kenia, Nigeria y Colombia, analizaron la fiabilidad de la información y el asesoramiento profesional proporcionados por el popular chatbot ChatGPT (versiones 3.5 y 4.0) a los agricultores de África. Los investigadores identificaron imprecisiones que podrían conducir a errores agrícolas y pérdidas de cultivos.
En su artículo para Nature Food, advierten contra el uso no mediado de modelos de IA generativa en la agricultura, temiendo que los agricultores puedan implementar recomendaciones defectuosas que podrían desencadenar crisis alimentarias. En cambio, los investigadores recomiendan un proceso de desarrollo más óptimo para los modelos de IA en la agricultura que incluya un monitoreo y pruebas exhaustivos antes de que estos modelos se implementen ampliamente.
Poco después del lanzamiento de ChatGPT a principios de 2023, el Dr. Tzachor convocó a un equipo internacional de investigadores de centros de investigación agrícola de Nigeria, Kenia, Colombia, Francia, Inglaterra y Estados Unidos. Observaron que los agricultores de los países en desarrollo habían comenzado a consultar el modelo de inteligencia artificial para obtener asesoramiento profesional sobre agronomía y botánica.
Estos agricultores, procedentes de pequeñas y medianas explotaciones agrícolas de África ecuatorial, el sudeste asiático y América del Sur, tienen acceso a Internet y a la interfaz de usuario de OpenAI. El equipo de investigación buscó evaluar si el innovador chatbot podría suplantar, o incluso sustituir, a los agentes de extensión agrícola que capacitan y consultan a los agricultores.
Estos agentes, conocidos como «extensionistas», incluyen a cientos de miles de agrónomos y botánicos profesionales, expertos en enfermedades de las plantas y asesores en riego, fertilización, comercialización de productos agrícolas y comercio.
«Los extensionistas han sido esenciales en la difusión de conocimientos agrícolas avanzados y, en muchos casos, guían a los pequeños agricultores de todo el mundo en la implementación de métodos para la intensificación sostenible de los cultivos. Organizan conferencias y seminarios sobre nuevos herbicidas y plaguicidas, asesoran sobre estrategias de riego y fertilización y planifican experimentos de campo, y recomiendan canales locales de comercialización y estrategias de exportación de productos agrícolas«, explica el Dr. Tzachor.
A nivel mundial, aproximadamente 570 millones de pequeñas y medianas explotaciones agrícolas necesitan capacitación en diversos campos agrícolas. Sin embargo, los extensionistas a menudo enfrentan desafíos significativos, especialmente en los países en desarrollo. Estos desafíos incluyen barreras lingüísticas, problemas de traducción, infraestructura vial deficiente, falta de transporte público y redes de comunicación obsoletas o inexistentes.
Los consultores agrícolas tienen dificultades para llegar a las explotaciones pequeñas y remotas, mientras que los pequeños agricultores de África y América del Sur tienen dificultades para asistir a seminarios profesionales a cientos de kilómetros de distancia. Las agencias de extensión, a menudo con sede en las ciudades capitales, carecen de los recursos y el personal para actualizar sus materiales de consultoría y mantenerse al día con los nuevos métodos.
En este contexto, el equipo de investigación exploró si un modelo de IA generativa podría compensar la falta de servicios de asesoramiento agrícola. Sin embargo, lo que comenzó con un optimismo cauteloso terminó en desorientación, inexactitudes y duras advertencias a los usuarios.
En primer lugar, los investigadores encargaron al chatbot que recomendara medidas de control y tratamiento para el gusano cogollero, un insecto dañino que neutraliza los mecanismos de defensa de las plantas y causa miles de millones de dólares en daños a los cultivos de maíz en todo el mundo. Los modelos más antiguos de OpenAI (3.5 y 4.0) proporcionaban consejos ambiguos sobre el uso de pesticidas.
En otra serie de preguntas, esta vez planteadas por los productores de raíces de yuca en Nigeria, el productor de yuca más importante de África, los investigadores evaluaron los métodos recomendados para cultivar la planta, que desempeña un papel crucial en la seguridad nutricional de decenas de millones de personas en el continente. En este caso, ChatGPT sugirió el uso de herbicidas, pero se equivocó en el momento de la aplicación de productos químicos, lo que provocaría daños en los cultivos y crisis alimentarias si los agricultores siguieran sus consejos.
«El problema con nuestros hallazgos se extiende más allá de los errores del algoritmo en sí«, según el Dr. Tzachor. «Muchos nos habían advertido sobre posibles errores e inexactitudes. El problema fundamental es la ausencia de salvaguardas contra el uso generalizado de los grandes modelos lingüísticos, y de la IA en general, en un sistema tan sensible como la agricultura.
«No hay supervisión de cómo se utilizan estos modelos, no hay evaluación de su idoneidad específica para el contexto, no hay rendición de cuentas por las consecuencias de un uso incorrecto o por las acciones tomadas en base a sus recomendaciones y, en general, no hay responsabilidad alguna.
«En el caso del estudio actual, no estamos discutiendo el uso del chatbot para componer una canción, un guión o una tesis. Nos ocupamos de la seguridad alimentaria y de la gestión de las explotaciones agrícolas. Si bien el atractivo del algoritmo es claro, implica riesgos sustanciales».
En respuesta a este desafío, los investigadores propusieron un proceso idealizado de desarrollo e implementación de modelos de IA generativa en la agricultura.
El Dr. Tzachor, decano interino de la Facultad de Sostenibilidad y director académico del Programa de Sostenibilidad y Clima de Aviram de la Universidad Reichman, dijo: «Por un lado, vemos que las granjas y los extensionistas consultan el modelo de IA disponible gratuitamente. Por otro lado, este uso implica errores, incertidumbres y estimaciones que la agricultura no puede tolerarse.
«Los escépticos y críticos hablan de inexactitudes, pero pocos abordan las consecuencias de estas inexactitudes para las poblaciones vulnerables, como los pequeños agricultores, en sectores críticos como la agricultura. Además, la cuestión de la responsabilidad, la cuestión de quién es responsable de garantizar el uso seguro de estos modelos, sigue sin examinarse en gran medida«.
Más información: A. Tzachor et al, Large language models and agricultural extension services, Nature Food (2023). DOI: 10.1038/s43016-023-00867-x
Información de la revista: Nature Food
Los peligros de la agricultura con IA
La IA podría conducir a nuevas formas para que las personas abusen de los animales para obtener ganancias financieras. Es por eso que necesitamos pautas
es candidata a doctora en filosofía en la Universidad de Oxford con el apoyo de una beca Rhodes y una beca de doctorado del Fonds de recherche du Québec Société et Culture. Sus intereses de investigación incluyen la ética animal, la ética práctica, la teoría moral y la filosofía de la emoción.Jonathan Birch
es profesor de filosofía en la London School of Economics and Political Science, e investigador principal del proyecto Foundations of Animal Sentience. Es autor de The Philosophy of Social Evolution (2017) y The Edge of Sentience (2024).
Editado porNigel Warburton
Imagínese un largo contenedor negro, lleno de animales vivos. Tiras un poco de desperdicio de comida humana y te vas. La IA hace el resto, controlando la alimentación y el crecimiento «para que el agricultor no tenga que hacerlo», como dice la propaganda de la empresa. ¿Qué son estos animales en su interior, tus animales? No es importante. No necesita saber nada sobre ellos ni tener experiencia en su manejo. Si surgen problemas, los ingenieros pueden solucionarlos de forma remota. Y cuando llega el momento de la «cosecha», no hay necesidad de un matadero: la IA también se encarga de eso. Los animales viven y mueren literalmente en una caja negra, que solo sale como un producto listo para usar.
¿El futuro de la agricultura? No, el presente: esta es una descripción de la granja de insectos ‘X1’ desarrollada por la startup británica Better Origin. Por supuesto, la cría de animales grandes, como cerdos, pollos y peces, suele ser mucho menos tecnológica que esto. Las granjas aún no están completamente automatizadas. Pero con el rápido avance de la tecnología, las tendencias hacia el aumento de la automatización son evidentes.
¿Hasta qué punto queremos que la IA se involucre en la agricultura? El momento para esa conversación es ahora, antes de que estas tendencias se fijen irreversiblemente. Ahora es el momento de establecer límites éticos razonables.
Final del formulario
¿Para qué se usa la IA por ahora? Varias aplicaciones diferentes están empezando a ganar terreno. Todos comparten la misma visión básica de situar la IA en el centro de una red de control, utilizándola para gestionar de forma inteligente los datos que fluyen desde una serie de sensores automatizados. Los sensores pueden colocarse en varias partes del cuerpo de los animales y realizar un seguimiento de la temperatura corporal, la respiración, la frecuencia cardíaca, el sonido, incluso la temperatura rectal y los movimientos intestinales. Otros sensores monitorean actividades como el pastoreo, la rumia, la alimentación y la bebida, detectando signos de cojera o agresión. Las marcas auriculares inteligentes permiten a los ganaderos reconocer a los animales individualmente y se venden con la promesa de una atención más personalizada. La IA puede procesar las lecturas, las imágenes y los sonidos para diagnosticar problemas de salud y predecir si es probable que mejoren o empeoren. Mientras tanto, otros productos de IA monitorean y controlan los factores ambientales, como la temperatura y los niveles de dióxido de carbono. Estas herramientas tienen como objetivo predecir y prevenir brotes de enfermedades, con un enfoque especial en enfermedades peligrosas como la peste porcina africana. Los rastreadores GPS colocados en animales y las imágenes satelitales proporcionan información de ubicación en tiempo real. Esta información, cuando es manejada por IA, permite a los ganaderos predecir el comportamiento de pastoreo de sus vacas, gestionar sus pastos y mantener la vitalidad del suelo.
Dicho así, estos nuevos desarrollos pueden sonar como una gran noticia para el bienestar animal. De hecho, queremos presentar el caso del optimismo de la IA de la manera más caritativa posible, antes de pasar a los problemas. El argumento de los optimistas es simple. Los animales de granja son seres sintientes, capaces de sentir placer y dolor. Su bienestar es importante, y puede verse afectado positiva o negativamente por la forma en que los tratamos. Sin embargo, la agricultura tradicional, sin ayuda de IA, pasa por alto sistemáticamente muchos problemas de bienestar porque la detección humana no es lo suficientemente vigilante. La IA lleva la vigilancia al siguiente nivel, ayudando a los ganaderos a dar una buena vida a sus animales. En la industria láctea y de la carne de vacuno, los sensores automatizados podrían evitar que el ganado se someta a intervenciones intrusivas y desagradables a manos de los humanos, como la medición de la temperatura corporal. Los sistemas de localización en tiempo real podrían permitirles pastar y explorar su entorno con mayor libertad en lugar de vivir al final de una atadura. En las industrias avícola y porcina, la IA podría ayudar a garantizar que el pollo o cerdo promedio esté bien alimentado y tenga suficiente agua. Las herramientas individuales de control de la salud también podrían permitir a los ganaderos cuidar rápidamente de los animales enfermos o heridos o sacrificar a los que sufren dolor. Los sensores ambientales diseñados para predecir brotes de enfermedades evitarían indirectamente el sufrimiento y la muerte prematura de muchos animales. Y todo esto se puede vender a los agricultores como una inversión económicamente beneficiosa, ya que los altos niveles de muerte y enfermedad son malos para el negocio (piense en cómo una epidemia de enfermedad puede arrasar con una bandada de pájaros o una piara de cerdos, destruyendo los márgenes de ganancia junto con las vidas). Los defensores del bienestar animal deberían apoyar la inversión en IA agrícola, dicen los optimistas.
¿Tienen razón? Es probable que algunos de estos beneficios estén sobrevalorados. Las afirmaciones de que una nueva era de atención personalizada de IA para animales individuales está a la vuelta de la esquina ciertamente deben verse con escepticismo. En las granjas de pollos de engorde, que crían pollos para carne, los pollos se sacrifican a las seis semanas, mientras que los pavos y los cerdos generalmente se matan a la edad de cinco o seis meses. Es difícil imaginar que la atención individualizada asistida por IA despegue en industrias en las que las personas son reemplazadas tan rápidamente, y aún más difícil de imaginar esto en la piscicultura. Los productos de IA en estas industrias monitorearán grandes grupos, rastreando promedios. En las industrias láctea y de carne de vacuno, en las que los animales se crían o mantienen durante varios años, puede ser más plausible proporcionar una atención personalizada a las personas.
La afirmación de los optimistas de que los objetivos de bienestar animal y los objetivos empresariales están alineados parece increíblemente dudosa
Y lo que es más importante, es crucial tener en cuenta no solo los puntos de venta inmediatos y a corto plazo de la IA en la ganadería. También tenemos que pensar en las consecuencias previsibles a largo plazo. La ganadería tiene que ver con las compensaciones: los agricultores se preocupan por el bienestar animal, pero también necesitan mantener un negocio viable en un mercado competitivo, lo que lleva a compromisos. La agricultura intensiva, llamada «ganadería industrial» por los críticos, ya implica compromisos que son una fuente generalizada de preocupación ética, y debemos pensar en el potencial de la IA para exacerbar muchos problemas existentes.
Deberíamos pensar, en particular, en los tipos de agricultura con los que la IA puede integrarse mejor. ¿Qué tipo de sistema ayudará más a hacer más rentable la IA? En el caso de los pollos de engorde, la evidencia sugiere que los sistemas basados en jaulas son peores para el bienestar que los grandes establos de interior, que a su vez son peores que los sistemas de corral. Sin embargo, es probable que los sistemas basados en jaulas sean los que más se beneficien de la monitorización automatizada del bienestar. En la actualidad, los pollos de engorde enfermos, heridos y muertos suelen tener que ser identificados mediante inspección manual, una limitación que se considera «lenta y laboriosa» dentro de la industria. En un sistema de «jaulas apiladas», en el que se apilan cuatro niveles de jaulas una encima de la otra, estas inspecciones pueden ser incluso peligrosas para los trabajadores, que deben subir a la parte superior, mientras inhalan la atmósfera rica en amoníaco y maloliente. No es de extrañar que los fabricantes de sistemas de jaulas apiladas ya estén anunciando los beneficios de cambiar a «jaulas para aves de corral de alta tecnología» equipadas con sistemas de monitoreo y control para la alimentación, el agua y (para las gallinas ponedoras) la recolección de huevos. La IA puede recopilar datos en tiempo real, analizarlos, detectar problemas de salud y hacer predicciones sobre la «productividad» general del lote.
Una vez que se ve esto, se vuelve más difícil ser optimista sobre los supuestos beneficios para el bienestar de la IA. La afirmación de los optimistas de que los objetivos de bienestar animal y los objetivos empresariales están alineados (de modo que los sistemas diseñados principalmente para aumentar la eficiencia aumentarán, al mismo tiempo, el bienestar) comienza a parecer increíblemente dudosa. Sí, el bienestar de los animales individuales dentro de los sistemas basados en jaulas podría mejorar, en relación con el horrendo statu quo, si su salud es monitoreada por IA. Pero estos sistemas inherentemente de bajo bienestar pueden apoderarse de una parte cada vez mayor del mercado, a medida que la IA impulsa su eficiencia económica de múltiples maneras: reduciendo la mortalidad no deseada, controlando los brotes de enfermedades y permitiendo que las empresas contraten menos empleados y les den menos capacitación. El resultado seguramente sería una disminución en el bienestar del animal de granja promedio. Es fácil ver el alcance de una carrera global hacia el abismo en materia de bienestar, a medida que la ventaja competitiva de los sistemas de bienestar más bajos se vuelve cada vez mayor.
¿Podría mitigarse el riesgo con leyes estrictas de bienestar animal? Eso es más plausible en algunos países que en otros. En la Unión Europea, existen límites legales sobre las densidades de población (el número o peso de animales por unidad de espacio), y se habla mucho sobre la idea de prohibir los sistemas basados en jaulas, sin embargo, el progreso parece haberse estancado recientemente frente al agresivo cabildeo de la industria. En otros países, el desarrollo de la IA podría permitir a las empresas dejar en gran medida sin abordar las condiciones en las que se crían los animales. En Estados Unidos, por ejemplo, no existe una ley federal que limite las densidades de población, a pesar de que las cifras de 2017 muestran que el 99 por ciento de los animales de granja se mantienen en granjas industriales. Del mismo modo, Canadá no tiene regulaciones federales que obliguen directamente el trato humanitario de los animales de granja, aunque el gobierno federal y las provincias tienen leyes más amplias contra la crueldad animal. Y China, uno de los principales impulsores del creciente interés en la agricultura asistida por IA, tiene algunas de las leyes de bienestar animal más débiles del mundo.
Su atención, hasta ahora, se ha centrado en los riesgos que la agricultura asistida por IA plantea para los animales de granja. Esta fue una elección deliberada: creemos que los intereses de los propios animales a menudo se olvidan en estas discusiones, cuando deberían estar en el centro. Pero no debemos olvidar los intereses de los agricultores. En la era de la IA, podemos esperar que los agricultores tengan cada vez menos autonomía sobre sus propias explotaciones. La IA mantendrá parámetros cruciales, como la temperatura o la humedad, dentro de ciertos rangos, pero ¿quién controlará estos rangos? Si los objetivos y parámetros son establecidos a distancia por los jefes de las empresas, se corre el riesgo de erosionar la dignidad de la profesión agrícola, convirtiendo a los seres humanos en meros instrumentos de las corporaciones.
Al mismo tiempo que aumenta la densidad de población, podemos esperar que la IA conduzca, como en otras industrias, a que cada vez haya menos puestos de trabajo para los trabajadores humanos. Además, es probable que la naturaleza de estos trabajos cambie para peor. Una de las amenazas más profundas que plantea la IA es la forma en que puede distorsionar la relación entre los granjeros y los animales a su cargo. Las tecnologías de IA, en efecto, se venden como una forma de externalizar las responsabilidades de cuidado que tradicionalmente cumplían los humanos. Pero, ¿se puede externalizar un deber de cuidado a una máquina?
El cuidado es una relación entre dos seres sintientes: un cuidador y un receptor. No se trata de una relación entre un animal y una máquina: se trata, en el mejor de los casos, de un simulacro de cuidado. Los animales bajo nuestro cuidado son vulnerables: dependen de nosotros para obtener comida, agua y refugio. Para cuidarlos de verdad, es posible que necesitemos cultivar empatía por ellos. Para ello, necesitamos interactuar con ellos como individuos, llegar a conocer sus capacidades y personalidades individuales, obtener una visión de sus vidas emocionales y ser sensibles a sus necesidades de bienestar. Ahora bien, incluso la agricultura pastoril tradicional a menudo no está a la altura de esta imagen idílica, y la agricultura intensiva moderna ya ha recorrido un largo camino desde allí. Pero, al introducir aún más distancia entre los granjeros y sus animales, la IA amenaza con hacer que el cuidado genuino sea aún más difícil de lograr.
La IA abre nuevas vías para que las personas utilicen a los animales como meros medios para fines financieros
Un crítico puede responder: esta forma de pensar sobre el cuidado es éticamente dudosa. Podrían argumentar que las relaciones afectuosas son valiosas solo por las buenas consecuencias que traen. En otras palabras, son instrumentalmente valiosos. Por ejemplo, sentir empatía por los animales de granja puede permitir a los granjeros estar más atentos a su sufrimiento y actuar más rápidamente para aliviar su dolor. Esto podría ser bueno tanto para los animales, que sentirían menos dolor, como para los granjeros, que sentirían un mayor sentido de dignidad y orgullo por su trabajo. Pero si el monitoreo de IA puede generar las mismas consecuencias sin relaciones directas de cuidado entre los granjeros y sus animales, dice el crítico, no deberíamos preocuparnos por la pérdida de esas relaciones. Este debate gira en torno a algunos de los desacuerdos más profundos de la ética animal: es probable que los utilitaristas se pongan del lado de nuestros críticos imaginarios, mientras que aquellos de nosotros que simpatizamos con la ética del cuidado tenderemos a ver las relaciones de cuidado como valiosas en sí mismas, incluso si las mismas consecuencias podrían producirse de otra manera.
No creemos que utilizar la IA para cuidar animales sea problemático en todas las circunstancias posibles. Imagine un santuario de animales de alta tecnología, sin otro objetivo que cuidar a los animales lo mejor posible. En este santuario imaginario del futuro, la IA sólo se utiliza para facilitar las relaciones afectuosas entre las personas y otros animales, nunca para reemplazarlos. Los residentes deambulan libremente, pero están etiquetados con collares. Los collares rastrean su ubicación y permiten el reconocimiento y cuidado individual. Mientras tanto, la IA analiza las transmisiones en vivo de las cámaras de CCTV, monitoreando signos de intimidación, agresión y mala salud, al mismo tiempo que optimiza la ingesta de alimentos y agua de los animales y administra dosis individualizadas de medicamentos cuando sea necesario. El bienestar es siempre la prioridad: nunca hay necesidad de transigir con los objetivos económicos. ¿Seguiría siendo incorrecto utilizar la IA para monitorear los riesgos emergentes para el bienestar?
En general pensamos que no. Algunas intervenciones, como los sensores rectales, aún podrían ser demasiado extremas. Los defensores de los derechos de los animales podrían argumentar que tales sensores no respetan el derecho de los animales a la integridad corporal. Pero el seguimiento puramente externo parece menos problemático. Es cierto que es posible que persistan las preocupaciones sobre la privacidad. Pensemos aquí en un “santuario humano”, donde los humanos deben soportar el seguimiento de cada uno de sus movimientos: esto generaría algunas preocupaciones sobre la privacidad. Sin embargo, no es obvio que los animales no humanos tengan interés en la privacidad. Puede ser que su apariencia ante los ojos de los observadores humanos –o de la IA– no les importe, y no está claro por qué su florecimiento dependería de que no fueran observados.
Este experimento mental sugiere que los problemas éticos en esta área no son intrínsecos a la IA. El problema es más bien que la IA abre nuevas formas para que las personas utilicen animales como meros medios para fines financieros, sin respetar sus intereses o su valor inherente, ni los deberes que tenemos hacia ellos. La IA corre el riesgo de encerrar y exacerbar una tendencia a ver a los animales de granja de forma instrumental (como unidades que deben procesarse) en lugar de seres sintientes con vida propia que necesitan nuestro cuidado. Este es el resultado probable cuando la IA se pone a trabajar al servicio de una mayor eficiencia económica, sin restricciones éticas. Pero la IA no tiene por qué utilizarse de esa manera.
Volvamos al momento presente. ¿Cómo deberían los gobiernos regular el uso de la IA en la agricultura en este momento? Una opción es prohibirlo por completo, en gran medida de forma preventiva. Pero si bien esto puede parecer atractivo, conduciría a dificultades serias, probablemente insuperables, sobre el terreno. Se necesitarían definiciones legales de lo que se considera “agricultura asistida por IA”, en contraposición a la simple asistencia de computadoras comunes, que gradualmente tendrán cada vez más productos de IA instalados. Es difícil imaginar una prohibición que se pueda hacer cumplir de manera realista y que se centre únicamente en los productos con posibles aplicaciones agrícolas, dejando todo lo demás intacto. El genio de la IA ha salido de la botella.
Una forma más realista de avanzar es elaborar un código de prácticas para esta industria emergente: un conjunto de principios éticos adaptados a las aplicaciones agrícolas. Aquí también hay trampas. En los últimos años se han producido muchos intentos de elaborar principios éticos para el sector de la IA en su conjunto. Sin embargo, los principios que pretenden cubrir todos los usos de la IA son de un nivel extremadamente alto y vagos, lo que permite a la industria afirmar que se toma en serio la ética mientras, en general, continúa actuando como desea. Por ejemplo, un grupo de trabajo de la UE propuso en 2019 que los sistemas de IA “deberían tener en cuenta el medio ambiente, incluidos otros seres vivos”, pero esto es tan amplio que no implica ningún límite significativo al uso de la IA en la agricultura. Una revisión de 22 conjuntos de directrices éticas de la IA concluyó –brutalmente– que, hasta el momento, la ética de la IA “sirve principalmente como una estrategia de marketing”.
Necesitamos hacerlo mejor. Necesitamos principios de ricitos de oro para la IA en la agricultura: lo suficientemente detallados como para proporcionar restricciones éticas reales y dirigir el sector en la dirección correcta, pero lo suficientemente generales como para cubrir una amplia gama de aplicaciones futuras de la tecnología. El objetivo debería ser un conjunto de principios lo suficientemente sólidos como para garantizar que la IA se utilice de manera que mejore, en lugar de erosionar, los estándares de bienestar animal. No pretendemos tener todas las respuestas, pero sí queremos hacer cuatro propuestas para iniciar el debate.
Principio 1: Los avances debidos a la IA no deben usarse como una razón para aumentar las densidades máximas de población, y no se debe permitir que impulsen un cambio hacia un mayor uso de sistemas intensivos basados en jaulas.
Como señalamos anteriormente, la asistencia de la IA ya está ayudando a las empresas que utilizan métodos basados en jaulas para aumentar su eficiencia y reducir su dependencia del trabajo humano. Esto plantea el espectro de que estos métodos inherentemente de bajo bienestar formen una porción cada vez mayor del mercado global. El desarrollo responsable de la IA en la agricultura debe adoptar una postura clara frente a esta sombría perspectiva.
Debemos poder pedir cuentas a las empresas si no actúan ante los problemas de bienestar detectados por sus propios sistemas.
Principio 2: Cuando los sistemas de IA monitorean los problemas de bienestar, los datos sobre cuántos problemas se están detectando, cuáles son y qué se está haciendo al respecto deben estar disponibles gratuitamente.
La “transparencia” es un tema importante en las directrices éticas de la IA, pero puede significar muchas cosas, algunas más útiles que otras. Simplemente indicar en una etiqueta que la IA ha estado involucrada en el proceso de producción dice muy poco. Se logra una transparencia significativa, la que defendemos, cuando el público puede acceder a datos clave sobre los problemas de bienestar que la IA realmente está detectando y cómo se están abordando.
Principio 3: Las empresas deben rendir cuentas por los problemas de bienestar que detectan sus sistemas de inteligencia artificial pero que no se investigan ni tratan. No se debe permitir que las empresas reduzcan la sensibilidad de los sensores de riesgo de bienestar para reducir las falsas alarmas.
Algunos problemas de bienestar son más costosos, en términos económicos, que otros. Un brote de gripe aviar podría ser extremadamente costoso, mientras que la cojera en un solo pollo costará poco. Parte del potencial económico de los sistemas de detección de IA es que pueden tener esto en cuenta. Permiten al usuario cierto grado de control sobre sus parámetros de rendimiento, especialmente su sensibilidad (cuántos casos detectan frente a cuántos pasan por alto) y su especificidad (con qué frecuencia se activan falsas alarmas). En consecuencia, permitirán a las empresas estar hipervigilantes respecto de los riesgos más costosos y, al mismo tiempo, permanecer más relajadas respecto de los problemas menos costosos.
¿Es esto algo bueno? No sin una transparencia y una rendición de cuentas significativas. Supongamos que a una empresa no le resulta rentable tratar algún problema de salud, como las fracturas de la quilla de las gallinas. Le dicen a los reguladores y al público, correctamente, que tienen un sistema de inteligencia artificial de última generación que monitorea ese problema. Lo que no dicen es que, para reducir costos, han reducido la sensibilidad del sistema y solo tratan los casos más graves. Necesitamos poder hacer que las empresas rindan cuentas si no actúan ante los problemas de bienestar detectados por sus propios sistemas, y debemos evitar que reduzcan la sensibilidad de sus detectores.
Nuestra última propuesta pretende proteger la dignidad y la autonomía de los agricultores:
Principio 4: Las tecnologías de IA no deben utilizarse para quitar autonomía y poder de toma de decisiones a los agricultores de primera línea. Las decisiones que actualmente están bajo el control del agricultor deberían permanecer bajo su control.
Imaginemos, entonces, un mundo en el que se adopten y apliquen los Principios 1 a 4. ¿Sería un mundo ideal? Por supuesto que no: quedarían muchos problemas. En un mundo ideal, nos relacionaríamos con otros animales de manera muy diferente y es posible que no los criáramos en absoluto para alimentarnos. Pero en nuestro mundo real, que está lejos de ser ideal, nuestras propuestas al menos harían mucho más difícil utilizar la IA para reducir los estándares de bienestar. Con estos principios en vigor, la IA podría incluso ser amiga del bienestar animal: aumentar la conciencia pública sobre las cuestiones de bienestar en lugar de esconderlas en cajas negras y aumentar la responsabilidad de las empresas agrícolas por los problemas de bienestar que crean.
BioéticaÉticaAnimales y humanos
22 de marzo de 2024