La IA puede tener diversos usos dentro del sector social, pero necesitamos evaluaciones rigurosas de su impacto para garantizar que promueve el bienestar social.
La inteligencia artificial (IA) tiene el potencial de transformar nuestras vidas. Al igual que Internet, es una tecnología de uso general que abarca todos los sectores, es ampliamente accesible, tiene un bajo costo marginal de añadir usuarios y mejora constantemente. Las empresas tecnológicas están desarrollando rápidamente más modelos de IA avanzados que se están infiltrando en nuestras vidas personales y en nuestro trabajo.
La IA también está penetrando rápidamente en el sector social. Los gobiernos, las empresas sociales y las ONG están incorporando la IA a sus programas, mientras que los fondos públicos y los donantes se esfuerzan por entender dónde invertir. Por ejemplo, la IA se está utilizando para mejorar los diagnósticos médicos, localizar las zonas propensas a inundaciones para orientar mejor la ayuda, calificar los trabajos de los alumnos para liberar tiempo a los profesores tiempo de los profesores para interactuar con los alumnos, ayudar a los gobiernos a detectar el fraude fiscal y permitir a los asesores agrícolas personalizar sus consejos.
Pero el sector social también está plagado de ejemplos de las últimas dos décadas de tecnologías promocionadas como soluciones milagrosas que no cumplieron las expectativas, como One Laptop Per Child (“Una Laptop por Niño”), recordatorios por SMS para la toma de medicamentos y las estufas sin humo para reducir la contaminación del aire en interiores. Para evitar un destino similar, los programas basados en la IA deben incorporar los conocimientos adquiridos a lo largo de años de rigurosas evaluaciones de impacto y ampliarse de manera informada mediante evaluaciones simultáneas.
En concreto, los responsables de implementar estos programas deben prestar atención a tres elementos. En primer lugar, deben utilizar los conocimientos obtenidos de la investigación sobre dónde es probable que la IA tenga un mayor impacto social. Décadas de investigación mediante ensayos controlados aleatorios y otros trabajos empíricos rigurosos nos han proporcionado conocimientos sobre dónde y cómo la IA puede desempeñar un papel más eficaz en los programas sociales.
En segundo lugar, deben incorporar las lecciones de la investigación sobre cómo integrar eficazmente la IA en los programas sociales existentes. Contamos con décadas de investigación sobre cuándo y por qué las tecnologías tienen éxito o fracasan en el sector social que puede ayudar a orientar a los adoptantes de la IA (gobiernos, empresas sociales, ONG), a las empresas tecnológicas y a los donantes para evitar errores y diseñar programas eficaces que funcionen en la práctica.
En tercer lugar, debemos promover la evaluación rigurosa de la IA en el sector social para difundir información fiable sobre lo que funciona y lo que no. Debemos motivar a los usuarios, las empresas tecnológicas y los donantes a realizar evaluaciones independientes, rigurosas y simultáneas de aplicaciones prometedoras de IA en todos los sectores sociales (incluido el impacto en los propios trabajadores); extraer conclusiones de múltiples estudios; y difundir esas conclusiones para que se puedan maximizar los beneficios de la IA, así como comprender y minimizar sus perjuicios. Tomar estas medidas también puede ayudar a generar confianza en la IA entre los actores del sector social y, de manera más general, entre los participantes de los programas.
Cinco vías
La buena noticia es que los investigadores, incluidos los de nuestra red del Abdul Latif Jameel Poverty Action Lab (J-PAL) del MIT (Instituto Tecnológico de Massachusetts, Massachusetts Institute of Technology, por sus siglas en inglés), ya han estado evaluando programas sociales en todo el mundo que utilizan el machine learning y herramientas de IA para aumentar su impacto. A partir de este creciente conjunto de pruebas, creemos que la IA tiene un enorme potencial para luchar contra la pobreza y el cambio climático. Concretamente, creemos que la IA puede impulsar en gran medida nuestros esfuerzos al menos de las siguientes cinco maneras.
Necesitamos saber qué funciona y qué no cuando intentamos infundir en nuestros programas sociales existentes una nueva tecnología de uso general como la IA o diseñar nuevos programas basados en ella.
Mejor segmentación y predicción de necesidades | Los programas sociales utilizan diversas herramientas para identificar quiénes deben ser los participantes, ya sean destinatarios de recursos específicos o potenciales estudiantes de un curso de emprendimiento. El problema es que estas herramientas, incluidas las encuestas y los umbrales de pobreza, pueden ser inexactas, costosas e ineficaces. Sin embargo, la IA puede ayudar a mitigar estos problemas al permitirnos aprovechar enormes cantidades de datos para identificar quiénes son los que más necesitan apoyo o los que tienen más probabilidades de tener éxito al participar en ese programa.
Por ejemplo, en la India, los hogares de bajos ingresos de las zonas remotas son especialmente vulnerables a las inundaciones, que pueden alterar o destruir vidas y causar daños costosos. En el Bajo Ganges, más de nueve millones de personas se ven afectadas por cada inundación. Pero puede que no esté claro qué comunidades necesitan más ayuda, y los recursos y la capacidad para proporcionar ayuda suelen ser escasos. En colaboración con Google, los investigadores afiliados a J-PAL están evaluando un modelo de IA en Bihar que pronostica las inundaciones. El modelo predice las ubicaciones de las inundaciones y los niveles de agua, y envía alertas a los smartphones de las zonas afectadas. Estas advertencias ayudan a los hogares en riesgo a prepararse y evacuar, y podrían permitir al gobierno dirigir de forma preventiva los recursos para mejorar la resiliencia en las zonas rurales. Por supuesto, estos programas deben tener cuidado de no utilizar datos de entrenamiento erróneos o modelos programados incorrectamente que podrían dar lugar a que quienes más necesitan o son más propensos a utilizar el servicio no tengan acceso a él.
Aumentar el acceso a los servicios | La mayoría de los programas y organizaciones sociales no tienen capacidad suficiente para llegar a todas las personas que los necesitan. Las herramientas basadas en la inteligencia artificial pueden acortar la brecha entre la oferta actual de proveedores de servicios y las poblaciones desatendidas, garantizando que los servicios esenciales estén disponibles para más personas, especialmente en zonas remotas o con recursos limitados.
Por ejemplo, no hay suficientes asesores agrícolas disponibles para visitar a todos los pequeños agricultores y ofrecerles recomendaciones. Pero J-PAL está financiando una investigación que actualmente evalúa los avances en el machine learning que permiten a cualquier agricultor con acceso a un smartphone tomar una foto de un cultivo y recibir asesoramiento instantáneo sobre cómo diagnosticar y tratar plagas y enfermedades para mejorar la cosecha. La IA podría eliminar significativamente las brechas de conocimiento de aquellos que más se beneficiarían de este tipo de servicios. Pero también debemos asegurarnos de que la gente confíe en esta nueva tecnología y en sus recomendaciones.
Maximizar la eficacia de los proveedores de servicios de primera línea | Los trabajadores de primera línea suelen tener las habilidades necesarias para llevar a cabo tareas básicas, pero pueden carecer de los conocimientos avanzados o la formación necesaria para afrontar retos más complejos. La IA puede mejorar la capacidad de toma de decisiones de los trabajadores de primera línea y permitirles realizar más trabajos de alto impacto.
Por ejemplo, los trabajadores comunitarios de la salud son una fuente crucial de atención básica en el Sur Global, que sufre una escasez de médicos. Pero es posible que un trabajador comunitario de la salud no tenga un título oficial en medicina ni un grupo de colegas experimentados con quienes consultar sobre un caso médico. Un modelo debidamente entrenado podría proporcionar asistencia en el diagnóstico, protocolos de tratamiento basados en la evidencia y una clasificación inteligente de los pacientes, lo que daría lugar a mejores resultados de salud. Los investigadores afiliados a J-PAL proponen el desarrollo de una herramienta de detección automatizada que utilice el machine learning para predecir los resultados de pruebas diagnósticas costosas y consideradas “el estándar de referencia” (por ejemplo, un ecocardiograma o un electrocardiograma) a partir de datos proporcionados por pruebas móviles menos costosas (por ejemplo, una herramienta móvil de electrocardiograma o un control de la presión arterial y la frecuencia cardíaca) que pueden realizarse en el domicilio del paciente.
Reducir los sesgos y garantizar la equidad | Es cierto que los algoritmos pueden tener sesgos, pero no son inherentemente sesgados, y podemos eliminar estos problemas mediante una buena ingeniería. Cuando se programa correctamente, la IA puede incluso ayudar a identificar y mitigar los sesgos existentes en los programas gubernamentales y sociales, garantizando una distribución más equitativa de los servicios.
Por ejemplo, las pruebas aportadas por investigadores afiliados a J-PAL han demostrado que los sistemas creados por el ser humano, como los procesos de contratación, pueden estar plagados de sesgos. Por otra parte, los algoritmos diseñados para seleccionar a los candidatos en función de su potencial, en lugar de favorecer simplemente a aquellos con currículos convencionales, pueden utilizarse para abordar estos sesgos y obtener resultados más equitativos. Pero para garantizar buenos resultados, es necesario realizar evaluaciones rigurosas que aseguren que los algoritmos no están, en realidad, magnificando los sesgos existentes.
Aumentar los recursos y la eficiencia para abordar los retos más grandes | La lucha contra el cambio climático y la pobreza requiere un enorme aumento de los recursos, pero los gobiernos de todo el mundo se enfrentan a déficits fiscales insostenibles, debido en parte a los impactos económicos de la pandemia y al alto gasto en programas de apoyo. Este problema fiscal exige que los países mejoren la recaudación mediante un mayor cumplimiento de los impuestos. En este sentido, la IA puede ayudar con las auditorías de los registros fiscales (algo que antes era tedioso, laborioso y costoso) y convertirlas en procesos rápidos y asequibles. Esto libera a los recaudadores de impuestos para que realicen tareas para las que los seres humanos son más adecuados y reduce la necesidad de contratar más personal.
Por ejemplo, investigadores afiliados a J-PAL que trabajan en la India descubrieron que las técnicas de machine learning pueden identificar a los posibles evasores fiscales, lo que podría ampliar enormemente la base de contribuyentes. Después, los trabajadores humanos pueden verificar estos casos con seguimientos presenciales. Sin embargo, es fundamental evaluar estas técnicas para evitar consecuencias no deseadas, como la dependencia excesiva de la IA a expensas de los auditores humanos.
IA basada en la evidencia
Aunque todos estamos justificadamente entusiasmados con el impacto potencial que la IA puede tener en estas áreas, aún está por verse su impacto real en la lucha contra la pobreza y el cambio climático. Además, siguen existiendo dudas sobre los efectos de la IA en el mercado laboral y el bienestar. ¿Desplazará puestos de trabajo o ayudará a las personas menos cualificadas a ascender en la cadena de productividad e ingresos? ¿Trasladará empleos desde los países de altos ingresos hacia los de ingresos bajos y medios, o devolverá los empleos trasladados al extranjero a los países más prósperos? ¿Las estructuras fiscales actuales, que favorecen la inversión de capital y penalizan el empleo, harán que la IA pase de ser un potenciador de las habilidades a un desplazador de puestos de trabajo?
Para fundamentar nuestras decisiones futuras, necesitamos saber qué funciona y qué no cuando intentamos infundir en nuestros programas sociales existentes una nueva tecnología de uso general como la IA o diseñar nuevos programas basados en ella. Gracias a más de dos décadas construyendo el campo de evaluaciones de impacto rigurosas en colaboración con implementadores, donantes y comunidades locales, podemos orientar el rumbo de la IA aprendiendo de evaluaciones pasadas y diseñando desde el principio programas de IA respaldados por evidencia.
|
Autores originales:
- Iqbal Dhaliwal es director ejecutivo global del Abdul Latif Jameel Poverty Action Lab (J-PAL) del MIT.
- Michael Hou es asociado sénior de políticas en J-PAL Global.
|
Este artículo es contenido original de la revista de Stanford Social Innovation Review, publicado en la edición invierno 2025.
Traducción del artículo AI for Social Good por Victoria Vidal, con apoyo de DeepL.
|
Recomendado para ti
|
Tecnologías digitales para proteger el planeta
|
Cuando se utilizan de manera adecuada, las tecnologías digitales pueden beneficiar a las organizaciones, mejorar la vida de las personas y proteger el planeta. |
|
Mujeres pilotos de drones
|
Un programa gubernamental en India está capacitando a mujeres para que se conviertan en pilotos de drones con el fin de aumentar su seguridad financiera y modernizar la agricultura. |