Este blog es una reflexión conjunta de las Oficinas de Evaluación del FIDA, el PMA y el FMAM.
A principios de este año, las Oficinas de Evaluación del Fondo Internacional de Desarrollo Agrícola (FIDA), el Programa Mundial de Alimentos (PMA) y el Fondo para el Medio Ambiente Mundial (FMAM) se reunieron durante el Intercambio de Prácticas de Evaluación del Grupo de Evaluación de las Naciones Unidas (UNEG) para compartir experiencias sobre el uso de la IA en la práctica de la evaluación. Mediante la metodología World Café, participantes de todo el sistema de las Naciones Unidas participaron en debates rotativos para identificar oportunidades de mejora de la eficiencia impulsadas por la IA y estrategias prácticas para una integración responsable, centradas en tres áreas: 1) en qué momento del ciclo de evaluación la IA puede aportar mayor valor en contextos de bajos recursos; 2) habilidades y herramientas necesarias para una IA responsable; y 3) riesgos, ética y salvaguardias.
A continuación, se presentan seis conclusiones clave de esa discusión:
1. La IA puede ayudar a los evaluadores a lograr más con menos recursos, al centrar el esfuerzo en el significado en lugar de en la mecánica. La IA debería liberar capacidad humana para las tareas que no puede reemplazar, creando más espacio para la interpretación contextual, el juicio ético, la construcción de relaciones y el pensamiento crítico.
2. Los casos de uso más prometedores son aquellos que amplían el alcance de los evaluadores, no aquellos que los reemplazan. El entusiasmo es mayor cuando la IA amplía las capacidades de los evaluadores, no cuando reemplaza aspectos humanos, éticos o relacionales fundamentales de la evaluación. Los participantes señalaron casos de uso prácticos como revisiones documentales, síntesis de evidencia, identificación de vacíos de evidencia, análisis de grandes portafolios de evaluación, análisis geoespacial, redacción de informes, traducción, productos de comunicación y apoyo a evaluaciones remotas o geográficamente dispersas.
3. La perspectiva humana se convierte en un rasgo distintivo de la calidad, no en un añadido opcional: En un entorno habilitado por la IA, una «buena evaluación» es oportuna, se basa en evidencia, tiene un enfoque estratégico, es influyente y profundamente humana, y utilizan la IA para afinar el juicio y la relevancia mas no para automatizar las conclusiones. Esto también implica validar los resultados generados por la IA con el juicio humano mediante métodos transparentes y replicables, de modo que la confianza en los hallazgos se gane, no se de por sentada. La IA también puede ayudar a las oficinas de evaluación a tomar mejores decisiones en la contratación de servicios, al mapear la evidencia existente, identificar vacíos reales en la evidencia y evitar evaluaciones que dupliquen lo que ya se sabe.
4. La IA puede profundizar las desigualdades y debilitar la calidad de la evaluación en ausencia de gobernanza y consideraciones sobre el contexto: Entre los riesgos clave se incluye la reproducción de sesgos estructurales, la exclusión de voces y lenguas locales, y los matices culturales, comprometiendo la privacidad y la soberanía de los datos, generando evidencia débil o no verificable y ampliando las brechas de capacidad y acceso en todo el ecosistema de evaluación.
5. Una IA equitativa depende de la relevancia local, el diseño inclusivo y la capacidad sostenida. Para reflejar las perspectivas locales, los organismos de la ONU deberían diseñar conjuntamente con las comunidades los enfoques basados en la IA, utilizar datos relevantes a nivel local y prompts o indicaciones a la IA adaptadas al contexto, e invertir en capacidades locales y compartidas para que la IA fortalezca, en lugar de anular, el conocimiento y la participación local.
6. El uso responsable de la IA en la evaluación requiere una gobernanza basada en los derechos, transparencia y salvaguardias a largo plazo. Los organismos de la ONU pueden apoyar el uso responsable de la IA mediante la integración de principios éticos, una gobernanza sólida, prácticas inclusivas y el desarrollo sostenido de capacidades a lo largo de todo el ciclo de vida de la IA, desde el diseño y la adquisición hasta el uso y la supervisión. A medida que las tecnologías evolucionan, los sistemas de gobernanza y aprendizaje deben evolucionar con ellas. Esto incluye expectativas claras para los consultores y proveedores de servicios en cuanto a la divulgación, la verificación y el uso responsable de la IA.
Estos mensajes reflejan los ejemplos prácticos, las preocupaciones y las prioridades planteadas por los participantes durante los debates del World Café.
Para obtener recursos adicionales:
UNEG Ethical Principles for Harnessing AI in United Nations Evaluations describen cinco principios éticos clave que subrayan la integración responsable de la IA en los procesos de evaluación de la ONU.