Cet article est le fruit d’une réflexion conjointe des Bureaux d’évaluation du Fonds international de développement agricole (FIDA), du Programme alimentaire mondial (PAM) et du Fonds pour l’environnement mondial (FEM).
Au début de cette année, les Bureaux d’évaluation du FIDA, du PAM et du FEM se sont réunis lors de l’Échange sur les pratiques d’évaluation du Groupe des Nations Unies pour l'évaluation (GNUE) afin de partager leurs expériences concernant l’utilisation de l’intelligence artificielle (IA) dans les pratiques d’évaluation. Les participants issus de l’ensemble du système des Nations Unies ont pris part à des discussions tournantes, suivant la méthode du World Café, afin d’identifier les opportunités de gains d’efficacité apportés par l’IA et les stratégies concrètes pour une intégration responsable, en se concentrant sur trois questions: 1) à quel stade du cycle d’évaluation l’IA peut-elle apporter une valeur ajoutée dans des contextes à faibles ressources; 2) les compétences et les outils nécessaires pour une IA responsable; 3) les risques, l’éthique et les mesures de protection.
Voici les six messages clés qui se sont dégagés de cette discussion:
- L'IA peut aider les évaluateurs à faire plus avec moins en déplaçant les efforts des activités de type mécanique vers celles plus chargées de sens. Elle devrait libérer les capacités humaines pour le travail qu'elle ne peut pas remplacer, donnant ainsi plus de place à l'interprétation contextuelle, au jugement éthique, à l'établissement de relations et à la réflexion critique.
- Les cas d’utilisation les plus prometteurs sont ceux qui élargissent le champ d’action des évaluateurs, et non ceux qui remplacent ces derniers. Les expériences les plus enthousiasmantes sont celles qui utilisent l’IA pour élargir ce que les évaluateurs peuvent faire, et non pour remplacer les aspects humains, éthiques ou relationnels fondamentaux de l’évaluation. Les participants ont mis en avant des cas d’utilisation concrets pour les revues documentaires, la synthèse des données probantes, l’identification des lacunes dans les données probantes, l’analyse de vastes portefeuilles d’évaluations, l’analyse géospatiale, la rédaction de rapports, la traduction, les supports de communication et le soutien aux évaluations à distance ou géographiquement dispersées.
- La perspicacité humaine devient une caractéristique déterminante de la qualité, et non un simple complément facultatif: dans un environnement basé sur l’IA, une «bonne évaluation» est opportune, fondée sur des données probantes, stratégiquement ciblée, influente et profondément humaine — l’IA servant à affiner le jugement et la pertinence plutôt qu’à automatiser les conclusions. Cela implique également de valider les résultats générés par l’IA à l’aune du jugement humain au moyen de méthodes transparentes et reproductibles, afin que la confiance dans les conclusions soit méritée et non présumée. L'IA peut également aider les Bureaux d'évaluation à améliorer leur commande en cartographiant les données existantes, en identifiant les véritables lacunes en matière de données et en évitant les évaluations qui font double emploi avec ce qui est déjà connu.
- L'IA peut aggraver les inégalités et affaiblir la qualité de l'évaluation en cas de gouvernance et de contexte insuffisants: les principaux risques comprennent la reproduction de biais structurels, l'exclusion des voix et des langues locales ainsi que des nuances culturelles, la compromission de la vie privée et de la souveraineté des données, la production de données faibles ou invérifiables et l'aggravation des écarts de capacités et d'accès au sein de l'écosystème de l'évaluation.
- Une IA équitable repose sur la pertinence locale, une conception inclusive et des capacités durables. Pour refléter les perspectives locales, les agences des Nations Unies devraient co-concevoir des approches soutenues par l’IA avec les communautés, utiliser des données pertinentes au niveau local et des instructions (invite) adaptées au contexte, et investir dans des capacités locales et partagées afin que l’IA renforce, plutôt qu’elle ne supplante, les connaissances et la participation locales.
- Une IA responsable en matière d’évaluation nécessite une gouvernance fondée sur les droits, la transparence et des garanties à long terme. Les agences des Nations Unies peuvent soutenir une utilisation responsable de l’IA en intégrant des principes éthiques, une gouvernance solide, des pratiques inclusives et un renforcement durable des capacités tout au long du cycle de vie de l’IA — de la conception et de l’approvisionnement à l’utilisation et à la supervision. À mesure que les technologies évoluent, les systèmes de gouvernance et d’apprentissage doivent évoluer avec elles. Cela suppose des attentes claires pour les consultants et les prestataires de services en matière de divulgation, de vérification et d’utilisation responsable de l’IA.
Ces messages reflètent les exemples concrets, les préoccupations et les priorités soulevés par les participants lors de ces discussions.
Pour des ressources supplémentaires:
Les Principes éthiques du GNUE pour l'utilisation de l'IA dans les évaluations des Nations Unies énoncent cinq principes éthiques clés qui soulignent l'intégration responsable de l'IA dans les processus d'évaluation des Nations Unies.