Vers un algorithme bienveillant

Projet IA et découvrabilité

Mandaté par le ministère de la Culture et des Communications du Québec, le CEIMIA mène un projet de recherche ambitieux qui vise à tirer profit des plus récents développements en IA afin de réduire les barrières qui nuisent à la découvrabilité des contenus culturels francophones dans les environnements numériques. C’est dans ce contexte que le CEIMIA déploie une stratégie de valorisation de l’écosystème de recherche québécois centrée autour du développement de deux solutions concrètes d’IA responsable : un outil de bonification automatique de métadonnées musicales et un système de recommandation bienveillant permettant la mesure de la découvrabilité des contenus en ligne. Cette veille technologique mensuelle est le fruit d’une collaboration entre le CEIMIA et le LATICCE UQAM, laboratoire de recherche sur la découvrabilité des œuvres culturelles. Elle fait état des développements rapides de l’IA et de leurs impacts sur la découvrabilité des oeuvres culturelles pour aider à mieux comprendre les enjeux qui s’inscrivent à la croisée des deux disciplines.

Résumé

Ce mois-ci, nous portons un regard sur le concept de la bienveillance des algorithmes, concept au cœur de notre projet de recherche. Nous faisons également état de deux projets visant l’encadrement législatif de l’environnement numérique, le premier à la suite d’un rapport commandé par le gouvernement du Québec et déposé il y a quelques jours et le second présentant une résolution adoptée par l’Union européenne en janvier 2024. Finalement, nous avons sélectionné deux articles qui peuvent être utiles dans la réflexion entourant notre projet de recherche.

PARTIE 1 : QU’EST-CE QU’UN ALGORITHME BIENVEILLANT ? p2
1. La conception originale p2
2. Les interrelations entre les algorithmes et les utilisateurs p4
3. Des principes pour l’IA p9
4. Vers un algorithme bienveillant p11
PARTIE 2 : ACTUALITÉ p12
PARTIE 3 : RÉSUMÉS D’ARTICLES SCIENTIFIQUES p15