De plus en plus sollicitées dans divers secteurs économiques, les technologies basées sur l’IA ont dans leur développement alimenté des maux sociétaux tels que la discrimination ou encore le racisme.

Timnit Gebru (photo), ancienne experte en éthique de l’Intelligence artificielle (IA) chez Google, a annoncé la semaine dernière, le lancement d’un institut de recherche en IA. L’initiative baptisée DAIR (Distributed Artificial Intelligence Research) a pour objectif de documenter les dommages et de développer une vision pour les applications basées sur l’IA qui peuvent avoir un impact positif sur les groupes de personnes marginalisées.

Selon le communiqué de presse qui annonce son lancement, DAIR est « un institut indépendant destiné à contrer l’influence omniprésente des grandes entreprises sur la recherche, le développement et le déploiement de l’intelligence artificielle ».

Mme Gebru se lance dans cette aventure, car selon elle, il faudrait remettre en question les processus utilisés par des entreprises comme Google, Amazon ou encore Meta. Pour avoir une meilleure IA, les chercheurs du secteur doivent être libres de publier les résultats de leurs travaux sans être sous le joug d’une multinationale.

« L’IA doit être ramenée sur terre. Elle a été élevée à un niveau surhumain qui nous pousse à croire qu’elle est à la fois inévitable et hors de notre contrôle. Lorsque la recherche, le développement et le déploiement de l’IA sont ancrés dans les personnes et les communautés dès le départ, nous pouvons aller au-devant de ces préjudices et créer un avenir qui valorise l’équité et l’humanité », a-t-elle indiqué.

Pour rappel, en décembre 2020, Timnit Gebru a été licenciée par Google pour avoir ouvertement critiqué l’IA qui, selon elle, est contraire à l’éthique. Plusieurs exemples semblent corroborer les propos de l’experte. Chez Amazon par exemple, la flotte de livreurs du service Amazon Flex serait gérée par un programme informatique qui licencierait sans « véritable raison » ou à cause de « problèmes techniques ». De plus, des « suspects » auraient été interpellés aux Etats-Unis à cause des systèmes de reconnaissance faciale mal entraînés.

"The #1 thing that would safeguard us from unsafe uses of AI is curbing the power of the companies who develop it and increasing the power of those who speak up against the harms of AI and these companies’ practices." @timnitGebru on how to rein in the harms from AI https://t.co/77T3EbdMyZ pic.twitter.com/cjsdR0tOws

— Ellen K. Pao (@ekp) December 6, 2021

En septembre, Michelle Bachelet, haut-commissaire des Nations unies pour les droits de l’Homme, a lancé un appel pour l’instauration d’un moratoire sur certaines applications de l’IA. Quoi qu’il en soit, une coexistence entre l’humain et l’IA est inévitable de nos jours, mais il est important de reprendre le contrôle sur cette technologie qui contribue de plus en plus aux bons résultats de nombreux secteurs d’activité.

Adoni Conrad Quenum