En matière d’inclusion, l’intelligence artificielle (IA) suscite autant d’espoirs que d’inquiétudes. Sur le papier, elle peut grandement faciliter l’accès à l’éducation, à la santé ou à l’emploi, par exemple. Mais si elle est mal encadrée, elle risque aussi de reproduire ou d’accentuer les discriminations existantes. Décryptage.
En quoi l’IA est un outil d’inclusion ?
Plus qu’un levier d’innovation, l’IA s’impose comme un formidable outil d’inclusion. Elle ouvre de nouvelles perspectives en matière d’accès à l’éducation, à l’emploi et aux services.
Dans le domaine de l’éducation, l’IA permet par exemple d’adapter les apprentissages aux besoins spécifiques des personnes en situation de handicap. Les assistants vocaux ou la reconnaissance d’images facilitent le quotidien des personnes aveugles ou malvoyantes. Pour les malentendants, l’IA offre des transcriptions automatiques, des sous-titres ou encore de la lecture labiale. Les personnes à mobilité réduite, également, peuvent utiliser des assistants virtuels et des commandes vocales pour naviguer sur un ordinateur, rédiger des devoirs ou encore participer à des cours à distance.
L’IA contribue également à un recrutement plus inclusif. Les candidatures sont analysées par des algorithmes qui se basent sur les compétences et les expériences. Cela permet de limiter les biais liés à l’apparence, au genre ou encore au parcours académique, et ouvre les opportunités à des profils plus diversifiés.
L’accès aux services, que ce soit en termes de santé, d’éducation, de formation ou encore d’information, est facilité. Les plateformes de formation en ligne adaptent automatiquement les contenus selon le niveau et les besoins de chaque apprenant. De même, les systèmes de santé intelligents permettent un suivi personnalisé et un accès à distance pour les personnes vivant loin des structures médicales.
De manière générale, l’IA permet de vivre de manière plus autonome. C’est un facteur d’inclusion important, notamment pour les personnes en situation de handicap, qui peuvent planifier des trajets, recevoir des informations de trafic en temps réel, contrôler des appareils connectés à la voix ou encore alerter automatiquement les secours en cas d’urgence.
Quels sont les risques de discrimination liés à l’IA ?
Si elle ouvre de nouvelles opportunités, l’intelligence artificielle comporte aussi des risques importants en matière d’équité et d’inclusion. Sans vigilance, elle peut reproduire ou amplifier des discriminations déjà présentes dans la société.
Tout d’abord, les algorithmes apprennent à partir de données existantes. Si celles-ci reflètent des inégalités ou des stéréotypes, l’IA peut les reproduire, voire les renforcer. Par exemple, les accents, tonalités ou troubles de la parole sont parfois mal compris par les modèles de reconnaissance vocale, limitant l’accessibilité pour certains utilisateurs. De même, certains outils de recrutement peuvent favoriser involontairement certains profils au détriment d’autres.
L’opacité du fonctionnement des systèmes d’IA, parfois qualifiés de « boîtes noires » par certains chercheurs, est également pointée du doigt. Leurs mécanismes de décision sont difficiles à expliquer et/ou à interpréter : cela peut soulever des enjeux d’équité et de responsabilité, notamment si certains groupes sociaux se retrouvent désavantagés par les algorithmes.
L’IA peut également creuser la fracture numérique. C’est une technologie qui reste coûteuse, ce qui limite l’accès aux outils pour certains publics. De plus, les populations moins équipées ou moins formées au numérique risquent d’être exclues des bénéfices de ces systèmes, accentuant les inégalités sociales et économiques. Une dépendance trop forte à ces systèmes peut par ailleurs devenir problématique en cas de panne ou de dysfonctionnement.
Vers une utilisation de l’IA éthique et inclusive
Pour limiter les risques de discrimination et garantir que l’intelligence artificielle profite à tous, la question de l’éthique est centrale. Plusieurs leviers peuvent être mobilisés.
D’abord, un cadre juridique clair se met progressivement en place. En Europe, le règlement européen sur l’intelligence artificielle (AI Act) du 13 juin 2024 vise à réguler les usages de l’IA selon leur niveau de risque, en interdisant certaines pratiques jugées dangereuses.
Ensuite, la transparence et la gouvernance des algorithmes deviennent essentielles. Cela passe par des audits réguliers, l’obligation de rendre les critères de décision explicites et la participation des personnes concernées au développement de ces outils afin de garantir que leurs besoins soient réellement pris en compte. Ce dernier point revêt une importance particulière : le regard humain est indispensable pour garantir une accessibilité véritablement inclusive des outils d’IA.
Enfin, les entreprises et les institutions ont un rôle majeur à jouer. L’intégration de chartes éthiques, la mise en place d’outils de contrôle et la formation des équipes à un usage responsable de l’IA sont autant de mesures qui contribuent à bâtir une technologie plus juste, respectueuse et inclusive.
A lire également