Qui va nous protéger de l'intelligence artificielle?
Partout dans le monde, des systèmes de prise de décisions automatisées ont été mis en place, tant dans le privé que dans le public. Or, ces systèmes ne sont pas sans failles. Avec l'attrait qu'exercent auprès des autorités les technologies basées sur l’intelligence artificielle, la question de la protection contre ces erreurs administratives se pose plus que jamais.
#AdministrationPublique #Droit #Gouvernement #IntelligenceArtificielle
C'est en lisant ce matin l'article The algorithmic administration: automated decision-making in the public sector sur le site Algorithm Watch que j'ai eu envie de revenir sur l’intelligence artificielle que j'avais abordée le 6 février dernier, lors de la sortie du rapport Prêt pour l’IA commandé par le gouvernement du Québec.
L'article fait part de plusieurs exemples démontrant que les plus vulnérables de la société sont victimes des systèmes de prise de décisions automatisées alors même que l'Allemagne se prépare à déployer de tels systèmes basés sur l'intelligence artificielle, c'est-à-dire en gros sur des algorithmes censés simuler le fonctionnement du raisonnement humain.
Déjà, que savons-nous à propos des algorithmes? Marta Samokishyn qui est chargée de recherche pour le BCcampus, a justement conçu un guide destiné à l’enseignement de la littératie des algorithmes dans les bibliothèques universitaires dont le premier chapitre (en anglais) vise à faire prendre conscience de la connaissance que les futures étudiant·e·s des collèges et universités ont sur les algorithmes.
Je me demande quel pointage auraient nos élu·e·s, voire le personnel de nos administrations prenant des décisions sur l'utilisation d'algorithmes. J'avoue que pour ma part, j'aurais besoin d'approfondir plus d'un aspect de l'usage des algorithmes.
Dans un article publié en mai 2003 sur le site de la firme DLA PIPER, l'avocat canadien Shea Coulson mettait en garde les gouvernement à propos des risques que pose l'utilisation de l'intelligence artificielle dans la prise de décision.
These systems are helping governments improve efficiency, reduce costs, and improve performance metrics. While certain automated systems have been in place for years, the changing landscape in AI, including the explosion of generative AI systems, is creating new risk for governments.. How artificial intelligence will change administrative law: The Government of Canada’s Directive on automated decision-making
Un peu plus loin dans le texte, il ajoutait qu'aucune loi n'encadre présentement l'usage de l'intelligence artificielle et des systèmes algorithmiques par les gouvernements.
Au Québec, lors de la sortie du rapport Prêt pour l’IA en février dernier, la Confédération des syndicats nationaux (CSN) réclama que la société civile soit au cœur de la démarche menant à l'adoption dans les meilleurs délais d'une loi-cadre en matière d'IA.
J'avais pour ma part écrit, dans mon billet du 6 février, qu'une loi pour encadrer l’IA, ça ne garantirait pas que nous serions pour autant prêts à faire face aux nombreux enjeux de société posés par l’intelligence artificielle.
Les avocates Danielle Ferron et Alexandra Provost ont rédigé en novembre dernier un texte fort intéressant sur l'encadrement légal de l'intelligence artificielle. On y apprend que s'il n'y a pas de loi portant spécifiquement sur l'intelligence artificielle, tant à Ottawa qu'à Québec, il y a tout de même un cadre légal applicable, dont le droit substantif déjà en place, les règles d’éthique, nos Chartes des droits et libertés tant canadienne que québécoise.
Sans entrer dans les détails de leur article, il y a plusieurs initiatives concernant les risques potentiels de l'intelligence artificielle, ainsi qu'un projet de loi déposé au parlement fédéral en juin 2022 et qui vise «à réglementer la conception, le développement et l’utilisation des systèmes d’IA dans le cadre des échanges et du commerce internationaux et interprovinciaux par l’établissement d’exigences communes à l’échelle du Canada.»
Les avocates concluent leur article par un appel à la prudence en matière de législation sur l'intelligence artificielle.
Bien que l’encadrement législatif de l’IA fasse couler beaucoup d’encre, et que tous semblent en accord que cet encadrement soit nécessaire, il reste du chemin à faire pour arriver à du concret.
Au-delà de l'aspect législatif, nos administrations publiques doivent faire preuve de la plus grande prudence dans leur utilisation de systèmes de prise de décisions automatisées, peu importe qu'ils soient ou non basés sur intelligence artificielle. Elles ont l'obligation de s'assurer que personne n'est pénalisé par ces systèmes.
Tout comme elles doivent le faire dans le cas de prises de décision entièrement basées sur le seul jugement humain.
Si vous êtes membre de Remarks.as, vous pouvez commenter ce billet sur Discuss....