Comme dans tous les autres aspects de la vie, l’intelligence artificielle (IA) se taille une place sur les campus des universités et des collèges de l’Ontario. Compte tenu de son évolution rapide, cela ne devrait pas nous surprendre, et pourtant si, encore et encore. C’est un triste reflet de l’opacité qui entoure souvent ces nouvelles technologies, que l’on ne voit pas venir avant qu’elles ne soient à l’œuvre.
La semaine dernière, la découverte par un étudiant de l’Université de Waterloo de distributeurs automatiques dotés d’un système de reconnaissance faciale a suscité un vaste débat et soulevé des inquiétudes quant à l’utilisation de technologies susceptibles de porter atteinte à la vie privée dans les établissements postsecondaires de l’Ontario. Je ne peux pas me prononcer sur cet incident, car mon bureau est en train d’examiner des plaintes à son sujet. Notre enquête rigoureuse révélera les faits et nous permettra de déterminer si l’utilisation de ces distributeurs automatiques est conforme à la loi ontarienne sur la protection de la vie privée dans le secteur public, sous sa forme actuelle.
L’une des affaires dont je peux parler en toute liberté est l’enquête que j’ai menée récemment sur l’utilisation d’un logiciel de surveillance d’examens utilisant l’IA à l’Université McMaster. À la suite d’une plainte déposée par un étudiant qui a souhaité garder l’anonymat, mon bureau a entamé une enquête sur l’utilisation par l’Université McMaster du logiciel de surveillance d’examens Respondus, qui a débuté pendant la pandémie et se poursuit depuis lors.
Ce logiciel comprend deux volets. Le navigateur Respondus LockDown bloque certaines fonctions de l’ordinateur pendant les examens en ligne afin que l’étudiant ne puisse pas effectuer de recherche sur Internet, consulter d’autres fichiers sur son ordinateur, utiliser la fonction copier-coller, échanger des messages ou partager son écran avec d’autres personnes. Respondus Monitor recueille des données biométriques sensibles et surveille les mouvements et le comportement des étudiants par des enregistrements audio-vidéo, en utilisant l’IA pour détecter les cas éventuels de tricherie.
Notre enquête a porté sur l’utilisation de ce logiciel par l’université dans le contexte de la Loi sur l’accès à l’information et la protection de la vie privée (LAIPVP). Nous avons conclu que la loi autorise l’université à tenir et à surveiller des examens afin de garantir l’intégrité universitaire. Rien n’empêche légalement l’université de le faire en ligne, pendant et après la pandémie. Il s’agit d’un objectif légitime, car on se tourne de plus en plus vers l’apprentissage à distance, et les risques de tricherie associés aux outils numériques modernes sont plus élevés. Cependant, notre analyse ne s’est pas arrêtée là.
Bien que le navigateur Respondus LockDown ne recueille qu’un minimum de renseignements personnels, le Respondus Monitor recueille des données plus délicates, dont des données biométriques, et utilise la technologie de l’IA pour tirer des conclusions en se fondant sur les mouvements et le comportement des étudiants, ce qui soulève d’importantes préoccupations en matière de protection de la vie privée.
Notre enquête a révélé que la collecte par l’université de renseignements personnels concernant les étudiants était techniquement nécessaire au bon fonctionnement de ce logiciel de surveillance d’examens et, à ce titre, qu’elle était conforme à la LAIPVP. Toutefois, l’utilisation des renseignements personnels des étudiants par Respondus Monitor, l’avis inadéquat donné par l’université aux étudiants quant aux fins de cette collecte de données et les mesures de protection insuffisantes prises par l’université pour protéger les renseignements personnels des étudiants dans le cadre de ses ententes contractuelles avec l’entreprise, ont été jugés contraires à la loi. L’utilisation non consensuelle par l’entreprise d’enregistrements audio et vidéo des étudiants, y compris par l’intermédiaire de chercheurs tiers, afin d’améliorer le rendement du système et ses services, est particulièrement préoccupante.
Dans le rapport d’enquête, je recommande à l’Université McMaster de prendre des mesures plus strictes pour protéger les renseignements personnels des étudiants dans le cadre de la surveillance des examens en ligne et d’adopter une approche qui concilie l’intégrité universitaire avec le droit à la vie privée des étudiants. Je formule aussi d’autres recommandations sur les risques plus généraux pour la vie privée et l’éthique associés à l’utilisation de l’IA. J’ai demandé à l’université de rendre compte à mon bureau de la mise en œuvre de ces recommandations dans un délai de six mois.
Compte tenu de mon mandat et en l’absence d’outils plus complets pour assurer le respect de la loi actuelle, j’ai dû me contenter de formuler des recommandations. Je tiens à préciser que l’Université McMaster s’est montrée coopérative au cours de l’enquête. Je n’ai aucune raison de croire qu’elle ne prendra pas mes recommandations au sérieux. Cependant, je ne peux pas garantir à la population ontarienne que mes recommandations seront appliquées et je dois compter sur la bonne volonté des institutions publiques, ce qui n’est tout simplement pas suffisant. Dans le contexte actuel, où la technologie présente des risques considérablement accrus, notamment des menaces croissantes pour la cybersécurité et des utilisations éventuellement envahissantes de l’IA, les étudiants de l’Ontario, et tous les Ontariens et Ontariennes, méritent de meilleures garanties.
C’est pourquoi j’exhorte une fois de plus le gouvernement de l’Ontario à moderniser la LAIPVP et son équivalent municipal, la LAIMPVP. Notre province a besoin d’un régime de protection de la vie privée plus solide, assorti de mesures plus strictes pour faire face aux risques accrus d’un monde numérique en évolution rapide. Je demande également au gouvernement de finaliser son Cadre pour la fiabilité de l’intelligence artificielle et de le rendre obligatoire dans l’ensemble du secteur public ontarien, y compris le secteur public élargi, afin que les innovations technologiques soient implantées dans le respect de l’éthique, pour le bien de toute la population ontarienne.
Les pédagogues et les décideurs peuvent créer un environnement où la technologie rehausse la qualité et l’intégrité de l’expérience éducative sans remettre en cause les principes fondamentaux auxquels les Ontariennes et les Ontariens sont attachés. Nous devons veiller à ce que l’héritage du système d’éducation de l’Ontario continue d’être caractérisé par l’innovation, l’intégrité et l’inclusion.
L’Ontario a fondé sa première université il y a près de deux siècles. Beaucoup de choses ont changé depuis, et elles doivent continuer de changer si nous voulons préparer les futurs dirigeants à appréhender et à améliorer le monde qui les attend. Nous devons à tous les étudiants, en particulier ceux qui osent poser des questions et demander des comptes à leur établissement, de veiller à ce que leur éducation ne se fasse pas au détriment de leur vie privée ou d’autres droits de la personne.
Comme l’a dit Martin Luther King Jr. : « La fonction de l’éducation est d’apprendre à penser intensément et à penser de manière critique. L’intelligence plus le caractère – c’est le but de la véritable éducation. »
This post is also available in: Anglais
