🚨 Utilisation d'une application mobile intégrant l'intelligence artificielle pour la surveillance de la COVID-19 au Québec

Le principal problème éthique ici c'est qu'on ouvre une porte qui risque de ne jamais se refermer.

L’actuelle pandémie de maladie à coronavirus (COVID-19) met sérieusement à l’épreuve la capacité de réponse des autorités de santé publique et des populations en temps de crise. D’un point de vue de santé, l’action des autorités mise sur l’identification des personnes infectées par le virus, la recherche de ceux et celles ayant été en contact avec ces dernières et pouvant devenir des vecteurs de transmission du virus, ainsi que la gestion des risques dans une perspective de protection des personnes en plus grande situation de vulnérabilité.

D’un point de vue pratique, les mesures préconisées au Québec pour répondre à la crise se sont traduites par la distanciation physique pour tous et l’isolement volontaire ou obligatoire pour d’autres plus à risque. Rendues acceptables par la priorité accordée à la santé et au bien-être des populations, les mesures de confinement s’accompagnent néanmoins de répercussions sociales et économiques très importantes. 👉 Dans la perspective de migrer vers un retour progressif à une vie sociale et économique plus active, des applications mobiles et des systèmes d’intelligence artificielle (SIA) sont en développement. En fait, la grande majorité des pays cherche actuellement à développer ou à soutenir le développement d'applications permettant la gestion des cas et des contacts (identifier les personnes infectées et les personnes avec qui elles ont été en contact) et la surveillance plus générale de la progression de l'infection.

C'est dans ce contexte qu'un comité de travail spécial a été mis sur pied, le 1er avril 2020, pour prévoir et analyser les enjeux éthiques soulevés par l’utilisation de technologies numériques et d’intelligence artificielle dans la lutte à la pandémie de COVID-19. Plus particulièrement, 👉 le comité se penche sur l'offre d'applications mobiles visant à détecter les contacts entre utilisateurs et à retracer les personnes ayant été en contact avec une personne infectée; 👉 à déterminer un score individuel basé sur l'estimation du risque d’infection, au moyen de données collectées et traitées par un algorithme d'intelligence artificielle (machine learning); ou à collecter et fournir des données pour alimenter les modèles épidémiologiques des autorités de santé publiques.

Démarche

La démarche du comité est itérative et évolutive, en ce qu’elle s’appuie sur des échanges constants avec les autorités publiques et les développeurs pour alimenter et orienter la réflexion éthique de manière qu’elle soit partie intégrante du processus de conception (ethics by design).

Pour ancrer sa réflexion, le comité s'est penché sur un projet d'application parmi les plus avancés et pour lequel une quantité suffisante d'information était disponible, c'est-à-dire 👉 le projet d'application mené par l'Institut québécois d'intelligence artificielle ou MILA (Université de Montréal). L'application utiliserait un système de messagerie de pair à pair (peer-to-peer) pour établir un "jeton de contact" entre deux utilisateurs, par exemple un numéro unique qui établit un lien anonyme entre les deux utilisateurs. Le contact serait détecté lorsque les téléphones se trouvent à une certaine distance l'un de l'autre, distance évaluée par la force d'émission du signal Bluetooth ou par la géolocalisation. Lorsqu'une personne est testée positive, les utilisateurs qui ont été en contact avec cette personne pourraient être joints automatiquement et dirigés vers un centre de dépistage. 👉 Le projet vise aussi à entraîner un algorithme d'intelligence artificielle pour estimer le niveau de risque d'exposition au virus et d'infection de chaque utilisateur, de manière personnalisée et en temps réel. 👉 Les données utilisées seraient, entre autres, le contact avec une personne infectée, la cote de risque des autres utilisateurs rencontrés, la géolocalisation et un questionnaire médical volontaire. 

👉 Enfin, la grande quantité de données collectées dans le cadre du projet pourraient être rendue disponible, sous une forme agrégée et anonymisée, aux autorités de santé publique pour soutenir leur prise de décision.

Le choix de ce cas de figure ne doit en aucun cas être interprété comme une prise de position en faveur ou en défaveur d’une application en particulier ou du recours à des solutions technologiques plus généralement. Les conclusions du comité visent à être applicables aux autres applications ayant des fonctionnalités similaires.

Objectifs

Déterminer rapidement les principaux enjeux éthiques soulevés par l’adoption de cet outil technologique ou d’autres outils aux finalités similaires ;

Fournir une analyse de ces enjeux aux concepteurs de l’application et aux décideurs publics pour soutenir leur processus de décision ;

Formuler des recommandations concernant les conditions sous lesquelles l’application pourrait être acceptable sur le plan de l’éthique en lien avec la santé publique.

https://www.ethique.gouv.qc.ca/fr/publications/ethique-covid19/