Des erreurs et des fabulations de l’IA utilisée par les médecins en Ontario

Les logiciels de transcription par intelligence artificielle utilisés par les médecins de famille de l’Ontario pour prendre des notes lors des rendez-vous avec leurs patients fournissent régulièrement des erreurs, et même des fabulations, selon la vérificatrice générale.

Le gouvernement de Doug Ford permet aux médecins de famille, aux infirmières praticiennes et aux thérapeutes, entre autres, d’utiliser le programme de transcription par IA, géré par OntarioMD, la branche numérique de l’Association médicale de l’Ontario, depuis le printemps.

Cet outil technologique émergent avait fait l’objet d’un projet pilote autorisant 150 médecins de famille à l’utiliser pour transcrire les rendez-vous médicaux avec leurs patients, en 2023, et les résultats prometteurs lui ont permis de devenir monnaie courante à travers le système de santé de la province.

N’empêche, la plupart des systèmes de prise de notes par intelligence artificielle approuvés pour le personnel médical par le gouvernement de l’Ontario présentaient des fabulations, des renseignements erronés et des renseignements incomplets, selon la vérificatrice générale de l’Ontario, Shelley Spence.

Dans un rapport spécial publié mardi, celle-ci affirme que les systèmes de transcription assistée par l’IA n’avaient pas été évalués adéquatement par la province et qu’ils produisaient parfois des renseignements falsifiés et proposaient des plans de traitement jamais discutés avec le médecin.

«Les inexactitudes dans les notes médicales générées par les de transcription par IA pourraient entraîner des plans de traitement inadéquats ou nuisibles, susceptibles d’affecter la santé des patients», prévient la vérificatrice dans son rapport.

Processus d’appel d’offres

Dans le cadre de son audit, le bureau de la vérificatrice a analysé le processus d’appel d’offres utilisé par Approvisionnement Ontario pour l’acquisition des systèmes de transcription par IA.

Durant ce processus, les fournisseurs potentiels ont dû transcrire deux interactions simulées entre un médecin et un patient. Les résultats ont été transmis à Santé Ontario et à sa filiale numérique, Ontario MD, pour évaluation.

L’étude a révélé que 45% des systèmes d’écriture assistée par IA ont fabriqué de l’information et formulé des suggestions aux plans de traitement des patients, comme l’aiguillage du patient pour une thérapie ou la commande de tests sanguins, même si ces étapes n’avaient jamais été mentionnées lors des rendez-vous.

Les évaluateurs ont aussi noté «des fabulations qui pourraient avoir un impact sur la santé des patients».

Par exemple, les notes soumises comprenaient des déclarations selon lesquelles il n’y avait «aucune masse trouvée» ou selon lesquelles il y avait «présence d’anxiété chez le patient», bien que cette information n’ait pas été abordée dans les enregistrements.

Les tests ont aussi constaté que 60% des systèmes de transcription par IA faisaient état d’un médicament différent de celui prescrit par le médecin.

Par ailleurs, les notes générées par 17 des 20 systèmes de transcription par IA, soit 85%, ont omis des détails clés sur les problèmes de santé mentale des patients dans au moins un des deux tests, même si ces détails avaient été mentionnés dans les enregistrements.

La VG a également révélé qu’au moins cinq des vingt fournisseurs n’avaient pas soumis d’évaluation des risques et des incidences sur la vie privée, comme l’exigeait le processus d’appel d’offres, mais ont malgré tout été approuvés.

L’IA dans la fonction publique

Dans son rapport, la vérificatrice générale révèle aussi que, malgré une stratégie en matière d’intelligence artificielle dans la fonction publique présentée par la province il y a près de deux ans, les fonctionnaires l’utilisent de façon peu sécuritaire et non sécurisée, engendrant des risques de divulgation non autorisée des données.

Selon son bureau, il manque de nombreux éléments clés à la stratégie de la province. Son audit indique qu’environ 60% des sites Web d’IA que les fonctionnaires de la province ont consultés entre avril et août 2025 ont été jugés «non sécurisés et à risque selon la cote de sécurité attribuée par l’outil de cybersécurité Defender de Microsoft».

Le ministère des Services au public et aux entreprises et de l’Approvisionnement, responsable de ce dossier, n’a pas bloqué au personnel de la fonction publique l’accès à de nombreux sites Web d’IA non sécurisés et à risque sur ses appareils fournis par la fonction publique, indique la VG.

Recommandations

Approvisionnement Ontario a accepté de mettre en œuvre la majorité des recommandations de Shelley Spence, notamment d’examiner les normes de l’industrie et la mise en œuvre de pratiques exemplaires en Ontario.

Le ministère a toutefois rejeté une recommandation visant à augmenter l’importance accordée à la sécurité et à la confidentialité dans les futurs achats de produits d’IA, affirmant que sa pondération actuelle est «appropriée pour les contrôles de sécurité et de protection des renseignements personnels, le biais et l’exactitude».