Cyberattaques, bioterrorisme: ralentir l’IA ne suffira pas si on n’apprend pas à anticiper l’imprévu

Dans un nouvel essai sur la nécessité de ralentir le développement de l’intelligence artificielle, Dario Amodei, chef de la direction et cofondateur d’Anthropic, réitère ses inquiétudes sur «l’utilisation abusive de l’IA à des fins de cyberattaques et de bioterrorisme». Sa crainte: qu’un essaim d’agents autonomes puisse, en théorie, prendre le contrôle de l’ensemble d’Internet d’ici six à douze mois. Amodei fonde cette crainte sur la révélation faite en juillet par OpenAI selon laquelle ses modèles d’IA avaient franchi les limites d’un test de sécurité et avaient pénétré les systèmes de la plate-forme d’apprentissage Hugging Face. Environ 1200 agents d’IA ont […]

100 000 $ à l’UOF pour étudier la désinformation de l’IA

L’Université de l’Ontario français (UOF) se penchera sur la désinformation générée ou amplifiée par l’intelligence artificielle (IA), grâce à un financement de 100 000 $ octroyé par le ministère fédéral de l’Identité et de la culture canadiennes. C’est Chi Nguyen, députée de Spadina—Harbourfront, qui en a fait l’annonce le 20 août, dans l’agora de l’UOF, au nom du ministre Marc Miller. Pour Normand Labrie, recteur et vice-chancelier de l’UOF, ce projet de recherche répond à une préoccupation devenue incontournable. «La question de la désinformation est un enjeu mondial crucial auquel les francophones n’échappent pas», explique-t-il. D’après ce dernier, le financement […]

L’IA m’a informé pendant un mois: elle ne s’en est pas toujours tenue aux faits

C’est quand même candide comme mensonge. Gemini, le système d’IA générative de Google, a inventé un média d’information qui n’existe pas et il l’a baptisé exemplefictif.ca! Gemini a notamment fait dire à son faux média qu’une grève des chauffeurs d’autobus scolaires avait été déclenchée le 12 septembre. Évidemment, cette grève est fictive elle aussi. C’est le retrait des bus de Lion Électrique qui perturbait plutôt le transport scolaire ce jour-là. Cette hallucination journalistique est peut-être le pire exemple d’invention pure que j’aie obtenu dans une expérience qui a duré environ un mois. Mais j’en ai vu bien d’autres. Comme professeur […]

Rapport de l’ONU sur l’IA: un potentiel sous surveillance

Le groupe scientifique international indépendant sur l’intelligence artificielle mis sur pied par l’ONU en 2025 vient de publier son premier rapport. La conclusion: l’IA possède un potentiel considérable, mais se développe plus rapidement que notre capacité à bien l’encadrer. Le groupe scientifique international indépendant sur l’intelligence artificielle est composé de 40 membres et constitue le premier organisme scientifique mondial consacré à l’IA. Yoshua Bengio Co-présidé entre autres par Yoshua Bengio, professeur au Département d’informatique et de recherche opérationnelle de l’Université de Montréal, il a pour mandat de produire un rapport annuel à partir de données scientifiques pour dresser un état […]

Que deviendront nos médias d’information?

Avec l’importance que prend l’intelligence artificielle, nos médias d’information tels qu’on les connaît seront-ils encore là dans dix, quinze ou vingt ans? C’est une question qui vaut la peine qu’on s’y attarde. Déjà fragilisés par la place croissante que prennent les plates-formes sociales dans les habitudes de consommation médiatique, nos médias d’actualité sont maintenant confrontés aux choix difficiles que leur impose le développement rapide de l’intelligence artificielle générative. Comment réagir face à cette technologie qui se nourrit de leur travail et qui s’approprie une partie de leur audience? Doivent-ils bloquer l’accès à leurs contenus pour empêcher les systèmes d’IA de […]

Des détecteurs d’intelligence artificielle à la crédibilité défaillante

Avec l’utilisation de plus en plus répandue des outils d’intelligence artificielle par les étudiants, des universités se tournent maintenant vers des logiciels qui prétendent pouvoir détecter les textes rédigés par l’IA. Ceux-ci sont toutefois très peu fiables, révèle un article publié en juillet dans la revue Nature. Depuis l’avènement des logiciels d’IA générative, comme ChatGPT, il est rapide et peu coûteux de demander à un ordinateur de rédiger des textes à sa place. Selon une spécialiste de l’intégrité académique interviewée par Nature, la quantité de documents frauduleux ou fabriqués a en effet explosé récemment. L’intérêt d’utiliser des logiciels pour détecter […]

Fausses citations par l’IA… dans un livre dénonçant l’IA

Il publie un livre sur les impacts de l’intelligence artificielle (IA) sur la vérité. Il se fait prendre pour avoir inséré de fausses citations générées par l’IA. L’auteur en question, Steven Rosenbaum, a déclaré au New York Times avoir commencé une «enquête» là-dessus, après avoir été alerté la veille par le journal que celui-ci s’apprêtait à publier un reportage. Fausses citations En tout, «plus d’une demi-douzaine de citations fausses ou mal attribuées » ont été repérées dans les sections du livre analysées par le journal. L’auteur a admis dans sa déclaration qu’il s’agissait de fausses citations et parle d’un «accident». […]

santé, IA, intelligence artificielle, médecins

Des erreurs et des fabulations de l’IA utilisée par les médecins en Ontario

Les logiciels de transcription par intelligence artificielle utilisés par les médecins de famille de l’Ontario pour prendre des notes lors des rendez-vous avec leurs patients fournissent régulièrement des erreurs, et même des fabulations, selon la vérificatrice générale. Le gouvernement de Doug Ford permet aux médecins de famille, aux infirmières praticiennes et aux thérapeutes, entre autres, d’utiliser le programme de transcription par IA, géré par OntarioMD, la branche numérique de l’Association médicale de l’Ontario, depuis le printemps. Cet outil technologique émergent avait fait l’objet d’un projet pilote autorisant 150 médecins de famille à l’utiliser pour transcrire les rendez-vous médicaux avec leurs […]

La psychose induite par l’IA, un risque réel

Tumbler Ridge, Colombie-Britannique, en février 2026, et Tallahassee, Floride, en avril 2025: en ces deux endroits, on reproche à ChatGPT d’avoir encouragé une tuerie de masse. Huit personnes mortes dans le premier cas, deux dans l’autre, et plusieurs blessées. Dans les deux circonstances, l’agent conversationnel avait dialogué avec le tueur, sans en référer à des personnes compétentes qui auraient peut-être pu l’aider. Et ce ne sont que les deux cas les plus tragiques de délires psychotiques qui ont possiblement été renforcés par ces outils d’intelligence artificielle et qui ont été rapportés par des professionnels de la santé mentale. Amplificateur d’idées […]

5e sommet: la French Tech de Toronto de plus en plus pertinente

Plus de 300 personnes ont participé au 5e sommet de la French Tech de Toronto ce mardi 5 mai au Musée des Beaux-Arts de l’Ontario (AGO). La French Tech est une communauté internationale qui connecte les talents français en innovation et technologie à travers le monde. Elle réunit francophones (80% du public) et anglophones autour de panels d’experts, de présentations de jeunes entreprises françaises et de réseautage. Basée dans plusieurs grandes villes en France et dans le monde depuis 2013, elle s’est implantée à Toronto en 2020 sous l’impulsion de sa présidente sortante Estelle Chen. «L’idée, c’est de mettre en […]

L’UOF et CHOQ-FM veulent proposer une charte éthique sur l’IA

L’Université de l’Ontario français (UOF) et la Coopérative radiophonique de Toronto CHOQ-FM viennent de parapher une entente de collaboration ô combien ambitieuse. La finalité étant de proposer une charte éthique francophone autour de l’intelligence artificielle (IA) et des enjeux numériques, une charte qui ambitionne d’être applicable à tous les médias audios francophones du pays. «Je suis convaincu qu’il y a un train à prendre, nommé IA, et que ceux qui embarquent et qui acceptent de se servir de ces technologies s’en sortiront. Ceux qui ne le prennent pas risquent de rester sur la touche», nous dit Guillaume Lorin, directeur général […]

L’IA au service de la justice… et des malfaiteurs

Recherches instantanées, analyse de documents, rédaction assistée, automatisation des tâches redondantes… Dans la chose juridique, l’intelligence artificielle fait d’ores et déjà partie des incontournables en tant qu’outil de travail. Mais derrière ces promesses d’efficacité se cachent aussi des enjeux d’ordre déontologique et de fiabilité… et parfois même de criminalité. Décryptage. «L’IA est déjà un outil de travail majeur pour les professionnels du domaine juridique», annonce d’emblée Valeria Ledri, avocate aux services d’aide juridique du Centre francophone du Grand Toronto (CFGT) en marge de la formation dispensée les 21 et 22 janvier derniers concernant l’utilisation de l’IA par les professionnels du […]