Dans un souci croissant de sécurité, des experts soulèvent des inquiétudes sur l’utilisation de Whisper, un outil de transcription alimenté par l’intelligence artificielle, qui a la capacité inquiétante d’inventer des dialogues. Bien que promu pour son efficacité, Whisper fait l’objet de critiques sévères pour avoir généré des transcriptions inexactes dans des contextes hospitaliers critiques, mettant en lumière les dangers potentiels de l’intégration non contrôlée de l’IA dans le secteur de la santé.
Les dangers des « hallucinations » de Whisper
Table of Contents
Whisper, développé par le géant technologique OpenAI, est vanté pour sa précision et sa robustesse proches de celles d’un être humain. Cependant, des défauts persistants subsistent puisque Whisper est susceptible d’inventer des portions entières de texte, un phénomène dans l’industrie qualifié de hallucinations. Ces erreurs peuvent contenir des commentaires raciaux, une rhétorique violente, voire des traitements médicaux fictifs. Ces fabrications sont problématiques, d’autant plus que Whisper est utilisé dans divers secteurs mondiaux pour transcrire et traduire du texte.
Whisper en milieu hospitalier : une utilisation préoccupante
Malgré les avertissements, les centres médicaux se précipitent pour utiliser Whisper pour transcrire les consultations entre les patients et les médecins. Cela soulève des inquiétudes quant aux conséquences potentielles de l’utilisation d’un tel outil dans un domaine à haut risque. Les chercheurs soulignent l’importance d’un seuil de qualité supérieur pour toute technologie intégrée dans le secteur médical, où chaque erreur de transcription pourrait mener à un mauvais diagnostic.
Conséquences graves pour les patients
Les erreurs de transcription de Whisper peuvent avoir des conséquences graves en milieu hospitalier, notamment en compromettant la fiabilité des renseignements médicaux communiqués aux équipes soignantes. De plus, les personnes souffrant de déficience auditive, qui reposent souvent sur les sous-titres automatiques pour comprendre les conversations, sont particulièrement vulnérables à ces transcriptions inexactes. Des résultats erronés peuvent conduire à des malentendus graves concernant la santé des patients.
Nécessité de réglementation et de précautions
Face à la multiplication des erreurs, des experts, des défenseurs des consommateurs et d’anciens employés d’OpenAI appellent à davantage de réglementation pour encadrer l’utilisation de l’IA dans des contextes critiques tels que la santé. Ils exhortent OpenAI à accorder une priorité plus élevée aux problèmes identifiés. La vigilance est cruciale, car une confiance excessive dans les capacités de Whisper pourrait mener à son intégration aveugle et incontrôlée dans des systèmes cruciaux.
DĂ©fis et limitations techniques
Les chercheurs ne savent toujours pas pourquoi Whisper et des outils similaires produisent des hallucinations, mais il semble que ces erreurs surviennent souvent lors de pauses ou en présence de sons de fond. OpenAI recommande pourtant de ne pas utiliser Whisper dans des contextes décisionnels, là où des lacunes en précision peuvent avoir de graves impacts sur les résultats.
Whisper dans les consultations médicales
Malgré les mises en garde, Whisper est largement employé pour transcrire les conversations durant les consultations médicales, notamment pour alléger la charge administrative des médecins en matière de prise de note. Toutefois, en effaçant les enregistrements audio d’origine, comme le font certaines entreprises, il devient impossible de vérifier l’exactitude des transcriptions. Cela pose un risque considérable si les transcriptions ne sont pas contrôlées minutieusement par le personnel médical.
Émergence de préoccupations sur la confidentialité
Dans ce contexte, des préoccupations sur la confidentialité émergent, surtout lorsque des géants technologiques accèdent à des conversations médicales intimes. Certains médecins et législateurs craignent que le partage de ces informations avec des entreprises à but lucratif mette en péril la sécurité et la confidentialité des consultations médicales.
