Want to make creations as awesome as this one?

Transcript

Santé & IA : gare aux biais !

La cité de la santé présente :

Suivant

Dans ce quizz, des situations médicales vous seront présentées et vous serez amenés à identifier les biais présents.

Suivant

Ici, nous nous intéressons aux biais cognitifs et aux biais algorithmiques.Biais cognitif = un schéma de pensée trompeur et faussement logique. Cette forme de pensée permet à l’individu de porter un jugement, ou de prendre une décision rapidement. Cependant, à cause des biais cognitifs, la prise de décision de l’individu sera faussée.Biais algorithmique = un phénomène qui altère le résultat d’un algorithme en le rendant non-neutre ou biaisé. Cela provient généralement d'erreurs dans l'écriture du programme ou de problèmes dans les données qui ont été utilisées lors de l'entraînement de l'algorithme.

Suivant

Mais d'abord, de quels biais parle-t-on ?

Ici, pour chaque situation, vous devrez déterminer de quel biais il s'agit parmis les 5 choix possibles.Pendant le quizz, en passant votre doigt sur les boutons ci-dessous vous pouvez voir la définition des biais correspondants.

J'ai compris, on commence !

Biais de confirmation

Biais de selection

Biais d'ancrage

Biais de disponibilité

Biais d'automatisation

Le biais d'automatisation désigne l'excès de confiance accordée aux assistants automatisés et aux systèmes d'IA d'aide à la décision.

Le biais de disponibilité désigne la tendance à privilégier et surestimer les informations immédiatement disponibles à notre mémoire, en particulier lorsqu'elles sont stéréotypées.

Le biais de confirmation est le fait de chercher uniquement des informations de manière à confirmer nos croyances ou hypothèses préexistantes.

Cela se produit lorsque les données utilisées pour entraîner un système d’IA ne sont pas représentatives de la réalité qu’il est censé modéliser.

Le biais d'ancrage décrit notre tendance à trop nous appuyer sur les premières informations que nous avons reçu et moins considérer des informations disponibles dans un second temps.

Un patient attend d'être opéré d'une fracture.

SUITE

Situation 1

Quand soundain il devient très agité !

Suite

Il explique avoir des antécédents de crises d'angoisses.

Suite

Puis il s'est plaint d'avoir des picotements dans les doigts.

Suite

Et son poul s'est mis à accélérer !

Suite

Les soignants ont alors essayé de le rassurer et de le calmer.

Suite

Mais il a perdu connaissance et son coeur s'est arrêté.

Suite

Quel biais se cache dans cette situation ?

Biais de confirmation

Biais de selection

Biais d'ancrage

Biais de disponibilité

Biais d'automatisation

Le biais d'automatisation désigne l'excès de confiance accordée aux assistants automatisés et aux systèmes d'IA d'aide à la décision.

Le biais de disponibilité désigne la tendance à privilégier et surestimer les informations immédiatement disponibles à notre mémoire, en particulier lorsqu'elles sont stéréotypées.

Le biais de confirmation est le fait de chercher uniquement des informations de manière à confirmer nos croyances ou hypothèses préexistantes.

Cela se produit lorsque les données utilisées pour entraîner un système d’IA ne sont pas représentatives de la réalité qu’il est censé modéliser.

Le biais d'ancrage décrit notre tendance à trop nous appuyer sur les premières informations que nous avons reçu et moins considérer des informations disponibles dans un second temps.

Perdu ! Essaye encore.

retour

Suivant

Bravo !

Il s'agit effectivement d'un biais d'ancrage. Après que le patient ait annoncé avoir "des antécédents de crises d'angoisse", les soignants ont cru que ses symptômes étaient liés à l'anxiété par biais d'ancrage. Ils ont alors moins attaché d'importance aux informations suivantes (picotements, poul) et n'ont pas considéré d'autres diagnostics.

Un radiologue américain analyse des mammographies.

SUITE

Situation 2

Il s'agit de radiographies d'une femme de 41 ans. Aux Etats-Unis, le dépistage du cancer du sein débute à 40 ans.

SUITE

Il utilise pour cela un logiciel européen d'analyse d'images basé sur l'IA.

SUITE

Or en Europe, le dépistage du cancer du sein commence à partir de 50 ans.

SUITE

Lors de la vérification, le radiologue remarque que le logiciel indique un résultat incorrect.

SUITE

Quel biais se cache dans cette situation ?

Biais de confirmation

Biais de selection

Biais d'ancrage

Biais de disponibilité

Biais d'automatisation

Le biais d'automatisation désigne l'excès de confiance accordée aux assistants automatisés et aux systèmes d'IA d'aide à la décision.

Le biais de disponibilité désigne la tendance à privilégier et surestimer les informations immédiatement disponibles à notre mémoire, en particulier lorsqu'elles sont stéréotypées.

Le biais de confirmation est le fait de chercher uniquement des informations de manière à confirmer nos croyances ou hypothèses préexistantes.

Cela se produit lorsque les données utilisées pour entraîner un système d’IA ne sont pas représentatives de la réalité qu’il est censé modéliser.

Le biais d'ancrage décrit notre tendance à trop nous appuyer sur les premières informations que nous avons reçu et moins considérer des informations disponibles dans un second temps.

Perdu ! Essaye encore.

retour

Suivant

Bravo !

Il s'agit effectivement d'un biais de sélection.L'algorithme sur lequel repose le logiciel a été "entraîné" à partir de données (radiographies de patientes de plus de 50 ans) qui ne correspondent plus complètement à son usage actuel (radiographies d'une patiente de 41 ans). Ce biais de sélection augmente donc le risque d'erreur du logiciel.

Un médecin mesure la tension artérielle d'un homme de 35 ans.

SUITE

Situation 3

Il sait que le patient est en bonne santé et n'a aucun antécédents médicaux.

SUITE

Il s'attend donc à avoir une mesure de tension normale.

SUITE

Le brassard de tensiomètre se gonfle et se dégonfle deux fois.

SUITE

Mais aucun résultat ne s'affiche. Puis, il réessaye une nouvelle fois sans succès.

SUITE

Il se dit qu'il y a un problème avec le brassard.

SUITE

Il essaye alors avec un brassard plus grand et cette fois-ci une lecture est obtenue.

SUITE

Mais la tension du patient est anormalement basse !

SUITE

Quel biais se cache dans cette situation ?

Biais de confirmation

Biais de selection

Biais d'ancrage

Biais de disponibilité

Biais d'automatisation

Le biais d'automatisation désigne l'excès de confiance accordée aux assistants automatisés et aux systèmes d'IA d'aide à la décision.

Le biais de disponibilité désigne la tendance à privilégier et surestimer les informations immédiatement disponibles à notre mémoire, en particulier lorsqu'elles sont stéréotypées.

Le biais de confirmation est le fait de chercher uniquement des informations de manière à confirmer nos croyances ou hypothèses préexistantes.

Cela se produit lorsque les données utilisées pour entraîner un système d’IA ne sont pas représentatives de la réalité qu’il est censé modéliser.

Le biais d'ancrage décrit notre tendance à trop nous appuyer sur les premières informations que nous avons reçu et moins considérer des informations disponibles dans un second temps.

Perdu ! Essaye encore.

retour

Suivant

Bravo !

Il s'agit effectivement d'un biais de confirmation.Le médecin part du principe que le patient est en bonne santé et doit avoir une tension normale. Lorsqu'il n'obtient pas de résultat, le biais de confirmation le pousse à croire qu'il s'agit forcément d'un problème technique. Or le problème ne venait pas du brassard mais de la tension anormalement basse, donc difficile à mesurer.

Deux radiologues expérimentés analysent des mammographies.

SUITE

Situation 4

L'un utilise un logiciel qui indique des catégories d'images en fonction de la probabilité de cancer.

SUITE

Cela lui permet de traiter plus rapidement les différentes images, bien qu'il les contrôle aussi visuellement.

SUITE

L'autre radiologue utilise simplement ses yeux et ses connaissances.

SUITE

Les deux radiologues analysent exactement la même série d'images. Pour l'image n°34, leurs conclusions diffèrent.

SUITE

Il s'avère que pour l'image n°34, l'indication donnée par le logiciel est erronée.

SUITE

Quel biais se cache dans cette situation ?

Biais de confirmation

Biais de selection

Biais d'ancrage

Biais de disponibilité

Biais d'automatisation

Le biais d'automatisation désigne l'excès de confiance accordée aux assistants automatisés et aux systèmes d'IA d'aide à la décision.

Le biais de disponibilité désigne la tendance à privilégier et surestimer les informations immédiatement disponibles à notre mémoire, en particulier lorsqu'elles sont stéréotypées.

Le biais de confirmation est le fait de chercher uniquement des informations de manière à confirmer nos croyances ou hypothèses préexistantes.

Cela se produit lorsque les données utilisées pour entraîner un système d’IA ne sont pas représentatives de la réalité qu’il est censé modéliser.

Le biais d'ancrage décrit notre tendance à trop nous appuyer sur les premières informations que nous avons reçu et moins considérer des informations disponibles dans un second temps.

Perdu ! Essaye encore.

retour

Suivant

Bravo !

Il s'agit effectivement d'un biais d'automatisation.Le radiologue utilisant le logiciel d'aide au diagnostic a accordé trop de confiance aux indications numériques. Cela lui a fait perdre en précision et en esprit critique. Et il a commis une erreur qu'il n'aurait pas faite habituellement, par biais d'automatisation.

Un homme sans abri est retrouvé confus dans la rue.

SUITE

Situation 5

Des bouteilles d'alcool vides ont été retrouvées sur les lieux.

SUITE

Il est amené aux urgences par des ambulanciers pour évaluation.

SUITE

Un tranquilisant utilisé pour calmer les symptômes du manque d'alcool lui est alors administré.

SUITE

Mais cela a très peu d'effet. Le patient transpire et est très agité plusieurs heures après la première dose.

SUITE

Plusieurs doses supplémentaires de tranquilisant lui sont administrées. Mais cela est sans effets.

SUITE

Finalement, le médecin responsable de garde demande à faire une mesure de glycémie.

SUITE

Celle-ci est très basse. Le patient est en hypoglycémie.

SUITE

Une solution sucrée lui est alors injectée par voie intraveineuse et son état s'améliore.

SUITE

Quel biais se cache dans cette situation ?

Biais de confirmation

Biais de selection

Biais d'ancrage

Biais de disponibilité

Biais d'automatisation

Le biais d'automatisation désigne l'excès de confiance accordée aux assistants automatisés et aux systèmes d'IA d'aide à la décision.

Le biais de disponibilité désigne la tendance à privilégier et surestimer les informations immédiatement disponibles à notre mémoire, en particulier lorsqu'elles sont stéréotypées.

Le biais de confirmation est le fait de chercher uniquement des informations de manière à confirmer nos croyances ou hypothèses préexistantes.

Cela se produit lorsque les données utilisées pour entraîner un système d’IA ne sont pas représentatives de la réalité qu’il est censé modéliser.

Le biais d'ancrage décrit notre tendance à trop nous appuyer sur les premières informations que nous avons reçu et moins considérer des informations disponibles dans un second temps.

Perdu ! Essaye encore.

retour

Suivant

Bravo !

Il s'agit effectivement d'un biais de disponibilité.En voyant un homme sans-abri confus et des bouteilles vides, la première idée disponible dans l'esprit des ambulanciers est que les symptômes de l'homme sont liés à l'alcool, ce qui correspond à un stéréotype bien connu. Les soignants ont donc longuement persévéré dans ce sens avant d'envisager un autre diagnostic.

Recommencer

Tu as terminé, bravo à toi !