Intelligence artificielle : quel impact sur la
médecine ?
Extrait de Autour de la question du 12/06/2023
Chantal Lorho :
Jean-Emmanuel Bibault, de la même manière qu’aujourd’hui on ne connait plus par cœur les
numéros de téléphone de nos proches, de nos amis, parce qu’on les a enregistrés sur notre
smartphone, est-ce que les médecins ne risquent pas de perdre leur savoir-faire, une partie
de leurs connaissances en se reposant sur l’IA ?
Jean-Emmanuel Bibault :
C’est un des enjeux effectivement au niveau de la formation des médecins du futur. Je
reprends l’exemple de la radiothérapie où on fait les…, on faisait les contourages à la main. Si
demain les contourages, donc le fait de définir sur un scanner en 3D les tumeurs, si ça c’est
fait par une machine à l’avenir, on peut se demander qui va apprendre la façon correcte de le
faire aux médecins du futur, la génération n+1 ; et puis si personne au final ne sait plus le faire
soi-même, on peut aussi se demander qui est-ce qui va vérifier que la machine fait bien à la
génération n+2, entre guillemets. Donc ça pose des vraies questions, et sans doute qu’il va
falloir réfléchir à la façon d’adapter la formation des médecins, mais alors comme dans les
autres domaines qui vont être impactés par l’IA mais aussi pour la médecine. Et c’est vrai que
actuellement on n’a pas les réponses méthodologiques à toutes ces questions.
Chantal Lorho :
Et en cas d’erreur, qui serait responsable ? Contre qui les patients pourraient-ils se retourner ?
Jean-Emmanuel Bibault :
Alors actuellement s’il y a une erreur par exemple toujours sur l’exemple du contourage et ben
ce sera le médecin qui sera responsable puisque c’est lui qui a validé à la fin le contourage.
Si à l’avenir, il y a des algorithmes qui travaillent de façon plus autonome sur des questions
de diagnostic d’imagerie par exemple aux urgences ou ailleurs et qu’il y a une erreur, là c’est
pas encore très très clair. Possiblement que les responsabilités pourraient être partagées entre
le médecin, l’hôpital et puis éventuellement la start-up ou l’entreprise qui commercialise
l’algorithme mais c’est pas encore totalement figé dans la loi.
Chantal Lorho :
Et si par exemple l’IA prédit, on en revient à la médecine prédictive, un cancer dans les 5 ans
à un patient, est-ce qu’on est sûrs que cette information ne parviendra jamais à sa banque qui
pourrait alors lui refuser un prêt immobilier ou à son assurance santé qui se dépêcherait
d’augmenter ses tarifs ?
Jean-Emmanuel Bibault :
Ben, en tout cas il y a déjà des garde-fous qui sont censés protéger les personnes de ce genre
de choses, mais c’est clairement une des dérives potentielles liée à l’utilisation de données et
à la création d’algorithmes prédictifs. Donc, c’est aussi pour ça que je pense qu’il faut que les
médecins s’investissent eux-mêmes dans le développement de ce genre d’algorithmes-là
parce que ce sont aussi un petit peu les garants du respect du serment d’Hippocrate tout
Fiche proposée par
extrait du 12 juin 2023
Nathalys Fiokouna
simplement. Et que c’est à eux qu’il [leur] incombe la responsabilité que ces algorithmes-là ne
se développent pas dans le mauvais sens.
Chantal Lorho :
Isabelle Ryl, on le comprend, la récolte, la gestion, la conservation des données sont des
sujets extrêmement sensibles. Est-ce que le RGPD, le règlement général de protection des
données instauré par les Européens va dans la bonne direction ?
Isabelle Ryl :
Alors je pense que oui. Le RGPD a été un grand succès européen. Il a d’ailleurs été reproduit,
ou en tout cas, il a inspiré des législations dans d’autres pays. Et le but est vraiment de donner
à chacun la maîtrise de ses données. Alors, là où il y a toujours un petit problème d’éducation,
c’est que j’imagine que... il vous est déjà arrivé de cliquer, quand on vous demande de
confirmer, vous cliquez oui parce que vous voulez accéder au service et donc vous ne lisez
pas les clauses et donc vous ne savez pas ce qui est fait de vos données et donc vous donnez
vos données parce que vous voulez le service gratuit. Donc ça c’est la dérive du système. Sur
l’IA un règlement précis, spécifique sur l’IA est en train d’être mis en place à la commission
européenne. Je pense qu’il doit être voté en fin de semaine si je n’ai pas, si je suis à jour sur
les informations sur vraiment, sur le fait de qualifier l’usage qu’on va faire des IA et en fonction
des si… des… des domaines et des activités sur lequel ce sera appliqué et il va y avoir un
certain nombre de contraintes réglementaires, de tests, de vérifications, de contrôles sur la
bonne… le bon fonctionnement des outils.
Chantal Lorho :
Et est-ce que les Européens sont les seuls ou en tout cas ceux qui s’inquiètent le plus
justement de ce problème de régulation de l’IA, Jean-Emmanuel Bibault ?
Jean-Emmanuel Bibault :
Je pense de façon globale et… enfin c’est pas moi qui le dit mais c’est vrai que les Européens
sont toujours très en avance sur la régulation de ce genre de, sur l’innovation tout simplement.
En tout cas certainement plus en avance que les Américains ou les Chinois mais ça pose aussi
des questions de potentiels retards qu’on a déjà, sans se voiler la face, sur les smartphones,
les ordinateurs, tout est déjà américain ou chinois, il y a très très peu de choses y compris en
software qui soient européennes. Et donc, il y a sans doute un équilibre à instaurer et bien
réfléchir à bien doser entre une régulation forte et puis une régulation trop faible qui exposerait
les utilisateurs à des dérives. Donc je pense que les choses sont très très loin d’être triviales.
Je pense qu’on a aussi un gros risque à vouloir trop réguler, quoi qu’on en dise, enfin moi je
pense ça en tout cas et j’ai peur qu’on soit un petit peu trop dans la régulation et peut-être pas
assez dans l’innovation.
Chantal Lorho :
Vous êtes d’accord, François Goulette ?
François Goulette :
Moi je pense qu’on ne peut pas faire abstraction de la régulation sur ces questions-là qui sont
quand même assez inquiétantes, en tout cas pour le grand public, souvent les gens ont peur,
c’est pas forcément mon cas : moi je suis dans la technique, j’aime beaucoup la technique et
j’aime la développer, mais je pense que quand on en parle autour de soi on se rend compte
que ça fait peur à beaucoup de gens, on ne peut pas faire abstraction de la régulation et je
pense que l’Europe va dans le bon sens et, personnellement je ne pense pas que les
régulations en cours de mise en place freinent vraiment l’innovation. Je pense qu’elles sont
nécessaires. Je prendrai une comparaison. Imaginez le développement de l’automobile au
Fiche proposée par
extrait du 12 juin 2023
Nathalys Fiokouna
début du XXe siècle et imaginez qu’on ait voulu développer l’automobile sans mettre en place
des règles de code de la route, ç’aurait été une catastrophe, je pense que c’est un petit peu
du même ordre.
Lexique
La santé : un/une médecin ; la médecine ; une radiothérapie ; un contourage ; une tumeur ;
un patient/ une patiente ; un diagnostic ; les urgences ; un hôpital ; la médecine prédictive ; un
cancer ; une assurance santé ; le serment d’Hippocrate.
Le numérique : un smartphone ; l’IA ; une machine ; un algorithme ; le développement ;
l’innovation ; un ordinateur ; le software ; développer.
La régulation : une loi ; un garde-fou ; un garant/ une garante ; un règlement ; une législation ;
une clause ; des contraintes réglementaires ; un test ; une vérification ; un contrôle ; réguler ;
une règle.
Les données personnelles : l’utilisation ; la récolte ; la gestion ; la conservation ; le RGPD
(le règlement général de protection des données) ; la maîtrise.
Fiche proposée par
extrait du 12 juin 2023
Nathalys Fiokouna