Faut-il redouter l'intelligence artificielle

LOUVAINS

Faut-il avoir peur de l’IA ? Pas de fatalisme ! C’est l’avis de Jean-Gabriel Ganascia, professeur à Sorbonne Université (Paris).

Chercheur en intelligence artificielle (IA), philosophe et professeur d’informatique à la faculté des sciences de Sorbonne Université, Jean-Gabriel Ganascia partage son point de vue sur l’IA en médecine. Passionnant !

L’intelligence artificielle, c’est quoi ?

Jean-Gabriel Ganascia : C’est d’abord une discipline scientifique. Le terme a été introduit en 1955 par des mathématiciens qui voulaient comprendre l’intelligence humaine en la décomposant en fonctions cognitives. Leur but était de reproduire par ordinateur notre aptitude à mémoriser, apprendre, raisonner et échanger après avoir perçu le monde extérieur grâce à nos sens. Des effets dans notre vie de tous les jours ? Le web, la reconnaissance faciale, vocale ou digitale, les voitures autonomes, etc. Aujourd’hui, nous sommes face à une masse considérable de données à exploiter. De multiples applications peuvent en tirer parti, ce qui suscite un grand engouement.

La machine risque d’un jour dépasser l’homme ?

J-G.G. : Je ne suis pas du tout fataliste. Je pense que les hommes sont libres et peuvent choisir leur destin. L’autodétermination de la technologie, c’est faux.

Pas d’inquiétude alors ?

J-G.G. : Non, mais le danger n’est pas négligeable. Il faut prendre conscience de la réalité et se concerter pour placer des limites. Ce monde nouveau est en transformation perpétuelle. C’est passionnant mais soyons vigilants. Avec le numérique, on risque d’évoluer vers une société où la notion de solidarité se délite au profit d’une communauté d’intérêt. Il faut rester attentif aux dérives liées à l’exploitation des données personnelles.

Comme les données médicales ?

J-G.G. : Les données massives récoltées par les hôpitaux et les médecins présentent un grand intérêt dans le domaine de la santé. Cependant, il est important d’éviter les fuites d’informations susceptibles de dévoiler l’intimité de la vie privée et de préserver le secret médical. Question d’éthique. Il faut trouver le bon équilibre entre la protection des données et le progrès de la recherche.

Quel est l’intéret de l’IA en médecine ?

J-G.G. : L’intelligence artificielle n’est pas nouvelle en médecine. Il existe déjà des techniques d’apprentissage et des logiciels d’aide aux médecins. Mais d’autres potentialités peuvent la faire évoluer très positivement. L’IA peut rendre de nombreux services comme l’allègement des tâches administratives grâce à l’automatisation ou l’aide au diagnostic par interprétation d’images, comme pour le mélanome.

Vous ne craignez pas de dérives ?

J-G.G. : Bien sûr la menace existe. On pourrait un jour considérer que le diagnostic de la machine est plus fiable que celui du docteur et interdire à ce dernier de prendre des décisions. Ce serait extrêmement dangereux. Le médecin doit rester seul responsable et pouvoir dialoguer avec son patient. La machine est un partenaire.

Comme le robot en chirurgie ?

J-G.G. : Attention, ce qu’on appelle les robots chirurgicaux ce ne sont pas des robots ! Ce sont des automates téléguidés qui ne prennent pas de décision eux-mêmes. Le chirurgien est toujours présent mais à distance. Son geste sera juste plus précis.

L’IA va-t-elle influencer la formation des médecins ?

J-G.G. : Je pense qu’il faut les former au numérique. Pas en faire des ingénieurs mais qu’ils comprennent bien quelles sont les techniques pour ne pas se faire abuser. Par exemple les masses de données peuvent rendre des services considérables si on les exploite avec des techniques d’apprentissage machine mais il faut savoir quelles sont les conditions de leur utilisation.

La vigilance, votre leitmotiv...

J-G.G. : Le monde est en train de changer et on ne peut pas se reposer sur des certitudes anciennes. Mais il ne faut pas avoir peur. Il y a des aspects très positifs mais aussi des risques indéniables. Les technologies nous donneront le meilleur si nous savons anticiper les risques.

> uclouvain.be/emerites-et-intelligence-artificielle

Anne Mauclet
Chargée de communication

      Jean-Gabriel Ganascia était l’invité du Secteur des sciences de la santé. Président du comité d’éthique du CNRS, il est l’auteur du ‘Mythe de la singularité. Faut-il craindre l’intelligence artificielle ?’ (Seuil, 2017)

        Article paru dans le Louvain[s] de décembre 2018-janvier-février 2019