L’Académie nationale de médecine met en garde contre les risques des systèmes d’intelligence artificielle générative (SIAgen) dans le domaine de la santé et souligne l’importance d’une validation humaine avant leur mise en œuvre. Malgré leur potentiel, ces systèmes soulèvent des questions éthiques et de responsabilité, et nécessitent une réglementation et une supervision appropriées.
Les risques des systèmes d’intelligence artificielle générative dans la santé
( Source: Genethique )
Les systèmes d’intelligence artificielle générative (SIAgen) sont de plus en plus utilisés dans le domaine de la santé. Cependant, l’Académie nationale de médecine met en garde contre les risques associés à ces systèmes et souligne l’importance d’une validation humaine avant leur mise en œuvre.
Les SIAgen fonctionnent en se basant sur un apprentissage automatique à partir d’un grand nombre d’exemples. Cela les différencie de l’approche humaine, qui repose sur l’expérience, le contexte et les valeurs. Bien que ces systèmes soient capables de produire rapidement des textes pertinents, ils ne sont pas entraînés à rechercher ou à dire la vérité.
L’importance de la validation humaine
L’Académie de médecine insiste sur la qualité des données utilisées pour l’entraînement des modèles. Actuellement, la quantité de données disponible ne permet pas de vérifier leur qualité et leur diversité. Cela soulève des préoccupations quant à l’utilisation de ces systèmes dans des domaines sensibles tels que la prise de décision clinique.
Malgré les investissements financiers importants dans le domaine de l’IA en santé, les résultats ne sont pas à la hauteur des attentes. La mise au point de systèmes d’aide à la décision clinique reste un défi. De même, la découverte de nouveaux médicaments est un processus long et coûteux. Les SIAgen pourraient contribuer à accélérer ce processus en permettant d’examiner plus d’hypothèses de nouvelles molécules.
Questions éthiques et de responsabilité
Les SIAgen pourraient également aider à améliorer l’organisation hospitalière et à pallier les difficultés chroniques liées au manque de personnel et de moyens. Cependant, leur utilisation soulève des questions éthiques et de responsabilité. Les systèmes logiciels eux-mêmes ne sont pas responsables, mais les personnes qui les utilisent ou les conçoivent le sont.
L’Académie de médecine recommande donc une supervision humaine systématique lors de l’utilisation de ces systèmes. Elle souligne également l’importance de préserver le temps consacré à la relation entre le patient et le soignant. Les responsabilités des différents acteurs doivent être clairement déterminées par une réglementation adaptée.
Maîtrise des données et impact environnemental
Enfin, l’Académie met en avant la nécessité de maîtriser les données utilisées, en particulier les données médicales, tout en respectant la confidentialité des patients. Elle soulève également la question de l’impact environnemental de ces systèmes.
En conclusion, l’utilisation des systèmes d’IA génératives dans le domaine de la santé est inévitable. Cependant, il est essentiel de prendre en compte les risques associés à ces systèmes et de mettre en place des mesures de réglementation et de supervision appropriées. Seul un équilibre entre l’efficacité de ces systèmes et la qualité du soin et de la relation patient-médecin pourra être atteint.
No Responses