L’Organisation mondiale de la santé (OMS) a publié ce jeudi 18 octobre de nouvelles directives essentielles sur l’éthique et la gouvernance des grands modèles multi-modaux (LMM) d’intelligence artificielle. Ces directives visent à réglementer l’utilisation croissante de cette technologie générative, qui a des applications de plus en plus nombreuses dans le domaine de la Santé.
Les LMM sont des modèles d’intelligence artificielle qui peuvent accepter divers types de données en entrée, tels que du texte, des vidéos et des images, pour générer des résultats diversifiés qui ne se limitent pas au type de données initiales. Ils sont remarquables pour leur capacité à imiter la communication humaine et à exécuter des tâches pour lesquelles ils n’ont pas été explicitement programmés. En 2023, des plateformes telles que ChatGPT, Bard et Bert ont connu une adoption rapide, plaçant les LMM parmi les applications grand public les plus rapidement adoptées de l’histoire.
Le scientifique en chef de l’OMS et contributeur de l’agenda 2030 du Forum économique mondial, le Dr Jeremy Farrar, souligne l’importance de comprendre les risques associés à ces technologies. Selon lui, « Les technologies d’intelligence artificielle générative ont le potentiel d’améliorer les soins de santé, mais seulement si ceux qui développent, réglementent et utilisent ces technologies identifient et tiennent pleinement compte des risques associés ». « Nous avons besoin d’informations transparentes et de politiques pour gérer la conception, le développement et l’utilisation des LMM afin d’obtenir de meilleurs résultats en matière de santé et de surmonter les inégalités persistantes en matière de santé. »
Le nouveau document de l’OMS sur « l’Éthique et la gouvernance de l’IA pour la santé, Lignes directrices sur les grands modèles multimodaux », est basé sur les lignes directrices de l’agence onusienne publiées en juin 2021
Les directives de l’OMS mettent en évidence cinq principales applications des LMM dans le domaine de la santé
D’après l’OMS, Les LMM peuvent perte utiles en matière de Diagnostic et soins cliniques, (pour répondre aux questions écrites des patients, améliorant ainsi la rapidité et l’efficacité du diagnostic et des soins) ; dans l’Utilisation guidée par le patient (Les patients peuvent utiliser les LMM pour enquêter sur leurs symptômes et leurs options de traitement, favorisant une meilleure compréhension de leur état de santé) ; dans les Tâches administratives et de secrétariat (Les LMM peuvent aider à la documentation et à la synthèse des visites de patients dans les dossiers de santé électroniques, ce qui réduit la charge de travail des professionnels de la santé) ; l’Éducation médicale et infirmière (Les LMM peuvent fournir des rencontres de patients simulées aux stagiaires, améliorant ainsi la formation des futurs professionnels de la santé) ; la Recherche scientifique et le développement de médicaments (Les LMM sont utiles pour identifier de nouveaux composés et contribuer à la recherche médicale).
Cependant, selon l’OMS, ces avantages potentiels sont accompagnés de risques importants. Les LMM peuvent produire d’après elle, « des informations fausses, inexactes, biaisées ou incomplètes, ce qui peut nuire aux décisions de santé des individus ». « De plus, ils peuvent être formés sur des données de mauvaise qualité ou biaisées, ce qui soulève des préoccupations en matière d’équité et de fiabilité. »
Les directives mettent également en garde contre des risques plus larges pour les systèmes de santé, notamment l’accessibilité et l’abordabilité des LMM les plus performants. De plus, toujours selon l’agence onusienne, ils peuvent entraîner un « biais d’automatisation où les erreurs sont négligées et les décisions importantes sont confiées à des LMM ». Enfin, l’OMS indique que « les LMM sont vulnérables aux risques de cybersécurité, ce qui pourrait compromettre la confidentialité des informations des patients et la fiabilité des algorithmes ».
Pour garantir que les LMM sont sûrs et efficaces, l’OMS insiste sur la nécessité de l’engagement de diverses parties prenantes, notamment les gouvernements, les entreprises technologiques, les prestataires de soins de santé, les patients et la société civile. « Il est essentiel que toutes les étapes de développement et de déploiement de ces technologies soient supervisées et réglementées de manière transparente », déclare-t-elle.
Pour l’OMS, « les LMM ont le potentiel de transformer les soins de santé, mais leur utilisation doit être guidée par des principes éthiques et une gouvernance solide pour garantir le bien-être des individus et la confiance dans ces technologies innovantes ».
