L'intégration des grands modèles de langage (LLM) dans le secteur de la santé promet des avancées significatives, mais nécessite une attention particulière aux défis techniques, éthiques et réglementaires. L'article discute des avantages et des inconvénients des LLM fermés par rapport aux LLM ouverts, soulignant l'importance de la collaboration entre les cliniciens, les chercheurs et les entreprises pour assurer une mise en œuvre efficace, sécurisée et éthique.

- L'intégration des LLM dans les infrastructures de santé nécessite une prise en compte des défis techniques, éthiques et réglementaires.
- Les LLM fermés des entreprises privées sont faciles à déployer mais posent des risques de confidentialité des données et de dépendance envers les fournisseurs.
- Les LLM ouverts permettent une personnalisation accrue mais nécessitent des ressources et une expertise technique.
- Une utilisation contrôlée des LLM est essentielle pour garantir la responsabilité et la conformité aux normes éthiques et de confidentialité.
- Les LLM peuvent être utiles pour diverses tâches cliniques, y compris la rédaction de lettres cliniques et le soutien à la décision.
- Les LLM nécessitent du matériel informatique performant et une expertise spécialisée pour être adaptés aux cas d'utilisation individuels.
- Les comportements imprévisibles des IA génératives nécessitent une application prudente dans les environnements de santé.
- Les LLM peuvent adopter des biais indésirables et faire des recommandations cliniquement nuisibles.
- Le contrôle et l'accès aux LLM sont cruciaux pour assurer la stabilité, la sécurité des données et la responsabilité.
- Les LLM ouverts offrent un plus grand contrôle utilisateur, mais les modèles d'état de l'art des entreprises privées ne fournissent souvent pas ces niveaux d'ouverture.
- Les LLM fermés sont accessibles via des interfaces Web ou des API, offrant des mécanismes de contrôle et des solutions personnalisables pour la confidentialité des données.
- L'utilisation de LLM fermés via des API peut être pratique mais comporte des risques de fuites de données et de dépendance envers des entités externes.
- Les fuites de données peuvent avoir des conséquences graves, affectant potentiellement des millions d'individus.
- La mise en œuvre de LLM ouverts en interne offre un contrôle accru sur les systèmes d'IA.
- L'utilisation de modèles ouverts permet une personnalisation accrue et une meilleure gestion des sorties du modèle.
- La collaboration et le contrôle sont essentiels pour obtenir les meilleurs résultats pour les patients avec les LLM.
- Les coûts initiaux et l'effort associé aux solutions ouvertes peuvent être un obstacle pour certaines institutions.
- Les exigences techniques des systèmes basés sur les LLM varient en fonction des tâches spécifiques et des données sensibles impliquées.
- Les systèmes hybrides pourraient être la solution la plus efficace dans certains cas.
- Les cliniciens doivent jouer un rôle actif dans la définition du rôle des LLM et des agents IA en médecine.

Le programme SUN-ES (Ségur Usage Numérique en Établissements de Santé) est un volet numérique du Ségur de la santé, piloté par la Délégation au Numérique en Santé (DNS). Ce programme vise à améliorer la maturité des systèmes d’information des établissements sanitaires pour une meilleure prise en charge des patients grâce au partage sécurisé des données de santé. Financé par des fonds européens, il s'articule autour de deux volets principaux : l’alimentation de « Mon Espace Santé » et la promotion des messageries sécurisées de santé.

- Le programme SUN-ES a été lancé dans le cadre du Ségur de la santé pour développer le numérique dans les établissements sanitaires.
- Ce programme, financé à hauteur de 210 M€ par des fonds européens, s'inscrit dans le plan de relance et de résilience européen.
- Il vise à enrichir le Dossier Médical Partagé (DMP) et à promouvoir l’usage des messageries sécurisées de santé dans l’espace MS Santé.
- Trois objectifs principaux sont fixés : alimenter « Mon Espace Santé », promouvoir la messagerie sécurisée de santé, et associer l’identité nationale de santé aux documents transmis.
- Le programme inclut des prérequis d’identitovigilance, de sécurité des systèmes d’information et de partage de données pour être éligible.
- Les indicateurs d’usage sont suivis via un observatoire national et comparés aux statistiques de la CNAM et de l’ANS.
- Une forte participation des établissements a été notée, avec 1104 dossiers déposés en 2022, dont 90% acceptés.
- Des pilotes « Mon Espace Santé » ont été mis en place pour accompagner le déploiement des usages numériques.
- Un guide des indicateurs d’usage et des prérequis est disponible pour aider les établissements à atteindre leurs objectifs.
- Un bonus complémentaire pour la reprise des documents historiques vers le DMP est prévu.
- Les ARS (Agences Régionales de Santé) assurent le pilotage régional et sont les points de contact pour les établissements.