Introduction
L'intelligence artificielle générative s'est imposée dans les établissements médico-sociaux à une vitesse remarquable. ChatGPT est ouvert sur les postes individuels, Claude est utilisé pour reformuler des notes, Copilot s'invite dans Word et Excel via les abonnements Microsoft 365. L'adoption est massive, souvent informelle, parfois clandestine.
Ce phénomène n'est ni nouveau ni propre au médico-social. Mais il prend dans ce secteur une dimension particulière. Les ESMS traitent par nature des données extrêmement sensibles : données de santé, données relevant du secret professionnel, données personnelles d'usagers vulnérables, informations sur les parcours, les pathologies, les situations familiales. Le moindre incident peut avoir des conséquences réelles — juridiques, déontologiques, humaines.
Pour les directions, les responsables qualité, les DPO et les professionnels de terrain, la question n'est pas de savoir si l'IA va être utilisée dans leur établissement. Elle l'est déjà. La question est de savoir comment elle va l'être, dans quel cadre, avec quelles précautions.
Cette page propose un point de référence structuré pour aborder ces enjeux. Elle s'adresse aux professionnels du secteur médico-social qui veulent comprendre ce qui se joue, identifier les risques concrets et mettre en place les bonnes pratiques opérationnelles.
Pourquoi le médico-social est concerné en premier lieu
Tous les secteurs sont touchés par l'arrivée de l'IA générative. Mais le médico-social cumule plusieurs particularités qui en font un terrain particulièrement exposé.
Des données par nature sensibles
Un dossier usager contient des informations relevant des catégories les plus protégées du RGPD : santé, vie intime, situation familiale, vulnérabilités. Ces données sont soumises à un régime de protection renforcé.
Un cadre déontologique exigeant
Le secret professionnel s'impose à de très nombreux professionnels du secteur. Ce secret ne tolère pas les zones grises : transmettre une information couverte par le secret à un tiers non habilité constitue une infraction, indépendamment du caractère informatique ou non du moyen utilisé.
Une diffusion rapide et peu encadrée des outils
Contrairement aux secteurs très régulés, le médico-social n'a pas de tradition d'encadrement strict des outils numériques. Beaucoup d'établissements n'ont pas de charte informatique formalisée, encore moins de charte spécifique à l'IA.
Des conséquences potentiellement irréversibles
Une donnée transmise à un outil grand public, hébergée hors UE et potentiellement utilisée pour entraîner un modèle ne peut généralement plus être retirée. L'incident n'est pas réparable. Cette irréversibilité change la nature du risque.
Ce qui se passe vraiment quand vous utilisez ChatGPT
Comprendre les mécanismes en jeu est le préalable à toute pratique responsable. Voici, de manière simplifiée, ce qui se produit techniquement quand un professionnel d'ESMS colle un texte dans une IA générative grand public.
1. Transmission
Le texte saisi est envoyé sur les serveurs de l'éditeur, généralement hébergés aux États-Unis. Cette transmission constitue déjà un transfert de données — qui, s'il porte sur des données personnelles, est soumis aux règles du RGPD.
2. Traitement
Le texte est analysé par un modèle de langage qui génère une réponse. Pour produire cette réponse, le contenu transmis peut être stocké temporairement, comparé à d'autres contenus, analysé statistiquement.
3. Conservation
Selon les conditions générales d'utilisation et les paramètres configurés, les contenus peuvent être conservés pendant des durées variables (de quelques heures à plusieurs années).
4. Réutilisation potentielle pour l'entraînement
C'est le point le plus sensible. Par défaut, certains éditeurs utilisent les contenus saisis pour entraîner leurs modèles. Une information personnelle pourrait théoriquement réapparaître dans la réponse fournie à un autre utilisateur.
5. Journalisation
Les requêtes et les réponses sont généralement journalisées. Cette journalisation peut être accessible aux équipes techniques de l'éditeur, à des sous-traitants, voire aux autorités américaines dans certaines conditions (Cloud Act).
Ces mécanismes ne sont pas illégaux en soi. Ils deviennent problématiques quand les contenus transmis contiennent des données personnelles, et plus encore quand ces données relèvent de catégories particulières.
Le cadre réglementaire applicable
Plusieurs textes encadrent l'usage de l'IA générative en ESMS. Aucun ne l'interdit. Tous imposent des conditions.
Le RGPD
Le Règlement Général sur la Protection des Données s'applique pleinement à l'usage de l'IA générative. Tout traitement de données personnelles via une IA doit respecter les principes fondamentaux : finalité déterminée, minimisation des données, licéité du traitement, sécurité, droits des personnes concernées.
Les données de santé
Les données de santé bénéficient d'une protection renforcée (article 9 du RGPD). Leur traitement est en principe interdit, sauf exceptions strictement encadrées. L'hébergement des données de santé en France est soumis à des règles spécifiques (agrément HDS).
Le secret professionnel
Le secret professionnel ne relève pas du RGPD mais du droit pénal. Il s'impose à de nombreux professionnels du médico-social et sa violation est sanctionnée par l'article 226-13 du Code pénal (un an d'emprisonnement et 15 000 euros d'amende).
Les recommandations de la CNIL
La CNIL a publié plusieurs recommandations spécifiques à l'IA générative. Ces recommandations constituent un référentiel auquel s'aligner pour démontrer sa diligence.
La loi 2002-2 et les textes sectoriels
La loi 2002-2 du 2 janvier 2002 rénovant l'action sociale et médico-sociale, et l'ensemble des textes sectoriels imposent aux ESMS des obligations spécifiques en matière de protection des informations relatives aux personnes accompagnées.
Les risques concrets observés
Au-delà du cadre réglementaire, il est utile de mesurer les risques concrets que prennent les établissements et les professionnels.
Un éducateur copie un projet personnalisé entier dans ChatGPT pour le reformuler. Le document contient le nom, prénom, date de naissance, adresse, pathologies, situation familiale de l'usager. Ces données sont transmises sur des serveurs américains, potentiellement conservées, potentiellement utilisées pour entraîner le modèle. La violation du RGPD est caractérisée.
Un coordinateur synthétise un dossier complet pour préparer une réunion. Le dossier contient des informations confiées par l'usager dans le cadre de l'accompagnement, des éléments médicaux, des appréciations subjectives. La transmission à un service tiers constitue une violation du secret professionnel, sanctionnable pénalement.
Une information saisie dans une IA grand public peut, en théorie, ressortir dans la réponse fournie à un autre utilisateur. Le risque est faible mais documenté. Plusieurs entreprises ont retiré l'usage de ChatGPT à leurs salariés après avoir constaté des fuites de ce type (le cas Samsung en 2023 est emblématique).
Par défaut, les conversations sont conservées par l'éditeur. Un changement de mains de l'entreprise, une faille de sécurité, une demande légale d'une autorité étrangère peuvent exposer ces conversations. L'irréversibilité du transfert initial pèse durablement.
Au-delà du risque individuel pour le professionnel, l'établissement est responsable du traitement des données effectué par ses salariés dans le cadre de leur fonction. Une utilisation non encadrée de l'IA peut engager directement la responsabilité juridique et financière de la structure.
Au-delà du risque juridique, c'est la confiance qui est en jeu. Si une famille apprend qu'un projet personnalisé a été soumis à ChatGPT sans précaution, la relation de confiance — fondement de tout accompagnement — peut être durablement compromise.
Les bonnes pratiques opérationnelles
Ces risques ne signifient pas qu'il faut renoncer à l'IA. Ils signifient qu'il faut l'utiliser avec méthode. Voici les sept principes opérationnels qui structurent une démarche responsable.
Le nom, le prénom, la date de naissance, l'adresse, le numéro de dossier d'un usager ne sont pas transmis à une IA grand public. Cette règle ne souffre aucune exception.
Remplacer les prénoms par des codes ou prénoms fictifs, masquer les dates précises, supprimer les adresses. Une pseudonymisation prend rarement plus de quelques minutes.
Offres grand public, offres "Plus", offres entreprise, solutions souveraines : les garanties varient. Formaliser un tableau de correspondance "type d'usage / outil recommandé".
Désactivation de l'entraînement, limitation de la conservation, choix de la région d'hébergement. À vérifier sur chaque compte utilisé dans l'établissement.
Qui peut utiliser l'IA, pour quoi faire, avec quels outils, avec quelles précautions. Une charte de 2 à 4 pages opérationnelle vaut mieux qu'un document de 30 pages que personne ne lit.
La sensibilisation initiale ne suffit pas. Les pratiques se relâchent, les outils évoluent. Prévoir une sensibilisation annuelle, même courte.
Pour les usages structurants (rédaction de documents institutionnels, traitement de données sensibles, productions destinées à des tiers), une traçabilité minimale est utile : quel outil, dans quelles conditions, par qui, pour quel résultat. Cette traçabilité protège l'établissement en cas de contentieux.
Cas d'usage typiques : ce qui est acceptable et ce qui ne l'est pas
Quelques exemples concrets pour fixer les idées.
- Reformuler une note de service générique sans données nominatives
- Construire la trame d'un nouveau projet d'établissement à partir d'attendus réglementaires
- Synthétiser un compte-rendu de réunion après suppression des éléments nominatifs
- Obtenir une formule Excel complexe pour un fichier de suivi anonymisé
- Préparer un courrier institutionnel sans information personnelle d'usager
- Améliorer le style d'une procédure interne
- Travailler sur un projet personnalisé après pseudonymisation rigoureuse de tous les éléments identifiants
- Synthétiser des notes de suivi après pseudonymisation et avec un outil offrant des garanties contractuelles
- Préparer une réunion à partir d'un dossier pseudonymisé
- Analyser des données statistiques agrégées (sans données nominatives) avec un outil entreprise
- Coller un dossier usager entier dans ChatGPT gratuit sans aucune précaution
- Transmettre des éléments médicaux nominatifs à une IA non agréée HDS
- Utiliser une IA pour produire une décision concernant directement un usager
- Transmettre des données nominatives massives (export de fichier complet)
- Utiliser l'IA pour rédiger une décision relevant exclusivement de la responsabilité humaine
Construire la charte interne de votre établissement
Au-delà de la lecture de cette page, l'enjeu pour votre établissement est de formaliser ses propres règles. Une charte interne d'usage de l'IA doit couvrir au minimum les rubriques suivantes :
- Périmètre — Quels outils sont concernés ?
- Périmètres d'usage autorisés — Pour quels types de contenus l'IA peut-elle être utilisée ?
- Outils recommandés — Quels outils l'établissement met-il à disposition ?
- Règles de pseudonymisation — Quelles informations sont systématiquement neutralisées ?
- Responsabilité — Qui est responsable de quoi ?
- Formation et sensibilisation — Quelles sont les obligations de formation préalable ?
- Procédure en cas d'incident — Que faire si un incident se produit ?
- Révision — À quelle fréquence la charte est-elle révisée ?
Un modèle de charte interne est fourni dans le livret pédagogique du Module 7 d'Aktiva Numérique.
Une posture cohérente avec les principes énoncés sur cette page.
Dans les formations Aktiva Numérique, les cas d'étude utilisés sont systématiquement fictifs et construits spécifiquement à cette fin. Aucune donnée réelle d'usager, de professionnel ou d'établissement n'est utilisée dans les supports pédagogiques.
Dans les missions de conseil et d'accompagnement, les données réelles auxquelles Sébastien Kicin peut être amené à accéder sont traitées en confidentialité stricte, dans le cadre d'un engagement contractuel formalisé. Ces données ne sont jamais transmises à des outils d'IA grand public.
Les prompts, modèles et outils mobilisés sont conçus pour pouvoir être utilisés sur des contenus pseudonymisés, sans nécessiter de transmission de données nominatives à un outil tiers.
Pour aller plus loin
Cette page propose une vue d'ensemble structurée. Pour approfondir, deux formations directement complémentaires sont disponibles :
IA, données sensibles et confidentialité
Formation courte de sensibilisation d'équipe, accessible à tous les profils. Point de départ d'un déploiement maîtrisé de l'IA dans votre établissement.
Voir le programmeComprendre l'IA dans le médico-social
Formation approfondie pour les décideurs et l'encadrement, incluant une séquence dédiée à la confidentialité dans une approche stratégique plus large.
Voir le programmeQuestions fréquentes
Notre établissement n'a pas de DPO. Sommes-nous quand même concernés ?
Oui. L'absence de DPO ne dispense pas du respect du RGPD. La désignation d'un DPO est obligatoire dans certains cas, facultative dans d'autres. Mais les obligations de protection des données s'appliquent à tous les responsables de traitement.
Si nous utilisons l'IA "à la maison" sur notre temps personnel, sommes-nous concernés ?
Si vous utilisez l'IA sur des données professionnelles — même depuis votre domicile et sur votre temps personnel — vous engagez la responsabilité de l'établissement. Le lieu et le matériel utilisés ne suffisent pas à séparer l'usage professionnel de l'usage personnel.
Les versions "Plus" payantes des outils sont-elles plus sûres ?
Pas nécessairement. Les versions Plus offrent généralement plus de fonctionnalités, mais les garanties de confidentialité varient. Pour des garanties contractuelles renforcées, il faut généralement passer aux offres "entreprise" (Team, Enterprise) qui se commandent au niveau organisationnel.
Que faut-il faire si un incident s'est déjà produit dans notre établissement ?
D'abord, ne pas paniquer. Ensuite, documenter précisément l'incident. En cas de violation significative de données personnelles, une notification à la CNIL peut être obligatoire dans les 72 heures.
Pouvons-nous utiliser Copilot inclus dans notre licence Microsoft 365 sans précaution ?
Copilot Microsoft 365 offre des garanties contractuelles plus solides que les versions grand public de ChatGPT, mais cela ne dispense pas des bonnes pratiques. La pseudonymisation reste recommandée pour les données sensibles.
Existe-t-il une solution d'IA française que nous puissions utiliser sans risque ?
Mistral est l'acteur français le plus visible. Plusieurs autres acteurs européens proposent des solutions. La maturité fonctionnelle et la stabilité de l'offre varient selon les acteurs.
Notre éditeur de DUI propose une fonction d'IA. Devons-nous l'utiliser ?
C'est généralement plus sûr que d'utiliser ChatGPT externalement, car les données restent dans l'environnement du DUI sous contrat avec l'éditeur. Mais les conditions précises méritent d'être vérifiées contractuellement avant utilisation.