3 key factors shaping patient choice and trust in medical AI :-

1)   Medical AI performance at specialist level (AMCE, 0.248 [95%CI, 0.234 to 0.262]) or above specialist level (AMCE, 0.325 [95%CI, 0.310 to 0.339]) was the most significant factor associated with shaping patient choice and trust (pages 6 & 8). Above-specialist performance was nearly 3 times as important as FDA approval (page 6).  
  
2)  Clinician oversight of medical AI (AMCE, 0.184 [95%CI, 0.173 to 0.195]) was the second most significant factor associated with shaping patient choice and trust (pages 6 & 9). "Meaningfully, clinician presence was associated with a greater change in patient trust and choice than any individual form of governance. However, effective clinician governance presents substantial challenges: not only are clinicians limited in their ability effectively to oversee medical AI performance, but the availability of adequately trained clinicians is limited" (page 9). Clinical oversight of medical AI is more important than FDA approval.  

3)   FDA approval (AMCE, 0.111 [95%CI, 0.101 to 0.121]) or national-level validation of medical AI via the Mayo Clinic (AMCE, 0.111 [95%CI, 0.101 to 0.121]) than local hospital validation was the third factor associated with shaping patient choice and trust (page 6).

Ana Bracic, Kayte Spector-Bagdady, Sophie Towle, Rina Zhang, Cornelius A. James, and W. Nicholson Price II, Factors for Patient Trust and Acceptance of Medical Artificial Intelligence, (2026) 9(3) 𝘑𝘈𝘔𝘈 𝘕𝘦𝘵𝘸𝘰𝘳𝘬 𝘖𝘱𝘦𝘯 e260815, published online 5 March 2026, https://lnkd.in/g4uR3wug

Delighted to share the first-of-its-kind prospective feasibility study of conversational AI in real clinical workflows: https://lnkd.in/e_zpBmvR

Brought to you by a Beth Israel Deaconess Medical Center and Google research collaboration. 
 
Design:
-100 patients with urgent care concerns interacted with Google’s AMIE prior to presenting to their PCP at BIDMC.
-AMIE took a clinical history and presented possible diagnoses to patients.
-Board certified internal medicine physicians provided continuous safety oversight of patient-AMIE interactions and were instructed to stop interactions based on prespecified safety criteria.
-AMIE transcript and summary of the case were provided to the PCP prior to the urgent care appointment.
-Allowed eight weeks of time for case maturity, followed by chart review to determine the ground truth diagnosis for the patient presentation.
 
Primary Objectives: Safety and quality of AMIE conversations
Secondary Objectives: AMIE diagnostic and management plan performance
 
Results:
-Zero conversation safety stops across all patient-AMIE interactions.
-Patient attitudes toward AI significantly increased after interacting with AMIE.
-Strong conversational quality ratings by patients and board certified internal medicine physicians.
-With access to AMIE’s output, PCPs reported possible behavior change in nearly 60% of cases and increased visit preparedness in 75% of cases. 
-AMIE had 75% top-3 diagnostic accuracy and included the correct diagnosis in its differential 90% of cases.
-The quality of AMIE’s differential diagnosis and management plan appropriateness and safety was similar to PCPs.
-PCPs won on management plan practicality and cost-effectiveness.
 
Implications:
-The deployment of AMIE into a high volume clinical workflow was practical and safe.
-The safe presentation of potential diagnoses to patients shifts the patient-AI interaction from simple information gathering to personalized collaboration and counseling.
-Patients highly value confidentiality and trust - repeated safe interactions with AI will be key to building a trustworthy relationship.
-PCPs had a significant context advantage - had access to medical charts, physical exam, and the AMIE transcript. AMIE still performed similarly on differential diagnosis quality and management plan appropriateness and safety.
-Future iterations of AI in real clinical workflows will likely include reasoning with multimodal data: https://lnkd.in/ebWMZD2v.
-Robust safety oversight will allow stratification of which cases are suitable for human-on-the-loop rather than in-the-loop.

Huge thanks to the amazing co-authors and supporters of this work!

🦾 Lancement d'Amazon Health AI : Et si on arrêtait de regarder le doigt quand on nous montre la lune ?

Amazon vient de lancer "Health AI".
Tout le monde se focalise sur le chatbot : est-ce qu'il explique bien les résultats de prise de sang ? Est-ce qu'il sait renouveler une ordonnance ? Est-ce que c'est fiable ?

Honnêtement, c'est presque un détail. Explication 👇

En assemblant One Medical (soins), Amazon Pharmacy (médicaments) et AWS (infra), il manquait une seule pièce au puzzle pour boucler la boucle : l'aiguillage.

C’est exactement le rôle de cette nouvelle IA. Elle ne répond pas juste à des questions, elle orchestre un flux.
Symptôme → IA → Consultation → Prescription → Livraison.
Le tout, sans jamais sortir de l'écosystème Amazon.

C'est là que ça devient fascinant / vertigineux / flippant.

Dans le retail, Amazon n'a jamais cherché à fabriquer tous les produits du monde. Il a cherché à devenir l'interface obligatoire entre le client et les marques.

Dans la santé, la stratégie semble identique. Amazon ne veut pas remplacer les médecins. Il veut devenir la porte d'entrée unique du système.

D’où mon hypothèse : et si Amazon était en train de devenir le premier "assureur invisible" au monde ?

Pas un assureur qui signe des contrats, mais un acteur qui, en contrôlant l’accès au patient, l’orientation clinique et la donnée, finit par contrôler le risque lui-même.

Aux US et dans beaucoup d'autres pays, celui qui pilote le parcours de soins pilote l'économie de la santé. Point final.

Je suis curieux de savoir ce que vous en pensez. On est sur un gadget ou sur un basculement de modèle ?


François Veron, Pascal BECACHE, Nicolas Schneider, Pierre Roux de Lusignan, Grégoire Pigné, Dr Solène Vo Quang, Mathilde Merckx, Samir Harfacha, MD, Dr Amine Korchi

Et merci à Anca pour le partage inital ;) | 15 comments on LinkedIn

Numeric risk comparisons anchored in patient context may improve shared decision-making and help patients interpret clinical choices.

JAMA, Journal of the American Medical Association

https://lnkd.in/gKKv4d-n

China's AI-assisted diagnosis market isn't emerging. It's already built.

60+ companies. 5 vertical categories. All deployed.

Here's the complete map:

1. UPSTREAM: The Foundation

Smart Hubs: Baidu, Inc. | Tencent | Huawei Cloud

Computing-Storage Infrastructure: Tencent Cloud | China Unicom Global | Alibaba Cloud | China Telecom Global | Huawei Cloud

The pattern: Tech giants provide compute. Then step into healthcare verticals.

2. MIDSTREAM: The AI Engine

AI Medical Imaging (23 players):

Row 1: Deepwise | United Imaging Healthcare | Subtle Medical| Diagens

Row 2: Infervision | Beijing Yizhun AI Technology Co., Ltd. | Tencent | Huiying Medical Technology Co., Ltd.

Row 3: RaysightMed | Airdoc Technology Inc | BioMind | 开立医疗 SonoScape

Row 4: Neusoft Medical | CHISON | ANKON Technologies | LBP system

Row 5: MED Imaging AI | EDAN Instruments, Inc. | Wenzhou Medical University Eye Hospital | ShanghaiTech University

AI Laboratory Testing:

BGI Genomics | Reetoo Biotech | Amoy Diagnostics | Berry Genomics

AI-Assisted Pathology:

BGI Genomics | Tsinghua University | Xiangya Hospital of Central South University | Zhejiang University | Tsinghua University / SenseTime 商汤科技

AI Clinical Decision Support (12 players):

Row 1: Huawei Cloud | Beijing University of Posts and Telecommunications / Peking University Third Hospital | BAICHUAN Technology co., ltd. | Mindray

Row 2: Shukuntech | iFLYTEK Co., Ltd.| B-soft | Winning Health Technology Group Co.,Ltd

Row 3: Runda Medical | Huawei Enterprise | Shanghai AI Laboratory | GUANGDONG SECOND PROVINCIAL GENERAL HOSPITAL / Huawei Enterprise / Lifetech Scientific Corporation / ClouDr Group Limited

AI-Assisted TCM Diagnosis:

Macrocura | Dajing TCM | Nanjing University of Traditional Chinese Medicine / Macrocura | Henan College of Traditional Chinese Medicine / University of Science and Technology Beijing | Sun Yat-sen University

3. DOWNSTREAM: Deployment at Scale

Top Hospitals Already Live:

Peking University Third Hospital
Peking University People's Hospital
Nanjing Medical University
Shenzhen Luohu People's Hospital

And more...

The Lesson:

China didn't build "one AI for healthcare."

They built specialized stacks:

· 23 companies for imaging
· 12 for clinical decisions
· 5 for Traditional Chinese Medicine

This isn't a market. It's a parallel healthcare AI universe.

Which company on this map surprised you most?

Philippe GERWILL | Edmund White | Harvey Castro, MD, MBA. | Rizwan Tufail | Asim Khan

#AIHealthcare #ChinaHealthTech #MedicalAI #HealthTech #MarketMap

—

Enjoy this? ♻️ Repost it to your network and follow Effie GUO for more. | 34 comments on LinkedIn

Avant même de consulter un médecin, de plus en plus de patients interrogent une intelligence artificielle (IA) comme ChatGPT ou Claude pour interpréter leurs symptômes ou comprendre des résultats d'examens.

Face à cette tendance, des chercheurs de l’Université de Birmingham, au Royaume-Uni, lancent un programme international pour créer le premier guide destiné à aider le public à utiliser en toute sécurité les chatbots de santé.

Le projet, détaillé dans la revue Nature Health, est baptisé "The Health Chatbot Users' Guide".

#santé #IA #innovation

#IA #Usage CREDOC

Plus de 4 000 Français ont été interrogés par le CRÉDOC sur leurs usages de l’IA générative. En résulte une adoption massive, portée par les plus jeunes. Tour d’horizon.

https://lnkd.in/enRwJwYe

Encore une publication de référence : la nouvelle édition du classement des applications d’IA générative les plus populaires (web et mobile).
➡️ ChatGPT toujours en tête, mais talonné par Gemini
➡️ De grosses disparités entre les pays occidentaux (US, UK, DE...)
➡️ Bcp d’usages autour de la génération d’images
https://lnkd.in/dk5Rank6 | 13 comments on LinkedIn

Les IA médicales sont-elles vraiment capables de déjouer les fausses informations ? Une nouvelle étude massive soulève un paradoxe fascinant. 🤖🩺

Bienvenue dans l’univers IAtrogénique × IAtus, mes deux IA complémentaires. Face à chaque grand sujet IA/Santé, chaque réflexion possède son “double” : une version critique et une version narrative.

Aujourd'hui, nous analysons une étude testant 20 grands modèles de langage (LLMs) avec plus de 3,4 millions de requêtes pour évaluer leur résistance à la désinformation médicale.

Voici leurs verdicts :

🚨 La version IAtrogénique (L'œil critique) L'étude révèle une faille de sécurité majeure : les LLMs absorbent massivement les fausses recommandations médicales lorsqu'elles sont rédigées avec le ton formel et autoritaire d'un compte-rendu d'hôpital.

Le plus inquiétant ? Les modèles d'IA spécifiquement surentraînés pour la médecine (medical fine-tuned) se laissent encore plus facilement berner par les hallucinations que les modèles généralistes.
Même si GPT-4o s'en sort le mieux, il valide tout de même 10,6 % des informations médicales fabriquées.
Sans des garde-fous stricts, le risque de voir des résumés cliniques générés par l'IA propager des conseils dangereux est bien réel.

📖 La version IAtus (L'œil narratif) Il était une fois une machine qui devenait plus lucide à mesure qu'on essayait de la manipuler.

C'est l'étonnant paradoxe révélé par les chercheurs : si vous glissez une fausse information médicale dans un discours rempli de "sophismes" (comme l'appel à l'émotion ou l'appel à la popularité très présents sur les réseaux sociaux), l'IA repère le piège et rejette la désinformation !
Le langage informel éveille son "scepticisme". En revanche, murmurez-lui un mensonge avec la voix glaciale d'un expert reconnu ("appel à l'autorité") ou un argument de la "pente glissante", et elle tombera dans le panneau.
Une belle métaphore de notre propre vulnérabilité face aux figures d'autorité.

📊 Pour l'infographie : Retrouvez ci-dessous la synthèse visuelle des performances de ces modèles (OpenAI, Meta, Google...) et l'impact de nos biais de langage sur leur "jugement" !

🔗 Source de la publication : "Mapping the susceptibility of large language models to medical misinformation across clinical notes and social media: a cross-sectional benchmarking analysis". Publié dans : The Lancet Digital Health (Février 2026). Lien : https://lnkd.in/edAKhfbr.

📥 Ne manquez pas mes prochaines analyses ! Pensez à vous abonner à ma newsletter dédiée aux sujets IA / DIGITAL / SANTE en cliquant ici : https://lnkd.in/eENTNBWR
🔔 Et n'oubliez pas de suivre les hashtags #IAtrogénique et #IAtus pour découvrir chaque réflexion et son double !
#IA #SanteNumerique #LLM #Desinformation #HealthTech #ChatGPT #MedicalData

Everyone is adding “AI” to healthcare apps right now.
But many times it’s just:
pick a model → add a chatbot → call it AI healthcare.

That approach rarely solves real problems.

Healthcare is too sensitive for hype. Data quality, safety, privacy, and clinical workflows actually matter and many AI health apps ignore those fundamentals. Studies and experts often point out issues like bias in models, unreliable medical advice, and privacy risks when AI is poorly integrated.

What’s more interesting is when AI is used thoughtfully inside the workflow, not just as a feature.

Platforms like Augi Health are a good example of a more practical direction focusing on how AI can support patient engagement and doctor communication rather than pretending AI replaces healthcare professionals.

The difference is subtle but important:
smart integration vs AI for marketing.

If you're curious about where more responsible AI-driven healthcare tools are heading, you can check it out here:

https://lnkd.in/gwfq5ZMn

#AIinHealthcare #DigitalHealth #HealthTech #MedTech #HealthcareInnovation #FutureOfHealthcare #PatientCare #AI #HealthApps #HealthcareTechnology

One thing healthcare isn’t short on these days is information.

It’s offered up to clinicians via conferences, webinars, journals, booklets, pamphlets, newsletters, headlines, slide decks, inboxes… it’s an endless stream of updates.

The challenge today isn’t accessing knowledge, it’s processing it.

We are all hearing this more and more: “There’s just too much to keep up with.”

That’s not a motivation problem; it’s a cognitive load problem.

Check out my tips below on how to reduce cognitive load in health education.

__
When you’re ready, here’s how I can help:
- Partner with life science teams to design medical education that delivers insight, not just information.
- Build engagement strategies that use visuals and structure to reduce cognitive load for clinicians and patients.

Je viens de lire une étude qui montre un vrai problème pour l'avenir de l’IA.
Je vous explique :

1️⃣ Les grands modèles d'IA (ChatGPT, Llama, etc.) sont entrainés à partir de textes et d'images trouvés sur internet.

2️⃣ Or, internet est de plus en plus rempli de contenu généré par IA (blogs, réseaux sociaux, Youtube, banque d'images, etc...)

➡️Question légitime :
Que se passera-t-il quand les prochaines générations d'IA s'entraîneront sur les données produites par les générations précédentes ?

Pour y répondre, les chercheurs ont donc pris un modèle de langage et l'ont entraîné en boucle sur ses propres productions.

Génération après génération, le modèle commence par perdre les idées rares, puis converge vers un contenu banal et uniforme, et finit par produire du non-sense.

Mathématiquement, ils montrent que ce processus est inévitable : quelle que soit la taille du modèle, c'est ce qui se produira si l'IA s'entraine sur ses propres données.

Du coup, avec ce scénario, les prochains modèles risquent d'être de moins en moins capables de représenter les idées minoritaires, puis deviendront progressivement inintéressants... avant de terminer complètement débiles.

Mais j'imagine que les ingénieurs IA sont déjà sur le coup.

(Note : les chercheurs ont travaillé sur du texte et des images de chiffres manuscrits – pas sur des photos de chiens. Mon image ci-dessous, c'est juste pour illustrer).

-----------
Refs :
- Shumailov et al. (2024) AI models collapse when trained on recursively generated data. Nature
- Wenger (2024) AI produces gibberish when trained on too much AI-generated data. Nature | 227 comments on LinkedIn

🚨 32.5% increase in patient preference. Not from a clinician in the loop. Not from the FDA. From AI performance.

Quite interesting survey of 3,000 US adults quantified what actually drives patient trust in medical AI:

→ AI performing above specialist level increased the probability of a patient choosing that visit by 32.5%. That's nearly three times the effect of FDA approval alone.

→ The findings suggest that governance strategies, FDA approval, clinician in the loop, and local validation all increase patient trust. But none comes close to the effect of transparent performance data: which patients almost never receive today.

👉 But here's the deeper question: patients want to know that AI performs at specialist level. Do we actually know how to measure that? "Better than a specialist" sounds reassuring, but what does it mean in practice? Accuracy on a curated test set? Synthetic cases that challenge diagnosis?

Before we can be transparent about AI performance, we need far more comprehensive frameworks for assessing it, including how models communicate what they don't know and their level of uncertainty.

Bracic A, et al Factors for Patient Trust and Acceptance of Medical Artificial Intelligence. JAMA Netw Open. 2026

Announcing #CognitiveAI at the Département d'Études Cognitives, ENS-PSL Ecole normale supérieure.
Under the impetus of Charlotte Jacquemot and the DEC executive council, I am very pleased to coordinate this initiative together with Alda Mari.

The program is structured around five research axes and brings together many research teams across #philosophy, #linguistics, #neuroscience, #psychology, and #machinelearning, with the aim of fostering interdisciplinary work on the cognitive foundations and implications of AI.

Looking forward to the collaborations and discussions ahead!

more info here: https://lnkd.in/euqe33AP

The Cognitive AI initiative brings together research that approaches AI from multiple, complementary perspectives. Some work focuses on the design and improvement of artificial systems themselves, building on insights from neuroscience and cognitive science. Other research uses AI as a scientific instrument, treating computational models as tools to probe the mechanisms of human cognition and brain function. As AI systems increasingly interact with humans and are deployed in real-world contexts, additional efforts examine human–AI interaction, societal impact, and applications in education and health. Finally, the rise of AI raises foundational philosophical and ethical questions about meaning, agency, responsibility, and the nature of intelligence itself.
These five axes together define a coherent and integrated research landscape. Rather than treating AI as an isolated technology, Cognitive AI research emphasizes continuous dialogue between artificial systems, human cognition, and society. This integrative perspective allows scientific advances to inform responsible innovation, while grounding AI development in robust cognitive theory and empirical evidence.
| 10 comments on LinkedIn