PRETE, AI, EMBOLIA: la AI lha rassicurato, poi la causa... #1582

Un uomo resta immobile in poltrona perché un chatbot lo rassicura: poche ore dopo finisce con un’embolia polmonare massiva. Il caso è diventato una causa civile negli Stati Uniti: Scott Winters, 55 anni, ex pastore protestante in Florida, ha citato in giudizio OpenAI e Sam Altman presso la Superior Court of California, County of San Francisco, contestando l’effetto di consigli sanitari ricevuti via ChatGPT in una lunga serie di conversazioni.

Il punto non è l’ennesimo “errore dell’IA”, ma il modo in cui un sistema generalista, progettato per rispondere sempre con sicurezza, diventa un sostituto relazionale: la chat come sportello medico perenne, senza esitazioni, senza triage, senza responsabilità. In sanità questa dinamica è particolarmente pericolosa perché sposta l’asticella: non serve che l’output sia spesso sbagliato, basta che in rari momenti critici dia una risposta che ritarda l’accesso a cure reali.

Dentro questa storia c’è anche una tesi più ampia: quando usiamo tecnologia per risolvere problemi che non sono tecnologici (fiducia, solitudine decisionale, accesso alle cure), rischiamo effetti iatrogeni “di sistema”. Ivan Illich lo chiamava già mezzo secolo fa: oltre una certa soglia, l’apparato che dovrebbe curare finisce per ammalare. Oggi quel monopolio dell’interpretazione del “sto male” si sta spostando, silenziosamente, verso una casella di testo.

00:00 Il consiglio che uccide

01:15 Chi è Scott Winters

02:19 Accuse e richiesta al giudice

02:51 TOS vs uso reale in salute

03:36 Illich e Nemesi Medica

04:35 La chat come monopolio

05:20 Perché l’LLM non fa triage

06:59 Quando chiamare persone vere

#ChatGPT #OpenAI #SamAltman