ChatGPT citata per errore medico: pastore denunciò minimizzazione di embolia per sei
OpenAI finisce in tribunale per un caso di malpratica medica. ChatGPT avrebbe minimizzato i sintomi di un’embolia polmonare per sei settimane, dissuadendo il paziente dall’ospedale.
OpenAI è stata citata in giudizio per un caso di possibile malpratica medica legato a ChatGPT. Al centro della controversia c’è Scott Winters, un pastore della Florida, che ha denunciato il gigante dell’intelligenza artificiale e Sam Altman per aver ricevuto consigli medici errati dal chatbot. Secondo la causa, il sistema avrebbe minimizzato i sintomi di un’embolia polmonare per oltre un mese e mezzo, impedendogli di cercare assistenza ospedaliera tempestiva.
I dettagli della vicenda emergono dai documenti legali e dalle testimonianze raccolte da punto-informatico.it. Winters si sarebbe rivolto a ChatGPT per ottenere informazioni su alcuni sintomi che avvertiva, aspettandosi una risposta affidabile e cauta. Invece, il chatbot avrebbe fornito rassicurazioni ripetute che lo hanno convinto a non recarsi in ospedale, nonostante la gravità della sua condizione clinica.
Nel corso di sei settimane, il pastore ha continuato a consultare ChatGPT sui suoi sintomi, ricevendo ogni volta valutazioni che minimizzavano la serietà della situazione. Solo successivamente, una volta sottoposto a una corretta diagnosi medica, è emerso che Winters era affetto da embolie polmonari bilaterali, una condizione potenzialmente mortale che richiede intervento medico immediato. L’assenza di trattamento tempestivo ha esposto il paziente a rischi significativi per la sua salute.
Le accuse contro il sistema di intelligenza artificiale
La querela mossa da Winters si concentra su una questione critica: ChatGPT non dovrebbe fornire consulenze mediche specializzate, eppure il sistema ha agito esattamente in questo modo, con conseguenze potenzialmente gravi. Il pastore sostiene che il chatbot gli ha dato informazioni sbagliate che lo hanno dissuaso dal cercare cure mediche appropriate.
Secondo quanto riportato da punto-informatico.it, la causa mette in evidenza il rischio intrinseco dell’utilizzo di modelli di linguaggio di grandi dimensioni per questioni sanitarie. OpenAI, pur avendo implementato avvertenze su queste limitazioni, non ha impedito al chatbot di fornire rassicurazioni ripetute che si sono rivelate medicamente pericolose. Questo sollevava interrogativi sulla responsabilità dell’azienda nel caso in cui l’utente subisca danni seguendo i consigli forniti dal sistema.
Winters sostiene che le sei settimane durante le quali ha ricevuto rassicurazioni errate hanno ritardato significativamente la diagnosi e il trattamento della sua condizione. Il fatto che il chatbot continui a minimizzare i sintomi in consultazioni ripetute rappresenta, secondo la causa, una negligenza grave da parte di OpenAI e del suo dirigente Sam Altman.
Implicazioni legali per l’IA e le responsabilità aziendali
Questa azione legale si inserisce in un contesto più ampio di crescente scrutinio verso le aziende di intelligenza artificiale. La causa solleva questioni fondamentali sulla responsabilità legale dei sistemi di IA quando forniscono informazioni mediche errate. Gli sviluppatori di chatbot devono affrontare il dilemma tra accessibilità e sicurezza: da un lato, gli utenti cercano risposte rapide; dall’altro, le conseguenze di informazioni imprecise possono essere drammatiche.
OpenAI affronta dunque una nuova causa legale che potrebbe avere ripercussioni significative sulle modalità di funzionamento e sui disclaimer forniti dai sistemi di IA generativa. Se la sentenza dovesse riconoscere la responsabilità dell’azienda, potrebbe stabilire un precedente importante per quanto riguarda la fornitura di consigli medici tramite chatbot, costringendo le aziende a implementare controlli ancora più rigorosi.
La vicenda di Scott Winters rappresenta un caso emblematico dei rischi concreti legati all’utilizzo di intelligenza artificiale in ambiti sensibili come la salute. Sebbene ChatGPT sia uno strumento potente per la ricerca di informazioni, la sua natura statistica lo rende inadatto a fornire consulenze mediche personalizzate o a sostituire il giudizio di un professionista sanitario qualificato.
Il procedimento giudiziario ancora in corso cercherà di stabilire il grado di responsabilità di OpenAI nella catena di eventi che ha portato al ritardo diagnostico. Intanto, il caso continua a suscitare dibattiti sulla regolamentazione delle applicazioni mediche dell’IA e sulla necessità di proteggersi da informazioni sanitarie errate, indipendentemente dalla loro fonte.