Intelligenza Artificiale e ChatGPT: dobbiamo preoccuparci? #intelligenzaartificiale

9 Ottobre 2023 admin

L’uso di programmi per computer che utilizzano tecnologie automatizzate non è una novità, ad esempio sono sicuro che tutti abbiamo sperimentato siti Web che utilizzano chatbot, ad esempio la mia università ha integrato l’uso di un chatbot (Università di Cardiff). Tuttavia i recenti sviluppi hanno fatto sì che questi diventino molto più sofisticati, tanto che può essere difficile distinguere tra le interazioni con un essere umano e quelle con un computer. Un programma che attira un crescente livello di interesse è ChatGPT, in grado di generare e comprendere il linguaggio naturale (OpenAI, 2023). Per quelli di noi che lavorano nelle università c’è preoccupazione per l’uso di questi strumenti da parte degli studenti per ottenere un vantaggio ingiusto nel superare gli esami (Varanasi, 2023), tuttavia i sostenitori sostengono che tali programmi possono essere utilizzati efficacemente in contesti sanitari (Dave et al , 2023; Johnson et al. 2023; Loh 2023). I potenziali usi identificati dalla letteratura includono:

Fornire educazione e supporto al paziente in termini laici
Supportare le consultazioni di telemedicina fornendo suggerimenti per le domande da parte degli operatori sanitari
Personalizzazione dei trattamenti suggeriti in base alle esigenze del paziente e monitoraggio dei progressi
Migliorare il coinvolgimento e l’adesione dei pazienti fornendo promemoria e incoraggiamento alle persone.

Per quanto riguarda la ricerca, ci sono suggerimenti secondo cui ChatGPT potrebbe essere utilizzato per supportare il reclutamento e il mantenimento dei pazienti negli studi clinici, sempre fornendo informazioni, incoraggiamento e consulenza continui (OpenAI, 2023). Inoltre, ChatGPT potrebbe funzionare per automatizzare la codifica medica, il che potrebbe, a sua volta, ridurre il rischio di errori e migliorare l’efficienza nelle strutture sanitarie OpenAI (2023).

Tuttavia ci sono anche preoccupazioni riguardanti questioni etiche, ad esempio è noto che il programma ha riferimenti inesistenti e potrebbe fornire informazioni imprecise. L’ho testato chiedendo informazioni sul sistema di classificazione delle lacerazioni cutanee dell’International Skin Tear Panel, mi ha informato che esistono quattro categorie, ma non esistono! Pertanto l’utilizzo del programma non è esente da limitazioni e richiede comunque un buon livello di conoscenza e giudizio. È interessante notare che quando ho informato il programma che le informazioni non erano corrette, si è scusato e ha generato riferimenti sull’argomento. Tuttavia solo due dei riferimenti erano rilevanti e nessuno dei collegamenti forniva accesso diretto all’articolo corretto! Ecco quindi uno dei limiti attuali.

Ci sono anche preoccupazioni circa le implicazioni medico-legali dell’utilizzo di ChatGPT, ad esempio cosa accadrebbe se un operatore sanitario o un paziente seguisse i consigli/le indicazioni generate dal programma provocando un danno. Potrebbero esserci anche problemi di copyright con opinioni divergenti sull’opportunità o meno di elencare ChatGPT come autore negli articoli scientifici in cui ha generato parte del contenuto (Stokel-Walker, 2023).

Sono sicuro che ricorderete le preoccupazioni sull’uso di Wikipedia e Google quando emersero per la prima volta, eppure siamo arrivati ad accettarle come parte della vita di tutti i giorni e abbiamo imparato a essere cauti nei confronti delle informazioni e a verificarne l’autenticità. Gli sviluppi successivi hanno visto Cochrane e Wikipedia lavorare insieme per migliorare l’accesso all’educazione sanitaria (Cochrane, 2023) e Google espandersi per includere Google Scholar come motore di ricerca specifico per supportare l’attività di ricerca. Quindi forse dobbiamo accettare che ChatGPT è qui per restare e la migliore linea d’azione è cercare di comprendere la tecnologia e considerare come possiamo usarla in modo efficace. Per quelli di voi che lavorano nell’istruzione superiore, la Quality Assurance Agency (QAA, 2023) ha alcune risorse utili tra cui un webinar registrato – ChatGPT: vietare o non vietare?

Per concludere, ecco alcune domande su cui riflettere (Anney, 2023):