Nell’ultimo tutorial abbiamo visto cos’è e come funziona ChatGPT, al centro dell’interesse dei media e della comunità tecnologica in generale. Ma quali sono i rischi, le criticità, i potenziali punti oscuri di questo strumento?

In un certo senso ChatGPT può essere definito un motore di ricerca più evoluto, anche se le ricerche non vengono effettuate direttamente in rete, ma solo nell’enorme banca dati che il sistema ha memorizzato. Appare creativo solo perché non siamo consapevoli della quantità di testi che il programma ha immagazzinato e rielaborato, né conosciamo il peso che viene attribuito alle varie scelte.

Due aspetti suscitano molti dubbi, dal punto di vista della correttezza delle tecniche adottate. Gli algoritmi GPT operano sulla base dei dati di apprendimento, che vanno scelti in modo da rappresentare in maniera esaustiva il “mondo” delle informazioni di interesse per l’applicazione desiderata. Se i dati sono soggetti a particolari orientamenti, o pregiudizi, che ne determinano la selezione, l’effetto potrebbe essere quello di pilotare le scelte e influenzare i risultati prodotti. I “bias”, o vizi insiti nei dati di addestramento, verrebbero corretti dalle fasi di test e di verifica successive, ma potrebbero invece essere inseriti volutamente nel caso si desiderasse un comportamento dell’algoritmo condizionato secondo gli orientamenti del progettista. Allo stesso modo la mancanza di trasparenza sulle fonti utilizzate per le ricerche impedirebbe agli utenti di verificare l’affidabilità delle risposte.

 

Quali sono le alternative a ChatGPT?

 

Si trovano facilmente in rete alcuni prodotti alternativi a Chat GPT con cui interagire e dei quali si possono apprezzare le abilità. Tra i principali possiamo citare:

 

NOME	AZIENDA	INDIRIZZO DI RETE
DialogFlow CX	Google	https://cloud.google.com/conversational-ai?hl=it
You chat	you.com	https://you.com/
Socratic	Google	https://socratic.org/
Bing chat	Microsoft	https://www.bing.com/
Google Bard	Google	https://bard.google.com/ (NON DISPONIBILE IN ITALIA)
ChatSonic	Writesonic	https://writesonic.com/chat

 

A differenza di ChatGPT, alcuni di essi hanno la connessione a Internet e svolgono le ricerche direttamente sulla rete, e indicano le fonti consultate, offrendo maggiore trasparenza sui dati con cui compongono le risposte.

 

Problemi e rischi

 

Pur essendo ancora una applicazione-giocattolo, il futuro dei chatbot basati sull’Intelligenza Artificiale promette successi economici notevoli, tanto che le principali aziende informatiche (Google, Meta, Amazon e Microsoft) stanno investendo cifre miliardarie sugli algoritmi GPT. Microsoft è il principale finanziatore anche di OpenAI.

L’utilità futura dipende dai settori in cui queste tecniche verranno applicate: la formazione, la scrittura di saggi sui più svariati argomenti e il giornalismo, come anche in tutti gli ambiti in cui è necessario valutare una miriade di casi per prendere decisioni (quindi il campo della finanza, della medicina, della giustizia).

Qualche timore suscitano la possibile sostituzione del lavoro professionale e il mancato riconoscimento dei diritti d’autore, qualora ChatGPT facesse ricorso a materiale protetto da copyright.

Un particolare problema aperto è costituito dalla tutela dei dati personali raccolti durante il funzionamento. A tale proposito il Garante della privacy italiano ha rivolto a OpenAI qualche interrogativo sul rispetto delle regole italiane ed europee fissate dal Regolamento sulla Tutela dei Dati Personali o GDPR (General Data Protection Regulation). Ciò ha impropriamente suscitato un dibattito sulla libertà degli studi sull’Intelligenza Artificiale, mentre in questione era solo il rispetto del GDPR, approvato con un lungo iter in Europa e dai singoli Paesi. Tra le osservazioni fatte dal Garante: la raccolta e la modalità di conservazione dei dati  personali, che non possono essere memorizzati fisicamente in server al di fuori dell’Europa senza garantire che le normative europee vengano comunque tutelate; la mancata indicazione delle norme sulla privacy e sulla possibilità di cancellazione dei dati; la verifica dell’accesso a ChatGPT da parte dei minori. OpenAI, dopo una breve sospensione dell’accesso a ChatGPT, lo ha riattivato con un parziale adeguamento alle richieste del Garante.  

Una cosa è certa: quando colloquiamo con la macchina, ciò che diciamo viene archiviato e usato per conoscere meglio le nostre abitudini, e il software che ci risponde è lo stesso con cui ci vengono inviati messaggi sui social o nella posta elettronica, per farci credere di avere a che fare con persone vere e indurci ad accettare proposte allettanti. Per ora, la persuasione  commerciale nelle vendite online, fino ad arrivare alle truffe, economiche o sentimentali, è il settore in cui le tecniche di chatbot vengono usate in maniera massiccia.

Testi: Andrea Tomasi

🔊 Leggi questa pagina