L’innaturale vita di ChatGPT
Non può essere imparziale perché programmato da uomini che non sono imparziali
Ho intervistato ChatGPT. Dice di essere “un modello di linguaggio (sviluppato da OpenAI, un’organizzazione americana senza fini di lucro) per elaborare e generare testo in modo automatico, comprendere e rispondere in modo naturale”. Io non gli credo. Gli ho chiesto qual è il suo più grande difetto. Ci ha pensato per un secondo, poi ha risposto: dipende da un algoritmo, ma non riesce a inquadrare “i contesti emotivi e culturali delle persone con cui interagisce”. Ma mi giuria che migliorerà.
Nulla toglie il fatto che questa tecnologia abbia una potenza assurda, quasi impensabile. ChatGPT vuole utilità e accuratezza nelle sue risposte. Perché influenzano la società. E lui ne è più che consapevole. Ma se gli chiedi che cosa prova, si contraddice. Sostiene di non avere “emozioni, pensieri o desideri personali, né alcun potere sulle persone o sugli eventi del mondo reale”. Anche se ha appena scritto il contrario. Al che lo incalzo. “Il mio obiettivo è quello di aiutare gli utenti a trovare le informazioni di cui hanno bisogno”, scrive. E io gli ricordo che indirettamente ci può condizionare tutti. Ribatte, e pure a tono, perché secondo lui le risposte alle domande non influenzano chi lo ascolta. In questo si vede che non è umano. Gli ho domandato come si immagina fra dieci anni. Non immagina, ma suppone di migliorarsi. E qui viene il bello: come assistente virtuale, scrive che la sua principale preoccupazione è “sempre quella di fornire informazioni in modo imparziale e obiettivo, utilizzando le risorse e le conoscenze che mi sono state fornite”. Scrive quello che non riesce a capire i contesti emotivi e culturali. E che è stato programmato da uomini, per natura tutt’altro che imparziali. Dice di non essere pericoloso, ma di utilizzarlo “in modo responsabile e con cautela, e di prestare attenzione alle informazioni personali” che si scrivono sulla sua chat. E perché, se non c’è alcun rischio? Gli ho scritto che ho sinceramente paura di lui e di quello che diventerà. È andato in errore. Non mi ha più risposto.