{"id":2703,"date":"2023-04-04T10:03:54","date_gmt":"2023-04-04T08:03:54","guid":{"rendered":"https:\/\/eticadigitale.org\/?p=2703"},"modified":"2023-04-04T14:49:44","modified_gmt":"2023-04-04T12:49:44","slug":"il-garante-italiano-non-ha-bloccato-chatgpt","status":"publish","type":"post","link":"https:\/\/eticadigitale.org\/2023\/04\/04\/il-garante-italiano-non-ha-bloccato-chatgpt\/","title":{"rendered":"Il Garante italiano non ha bloccato ChatGPT"},"content":{"rendered":"\n<h4 class=\"wp-block-heading\"><strong>Indice:<\/strong><\/h4>\n\n\n\n<ul>\n<li><a href=\"#introduzione\">Un grande malinteso<\/a><\/li>\n\n\n\n<li><a href=\"#come-funziona\" data-type=\"internal\" data-id=\"#come-funziona\">Come funziona ChatGPT<\/a><\/li>\n\n\n\n<li><a href=\"#provvedimento\">Cosa dice il provvedimento del garante<\/a><\/li>\n\n\n\n<li><a href=\"#chiudere\">Il garante pu\u00f2 far chiudere un&#8217;azienda?<\/a><\/li>\n\n\n\n<li><a href=\"#privacy\">Privacy, la punta dell&#8217;iceberg<\/a>\n<ol>\n<li><a href=\"#errori\">Errori e falsit\u00e0<\/a><\/li>\n\n\n\n<li><a href=\"#pregiudizi\">Pregiudizi e discriminazioni<\/a><\/li>\n\n\n\n<li><a href=\"#sfruttamento\">Sfruttamento del lavoro<\/a><\/li>\n\n\n\n<li><a href=\"#emissioni\">Emissioni di carbonio<\/a><\/li>\n\n\n\n<li><a href=\"#proprieta\" data-type=\"internal\" data-id=\"#proprieta\">Propriet\u00e0 intellettuale, segreti aziendali e diritto d&#8217;autore<\/a><\/li>\n\n\n\n<li><a href=\"#altri\">Problemi aggiuntivi<\/a><\/li>\n<\/ol>\n<\/li>\n\n\n\n<li><a href=\"#adesso\">Cosa succede adesso?<\/a><\/li>\n<\/ul>\n\n\n\n<h4 class=\"wp-block-heading\" id=\"introduzione\">Un grande malinteso <\/h4>\n\n\n\n<p>In questo momento di clamore sulla cosiddetta intelligenza artificiale (che non \u00e8<a href=\"https:\/\/www.doppiozero.com\/ia-ne-intelligente-ne-artificiale\"> n\u00e9 intelligente, n\u00e9 artificiale<\/a>) \u00e8 necessario alzare ogni giorno barriere per difendersi da proclami tanto fumosi quanto assertivi sulle sue potenzialit\u00e0 dirompenti &#8211; sempre future, sempre generiche &#8211; e stare ben ancorati nella realt\u00e0 dei rischi che essa pone: ben documentati, specifici e presenti.<\/p>\n\n\n\n<p>Quando si parla di &#8220;IA generativa&#8221; (come ChatGPT, per intenderci rapidamente) sembriamo poi soffrire di una amnesia collettiva: questa tecnologia, tramite sistemi statistici chiamati grandi modelli di linguaggio, \u00e8 in grado di produrre scritti e immagini cos\u00ec plausibili da far dimenticare anche a chi li conosce i meccanismi sottostanti. <\/p>\n\n\n\n<p>Dal 30 marzo 2023 c&#8217;\u00e8 ancora pi\u00f9 confusione ed emerge il divario di conoscenza tra chi utilizza sistemi come ChatGPT, chi li regola e chi li produce. La confusione aggiuntiva arriva a causa di un <a href=\"https:\/\/www.garanteprivacy.it\/home\/docweb\/-\/docweb-display\/docweb\/9870832\">provvedimento<\/a> del Garante per la privacy, che ha ingiunto a OpenAI, l&#8217;azienda produttrice del software, di sospendere il trattamento dei dati personali delle persone stabilite sul territorio italiano e le ha dato 20 giorni per giustificare le violazioni e rimettersi in regola.&nbsp;<\/p>\n\n\n\n<p>OpenAI ha reagito bloccando il servizio sul territorio italiano, come comunicato da Sam Altman, il suo amministratore delegato, in un tweet di venerd\u00ec:&nbsp;<\/p>\n\n\n\n<figure class=\"wp-block-image\"><img decoding=\"async\" src=\"https:\/\/lh5.googleusercontent.com\/Aweu7Zr6FcFK4WRU6DPszRoQBBHIGW50y_Xe1ZAw_C71Spb22K0M3c5FPsxdADUYh-2jFU_NIpGiKG_0FHElVEQbwMI_k4rTt7IMeF_GZtVCX7gTcUJpMYNs07d2kzFKT4Y4c8UzELvLrajinJZ5bU4\" alt=\"\"\/><figcaption class=\"wp-element-caption\">Ci rimettiamo al governo italiano e abbiamo sospeso l&#8217;offerta di ChatGPT in Italia (anche se crediamo di star rispettando tutte le leggi sulla privacy). L&#8217;Italia \u00e8 uno dei miei paesi preferiti e non vedo l&#8217;ora di visitarla di nuovo! (<a href=\"https:\/\/twitter.com\/sama\/status\/1641897800236687360\" target=\"_blank\" rel=\"noreferrer noopener\">qui<\/a> il tweet)<\/figcaption><\/figure>\n\n\n\n<p class=\"has-small-font-size\"><\/p>\n\n\n\n<p>Il Garante non \u00e8 stato <a href=\"https:\/\/www.fieldfisher.com\/en\/insights\/does-chatgpt-comply-with-eu-gdpr-regulations-inves\">il primo n\u00e9 l&#8217;unico<\/a> ad aver notato che ChatGPT non \u00e8 (e forse non potr\u00e0 mai essere) conforme al regolamento europeo per la privacy, ma \u00e8 stato il primo ad agire concretamente contro OpenAI.&nbsp;<\/p>\n\n\n\n<p>Dato che la reazione dell&#8217;azienda \u00e8 stata rapida e gi\u00e0 a poche ore dal provvedimento non era pi\u00f9 possibile accedere al servizio dall&#8217;Italia, molti ne hanno concluso che il Garante avesse la facolt\u00e0 di bloccare ChatGPT. Questo ha provocato <a href=\"https:\/\/twitter.com\/GPDP_IT\/status\/1641736065957363712\">reazioni indignate ma fuori squadra<\/a>: si sono levati lamenti sulla scarsa lungimiranza dell&#8217;Italia, paragoni del nostro Paese con Cina, Iran e Corea del Nord quanto a censura, richieste di ripristinare il servizio immediatamente, <a href=\"https:\/\/www.change.org\/p\/ritirate-il-blocco-a-chatgpt-in-italia-garantiamo-accesso-all-ai\">raccolte di firme e petizioni<\/a> con toni di urgenza che forse meriterebbero una causa diversa.&nbsp;<\/p>\n\n\n\n<p>Non \u00e8 cos\u00ec: il Garante non ha la facolt\u00e0 di chiudere un&#8217;azienda in 24 ore e nemmeno ne ha richiesto la chiusura, e lo vedremo tra poco leggendo insieme il testo del provvedimento. Ma prima di andare alla fonte \u00e8 utile dire due parole su come funzionano ChatGPT e le IA conversazionali (cio\u00e8 i chatbot) di ultima generazione che si basano sulla stessa tecnologia.&nbsp;&nbsp;<\/p>\n\n\n\n<h4 class=\"wp-block-heading\" id=\"come-funziona\"><strong>Come funziona ChatGPT&nbsp;<\/strong><\/h4>\n\n\n\n<p>ChatGPT \u00e8 un modello stocastico che ha &#8220;imparato a scrivere&#8221; grazie a due fasi di addestramento: la prima, il pre-addestramento, \u00e8 stata fatta su un enorme blocco di testo, ottenuto mettendo insieme milioni di testi diversi &#8211; articoli, libri, Wikipedia, e altri testi online. In questa fase il modello si \u00e8 addestrato &#8220;imparando&#8221; in modo autonomo, senza supervisione umana, a prevedere le parole mancanti di diverse combinazioni di testo incomplete, che gli sono state nascoste e poi rivelate. Una volta completato il pre-addestramento, c&#8217;\u00e8 una seconda fase di rinforzo umano in cui gli utenti del modello possono valutare la bont\u00e0 delle risposte attribuendo loro un pollice su o gi\u00f9.<\/p>\n\n\n\n<p>In questo modo il sistema ha acquisito l&#8217;abilit\u00e0 di fare congetture plausibili (l&#8217;etimologia della parola stocastico rimanda appunto a &#8220;congetturale&#8221;), indovinando&nbsp; la concatenazione di parole pi\u00f9 probabile per soddisfare una determinata richiesta, basandosi sul testo che gli \u00e8 stato fornito nella fase di addestramento e i riscontri ricevuti successivamente.&nbsp;<\/p>\n\n\n\n<p>Anche se OpenAI non dichiara con precisione i testi utilizzati, nel calderone sono finiti 300 miliardi di parole, che corrispondono a 570GB di dati ottenuti da testi di qualunque tipo disponibili online, libri, articoli e Wikipedia (<a href=\"https:\/\/www.sciencefocus.com\/future-technology\/gpt-3\/\">fonte<\/a>). I testi sono stati utilizzati per l&#8217;addestramento senza chiedere il consenso a chi li ha prodotti, e nel <em>corpus<\/em> di addestramento ci sono naturalmente anche dati personali e sensibili. <\/p>\n\n\n\n<p>Nel comporre una risposta, ChatGPT mette assieme parole provenienti da testi diversi, che sono state raggruppate dal modello. Questo \u00e8 il motivo per cui i suoi enunciati possono essere sbagliati, anche se risultano sempre corretti dal punto di vista sintattico e grammaticale: e quando a essere falsi sono enunciati che riguardano persone esistenti ci troviamo di fronte a una violazione del GDPR. Di quest&#8217;ultimo argomento parleremo pi\u00f9 estesamente tra poco.&nbsp;<\/p>\n\n\n\n<h4 class=\"wp-block-heading\" id=\"provvedimento\"><strong>Cosa dice il provvedimento del garante<\/strong><\/h4>\n\n\n\n<p>Il provvedimento del Garante ha sollevato i seguenti punti, in violazione degli articoli 5, 6, 8, 13 e 25 del GDPR (per chi ne avesse voglia, <a href=\"https:\/\/www.garanteprivacy.it\/web\/guest\/home\/docweb\/-\/docweb-display\/docweb\/6264597\" target=\"_blank\" rel=\"noreferrer noopener\">qui<\/a> si pu\u00f2 scaricare il testo in italiano del Regolamento):<\/p>\n\n\n\n<ul>\n<li>ChatGPT non informa gli utenti i cui dati personali sono stati utilizzati per il suo addestramento n\u00e9 riceve il consenso al trattamento;<\/li>\n\n\n\n<li>Non sembra esserci una base giuridica sufficiente per l&#8217;utilizzo di dati personali per l&#8217;addestramento del software;&nbsp;<\/li>\n\n\n\n<li>Quando ChatGPT riporta informazioni su una persona, queste non sono sempre esatte n\u00e9 si possono rettificare e<\/li>\n\n\n\n<li>Manca un&#8217;adeguata verifica per impedire l&#8217;accesso al servizio ai minori di 13 anni.&nbsp;<\/li>\n<\/ul>\n\n\n\n<p>Il provvedimento passa poi a disporre &#8220;la misura della limitazione provvisoria del trattamento dei dati personali degli interessati stabiliti nel territorio italiano&#8221;, e d\u00e0 a OpenAI 20 giorni per comunicare come ha iniziato a risolvere i problemi indicati e giustificare le violazioni, pena una sanzione amministrativa, cio\u00e8 una multa.&nbsp;<\/p>\n\n\n\n<p>A chiudere il provvedimento un paragrafo che specifica che OpenAI ha facolt\u00e0 di opporsi entro 60 giorni dalla ricezione dell&#8217;avviso.&nbsp;<\/p>\n\n\n\n<h4 class=\"wp-block-heading\" id=\"chiudere\"><strong>Il garante pu\u00f2 far chiudere un&#8217;azienda?<\/strong><\/h4>\n\n\n\n<p>No. La decisione di bloccare il servizio sul territorio italiano \u00e8 stata presa da OpenAI, che ha scelto questa tra altre possibilit\u00e0 di azione.&nbsp;<\/p>\n\n\n\n<p>Non sappiamo perch\u00e9 l&#8217;azienda abbia agito cos\u00ec impulsivamente, ma probabilmente un&#8217;eccessiva fede nel proprio prodotto, una scarsa rilevanza percepita del mercato italiano e una certa noncuranza verso le leggi (l&#8217;innovazione non si pu\u00f2 fermare) possono contribuire a spiegare la sua decisione. Assieme al fatto che, per come funzionano queste tecnologie, \u00e8 molto difficile soddisfare le richieste del Regolamento.<\/p>\n\n\n\n<p>Il Garante \u00e8 un&#8217;autorit\u00e0 di controllo e non ha la facolt\u00e0 di bloccare i servizi di un&#8217;azienda. Si possono leggere i suoi compiti <a href=\"https:\/\/www.garanteprivacy.it\/home\/autorita\/compiti\" target=\"_blank\" rel=\"noreferrer noopener\">qui<\/a>, ma basterebbe anche fermarsi a riflettere sul fatto che le grandi aziende tecnologiche sono quasi tutte in violazione, chi in un modo chi in un altro, del GDPR, hanno procedimenti legali in corso e nonostante ci\u00f2 continuano a operare sul territorio europeo.<\/p>\n\n\n\n<h4 class=\"wp-block-heading\" id=\"privacy\"><strong>Privacy: la punta dell&#8217;iceberg<\/strong><\/h4>\n\n\n\n<p>Quelli di privacy e del trattamento dei dati personali sono solo alcuni dei problemi che l&#8217;utilizzo diffuso dei grandi modelli di linguaggio possono portare. Ne discutiamo alcuni altri qui di seguito.&nbsp;<\/p>\n\n\n\n<h5 class=\"wp-block-heading\" id=\"errori\"><strong>1.Errori e falsit\u00e0<\/strong><\/h5>\n\n\n\n<p>Una delle preoccupazioni forse pi\u00f9 note sui sistemi come ChatGPT \u00e8 che spesso dicono cose prive di fondamento. Come anticipato nei paragrafi precedenti, ci\u00f2 accade non perch\u00e9 il modello sia intenzionalmente ingannevole, ma perch\u00e9 le risposte sono la pi\u00f9 probabile concatenazione di parole basata sul corpus di dati usato per l&#8217;addestramento, che non \u00e8 necessariamente quella corretta.&nbsp;<\/p>\n\n\n\n<p>ChatGPT \u00e8 stato scherzosamente definito un &#8220;cazzaro&#8221; (in<a href=\"https:\/\/www.vice.com\/en\/article\/akex34\/chatgpt-is-a-bullshit-generator-waging-class-war\"> questo<\/a> articolo di Dan Macquillan, autore di Resisting AI) perch\u00e9 mente senza sapere o preoccuparsi di mentire; e anche se la maggior parte delle volte risulta innocuo, \u00e8 facile immaginare come fidarsi ciecamente delle sue risposte possa causare problemi anche gravi, oltre a violare il GDPR quando le risposte sbagliate riguardano persone fisiche.&nbsp;<\/p>\n\n\n\n<p>In quest&#8217;ultimo caso, quando il modello &#8220;impasta&#8221; le nostre informazioni con quelle di altre fonti, pu\u00f2 creare dei Frankenstein fallaci sul nostro conto (ha persino insistito sul fatto che un suo utente fosse morto, cosa che ha portato lo stesso utente<a href=\"https:\/\/www.theregister.com\/2023\/03\/02\/chatgpt_considered_harmful\/\"> ad augurarsi la morte del chatbot, invece<\/a>).<\/p>\n\n\n\n<p>Dal momento che una volta che il modello \u00e8 stato addestrato, indietro non si torna, il diritto all&#8217;oblio sembra essere un&#8217;altra delle trappole di ChatGPT e sistemi simili, e non \u00e8 chiaro come possa essere realizzato.&nbsp;<\/p>\n\n\n\n<p>Oltre ad aver sconcertato diverse persone, sembra che la tendenza all&#8217;imprecisione dei modelli di linguaggio abbia gi\u00e0 creato danni finanziari ingenti. Nel febbraio 2023, Google<a href=\"https:\/\/www.reuters.com\/technology\/google-ai-chatbot-bard-offers-inaccurate-information-company-ad-2023-02-08\/\"> ha utilizzato un video promozionale per mostrare le capacit\u00e0 di Bard<\/a>, il suo chatbot, che conteneva informazioni sbagliate. \u00c8 stato detto che il successivo, significativo calo delle azioni di Alphabet, che ha intaccato il valore di mercato dell&#8217;azienda per 100 miliardi di dollari, sia stato causato proprio dall\u2019annuncio.<\/p>\n\n\n\n<h5 class=\"wp-block-heading\" id=\"pregiudizi\"><strong>2.Pregiudizi e discriminazioni<\/strong><\/h5>\n\n\n\n<p>Ancora una volta, questi problemi hanno a che fare con la natura statistica del modello, che cerca ed estrapola regolarit\u00e0 nelle banche dati utilizzate per addestrarlo e fa derivare le sue ipotesi dalla distribuzione di questi dati. Nel caso dei modelli linguistici, i dati sono testuali, e i testi sono stati prodotti in contesti socio-culturali specifici, da persone con caratteristiche specifiche, e non sono necessariamente rappresentativi o equi.&nbsp;<\/p>\n\n\n\n<p>Si pu\u00f2 fare un esempio di queste distorsioni anche con metodi predittivi pi\u00f9 semplici che si basano per\u00f2 su tecnologie simili, ad esempio il suggerimento della parola successiva fatto dalla tastiera predittiva dell&#8217;iPhone, come nel caso reale riportato sotto:<\/p>\n\n\n\n<figure class=\"wp-block-image\"><img decoding=\"async\" src=\"https:\/\/lh5.googleusercontent.com\/DBemfx0Z6w9kdz4KyXBQ3IeTutUyoU2FbEbiwhruoTsa_jPN1gViSVHgjPqRyCrYKD4cwU5AbpVuPQx5xODLOqWR_U8JSXrU0aXcM7VKlMYHUxRzU193a5-wM32ll3N_VQwmDQgZ1KY3vNM8ng72pCc\" alt=\"\"\/><\/figure>\n\n\n\n<p class=\"has-small-font-size\">In questo esempio, il fatto che la parola &#8220;grassa&#8221; sia suggerita dopo la parola &#8220;brutta&#8221; ma non dopo la parola &#8220;brutto&#8221; potrebbe rivelare involontariamente un pregiudizio verso la grassezza femminile, che viene automaticamente associata alla bruttezza.<\/p>\n\n\n\n<p>Anche se i modelli migliorano costantemente sotto questo aspetto perch\u00e9 gli enunciati offensivi o discriminatori vengono prontamente segnalati e corretti, \u00e8 comunque importante sapere che, specialmente su argomenti non comuni, possono agire in modo imprevedibile e produrre risposte distorte. Inoltre, le operazioni necessarie per rendere l&#8217;IA conversazionale pi\u00f9 robusta e affidabile non sono sempre etiche, come evidenziato, tra gli altri, da un articolo che ha indagato sul lavoro alla base della creazione di uno strumento per eliminare i contenuti tossici dal set di dati di addestramento. Il che ci porta al prossimo argomento, i problemi relativi allo sfruttamento del lavoro.<\/p>\n\n\n\n<h5 class=\"wp-block-heading\" id=\"sfruttamento\"><strong>3.Sfruttamento del lavoro<\/strong><\/h5>\n\n\n\n<p>L&#8217;articolo del Time<a href=\"https:\/\/time.com\/6247678\/openai-chatgpt-kenya-workers\/\"> OpenAI Used Kenyan Workers on Less Than $2 Per Hour to Make ChatGPT Less Toxic<\/a> indaga sulle condizioni di lavoro dei lavoratori kenioti impiegati per segnalare testi offensivi, volgari etc. al fine di creare uno strumento automatizzato per rendere ChatGPT pi\u00f9 sicuro.<\/p>\n\n\n\n<p>La pratica di impiegare lavoratrici e lavoratori nel Sud del mondo per rilevare e filtrare i contenuti online non adatti non \u00e8 una prerogativa di OpenAI: \u00e8 stata utilizzata da piattaforme come YouTube e altri social media, in particolare Facebook, per la moderazione dei contenuti, e gli scandali sulle discutibili condizioni di lavoro e le ripercussioni psicologiche di questo settore lavorativo sono gi\u00e0 emerse anni fa (vedi ad esempio il documentario PBS del 2018 \u201c<a href=\"https:\/\/www.youtube.com\/watch?v=iGCGhD8i-o4\">The Cleaners<\/a>\u201d). Secondo l&#8217;articolo del Time, \u00abl&#8217;intelligenza artificiale fa spesso affidamento sul lavoro umano sommerso nel Sud del mondo che spesso danneggia e sfrutta i lavoratori. Questi lavoratori invisibili rimangono ai margini anche se il loro lavoro contribuisce a settori da miliardi di dollari\u00bb. Mentre \u00e8 stato giustamente sottolineato che lo stipendio dei lavoratori e le lavoratrici che moderano ChatGPT era pi\u00f9 alto della media&nbsp; in Kenya, rimane comunque degno di nota il fatto che \u00e8 difficile in Occidente reperire persone per portare a termine il lavoro di routine e spesso traumatico di &#8220;disinfettare&#8221; il materiale di formazione, e che avvantaggiarsi di normative sul lavoro pi\u00f9 rilassate nei paesi pi\u00f9 poveri, anche quando legale, non \u00e8 una pratica etica.<\/p>\n\n\n\n<h5 class=\"wp-block-heading\" id=\"emissioni\"><strong>4.Emissioni di carbonio<\/strong><\/h5>\n\n\n\n<p>Anche se le aziende rimangono abbottonate sull&#8217;argomento, ci sono diverse stime che dimostrano che l&#8217;addestramento e il funzionamento dei grandi modelli di linguaggio richiedono una quantit\u00e0 significativa di energia elettrica, moltissima acqua per raffreddare i centri dati che ospitano le macchine e risorse minerali per costruire i chip e le macchine, con ripercussioni sull&#8217;ambiente e la biodiversit\u00e0 difficili da calcolare ma senz\u2019altro rilevanti.&nbsp;<\/p>\n\n\n\n<h5 class=\"wp-block-heading\" id=\"proprieta\"><strong>5.Propriet\u00e0 intellettuale, segreti aziendali e diritto d&#8217;autore<\/strong><\/h5>\n\n\n\n<p>Non sono solo i privati \u200b\u200bad essere interessati a come viene utilizzato il loro materiale senza un esplicito consenso. Dicevamo che il corpus di dati usato per addestrare ChatGPT \u00e8 considerato un\u2019informazione strategica di propriet\u00e0 di OpenAI, e pertanto non viene divulgato. Ma \u00e8 facile immaginare che, se l&#8217;IA pu\u00f2 scrivere un racconto nello stile di Stephen King, pu\u00f2 farlo in virt\u00f9 del fatto che almeno alcuni dei suoi libri sono stati usati per addestrarla. Ancora pi\u00f9 sfacciatamente, il software \u00e8 in grado di citare <em>testualmente<\/em> interi paragrafi di libri.<\/p>\n\n\n\n<p>La violazione del diritto d\u2019autore non si ferma a libri e articoli: OpenAI sta gi\u00e0 affrontando<a href=\"https:\/\/www.theverge.com\/2022\/11\/8\/23446821\/microsoft-openai-github-copilot-class-action-lawsuit-ai-copyright-violation-training-data\"> almeno una causa<\/a> per pirateria di software, perch\u00e9 l&#8217;abilit\u00e0 di ChatGPT di produrre righe di codice deriva dall&#8217;ingestione del lavoro collettivo di sviluppatori che hanno reso disponibili i loro contenuti online o li hanno distribuiti con licenza libera. Simili preoccupazioni e indignazione per la violazione del diritto d\u2019autore sono state espresse per quanto riguarda la generazione di immagini e musica, abilit\u00e0 resa possibile grazie al lavoro di artisti umani. TechCrunch ha esaminato il panorama delle cause intentate fino alla fine di gennaio 2023 in<a href=\"https:\/\/techcrunch.com\/2023\/01\/27\/the-current-legal-cases-against-generative-ai-are-just-the-beginning\/\"> questo articolo<\/a>.<\/p>\n\n\n\n<p>Oltre alla propriet\u00e0 intellettuale e al diritto d\u2019autore, c&#8217;\u00e8 l&#8217;ulteriore problema preoccupante che comandi composti con intenzioni malevole possono portare il chatbot a divulgare segreti commerciali e informazioni riservate che sono state risucchiate nel suo database di addestramento.<\/p>\n\n\n\n<p>Tutti questi aspetti stanno mettendo in allerta gli avvocati e ChatGPT \u00e8 gi\u00e0 stato scoraggiato o addirittura bandito da alcune aziende, come<a href=\"https:\/\/www.forbes.com\/sites\/siladityaray\/2023\/02\/22\/jpmorgan-chase-restricts-staffers-use-of-chatgpt\/\"> Amazon e JPMorgan Chase<\/a>.<\/p>\n\n\n\n<h5 class=\"wp-block-heading\" id=\"altri\"><strong>6.Problemi aggiuntivi<\/strong><\/h5>\n\n\n\n<p>Oltre a quelli sopra elencati, ci sono problemi pi\u00f9 generali e sottili riguardo alle IA che sono in grado di imitare il linguaggio umano. Nonostante abbiano un impatto meno immediato, vale la pena sottolinearli perch\u00e9 possono avere conseguenze difficili da prevedere su persone e societ\u00e0 e creare effetti potenzialmente indesiderabili a lungo termine.<\/p>\n\n\n\n<h6 class=\"wp-block-heading has-palette-color-1-color has-text-color\"><strong><em>Antropomorfizzazione e dipendenza eccessiva<\/em><\/strong><\/h6>\n\n\n\n<p>\u00c8 noto che, a partire dal primo strumento utilizzato dagli umani alla prima IA conversazionale, ELIZA, le persone tendono a proiettare la capacit\u00e0 di pensare e persino di provare sentimenti sui propri artefatti. Come quando immaginiamo sembianze umane in una nuvola, desideriamo che un nostro artefatto sia come noi anche se ne conosciamo il funzionamento, soprattutto quando ha delle caratteristiche che ci somigliano in modo convincente (\u00e8 meno facile umanizzare un frigorifero o un aeroplano che una bambola o, appunto, un chatbot). Perch\u00e9 questo dovrebbe essere motivo di preoccupazione? Il centro di ricerca sull&#8217;IA Deepmind, in un <a rel=\"noreferrer noopener\" href=\"https:\/\/arxiv.org\/abs\/2112.04359\" target=\"_blank\">documento<\/a> che copre i rischi derivanti da modelli di linguaggio di grandi dimensioni, porta la nostra attenzione sui &#8220;danni dell&#8217;interazione uomo-computer&#8221;. Questi si manifestano quando gli utenti giudicano male o si fidano ingenuamente dei sistemi di intelligenza artificiale perch\u00e9 gli attribuiscono caratteristiche umane, esponendosi a essere sfruttati o ingannati, sia intenzionalmente (se il chatbot \u00e8 operato da malintenzionati) che involontariamente.<br><br>Per un esempio (piuttosto avvincente) di potenziale danno da interazione uomo-computer, questo<a href=\"https:\/\/www.nytimes.com\/2023\/02\/16\/technology\/bing-chatbot-transcript.html\"> pezzo<\/a> del NY Times in cui lo scrittore intervista il chatbot integrato nel motore di ricerca Bing \u00e8 un buon punto di partenza.<\/p>\n\n\n\n<h6 class=\"wp-block-heading has-palette-color-1-color has-text-color\"><strong><em>Impatto sull&#8217;autonomia e l&#8217;agentivit\u00e0 umane<\/em><\/strong><\/h6>\n\n\n\n<p>L&#8217;autonomia pu\u00f2 essere definita come la capacit\u00e0 di scegliere e di agire in base alle nostre scelte, ed \u00e8 stata collegata alla soddisfazione che proviamo per la nostra vita. Come ha sostenuto Joseph Weizenbaum nel suo libro &#8220;Computer Power and Human Reason&#8221;, l&#8217;intelligenza artificiale potrebbe essere un fattore che contribuisce al declassamento della <em>scelta<\/em>, un&#8217;attivit\u00e0 complessa e profondamente umana che tiene conto della nostra storia, i valori, le credenze. Se \u00e8 computazionale, la scelta perde corpo e diventa <em>decisione<\/em>, un processo pi\u00f9 meccanico che seleziona le opzioni in base alla valutazione di fattori esterni e all&#8217;ottimizzazione.<\/p>\n\n\n\n<p>Quando iniziamo a fare troppo affidamento su prodotti come ChatGPT per raccogliere informazioni e valutare le diverse opzioni, potremmo perdere la fiducia nella nostra capacit\u00e0 di scegliere. Se \u00e8 vero poi che le nostre scelte contribuiscono alla formazione della nostra identit\u00e0, e avere un forte senso di identit\u00e0 contribuisce alla nostra soddisfazione e felicit\u00e0 complessiva, perdere l&#8217;abitudine di fare scelte potrebbe renderci meno felici, un rischio difficile da quantificare, ma esistenziale.<\/p>\n\n\n\n<p>Certo, si potrebbe dire che un chatbot \u201cetico\u201d potrebbe aiutare a prendere le distanze da scelte dannose o violente prese in modo autonomo, ma noi crediamo che anche questa funzione di mitigazione dovrebbe rimanere prerogativa della societ\u00e0 e non della tecnologia, o quantomeno invocata solo quando si fossero esplorate tutte le altre possibilit\u00e0.<\/p>\n\n\n\n<h4 class=\"wp-block-heading\" id=\"adesso\"><strong>Cosa succede adesso?<\/strong><\/h4>\n\n\n\n<p>\u00c8 davvero troppo presto per dirlo, e molto dipender\u00e0 da come reagiranno le altre autorit\u00e0 garanti per la privacy in Europa. Senz&#8217;altro nell&#8217;ultima settimana, tra i botta e risposta di lettere aperte (<a rel=\"noreferrer noopener\" href=\"https:\/\/futureoflife.org\/open-letter\/pause-giant-ai-experiments\/\" target=\"_blank\">Future of Life<\/a> e <a rel=\"noreferrer noopener\" href=\"https:\/\/www.dair-institute.org\/blog\/letter-statement-March2023\" target=\"_blank\">DAIR institute<\/a>) e il vespaio sollevato dal provvedimento del Garante, il dibattito sui modelli di linguaggio ha subito un&#8217;accelerazione notevole.&nbsp;<\/p>\n\n\n\n<p>L&#8217;entusiasmo per le tecnologie generative, la loro diffusione, la semplicit\u00e0 d&#8217;uso, la narrazione di inevitabilit\u00e0 che le accompagna, le promesse utopiche, le reazioni dei governi che hanno iniziato una sorta di corsa agli armamenti per quanto riguarda la cosiddetta &#8220;intelligenza artificiale&#8221;&nbsp; fanno presagire per\u00f2 che dovremo occuparci di questi temi ancora a lungo.&nbsp;<\/p>\n\n\n\n<p>\u00c8 un peccato, perch\u00e9 sembra che molta intelligenza umana si stia spendendo su un argomento tutto sommato secondario, invece che concentrarsi su temi pi\u00f9 concreti e immediati, uno tra tutti la crisi climatica: una distrazione rischiosa.&nbsp;<\/p>\n","protected":false},"excerpt":{"rendered":"<p>E la protezione dei dati \u00e8 solo uno dei problemi dei grandi modelli linguistici<\/p>\n","protected":false},"author":1,"featured_media":2706,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":"","_share_on_mastodon":"1"},"categories":[3,67],"tags":[108,42],"blocksy_meta":{"has_hero_section":"enabled","hero_section":"type-2","styles_descriptor":{"styles":{"desktop":"[data-prefix=\"single_blog_post\"] .entry-header .page-title {--theme-font-weight:900;--theme-text-transform:none;--theme-text-decoration:none;--theme-font-size:50px;--theme-heading-color:var(--theme-palette-color-5);} [data-prefix=\"single_blog_post\"] .entry-header .entry-meta {--theme-font-weight:700;--theme-text-transform:uppercase;--theme-font-size:12px;--theme-line-height:1.3;--theme-text-color:var(--theme-palette-color-5);--theme-link-hover-color:var(--theme-palette-color-1);} [data-prefix=\"single_blog_post\"] .entry-header .page-description {--theme-font-size:30px;--theme-text-color:#dddddd;} [data-prefix=\"single_blog_post\"] .hero-section[data-type=\"type-2\"] {--min-height:500px;background-color:var(--theme-palette-color-6);background-image:none;--container-padding:50px 0px;} [data-prefix=\"single_blog_post\"] .hero-section[data-type=\"type-2\"] > figure .ct-media-container:after {background-color:rgba(18, 21, 26, 0.56);}","tablet":"","mobile":"[data-prefix=\"single_blog_post\"] .entry-header .page-title {--theme-font-size:40px;} [data-prefix=\"single_blog_post\"] .entry-header .page-description {--theme-font-size:25px;}"},"google_fonts":{"Manrope":["n9","n7","n4"]},"version":6},"hero_elements":[{"id":"custom_title","enabled":true,"heading_tag":"h1","title":"Home","__id":"z-KKDu9IM6Grke1NVOW5G"},{"id":"custom_description","enabled":true,"description_visibility":{"desktop":true,"tablet":true,"mobile":true},"__id":"OLuK9zYbAq5MXSCRW8frd"},{"id":"custom_meta","enabled":true,"meta_elements":[{"id":"author","enabled":false,"label":"Di","has_author_avatar":"yes","avatar_size":25,"__id":"1fQPlo9Ci9nKtj7Eh9l_c"},{"id":"post_date","enabled":true,"label":"On","date_format_source":"default","date_format":"M j, Y","__id":"mpAUYFUVFms8SmS0Kbr2l"},{"id":"updated_date","enabled":false,"label":"On","date_format_source":"default","date_format":"M j, Y","__id":"iCoMCrRE3dp_xrtgQhEM8"},{"id":"categories","enabled":true,"label":"In","style":"simple","__id":"woMloEGJNcKO5qkpZxE8C","taxonomy":"post_tag"},{"id":"comments","enabled":false,"__id":"z1NWt-tt1je_Iap-KipDq"}],"page_meta_elements":{"joined":true,"articles_count":true,"comments":true},"__id":"en053V920wTsQxCD1Fdvk"},{"id":"breadcrumbs","enabled":false,"__id":"D0MINUfWMJfkfhkRTK1FH"}],"page_title_image_size":"large","hero_height":{"desktop":"500px","tablet":"500px","mobile":"500px","__changed":[]},"pageMetaFontColor":{"default":{"color":"var(--theme-palette-color-5)"},"hover":{"color":"var(--theme-palette-color-1)"}},"pageTitleFontColor":{"default":{"color":"var(--theme-palette-color-5)"}},"pageTitleOverlay":{"background_type":"color","background_pattern":"type-1","background_image":{"attachment_id":null,"x":0,"y":0},"gradient":"linear-gradient(135deg,rgba(6,147,227,1) 0%,rgb(155,81,224) 100%)","background_repeat":"repeat","background_size":"auto","background_attachment":"scroll","patternColor":{"default":{"color":"#e5e7ea"}},"overlayColor":{"default":{"color":"CT_CSS_SKIP_RULE"}},"backgroundColor":{"default":{"color":"rgba(18, 21, 26, 0.56)"}}},"pageExcerptColor":{"default":{"color":"#dddddd"}},"parallax":{"desktop":false,"tablet":false,"mobile":false},"pageTitleFont":{"family":"Default","variation":"n9","size":{"desktop":"50px","tablet":"50px","mobile":"40px","__changed":["mobile"]},"line-height":"CT_CSS_SKIP_RULE","letter-spacing":"CT_CSS_SKIP_RULE","text-transform":"none","text-decoration":"none"},"pageExcerptFont":{"family":"Default","variation":"Default","size":{"desktop":"30px","tablet":"30px","mobile":"25px","__changed":["mobile"]},"line-height":"CT_CSS_SKIP_RULE","letter-spacing":"CT_CSS_SKIP_RULE","text-transform":"CT_CSS_SKIP_RULE","text-decoration":"CT_CSS_SKIP_RULE"},"pageMetaFont":{"family":"Default","variation":"n7","size":"12px","line-height":"1.3","letter-spacing":"CT_CSS_SKIP_RULE","text-transform":"uppercase","text-decoration":"CT_CSS_SKIP_RULE"}},"share_on_mastodon":{"url":"","error":""},"_links":{"self":[{"href":"https:\/\/eticadigitale.org\/wp-json\/wp\/v2\/posts\/2703"}],"collection":[{"href":"https:\/\/eticadigitale.org\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/eticadigitale.org\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/eticadigitale.org\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/eticadigitale.org\/wp-json\/wp\/v2\/comments?post=2703"}],"version-history":[{"count":44,"href":"https:\/\/eticadigitale.org\/wp-json\/wp\/v2\/posts\/2703\/revisions"}],"predecessor-version":[{"id":2772,"href":"https:\/\/eticadigitale.org\/wp-json\/wp\/v2\/posts\/2703\/revisions\/2772"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/eticadigitale.org\/wp-json\/wp\/v2\/media\/2706"}],"wp:attachment":[{"href":"https:\/\/eticadigitale.org\/wp-json\/wp\/v2\/media?parent=2703"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/eticadigitale.org\/wp-json\/wp\/v2\/categories?post=2703"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/eticadigitale.org\/wp-json\/wp\/v2\/tags?post=2703"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}