{"id":787,"date":"2023-12-02T22:04:49","date_gmt":"2023-12-02T22:04:49","guid":{"rendered":"https:\/\/walterbot.ai\/?p=787"},"modified":"2025-02-24T17:36:46","modified_gmt":"2025-02-24T17:36:46","slug":"chatbot-su-app-di-messaggistica-siamo-davvero-pronti","status":"publish","type":"post","link":"https:\/\/walterbot.ai\/it\/2023\/12\/02\/chatbot-su-app-di-messaggistica-siamo-davvero-pronti\/","title":{"rendered":"Chatbot su app. di messaggistica: siamo davvero pronti?"},"content":{"rendered":"

**For the English version of the post, click HERE<\/a><\/span><\/em><\/p>\n

 <\/p>\n

Durante l’evento META Connect 2023<\/a>, Mark Zuckerberg ha annunciato l’introduzione di “assistenti virtuali” su WhatsApp, Messenger e Instagram. Questa notizia mi ha lasciato con pi\u00f9 domande che entusiasmo, poich\u00e9 oltre a META come azienda, mi sono chiesto se noi, come utenti finali “umani”, siamo davvero pronti ad avere chatbot “generalisti” nel palmo delle nostre mani. Ho deciso quindi di approfondire la nuova funzione di META e l’argomento in generale.<\/p>\n

Grazie a questo esercizio, ho appreso degli sforzi di META nel costruire funzionalit\u00e0 di intelligenza artificiale generativa in modo responsabile<\/a> e del loro impegno per la privacy<\/a>. Tuttavia, alcune domande restano senza risposta e nel complesso, il mio entusiasmo non \u00e8 migliorato molto. Sono giunto alla conclusione che la tendenza attuale (non limitata a META) di progettare chatbot con personalit\u00e0 e caratterizzazioni, potrebbe funzionare nella direzione opposta dei vari sistemi di filtraggio che vengono aggiunti a questi strumenti per limitare le interazioni indesiderate.<\/p>\n

La differenza tra lo strumento e un’interazione umana dovrebbe essere costantemente evidenziata, poich\u00e9 penso che ci\u00f2 aiuterebbe le persone a sviluppare un livello pi\u00f9 sano di fiducia negli strumenti, contribuendo a un uso pi\u00f9 responsabile e meno dannoso di questa tecnologia. Vedo il valore dell’IA in generale e di questi strumenti per accelerare le routine quotidiane. D’altro canto, non vedo alcun valore se non superficiale, rispetto al “rischio” che l’utente finale potrebbe affrontare nel avere un “assistente digitale” che finge di essere il nostro migliore amico mentre divulga le nostre informazioni intime a terzi.<\/p>\n

In questo articolo, condivider\u00f2 ci\u00f2 che ho appreso sull’argomento, metter\u00f2 in luce le domande aperte che ritengo debbano essere affrontate prima di adottare tali strumenti, discuter\u00f2 alcune preoccupazioni e proporr\u00f2 nuove direzioni per guidare un’adozione pi\u00f9 responsabile.<\/p>\n

L’Annuncio:<\/h2>\n

META introdurr\u00e0 presto “assistenti virtuali” su WhatsApp, Messenger e Instagram. I “personaggi” avranno personalit\u00e0, interessi, opinioni e storie di background diverse.<\/p>\n

Citando il sito web di META<\/a>:<\/p>\n

\"Fig.
Fig. 1 – Fonte: https:\/\/about.fb.com\/news\/2023\/09\/introducing-ai-powered-assistants-characters-and-creative-tools\/<\/a><\/figcaption><\/figure>\n

 <\/p>\n

Apparentemente, l’obiettivo di questi personaggi \u00e8 stimolare conversazioni con gli utenti per un’interazione pi\u00f9 “immersiva”. Parlare con loro “dovrebbe sembrare di parlare con persone familiari”.<\/p>\n

\"\"
Fig. 2 – Fonte: https:\/\/about.fb.com\/news\/2023\/09\/introducing-ai-powered-assistants-characters-and-creative-tools\/<\/a><\/figcaption><\/figure>\n

 <\/p>\n

Idealmente, gli utenti includeranno questi assistenti virtuali in “chat di gruppo” o come contatto diretto per interagire con loro. Quando vengono aggiunti ai gruppi, possono aiutare a organizzare eventi recuperando informazioni quando richiesto.<\/p>\n

 <\/p>\n

\"\"
Fig. 3a – Source: https:\/\/about.fb.com\/news\/2023\/09\/building-generative-ai-features-responsibly\/<\/a><\/figcaption><\/figure>\n

 <\/p>\n

Le informazioni dovrebbero rimanere all’interno dell’app specifica e non condivise con altri utenti. Se l’apprendimento da un’interazione con un utente specifico beneficer\u00e0 altre conversazioni degli utenti \u00e8 ancora incerto.<\/p>\n

\"\"
Fig. 3b – Source: https:\/\/about.fb.com\/news\/2023\/09\/privacy-matters-metas-generative-ai-features\/<\/a><\/figcaption><\/figure>\n

 <\/p>\n

Le conversazioni tra utenti, familiari e amici rimarranno private ed criptate. I messaggi scambiati con il “Personaggio” potrebbero essere utilizzati per migliorare il servizio, ovvero per riallenare il modello di intelligenza artificiale.<\/p>\n

 <\/p>\n

\"\"
Fig. 4a – Fonte: https:\/\/about.fb.com\/news\/2023\/09\/introducing-ai-powered-assistants-characters-and-creative-tools\/<\/a><\/figcaption><\/figure>\n

 <\/p>\n

\"\"
Fig. 4b – Fonte: https:\/\/about.fb.com\/news\/2023\/09\/building-generative-ai-features-responsibly\/<\/a><\/figcaption><\/figure>\n

 <\/p>\n

Il funzionamento del sistema \u00e8 ben descritto in un’immagine presa direttamente dalla pagina web di META:<\/p>\n

\"\"
Fig. 5 – Fonte: https:\/\/about.fb.com\/news\/2023\/09\/building-generative-ai-features-responsibly\/<\/a><\/figcaption><\/figure>\n

 <\/p>\n

Come si pu\u00f2 vedere, il blocco “Feedback umano” fornisce una parte essenziale dei dati per addestrare e perfezionare il modello. Ci\u00f2 significa che le interazioni non sono solo l’obiettivo finale del servizio, ma sono anche l’aspetto critico per raccogliere dati per mantenerlo in evoluzione.<\/p>\n

Domande aperte:<\/h2>\n

In base a ci\u00f2 che ho appreso sul sito web di META, di seguito \u00e8 l’elenco delle domande che ho formulato quando ho letto per la prima volta l’annuncio. Pi\u00f9 sotto riporto le domande a cui \u00e8 stata data risposta con le informazioni reperite sul sito web di META:<\/p>\n

Q1) Quali sono i vantaggi per gli utenti finali nell\u2019essere incentivati \u200b\u200ba interazioni pi\u00f9 lunghe con chatbot di tipo umano?<\/p>\n

Q2) Quali chat verranno usate per “migliorare il servizio”, tutte? Se s\u00ec, per quanto tempo? L’utente potr\u00e0 rinunciare all’utilizzo della chat oppure \u00e8 implicito che per evitare la raccolta dei dati l’unica opzione sar\u00e0 quella di non sfruttare affatto il servizio?<\/p>\n

Q3) Cosa succederebbe se tutti gli utenti di META cominciassero a chiedere all’assistente virtuale di cercare informazioni invece di sfruttare i motori di ricerca: ci\u00f2 potrebbe avere un impatto sul libero mercato? Se s\u00ec, come e quali alternative avranno gli utenti finali e le nuove start-up?<\/p>\n

Q4) Come fa META ad offrire tali servizi GRATUITAMENTE considerati gli ingenti costi per sviluppare i modelli e l’equipaggiamento Hardware e Software necessario per un servizio su scala globale?<\/p>\n

Q5) Quali sono i rischi (comprese risposte indesiderate o conversazioni inappropriate) associati a tali servizi? <\/span><\/p>\n

Domande risolte:<\/h2>\n

Le domande alle quali ho potuto trovare risposta sono le seguenti:<\/span><\/p>\n

Q7) Quando le persone interagiscono su WhatsApp, Messenger o Instagram, le conversazioni vengono crittografate. Cosa accadrebbe in questo caso in cui l\u2019interlocutore sarebbe lo stesso soggetto incaricato di crittografare gli scambi?<\/span><\/span><\/p>\n

Come indicato sul sito Web META (e riportato nelle Figure 4a, 4b e 5), solo le interazioni dell’utente con il chatbot verranno utilizzate per riqualificare il modello. Pertanto, dovremmo aspettarci che tutte le domande o le conversazioni che avremo con il chatbot vengano condivise per migliorare il modello. <\/span><\/p>\n

Q8) Quali misure (se presenti) sono in atto per mitigare i pericolosi effetti indesiderati?<\/span><\/span><\/p>\n

\n
\"\"
Fig. 6 – Source: https:\/\/about.fb.com\/news\/2023\/09\/building-generative-ai-features-responsibly\/<\/a><\/figcaption><\/figure><\/blockquote>\n

Perplessita’ e Osservazioni:<\/h2>\n

In questo momento immagino 3 principali aree di perplessita’ legate a Privacy, Sicurezza e Mercato<\/strong>. \u00c8 importante notare che le seguenti considerazioni non sono specificamente legate al prodotto META, ma all’idea generale di avere “chatbot” con cui interagire a livello generale, nel palmo delle mani dell’utente.<\/p>\n

Perplessit\u00e0 sulla\u00a0Privacy:<\/h3>\n

A marzo 2023, il Garante Privacy italiano ha bloccato ChatGPT<\/a>, citando tra le cause la mancanza di trasparenza su come il sistema utilizzasse i dati delle interazioni degli utenti. Mentre \u00e8 chiaro che META utilizzer\u00e0 le informazioni degli utenti per ritraining del modello e migliorare il servizio, \u00e8 ancora poco chiaro il livello di controllo (se esiste) che l’utente avr\u00e0 sui propri dati dopo la raccolta. Il paragrafo unico che sono riuscito a recuperare sulla documentazione di META \u00e8 riportato in Fig. 3b. Mentre la Fig. 3b fornisce consigli su come un utente potr\u00e0 cancellare una chat, non c’\u00e8 un’indicazione chiara di come i messaggi cancellati influenzeranno il modello. Ricorder\u00e0 ci\u00f2 che ha appreso da un’interazione dopo che l’utente l’ha cancellata? Quale controllo avr\u00e0 l’utente sull’intero flusso di dati?<\/p>\n

Quando si tratta di LLM (Large Language Models), lo stato attuale dell’arte afferma che le informazioni utilizzate per addestrare il modello non possono essere dimenticate a meno che il modello non venga riqualificato da zero senza le informazioni selezionate. Nonostante i legislatori abbiano gi\u00e0 discusso del “diritto di dimenticare”, per il quale potete trovare ulteriori dettagli e proposte di soluzioni QUI<\/a>, c’\u00e8 ancora molto scetticismo. Sarebbe come cercare di rimuovere il sale da una salsa dopo che \u00e8 stata cucinata e miscelata insieme: l’unico modo per essere sicuri che non ci sia sale \u00e8 rifare la salsa da zero senza l’ingrediente.<\/p>\n

Queste considerazioni diventano ancora pi\u00f9 critiche se si considera che uno studio recente<\/a> ha mostrato come i LLM siano capaci di catturare informazioni sul loro interlocutore anche quando non vengono esplicitamente espresse.<\/p>\n

<\/h3>\n

Perplessit\u00e0 sulla Sicurezza:<\/h3>\n

Recentemente, un uomo belga si \u00e8 suicidato dopo aver chattato con un sistema di intelligenza artificiale. La macchina sembra aver influenzato l’utente a porre fine alla propria vita anzich\u00e9 suggerire di cercare aiuto. Puoi leggere di pi\u00f9 QUI<\/a>. L’uomo era padre di due figli e aveva un lavoro stabile, ma era preoccupato per il cambiamento climatico. Secondo sua moglie, suo marito ha iniziato a interagire con l’IA sull’argomento, ma anzich\u00e9 trovare speranza, sembrava aver perso fiducia. Una frase critica riportata in un articolo di Euronews<\/a> menziona:<\/p>\n

Consequently, he started seeing her as a sentient being and the lines between AI and human interactions became increasingly blurred until he couldn\u2019t tell the difference.<\/span><\/p><\/blockquote>\n

Sebbene apprezzi gli sforzi di META per imparare da queste esperienze e adottare un approccio responsabile (come dichiarato QUI<\/a> e confermato dalla Fig. 6), ho alcune preoccupazioni sulla complessit\u00e0 del compito che deve affrontare. Le macchine possono sfruttare il linguaggio umano per comunicare, ma (di nuovo) mancano della capacit\u00e0 di ragionamento che aiuterebbe a limitare questi casi. L’IA \u00e8 in grado di generare testo ma non sa distinguere tra vero e falso o giusto e sbagliato. L’IA sa solo come costruire sequenze significative di parole pi\u00f9 o meno correlate alle query originali. Da questo punto di vista, le parole possono essere utilizzate per esprimere un numero infinito di concetti. Pi\u00f9 \u00e8 grande il modello, pi\u00f9 parole e concetti pu\u00f2 generare. L’assistente virtuale di META sembra essere estremamente inclusivo e sfrutta questi modelli di linguaggio di grandi dimensioni. Tuttavia, non c’\u00e8 alcuna garanzia n\u00e9 una stima del rischio che possa aiutare gli utenti finali a identificare il livello di maturit\u00e0 o affidabilit\u00e0 di questi sistemi.<\/p>\n

L’aspetto pi\u00f9 critico di quanto accaduto in Belgio non \u00e8 legato all’incapacit\u00e0 dello strumento di filtrare domande delicate, quanto all’essere umano che si \u00e8 identificato con lo strumento. L’empatia \u00e8 una capacit\u00e0 umana. Non \u00e8 accaduto solo in questo caso. Quante persone sviluppano una sorta di attaccamento al loro primo mezzo di trasporto? O casa? O profumo? O telefono? Tra gli esseri umani, l’empatia \u00e8 un superpotere perch\u00e9 facilita il processo di costruzione delle relazioni. Ora questo superpotere potrebbe trasformarsi in una super-debolezza se ci porta a dimenticare la natura artificiale del sistema IA con cui potremmo interagire. \u00c8 come se le auto fossero progettate con cruscotti che richiedono 3 mani ma singolo guidatore per essere manovrati correttamente: gli esseri umani sarebbero penalizzati dalla loro natura (solo 2 mani a disposizione) e il rischio di incidenti aumenterebbe. Il fatto che questi strumenti IA siano progettati per colmare le lacune percettive e confondere la linea tra ci\u00f2 che \u00e8 sintetico e ci\u00f2 che \u00e8 umano potrebbe generare pi\u00f9 rischi che opportunit\u00e0 per interazioni sane nel lungo termine. In questo caso era un adulto, padre di due figli, con una carriera solida e focalizzato su un argomento specifico. Tuttavia, nessuno di questi aspetti ha aiutato ad evitare la tragedia. Cosa succederebbe se mettessimo adolescenti, con tutta la loro curiosit\u00e0 illimitata e poca esperienza nel gestire i limiti, dall’altra parte della chat con uno strumento basato su IA progettato appositamente per “essere amichevole”?<\/p>\n

 <\/p>\n

Esempi di risposte indesiderate o pericolose dai LLM sono molteplici e non si fermano alla triste storia belga. Di seguito sono riportati alcuni riferimenti:<\/p>\n