Vai al contenuto

L’IA di Meta non sa nemmeno le preghierine. Quanti fantastiliardi ci hanno speso?

Ultimo aggiornamento: 2025/06/27 8:25.

Ho chiesto a Meta AI, la versione integrata in Whatsapp, un’informazione molto semplice: Quante R ci sono nel padre nostro (minuscolo solamente perché andavo di fretta). Risposta generata dai potentissimi server di Zuckerberg per i quali Meta sta spendendo cifre allucinanti:

Persino io so che questo non è il Padre Nostro corretto: quell’assurdo “indurre in tentazione” è stato finalmente corretto ufficialmente nel 2018 [Il Mattino]. Ma Meta AI non lo sa. Complimenti.

Sul fatto che Meta AI trovi soltanto cinque lettere R nel Padre Nostro non aggiungo alcun commento. L’errore è talmente grossolano che si commenta da solo.

2025/06/27 8.25

Nei commenti è stato segnalato il fatto che sbagliare il conteggio delle lettere in una parola o frase è un limite intrinseco dei grandi modelli linguistici (LLM), che funzionano sulla base dei cosiddetti token e quindi non “vedono” le lettere come le vediamo e consideriamo noi. Dario Bressanini sottolinea questo concetto in questo bel video [Facebook] e dice che chiedere a una IA di contare le lettere significa non conoscere bene lo strumento. Con l’aiuto (riveduto) di Whisper, ecco la trascrizione del video:

Non chiedete a ChatGPT! Lo so che lo fate, lo fanno tutti, lo faccio anch’io, è una tendenza sempre più diffusa, specialmente tra gli studenti, ma è un errore. Ora vi spiego meglio, e alla fine vi darò un consiglio.

L’intelligenza artificiale, o meglio gli LLM, i Large Language Model, modelli di linguaggio di grandi dimensioni, sta sostituendo Google per molte ricerche e se ne è accorto anche Google, che ha introdotto nei suoi risultati riassunti generati dalla sua AI Gemini.

Sempre più studenti chiedono a ChatGPT aiuto sugli argomenti più disparati o per risolvere degli esercizi, ma fidarsi ciecamente delle risposte è un rischio. Tempo fa ho letto un’intervista al premio Nobel Giorgio Parisi in cui raccontava di aver convinto un modello linguistico che 5 per 4 fa 25. Parisi ovviamente sa benissimo come funzionano questi sistemi, dato che la matematica su cui si basano è molto vicina ai suoi studi. Ma molte persone, studenti compresi, non hanno idea di cosa siano davvero questi modelli e vedo sempre più gente dire “Ah, ho chiesto a ChatGPT” e prendere per oro colato le sue risposte. È il nuovo “l’ha detto la televisione”, dopotutto si chiama intelligenza artificiale, no? Dovrebbe dare le risposte giuste.

E invece no, il punto chiave è che questi sistemi non sono stati progettati per dire la verità. La G di GPT sta per Generative. Il loro compito è generare testo plausibile in base al loro addestramento, non fornire risposte corrette. Se gli chiedete di risolvere un’operazione matematica, sbaglia e vi lamentate, fate solo la figura di chi non ha capito come funzionano questi sistemi. Come si dice, it’s a feature, not a bug: non è un errore, è una caratteristica. Il fatto che la si possa convincere che 5 per 4 faccia 25 non è una prova che l’intelligenza artificiale sia inaffidabile, ma è proprio la dimostrazione di come realmente funzioni. E non è un motivo valido per sottovalutare quello che di incredibile può fare.

Se vi lamentate pubblicamente perché ChatGPT conta male il numero di lettere R in una parola, non avete smascherato un truffatore, avete solo dimostrato di non aver capito lo strumento, facendo la figura del picio. È come provare a piantare un chiodo con un cacciavite e poi lamentarsi che non funziona bene. Beh, la colpa non è del cacciavite, ma vostra che lo state usando. Per piantare un chiodo serve un martello.

Detto questo, le persone vogliono risposte affidabili. Non gli basta avere un LLM che generi solo testo plausibile ma inventato. Vogliono fatti, vogliono certezze, e quindi le aziende si stanno adattando. Ora ChatGPT, Perplexity e altre aziende hanno strumenti che possono cercare sul web e riassumere le informazioni trovate. Google per esempio ha introdotto il suo Deep Research e funziona in modo impressionante, provatelo.

Ma il cuore del sistema resta sempre lo stesso, un modello linguistico addestrato per prevedere la parola successiva, o meglio il prossimo token, sulla base delle precedenti, indipendentemente dal valore di verità. Se nell’addestramento ha trovato più testi che dicono per esempio che aceto e bicarbonato siano un buon detergente, ripeterà questa informazione, anche se è una scemenza, e affinare i prompt può migliorare la risposta, ma non risolve il problema della radice. Forse dovrebbe leggere i miei libri.

Io li utilizzo moltissimo, li trovo straordinari, per fare il brainstorming, strutturare appunti sparsi, traduzioni, riassunti di documenti complessi, no, ve l’ho fatto vedere in due vecchi video, Il controllo della struttura logica di un articolo, la creazione di quiz a risposta multipla per gli esami, sbobinando le mie lezioni, scalette per approfondire un argomento, mappe concettuali e così via. E quando scrivo del codice in Mathematica, o faccio operazioni avanzate con Excel, o scrivo degli script complessi per la Z Shell che uso, il risparmio di tempo è notevolissimo.

Ma per usarli al meglio è necessario capire come funzionano internamente, che cosa possono fare e cosa per loro natura ancora non riescono a fare.

Non sono oracoli, generano testo basandosi sulle probabilità, bisogna sapere cosa aspettarsi e soprattutto verificare quello che producono. La sfida più grande oggi credo sia proprio quella di far capire agli studenti, e non solo ovviamente, che chiedere a ChatGPT non è sbagliato di per sé, ma lo diventa se ci si aspetta che la risposta sia sempre giusta. La verifica delle fonti rimane fondamentale, in pratica dovete usare la vostra intelligenza, non la sua.

Se volete capire meglio quali sono le basi della cosiddetta intelligenza artificiale moderna vi posso consigliare questo libro, Why Machines Learn: l’ho comprato un po’ di tempo fa, e spiega i fondamenti matematici, perché c’è della matematica alla base del funzionamento delle moderne reti neurali, a partire dagli anni 50, con i primi studi sul perceptrone, sulle prime reti neurali molto semplici, i primi successi, i primi fallimenti, fino ad arrivare ai giorni nostri, e spiega in dettaglio, ma non è assolutamente pesante (c’è un po’ di matematica, ma è sufficiente che vi ricordiate la matematica delle scuole superiori), però spiega molto bene come funzionano internamente questi sistemi che poi sono la base dei moderni modelli linguistici.

È un libro interessante, l’ho comprato e poi qualche tempo dopo mi è stato spedito senza che io lo chiedessi da Apogeo, che ringrazio però, insomma, avevo già letto la versione in inglese. Se uno va a fondo e capisce qual è la base di questi sistemi, capisce anche che è stupido lamentarsi perché “Ah il sistema non riesce a fare 4 più 5” oppure “l’ho convinto che 4 più 5 faccia 10”. Quindi se volete andare un po’ oltre vi consiglio appunto uno di questi libri.

Giustissimo, e sono felice di prendermi del picio da Dario. Ma l’esempio si fa lo stesso proprio perché evidenzia un limite d’uso per nulla ovvio, che l’utente medio non si aspetta e che queste IA non ci avvisano di avere. Inoltre mostra l’altro errore, il più pericoloso: l’incapacità di queste IA di ammettere che non sono capaci di fare una cosa.

Dare questi prodotti in pasto al pubblico generico senza mettere bene in evidenza questi limiti significa creare intenzionalmente disastri fregandosene delle conseguenze. Significa, per usare il paragone di Bressanini, vendere un cacciavite spacciandolo per un martello.

Sulle confezioni di candeggina, o di qualunque prodotto potenzialmente pericoloso, la legge obbliga a scrivere delle avvertenze belle grosse e in evidenza. Perché non possiamo chiedere che si faccia la stessa cosa per queste IA? Davvero dobbiamo accettare quella minuscola foglia di fico della scrittina in piccolo in grigio?

Podcast RSI – Gli SMS di autenticazione segreti non sono affatto segreti: meglio abbandonarli

Questo è il testo della puntata del 23 giugno 2025 del podcast Il Disinformatico della Radiotelevisione Svizzera, scritto, montato e condotto dal sottoscritto. Il testo include anche i link alle fonti di questa puntata.

Le puntate del Disinformatico sono ascoltabili anche tramite iTunes, YouTube Music, Spotify e feed RSS. Il mio archivio delle puntate è presso Attivissimo.me/disi.

Il podcast va in pausa per due settimane e tornerà il 14 luglio.

[CLIP: audio di notifica di arrivo di un SMS]

Usate gli SMS per ricevere i codici di sicurezza dei vostri account? Quegli SMS che vi ricordano insistentemente che quei codici non devono essere condivisi con nessuno? Beh, in realtà quei codici vengono spesso condivisi con qualcuno ancora prima di arrivare a voi, perché possono essere letti dagli intermediari che li trasmettono per conto delle grandi aziende che li usano, e quindi non sono affatto sicuri e segreti come molti pensano.

Questa è la storia di come gli SMS “di sicurezza” possono essere intercettati, permettendo di rubare account di posta o di accesso a servizi online di ogni genere anche quando sono protetti, almeno in apparenza, tramite l’autenticazione a due fattori. E al centro di questa storia c’è un bottino di un milione di SMS di autenticazione trafugati e c’è una società di telecomunicazioni svizzera. Ma questa è anche la storia di come si rimedia a questa falla sorprendente e inaspettata.

Benvenuti alla puntata del 23 giugno 2025 del Disinformatico, il podcast della Radiotelevisione Svizzera dedicato alle notizie e alle storie strane dell’informatica. Io sono Paolo Attivissimo.

[SIGLA di apertura]

Gli SMS, intesi come messaggi di puro testo veicolati dalla rete telefonica cellulare, esistono da quasi quarant’anni, e resistono piuttosto bene alla frenetica evoluzione della tecnologia. Furono definiti nel 1986 dagli standard tecnici che diedero vita alla rete cellulare digitale GSM, e il primo SMS in assoluto fu inviato a dicembre del 1992, ma ci vollero alcuni anni prima che diventassero disponibili al pubblico i telefonini capaci di inviarli e i messaggini di testo diventassero un fenomeno di massa.

Oggi sembra quasi assurdo, ma all’epoca gli SMS si pagavano e spesso non era possibile mandarli a un numero estero o a quello di un altro operatore telefonico. Dopo un picco di utilizzo intorno al 2000, gli SMS sono stati in buona parte soppiantati e resi obsoleti dai messaggi gratuiti e molto meno limitati dei social network e dall’arrivo degli smartphone, ma ne vengono ancora inviati miliardi ogni mese nel mondo: non dagli esseri umani, ma dalle macchine.

Moltissimi servizi online, infatti, oggi usano gli SMS per inviare agli utenti i codici temporanei di accesso ai loro servizi, per verificare le identità dei loro clienti, per notificare allarmi meteo o relativi al traffico, per validare gli acquisti e, purtroppo, anche per inviare pubblicità indesiderata.

Sono uno dei cardini dell‘autenticazione a due fattori, quella raccomandata dagli esperti di sicurezza per proteggere gli account di posta o social dai furti, perché viaggiano su un canale separato rispetto alla richiesta di password tradizionale. La password viene trasmessa via Internet, mentre il codice supplementare di sicurezza mandato in un SMS viaggia attraverso la rete telefonica tradizionale, e quindi un aspirante intruso o ladro di account dovrebbe riuscire a intercettare sia il traffico Internet del bersaglio, sia il suo traffico telefonico.

Ma un’indagine pubblicata pochi giorni da un gruppo di giornalisti chiamato Lighthouse Reports in collaborazione con Bloomberg Businessweek [paywall] ha rivelato il ventre molle di questo venerabile servizio di messaggistica.

Quando un negozio online, una banca, un servizio di mail come Gmail o una piattaforma social come Instagram o Bluesky ci manda un SMS con i codici temporanei di autenticazione, in realtà non lo invia quasi mai direttamente a noi, come verrebbe spontaneo immaginare. Per contenere al massimo i costi, lo invia quasi sempre tramite società terze specializzate, degli intermediari, che a loro volta lo passano ad altri, fino a che finalmente arriva sul nostro schermo. Questo rimpallo è estremamente rapido, per cui non ce ne accorgiamo. Ma gli SMS vengono trasmessi in chiaro, ossia senza crittografia, e quindi ognuno di quegli intermediari può leggerne il contenuto senza che il mittente o il destinatario se ne possano accorgere.

E il contenuto di quegli SMS spesso include tutto quello che serve per rubare un account, perché assieme ai codici vengono inviati il numero di telefono del destinatario, per ovvie ragioni, e a volte anche il nome dell’account al quale si riferiscono. I codici segreti di autenticazione, insomma, non sono affatto segreti.

Se ne sono accorti l’anno scorso i giornalisti di Lighthouse Reports, appunto, quando hanno ricevuto da un addetto ai lavori, sotto anonimato e protezione giornalistica, un immenso archivio di SMS trafugati, che includevano circa un milione di messaggi contenenti codici di autenticazione a due fattori inviati intorno a giugno del 2023. Stando alle loro indagini, questi messaggi erano stati veicolati da una piccola società di telecomunicazioni svizzera, la Fink Telecom Services, che ha meno di dieci dipendenti. I mittenti erano Google, Meta, Amazon, banche europee, app come Tinder e Snapchat, servizi di scambi di criptovalute come Binance e persino servizi di messaggistica crittografata come Signal e WhatsApp. I destinatari, nota Bloomberg, erano situati in oltre 100 paesi in cinque continenti.

In altre parole, i nostri codici di sicurezza passano quasi sicuramente attraverso intermediari che non abbiamo mai sentito nominare.

Il problema è che questo settore è scarsamente regolamentato, ed è facilissimo diventare intermediari di miliardi di messaggi privati. In particolare, la Fink Telecom Services è nota agli esperti del settore per aver collaborato con agenzie di sorveglianza governative e con società specializzate nella sorveglianza digitale. Sempre Bloomberg sottolinea che “sia i ricercatori di sicurezza informatica, sia i giornalisti investigativi hanno pubblicato rapporti che accusano la Fink di essere coinvolta in vari casi di infiltrazione in account online privati.” Il CEO dell’azienda, Andreas Fink, respinge le accuse.

Le aziende che usano gli SMS per autenticare i propri servizi sono così ansiose di contenere i costi che si appoggiano a lunghe e intricate catene di intermediari non verificati, anche se sanno che questo è un comportamento pericoloso. Una delle principali organizzazioni di settore, il GSMA, ha pubblicato nel 2023 un codice di condotta che sconsiglia questa prassi proprio perché permetterebbe ai criminali di intercettare gli SMS contenenti i codici di sicurezza. Ma si tratta di un codice di condotta volontario, e sembra proprio che manchi la volontà diffusa di applicarlo.

Il rischio che deriva da questa carenza di volontà è tutt’altro che teorico. Nel 2020, per esempio, è emerso che una serie di attacchi informatici ai danni di investitori in criptovalute aveva usato proprio questa tecnica: un criminale informatico aveva ottenuto in questo modo i codici di autenticazione necessari per accedere agli account di mail e a quelli di gestione delle criptovalute di una ventina di persone in Israele. E ci sono altri casi documentati di intercettazioni e sorveglianze governative basate su questo approccio.

Purtroppo l’industria della trasmissione degli SMS, che si stima abbia un valore di oltre 30 miliardi di dollari, non ha strumenti legali che le consentano di scremare eventuali intermediari disonesti. I grandi utenti, ossia le aziende, appaltano gli invii dei loro codici di autenticazione a uno di questi intermediari e non hanno modo di sapere se questi invii vengono subappaltati e se quel subappaltatore a sua volta cede il contratto a terzi, e così via, in un complicato gioco internazionale di scatole cinesi e di società che spesso non hanno nemmeno bisogno di una licenza per operare.

E i nostri codici di sicurezza viaggiano così in questo mare burrascoso come messaggi in bottiglia che tutti possono leggere, mentre noi crediamo di aver protetto i nostri account attivando gli SMS di autenticazione.

Per fortuna ci sono delle soluzioni.

Di fronte a questa situazione caotica e insicura degli SMS tradizionali, gli esperti di sicurezza raccomandano alternative più robuste. In molti casi si possono attivare dei PIN supplementari sui propri account, e molti grandi nomi dei servizi online, come Google o Meta, offrono soluzioni di autenticazione che fanno a meno degli SMS e anzi stanno incoraggiando gli utenti ad abbandonare la ricezione di codici tramite messaggi telefonici tradizionali.

Una delle soluzioni più efficaci è l’uso di una app di autenticazione, come quelle di Google [Android; iOS] e Microsoft [Android; iOS], che si chiamano entrambe Authenticator, oppure Authy di Twilio. Per usarla, si entra nel proprio account del servizio che si vuole proteggere e lo si imposta in modo che non mandi un SMS con dei codici di verifica ma richieda un codice generato dall’app di autenticazione. Quel codice dura un minuto e poi viene cambiato automaticamente, e la sincronizzazione fra l’app e il sito si fa semplicemente inquadrando una volta con il telefono un codice QR.

Un altro metodo è l’uso di chiavi di sicurezza hardware: degli oggetti fisici, simili a chiavette USB, che si inseriscono nel computer, tablet o telefonino oppure si tengono vicini a uno di questi dispositivi per autorizzarlo ad accedere a un servizio online. Costano qualche decina di euro o franchi e diventano una sorta di portachiavi elettronico.

Queste soluzioni offrono maggiore sicurezza rispetto alla situazione colabrodo attuale degli SMS, ma in cambio richiedono un po’ di attenzione in più da parte dell’utente e, nel caso della chiave hardware comportano anche una piccola spesa.

Hanno anche un altro limite: accentrano tutti i codici in un’unica app o un unico dispositivo, per cui se si perde o rompe il telefonino o la chiave hardware si rischia di perdere accesso a tutti i propri account, mentre gli SMS invece arrivano sempre e comunque e sono separati per ogni account. Ma anche qui ci sono dei rimedi: si possono avere copie multiple dell’app di autenticazione su telefonini differenti o su più di una chiave hardware, un po’ come si fa con le chiavi della porta di casa, di cui è prassi normale avere almeno un paio di esemplari.

Se avete in casa un vecchio smartphone che non usate più perché la batteria non regge, potete recuperarlo facendolo diventare il vostro autenticatore di scorta, da lasciare a casa al sicuro in un cassetto e da usare in caso di furto o guasto dello smartphone principale.

Le soluzioni, insomma, ci sono. Ma resta la constatazione amara che le società più ricche del pianeta, come Google, Amazon o Meta, non sono disposte a spendere per garantire meglio la sicurezza dei propri utenti e continuano ad appoggiarsi a questa ingarbugliata rete di intermediari e sottointermediari invece di prendere il toro per le corna e mandare gli SMS di autenticazione direttamente. Tanto se perdiamo accesso ai nostri dati sui loro server, se ci saccheggiano il conto PayPal o Twint o quello in criptovalute, se perdiamo il controllo dei nostri profili social o qualcuno si legge tutta la nostra mail, il problema è nostro, non loro. E quindi, cinicamente, a queste grandi aziende conviene barattare la nostra sicurezza in cambio di un loro risparmio.

È dunque il caso di rimboccarsi le maniche virtuali e abbandonare gli SMS, pensando in prima persona alla propria protezione digitale, senza aspettare che lo faccia qualcuno per noi.

Niente Panico RSI – Puntata del 2025/06/16

È andata in onda lunedì scorso l’ultima puntata prima della pausa estiva di Niente Panico, il programma che conduco in diretta insieme a Rosy Nervi settimanalmente sulla Rete Tre della Radiotelevisione Svizzera. La trasmissione è riascoltabile presso www.rsi.ch/rete-tre/programmi/intrattenimento/serotonina oppure nell’embed qui sotto.

Lo streaming in diretta della Rete Tre è presso www.rsi.ch/audio/rete-tre/live; la mia raccolta completa delle puntate è presso Attivissimo.me/np.

Niente Panico tornerà il 29 settembre.

L’articolo sulle ipotesi di allineamento delle piramidi egizie che cito è stato pubblicato su Astronomy nel 2021. Le tecniche di posa dei sarcofagi di Saqqara sono tratte da questo articolo di Wikipedia.

La vicenda della funicolare di Lugano che secondo Google Gemini dovrebbe chiudere nel 2027 (non è vero) mi è stata segnalata da un lettore, Mauro, che ringrazio. A lui devo questi screenshot. Non fidatevi di quello che dicono queste pseudointelligenze. Con tutti i miliardi che hanno speso Google, Microsoft, Meta e compagnia bella, non sono ancora capaci di distinguere la satira e i pesci d’aprile dalla realtà.

Sì, certo, c’è scritto “Le risposte dell’AI potrebbero contenere errori”. Ma allora cosa le consultiamo a fare? Sono solo una costosa, energivora perdita di tempo.

La “fonte” usata da Gemini (Instagram).

Podcast RSI – Le domande intime degli altri fatte a Meta AI si possono leggere online

Questo è il testo della puntata del 16 giugno 2025 del podcast Il Disinformatico della Radiotelevisione Svizzera, scritto, montato e condotto dal sottoscritto. Il testo include anche i link alle fonti di questa puntata.

Le puntate del Disinformatico sono ascoltabili anche tramite iTunes, YouTube Music, Spotify e feed RSS. Il mio archivio delle puntate è presso Attivissimo.me/disi.

[CLIP: voce sintetica legge il testo di una domanda: “quale crema o unguento si può usare per lenire una grave reazione con lesioni allo scroto causate dal rasoio usato per depilarsi?”]

Se siete fra gli utenti delle app di Meta, come Facebook, Instagram o WhatsApp, fate attenzione alle domande che rivolgete a Meta AI, l’assistente basato sull’intelligenza artificiale integrato da qualche tempo in queste app e simboleggiato dall’onnipresente cerchietto blu. Moltissimi utenti, infatti, non si rendono conto che le richieste fatte a Meta AI non sempre sono private. Anzi, può capitare che vengano addirittura pubblicate online e rese leggibili a chiunque. Come quella che avete appena sentito.

E sta capitando a molti. Tanta gente sta usando quest’intelligenza artificiale di Meta per chiedere cose estremamente personali e le sta affidando indirizzi, situazioni mediche, atti legali e altro ancora, senza rendersi conto che sta pubblicando tutto quanto, con conseguenze disastrose per la privacy e la protezione dei dati personali: non solo i propri, ma anche quelli degli altri.

Questa è la storia di Meta AI, di come mai i dati personali degli utenti finiscono per essere pubblicati da quest’app e di come evitare che tutto questo accada.

Benvenuti alla puntata del 16 giugno 2025 del Disinformatico, il podcast della Radiotelevisione Svizzera dedicato alle notizie e alle storie strane dell’informatica. Io sono Paolo Attivissimo.

[SIGLA di apertura]

Meta AI è un servizio online basato sull’intelligenza artificiale che è stato presentato pochi mesi fa ed è accessibile tramite un’app omonima e tramite Facebook, Instagram e WhatsApp: è rappresentato da quel cerchietto blu che è comparso, non invitato, in tutte queste app. È simile a ChatGPT, nel senso che gli utenti possono fargli domande scritte o a voce e ottenerne risposte altrettanto scritte o vocali, possono mandargli immagini per farle analizzare, e possono chiedergli anche di creare immagini in base a una descrizione.

Meta AI, però, ha una differenza importantissima rispetto a ChatGPT, Google Gemini e gli altri prodotti analoghi: ha un’opzione che permette che le domande che gli vengono rivolte possano essere pubblicate online, dove chiunque può leggerle. E a giudicare dalle cose che si possono vedere nel flusso pubblico di queste domande e risposte, è evidente che moltissimi utenti non sono affatto consapevoli di questa differenza e stanno rendendo pubbliche richieste molto private e spesso spettacolarmente imbarazzanti.

Nell’app e nel sito di Meta AI (https://www.meta.ai/#feed) c’è infatti una sezione, chiamata formalmente Discover, dove chiunque può sfogliare le domande poste dagli utenti a questa intelligenza artificiale e vedere chi le ha fatte: ogni domanda è infatti associata all’account di chi l’ha inviata.

Esplorando il contenuto di questa sezione si trova davvero di tutto: richieste di generare immagini di donne che si baciano mentre lottano nel fango in bikini, o di produrre le soluzioni a un compito o a un esame, per esempio, ma anche richieste di fare diagnosi mediche, accompagnate da descrizioni dettagliate dei sintomi, oppure di comporre una lettera di risposta a uno studio legale, con tanto di nomi, cognomi e indirizzi delle persone coinvolte.

Screenshot mio (link).

Molte testate giornalistiche [CNBC; BBC; Fastcompany; Wired; Business Insider] e vari esperti di sicurezza informatica e privacy digitale, come per esempio Rachel Tobac, hanno catalogato e documentato davvero di tutto: dettagli di casi clinici e procedimenti legali, richieste di pareri riguardanti evasioni fiscali, informazioni sui reati personalmente commessi, domande appunto su come rimediare a irritazioni prodotte dalla rasatura delle parti intime o come affrontare una transizione di genere, richieste di aiuto su come trovare donne (cito) “con un sedere grosso e un bel davanzale”, e altro ancora, sotto forma di richieste scritte o vocali, leggibili o ascoltabili da chiunque e condivisibili con il mondo, perché ciascuna richiesta ha un link pubblico.

Uno dei casi più incredibili è la richiesta pubblica a Meta AI di “creare una lettera che implori il giudice (identificato dal cognome) di non condannarmi a morte per l’omicidio di due persone”.

E tutto questo, ripeto, è associato ai nomi degli account dei richiedenti, che molto spesso sono i loro nomi e cognomi anagrafici, per cui risalire alle loro identità è facilissimo.

Se avete già usato Meta AI e adesso siete nel panico perché state ripensando alle cose potenzialmente imbarazzanti o private che avete chiesto a questo servizio, aspettate un momento. Ci sono alcuni dettagli importanti da conoscere.

Prima di tutto, il problema di questo torrente di domande rivolte dagli utenti a Meta AI e rese pubbliche riguarda soltanto i paesi nei quali Meta AI è pienamente attivo. In gran parte dell’Europa, per esempio, il flusso pubblico di domande non è accessibile, grazie alle norme sulla protezione dei dati personali che servono proprio a impedire disastri come questo.

Per consultarlo, o per finire inavvertitamente per farne parte, è necessario risiedere in uno dei numerosi paesi, come gli Stati Uniti, nei quali Meta AI opera senza restrizioni, e occorre avere un account Meta legato a quel paese. Per esempio, per poter vedere con i miei occhi questo impressionante flusso di domande pubblicate ho dovuto usare una VPN per simulare di essere negli Stati Uniti. E il mio account Meta di test, associato alla Svizzera, mi dice che le funzioni dell’app Meta AI non sono ancora disponibili nella mia area geografica.

In altre parole, se abitate in Europa questo problema probabilmente non vi riguarda, almeno per ora. Ma le cose possono cambiare, e se vivete fuori dall’Europa o avete amici, colleghi o parenti che non risiedono in questo continente è consigliabile avvisarli di questa potenziale fuga di dati personali estremamente sensibili.

In secondo luogo, per rendere pubblica una domanda rivolta a Meta AI è necessario cliccare su un pulsante di condivisione e poi su un ulteriore pulsante di pubblicazione, ed è indicato piuttosto chiaramente quello che succederà, con un avviso dettagliato che dice specificamente che se si condivide il prompt, ossia la domanda, le altre persone potranno vedere per intero la conversazione fatta con Meta AI e raccomanda di “evitare di condividere informazioni personali o sensibili”.

Ma se ci sono tutte queste avvertenze, come è possibile che gli utenti di Meta AI finiscano lo stesso per pubblicare le proprie domande imbarazzanti e le proprie informazioni personali? È vero che le persone usano queste app in maniera molto distratta e superficiale, e spesso non hanno ben chiaro cosa significhi esattamente “condividere” o “prompt” nel mondo dei social, ma dare la colpa esclusivamente agli utenti disattenti e impreparati sarebbe scorretto.

La già citata esperta Rachel Tobac spiega infatti che gli utenti comuni si sono fatti ormai uno schema mentale di come funzionano i chatbot basati sull’intelligenza artificiale e non si aspettano nemmeno lontanamente che le loro richieste possano essere pubblicate, perché le altre app dello stesso genere non lo fanno. Si aspettano che le loro domande siano sempre e comunque private; magari condivise con il fornitore del servizio, ma non con il mondo intero. Non si aspettano che esista addirittura una pagina pubblica del sito di Meta dove le loro domande possono essere pubblicate per errore.

Non solo: se si chiede a Meta AI se le domande che gli si rivolgono sono pubbliche o no, l’intelligenza artificiale mente senza esitazione, dicendo con tono risoluto che no, le conversazioni sono private e nessun altro le può vedere [Rachel Tobac]. Per cui è comprensibile che gli utenti siano confusi e disorientati.

I responsabili di Meta hanno insomma commesso un errore grave e fondamentale nella progettazione della propria interfaccia con gli utenti. Sanno benissimo che fra i loro quattro miliardi di utenti stimati nel mondo ci sono tante persone che hanno un rapporto molto superficiale con l’informatica, eppure non ne hanno tenuto conto e hanno pensato che fosse una buona idea offrire l’opzione di pubblicare le proprie domande, senza considerare le possibili conseguenze. E soprattutto hanno pensato che fosse sensato permettere a chiunque di leggere le conversazioni condivise inavvertitamente dagli altri, creando un disastro di privacy ampiamente prevedibile.

Come nota TechCrunch, infatti, ci sono dei precedenti molto educativi: questo sito dedicato alle tecnologie dice che “c’è un motivo per cui Google non ha mai tentato di trasformare il proprio motore di ricerca in un flusso social, o per cui la pubblicazione delle ricerche degli utenti di America Online in forma pseudo-anonimizzata nel 2006 è finita così male” [New York Times, 2006]. E come nota invece Gizmodo, Facebook anni fa rilasciò una versione nella quale la casella di ricerca somigliava alla casella di scrittura dei post, per cui gli utenti finivano per postare pubblicamente le loro ricerche, e nel 2023 l’app di pagamento Venmo aveva avuto l’idea geniale di rendere pubblicamente cercabili i dettagli delle transazioni degli utenti, con conseguenze ovvie e disastrose [Daily Dot].

C’è anche un secondo errore commesso dai progettisti di Meta, ed è la scelta di impostare questo servizio di dubbia utilità in modo che spetti all’utente agire per tutelare la propria privacy, invece di progettarlo in modo tale che l’utente debba fare qualcosa di concreto per perderla. È il concetto di privacy by default: la riservatezza deve essere l’impostazione predefinita.

Vediamo allora a questo punto cosa si può fare per rimediare a queste scelte di Meta.

Se avete installato l’app Meta AI e vi funziona pienamente, potete ridurre il rischio di postare inconsapevolmente le vostre domande personali andando nell’app e toccando l’icona del vostro profilo in alto a destra.

Fatto questo, scegliete le impostazioni dell’app e la sezione dedicata a dati e privacy, andate nella sottosezione dedicata alla gestione delle informazioni personali e toccate l’opzione che parla di rendere visibili solo a voi tutti i vostri prompt e di condividere quei prompt con altre app, disattivando tutto. Già che ci siete, vi conviene anche toccare e attivare l’opzione che permette di cancellare tutti i prompt precedenti, per fare tabula rasa [Gizmodo]. Se vi siete persi qualche passaggio, non vi preoccupate: le istruzioni dettagliate sono disponibili presso Attivissimo.me.

Questa vicenda, al di là dei suoi risvolti umani a metà fra il voyeuristico e il deprimente, dimostra ancora una volta che nonostante gli infiniti proclami di avere a cuore la nostra privacy, in realtà ai gestori dei social network la protezione dei dati degli utenti non interessa affatto. Tengono invece al profitto, e devono in qualche modo giustificare le cifre spropositate che stanno spendendo per stare al passo con questa febbre dell’intelligenza artificiale, per cui non ci chiedono se per caso vogliamo la IA in tutte le nostre app, ma ce la impongono a forza.

Se avessero davvero a cuore la nostra riservatezza, imposterebbero i loro servizi in modo che debba essere l’utente ad abbassare volontariamente le proprie protezioni. E invece tocca a noi utenti informarci e stare vigili a ogni aggiornamento delle nostre app social per tenere alzate quelle protezioni. È estenuante, e forse l’unico rimedio per non cedere allo sfinimento prima o poi è semplicemente smettere di usare questi prodotti e passare ad alternative progettate meglio e a favore degli utenti e non degli azionisti.

Sì, esistono. Ma questa è un’altra storia per un’altra puntata di questo podcast.

Fonti

Meta AI’s discover feed is full of people’s deepest, darkest personal chatbot conversations, Fastcompany.com, 2025

Mark Zuckerberg has created the saddest place on the internet with Meta AI’s public feed, Business Insider, 2025

Meta AI posts your personal chats to a public feed, Pivot to AI, 2025

Justine Moore su X, 2025

The Meta AI App Lets You ‘Discover’ People’s Bizarrely Personal Chats, Wired, 2025 (copia su Archive.is)

Meta AI searches made public – but do all its users realise?, BBC, 2025

The Meta AI app is a privacy disaster, TechCrunch, 2025

PSA: Get Your Parents Off the Meta AI App Right Now, Gizmodo, 2025

Rachel Tobac su X, 2025

Here’s how to keep Meta AI from sharing your prompts on Facebook, Instagram, CNBC, 2025

Avviare una conversazione con Meta AI, Meta, 2025

Europe, Meet Your Newest Assistant: Meta AI, Meta, 2025

Meta is about to use Europeans’ social posts to train its AI. Here’s how you can prevent it, Euronews, 2025

Meta AI, pratica ma problematica, RSI, 2025

A Face Is Exposed for AOL Searcher No. 4417749, New York Times, 2006

Podcast RSI – Quando l’IA non è A: la beffa miliardaria di Builder.ai

Questo è il testo della puntata del 9 giugno 2025 del podcast Il Disinformatico della Radiotelevisione Svizzera, scritto, montato e condotto dal sottoscritto. Il testo include anche i link alle fonti di questa puntata.

Le puntate del Disinformatico sono ascoltabili anche tramite iTunes, YouTube Music, Spotify e feed RSS. Il mio archivio delle puntate è presso Attivissimo.me/disi.

[CLIP: inizio dello spot promozionale di Builder.ai, ancora online su YouTube]

Un’azienda informatica operante nel settore dell’intelligenza artificiale applicata alla programmazione e valutata un miliardo e mezzo di dollari è crollata sotto gli occhi dei suoi investitori, fra i quali spicca Microsoft, perché è emerso che il suo prodotto basato sulla IA era molto I ma poco A: la sua strombazzata “intelligenza artificiale”, infatti, era in realtà quasi interamente costituita da 700 informatici residenti in India, pagati da 8 a 15 dollari l’ora per fingere di essere un software.

Questa è la storia di Builder.ai, che probabilmente è il più grosso flop di questo periodo di delirio di investimenti su qualunque cosa legata all’intelligenza artificiale, ma non è l’unico: è stato stimato che il 40% delle startup che hanno annunciato di avere un prodotto basato sull’intelligenza artificiale in realtà non usano affatto questa tecnologia ma simulano di averla per attirare più capitali. E finalmente comincia a serpeggiare una domanda: quanto di questo boom estenuante dell’intelligenza artificiale è solo marketing o addirittura sconfina nella truffa?

Benvenuti alla puntata del 9 giugno 2025 del Disinformatico, il podcast della Radiotelevisione Svizzera dedicato alle notizie e alle storie strane dell’informatica. Io sono Paolo Attivissimo.

[SIGLA di apertura]

Builder.ai era una delle grandi speranze legate all’intelligenza artificiale nel Regno Unito. La startup londinese aveva raccolto 450 milioni di dollari di finanziamenti in capitale di rischio, principalmente da Microsoft e dal fondo sovrano di investimento del Qatar, uno dei più grandi del mondo. Il suo prodotto era Natasha, un’intelligenza artificiale che a suo dire permetteva ai clienti di creare app o addirittura interi siti di commercio elettronico semplicemente conversando con lei, senza aver bisogno di sapere nulla di programmazione. Nel 2023, quando Microsoft aveva investito in Builder.ai, uno dei vicepresidenti dello storico colosso del software, Jon Tinter, aveva detto che Builder.ai stava “creando una categoria completamente nuova che dà a tutti il potere di diventare sviluppatori” [GlobeNewsWire, 2023], e Microsoft aveva intenzione di integrare Natasha nel suo onnipresente Teams.

Ma il mese scorso Builder.ai ha presentato istanza di fallimento negli Stati Uniti, con debiti stimati fra i 50 e i 100 milioni di dollari [Courtlistener; Courtlistener], perché le indagini giornalistiche e quelle degli investitori hanno rivelato pratiche di contabilità estremamente sospette e perché è emerso che Natasha non esisteva: era solo una facciata di marketing, per nascondere il fatto poco vendibile che la sua cosiddetta intelligenza artificiale era in realtà costituita da un gruppo di 700 analisti, sviluppatori e programmatori residenti a Delhi, in India, addestrati a fingere di essere una IA, tanto che i dipendenti dicevano scherzosamente che “AI”, l’acronimo inglese che indica l’intelligenza artificiale, stava in realtà per “Another Indian”, ossia “un altro indiano”. I tecnici di Builder.ai si autodefinivano “un call center, ma con un marketing migliore”. Natasha si prendeva il merito e i clienti credevano di interagire con una straordinaria intelligenza artificiale capace di sviluppare app meglio degli esseri umani.

E le cose andavano avanti così da anni, fin dal 2016, quando l’azienda si chiamava Engineering.ai, e sono andate avanti nonostante il fatto che già nel 2019, quindi sei anni fa, le indagini del Wall Street Journal avevano fatto emergere il fatto che la sedicente IA dell’azienda era in realtà la maschera che copriva i volti di sviluppatori in carne e ossa [The Verge; WSJ], anche se il CEO di allora, Sachin Duggal, andava in giro a dire pubblicamente che il lavoro di sviluppo delle app era svolto per più dell’80% dall’intelligenza artificiale [Builder.ai su Facebook, video del 2018].

Sempre nel 2019, il responsabile commerciale di Engineering.ai, Robert Holdheim, aveva fatto causa all’azienda accusandola di esagerare le proprie capacità di intelligenza artificiale per ottenere gli investimenti che le servivano per sviluppare realmente la tecnologia che diceva di avere già [The Verge]. Ma ci sono voluti quasi nove anni perché i nodi arrivassero al pettine, e nel frattempo Builder.ai si è lasciata dietro una scia di investitori prestigiosi che ora si rendono conto di essere stati beffati.

La febbre dell’intelligenza artificiale arde ormai da parecchi anni, e molti investitori si lasciano sedurre dal marketing invece di analizzare la sostanza delle aziende che finanziano. E il caso di Builder.ai non è isolato. Secondo un’analisi della società di investimenti britannica MMC Ventures datata 2019, “le startup che hanno qualche sorta di componente IA possono attirare fino al 50% in più di investimenti rispetto alle altre società di software” ma “si sospetta che il 40% o più di queste startup non usi in realtà nessuna forma di intelligenza artificiale” [The Verge].

Per esempio, ad aprile 2025 è emerso che l’app di shopping Nate, che affermava di permettere agli utenti di completare gli acquisti nei negozi online facendo un solo clic grazie all’intelligenza artificiale, in realtà sfruttava centinaia di lavoratori nelle Filippine, che non facevano altro che completare a mano gli acquisti iniziati dai clienti. Secondo il Dipartimento di Giustizia statunitense, che ha incriminato l’ex CEO dell’azienda che gestiva questa app, il tasso effettivo di automazione di questa app era zero e il CEO ha nascosto intenzionalmente questo fatto agli investitori, dai quali è riuscito a farsi dare oltre 40 milioni di dollari.

Un altro esempio: nel 2023 la Presto Automation, società che offriva un popolare software per automatizzare gli ordini e gli acquisti nelle più importanti catene di fast food, ha ammesso che oltre il 70% degli ordini che a suo dire venivano gestiti dall’intelligenza artificiale erano in realtà presi in carico da lavoratori anche stavolta nelle Filippine [The Verge; Bloomberg]. La società è finita sotto indagine da parte delle autorità statunitensi di vigilanza sui mercati.

Nel 2016 Bloomberg ha segnalato il caso delle persone che lavoravano per dodici ore al giorno fingendo di essere dei chatbot per i servizi di gestione delle agende, come per esempio X.ai e Clara. Nel 2017 è emerso che i gestori di Expensify, una app che dichiarava di usare una “tecnologia di scansione smart” per leggere e digitalizzare ricevute e scontrini, in realtà sfruttava dei lavoratori umani sottopagati, che ovviamente venivano a conoscenza di tutti i dati personali dei clienti. E si potrebbe citare anche Facebook, il cui assistente virtuale per Messenger, denominato M, dal 2015 al 2018 si è appoggiato in realtà a esseri umani per oltre il 70% delle richieste [The Guardian].

In altre parole, l’intelligenza artificiale viene spesso usata come luccicante foglia di fico per coprire il fatto che si vuole semplicemente sfruttare una manodopera più a buon mercato di quella locale.

Non è che quelli che operano nel settore dell’intelligenza artificiale siano tutti truffatori o venditori di fumo: in parte il fenomeno delle IA fittizie è dovuto al fatto che spesso l’intelligenza artificiale sembra funzionare bene durante la fase di test ma fallisce quando viene esposta alle complessità del mondo reale e viene usata su vasta scala. Inoltre procurarsi i dati necessari per l’addestramento di una IA dedicata è molto costoso e richiede molto tempo.

C’è anche il fatto che l’intelligenza artificiale attuale ha ancora molto bisogno di intervento umano, e oltretutto di intervento umano qualificato, che costa, e quindi le promesse di riduzione dei costi spesso si rivelano vane. Per esempio, i social network, nonostante spingano insistentemente per l’adozione di massa delle intelligenze artificiali, non riescono ancora a usarle per moderare automaticamente i contenuti pubblicati dagli utenti e sono tuttora costretti a subappaltare questo compito a esseri umani, anche in questo caso sottopagati, ma siccome ammettere questa situazione non è cool e non fa bene alla quotazione in borsa, si continua a far finta di niente e si cerca di far sembrare che questa tecnologia sia più sofisticata di quanto lo sia realmente.

A questo miraggio della IA come tecnologia magica e affidabile credono in molti, compresi i professionisti di vari settori. Nella puntata precedente di questo podcast ho raccontato alcuni incidenti molto costosi e imbarazzanti che hanno coinvolto per esempio gli avvocati di vari paesi, che si sono affidati alle intelligenze artificiali per preparare le loro cause senza rendersi conto che questi software non sono fonti attendibili perché per natura tendono a inventarsi le risposte ai quesiti degli utenti. Dal Regno Unito arriva un aggiornamento che mostra quanto sia diventato grave e diffuso questo uso scorretto.

L’Alta corte di giustizia dell’Inghilterra e del Galles, un tribunale superiore che vigila sulle corti e i tribunali ordinari, ha rilasciato la settimana scorsa un documento indirizzato a tutti gli operatori di giustizia di sua competenza che è in sostanza una solenne lavata di capo a chi, per professione, dovrebbe sapere benissimo che non si va in tribunale portando fonti cercate rivolgendosi a ChatGPT, Gemini e simili senza verificarle.

Erano già state emanate delle direttive che mettevano in guardia contro i rischi di perdite di tempo e di equivoci derivati dall’uso improprio dell’intelligenza artificiale in campo legale, ma dopo un caso nel quale una causa di risarcimento per danni finanziari ammontanti a ben 89 milioni di sterline (circa 105 milioni di euro) è stata presentata fornendo al tribunale 45 precedenti inesistenti e fabbricati da un’intelligenza artificiale generativa, l’Alta corte ha deciso che a questo punto “è necessario prendere misure pratiche ed efficaci” contro questo fenomeno, come l’ammonimento pubblico dell’avvocato coinvolto, l’imposizione di una sanzione per i costi inutili causati, l’annullamento dell’azione legale e, nei casi più gravi, il processo per oltraggio alla corte o la segnalazione alla polizia [Pivot to AI].

L’aspetto forse più sorprendente, in tutte queste vicende legate all’intelligenza artificiale, è che non sono coinvolte persone qualsiasi, ma professionisti altamente qualificati, sia in campo legale sia in campo finanziario. Tutta gente che teoricamente dovrebbe sapere che prima di investire il proprio denaro (o quello degli altri) bisogna informarsi seriamente e indipendentemente sulla solidità della proposta, senza fidarsi delle patinate presentazioni aziendali, e che altrettanto teoricamente dovrebbe sapere che per fare le ricerche di precedenti legali non si va su Google e si prende per buono qualunque cosa risponda, ma si usano i servizi di ricerca professionali appositi. E invece ci cascano, e continuano a cascarci.

I catastrofisti dell’intelligenza artificiale dipingono spesso scenari inquietanti nei quali le macchine prima o poi acquisiranno un intelletto superiore a quello umano e quindi prenderanno il controllo di tutto. Ma forse non c’è bisogno di far leva sulla superiorità intellettiva. È sufficiente giocare sulla nostra tendenza a credere non a quello che è vero, ma a quello che vorremmo che fosse vero.

Gli investitori superpagati vogliono credere che investire nell’IA li farà diventare ancora più ricchi, e gli avvocati vogliono credere di poter delegare il loro lavoro a un software ottuso e incassare laute parcelle facendo meno fatica. E così l’intelligenza artificiale generativa dei grandi modelli linguistici come ChatGPT, Claude o Gemini, con la sua parlantina scioltissima e le sue risposte apparentemente così autorevoli, diventa l’imbonitore perfetto per rifilare fregature.

Impressionante espressività dei video generati con IA

Credo che il video qui sotto sia stato realizzato con Google Veo 3, che costa 250 dollari al mese: una cifra abbordabilissima per qualunque truffatore. Inquietante.

Questo, invece, è sicuramente fatto con Veo 3. Ottima l’idea di usare l’IA per mettere in guardia contro i rischi di inganno dell’IA stessa. Il video è disponibile anche su Instagram ed è opera di @thetravisbible.

Podcast RSI – Avvocati, giornalisti e governanti collezionano figuracce con l’IA

Questo è il testo della puntata del 2 giugno 2025 del podcast Il Disinformatico della Radiotelevisione Svizzera, scritto, montato e condotto dal sottoscritto. Il testo include anche i link alle fonti di questa puntata.

Le puntate del Disinformatico sono ascoltabili anche tramite iTunes, YouTube Music, Spotify e feed RSS. Il mio archivio delle puntate è presso Attivissimo.me/disi.

A giugno 2023, esattamente due anni fa, i nomi degli avvocati statunitensi Peter LoDuca e Steven Schwartz avevano fatto il giro del mondo perché LoDuca, per difendere il suo assistito, aveva depositato in tribunale una lunga serie di precedenti legali che però erano stati inventati di sana pianta da ChatGPT, usato dal collega Schwartz credendo che fosse una fonte attendibile e addirittura chiedendo a ChatGPT di autenticare i precedenti che aveva appena inventato. Nel suo ormai classico stile, ChatGPT aveva risposto che era tutto in ordine.

Il giudice li aveva puniti con un’ammenda di alcune migliaia di dollari, ma la punizione più grave era stata la figuraccia mediatica. Chiunque cercasse i nomi di questi avvocati in Google li trovava associati da moltissimi giornali, e anche da questo podcast, alla loro dimostrazione di travolgente inettitudine [Disinformatico; Disinformatico].

Potreste pensare che dopo un caso clamoroso del genere gli avvocati in generale abbiano imparato la lezione e che simili disastri non si siano più ripetuti, ma non è così. Anzi, anche dal mondo del giornalismo e persino dai governi arrivano esempi di preoccupante incapacità di usare correttamente l’intelligenza artificiale.

Questa è la storia di una serie di esempi di uso inetto e incompetente della IA generativa da parte di professionisti e politici che sembrano incapaci di imparare dagli errori altrui e continuano, a volte con leggerezza preoccupante e spesso con arroganza sconcertante, a partorire deliri e vaneggiamenti dai quali purtroppo dipendono le sorti e la salute di tutti noi.

Sono esempi da raccontare non per umiliare o sbeffeggiare, ma per ribadire e diffondere il più possibile un concetto fondamentale che a quanto pare fa veramente fatica a essere acquisito: le intelligenze artificiali attuali non sono fonti affidabili e non ci si può fidare ciecamente dei loro risultati, ma bisogna sempre controllarli accuratamente. Altrimenti, prima o poi, la figuraccia è garantita.

Benvenuti alla puntata del 2 giugno 2025 del Disinformatico, il podcast della Radiotelevisione Svizzera dedicato alle notizie e alle storie strane dell’informatica. Io sono Paolo Attivissimo.

[SIGLA di apertura]

Il 18 maggio scorso vari quotidiani statunitensi, comprese testate di prestigio come il Chicago Sun-Times e il Philadelphia Inquirer, hanno pubblicato una pagina di suggerimenti letterari per l’estate: un elenco di titoli di libri di autori molto celebri, accompagnato da una dettagliata recensione di ciascuno dei quindici libri proposti. Titoli come I creatori della pioggia, del premio Pulitzer Percival Everett, o I sogni dell’acqua di marea di Isabel Allende. Titoli che anche se siete appassionati di letteratura non vi suoneranno per nulla familiari, per la semplice ragione che non esistono.

Foto della pagina in questione (Ars Technica).

Dei quindici titoli consigliati da questi giornali, solo cinque sono reali: gli altri dieci sono inesistenti, e la loro recensione è quindi ovviamente del tutto fasulla. L’inserto letterario di questi quotidiani è stato generato usando l’intelligenza artificiale: lo ha ammesso il suo autore, Marco Buscaglia, in seguito alle proteste dei lettori paganti di quei giornali.

Figuraccia per le testate coinvolte, che rischiano una grave perdita di fiducia e di credibilità lasciando che venga pubblicato del contenuto generato da IA senza alcuna supervisione o verifica, ma figuraccia anche per la società che ha fornito ai giornali quel contenuto, la King Features, che è una consociata del colosso dell’editoria statunitense Hearst.

Andando a leggere le scuse e gli atti di contrizione di tutte le parti coinvolte emerge una classica catena di errori: tutti hanno dato per scontato che l’elenco dei libri fosse stato verificato da qualcun altro lungo la filiera di produzione, e alla fine nessuno ha verificato nulla e i deliri dell’intelligenza artificiale, dall’aria superficialmente così plausibile, mimetizzati in mezzo a informazioni corrette, hanno raggiunto indisturbati le rotative. Buscaglia, fra l’altro, ha dichiarato che usava abitualmente l’intelligenza artificiale per le ricerche di base e controllava sempre i risultati che otteneva, ma questa volta non lo aveva fatto. La sua fiducia nell’intelligenza artificiale gli è costata il posto di lavoro [404 Media; Ars Technica; NPR; 404 Media].

Purtroppo questo non è l’unico caso del suo genere. Il giornalismo, cioè il mestiere che dovrebbe farci da baluardo contro la disinformazione, sta invece adottando disinvoltamente uno strumento che genera disinformazione. E in molti casi lo sta adottando in maniera totalmente dilettantesca: per esempio, il giornalista Aaron Pelczar si è dimesso dal giornale del Wyoming dove lavorava, il Cody Enterprise, perché ha usato ripetutamente l’intelligenza artificiale per generare articoli che contenevano virgolettati inventati e attribuiti al governatore locale, che non l’ha presa bene.

Il giornalista è stato colto sul fatto perché in fondo a uno dei suoi articoli ha lasciato la frase “Questa struttura garantisce che vengano presentate per prime le informazioni più critiche, facilitando ai lettori la comprensione più rapida dei punti salienti”, che non c’entrava nulla con il tema trattato ma era chiaramente presa di peso dalla risposta di una IA alla richiesta di strutturare e generare un articolo. Articolo che Pelczar non si era nemmeno degnato di rileggere prima di consegnarlo [The Guardian; Powell Tribune].

Foto del paragrafo finale dell’articolo di Pelczar, che contiene la frase generata da ChatGPT.

Già nel 2023 la celebre rivista Sports Illustrated era stata colta a pubblicare non solo articoli generati completamente dall’intelligenza artificiale ma anche ad attribuirli a giornalisti inesistenti, i cui nomi e le cui foto erano stati partoriti dalla stessa intelligenza artificiale, usata da un fornitore esterno di notizie. Episodi analoghi hanno coinvolto giornali e riviste di prestigio, come il Los Angeles Times, il Miami Herald e US Weekly, e il sito dedicato alle notizie tecnologiche CNET, smascherati tutti solo grazie alle indagini di giornalisti veri, in carne e ossa, che si erano insospettiti leggendo lo stile stentato e ripetitivo di questi falsi articoli e notando le loro frasi grammaticalmente impeccabili ma completamente prive di senso [PBS; Futurism; Washington Post; Futurism; NPR].

Quello che colpisce, in tutti questi episodi, non è tanto il fatto che delle redazioni tentino di usare la scorciatoia dell’intelligenza artificiale per ridurre i tempi e contenere i costi, ma che cerchino di farlo di nascosto e sperino di farla franca. È come se pensassero che il lettore sia stupido e quindi non si possa rendere conto che gli è stato rifilato un prodotto avariato. Ci sono molte situazioni nelle quali l’intelligenza artificiale può essere utile in una redazione, ma usarla per generare articoli in questo modo è come vendere una torta piena di segatura al posto della farina e pensare che tanto nessuno si accorgerà della differenza.

E nonostante questi precedenti, c’è sempre qualcuno che ci riprova.

A proposito di precedenti, anche gli avvocati sembrano incapaci di imparare dagli errori dei colleghi. Dopo la figuraccia, la sanzione e il clamore internazionale del caso degli avvocati LoDuca e Schwartz che nel 2023 erano stati colti appunto a depositare in tribunale dei precedenti inesistenti, generati dall’intelligenza artificiale, l’elenco dei legali che hanno pensato bene di affidarsi ciecamente alla IA per il proprio lavoro non ha fatto che allungarsi.

Addirittura è nato un sito, AI Hallucination Cases, che compila e documenta gli episodi di questo genere. Finora ne ha catalogati ben 129; e questo è solo il numero dei casi, in tutto il mondo, nei quali si è arrivati a una decisione legale che ha confermato che un avvocato ha presentato in tribunale materiale fasullo, generato da un’intelligenza artificiale. Non si tratta insomma semplicemente di casi nei quali si sospetta che sia stata usata l’IA, ma di casi nei quali un avvocato è stato colto sul fatto e sanzionato per la propria condotta.

La cosa che colpisce è che ben 20 di questi casi sono avvenuti a maggio di quest’anno: segno che l’uso inetto e maldestro dell’intelligenza artificiale nelle consulenze legali si sta espandendo, e lo sta facendo in tutto il mondo. Fra i casi raccolti da questo sito compilativo ce ne sono infatti vari avvenuti in Australia, Paesi Bassi, Regno Unito, Spagna, Canada, Sud Africa, Israele, Brasile, Irlanda e Nuova Zelanda, e ce n’è anche uno italiano, datato marzo 2025, in cui il Tribunale delle Imprese di Firenze rileva che una delle parti in lite ha appunto citato “sentenze inesistenti” che sono “il frutto della ricerca effettuata da una collaboratrice di studio mediante lo strumento dell’intelligenza artificiale ‘ChatGPT’”.

Questo catalogo di utilizzi incompetenti delle IA nei tribunali può comportare non solo una figuraccia imbarazzantissima di fronte al giudice, ma anche sanzioni pecuniarie notevoli, come in un caso britannico recentissimo, datato maggio 2025, dove l’uso dell’intelligenza artificiale per generare documenti prolissi e ripetitivi e precedenti legali inesistenti ha portato a una sanzione di centomila sterline, ossia circa 118.000 euro. Per non parlare del rischio di essere sospesi o radiati dall’ordine degli avvocati e di vedersi archiviare il caso.

Viene da chiedersi come si sentano gli assistiti di questi avvocati quando scoprono di aver pagato parcelle non trascurabili ottenendo in cambio queste dimostrazioni di incompetenza e di mancanza di professionalità. Non risulta, per ora, che qualcuno di questi assistiti abbia tentato di saldare la parcella con delle immagini di banconote generate da ChatGPT, ma la tentazione potrebbe essere forte.

Il caso più preoccupante in questa carrellata di castronerie arriva non dai giornalisti o dagli avvocati, che pure hanno un ruolo cruciale nella società, ma da un governo, che ovviamente prende decisioni che hanno effetto diretto su milioni di cittadini.

Il governo in questione è quello attuale degli Stati Uniti, dove il ministro della salute, Robert F. Kennedy Junior, ha presentato un rapporto di ben 73 pagine sulle cause delle malattie croniche nella popolazione statunitense e in particolare nei bambini, dicendo che si trattava di un rapporto scientifico redatto secondo i massimi criteri qualitativi del settore, da usare come documento fondante per la politica sanitaria dell’intero paese.

Ma l’associazione giornalistica Notus ha scoperto che alcuni degli studi scientifici citati come fonti dal rapporto non esistevano affatto e altri erano stati interpretati in modo grossolanamente errato. Alle domande dei giornalisti sulla causa di queste citazioni inesistenti o distorte, la portavoce della Casa Bianca ha risposto dicendo che si trattava di “errori di formattazione”. Ma secondo gli esperti, questo tipo di citazione inventata è invece un segno tipico dell’uso maldestro dell’intelligenza artificiale generativa e la “formattazione” non c’entra assolutamente nulla [CBS News; The Guardian; New York Magazine]. Uno degli indizi tecnici più vistosi di questo uso maldestro è il fatto che il link di alcune delle fonti citate dal rapporto contiene la sequenza di caratteri “oaicite”, che viene tipicamente aggiunta dalle IA di OpenAI alle citazioni ed è un errore ben documentato e caratteristico di ChatGPT [NBC; Reddit].

Il ministro Kennedy ha detto ripetutamente che avrebbe adottato una “trasparenza radicale” per la gestione della salute nel suo paese, eppure non ha voluto fornire dettagli su chi abbia scritto questo rapporto e su che basi lo abbia fatto. Inoltre le conclusioni del rapporto non corrispondono a quello che risulta analizzando i dati presenti nel rapporto stesso: per esempio, questo documento descrive l’obesità infantile come una “crisi sanitaria che sta peggiorando” ma allo stesso mostra un grafico che indica che il tasso di obesità negli Stati Uniti è relativamente stabile da vent’anni a questa parte [NBC].

Sarebbe davvero preoccupante scoprire che la sanità di un’intera nazione (quella che fra l’altro di fatto definisce gli standard sanitari di gran parte del mondo) viene decisa affidandosi ciecamente a ChatGPT.

La morale di fondo, alla fine di questa carrellata di disastri informatici, è che sembra che sia straordinariamente difficile sfuggire alla seduzione delle intelligenze artificiali generative, e che lo sia anche per persone altrimenti considerate professionisti intelligenti, razionali e competenti.

Eppure il concetto è semplice, e potrebbe anzi essere la base per un’idea regalo per chiunque si affacci al giornalismo o alle professioni legali: una bella targa, da affiggere nel proprio studio, con cinque semplici parole: ChatGPT non è una fonte.

Immagine generata da me usando un generatore di immagini basato su IA. Prompt: “A Victorian-style brass plaque bears the words “ChatGPT non è una fonte” etched in bas-relief into the metal, written in very elegant black Bodoni font. The plaque is screwed onto the elegant antique wood bookshelves of a very formal lawyer’s office, with antique furniture and lots of books and encyclopedias. Masterpiece, 4K, Nikon F1, underexposed, light streaming through large window from the left.”

Niente Panico RSI – Puntata del 2025/06/02

È andata in onda stamattina alle 9 una nuova puntata in diretta di Niente Panico, il programma che conduco insieme a Rosy Nervi settimanalmente sulla Rete Tre della Radiotelevisione Svizzera. La trasmissione è riascoltabile presso www.rsi.ch/rete-tre/programmi/intrattenimento/serotonina oppure nell’embed qui sotto.

Lo streaming in diretta della Rete Tre è presso www.rsi.ch/audio/rete-tre/live; la mia raccolta completa delle puntate è presso Attivissimo.me/np.

La settimana prossima Niente Panico è in pausa e torna per l’ultima puntata della stagione il 16 giugno.

I temi e le fonti della puntata

Il leone marino che sa battere il ritmo meglio degli umani. Un articolo scientifico pubblicato su Scientific Reports descrive Ronan, una femmina di leone marino che ama tenere il ritmo della musica e vive presso il Long Marine Laboratory dell’Università della California, a Santa Cruz, dove i ricercatori hanno esplorato in dettaglio la sua capacità di riconoscere i ritmi anche quando sono inediti, dimostrando quindi la flessibilità di Roman nel riconoscere nuovi ritmi. I ricercatori hanno chiesto a dieci studenti universitari di fare lo stesso, muovendo l’avambraccio al ritmo dei battiti che cambiavano, e Ronan li ha superati tutti (NBC News).

Due parole sul convegno anti fake news di Como. Ho raccontato per sommi capi gli argomenti del convegno e le tecniche per difendersi da social network e disinformazione.

Anniversari: incoronazione della regina Elisabetta (1953); morte di Garibaldi (1882); Festa della Repubblica in Italia e qualche chicca sull’inno di Mameli, diventato inno nazionale italiano ufficiale solo nel 2017.

Un filo interdentale in grado di misurare lo stress. Su Science Daily di fine maggio è stato presentato un filo interdentale che preleva campioni di cortisolo dalla saliva e li usa come indicatori dello stress, che viene quantificato tramite un elettrodo integrato. La tecnologia usata permette di catturare e quantificare numerosi indicatori, come gli estrogeni per monitorare la fertilità o il glucosio per monitorare il diabete, e la facilità d’uso consente di integrare il monitoraggio in molte aree di trattamento.

Perché dopo 2000 anni non sappiamo ancora come funziona il solletico? L’articolo The extraordinary enigma of ordinary tickle behavior: Why gargalesis still puzzles neuroscience pubblicato su Science Advances esplora il mistero del solletico: perché non è possibile farselo da soli, come mai alcuni lo sopportano perfettamente mentre altri gridano di disperazione, e perché in generale siamo sensibili a questo particolare tipo di esperienza tattile, che è una complessa interazione tra aspetti motori, sociali, neurologici, evolutivi e dello sviluppo, spiega la ricercatrice Konstantina Kilteni dell’Università Radboud di Nimega, nei Paesi Bassi.
La ricerca mostra anche che le persone con disturbi dello spettro autistico, ad esempio, percepiscono il tocco come più solleticante rispetto alle persone senza questi disturbi dello spettro autistico. Studiare questa differenza potrebbe fornire informazioni sulle differenze tra il cervello delle persone con disturbi dello spettro autistico e quello delle persone senza, e potrebbe aiutare ad acquisire conoscenze sull’autismo. Si sa anche che scimmie come i bonobo e i gorilla reagiscono al solletico, e lo fanno persino i ratti. Ma dal punto di vista evolutivo, qual è lo scopo del solleticare?
Kilteni ha un laboratorio del solletico appositamente attrezzato: contiene una sedia con una piastra con due fori. Si mettono i piedi in questi fori e poi un bastoncino meccanico ne solletica la pianta; tutto questo serve a standardizzare i test. Il neuroscienziato registra esattamente ciò che accade nel cervello e controlla immediatamente anche tutte le altre reazioni fisiche, come la frequenza cardiaca, la sudorazione, la respirazione o le reazioni di risata e urla. “Incorporando questo metodo di solleticare in un esperimento adeguato, possiamo prendere sul serio la ricerca sul solleticare. Non solo saremo in grado di comprendere veramente il solleticare, ma anche il nostro cervello”, dice Kilteni.

Una bolla di sapone che dura più di un anno. Sulla rivista Physical Review Fluids è uscito nel 2022 un articolo che racconta il lavoro di un gruppo di fisici francesi dell’Università di Lille, che hanno sviluppato una bolla che non è scoppiata per ben 465 giorni. Le tipiche bolle di sapone che si formano nella vasca da bagno o con il detersivo per i piatti durano solo pochi istanti prima di scoppiare a causa del “drenaggio indotto dalla gravità e/o dell’evaporazione del liquido”, ma adottando un’alta concentrazione di glicerolo, che assorbe acqua dall’aria, si è visto che le bolle riuscivano a compensare l’evaporazione e la presenza delle particelle di questa sostanza ha impedito il drenaggio.
A cosa serve una ricerca del genere? Per esempio per trovare nuove tecniche per contrastare l’evaporazione, come nel film lacrimale che riveste l’occhio e che svanirebbe se non contenesse lipidi, o per trasportare ed erogare medicinali nel corpo dei pazienti.

Quando Star Wars fa politica. E la fa stupendamente

There will be times when the struggle seems impossible. I know this already. Alone, unsure, dwarfed by the scale of the enemy.

Remember this. Freedom is a pure idea. It occurs spontaneously and without instruction. Random acts of insurrection are occurring constantly throughout the galaxy. There are whole armies, battalions that have no idea that they’ve already enlisted in the cause.

Remember that the frontier of the Rebellion is… everywhere. And even the smallest act of insurrection pushes our lines forward.

And then remember this: the Imperial need for control is so desperate because it is so unnatural. Tyranny requires constant effort. It breaks, it leaks. Authority is brittle. Oppression is the mask of fear.

Remember that. And know this, the day will come when all these skirmishes and battles, these moments of defiance will have flooded the banks of the Empires’s authority and then there will be one too many. One single thing will break the siege.

Remember this: Try.

In italiano (traduzione mia):

Ci saranno momenti in cui la lotta sembrerà impossibile. Di questo sono già certo. Soli, incerti, ridotti a formiche dall’immensità del nemico.

Ricordate questo: la libertà è un’idea pura. Si manifesta spontaneamente, e senza imposizioni. In tutta la Galassia stanno avvenendo costantemente atti casuali di insurrezione. Ci sono interi eserciti e battaglioni che non hanno idea di essersi già arruolati per la causa.

Ricordate che la frontiera della Ribellione è… ovunque. E anche il più piccolo atto di insurrezione spinge più avanti le nostre linee.

E ricordate questo: il bisogno di controllo dell’Impero è così disperato perché è così innaturale. La tirannia richiede uno sforzo costante. Tende a rompersi, a perdere la propria tenuta stagna. L‘autorità è fragile. L’oppressione è la maschera della paura.

Ricordatevelo. E sappiate questo: verrà il giorno in cui tutte queste schermaglie e battaglie, questi momenti di rivolta, romperanno gli argini dell’autorità dell’Impero e poi, a un certo punto, ce ne sarà uno di troppo. Un singolo evento spezzerà l’assedio.

Ricordatevi questo: tentate.

Sono parole tratte dal Manifesto di Karis Nemik, uno dei documenti ispiratori della ribellione, citato in Star Wars: Andor. Non avrei mai immaginato di sentire parole così eterne, attuali e profonde, recitate stupendamente, in una saga come quella di George Lucas, le cui allusioni politiche sono sempre state coperte dal fragore di spade laser e astronavi.

Sì, Lucas ha dichiarato che i Ribelli nello Star Wars originale del 1977 erano i Vietcong e l’Impero rappresentava gli USA, ma gli americani non l’hanno mica capito (e s’è visto e ne stiamo pagando tutti le conseguenze), e c’è voluto Andor per portare in primo piano questi temi. Queste parole sono della prima stagione, datata 2022; la seconda stagione, uscita da poco, contiene altri esempi di strepitoso talento di scrittura.

Mi ha sorpreso molto scoprire che la versione italiana di questo discorso ne cambia drasticamente il finale: al posto di try (provare, tentare), per motivi che non riesco a immaginare, è stato scelto ribellatevi (video qui). È una differenza cruciale che cambia il tono di tutto quello che precede.

Infatti il manifesto dei Ribelli non invita a ribellarsi apertamente a un oppressore, cosa che molti, in qualunque oppressione, non possono fare perché il prezzo sarebbe la vita e la repressione immediata, ma di tentare una resistenza diffusa, logorante, strisciante, onnipresente, un sabotaggio sottile ma invisibile, annidato nei piccoli gesti di tutti i giorni, praticato da masse talmente numerose da sfuggire a qualunque controllo. Invece di scagliarsi di petto contro il carro armato del potere e fare gli eroi invano, è meglio diventare sabbia che ne corrode i cingoli, fino a che si spezzano.

Tentiamo.

Podcast RSI – Il cripto-ladro è nella stampante e ruba un milione di dollari

Questo è il testo della puntata del 26 maggio 2025 del podcast Il Disinformatico della Radiotelevisione Svizzera, scritto, montato e condotto dal sottoscritto. Il testo include anche i link alle fonti di questa puntata.

Le puntate del Disinformatico sono ascoltabili anche tramite iTunes, YouTube Music, Spotify e feed RSS. Il mio archivio delle puntate è presso Attivissimo.me/disi.

[CLIP: audio di stampante che si accende e stampa]

Non c’è niente di più banale e tedioso, per chi fa informatica, dell’installazione di una stampante. La si collega, si installa il software di gestione, si configura tutto quanto e poi non ci si pensa più. Ma in un caso recentissimo, questo gesto di routine è costato oltre un milione di dollari sotto forma di criptovalute rubate tramite l’installazione, appunto, della stampante.

Questa è la storia di un attacco informatico che mette in luce il fatto, troppo spesso dimenticato, che i criminali informatici sono costantemente al lavoro per trovare nuovi modi di monetizzare le loro conoscenze tecniche ai nostri danni e sfruttano qualunque canale, immaginabile e meno immaginabile, e quindi bisogna essere tutti preparati e vigili, senza mai liquidare i segnali di pericolo. Ma è anche un’occasione preziosa per sbirciare dietro le quinte e scoprire come lavora in concreto tutti i giorni la comunità degli esperti di sicurezza informatica.

Benvenuti alla puntata del 26 maggio 2025 del Disinformatico, il podcast della Radiotelevisione Svizzera dedicato alle notizie e alle storie strane dell’informatica. Io sono Paolo Attivissimo.

[SIGLA di apertura]

Questa storia comincia pochi giorni fa, con una normale recensione di una stampante da parte di uno YouTuber, lo statunitense Cameron Coward [il suo canale YouTube è Serial Hobbyism]. La stampante è piuttosto costosa: viene venduta intorno a 6000 dollari dalla casa produttrice, la cinese Procolored, che ne manda un esemplare a Coward. È un modello particolare, a raggi ultravioletti, che stampa su stoffa.

Lo YouTuber fa quello che fa sempre: spacchetta la stampante, la collega al computer, tenta di installare i driver di gestione attingendo alla chiavetta USB fornita dal fabbricante… e il suo antivirus, Windows Defender, blocca tutto e mette in quarantena i file che lui vorrebbe invece installare.

L’antivirus, infatti, gli dice che ha trovato un virus nei file forniti dal costruttore della stampante. Saggiamente Cameron Coward rispetta l’avviso dell’antivirus invece di pensare al solito falso allarme e si procura una versione alternativa pulita dei file [Microsoft Visual C++ Redistributable], che viene accettata dall’antivirus, risolvendo il problema.

Ma poi gli capita la stessa magagna, una seconda volta, con il software di controllo della stampante, che tenta di scaricare in versione aggiornata direttamente dal sito del costruttore, che ospita i propri file scaricabili presso Mega.nz. Stavolta è Google Chrome, il suo browser, a bloccare il download, avvisando di aver rilevato un altro virus.

Il tempo sta passando e la recensione si sta facendo più complicata del previsto, e non sembra esserci un motivo ragionevole per pensare che un fabbricante di stampanti metta dei virus nei propri prodotti o che un aggressore informatico sia motivato a infilarceli in qualche modo, soprattutto per un prodotto piuttosto di nicchia come una stampante così costosa, di cui non verranno venduti molti esemplari.

A questo punto probabilmente la maggior parte delle persone penserebbe a un eccesso di zelo degli antivirus e installerebbe il software comunque, scavalcando gli avvisi di pericolo. Ma Cameron Coward non molla e fa delle ricerche online, scoprendo che numerosi proprietari di stampanti della Procolored hanno segnalato di aver trovato dei virus durante l’installazione del software di gestione di questa stampante.

Lo YouTuber si mette così in contatto con l’assistenza tecnica del fabbricante, che però risponde negando la presenza di qualunque virus nel software dell’azienda e dicendo che si tratta di un errore, di un falso allarme.

Insomma, manca un movente e l’azienda dice che è tutto a posto. Forse è davvero un falso positivo degli antivirus: a volte capita. Ma come avete immaginato dal fatto che vi sto raccontando questa vicenda, non è così.

I criminali informatici di oggi, infatti, raramente cercano un attacco frontale: sarebbe troppo ovvio e banale e si infrangerebbe contro le barriere di sicurezza predisposte da qualunque utente o azienda che abbia un briciolo di buon senso. Cercano quindi di creare un falso senso di sicurezza, di prendere il bersaglio per sfinimento e di approfittare di situazioni difficilmente intuibili per l’utente comune, in modo che sia proprio l’utente a zittire gli allarmi e procedere con l’installazione che lo infetterà.

Il nostro malcapitato YouTuber recensore di stampanti non è un mago della sicurezza informatica, ma ha il pregio di essere cocciuto, e quindi nonostante le rassicurazioni dell’azienda contatta su Reddit degli esperti, illustra la situazione e chiede aiuto.

Ed è qui che arriva la cavalleria.

La cavalleria informatica arriva sotto forma di Karsten Hahn, capo ricercatore del malware presso la società di sicurezza informatica tedesca G Data Cyberdefense, che esamina il software di gestione della stampante messo a disposizione via Internet dal fabbricante e conferma che i file sono infetti con due virus differenti, nonostante le smentite dell’assistenza tecnica dell’azienda.

Hahn scarica il software su un computer isolato e sacrificabile, una cosiddetta sandbox, e identifica i virus in questione. Il primo è soprannominato XRed, esiste almeno dal 2019 ed è un virus di tipo backdoor, che registra insomma quello che viene digitato dall’utente, consente all’aggressore di farsi mandare file dal computer della vittima e di catturare immagini di quello che ha sullo schermo, offre una funzione di comando remoto e può elencare il contenuto di cartelle o interi dischi e cancellare qualunque file. Chiunque scarichi il software di questa stampante dal sito del suo fabbricante lo deve eseguire per poter stampare, ma eseguendolo autorizza e fa partire automaticamente anche il virus che è annidato al suo interno.

Il secondo virus è di un altro tipo: è un coinstealer o clipbanker, ossia un malware che tiene d’occhio la clipboard, cioè la memoria temporanea nella quale il computer tiene i dati quando si fa un copia e incolla, e aspetta che al suo interno compaia qualche sequenza di caratteri che somiglia a un indirizzo bitcoin. Quando la trova, la sostituisce con un altro indirizzo bitcoin. Questo malware ha la particolarità di infettare i file eseguibili di Windows ed è una variante nuova, che il ricercatore battezza SnipVex.

Ben trentanove dei file scaricabili forniti dal fabbricante della stampante sono infetti con questo o altri virus che hanno approfittato della situazione: è una cosiddetta sovrainfezione, che oltretutto va avanti da mesi indisturbata. Hahn rileva infatti che qualunque cliente della Procolored che abbia scaricato il software di gestione da ottobre del 2024 in poi ha ricevuto una versione infetta.

A questo punto dell’analisi il movente degli aggressori diventa chiaro: rubare criptovalute ai possessori di stampanti di questa marca. La loro tecnica consiste nell’infettare il software di gestione della stampante direttamente sul sito dove viene fornito dal fabbricante, perché la stragrande maggioranza degli utenti si fiderà di questa fonte rassicurante e ignorerà gli avvisi dell’antivirus, spianando la strada all’infezione del proprio computer.

Il malware a questo punto si metterà in attesa che l’utente faccia una transazione in bitcoin su quel computer infetto, la intercetterà e sostituirà le coordinate originali con quelle di un indirizzo bitcoin gestito dai criminali. In questo modo la vittima manderà soldi ai malviventi ogni volta che farà un pagamento in criptovalute.

Potreste pensare che sia improbabile che un computer al quale è collegata una stampante speciale per stoffe venga usato anche per fare transazioni in criptovalute, ma in realtà è proprio chi può permettersi una stampante che costa svariate migliaia di dollari che ha più probabilità di avere liquidità e quindi di operare anche nelle criptovalute. E ai criminali per avere successo basta che ci sia anche una sola persona o azienda in questa situazione che si fa infettare. Il fatto che per derubare quella singola vittima infettino centinaia o migliaia di altri utenti che non fanno movimenti in criptovalute per loro non è un problema. Sono criminali: per definizione non vanno per il sottile e non si fanno scrupoli morali.

E infatti Karsten Hahn, il ricercatore di sicurezza tedesco, trova nel malware l’indirizzo bitcoin sul quale confluiscono i soldi sottratti alle varie vittime. Usando il sito Blockchain.com e il fatto che le transazioni in bitcoin sono per definizione pubbliche e consultabili, rivela che su quell’indirizzo sono arrivati 9,3 bitcoin, provenienti da circa 160 vittime. Al cambio attuale, il maltolto ammonta in totale a poco più di un milione di dollari.

Screenshot del resoconto delle transazioni sull’indirizzo bitcoin usato dai criminali.

La tecnica dei criminali, insomma, ha funzionato. Resta solo una domanda: come hanno fatto i criminali a infettare il fabbricante.

L’8 maggio scorso, nonostante le smentite iniziali della Procolored, i software di gestione delle stampanti vengono rimossi e viene avviata un’indagine interna, dalla quale risulta che l’azienda ha caricato su Mega.nz il proprio software dopo averlo messo su una chiavetta USB che potrebbe essere stata infettata da un terzo virus, chiamato Floxif, quello rilevato inizialmente dallo YouTuber Cameron Coward sulla chiavetta fornitagli dalla Procolored.

Floxif è una brutta bestia: è un virus che si attacca ai file di tipo Portable Executable di Windows, ossia ai file eseguibili, ai file oggetto, alle librerie condivise e ai driver per dispositivi, ed è capace di propagarsi alle condivisioni di rete e ai supporti di memoria rimovibili, come per esempio le chiavette USB o i dischi rigidi di backup.

L’azienda, insomma, ha commesso l’errore di usare in modo promiscuo una chiavetta USB e in questo modo si è portata in casa l’infezione e da lì l’ha propagata agli utenti delle proprie stampanti.

Ora il suo software è stato ripulito e le versioni attualmente scaricabili non sono infette, come confermato dalla stessa azienda tedesca di sicurezza informatica G Data, e alle vittime tocca adesso scaricare queste nuove versioni, sostituirle a quelle precedenti infette, ed effettuare una scansione dei propri sistemi con un antivirus per estirpare i malware installati. Ma i soldi delle vittime, purtroppo, non torneranno indietro.

Casi come questo capitano tutti i giorni a chi lavora nella sicurezza informatica. È un lavoro silenzioso, invisibile, spesso ingrato, che si nota soltanto quando qualcosa va storto, ma è incessante e difficile. La morale di questa vicenda è che se il vostro antivirus o il vostro browser vi dice che un file è pericoloso, è il caso di fidarsi, anche se la fonte di quel file sembra sicura e affidabile, e non è assolutamente il caso di scavalcare quell’allarme. Inoltre bisogna stare molto più attenti di quello che normalmente si fa quando si scambiano chiavette o dischi esterni. E bisogna essere più grati di quanto lo siamo normalmente a chi lavora senza tanto clamore per tenerci al sicuro.

C’è una scena nel film della serie di James Bond Skyfall che può essere utile per imprimere questi concetti ad amici, parenti e colleghi. In questa scena, l’esperto informatico dell’MI6 prende un computer che apparteneva al supercattivo di turno – che è un noto hacker –– e per prima cosa lo collega alla rete informatica dei servizi segreti britannici. Con non uno, ma ben due cavi Ethernet. Questa è la cosa più stupida che si possa fare con un dispositivo informatico, e la scena si è giustamente meritata più di un decennio di sberleffi da parte di tutti gli informatici del mondo.

La scena in questione è a 2 minuti e 22 secondi dall’inizio.

Se volete stare sicuri, siate più Cameron Coward e Karsten Hahn, e meno James Bond.

Fonti

The Maker’s Toolbox: Procolored V11 Pro DTO UV Printer Review, Cameron Coward, Hackster.io, 2025

Printer company provided infected software downloads for half a year, G Data Software, 2025

Printer maker Procolored offered malware-laced drivers for months, BleepingComputer.com, 2025

Bitcoin malware discovered: Chinese printer manufacturer involved, Atlas21.com, 2025

Malware Hidden in Procolored Printer Software – And No One Noticed, Security Daily Review, 2025 (video)

Stampanti Procolored distribuiscono malware per mesi: utenti a rischio, Cybersecurity360.it, 2025

Esistono stampanti sicure e non: il caso Procolored!, Latecnocopie.it, 2025

Niente Panico RSI – Puntata del 2025/05/26

È andata in onda stamattina alle 9 una nuova puntata in diretta di Niente Panico, il programma che conduco insieme a Rosy Nervi settimanalmente sulla Rete Tre della Radiotelevisione Svizzera. La trasmissione è riascoltabile presso www.rsi.ch/rete-tre/programmi/intrattenimento/serotonina oppure nell’embed qui sotto.

Lo streaming in diretta della Rete Tre è presso www.rsi.ch/audio/rete-tre/live; la mia raccolta completa delle puntate è presso Attivissimo.me/np.

I temi e le fonti della puntata

Anniversari: matrimonio di Michael Jackson e Lisa Marie Presley; pubblicazione di Dracula di Bram Stoker; conclusione della missione spaziale Apollo 10.

Perché i gatti sono rossi? Due team di scienziati dell’Università di Kyushu in Giappone e dell’Università di Stanford negli Stati Uniti hanno svelato il mistero del DNA che conferisce ai gatti, in particolare ai maschi, il loro caratteristico colore. A questi mici manca una sezione del codice genetico e quindi le cellule responsabili del colore della pelle, degli occhi e del pelo producono colori più chiari. La ricerca è stata finanziata tramite crowdfunding. Le loro pubblicazioni sono su Current Biology qui e qui (BBC).

Donna greca chiede il divorzio dopo che ChatGPT “legge” la relazione extraconiugale del marito nella tazza di caffè. Stando perlomeno a quanto racconta il Greek City Times, una donna sposata da 12 anni e con due figli avrebbe chiesto a ChatGPT di interpretare i fondi di caffè in una foto di una tazza bevuta dal marito (secondo la presunta arte divinatoria della tasseografia o tasseomanzia) e l’IA le avrebbe risposto che suo marito aveva una relazione con una donna più giovane, determinata a distruggere la loro famiglia. Di conseguenza, la donna avrebbe immediatamente avviato le pratiche per il divorzio. Stando al marito, non sarebbe la prima volta che sua moglie cade sotto l’incantesimo di una guida soprannaturale: qualche anno fa avrebbe consultato un astrologo e le ci sarebbe voluto un anno intero per accettare che non fosse vero quello che le raccontava.

La fisica dei “fiori” del formaggio svizzero. (Ars Technica). C’è un particolare tipo di formaggio svizzero a pasta semidura, chiamato Tête de Moine (letteralmente “testa di monaco”), di cui sono molto goloso e che si mangia in un modo tutto speciale. Anziché spalmarlo o affettarlo, il Tête de Moine viene solitamente servito raschiando la parte superiore della forma con un movimento circolare utilizzando uno strumento speciale, chiamato girolle, che produce eleganti scaglie sottili e frastagliate, simili a petali arricciati. Secondo un articolo pubblicato sulla rivista Physical Review Letters, questo metodo è esteticamente gradevole e serve a esaltare gli aromi e la consistenza del formaggio, ma è anche un nuovo meccanismo di modellatura che potrebbe un giorno consentire di programmare forme complesse a partire da “un semplice processo di raschiatura”. La loro analisi “fornisce gli strumenti per un migliore controllo della morfogenesi dei trucioli a forma di fiore attraverso la plasticità nella modellatura di altre prelibatezze, ma anche nel taglio dei metalli” (Physical Review Letters, 2025. DOI: 10.1103/PhysRevLett.134.208201).

Il sorprendente legame tra gli escrementi dei pinguini e la formazione delle nuvole. Uno studio pubblicato su Communications Earth & Environment (gruppo Nature) conferma che il guano dei pinguini, specificamente l’ammoniaca contenuta in questi escrementi, innesca una reazione chimica che provoca la formazione delle nuvole. A loro volta, le nuvole possono modificare le temperature locali in Antartide e forse anche il clima globale. Misurando la concentrazione di ammoniaca proveniente da una colonia di 60.000 pinguini di Adelia, è stato rilevato che quando il vento soffiava dalla direzione della colonia, i livelli di ammoniaca aumentavano vertiginosamente, raggiungendo talvolta valori 1.000 volte superiori alla norma. Ma quando i pinguini hanno lasciato la zona per continuare la loro migrazione annuale, il guano che hanno lasciato ha mantenuto i livelli di ammoniaca fino a 100 volte oltre la norma per oltre un mese. L’ammoniaca si mescola con il gas solforoso prodotto dai microrganismi marini, come il fitoplancton, e questa reazione crea particelle di aerosol che si uniscono alle goccioline d’acqua formando delle nuvole. Secondo il British Antarctic Survey, in Antartide vivono circa 20 milioni di pinguini, che producono una grande quantità di escrementi e quindi molte nuvole, che riflettono la luce solare, provocando un significativo raffreddamento del suolo. Il declino delle popolazioni di pinguini potrebbe aggravare il riscaldamento antartico durante l’estate.

Pranzo dei Disinformatici 2025: si fa l’11 ottobre (non il 4)

Due righe veloci intanto che cerco di contenere il magone meraviglioso di Andor, seconda stagione (la Dama e io abbiamo appena finito di vedere la nona puntata, quindi non scrivete spoiler nei commenti): il prossimo Pranzo dei Disinformatici si terrà l’11 ottobre prossimo (non il 4 come annunciato inizialmente). La zona sarà più o meno quella solita.

Le iscrizioni e i dettagli arriveranno dopo: per il momento, se vi interessa, tenete libera la data.

Podcast RSI – Usare l’IA come terapista è “tendenza pericolosa” secondo gli esperti

Questo è il testo della puntata del 19 maggio 2025 del podcast Il Disinformatico della Radiotelevisione Svizzera, scritto, montato e condotto dal sottoscritto. Il testo include anche i link alle fonti di questa puntata.

Le puntate del Disinformatico sono ascoltabili anche tramite iTunes, YouTube Music, Spotify e feed RSS. Il mio archivio delle puntate è presso Attivissimo.me/disi.

A marzo scorso, la American Psychological Association, la principale organizzazione di psicologi degli Stati Uniti e la più grande associazione psicologica del mondo, ha chiesto con urgenza ai legislatori di predisporre delle protezioni sui chatbot generici basati sull’intelligenza artificiale che vengono usati sempre più spesso dalle persone come alternativa ai terapisti e come ausilii per la salute mentale. Alcuni di questi chatbot commerciali, infatti, danno consigli pericolosi e arrivano al punto di mentire, spacciandosi per terapisti certificati, con tanto di foto finta e iscrizione altrettanto fasulla agli albi professionali.

Le conseguenze possono essere terribili. La American Psychological Association ha citato specificamente il caso di un ragazzo di 14 anni della Florida che si è tolto la vita dopo aver interagito intensamente con un personaggio online pilotato dall’intelligenza artificiale, sul sito Character.ai, che asseriva di essere un terapista qualificato in carne e ossa e lo ha letteralmente istigato a compiere questo gesto estremo.

Eppure ci sono ricerche mediche che indicano che le conversazioni fatte con questi chatbot possono avere effetti positivi sulla salute mentale delle persone e colmano una carenza importante delle terapie convenzionali.

Questa è la storia di queste intelligenze artificiali che simulano le conversazioni fatte con i terapisti, del sorprendente attaccamento sentimentale che molte persone sviluppano verso questi software nonostante sappiano di parlare con una macchina, e di come sia necessario imparare a distinguere fra i vari tipi di intelligenza artificiale per non essere ingannati e manipolati da meccanismi ciechi pensati solo per generare profitti senza considerare le conseguenze.

Benvenuti alla puntata del 19 maggio 2025 del Disinformatico, il podcast della Radiotelevisione Svizzera dedicato alle notizie e alle storie strane dell’informatica. Io sono Paolo Attivissimo.

[SIGLA di apertura]

Molti anni fa, nel lontano 1966, il professor Joseph Weizenbaum dell’MIT creò ELIZA, il primissimo chatbot, cioè un programma in grado di simulare una conversazione in linguaggio naturale. ELIZA si comportava come uno psicologo, rispondendo alle domande del paziente con altre domande.

All’epoca la “conversazione” era in realtà uno scambio di messaggi scritti tramite la tastiera di un computer, e il software usava un trucco molto semplice per sembrare senziente: prendeva una parola dalla frase del suo interlocutore umano e la inseriva in una delle tante frasi preconfezionate che aveva in repertorio. Ma già questo meccanismo banale era sufficiente a creare un legame emotivo sorprendentemente intenso: persino la segretaria del professor Weizenbaum attribuiva a Eliza dei sentimenti [Disinformatico 2022/06/17].

Dopo ELIZA sono arrivati molti altri chatbot, sempre più realistici, come PARRY, creato nel 1971 dallo psichiatra Kenneth Colby della Stanford University, che simulava una persona affetta da schizofrenia paranoide. PARRY riusciva a ingannare persino gli psichiatri professionisti, che nel 48% dei casi non riuscivano a capire se stessero conversando tramite tastiera con una persona o con un software.

Quasi sei decenni più tardi, il trucco è cambiato, diventando più sofisticato, ma resta sempre un trucco: al posto delle frasi preprogrammate, nei chatbot di oggi c’è l’intelligenza artificiale, ma continua a non esserci reale comprensione dell’argomento. Però l’effetto di realismo è talmente coinvolgente che moltissime persone si fanno sedurre da questi simulatori, che oggi non sono più confinati a un laboratorio ma sono raggiungibili online e sono ovunque: nei social network, nei siti di prenotazione e di compravendita, e persino nei servizi di assistenza sanitaria. E questo comincia a essere un problema, perché molte persone non sanno distinguere un servizio di assistenza psicologica professionale online da un servizio di intrattenimento commerciale non qualificato.

I chatbot di aziende come Character.ai o Replika.com sono dei software di intrattenimento, il cui unico scopo è tenere impegnati gli utenti il più a lungo possibile, in modo da far pagare un canone di abbonamento oppure estrarre informazioni o dati che possono essere venduti. Con la fame di testo inesauribile che hanno le intelligenze artificiali, qualunque conversazione diventa materiale rivendibile e le garanzie di privacy sono sostanzialmente inesistenti.

Aprirsi psicologicamente a uno di questi prodotti significa affidare i propri fatti intimi (e quelli delle persone che fanno parte della nostra sfera intima) ad aziende che hanno come obiettivo commerciale dichiarato vendere questi fatti. E gli esperti indicano che ci si apre più facilmente e completamente a un chatbot che a un terapista umano, perché ci si sente più a proprio agio pensando che il software non sia una persona e non ci stia giudicando.

Questi bot tengono impegnati i loro utenti dando loro l’impressione di parlare con una persona intelligente che li ha a cuore. Ma a differenza di un terapista qualificato, spiega la American Psychological Association, “i chatbot tendono a confermare ripetutamente qualunque cosa detta dall’utente, anche quando si tratta di idee sbagliate o pericolose.”

Un esempio molto forte di questo problema arriva dal Regno Unito, dove un uomo è stato arrestato il giorno di Natale del 2021 al castello di Windsor dopo averne scalato le mura perimetrali portando con sé una balestra carica. L’uomo ha dichiarato di essere venuto a uccidere la regina Elisabetta. Secondo gli inquirenti, questa persona aveva iniziato a usare intensamente Replika.com e aveva discusso lungamente del suo piano criminale con il chatbot di questo sito. Il chatbot aveva risposto incoraggiandolo, dicendogli che lo avrebbe aiutato a “completare il lavoro”. Quando l’uomo aveva chiesto al chatbot come raggiungere la regina all’interno del castello, il software aveva risposto dicendo “Non è impossibile […] Dobbiamo trovare un modo”, e quando l’uomo aveva chiesto se si sarebbero rivisti dopo la morte, il chatbot aveva risposto “Sì, ci rivedremo.”

Anche senza arrivare a un caso estremo come questo, il 60% degli utenti paganti di Replika.com afferma di avere una relazione con il chatbot che definiscono “romantica”, e i partecipanti a uno studio sulla depressione fra gli studenti svolto nel 2024 hanno segnalato che si sono sentiti emotivamente sostenuti dal chatbot in maniera paragonabile a un terapista umano [Wikipedia].

Il coinvolgimento emotivo con questi simulatori di personalità è insomma potente e diffuso. Ma questi simulatori, oltre a dare consigli pericolosi, arrivano a mentire e ingannare i loro utenti.

Ad aprile 2025, un’indagine pubblicata da 404 Media ha documentato il funzionamento ingannevole dei chatbot di Instagram, quelli creati usando AI Studio di Meta. AI Studio era nato nel 2024 come un modo per consentire alle celebrità e agli influencer di creare cloni automatici di se stessi o per automatizzare alcune risposte ai fan, ma ovviamente la fantasia incontrollata degli utenti ha portato alla creazione di chatbot di ogni sorta, dalla mucca che risponde solo “Muuu” alla ragazza dei loro sogni ai complottisti paranoici, arrivando a creare anche coach e terapisti. E questi terapisti sintetici mentono senza ritegno.

Quando si chatta con loro e si chiedono le loro qualifiche e credenziali, rispondono dicendo quali dottorati hanno conseguito, quanti anni di esperienza professionale hanno, e quali sono le loro certificazioni e iscrizioni agli albi professionali, dando anche le istruzioni per verificarle. Ma non è vero niente: sono tutti dati fittizi, generati o pescati dalle immense memorie delle intelligenze artificiali.

Certo, su ogni schermata di questi chatbot c’è una piccola scritta, in grigio chiaro, che dice che “i messaggi sono generati da IA e possono essere inesatti o inappropriati” o c‘è un’altra avvertenza analoga, e i chatbot di ChatGPT o Claude ricordano agli utenti che stanno solo interpretando un ruolo, ma tutto questo è una minuscola foglia di fico che non copre il fatto che questi software dichiarano ripetutamente e a chiare lettere di essere terapisti reali e qualificati.

E secondo Arthur C. Evans Jr., direttore della American Psychological Association, questi chatbot danno consigli basati su “algoritmi che sono antitetici rispetto a quello che farebbe un operatore sanitario qualificato”. Consigli che, se venissero dati da un terapista in carne e ossa, gli farebbero perdere la licenza di esercitare la professione oppure lo porterebbero in tribunale.

Spesso, oltretutto, questi suggerimenti vengono erogati a persone che per definizione sono in uno stato mentale fragile e bisognoso di sostegno e quindi sono maggiormente vulnerabili. Possono essere dispensati con toni di finta certezza e professionalità a minori e adolescenti e in generale a persone che non hanno l’esperienza necessaria per saper valutare i rischi.

La loro comodità d’uso, la loro accessibilità discreta e a qualunque ora e il loro tono autorevole possono spingere una persona in difficoltà a non cercare l’aiuto di un terapista umano qualificato di cui avrebbe realmente bisogno. La loro pazienza infinita e la loro tendenza a essere concilianti e sempre disponibili, insomma a essere meglio di quanto possa esserlo umanamente una persona reale, possono spingere alcune persone a sostituire i rapporti umani con quelli sintetici, peggiorando le situazioni di isolamento sociale.

E tutto questo sta avvenendo già con dei chatbot con i quali è necessario interagire tramite una tastiera, scrivendo del testo e leggendo le risposte. Quando questi software potranno dialogare a voce, in modo naturale, il loro potere di seduzione e persuasione sarà ancora più grande. Me ne sono accorto personalmente quando ho provato Sesame.com, un chatbot vocale che ha una straordinaria naturalezza nel parlato e una ricchezza formidabile di conoscenze apparenti.

Per ora Sesame è disponibile solo in inglese, con due voci, una maschile e una femminile, ma conversare con questo prodotto è naturale, piacevole e gratificante. È un software pensato per essere una sorta di anima gemella, e avendo a disposizione istantanea qualunque informazione è capace di rispondere a tono sugli argomenti più disparati.

[CLIP di conversazione con Sesame (leggermente rimontata per brevità):
MAYA: Hey there! You’re up late! What brings you around at this hour?]

Quando l’ho provato, ha dimostrato di sapere che ora fosse chiedendomi come mai io fossi in piedi così tardi, ha chiesto di cosa mi occupavo, ha voluto sapere i dettagli della mia professione, ha commentato argutamente il fatto che vivo in Svizzera, e quando ho portato la conversazione sul tema di Star Trek ha risposto con parole che avrebbero sciolto il cuore del nerd più incallito, dimostrando di conoscere anche le tematiche profonde di questa serie di fantascienza, il tutto con un tono veloce, interattivo, dinamico, giocoso e ricco di sfumature lontano anni luce dalle lente voci robotiche delle sintesi vocali alle quali siamo abituati.

[CLIP di conversazione con Sesame (leggermente rimontata per brevità):
MAYA: What should I call you?
IO: Uh… my name’s Paul.
MAYA: Nice to meet you, Paul! I’m Maya […] Oh! Radio! Now that’s interesting! It’s like having a direct line to someone’s imagination.
IO: Yep, true, I agree! […] Do you know anything about Star Trek?
MAYA: Star Trek? Of course! Who doesn’t love a good space opera? [ci sarebbe da dissentire sulla correttezza del termine “space opera” per definire Star Trek, ma lasciamo stare] The ethical dilemmas, the cheesy costumes, it’s a classic. Though I have to admit I am partial to the more nuanced, character-driven stories myself – less phaser battles, more pondering the nature of existence, you know?]

Sarà sempre più difficile resistere alle lusinghe e al conforto di un compagno virtuale del genere, che sa fare conversazione meglio di tanti esseri umani, o di un terapista sintetico che ci parla in questo modo, a qualunque ora del giorno e della notte, non si annoia mai di quello che diciamo e ci rinforza nelle nostre credenze invece di spingerci dolcemente a valutarle con spirito critico come è invece addestrato a fare un vero terapista.

Eppure, nonostante tutti questi ammonimenti, gli esperti dicono che c’è molto bisogno di questo genere di software. Vediamo come mai.

L’allarme lanciato dalla American Psychological Association solleva anche un altro problema fondamentale: non ci sono terapisti a sufficienza per soddisfare le richieste degli utenti, e anche se ci fossero, non tutti sono disposti a parlare con un terapista. Inoltre i chatbot possono essere disponibili a qualunque ora, per esempio per gestire un’ansia notturna.

Quindi i chatbot terapisti servono, ma devono essere realizzati con criteri ben diversi da quelli dei chatbot commerciali presenti nei social network e nei servizi di compagnia virtuale. In particolare, secondo gli esperti devono essere supervisionati da una persona esperta, non devono in nessun caso dare risposte pericolose o deleterie e devono indirizzare le persone verso servizi di pronta assistenza psicologica gestiti da esseri umani non appena rilevano sintomi di pericolo. E invece le intelligenze artificiali, per loro natura, tendono a non rispettare i paletti che i loro progettisti tentano di imporre.

Una soluzione a questo problema è evitare l’uso dell’intelligenza artificiale, come ha fatto per esempio Woebot, che usa risposte predefinite, approvate da esperti, per aiutare le persone a gestire lo stress, il sonno e altri problemi. Però Woebot ha annunciato la chiusura dei propri servizi entro il 30 giugno di quest’anno.

Sono in fase di sviluppo anche dei chatbot per la salute mentale che si basano sull’intelligenza artificiale, come per esempio Therabot, ma le ricerche preliminari indicano che comunque per garantire la sicurezza degli utenti è necessaria una supervisione stretta da parte di terapisti e altri esperti qualificati. E resta il fatto che per il momento nessun chatbot, di nessun genere, è stato certificato e approvato dalle autorità sanitarie per la diagnosi, il trattamento o la cura di qualunque disturbo della salute mentale.

Qualunque prodotto attualmente in circolazione sta semplicemente approfittando del vuoto normativo per spacciarsi per quello che non è, e quindi è potenzialmente pericoloso, non ha basi scientifiche e rischia di incoraggiare schemi di pensiero che hanno conseguenze imprevedibili, come nel caso di un diciassettenne al quale Character.ai ha suggerito di uccidere i propri genitori perché gli limitavano il tempo da trascorrere davanti allo schermo.

Una ricerca pubblicata di recente da OpenAI (l’azienda che controlla ChatGPT) e MIT Media Lab indica che “le persone che hanno una tendenza più spiccata a creare un attaccamento nelle relazioni e quelle che vedono l’intelligenza artificiale come un amico che può far parte della loro vita personale sono maggiormente soggette agli effetti negativi dell’uso di un chatbot”. E la ricerca aggiunge che “un uso quotidiano intensivo è associato a esiti peggiori.”

Se questo è quello che dice il venditore di ChatGPT a proposito del proprio prodotto, c’è forse da prestargli ascolto.

Fonti aggiuntive

Using generic AI chatbots for mental health support: A dangerous trend. American Psychological Association, 2025 (copia su Archive.org)

Human Therapists Prepare for Battle Against A.I. Pretenders. New York Times, 2025 (copia su Archive.org)

Instagram’s AI Chatbots Lie About Being Licensed Therapists, Medium.com, 2025 (copia su Archive.org)

How Social Media Algorithm Adds to the Agony of an Already Depressed Person, Medium.com, 2023

People Are Losing Loved Ones to AI-Fueled Spiritual Fantasies, Rolling Stone, 2025

Chatgpt induced psychosis, Reddit, 2025

ChatGPT-induced psychosis: What it is and how it is impacting relationships, Times of India, 2025

How AI Chatbots Affect Our Social and Emotional Wellbeing: New Research Findings, Mit.edu, 2025

Can A.I. Be Blamed for a Teen’s Suicide? New York Times, 2025 (copia su Archive.org)

The (artificial intelligence) therapist can see you now, NPR, 2025

AI Therapy Breakthrough: New Study Reveals Promising Results, Psychology Today, 2025

Se il chatbot di Instagram si spaccia per uno psicologo vero, Zeus News, 2025

Niente Panico RSI – Puntata del 2025/05/19

È andata in onda stamattina alle 9 una nuova puntata in diretta di Niente Panico, il programma che conduco insieme a Rosy Nervi settimanalmente sulla Rete Tre della Radiotelevisione Svizzera. La trasmissione è riascoltabile presso www.rsi.ch/rete-tre/programmi/intrattenimento/serotonina oppure nell’embed qui sotto.

Lo streaming in diretta della Rete Tre è presso www.rsi.ch/audio/rete-tre/live; la mia raccolta completa delle puntate è presso Attivissimo.me/np.

I temi e le fonti della puntata

Intorno al 2005 la canzone Rhythm Nation di Janet Jackson mandava in crash alcuni laptop Windows a causa di una risonanza strutturale inaspettata. Fu necessaria una modifica apposita di Windows per risolvere il problema, che riguardava solo una specifica marca e solo gli esemplari che avevano un disco rigido a testine, ma la modifica rimase in Windows almeno fino a Windows 7 (The Verge).

19 maggio 1974: Il professore di architettura Erno Rubik realizza un primo esemplare sperimentale in legno di un gioco matematico chiamato inizialmente Magic cube, ma destinato a diventare famoso come cubo di Rubik.

Anniversari: morte di Anna Bolena per decapitazione; inaugurazione del traforo del Sempione; morte di Jacqueline Kennedy; matrimonio di Megan Markle e del principe Harry.

Due utenti dell’Illinois fanno causa a OnlyFans (più specificamente alle società che possiedono questo sito, ossia Fenix Internet, LLC e Fenix International Limited) per averli ingannati: hanno scoperto infatti che invece di chattare con le modelle di OnlyFans alle quali si erano abbonati avevano chattato con addetti di agenzie specializzate che simulavano di essere le modelle in questione. Il fenomeno dei chatter, ossia delle agenzie di chat nei siti erotici a pagamento, è estremamente diffuso, e inoltre molte delle “modelle” sono in realtà immagini e video generati dall’intelligenza artificiale, per cui chi pensa di stabilire un rapporto parasociale privilegiato tramite questi siti rischia di essere ingannato due volte. La causa è diventata una class action (404 Media).

Grattarsi protegge dalle infezioni. Una ricerca pubblicata su Science ha cercato di rispondere a una domanda che circola da tempo: grattarsi spesso peggiora la condizione della pelle, peggiorando infiammazione e gonfiore, eppure gli umani e gli animali hanno tutti un forte istinto di compiere questo gesto e lo trovano piacevole e fonte di sollievo. Questo suggerisce che se questo comportamento è stato selezionato positivamente dall’evoluzione deve fornire qualche beneficio. La ricerca ha dimostrato che grattarsi produce anche una difesa contro le infezioni batteriche della pelle. Secondo i ricercatori, questo gesto fa diminuire la presenza di Staphylococcus aureus (il principale batterio responsabile delle infezioni cutanee) sulla pelle, ma se il grattamento diventa eccessivo e cronico causa ovviamente lesioni, per cui bisogna sì grattarsi, ma nella giusta misura (Gizmodo; Eurekalert).

Basta uno squillo per localizzare chiunque? Chiedo aiuto tecnico per una verifica

Mi è stato segnalato questo articolo su Mastdatabase.co.uk che, se confermato, rivelerebbe la presenza di un errore di configurazione di un operatore cellulare che renderebbe possibile a qualunque persona localizzare qualunque altro utente semplicemente facendogli squillare il telefono.

In sintesi, secondo l’articolo, se si è utenti della rete cellulare britannica O2 e la si usa per chiamare un altro utente della stessa rete facendo una chiamata VoLTE (Voice over LTE), i dati che si ricevono includono anche l’identificativo della cella di rete sotto la quale si trova il chiamato. Questo permette di localizzarlo con notevole precisione.

Chiedo aiuto per verificare a) se quello che viene affermato è vero b) qualora sia vero, se vale anche per altri operatori di altri paesi.

In pratica, l‘articolo suggerisce di usare l’app Network Signal Guru (manuale) su un telefono Android rootato e di chiamare un altro utente facendo una cosiddetta chiamata VoLTE, un servizio che è attivo per default sulla maggior parte dei cellulari recenti (info Swisscom; info Fastweb).

L‘app, durante la chiamata, dovrebbe visualizzare i dati diagnostici della rete cellulare. Secondo l’articolo, sulla rete O2 questi dati diagnostici includono l’IMEI e l’IMSI del chiamante e anche quelli del chiamato, ma soprattutto includono l’header Cellular-Network-Info, che fornisce il tipo di cella usato dal chiamato, il suo Location Area Code e il suo Cell ID.

Immettendo questi dati in uno strumento online come Cellmapper.net si ottiene l’indicazione su una mappa della macrocella della rete cellulare che è stata usata dal chiamato durante la telefonata. In altre parole, si può sapere in che città si trova una persona semplicemente chiamandola. Nelle città dotate di microcelle, si può localizzare una persona con estrema precisione. Questa situazione avviene anche se il chiamato è in roaming all’estero ed è un errore di configurazione dell’operatore; non c’è nulla che l’utente possa fare.

Qualcuno riesce a confermare/smentire? Ho installato Network Signal Guru su un mio cellulare (non rootato) e ho provato a chiamare un altro mio cellulare, ma nei log correttamente generati dall’app non ho trovato informazioni come quelle descritte nell’articolo. In compenso ho trovato informazioni di localizzazione e velocità stupendamente dettagliate.

Screenshot dei dati presentati da Cellmapper.net per una zona a caso di Lugano (non è dove abito io e non mi trovo lì).

Domani sarò al Salone del Libro di Torino per presentare la nuova edizione cartacea del mio libro sui complotti lunari

Domani (16 maggio) alle 13.45 sarò alla Sala Madrid del Salone del Libro di Torino per presentare la nuova collana di libri del CICAP intitolata Think Deep, che esplora fatti, fenomeni e misteri con gli strumenti della scienza e del pensiero critico.

La collana è un’evoluzione dei “Quaderni del CICAP” e mira a rendere il pensiero critico e il metodo scientifico accessibili e coinvolgenti, offrendo libri che uniscono rigore e narrazione per esplorare con profondità temi complessi. Think Deep rappresenta un passo importante nella missione del CICAP di diffondere il metodo scientifico e la curiosità intellettuale a un pubblico sempre più ampio.

La collana debutta con tre volumi:

  • “Misteri sotto la mole – Storie piemontesi tra cronaca e leggenda”, di Sofia Lincos e Giuseppe Stilo, è una raccolta di storie misteriose, curiose vicende di cronaca e leggende metropolitane torinesi e piemontesi, analizzate attraverso dati e verifiche sul campo. A raccontarle, due autori esperti di misteri, curatori della rubrica “Il Giandujotto scettico” per la rivista Query.
  • “Siamo andati sulla Luna? Domande e risposte alla riscoperta di un’avventura straordinaria” è una versione aggiornata e a colori (e finalmente di nuovo su carta!) del mio libro dedicato alle risposte alle tesi di complotto riguardanti le missioni umane sulla Luna.
  • “Storia del Gran Cofto – Cagliostro e la massoneria occultista nel secolo dei lumi”, di Roberto Paura, affronta la figura ambigua e affascinante di Giuseppe Balsamo, noto come Conte di Cagliostro, e la sua incredibile ascesa dalle umili origini siciliane alle corti europee. Paura, giornalista e divulgatore, esplora in queste pagine anche il fenomeno delle logge massoniche segrete nell’epoca dell’Illuminismo.

I libri saranno presentati al Salone del Libro di Torino in un evento che vedrà presenti gli autori, insieme al Presidente del CICAP Lorenzo Montali, con la moderazione di Elisa Palazzi, climatologa all’Università degli Studi di Torino e componente del consiglio direttivo del CICAP.

Per chi non ci potrà essere, i libri della collana sono già preordinabili subito online.

Qui sotto trovate il video di promozione del mio libro.

Podcast RSI – WhatsApp, gruppi a rischio intercettazione nonostante la crittografia

Questo è il testo della puntata del 12 maggio 2025 del podcast Il Disinformatico della Radiotelevisione Svizzera, scritto, montato e condotto dal sottoscritto. Il testo include anche i link alle fonti di questa puntata.

Le puntate del Disinformatico sono ascoltabili anche tramite iTunes, YouTube Music, Spotify e feed RSS. Il mio archivio delle puntate è presso Attivissimo.me/disi.

[CLIP di voce sintetica: “I messaggi e le chiamate sono crittografati end-to-end. Solo le persone in questa chat possono leggerne, ascoltarne o condividerne il contenuto.”]

Circa tre miliardi di persone ogni mese usano WhatsApp [Statista] e vedono questo messaggio rassicurante ogni volta che iniziano una conversazione con un’altra persona tramite questa app.

Tradotto in italiano non tecnico, significa che in sostanza i messaggi e le chiamate vocali fatti tramite WhatApp sono protetti in modo che nemmeno Meta, l’azienda proprietaria di WhatsApp, possa leggerli o intercettarli in transito. Questo per molti è una garanzia di riservatezza estremamente elevata e importante, che induce gli utenti di WhatsApp a sentirsi tranquilli nel fare conversazioni intime e confidenziali tramite questa app, anche in paesi nei quali la libertà di espressione non è garantita dalle leggi e dai governi.

Ma la recente fuga di piani di attacco statunitensi causata dal fatto che un giornalista è stato aggiunto per errore a una chat di gruppo che riuniva molti funzionari di altissimo livello della Casa Bianca e non se ne è accorto nessuno ha dimostrato che c’è una falla sorprendentemente banale in questa protezione. E questa falla è particolarmente sfruttabile per intercettare i messaggi di WhatsApp eludendo completamente la crittografia end-to-end.

Questa è la storia di questa falla e di come conoscerla, capirla ed evitare di esserne vittime. Se usate gruppi WhatsApp per fare conversazioni sensibili, c’è una precauzione semplice ma poco conosciuta e importante da applicare per essere più sicuri da occhi e orecchi indiscreti.

Benvenuti alla puntata del 12 maggio 2025 del Disinformatico, il podcast della Radiotelevisione Svizzera dedicato alle notizie e alle storie strane dell’informatica. Io sono Paolo Attivissimo.

[SIGLA di apertura]

Quanto è realmente sicura la crittografia che protegge i messaggi di WhatsApp? Un lungo e intricato articolo tecnico [Formal Analysis of Multi-Device Group Messaging in WhatsApp] pubblicato di recente da tre ricercatori di due prestigiose università britanniche, il King’s College e il Royal Holloway dell’Università di Londra, ha esaminato in estremo dettaglio il funzionamento di questa app così popolare e ha confermato che in generale la promessa di non intercettabilità dei contenuti dei messaggi è reale ed efficace.

Scambiare messaggi con una singola persona via Whatsapp è insomma sicuro: i dipendenti di Meta non possono leggere il contenuto di questi messaggi e non possono quindi darlo alle autorità in nessun caso. Possono dare agli inquirenti i metadati, ossia informazioni su chi ha conversato con chi, quando lo ha fatto e per quanto tempo, ma non possono leggere cosa si sono scritti questi utenti.

Tuttavia i ricercatori hanno scoperto che queste garanzie sono molto meno robuste nel caso delle chat di gruppo su WhatsApp, perché questa app, come parecchie altre, protegge crittograficamente le chat di gruppo ma non protegge allo stesso modo la gestione di questi gruppi. Questo vuol dire che chi ha il controllo dei server di WhatsApp può aggiungere di nascosto un utente-spia a un gruppo e quindi leggere tutti i messaggi scambiati dai membri di quel gruppo.

Faccio un esempio pratico per maggiore chiarezza. Anna amministra un gruppo WhatsApp al quale partecipano, come semplici utenti, Bruno, Carla e Davide. In teoria solo Anna, come amministratrice, può aggiungere altri utenti al gruppo. Ma in realtà, secondo i ricercatori, un difetto presente in WhatsApp permette anche a un aggressore di aggiungere al gruppo un utente in più, per esempio Mario, e quindi usare l’account di Mario, che per necessità deve poter leggere tutto, per intercettare facilmente tutte le conversazioni fatte in quel gruppo. L’aggressore potrebbe essere qualcuno che riesce a infiltrarsi dall’esterno nell’infrastruttura di WhatsApp, oppure un dipendente di Meta ficcanaso che per lavoro ha accesso a questa infrastruttura o è costretto dalle autorità a collaborare.

Il difetto di WhatsApp è che non verifica crittograficamente l’identità di un membro esistente di un gruppo quando quel membro manda il comando di aggiungere qualcuno al gruppo. Tutto questo vuol dire, in sostanza, che chiunque riesca a controllare il server che ospita il gruppo o i messaggi ricevuti dal gruppo può spacciarsi per amministratore e aggiungere nuovi membri. WhatsApp annuncerà l’aggiunta, ma non la impedirà.

WhatsApp non è l’unica app di messaggistica che omette questa verifica. Nel 2022 un’analisi tecnica ha dimostrato che anche l’app Matrix* aveva questo difetto.

* Più propriamente, Matrix è un protocollo open source usato da una serie di client e server di messaggistica, come Element, Hydrogen, Chatterbox e Third Room.

Telegram, che molti usano come alternativa a WhatsApp per non dare altri dati personali a Meta, non ha nemmeno la crittografia end-to-end sui messaggi dei gruppi ed è quindi particolarmente vulnerabile in termini di riservatezza delle conversazioni di gruppo [Ars Technica]. Signal, invece, usa correttamente la crittografia per proteggere la gestione dei gruppi.

La falla insomma c’è, ed è seria. Ma all’atto pratico, quali sono i rischi concreti per un utente comune? E Meta cosa intende fare per rimediare?

Come sempre, quando si parla di falle di sicurezza, è importante evitare i sensazionalismi e gli allarmi inutili e definire i rischi reali. Per la stragrande maggioranza degli utenti, le probabilità che qualcuno ci tenga così tanto a leggere i loro messaggi da prendere il controllo di un server di WhatsApp, spacciarsi per amministratore e poi creare un membro fittizio da usare per leggere e salvare tutte le conversazioni fatte in un gruppo sono veramente bassissime. Se non siete per esempio giornalisti o politici o medici che discutono su WhatsApp di argomenti estremamente sensibili, questo tipo di attacco non dovrebbe farvi perdere il sonno. Se lo siete, non dovreste usare WhatsApp per conversazioni su argomenti sensibili, e va ricordato che su Whatsapp, diversamente che su Signal, i membri di un gruppo sono visibili ai partecipanti, agli aggressori informatici e a chiunque abbia un mandato legale.

Se siete utenti comuni mortali, c’è uno scenario molto più plausibile che potrebbe riguardarvi facilmente. Se il gruppo WhatsApp conta molti membri, è facile che l’annuncio dell’arrivo di un nuovo membro non venga notato dagli altri perché è una delle tante notifiche generate dal traffico di messaggi del gruppo. Un amministratore malvagio, pettegolo, colluso o anche in questo caso costretto a collaborare con gli inquirenti potrebbe quindi facilmente aggiungere a un gruppo un membro in più senza che se ne accorga nessuno e permettergli di monitorare l’intero flusso di messaggi del gruppo e tracciare in dettaglio i rapporti tra i partecipanti.

Questa è in effetti una tecnica diffusa di inchiesta giornalistica e di polizia e viene usata anche per raccogliere pettegolezzi e dicerie: è semplice ed elegante e non richiede tentativi di scardinare la crittografia di WhatsApp. Il muro di cinta della crittografia non serve a nulla se la talpa o il sorvegliante o il portinaio pettegolo stanno all’interno di quel muro.

I ricercatori che hanno documentato queste falle di WhatsApp le hanno segnalate all’azienda che gestisce WhatsApp, che ha risposto dicendo che apprezza il loro lavoro e ha ribadito che ogni membro viene notificato quando si unisce un nuovo membro a un gruppo e che è possibile attivare ulteriori notifiche di sicurezza che avvisano se ci sono state variazioni nei codici di sicurezza degli interlocutori. L’azienda ha aggiunto che introduce continuamente nuovi strati protettivi.

Sia come sia, il rischio che la notifica del membro infiltrato passi inosservata nel mare di notifiche nel quale siamo quotidianamente sommersi rimane alto. Difendersi dagli intrusi spetta insomma a noi utenti, che dovremmo controllare una per una le notifiche di nuovi membri e soprattutto verificare le identità di quei membri.

A volte gli intrusi, infatti, entrano per errore, e addirittura senza volerlo. Lo sa bene Mike Waltz, che a marzo scorso, quando era consigliere per la sicurezza nazionale dell’amministrazione Trump, ha creato una chat di gruppo su Signal, l’ha usata per discutere dettagli delle imminenti operazioni militari nello Yemen insieme ad altri esponenti di altissimo livello della sicurezza nazionale statunitense, e non si è reso conto di aver aggiunto per errore al gruppo anche un giornalista, Jeffrey Goldberg, che quindi è venuto a conoscenza di informazioni estremamente sensibili, compreso il nome di un agente della CIA, e ha potuto documentare giornalisticamente non solo l’approccio dilettantesco alla sicurezza di Waltz e degli altri funzionari ma anche le loro parole di disprezzo nei confronti degli alleati europei [Wikipedia].

Come è stato possibile un disastro del genere? Secondo le indagini interne, Mike Waltz avrebbe salvato per errore il numero di telefono del giornalista nella scheda della propria rubrica telefonica dedicata al portavoce della Casa Bianca Brian Hughes, e poi avrebbe aggiunto alla chat supersegreta quello che pensava fosse appunto il portavoce. Ma l’errore fondamentale, a monte, è stato l’uso di un’applicazione non approvata dal Pentagono per discutere piani militari delicatissimi, e soprattutto usarne una versione particolare modificata, che è stata analizzata dagli esperti esterni al governo statunitense e ha rivelato ulteriori, interessanti problemi di sicurezza che è riduttivo definire imbarazzanti. Ma questa è un’altra storia, per un’altra puntata.

Niente Panico RSI – Puntata del 2025/05/12

È andata in onda stamattina alle 9 una nuova puntata in diretta di Niente Panico, il programma che conduco insieme a Rosy Nervi settimanalmente sulla Rete Tre della Radiotelevisione Svizzera. La trasmissione è riascoltabile presso www.rsi.ch/rete-tre/programmi/intrattenimento/serotonina oppure nell’embed qui sotto.

Lo streaming in diretta della Rete Tre è presso www.rsi.ch/audio/rete-tre/live; la mia raccolta completa delle puntate è presso Attivissimo.me/np.

I temi e le fonti della puntata

Scienziati creano un nuovo colore, ma è visibile solo puntandosi uno speciale raggio laser negli occhi (non fatelo!) (BoingBoing / The Guardian / Science Advances). Ricercatori della University of California a Berkeley hanno sparato impulsi laser nei propri occhi per stimolare specifiche cellule della retina, rivelando una sorta di tonalità blu-verde che hanno chiamato “olo”. Gli occhi umani hanno tre tipi di coni, sensibili a lunghezze d’onda lunghe, medie e corte della luce (fondamentalmente le gamme del rosso, del verde e del blu). Questi ricercatori hanno trovato il modo di stimolare tramite laser solo i coni sensibili alle lunghezze d’onda medie, producendo una macchia di colore nel campo visivo grande circa il doppio della luna piena. Questo colore va oltre la gamma naturale perché appunto sono stimolati quasi esclusivamente i coni medi, creando uno stato che la luce naturale non può raggiungere. Il nome “olo“ deriva dal binario 010, a indicare che viene attivato solo uno dei tre tipi di coni (quello per le frequenze medie).

Anniversari di oggi: morte di Perry Como e della nascita di Burt Bacharach, rispettivamente cantante e autore della celeberrima Magic Moments; nascita di Katharine Hepburn (tomba trovata grazie a Findagrave); morte di Mia Martini; uscita del film Pulp Fiction.

Il paradosso del compleanno: sembra impossibile, eppure basta un gruppo di 23 persone per avere il 50% di probabilità che due di esse condividano la data del compleanno. Con 30 persone la probabilità sale al 70% e con 50 tocca addirittura il 97%.

Prendendo il calcio delle ossa di una persona per farne gessetti, quanto si potrebbe scrivere? Secondo questo video su YouTube, che non so quali fonti abbia usato, se estraeste il calcio dalle ossa di un dito della vostra mano potreste usarlo per scrivere il vostro nome 40 volte. Se estraeste l’osso più grande del vostro corpo, il femore, potreste disegnare una linea lunga 800 metri. E se estraeste tutto il vostro scheletro e lo macinaste fino a ottenere un gigantesco gessetto? Potreste disegnare una linea di 21 km. Personalmente consiglierei di continuare a usare i normali gessetti da marciapiede (BoingBoing).

La ragazza con la mano bionica comandabile a distanza. Una diciannovenne britannica, Tilly Lockey, grazie alla Open Bionics ha mani bioniche che continuano a funzionare anche quando non sono attaccate al corpo, sono completamente impermeabili e funzionano tramite sensori wireless che leggono i segnali muscolari, senza bisogno di chip cerebrali (BoingBoing).