Artificial Intelligence, propaganda e fake-news: quanto costa un BOT?

Ecco quanto (poco) costa un robot capace di disinformare (tanto)

·       Analisi Difesa, 24 giugno 2019, di Eugenio Santagata, Andrea Melegari in Cyber, Opinioni

Ma quanto è complicato realizzare un software in grado di generare automaticamente discorsi così credibili da poter essere attribuiti a personalità politiche di rilevanza internazionale? Quanto tempo serve? E quanto denaro occorre investire?

Sono queste le tre domande principali che hanno stimolato un’interessante ricerca realizzata da UN Global Pulse, un’iniziativa delle Nazioni Unite che studia e promuove l’uso responsabile delle nuove tecnologie informatiche e dei big data.

La capacità di un algoritmo di creare testi credibili è infatti già ampiamente utilizzata per sviluppare chatbot, riassumere testi, scrivere sceneggiature di film e, purtroppo, anche per robotizzare la produzione di fake news veritiere.

Lo studio di UN Global Pulse ha impiegato un software di machine learning (un approccio di intelligenza artificiale) e l’archivio dei testi dei discorsi pronunciati davanti all’Assemblea Generale delle Nazioni Unite nel periodo 1970-2015.

Gli algoritmi di intelligenza artificiale hanno rapidamente “elaborato e appreso” tutti i testi prodotti in 45 anni di storia politica, sulla base dei quali è stato realizzato un modello che ha permesso di generare automaticamente testi su tre specifici argomenti: problemi generali (ad esempio il cambiamento climatico), commenti del Segretario Generale e discorsi caratterizzati da toni discriminatori e razzisti.

Ecco i risultati: i testi generati automaticamente sulle problematiche generali, nel 90% dei casi, sono paragonabili a quelli redatti dall’uomo. I ricercatori sono convinti che, con qualche piccolo ritocco manuale, il testo prodotto dall’intelligenza artificiale possa divenire di fatto indistinguibile da quello scritto da un essere umano. Di qualità inferiore invece è risultata la produzione di testi discriminatori e razzisti, ma è plausibile ipotizzare che, con un miglior dataset, si possa migliorare facilmente la qualità del prodotto finale (ora attorno al 50%).

Questi dati numerici relativi alla precision sono relativamente importanti. Quello che ci interessa evidenziare qui è invece la risposta alle tre domande iniziali. Andiamo per ordine.

Chiunque può dotarsi dell’algoritmo di machine learning: è un software open source, senza costi e facilmente reperibile in Rete. Idem per i testi degli ultimi 45 anni, con cui addestrare l’algoritmo di machine learning che, in sole 13 ore, può produrre il modello in grado di generare automaticamente i discorsi.

Infine, l’investimento per disporre della capacità di calcolo (noleggiata su cloud) per tutte le elaborazioni sopra descritte ha registrato un costo complessivo di 7,8 (sì, solo sette virgola otto!) dollari americani.

Davvero un investimento limitato, se paragonato allo sforzo necessario per comprendere se stiamo leggendo un discorso composto da un essere umano o generato da un computer. Davvero infinitesimale se pesiamo le possibili conseguenze in termini di disinformazione.

Ciò detto, l’AI procede sempre di più verso numerose applicazioni concrete, seppur con un passo abbastanza lento, come abbiamo spesso ripetuto. Questo perché un conto è mappare i wi-fi di un’area, altra cosa è hackerare all’istante tutti i device connessi. Ad oggi, ci troviamo nella fase di elaborazione di modelli ed emulazione di comportamenti, con la certezza che, seppur a passo lento, talvolta anche molto lento, non si torna indietro.

Link originale: https://www.analisidifesa.it/2019/06/ecco-quanto-poco-costa-un-robot-capace-di-disinformare-tanto/