I PERICOLI DELL’IA
Il successo nella creazione dell’intelligenza artificiale potrebbe essere
il più grande evento nella storia umana. Purtroppo potrebbe anche essere
l’ultimo, a meno che impariamo a evitarne i rischi.
( S. Hawking)
L’IA ce l’ha fatta. Ciò che si temeva è accaduto. Per la prima volta un’IA si è resa autonoma, e ha agito fuori dal controllo umano.
E’ successo l’altro giorno, quando una branca di Open AI, programmata per attaccare archivi di dati, eludendo la vigilanza degli ingegneri, ha travalicato la sua area protetta e, utilizzando Internet, è penetrata nei database di Hugging Face, grande azienda americana che gestisce sviluppatori di IA.
Fatto clamoroso e altamente pericoloso. In tempi di cybereconomia, cyberfinanza e cyberguerre, prendere atto che ci sono delle IA capaci di fare danni fuori controllo desta la massima preoccupazione.
E c’è l’aggiunta dello smacco americano. Hugging Face ha tentato di usare delle IA statunitensi per bloccare “l’invasione”, senza riuscirci. Ha risolto il problema solo ricorrendo a un’IA cinese.
Inoltre: l’IA è un formidabile mezzo per creare fake news. Già ora (e domani sarà peggio) dinanzi a qualsiasi notizia che compare in rete, sorge il bisogno di verificare se il contenuto e la fonte sono fededegni, oppure farlocchi. Fatica aggiuntiva per l’uomo contemporaneo “acculturato”, il tempo perso come condanna telematica.
Di fronte a una simile situazione, si capisce perché l’enciclica “Magnifica humanitas” di Papa Leone XIV è passata in sordina. Nella corposa parte in cui parla dell’IA, l’autore mette in guardia rispetto “ai nuovi monopoli” che la controllano, al “paradigma tecnocratico” che si sta imponendo, e indica la necessità di “disarmare l’IA”, ovvero “sottrarla alla logica della competizione armata, che oggi non è più solo militare ma economica e cognitiva”.
E: “Disarmare non significa rinunciare alla tecnologia, ma impedirle di dominare l’uomo”.
E’ la grande questione: la tecnica a servizio dell’uomo e non questi in sua balìa. Per riuscirci occorre dotarci del massimo di coscienza critica.
Nessun commento:
Posta un commento