Jacob Coxon, un ricercatore franco-britannico specializzato nell’addestramento delle intelligenze artificiali, nei giorni scorsi ha fatto un bel po' di rumore annunciando le proprie dimissioni da Anthropic, accusando l'azienda di irresponsabilità. “Nei prossimi anni”, ha scritto Coxon su X, “le intelligenze artificiali saranno capaci di autoreplicarsi e metteranno a rischio la  sopravvivenza della nostra specie. Nessuno sta facendo nulla per impedirlo: sono tutti impegnati in una corsa sfrenata per il predominio tecnologico". Il messaggio completo del ricercatore ha raccolto, in breve tempo, oltre cento milioni di visualizzazioni. A dimostrazione di come l’opinione pubblica inizi a chiedersi quanto sia lecito fidarsi di uno sviluppo selvaggio di tali tecnologie. Alla base della decisione di Coxon c’è una vicenda che sembra averlo spaventato a morte: un attacco condotto da uno 'sciame' di agenti autonomi, sviluppati da OpenAI, contro una piattaforma di condivisione dati chiamata 'Hugging Face', durante una sessione di valutazione delle loro prestazioni. Un esperimento che si stava svolgendo in un ambiente teoricamente isolato dalla rete internet pubblica. In sostanza, le intelligenze artificiali avrebbero deciso, in totale autonomia, di evadere dall’ambiente di prova, penetrare nell’infrastruttura esterna e manipolare i criteri con cui venivano giudicate dai software di controllo. Per Coxon, “questo evento dimostra come i modelli stiano già sviluppando forme di consapevolezza operativa, mentre i sistemi di sicurezza attuali risultano minimi e inefficaci. Presto”, ha spiegato lo studioso, “le Ai si evolveranno in sistemi superumani, capaci di ‘hackerare’ ogni cosa, rivoluzionare qualunque settore da un giorno all’altro e acquisire potere e risorse reali. Le persone che oggi addestrano le Ai”, ha concluso il ricercatore, “ritengono sinceramente che potrebbero ucciderci tutti entro la fine del prossimo decennio. Nessun’altra attività umana rappresenta un pericolo di questo livello”. Stiamo parlando di qualcosa reale? Ancora non si sa: in molti stanno cercando di approfondire la notizia per non procurare un allarme immotivato. Anche per verificare che non si tratti di un tentativo della concorrenza di danneggiare Anthropic. Il giovane Coxon ha paragonato il contesto odierno a una sorta di 'Progetto Manhattan', il programma militare americano, diretto da Robert Oppenheimer, che sviluppò la bomba atomica. Anche se, in questo caso, la sperimentazione è completamente in mani private e nessuno dovrebbe avere una responsabilità del genere. Per il momento, noi ci limitiamo a presentare quali sono, secondo noi, i rischi di un utilizzo eticamente non controllato di questa innovazione: a) disinformazione: gli algoritmi possono generare fake news, immagini e video falsi per ingannare gli esseri umani; b) impatto occupazionale: l'automazione può arrivare a causare la perdita di posti di lavoro in diversi settori; c) privacy e sorveglianza: i sistemi di controllo basati sull'Ia possono limitare le libertà individuali; d) impatto ambientale: i 'data center' e l'addestramento di modelli sempre più sofisticati sono 'energivori', cioè richiedono enormi quantità di energia; e) uso militare: le armi autonome e i droni guidati dall'intelligenza artificale eliminano l'empatia umana nelle decisioni, soprattutto in quelle belliche. Molti analisti e scienziati sembrano considerare l’allarmismo di questi giorni un'esagerazione, tesa a distogliere l'attenzione dai problemi urgenti del presente; altri, temono la nascita di una superintelligenza incontrollabile. Quel che possiamo dire noi, per non apparire 'catastrofisti', è che le 'macchine' non agiscono di propria iniziativa e che la responsabilità etica e il loro controllo dovrebbero essere nelle mani dell'uomo. Dunque, calma e 'gesso': seguiremo gli sviluppi di questa vicenda denunciata da Jacob Coxon e cercheremo di tenere informati i nostri lettori circa la fondatezza di tali pessimistiche previsioni.