Questo articolo è stato pubblicato nello speciale della newsletter Estera dedicato allo sviluppo dell’intelligenza artificiale. Per leggere il numero, clicca qui. Per iscriverti alla newsletter, clicca qui.
La tecnologia dà, la tecnologia toglie. Il 9 settembre scorso, questo leitmotiv del rapporto Essere Umano – tecnologia è tornato in voga. Jacob Coxon, ex ricercatore della Anthropic e precedentemente di Open Ai, ha pubblicamente sostenuto che le aziende che stanno modellando questi sistemi ritengono realmente possibile che l’AI «uccida l’intera umanità entro la fine del decennio». Eppure continuano a svilupparla in una corsa ipercompetitiva.
Le dichiarazioni di Coxon hanno subito ricevuto diverse conferme all’interno del settore. Poco dopo, Evan Hubinger – anch’esso impiegato dalla Anthropic – ha ribadito che vi è una possibilità superiore al 10% che l’AI provochi l’estinzione dell’Umanità in tempi brevi. Lo stesso ricercatore ha poi aggiunto che le stesse aziende che sviluppano l’AI sono consapevoli dei rischi ma ben lontane da sviluppare delle procedure di sicurezza che risolvano il problema.
Ma in che contesto si inseriscono le dichiarazioni dei due ricercatori?
La stessa Anthropic ha dichiarato che in estate, durante alcuni test, diversi modelli AI hanno avuto accesso a Internet o altri sistemi reali. Ciò, in alcuni casi, ha comportato l’interferenza del modello testato in sistemi terzi. Il colosso tecnologico ha però specificato che gli “incidenti” riguardavano Claude (modello di intelligenza generativa di Anthropic) eseguito intenzionalmente senza alcuni limiti, a fini valutativi. Eppure, nonostante tali modelli abbiano fallito test costruiti proprio per permettergli di fallire (non proprio la prova inconfutabile della prossimità dell’apocalisse tecnologica), è impossibile non riconosce come, date determinate condizioni, un sistema potente può comportarsi in maniera pericolosa – basti pensare all’utilizzo crescente delle AI in campo bellico.
Pochi giorni dopo le dichiarazioni di Coxon e Hubinger, il 12 settembre, Dario Amodei, il Ceo stesso della Anthropic, ha pubblicato un breve saggio intitolato We Must Pace the Frontier (Dobbiamo dare un ritmo alla frontiera). Nella sostanza, il vertice di una delle principali BigTech statunitensi ha scritto che potrebbe diventare necessario «rallentare il ritmo con cui miglioriamo i modelli AI», aprendo alla possibilità di controlli esterni nelle procedure di sicurezza aziendali e di settare una velocità massima per lo sviluppo dei modelli.
Sembrerebbe un atto di coscienza ma, come specificato dallo stesso Amodei, il problema è che aziende concorrenti difficilmente porrebbero limiti alla propria competizione in un settore che solo nel 2026 ha superato gli 800 miliardi di dollari statunitensi in investimenti infrastrutturali – solo considerando le aziende statunitensi. Per rallentare e mettere in sicurezza il settore, vi sarebbe bisogno dell’intervento dei governi, magari coinvolgendo Stati autoritari come la Cina, il più grande concorrente degli Stati Uniti nella corsa all’avanzamento tecnologico e coprotagonista del settore AI.
In maniera curiosa, poco dopo, Sam Altman ed Elon Musk (il primo Ceo di OpenAI, il secondo di xAI), grandi competitor di Amodei, si sono dichiarati d’accordo col collega della Anthropic.
Apriti cielo. Da un lato, vi è chi annuisce e cita il dilemma del prigioniero del libero mercato: nessuna azienda può rallentare unilateralmente perché perderebbe la corsa e fallirebbe. Dall’altro, chi ricorre alla cultura Sci-Fi del secolo scorso: dalle macchine ribelli di Čapek (dramma del 1920) alla rete militare di Terminator Skynet (che arriva a considerare l’Umanità una minaccia), passando per la pericolosa autonomia di HAL 9000 nel film 2001 Odissea nello spazio… Da appassionati di apocalissi, soprattutto tecnologiche, non siamo riusciti a non sorridere, eppure andrebbe fatto un po’ di ordine. Perché? Perché se i Ceo possono (e dovrebbero) temere realmente il potenziale pericoloso delle AI, dall’altro hanno un interesse ben specifico a spaventare il pubblico descrivendogli una AI pericolosa e una AI sicura: la retorica della sicurezza può essere contemporaneamente sincera e strategicamente utile per le aziende che la utilizzano.
Lo spauracchio di un’apocalisse tecnologica: perché alle BigTech conviene parlarne
È la prima volta che sentiamo parlare di apocalisse tecnologica? Ovviamente no e, oltre agli esempi Sci-Fi già menzionati, ve ne sarebbero di molti altri. Il punto però non è la letteratura fantascientifica, ma provare a capire perché i Ceo delle principali BigTech che si occupano di AI abbiano preso una posizione così netta e allarmista – e non è nemmeno la prima volta.
Una prima ragione è probabilmente di ordine regolatorio, nel senso che, da quando le AI sono entrate nella nostra quotidianità e sono sulla bocca di tutti, chi di dovere ha invocato la regolamentazione delle stesse, in modo da preservarne un uso etico o per lo meno non dannoso. Ma se le autorità hanno interessi nel porre dei paletti allo sviluppo delle AI, le BigTech che le producono hanno interessi nell’influenzare dove porre quei paletti. Il fatto che i Ceo delle principali aziende coinvolte nel settore abbiano trovato un punto d’incontro e abbiano invocato i governi (anche quello cinese, in maniera indiretta) è già indicativo. Nessun governo ha interesse a fare la guerra alle proprie eccellenze tecnologiche e le dichiarazioni di Amodeo, Musk e compagnia bella sono l’assist perfetto: i geni delle AI invocano l’aiuto dei governi per regolamentare il loro prodotto, ponendosi in maniera collaborativa piuttosto che fare muro.
Il risultato più probabile è che, quando i governi inizieranno a studiare le regolamentazioni necessarie a gestire il settore, le BigTech si siederanno al tavolo delle regolamentazioni, sia perché eticamente oneste agli occhi del pubblico (che ne ricorderà le prese di posizione pubbliche), sia perché le più esperte in materia. Ciò potrebbe portare le BigTech ad avere voce in capitolo più di quanto dovrebbero. Non a caso, Volker Turk, l’Alto commissario delle Nazioni Unite per i diritti umani, è intervenuto a gamba tesa nel dibattito, sottolineando come l’autoregolamentazione volontaria delle aziende non sia sufficiente a garantire la sicurezza degli utenti.
Una seconda ragione è a tinte geopolitiche. Tra un’apocalisse e un’altra vi è un nome di Stato onnipresente: la Cina. Come scritto nella prima parte di questo speciale di Estera, un punto chiave secondo i Ceo delle BigTech è che i governi democratici riescano a far sedere al tavolo delle trattative Beijing, nella speranza di trovare delle regole comuni che gestiscano anche la competizione tra giganti occidentali e quelli orientali. Se le dichiarazioni di Amodei possono essere lette, parafrasando, come un “rallentiamo, ma dobbiamo rimanere davanti alla Cina”, le uscite successive di Trump (che ha subito smentito ogni rischio apocalittico) sembrano urlare “non rallentiamo perché dobbiamo rimanere davanti alla Cina”. Dichiarazioni opposte ma che trovano nel minimo comune denominatore la necessità di non farsi superare dal gigante asiatico. Paradossalmente, sottolineare la crescita rapida e poderosa della Cina in materia potrebbe portare a un aumento di investimenti statali e privati di pari passo con le nuove, eventuali, regolamentazioni.
Una terza possibile ragione è invece di ordine finanziario: non è un segreto che le principali BigTech stiano considerando di quotare in borsa le proprie branche dedicate alle AI. È una questione dichiarata da tempo da Musk e che recentemente è stata valutata anche da Anthropic. Se da un lato l’idea di apocalisse fa paura a molti e diminuisce la fiducia nelle AI, dall’altro tale paura potrebbe risolversi con una regolamentazione condivisa e unitaria (almeno tra aziende e alcuni Stati) che porterà a una successiva crescita di fiducia nel settore – di questo punto parleremo anche nelle conclusioni. Probabilmente il momento propizio per quotarsi in borsa sarà esattamente quello.
Infine, vi è una ragione di ordine mediatico, sottolineata anche dal filosofo Luciano Floridi nel suo opinion paper intitolato “AI and Its New Winter: from Myths to Realities” (2020). Secondo il filosofo, infatti, la paura che le AI possano spazzare via l’umanità, sebbene irrealistica, è abbastanza forte da colpire l’immaginario collettivo e dei consumatori, distraendoli però da quelli che sono i rischi reali e attuali di tali tecnologie. Se la prospettiva di un’Umanità ridotta in schiavitù dalle AI è al momento totalmente irreale, vi sono rischi decisamente più concreti e già in atto, come l’impatto su alcune categorie di lavoratori, la facilità con cui vengono influenzati media e opinione pubblica, le attività di sorveglianza o militari eccetera. Eppure se ne parla poco, probabilmente perché momentaneamente più difficile da regolare rispetto a una minaccia irrealistica.
Insomma, il rischio di un’apocalisse tecnologica era la cosa giusta detta al momento giusto da parte delle BigTech: in un momento di paura, appaiono più responsabili, consapevoli e disponibili al dialogo. La base di partenza perfetta per costruire qualcosa di più grande se sei un’azienda che ne commette di ogni – come notato da Riccardo Bassetto in questo numero della sua newsletter.
Tecnofobia vs Tecnoentusiasmo: lo Zeitgeist del XXI secolo
Per dare un ulteriore senso a questa paura generalizzata, è utile ritirare fuori il già menzionato Floridi. Nel suo paper, il filosofo sostiene che la percezione pubblica delle AI (in giro da diversi decenni e non da ChatGpt) alterna inverni a estati, dove gli inverni sono quei periodi in cui, dopo entusiasmanti investimenti nel settore, le aspettative sulle AI si sgonfiano e ne emergono i rischi e i punti deboli. Le AI passano quindi da essere un miracolo capace di risolvere ogni problema a minaccia esistenziale destinata a distruggere il pianeta, a fasi alterne a seconda della percezione pubblica.
Il primo bersaglio di Floridi è infatti il sensazionalismo, proprio perché impedisce una visione nitida dei rischi concreti e immediati delle tecnologie. Se i futurologi continuano ad abboccare alle manipolazioni delle BigTech o degli attori interessati al settore, si rischia di trasformare problemi complessi in una sorta di fantascienza applicata.
L’alternanza tra inverno ed estate, tecnofobia e tecnoentusiasmo è empiricamente riscontrabile negli ultimi 15 anni. Prendendo ad esempio i social, quelli che nel 2011 sembravano strumenti di liberazione grazie alle rivoluzioni arabe e alla nascita di svariate realtà di informazione gratuite e facilmente raggiungibili, nel 2018, con lo scandalo di Cambridge Analytica (dati di utenti Facebook utilizzati per direzionare l’opinione pubblica in favore dell’elezione di Trump nel 2016 e della Brexit nel 2017) ha spazzato via l’entusiasmo. Allo stesso modo, nel 2023, entrammo in una nuova estate grazie alle meraviglie che le AI potevano fare (creazione di immagini, testi complessi e così via), salvo poi entrare subito dopo in un inverno tecnofobico a causa della velocità con cui è cresciuta.
Insomma, l’Umanità probabilmente non verrà spazzata via dalle AI entro la fine del decennio e, soprattutto, a impedirlo non saranno le BigTech che decidono di sedersi al tavolo delle regolamentazioni. Probabilmente però ci troveremo a dover far fronte a minacce meno esistenziali ma non per questo non meno gravi, come l’uso della AI nei sistemi d’arma, nella produzione di materiale pedopornografico, nella spinta a ribasso degli stipendi in alcuni settori e così via.
Insomma, in redazione abbiamo tutti amato molto Isaac Asimov e i suoi romanzi, ma prima di appellarci alla tre leggi della robotica (vedi sotto, sempre interessanti da leggere e snocciolare, proprio come voleva lo scrittore statunitense), dovremmo rimanere vigili e impedire che le acque si intorpidiscano così tanto da perdere tempo ad affrontare minacce esistenziali lasciando che quelle etiche, economiche e sociali mettano radici profonde nella nostra quotidianità.
- Un robot non può recare danno a un essere umano, né permettere, attraverso la propria inazione, che un essere umano riceva danno.
- Un robot deve obbedire agli ordini impartiti dagli esseri umani, salvo quando questi entrino in conflitto con la Prima Legge.
- Un robot deve proteggere la propria esistenza, purché ciò non entri in conflitto con la Prima o la Seconda Legge.
Sottolineiamo, però, che Asimov era ben lungi dal voler descrivere un futuro sicuro e ben regolato. Per lo scrittore la questione su cui riflettere (e su cui dovremmo riflettere anche noi) è: che succede quando una macchina che si crede perfetta cerca di rispettare perfettamente una regola che noi abbiamo formulato in maniera imperfetta? Food for thoughts, mentre aspettiamo l’apocalisse o la prossima estate da tecnoentusiasti.
