Ai-pocalypse Now

Dario Amodei, CEO di Anthropic, ha di recente pubblicato un lungo articolo dal titolo We Must Pace the Frontier (https://darioamodei.com/post/we-must-pace-the-frontier), dove suggerisce -quasi intima- la necessità di dover rallentare lo sviluppo dei modelli di intelligenza artificiale, perché il ritmo attuale rischia di superare la nostra capacità di comprenderli e controllarli.

Sam Altman (https://x.com/sama) ha annuito con solennità istituzionale, parlando della necessità di “gestire il ritmo dell’innovazione di frontiera“.

Elon Musk, che sui social non ama la sobrietà, ha liquidato la questione con un “Dario ha ragione” (https://x.com/elonmusk/status/2098789109980332057), rapido ed indolore.

Demis Hassabis (https://x.com/demishassabis) ha definito il tutto “la direzione corretta“.

Nel mezzo, anzi nel “pre-serale”, le dimissioni plateali di un ricercatore Anthropic che accusa le aziende di “giocare con le nostre vite“; e poi, la stampa general-generica che titola su rischio esistenziale, bioterrorismo, cyberattacchi e agenti fuori controllo che “scorrazzano per internet“.

Fermi tutti però: prima di prendere d’assalto il bunker, un piccolo consiglio di lettura. È una lista di allarmi identici, formulati con lo stesso identico tono apocalittico, per tecnologie che oggi usiamo per fare la spesa, curarci e non ammalarci ogni volta che piove.

Breve storia di tutte le volte in cui stavamo per morire tutti

Nel IV secolo a.C. Platone fa dire a Socrate che la scrittura avrebbe distrutto la memoria umana, lasciandoci con la parvenza della sapienza al posto della sapienza vera. Duemilaquattrocento anni dopo, sto scrivendo queste righe -e ringrazio la scrittura per questo; la mia memoria fa comunque schifo, quindi diciamo che Socrate aveva ragioni sue ma la causa era sbagliata.

Nel 1139 un intero Concilio Lateranense mette al bando la balestra, definendola arma “odiosa a Dio“, perché permetteva a un contadino con poche settimane di addestramento di infilzare un cavaliere blindato. Non era un problema teologico, era un problema di classe sociale mascherato da problema teologico. Suona familiare?

Nel XIII secolo gli orologi pubblici vengono accusati di sottrarre il tempo a Dio per darlo ai mercanti.

Nel 1294, in Persia, la prima moneta cartacea della storia provoca la chiusura dei bazar e il collasso fiscale del regime, perché la gente non si fidava di un pezzo di carta al posto dell’oro. Fun fact: oggi ci fidiamo di un numero su uno schermo generato da una banca centrale, e va bene così.

Poi arriva Gutenberg, nel 1440 circa, e qui la lista si fa quasi commovente: gli Scribi Genovesi chiedono di vietare la stampa per disoccupazione tecnologica, un frate la definisce “prostituta” perché avrebbe corrotto la gioventù, un abate giura che la carta si sgretolerà cancellando la memoria storica dell’umanità, e Conrad Gessner, nel 1565, conia il concetto di “epidemia informativa” da eccesso di libri. Sostituite “libri” con “AI generativa” e avete gran parte dei titoli di oggi.

Il vaccino di Jenner, nel XVIII secolo, viene accusato dal pulpito di essere un’operazione diabolica contro la volontà di Dio; le vignette dell’epoca mostravano vaccinati a cui spuntavano corna e musi bovini.

Il parafulmine di Franklin viene incolpato di un terremoto a Boston, perché “rubava il tuono all’Onnipotente“.

I romanzi, nel Settecento-Ottocento, causavano ufficialmente una malattia, la Lesesucht, la mania della lettura, che portava all’isteria femminile.

Poi la parte migliore: nell’Ottocento, un medico rispettabile come Dionysius Lardner sostiene che superare i 30 miglia/h in treno avrebbe causato l’asfissia istantanea dei passeggeri per depressione atmosferica. Altri temevano la “follia da treno” e la cecità da paesaggio troppo veloce. I tunnel ferroviari venivano descritti come bocche dell’inferno, letteralmente.

Il New York Times, nel 1858, si preoccupava che il telegrafo avrebbe impoverito la lingua scritta rendendoci tutti stupidi e nevrastenici, centocinquant’anni prima che qualcuno dicesse la stessa identica cosa di Whatsapp.

Edison, per boicottare la corrente alternata di Tesla, organizzò folgorazioni pubbliche di animali, inclusa un’elefantessa, pur di convincere l’opinione pubblica che l’AC ci avrebbe uccisi in casa.

L’automobile, a inizio Novecento, veniva chiamata “carro del diavolo” e “casa di prostituzione su ruote“.

I cibi surgelati, negli anni Venti, si pensava contenessero “batteri ibernati” pronti a risvegliarsi nello stomaco.

I fumetti, negli anni Cinquanta, causavano ufficialmente delinquenza giovanile e asma, e finivano bruciati nei roghi pubblici.

E poi, per restare più vicini a noi, il Millennium Bug, con predicatori televisivi che vendevano video di sopravvivenza e Gary North che profetizzava la fine della civiltà industriale.

Gli OGM, ribattezzati “cibi Frankenstein“.

La poltiglia grigia dei nanobot mangia-pianeta.

Il buco nero artificiale del CERN che avrebbe dovuto inghiottire la Terra nel 2008.

Il 5G che diffonde virus e controlla le menti.

Ogni singola volta: allarme apocalittico, autorità morale o scientifica a garanzia, previsione di catastrofe imminente, e poi -sorpresa- la tecnologia si diffonde comunque, spesso proprio grazie a chi urlava più forte al lupo.

E quindi l’AI?

Non sto dicendo che l’intelligenza artificiale sia innocua come un orologio a pendolo o pericolosa quanto un romanzo dell’Ottocento. Sto dicendo che il copione -allarme totalizzante, tempistica sospettosamente comoda, endorsement corale dei concorrenti diretti- è lo stesso identico copione da duemilaquattrocento anni a questa parte, e ogni volta il finale è sempre lo stesso: la tecnologia si diffonde, il mondo non finisce, e chi vendeva rifugi antiatomici o kit di sopravvivenza per il Y2K si è ritrovato con un garage pieno di scatolette di tonno invendute.

C’è anche una lettura meno nobile, ed è quella che a un certo punto qualcuno nei commenti fa notare sempre: un allarme di questo tipo, lanciato proprio dalle aziende che quei modelli li costruiscono e li vendono, arriva giusto mentre le promesse di produttività e ricavi faticano a materializzarsi come annunciato. Uno stop “responsabile“, auto-imposto e ben pubblicizzato, è anche un modo elegantissimo per giustificare tempi più lunghi, alzare l’asticella della fiducia degli investitori e, soprattutto, restare gli unici a decidere le regole del gioco, visto che a chiedere di rallentare sono proprio quelli che stanno vincendo la corsa. Non è un complotto, è marketing con la faccia seria: la differenza tra “rallentiamo perché rischiamo l’estinzione” e “rallentiamo per consolidare il vantaggio competitivo mentre lo raccontiamo come un atto di responsabilità morale” è sottile quanto l’inchiostro rosso che nel Quattrocento sembrava sangue del diavolo.

Questo non significa ignorare i rischi reali: sicurezza informatica, disinformazione, uso improprio di sistemi sempre più capaci sono questioni serie, che meritano regole serie, non proclami da pulpito. Ma tra un allarme ponderato e una profezia di sterminio ci passa la stessa distanza che passa tra un ingegnere ferroviario e Dionysius Lardner: uno costruisce binari sicuri, l’altro giura che moriremo tutti asfissiati a 30 miglia/h.

Nel frattempo, io questo post l’ho scritto con l’aiuto di uno di quei modelli che, secondo il comunicato della sua stessa azienda, dovrebbe farmi tremare. Mi sa che la civiltà reggerà anche stavolta.