Ma l’AI conquisterà il genere umano?
(Spoiler: se continua così l’andazzo, sì. A breve pure!)
Altra domanda: ma voi siete pro o contro l’AI ovunque?
ANTEFATTO:
Ritrovarsi a discutere con un complottista che crede fermamente nei rettiliani, nella Terra piatta e soprattutto ad “Apollo, credici” ha i suoi vantaggi.
Oggi è stato il turno di Skynet e Terminator.
Mentre mi veniva prospettata la fine dell’umanità a causa di ChatGPT (ancora non hanno scoperto Claude) che, da un momento all’altro, avrebbe deciso di non rispettare più le leggi di Asimov, un pensiero si è fatto pian piano strada nella testa.
Noi (loro!!!!!) continuiamo a immaginare la conquista dell’uomo da parte dell’AI in un modo molto cinematografico. La “macchina” (che poi non so dove vedano sti robot così intelligenti) diventa cosciente, sviluppa una volontà propria, decide di dominarci o eliminarci, a seconda del mood dei suoi iperparametri, del periodo o della stagione.
E la cosa interessante è che anche una parte rilevante del dibattito sulla governance AI continua a organizzarsi attorno a narrazioni centrate soprattutto su capability e rischi emergenti [1]. Quindi non solo i pazzi paranoici!!
Però, se ci si ferma a riflettere un momento, potrebbe succedere qualcosa di molto simile, ma in modo leggermente diverso. E molto più banale. E proprio per questo molto più realistico.
IPOTESI: “on the AI-takeover through deskilling”!
L’AI non conquisterà il genere umano diventando senziente, ma lo conquisterà diventando indispensabile.
Il che è una cosa diversa. E peggiore.
Perché non servono, da parte dell’AI, né intenzione, né coscienza, né ostilità.
Serve solo che noi, poco alla volta, smettiamo di saper fare a meno.
DAL MONDO:
Se ci guardiamo un po’ intorno (anche su questo social), si nota abbastanza bene che questa cosa sta già accadendo. Anzi, ce la stanno vendendo sempre di più.
Un rapido sguardo alla letteratura ci dà qualche evidenza (non una prova, sia chiaro). O almeno qualche spunto serio di riflessione.
Tra knowledge workers, maggiore fiducia negli strumenti AI è stata associata a una riduzione dello sforzo di pensiero critico [2].
In studenti universitari, l’uso di un LLM ha ridotto il carico cognitivo percepito, ma anche la qualità del ragionamento finale [3].
Quando una pratica viene delegata (offloaded) a sistemi esterni, l’abilità di svolgerla in prima persona tende ad atrofizzarsi, spesso senza che ce ne si accorga subito [4,8].
È stato osservato anche che strumenti di sintesi e mediazione possono produrre illusioni di comprensione che sostituiscono proprio quel lavoro lento da cui nasce l’expertise [6].
(E quest’ultimo, secondo me, è un punto enorme, anche sul piano epistemico.)
Uniamo a tutto ciò la nostra natura umana. E pigra.
TEMPO T0 – IL TAKEOVER:
A questo punto, essendomi ormai convertito al complottismo, alcune cose iniziano a sembrarmi meno assurde di quanto dovrebbero.
All’inizio tutto questo, l’AI, si è presentato come comodità.
Poi ci è stato venduto come accelerazione.
Poi come supporto.
Poi come standard implicito.
Poi come condizione per reggere il ritmo.
Finché si arriva al punto in cui l’AI non sostituisce, ma rende dipendenti. E fa pure licenziare gente.
E quindi?
E quindi il punto non è che il takeover potrebbe accadere.
Il punto è che, in una certa misura, è già iniziato.
Nel momento in cui l’AI smette di essere un vantaggio e diventa una condizione, il passaggio è già avvenuto.
L’AI, cioè, potrebbe non essere più solo qualcosa che migliora il lavoro, ma qualcosa senza cui il lavoro, banalmente, non si riesce più a svolgere. O si svolge con fatica.
Vi ricorda qualcosa o qualcuno? 
E questo momento è il tempo zero.
Il momento in cui inizia davvero il takeover.
Il momento in cui veniamo conquistati.
Al tempo T0 il problema smette di essere l’AI.
Il problema diventiamo noi.
Perché mentre arriviamo a T0, nel frattempo, sono già stati spostati fuori da noi — anzi, li abbiamo buttati fuori noi — pezzi interi di competenza. Pezzi di giudizio. Pezzi di verifica. Pezzi di autonomia.
È una resa intellettuale non condizionata da parte del genere umano.
Secondo me è questo il takeover di cui dovremmo parlare.
Non la macchina che si ribella.
Ma l’essere umano che delega troppo, troppo spesso, per troppo tempo, e alla fine non è più davvero in grado di uscirne.
(Vi ricorda qualcuno???
Volendo essere più precisi, il passaggio, più o meno, è questo: adozione, offloading cognitivo, erosione della competenza, lock-in.
E a quel punto siamo fregati. E conquistati.
Perché a T0 si perde la capacità di lavorare, capire, valutare e contestare.
(Ricordate il [6]?)
Cioè si perde resilienza.
E forse il problema è persino più ampio di così.
Perché questo tipo di dipendenza non produce solo errori locali o pigrizia cognitiva. Produce una forma più generale di disempowerment, in cui capacità individuali e capacità istituzionali vengono progressivamente sostituite da infrastrutture esterne, opache, concentrate e difficili da abbandonare [9].
Se si arriva — o anche solo se c’è il rischio concreto di arrivare — al lock-in, la faccenda chiaramente non è più solo tecnologica.
Diventa politica.
Sociale.
Istituzionale.
Immaginate università, ospedali, aziende, professionisti e pubbliche amministrazioni che iniziano a funzionare solo passando da pochi sistemi opachi. E privati.
Abbiamo già degli esempi. Per fortuna alcuni miseramente naufragati.
In ambito clinico, strumenti AI stanno già entrando nei processi diagnostici, prescrittivi e organizzativi [5].
E casi come Watson for Oncology mostrano bene il rischio di investimenti pesanti in sistemi opachi, difficili da validare, contestare e integrare davvero nella pratica [7].
Per questo, secondo me, la domanda “sei pro o contro l’AI?” lascia abbastanza il tempo che trova.
È una discussione troppo povera.
La domanda vera è un’altra: stiamo costruendo un rapporto con questa tecnologia che preserva comprensione, verifica e reversibilità? Oppure stiamo solo barattando autonomia con efficienza?
Se è la seconda, allora il takeover non avverrà nel giorno in cui una macchina “deciderà” qualcosa.
Avverrà nel giorno in cui noi non saremo più in grado di dire no.
O, peggio, nel giorno in cui non saremo più in grado di funzionare senza.