![\"\ud83e\udd23\"](\"https:\/\/s.w.org\/images\/core\/emoji\/17.0.2\/svg\/1f923.svg\")
<\/p>\n\n\n\nMa l\u2019AI conquister\u00e0 il genere umano?<\/p>\n\n\n\n
(Spoiler: se continua cos\u00ec l\u2019andazzo, s\u00ec. A breve pure!)<\/p>\n\n\n\n
Altra domanda: ma voi siete pro o contro l\u2019AI ovunque?<\/p>\n\n\n\n
ANTEFATTO:<\/p>\n\n\n\n
Ritrovarsi a discutere con un complottista che crede fermamente nei rettiliani, nella Terra piatta e soprattutto ad \u201cApollo, credici\u201d ha i suoi vantaggi.<\/p>\n\n\n\n
Oggi \u00e8 stato il turno di Skynet e Terminator.<\/p>\n\n\n\n
Mentre mi veniva prospettata la fine dell\u2019umanit\u00e0 a causa di ChatGPT (ancora non hanno scoperto Claude) che, da un momento all\u2019altro, avrebbe deciso di non rispettare pi\u00f9 le leggi di Asimov, un pensiero si \u00e8 fatto pian piano strada nella testa.<\/p>\n\n\n\n
Noi (loro!!!!!) continuiamo a immaginare la conquista dell\u2019uomo da parte dell\u2019AI in un modo molto cinematografico. La \u201cmacchina\u201d (che poi non so dove vedano sti robot cos\u00ec intelligenti) diventa cosciente, sviluppa una volont\u00e0 propria, decide di dominarci o eliminarci, a seconda del mood dei suoi iperparametri, del periodo o della stagione.<\/p>\n\n\n\n
E la cosa interessante \u00e8 che anche una parte rilevante del dibattito sulla governance AI continua a organizzarsi attorno a narrazioni centrate soprattutto su capability e rischi emergenti [1]. Quindi non solo i pazzi paranoici!!<\/p>\n\n\n\n
Per\u00f2, se ci si ferma a riflettere un momento, potrebbe succedere qualcosa di molto simile, ma in modo leggermente diverso. E molto pi\u00f9 banale. E proprio per questo molto pi\u00f9 realistico.<\/p>\n\n\n\n
IPOTESI: \u201con the AI-takeover through deskilling\u201d!<\/p>\n\n\n\n
L\u2019AI non conquister\u00e0 il genere umano diventando senziente, ma lo conquister\u00e0 diventando indispensabile.<\/p>\n\n\n\n
Il che \u00e8 una cosa diversa. E peggiore.<\/p>\n\n\n\n
Perch\u00e9 non servono, da parte dell\u2019AI, n\u00e9 intenzione, n\u00e9 coscienza, n\u00e9 ostilit\u00e0.<\/p>\n\n\n\n
Serve solo che noi, poco alla volta, smettiamo di saper fare a meno.<\/p>\n\n\n\n
DAL MONDO:<\/p>\n\n\n\n
Se ci guardiamo un po\u2019 intorno (anche su questo social), si nota abbastanza bene che questa cosa sta gi\u00e0 accadendo. Anzi, ce la stanno vendendo sempre di pi\u00f9.<\/p>\n\n\n\n
Un rapido sguardo alla letteratura ci d\u00e0 qualche evidenza (non una prova, sia chiaro). O almeno qualche spunto serio di riflessione.<\/p>\n\n\n\n
Tra knowledge workers, maggiore fiducia negli strumenti AI \u00e8 stata associata a una riduzione dello sforzo di pensiero critico [2].<\/p>\n\n\n\n
In studenti universitari, l\u2019uso di un LLM ha ridotto il carico cognitivo percepito, ma anche la qualit\u00e0 del ragionamento finale [3].<\/p>\n\n\n\n
Quando una pratica viene delegata (offloaded) a sistemi esterni, l\u2019abilit\u00e0 di svolgerla in prima persona tende ad atrofizzarsi, spesso senza che ce ne si accorga subito [4,8].<\/p>\n\n\n\n
\u00c8 stato osservato anche che strumenti di sintesi e mediazione possono produrre illusioni di comprensione che sostituiscono proprio quel lavoro lento da cui nasce l\u2019expertise [6].<\/p>\n\n\n\n
(E quest\u2019ultimo, secondo me, \u00e8 un punto enorme, anche sul piano epistemico.)<\/p>\n\n\n\n
Uniamo a tutto ci\u00f2 la nostra natura umana. E pigra.<\/p>\n\n\n\n
TEMPO T0 \u2013 IL TAKEOVER:<\/p>\n\n\n\n
A questo punto, essendomi ormai convertito al complottismo, alcune cose iniziano a sembrarmi meno assurde di quanto dovrebbero.<\/p>\n\n\n\n
All\u2019inizio tutto questo, l\u2019AI, si \u00e8 presentato come comodit\u00e0.<\/p>\n\n\n\n
Poi ci \u00e8 stato venduto come accelerazione.<\/p>\n\n\n\n
Poi come supporto.<\/p>\n\n\n\n
Poi come standard implicito.<\/p>\n\n\n\n
Poi come condizione per reggere il ritmo.<\/p>\n\n\n\n
Finch\u00e9 si arriva al punto in cui l\u2019AI non sostituisce, ma rende dipendenti. E fa pure licenziare gente.<\/p>\n\n\n\n
E quindi?<\/p>\n\n\n\n
E quindi il punto non \u00e8 che il takeover potrebbe accadere.<\/p>\n\n\n\n
Il punto \u00e8 che, in una certa misura, \u00e8 gi\u00e0 iniziato.<\/p>\n\n\n\n
Nel momento in cui l\u2019AI smette di essere un vantaggio e diventa una condizione, il passaggio \u00e8 gi\u00e0 avvenuto.<\/p>\n\n\n\n
L\u2019AI, cio\u00e8, potrebbe non essere pi\u00f9 solo qualcosa che migliora il lavoro, ma qualcosa senza cui il lavoro, banalmente, non si riesce pi\u00f9 a svolgere. O si svolge con fatica.<\/p>\n\n\n\n
Vi ricorda qualcosa o qualcuno? <\/p>\n\n\n\n
E questo momento \u00e8 il tempo zero.<\/p>\n\n\n\n
Il momento in cui inizia davvero il takeover.<\/p>\n\n\n\n
Il momento in cui veniamo conquistati.<\/p>\n\n\n\n
Al tempo T0 il problema smette di essere l\u2019AI.<\/p>\n\n\n\n
Il problema diventiamo noi.<\/p>\n\n\n\n
Perch\u00e9 mentre arriviamo a T0, nel frattempo, sono gi\u00e0 stati spostati fuori da noi \u2014 anzi, li abbiamo buttati fuori noi \u2014 pezzi interi di competenza. Pezzi di giudizio. Pezzi di verifica. Pezzi di autonomia.<\/p>\n\n\n\n
\u00c8 una resa intellettuale non condizionata da parte del genere umano.<\/p>\n\n\n\n
Secondo me \u00e8 questo il takeover di cui dovremmo parlare.<\/p>\n\n\n\n
Non la macchina che si ribella.<\/p>\n\n\n\n
Ma l\u2019essere umano che delega troppo, troppo spesso, per troppo tempo, e alla fine non \u00e8 pi\u00f9 davvero in grado di uscirne.<\/p>\n\n\n\n
(Vi ricorda qualcuno??? )<\/p>\n\n\n\n
Volendo essere pi\u00f9 precisi, il passaggio, pi\u00f9 o meno, \u00e8 questo: adozione, offloading cognitivo, erosione della competenza, lock-in.<\/p>\n\n\n\n
E a quel punto siamo fregati. E conquistati.<\/p>\n\n\n\n
Perch\u00e9 a T0 si perde la capacit\u00e0 di lavorare, capire, valutare e contestare.<\/p>\n\n\n\n
(Ricordate il [6]?)<\/p>\n\n\n\n
Cio\u00e8 si perde resilienza.<\/p>\n\n\n\n
E forse il problema \u00e8 persino pi\u00f9 ampio di cos\u00ec.<\/p>\n\n\n\n
Perch\u00e9 questo tipo di dipendenza non produce solo errori locali o pigrizia cognitiva. Produce una forma pi\u00f9 generale di disempowerment, in cui capacit\u00e0 individuali e capacit\u00e0 istituzionali vengono progressivamente sostituite da infrastrutture esterne, opache, concentrate e difficili da abbandonare [9].<\/p>\n\n\n\n
Se si arriva \u2014 o anche solo se c\u2019\u00e8 il rischio concreto di arrivare \u2014 al lock-in, la faccenda chiaramente non \u00e8 pi\u00f9 solo tecnologica.<\/p>\n\n\n\n
Diventa politica.<\/p>\n\n\n\n
Sociale.<\/p>\n\n\n\n
Istituzionale.<\/p>\n\n\n\n
Immaginate universit\u00e0, ospedali, aziende, professionisti e pubbliche amministrazioni che iniziano a funzionare solo passando da pochi sistemi opachi. E privati.<\/p>\n\n\n\n
Abbiamo gi\u00e0 degli esempi. Per fortuna alcuni miseramente naufragati.<\/p>\n\n\n\n
In ambito clinico, strumenti AI stanno gi\u00e0 entrando nei processi diagnostici, prescrittivi e organizzativi [5].<\/p>\n\n\n\n
E casi come Watson for Oncology mostrano bene il rischio di investimenti pesanti in sistemi opachi, difficili da validare, contestare e integrare davvero nella pratica [7].<\/p>\n\n\n\n
Per questo, secondo me, la domanda \u201csei pro o contro l\u2019AI?\u201d lascia abbastanza il tempo che trova.<\/p>\n\n\n\n
\u00c8 una discussione troppo povera.<\/p>\n\n\n\n
La domanda vera \u00e8 un\u2019altra: stiamo costruendo un rapporto con questa tecnologia che preserva comprensione, verifica e reversibilit\u00e0? Oppure stiamo solo barattando autonomia con efficienza?<\/p>\n\n\n\n
Se \u00e8 la seconda, allora il takeover non avverr\u00e0 nel giorno in cui una macchina \u201cdecider\u00e0\u201d qualcosa.<\/p>\n\n\n\n
Avverr\u00e0 nel giorno in cui noi non saremo pi\u00f9 in grado di dire no.<\/p>\n\n\n\n
O, peggio, nel giorno in cui non saremo pi\u00f9 in grado di funzionare senza.<\/p>\n\n\n\n
<\/p>\n","protected":false},"excerpt":{"rendered":"