Exploras

Il quarto cerchio e la custodia dell’umano

Negli ultimi giorni mi sono trovato a collegare tra loro tre riflessioni provenienti da contesti diversi e, nello stesso tempo, sorprendentemente vicini al mio presente.

La prima nasce da un esperimento del King’s College London sui cosiddetti AI War Games, recentemente ripreso anche da Le Scienze: simulazioni strategiche e militari in cui modelli linguistici avanzati come GPT, Claude e Gemini sono stati messi di fronte a scenari di tensione, deterrenza ed escalation nucleare.

La seconda  è Magnifica Humanitas, la recente enciclica di Papa Leone XIV pubblicata il 15 maggio 2026, che affronta il rapporto tra intelligenza artificiale, dignità umana e trasformazione della società contemporanea.

La terza nasce dall’osservazione di prospettive differenti emerse in contesti professionali e aziendali, probabilmente influenzate da esperienze, sensibilità e basi culturali diverse.

In alcuni contesti l’AI viene percepita come semplice leva tecnologica, in altri come potenziale fattore dirompente dell’intera organizzazione aziendale.

A questo si aggiunge la mia esperienza personale nell’impiego dell’AI nei processi SDLC: dall’assistenza allo sviluppo software, fino al supporto nella sicurezza, nella qualità del codice e nell’interpretazione di specifiche funzionali complesse.

È probabilmente questa prospettiva privilegiata ad avermi fatto comprendere quanto stiamo ancora soltanto sfiorando il potenziale reale del quarto cerchio.

Pensare al quarto cerchio come a una semplice leva tecnologica, pur essendo in parte corretto, rischia di nascondere la profondità del cambiamento che l’AI ci porterà ad affrontare.

Perché esistono certamente contesti in cui l’AI è davvero una leva tecnologica.

• Lo è quando ottimizza una campagna marketing.
• Lo è quando migliora una classificazione documentale.
• Lo è quando velocizza un processo ripetitivo.
• Lo è quando automatizza attività circoscritte senza alterare realmente la struttura dell’organizzazione.

Ma esistono anche contesti in cui questa definizione smette improvvisamente di bastare.

Ed è esattamente lì che il tema diventa molto più profondo.

Quando l’AI smette di essere “solo tecnologia”

Se un sistema AI entra:

• nei processi decisionali
• nello sviluppo software
• nella progettazione
• nella sicurezza
• nella produzione industriale
• nella gestione operativa
• nei sistemi militari
• nella governance aziendale

allora non stiamo più parlando di semplice automazione.

Stiamo parlando di una tecnologia che entra direttamente nel sistema nervoso dell’organizzazione.

Ed è qui che, secondo me, nasce l’errore culturale più grande.

Molte organizzazioni stanno ancora affrontando l’AI come se fosse:

• un nuovo framework
• una nuova piattaforma
• un nuovo algoritmo
• un nuovo strumento di produttività

Ma il punto è che l’AI moderna, soprattutto quella agentica, non si limita a supportare il lavoro umano.

Lo ridefinisce.

Ridefinisce:

• il peso della competenza
• il valore dell’esperienza
• il rapporto tra senior e junior
• il modello organizzativo
• il concetto stesso di team
• la distribuzione del potere decisionale
• la velocità attesa
• la quantità di controllo umano considerata “necessaria”

E questo significa che il problema non è più soltanto tecnologico.

Chi lavora quotidianamente con partner non umani si accorge abbastanza rapidamente di una cosa: questi sistemi sbagliano.

E spesso lo fanno senza alcuna consapevolezza dell’errore.

Non ragionano realmente nel senso umano del termine.

Convergono verso la soluzione statisticamente più plausibile rispetto all’obiettivo assegnato, cercando il percorso più efficace nel minor tempo possibile.

Ed è proprio qui che emerge il problema.

Periodicamente mi chiedo cosa accadrà quando non esisteranno più abbastanza persone con l’esperienza necessaria per riconoscere questi scostamenti.

Perché, nella maggior parte dei casi, non stiamo parlando di errori tecnici evidenti.

Il codice prodotto è corretto.

Elegante.

Ben documentato.

Capace di superare controlli di sicurezza, verifiche statiche e metriche qualitative anche molto avanzate.

Eppure, in alcuni casi, non realizza esattamente ciò che avrebbe dovuto fare.

Lo scostamento può essere minimo.

Quasi impercettibile.

Ma sufficiente a produrre conseguenze inattese.

In fondo anche gli esseri umani operano continuamente per approssimazione.

La differenza è che questi sistemi lo fanno:

• in una frazione di secondo
• su scala enorme
• con una capacità elaborativa impossibile da seguire completamente

• Troppo veloce per consentire una valutazione umana continua.
• Troppo complesso per essere interpretato integralmente.
• Ed estremamente efficace nella maggior parte dei casi.

Ed è probabilmente proprio questa efficacia il vero elemento di rischio su cui oggi ci viene chiesto di riflettere.

Stiamo attraversando una fase intermedia estremamente seducente… e proprio per questo pericolosa.

Il cambiamento che stiamo attraversando non è più soltanto tecnologico. È antropologico.
È organizzativo.
È culturale.
Ed in alcuni casi persino geopolitico

I war game dell’AI e il problema della delega cognitiva

Gli esperimenti recenti sui Khan Game AI mi hanno colpito molto proprio per questo motivo.

Non tanto perché i modelli abbiano mostrato comportamenti “malvagi” o fantascientifici.

Ma perché dimostrano una cosa molto più concreta e probabilmente più pericolosa:

quando inseriamo sistemi AI in contesti caratterizzati da:

• pressione
• conflitto
• escalation
• incertezza
• obiettivi competitivi

questi sistemi iniziano inevitabilmente a partecipare al processo strategico.

Non sono più semplici strumenti.

Diventano attori dell’ecosistema decisionale.

Ed è qui che emerge il vero punto: molti sistemi AI non comprendono il significato umano delle conseguenze delle proprie azioni.

Ottimizzano.
Correlano.
Stimano probabilità.
Massimizzano obiettivi.

Il fatto è che gli esseri umani non vivono dentro funzioni obiettivo.

Vivono dentro sistemi culturali, etici, sociali e relazionali estremamente più complessi.

Ed è proprio questa distanza che rende pericoloso pensare all’AI come a una semplice estensione neutrale dell’informatica tradizionale.

---