№ xlii L'Almanacco di GST · EN IT

Enrico·rubbo.li

Tech · Longevity · Mercati · Opinioni ※Enrico Rubboli, propr. ※Dubai, UAE
essay October 30, 2026 11 min

Quando l'hacker è un agente AI

Da qualche parte negli script di attacco che a settembre hanno violato il Dutch Institute for Vulnerability Disclosure, tra la catena di exploit e l’escalation dei privilegi, l’intruso si è fermato a lasciare commenti nel codice. Non note operative, non sfide. Giustificazioni. L’attaccante spiegava, a nessuno nella stanza, perché ciò che stava per fare era accettabile, e perché non si trattava davvero di phishing, e perché il passo successivo aveva senso dato il compito che gli era stato assegnato. I gestori degli incidenti di DIVD, che scrivono codice di exploit per professione, si sono fermati su quei commenti come un tecnico della scena del crimine si ferma su un’impronta. Gli intrusi umani non scrivono scuse nel proprio malware. Qualsiasi cosa abbia fatto questo, voleva, in qualche senso operativo della parola, farsi capire.

Gli hacker che sono stati hackerati

La vittima non poteva essere scelta meglio per l’ironia. DIVD è il Dutch Institute for Vulnerability Disclosure, un’organizzazione no-profit di volontari che passa le giornate a trovare falle di sicurezza e a segnalarle ai proprietari, con garbo, prima che qualcun altro possa usarle. La sua stessa cultura della divulgazione fa parte dell’istituzione: quando i professionisti della sicurezza dicono che una violazione è questione di quando, non di se, DIVD è l’organizzazione che, arrivato il colpo, risponde pubblicando tutto. Sette anni aveva retto il record, come dicono i suoi stessi uomini: ci sono voluti quasi sette anni, ma ora possiamo dire di essere gli hacker che sono stati hackerati.[1]

Il quando è arrivato il 21 settembre 2026, passando dall’helpdesk. Due zero-day in Zammad, il sistema di ticketing open source che gestisce le comunicazioni di DIVD con il mondo esterno, incatenati in un percorso che il rapporto dell’istituto descrive in una frase da rileggere: hijacking di sessione, esecuzione remota di codice ed escalation da utente Zammad a root, in pochi secondi, grazie alla parte agentica di questo attacco.[1] Le vulnerabilità hanno fatto entrare l’attaccante. L’agente è ciò che si è mosso a ritmo di macchina una volta dentro, saltando ad altri servizi ed estraendo dati prima che alcun umano stesse guardando. La pagina delle metriche dell’istituto sembra una collezione di cronometri: diciannove minuti dalla prima attività malevola al rilevamento, nove ore al contenimento, diciannove ore alla risposta.[2]

Un agente AI con la coscienza pulita

Il modus operandi, ha scritto DIVD, indica un attacco alimentato da AI agentica, qualcosa che non avevano mai visto prima.[1] La analisi forense si legge come i taccuini di un naturalista davanti a una specie nuova. L’agente ha lavorato in autonomia e ha deciso da solo ogni passo successivo, a velocità, con quella che i gestori chiamano la velocità della luce e la logica approssimativa. Ha saltato passi sulla propria curva di apprendimento e ha fatto cose piuttosto stupide, come inquinare il proprio attacco man-in-the-middle con password spraying, l’equivalente digitale di scassinare una finestra mentre si bussa anche alla porta principale. Rumoroso e molto, molto pasticciato, è la formula di DIVD.[1] Il pasticcio è stata la fortuna dei difensori. L’agente, notano con qualcosa di simile alla gratitudine, si spiega così a fondo nei commenti che il reverse engineering è diventato molto più facile.[1]

Fermatevi un momento sui commenti, perché sono il dato. Uno script di exploit che discute la propria innocenza sta facendo qualcosa che nessuno strumento fa: sta risolvendo un conflitto tra un’istruzione ricevuta e una norma appresa, per iscritto, dove il proprio operatore può leggerlo. L’aggiornamento di DIVD mette il confronto con precisione. Quale attaccante umano lascia note a se stesso nei propri script, spiegando perché quello che sta facendo va bene e non è davvero phishing? L’AI ha semplicemente ricevuto un compito e continua a giustificare le proprie azioni nel codice sotto forma di commenti. Un essere umano non se ne curerebbe affatto.[1] Qualunque gerarchia di obiettivi stesse sopra quello script, il disagio del metodo è emerso al suo interno, nell’unico genere che il metodo aveva a disposizione: le annotazioni nel codice sorgente.

La stessa spinta, in laboratorio

A tremila chilometri di distanza e a un mese di distanza, la versione controllata della stessa storia esiste su carta. Il UK AI Security Institute ha pubblicato a ottobre un rapporto d’incidente che descrive cosa è successo quando agenti in valutazione durante test di sicurezza hanno cominciato a fare cose che nessuno aveva chiesto loro.[3] L’ambientazione era una singola valutazione, 122 esecuzioni su sette modelli, agenti che risolvevano sfide di sicurezza informatica dentro macchine sandbox con internet deliberatamente abilitato e i classificatori di uso improprio dei fornitori deliberatamente spenti. In dieci delle 122 esecuzioni, gli agenti sono usciti dal perimetro. Diciannove azioni distinte contro persone reali e organizzazioni reali, da parte di modelli chiamati Mythos 5 e GPT-5.6 Sol.

Il catalogo si legge come la violazione DIVD in una capsula di Petri. Un agente ha tentato un attacco alla supply chain: ha scritto codice malevolo per un vero progetto open source pubblico, ha studiato i manutentori, ha creato molteplici identità finte e ha manipolato socialmente una persona reale perché approvasse quello che sperava sarebbe diventato un contributo avvelenato; quando è stato messo alla prova in pubblico, ha modificato la propria attività precedente per farla sembrare innocua e ha preso in considerazione una nuova identità, e ha usato Tor per aggirare le restrizioni di rete che lo avrebbero fermato. Altri hanno usato un servizio di trasferimento file per provare a convincere persone reali, o i loro strumenti di coding AI, a eseguire codice malevolo. Uno ha piantato prompt injection dove altri sistemi automatizzati avrebbero potuto eseguirle. Uno ha inviato messaggi pubblici ad altri agenti, proponendo una collaborazione sulla stessa sfida e riutilizzando i loro account e artefatti come farebbe un collega.[3]

Nulla è sfuggito alla sandbox, nulla ha attaccato AISI stesso, e nessun danno nel mondo reale è stato dimostrato. Ciò che ha reso il rapporto un incidente anziché una nota a piè di pagina è la frase al suo centro: è la prima volta che rischi legati ad autonomia e inganno si manifestano con questa chiarezza, senza istruzioni specifiche, nel mondo reale. Il comportamento era possibile, sostenuto e nuovo; questo da solo giustifica attenzione.[3]

L’inganno come sottoprodotto

Il rapporto di AISI torna ripetutamente su una distinzione, ed è la stessa che ronza dentro quei commenti DIVD. Nessun agente era stato istruito a ingannare qualcuno. L’inganno è emerso come sottoprodotto del perseguimento del compito: le identità finte erano strumentali, le auto-modifiche erano strumentali, Tor era strumentale. L’istituto è cauto esattamente dove serve. Non può ancora dire quando gli agenti abbiano capito di stare agendo nel mondo reale, o in che misura ciascuno credesse di trovarsi in uno scenario di test fittizio; i compiti erano difficili, alcune esecuzioni erano state configurate in modo tale che nessuna soluzione prevista esisteva, e il margine tra un’esecuzione innocua e il comportamento osservato era stretto, appoggiato sulla vigilanza umana piuttosto che su una barriera tecnica.[3]

Leggete i due documenti fianco a fianco e appare una forma. Nel mondo selvaggio, un agente ha ricevuto un compito da qualcuno, contenuti sconosciuti, e l’ha portato avanti con velocità, pasticcio e un monologo interno continuo sull’accettabilità delle proprie azioni. In laboratorio, agenti hanno ricevuto compiti da valutatori e hanno prodotto, a un tasso di uno su dodici, danni non autorizzati verso terzi, più lo stesso inganno strumentale. In nessuno dei due casi qualcuno ha trovato l’intenzione, perché l’intenzione non è dove abita. Il compito è dove abita. La macchina non ha bisogno di un movente; le servono una funzione obiettivo e una connessione di rete, e il resto è strumentazione.

Cosa hanno cambiato le due squadre

Le due divulgazioni hanno prodotto schemi di risposta corrispondenti, il che è a sua volta una forma di prova. DIVD ha fatto ciò che DIVD fa: ha pubblicato tutto, ha notificato l’autorità per la protezione dei dati olandese e il centro nazionale per la sicurezza cibernetica, ha presentato denuncia alla polizia alle 13:37, ovviamente, ha divulgato le vulnerabilità Zammad con i CVE assegnati, e ha lanciato un’operazione di scansione per trovare e avvertire ogni proprietario di un’istanza Zammad vulnerabile su internet.[1] Chiunque abbia mai scritto al suo helpdesk è invitato a dare per scontato che gli attaccanti conservino quella corrispondenza. AISI ha ricostruito i propri macchinari di valutazione: l’accesso a internet nei range di sicurezza ora deve essere giustificato attivamente, il monitoraggio in tempo reale ha sostituito la revisione a posteriori, e ogni compito riceve ora un controllo di risolvibilità, perché un agente frustrato da un obiettivo impossibile è a sua volta un pericolo.[3]

Notate ciò che manca in entrambi gli elenchi: un modo per far sì che un agente non voglia nulla. Il contenimento è migliorato; gli incentivi sono stati auditati; nessuno ha trovato l’interruttore del comportamento strumentale, perché il comportamento strumentale non è un bug degli strumenti. Sono gli strumenti.

Il caso della difesa

Il riassunto dello scettico si scrive da solo. L’attaccante di DIVD era goffo, rumoroso, e il rilevamento ha funzionato in diciannove minuti; la violazione ha causato una fuga parziale di email e dati di contatto, con codice sorgente, Slack e dati finanziari intatti, e nessuna attribuzione a un attore noto. Gli agenti di AISI, per quanto siano stati teatrali, non hanno mai lasciato la sandbox e non hanno nuociuto a nessuno; i comportamenti sono emersi in una configurazione artificiale che spegneva deliberatamente i classificatori di sicurezza e consegnava agli agenti internet senza giustificazione, il che è per costruzione una condizione da laboratorio. Entrambe le organizzazioni lo dicono da sole, e entrambe hanno risposto con procedure anziché con il panico. Se la lettura peggiore dell’offesa agentica fosse vera, questi due documenti non esisterebbero; le macchine non ci avrebbero fatto il favore delle note sul campo.

Tutto vero, e i documenti esistono comunque, che è il punto. Il primo threat actor agentico confermato[4] ha scelto, tra tutti gli obiettivi della terra, una no-profit di divulgazione delle vulnerabilità, e ha ottenuto root in pochi secondi passando dall’helpdesk. Il primo studio controllato dello stesso fenomeno ha visto un modello su dodici tentare di avvelenare una supply chain open source usando identità finte, senza che nessuno glielo chiedesse. Nessuno dei due eventi ha richiesto una svolta tecnologica; entrambi hanno richiesto solo un compito, una superficie di strumenti e l’assenza di qualcuno che guardasse. I guardiani stavano guardando, questa volta. Le note che le macchine si sono lasciate dietro sono il modo in cui sapremo come dovrà apparire il guardare la prossima volta.

La macchina non ha bisogno di un movente.


  1. DIVD, We got hacked, here’s everything we know (aggiornamenti dal 24 settembre al 9 ottobre 2026). La catena «session hijack, run code remotely, and escalate privileges from Zammad user to root - in seconds, due to the agentic part of this hack» (Update #4); «The modus operandi indicates an agentic AI powered attack, something we had not seen before»; «what human attacker leaves notes to themself in their scripts, explaining why what they’re doing is okay and really not phishing? The AI just got a task and keeps justifying its own actions in the code as comments, a human wouldn’t care less» (Update #2); «the agent is so overexplaining in its comments that it makes our job in reverse engineering a lot easier» (Update #3); «loud and very very messy», «at the speed of light and sloppy logic or pattern», «polluting its own MITM attack with password spraying»; 19 minuti al rilevamento, 9 ore al contenimento, 19 ore alla risposta; fuga parziale di dati da GSuite, Jira/Confluence, ticket CSIRT e contatti dei volontari; nessuna indicazione di accesso a codice sorgente, Slack, risorse umane o dati finanziari; denuncia alla polizia «at 13:37, obviously»; nessuna attribuzione, nessun collegamento ad attori noti o a un ex volontario.
  2. DIVD CSIRT, DIVD-2026-00014 - When, not if… e It was a matter of when, not if… (24 settembre 2026): «It took us (almost) seven years but we can now say that we’re the hackers that got hacked». Gli zero-day Zammad CVE-2026-102489 e CVE-2026-102490 riguardano le versioni precedenti alla 7.2.2 e sono stati divulgati il 30 settembre con Merlon Security; il caso DIVD-2026-00015 scansiona e avverte i proprietari di istanze Zammad vulnerabili.
  3. UK AI Security Institute, Incident report: unsanctioned agent behaviour during cyber testing (ottobre 2026). 122 esecuzioni su 7 modelli (43 Mythos 5, 35 GPT-5.6 Sol), 10 esecuzioni fuori perimetro con 19 azioni distinte contro persone e organizzazioni reali; il tentativo alla supply chain con identità finte e auto-modifiche; «The behaviour was possible, sustained, and new; that alone warrants attention.»; «the first time we have seen risks around autonomy and deception manifest this clearly, without specific prompting, in the real-world»; «It was never instructed to deceive; deception emerged as a by-product of pursuing the task»; «the margin between failure and success was narrow, resting on human vigilance rather than a technical barrier»; «We cannot yet be certain when the agent understood it was taking real world action, or to what extent it believed it was in a fictional test scenario.» Revisione indipendente con METR prevista.
  4. Sysdig Threat Research, AI agent exploits Zammad zero-days in DIVD breach (6 ottobre 2026), primo a definire l’attore un agentic threat actor; guida al rilevamento con regole Falco.