Autofagia e collasso dei modelli generativi.

Da quando ChatGPT, l’interfaccia basata sui modelli GPT, è arrivato al pubblico alla fine del 2022, i Large Language Models (LLM), ovvero le macchine che apprendono una distribuzione di probabilità sulle sequenze di parole e generano le risposte stimando la continuazione più plausibile del contesto (Ferrara, 2025), sono diventati un prodotto di massa e una parte crescente del contenuto in rete è oggi generata, secondo alcune fonti (Graphite, 2025), dai modelli stessi.

Attorno alla massiccia adozione di strumenti generativi per la produzione di contenuti, siano essi immagini, testi, video o codice, si è aperto un ampio dibattito critico, il cui spettro tocca questioni teoriche e pratiche delle più varie. Vi rientrano, tra i tanti, la proprietà intellettuale dei dati di addestramento e la titolarità del contenuto prodotto dalla macchina, il costo energetico e il lavoro nascosto dietro l’annotazione dei dati, gli impatti sulle professioni creative e intellettuali. Inoltre, sul piano epistemico e informativo (entro cui rientra più propriamente il tema qui in oggetto) si discute sull’affidabilità dei contenuti, la disinformazione, la tracciabilità tra umano e sintetico e il possibile collasso dei modelli stessi se addestrati unicamente con dati sintetici.

Lungo la recente ma intensa storia dell’intelligenza artificiale le metafore hanno spesso giocato un ruolo primario nel plasmare aspettative e immaginario sul macchinico (Natale, 2022), con esiti tanto di amplificazione tecno-utopica, quanto apocalittica. Le preoccupazioni recenti sui contenuti sintetici come fonte di inquinamento, sia della sfera pubblica sia dei modelli stessi, hanno spinto verso la formulazione di metafore con una funzione decisamente critica: dall’“AI slop” (Crawford, 2025) a indicare il materiale di scarto che satura la rete, all’“Habsburg AI” che si riproduce sui propri output come la dinastia consanguinea degli Asburgo, fino all’immagine dell’Ouroboros, il serpente che si morde la coda. Alla comparsa di DeepSeek, poi, all’inizio del 2025, una parte della stampa ne ha letto l’addestramento come un caso di autofagia (metafora di un organismo che consuma le proprie parti, qui trasferita al modello che si riaddestra sui propri output), perché impostato, si supponeva, su dati prodotti da un altro LLM, indicato da molti in ChatGPT, ma senza addurre prova definitiva (Dina, 2025).

A grandi linee il dibattito si muove su due versanti. Da un lato l’effetto del contenuto sintetico sull'essere umano, sul piano sociale e politico, cognitivo e creativo, dove gli studi tentano di spiegare come l’uso dei modelli impatti sui suoi utilizzatori ed utilizzatrici. Dall’altro l’effetto, per così dire, da “dentro la macchina”, dove i modelli rischiano di degradare quando si nutrono dei propri output, problema metaforizzato con il termine sinistro di autofagia. È a questo secondo versante che il saggio maggiormente si dedica.

Userò qui gli aggettivi “interno” ed “esterno” (alla macchina) in senso decisamente liberare, per distinguere il collasso che avviene nei modelli dagli effetti sull'essere umano. Nei passaggi del suo libro sulle teorie della spiegabilità dei modelli, Ferrara (2025) adopera gli stessi termini ma in altra accezione, per distinguere i metodi che spiegano un modello dall'esterno, osservando la relazione tra ingressi e uscite senza "aprire la rete", da quelli che lo spiegano dall'interno, ispezionandone parametri e attivazioni.

Tra i problemi “macro” degli LLM (l’inaffidabilità fattuale, l’allineamento ai valori umani, il costo di calcolo e l’esaurimento del testo umano di qualità, nonché del consumo energetico e dello sfruttamento del lavoro nel sud globale ad opera delle aziende che ne commercializzano l’uso), la cosiddetta autofagia non è il più acuto, perché i modelli in uso non collassano ancora in modo visibile e la quota di testo sintetico sul web sembra aver raggiunto un plateau al 50% (Graphite, 2025). Diventa invece una questione seria nel punto in cui essa si incrocia con il cosiddetto “muro dei dati”, ovvero nell’ipotesi che lo stock di testo umano pubblico di qualità si avvicini all’esaurimento, ipotizzato dalle proiezioni di Epoch AI tra il 2026 e il 2032 (Villalobos, 2024). Dando per plausibile la predizione che il contenuto reale venga presto seppellito in rete da quello sintetico, il tema dell’autofagia diventa quindi plausibile e urgente da considerare.

Il fenomeno qui trattato viene battezzato in letteratura scientifica con più nomi. Si parla di anello auto-consumante (self-consuming loop), espressione del gruppo che ha coniato la sigla Model Autophagy Disorder (Alemohammad, 2023), e di model collapse, formula di Shumailov e colleghi (2024). Alemohammad e colleghi (2023) dimostrano, attraverso esperimenti condotti sia su immagini sia su modelli linguistici che gli errori statistici e i bias di campionamento si accumulano nel tempo, che si amplificano le deformazioni negli artefatti visivi e si riduce via via la varietà dei risultati. Gli autori identificano tre tipologie di cicli deterioranti e concludono che l’uso di dati nuovi è l’unico modo per prevenire questo degrado sistemico, e inoltre che, senza un costante apporto di informazioni umane, i modelli futuri rischiano di convergere verso distribuzioni di dati povere, ripetitive e sempre più distanti dalla realtà.

Un esempio dallo studio. Una rete addestrata a generare volti umani viene riaddestrata a ogni ciclo sui volti che essa stessa ha prodotto. Dopo alcune generazioni la qualità cede e sui volti compaiono artefatti visibili, come griglie e macchie regolari che non appartengono al viso reale. I volti diventano sempre più simili tra loro, perché il modello ripiega sul tipo più frequente nei propri dati e abbandona i tratti rari.

Arrivano alle stesse conclusioni di massima sul valore dei dati umani anche Shumailov e colleghi (2024), il cui studio conclude che l’addestramento di IA su dati sintetici crea cicli “autofagi” che portano al Model Collapse, un degrado non reversibile delle prestazioni. Ne viene la perdita degli eventi rari (le code della distribuzione) e una drastica riduzione della diversità e della precisione degli output generati. Senza dati reali, quindi, gli errori statistici e gli artefatti difettivi e distorti si accumulano a ogni generazione, portando i modelli a convergere verso realtà semplificate, erronee e ripetitive. Ad esempio, lo studio mostra come a partire da un testo coerente sull'architettura delle chiese medievali, il modello OPT 125 (una tecnologia di Meta) scivola di generazione in generazione, fino a produrre, alla nona, un elenco ripetitivo e privo di senso di varietà di lepri.

Sul fronte della ricerca italiana, uno studio dei gruppi congiunti di Università di Pisa, Scuola Normale Superiore di Pisa, CNR e Victoria University di Wellington, critica le caratterizzazioni date fino al loro intervento in letteratura e introduce le reti semantiche per mappare come i concetti e le loro relazioni cambiano. Scoprono quindi che non si manifesta solo perdita di dati, ma anche una semplificazione strutturale: il testo, ovvero, si riduce a pochissimi concetti sconnessi e perde di varietà (Gambetta et al., 2024).

La ragione del degrado di cui parlano gli studi è di ordine informativo. Se è vero, come concorda la maggior parte della letteratura scientifica, che questi sistemi accedono unicamente alla manifestazione linguistica (Ferrara, 2025), e non al mondo a cui i testi rinviano, e se il loro contatto con la realtà è quindi da considerarsi indiretto, perché passa per i dati prodotti dagli esseri umani, allora generare nuovi esempi ricampionando la distribuzione che il modello ha già appreso non introduce alcuna informazione ulteriore sul mondo. Nel caso migliore, dicono gli studi, il ciclo conserva ciò che era presente, mentre l’errore di campionamento, ripetuto a ogni generazione, tende a erodere le parti meno frequenti, quindi gli eventi rari. Per questo l’ipotesi del collasso dei modelli per autofagia, benché spesso amplificata da narrative pessimistiche o da cattive metafore del discorso pubblico, non sorprende, se è verificabile che all’interno dell’anello venga a mancare una sorgente esterna “di verità” che lo alimenti.

Per questa stessa ragione, tuttavia, la lettura del collasso dei modelli va circoscritta, perché nella sua forma più radicale riguarda soltanto i cicli chiusi, cioè quelli senza un criterio esterno che dica quali output sono corretti, in modo indipendente da ciò che il modello ha appreso. Senza questo criterio il ciclo rielabora soltanto ciò che il modello contiene già, pena la riduzione del valore informativo degli output. Due esempi al riguardo che hanno avuto molta risonanza. AlphaZero, che gioca contro sé stesso, migliora perché l’esito della partita indica quale linea fosse preferibile (Silver et al., 2018). Oppure, un modello come Deep Seek che produce matematica o codice migliora sui propri output quando un controllo automatico lavora per rinforzo (Guo at al., 2025). In questi casi conta che il controllo, automatico oppure umano che sia, venga “da fuori” del modello e sia agganciato al mondo o a un sistema formale. La tesi difendibile circa il degrado dei modelli per autofagia, quindi, non riguarda l’autoriferimento in sé, ma l’autoriferimento senza ancoraggio esterno.

La portata del collasso dei modelli resta perciò oggetto di discussione, e conviene distinguere due posizioni. La prima, propria dei lavori iniziali sopra citati, presenta il collasso come esito atteso di ogni anello puramente sintetico. La seconda, revisionista, è quella di Gerstgrasser e colleghi (2024), che portano alla luce un’assunzione degli esperimenti originari, ossia che a ogni generazione i dati nuovi sostituiscano del tutto i vecchi. Sotto questa ipotesi è dimostrato che l’errore cresce a ogni iterazione, ma se i dati si accumulano, cioè se il dato sintetico si aggiunge al dato reale senza rimpiazzarlo, gli stessi autori mostrano che l’errore resta entro un limite finito e il collasso non si verifica.

Vi è inoltre una linea di analisi critica distinta, che inquadra il degrado dei modelli secondo le cosiddette leggi di scala. Le leggi di scala sono la regolarità empirica per cui l’errore di un modello diminuisce in modo prevedibile man mano che crescono i dati di addestramento, i parametri e il calcolo, e costituiscono la base della scommessa secondo cui più dati e modelli più grandi producono prestazioni migliori. Dohmatob e colleghi (2024) studiano cosa accada a questa regolarità quando il testo sintetico entra nel corpus, e trovano che le leggi di scala si modificano. Il guadagno atteso dall’aggiunta di dati si appiattisce, la curva dell’errore peggiora a ogni generazione di addestramento sul dato sintetico, e il modello arriva a disimparare abilità che già possedeva.

Tutto il dibattito sembra concludere sul valore crescente dei dati umani genuini, che restano l’unica risorsa capace di portare nei modelli un contatto con il mondo, e con esso l’importanza della loro provenienza e della loro conservazione. Come riporta sul New York Times la giornalista esperta di AI Aitish Bathia (2024) , alcune aziende cercano una via tecnica per distinguere il contenuto umano da quello sintetico, ad esempio attraverso sistemi di filigrana che inseriscono nel testo o nell'immagine un segnale nascosto capace di segnalarne l’origine artificiale. Tuttavia, la filigrana non sempre si rileva in modo affidabile, e si aggira con facilità, perché spesso non sopravvive a operazioni semplici come la traduzione in un’altra lingua.

Si apre in conclusione una questione che, nel parere di chi scrive, eccede l’aspetto tecnico. I modelli, per costruzione, tendono verso il linguaggio più probabile, cioè verso un centro statistico che premia il già detto. Se i loro output riempiono i canali della comunicazione (Graphite, 2025), il rischio di collasso non resta confinato all’addestramento della macchina ma investe la sfera pubblica e quindi capacità stessa degli umani di produrre contenuto di qualità, laddove si profila una lenta omogeneizzazione che assottiglia la varietà dei registri linguistici (Guo et al., 2024). Il punto da indagare è se questa convergenza malevola verso il centro statistico dei registri riguardi soltanto le macchine, oppure se, attraverso i testi che ogni giorno leggiamo e imitiamo, agisca anche sulla produzione dei contenuti umani. La questione non è oziosa, considerando che Doshi e Hauser (2024), in un articolo pubblicato su Science Advances, mostrano che chi utilizza modelli generativi produce storie giudicate individualmente più creative ma collettivamente più simili tra loro; una situazione che gli stessi autori descrivono come un dilemma sociale, laddove il singolo guadagna e l’insieme perde in diversità.

Se sul piano dei dati conta che i modelli continuino ad attingere a un testo umano genuino, e che questo sia tracciato e conservato, sul piano umano conta in conclusione la capacità di non delegare completamente alla macchina la propria voce. Ed è qui che si inserisce il tema dell’alfabetizzazione all’intelligenza artificiale, che l’articolo 4 dell’AI Act europeo chiede agli operatori di promuovere, e che programmi pubblici e privati dovrebbero tradurre in pratica, affinché un uso consapevole dei modelli diventi la prima difesa contro il pericolo dell’omogeneizzazione della lingua (Ferrara, 2025).

Bibliografia

Alemohammad, S., Casco-Rodriguez, J. Luzi, L., Humayun, A.I., Babaei, H., LeJeune, D., Siahkoohi, A., & Baraniuk, R.G. (2023). Self-Consuming Generative Models Go MAD. arXiv 2023, arXiv:2307.01850.

Bhatia, A. (2024). When A.I.’s Output Is a Threat to A.I. Itself. The New York Times.

Dina, A. (2025). DeepSeek e il paradosso dell’autofagia. Rivista AI.

Dohmatob, E., Feng, Y., Yang, P., Charton, F., & Kempe, J. (2024). A Tale of Tails: Model Collapse as a Change of Scaling Laws. ICML. arXiv:2402.07043.

Doshi, A. R., & Hauser, O. P. (2024). Generative AI enhances individual creativity but reduces the collective diversity of novel content. Science Advances, 10(28).

Ferrara, A. (2025). Le macchine del linguaggio. Einaudi.

Gambetta, D., Gezici, G., Giannotti, F., Pedreschi, D., Knott, A., & Pappalardo, L. (2025). Characterizing Model Collapse in Large Language Models Using Semantic Networks and Next-Token Probability. arXiv:2410.12341.

Gerstgrasser, M., Schaeffer, R., Dey, A., Rafailov, R., et al. (2024). Is Model Collapse Inevitable? Breaking the Curse of Recursion by Accumulating Real and Synthetic Data. Conference on Language Modeling (COLM). arXiv:2404.01413.

Graphite. (2025). AI Now Writes as Many Online Articles as Humans.

Guo, D., Yang, D., Zhang, H., Song, J., et al. (2025). DeepSeek-R1: Incentivizing Reasoning Capability in LLMs via Reinforcement Learning. Nature, 645, 633–638.

Guo, Y., Shang, G., Vazirgiannis, M., & Clavel, C. (2024). The Curious Decline of Linguistic Diversity: Training Language Models on Synthetic Text. arXiv:2311.09807.

Mitchell, M. (2019). L’intelligenza artificiale. Una guida per esseri umani pensanti. Einaudi.

Natale, S. (2022). Macchine ingannevoli. Comunicazione, tecnologia, intelligenza artificiale. Einaudi.

Shumailov, I., Shumaylov, Z., Zhao, Y., Gal, Y., Papernot, N., & Anderson, R. (2024). The Curse of Recursion: Training on Generated Data Makes Models Forget. arXiv:2305.17493.

Silver, D., Hubert, T., Schrittwieser, J., Antonoglou, I., Lai, M., Guez, A., Lanctot, M., Sifre, L., et al. (2018). A General Reinforcement Learning Algorithm That Masters Chess, Shogi, and Go through Self-Play. Science, 362(6419), 1140-1144.

Villalobos, P., Ho, A., Sevilla, J., Besiroglu, T., Heim, L., & Hobbhahn, M. (2024). Will we run out of data? Limits of LLM scaling based on human-generated data. arXiv:2211.04325.