La notizia
Il 2 novembre 2026 Anthropic, l'azienda che sviluppa i modelli Claude, ha depositato alla SEC, l'autorità che vigila sulla borsa americana, una versione aggiornata del suo S-1. È il documento che un'azienda presenta prima di quotarsi in borsa. Fra i fattori di rischio c'è un passaggio insolito: secondo le stime interne e le attese sui modelli futuri, l'azienda potrebbe raggiungere «a breve» (imminently) la soglia che la sua politica di sicurezza chiama «progresso drasticamente accelerato attribuibile all'IA».
Nello stesso documento l'azienda precisa che nessuno dei modelli attuali ha superato quella soglia e che i dati sono ancora in valutazione. Aggiunge che usare l'IA per costruire IA più capaci «potrebbe anche comportare un considerevole rischio per la sicurezza», soprattutto se fa accelerare di colpo il ritmo dei progressi.
Cos'è l'auto-miglioramento ricorsivo
Oggi un modello di IA lo costruiscono le persone, con anni di ricerca, prove ed errori. Però i modelli scrivono già codice e fanno esperimenti, e le aziende li usano per lavorare ai modelli successivi. In un saggio di giugno Anthropic scrive che a maggio 2026 oltre l'80% del codice entrato nei suoi programmi era stato scritto da Claude.
L'auto-miglioramento ricorsivo (in inglese recursive self-improvement, RSI) è il passo successivo. Un modello aiuta a costruirne uno migliore, quello migliore ne costruisce uno ancora migliore, e così via. «Ricorsivo» vuol dire proprio questo: il risultato di un giro diventa lo strumento del giro dopo.
Perché preoccupa
Se ogni giro è più veloce del precedente, il progresso accelera. Il timore è che le persone abbiano sempre meno tempo per capire cosa sanno fare i nuovi modelli e se sono sicuri, prima che arrivi il successivo.
C'è anche un problema di misura, e il documento lo ammette. Gran parte degli indizi sul ritmo dei progressi arriva in ritardo: l'azienda scrive che in passato non si è accorta di un'accelerazione importante finché non era già avvenuta, e che potrebbe succedere di nuovo.
I dubbi
Non tutti la leggono come un allarme. Un S-1 serve a informare gli investitori, ma gli scettici fanno notare che è anche uno strumento per presentarsi al mercato. Dire che i propri modelli sono così avanti da accelerare la costruzione dei successivi è anche un modo di mostrarsi in testa alla corsa, pochi mesi prima di quotarsi.
Poi c'è quello che la stessa azienda aveva scritto mesi prima. In un saggio pubblicato a giugno, «When AI builds itself», si legge: «We are not there yet, and recursive self-improvement is not inevitable». Cioè: non ci siamo ancora, e l'auto-miglioramento ricorsivo non è inevitabile. Nel nuovo documento l'azienda dice anche di stare valutando modifiche alla sua politica di sicurezza per lasciare le persone al controllo.
In sintesi
- La notizia: un'azienda di IA ha scritto ai futuri investitori che potrebbe presto raggiungere la soglia del progresso «drasticamente accelerato» dall'IA. Nessun modello attuale l'ha superata.
- Il concetto: l'auto-miglioramento ricorsivo è l'IA che aiuta a costruire la prossima IA, in giri sempre più veloci.
- Il timore: giri più veloci lasciano meno tempo per i controlli.
- I dubbi: è anche un buon argomento di vendita, e pochi mesi fa la stessa azienda scriveva che non è inevitabile.
Non è fantascienza, e non è ancora qui. È la cosa da tenere d'occhio nei prossimi mesi.
Fonti
- Anthropic, PBC, modulo S-1/A depositato alla SEC, 2 novembre 2026, sezione Risk Factors (in inglese).
- Marina Favaro e Jack Clark, When AI builds itself, The Anthropic Institute, giugno 2026, aggiornato il 18 settembre 2026 (in inglese).
- TechCrunch, Anthropic warns that it's very close to RSI capability, aka self-building AI, 2 novembre 2026, con il punto di vista degli scettici (in inglese).
- Fortune, l'articolo sul saggio di giugno, 5 giugno 2026 (in inglese).
Noodle, l'app che ospita questo blog, si può collegare anche a Claude di Anthropic. Per questo, quando si parla di Anthropic, citiamo i testi originali e diamo spazio ai dubbi.
Trascrizione del video
Un'azienda di intelligenza artificiale ha scritto ai suoi futuri investitori una frase che fa pensare. La sua IA potrebbe presto aiutare a costruire la prossima IA. Si chiama auto-miglioramento ricorsivo. Vediamo cosa vuol dire. Oggi un modello di IA lo costruiscono le persone: anni di ricerca, prove, errori. Ma le IA ormai scrivono codice e fanno esperimenti. Cosa succede se le mettiamo a lavorare su sé stesse? L'IA aiuta a costruire una versione migliore. Quella più brava ne costruisce una ancora migliore. E così via. E ogni giro è più veloce del precedente. Perché preoccupa? Perché se i giri accelerano, le persone hanno sempre meno tempo per controllare cosa sta succedendo. Però attenzione: non tutti ci credono. Per i critici, dire agli investitori che la tua IA è così potente da costruirsi da sola è anche un ottimo modo per vendere. E la stessa azienda, qualche mese fa, scriveva che non è inevitabile. Quindi: non è fantascienza, e non è ancora qui. È la cosa da tenere d'occhio nei prossimi mesi.
