Anthropic riapre il dibattito sull’intelligenza artificiale capace di migliorarsi da sola, un tema che nel 2026 divide tra grandi promesse e timori molto concreti.
La società statunitense che sviluppa Claude ha affrontato il tema con un intervento firmato da Marina Favaro, responsabile dell’Anthropic Institute, e dal cofondatore Jack Clark. Al centro ci sono le possibili ricadute positive per scienza e sanità, ma anche una preoccupazione difficile da ignorare: sistemi AI sempre più autonomi potrebbero diventare complicati da controllare, spostando il confine tra progresso tecnologico e supervisione umana.
Che cosa significa davvero “auto-miglioramento ricorsivo” nei sistemi AI
Nel lessico di Anthropic, “full recursive self-improvement” vuol dire una cosa precisa: sistemi di intelligenza artificiale capaci di contribuire al proprio sviluppo. Scrivere codice, correggere errori, progettare versioni più avanzate, oppure aiutare gli ingegneri a farlo più in fretta. Non parliamo più solo di un programma che riceve un comando e risponde. Qui l’idea è un’altra: un modello come Claude potrebbe entrare nella costruzione dei suoi successori, lasciando agli esseri umani meno passaggi decisivi.
Favaro e Clark sostengono che questa strada possa portare benefici alla ricerca scientifica e alla sanità, dove strumenti più potenti aiuterebbero a leggere dati complessi, mettere alla prova ipotesi e accorciare lavori oggi molto lunghi. Ma la domanda resta lì: chi decide che cosa sia davvero un miglioramento? Un codice più rapido non è per forza un sistema più sicuro. E se una macchina comincia a migliorare sé stessa, anche un errore piccolo può correre molto veloce.
Il rischio controllo: sicurezza, monitoraggio e decisioni senza supervisione umana
Nel loro intervento, i due dirigenti di Anthropic riconoscono che l’auto-miglioramento ricorsivo può aumentare il rischio di una perdita di controllo da parte degli esseri umani. Il tono è prudente, ma il punto è netto: se i sistemi arrivano a costruire i propri successori, diventano decisive la sicurezza, il controllo continuo e la capacità di indirizzarne il comportamento. “Le modalità con cui li proteggiamo e li controlliamo diventano molto più importanti”, hanno scritto Favaro e Clark.
Una frase che non passa inosservata, anche perché arriva da una delle aziende più in vista nello sviluppo dell’AI generativa. Il problema non riguarda solo scenari da film, con macchine fuori controllo. Tocca scelte molto concrete: quali dati si usano, quali obiettivi si premiano, quali limiti si fissano e chi li decide. Nei sistemi che imparano anche da contenuti prodotti da altri sistemi, poi, c’è un altro rischio: il calo della qualità. Testi, immagini o codice generati e poi riusati come materiale di partenza possono portare dentro errori e distorsioni difficili da vedere. Prima sono crepe. Poi diventano struttura.
Produttività, lavoro e pensiero critico: chi paga il prezzo dell’efficienza automatizzata
Anthropic rivendica anche un forte aumento della produttività nello sviluppo software. Secondo quanto riportato nel blog aziendale, i suoi ingegneri oggi produrrebbero molto più codice per trimestre rispetto al periodo 2021-2025, con Claude coinvolto in una parte importante della base di codice interna.
È il dato che molte aziende guardano con attenzione: meno tempo, più risultati. Ma resta la domanda più scomoda: a chi va davvero il vantaggio? Negli Stati Uniti, secondo i dati citati da Challenger, Gray & Christmas in diversi rapporti sul mercato del lavoro, l’intelligenza artificiale è stata indicata da alcune imprese come motivo di tagli o riorganizzazioni. Non sempre è la causa principale, certo. Ma compare sempre più spesso nelle comunicazioni interne, nei piani industriali, nelle decisioni sui budget.
Accanto al lavoro c’è poi il nodo del pensiero critico. Eric So, docente alla MIT Sloan School of Management, ha osservato che affidare troppe attività agli strumenti AI può indebolire l’abitudine a ragionare, perché pezzi del processo mentale finiscono fuori dalla testa di chi lavora o studia. È comodo. Forse troppo. La promessa dell’efficienza, se non viene governata, rischia di lasciare meno spazio alla competenza, alla responsabilità e anche a quella fatica imperfetta da cui spesso nascono le idee migliori.
