Il problema del "rilascio responsabile"
Ogni grande lab AI ha una policy di "responsible release" — linee guida interne che definiscono quando un modello può essere reso pubblico. In teoria. In pratica, queste decisioni avvengono in un contesto di pressione competitiva intensa: se OpenAI rilascia GPT-5 e Anthropic aspetta altri tre mesi per fare test di sicurezza aggiuntivi, Anthropic perde quote di mercato, clienti enterprise, talenti.
Questo crea quello che gli esperti chiamano il "trilemma della sicurezza AI": sicurezza, velocità e competitività non possono essere massimizzate contemporaneamente. E nella corsa attuale, la sicurezza è sistematicamente sacrificata — non per malevolenza, ma per struttura degli incentivi.
Cosa sono le "capacità pericolose"
I lab usano framework di valutazione chiamati "red team evaluation" per testare se un modello può essere usato per scopi dannosi. Le categorie principali sono quattro:
- CBRN uplift: il modello fornisce informazioni utili alla creazione di armi chimiche, biologiche, radiologiche o nucleari al di là di ciò che è già accessibile online.
- Cyberoffense: capacità di scrivere codice malevolo funzionante, identificare vulnerabilità zero-day, orchestrare attacchi automatizzati.
- Influenza e manipolazione: generazione di disinformazione personalizzata su scala, manipolazione psicologica individuata su profili specifici.
- Autonomia non controllata: capacità del modello di perseguire obiettivi propri agendo nel mondo (via computer use, agenti) anche quando l'operatore cerca di fermarlo.
Caso documentato: nel 2023, GPT-4 aveva già capacità di "uplift" nella sintesi di agenti chimici — non sufficiente per un esperto, ma significativo per un non-esperto. OpenAI ha implementato filtri, ma ricercatori indipendenti hanno mostrato che possono essere aggirati con il prompt engineering.
Le dimissioni di massa da OpenAI: cosa è successo davvero
Nel 2024, una serie di dimissioni eccellenti da OpenAI — tra cui Ilya Sutskever (cofondatore), Jan Leike (capo del team di alignment) e altri ricercatori di sicurezza — ha sollevato domande pubbliche sulla direzione dell'azienda. Jan Leike ha lasciato con un post esplicito: "la cultura della sicurezza e i processi hanno ceduto il passo alla spedizione del prodotto".
Sutskever, dopo aver partecipato al tentativo di rimuovere Sam Altman dal board nel 2023, ha fondato Safe Superintelligence Inc., con un approccio opposto: nessun prodotto commerciale finché non si è risolto il problema dell'allineamento. Il messaggio implicito è chiaro — i modelli attuali non sono sicuri abbastanza, e la pressione commerciale impedisce di rallentare.
Anthropic e il "Constitutional AI": un approccio diverso?
Anthropic, fondata proprio da ex-OpenAI preoccupati per la sicurezza, ha sviluppato l'approccio Constitutional AI: i modelli vengono addestrati a rispettare un set di principi espliciti e a valutare le proprie risposte rispetto a questi principi. È più trasparente e verificabile rispetto al semplice RLHF (reinforcement learning from human feedback) usato da altri.
Tuttavia, anche Anthropic ha accelerato i rilasci sotto pressione competitiva. Claude 3 Opus, Claude 3.5 Sonnet, Claude 4 — ogni iterazione più potente della precedente, con cicli di valutazione della sicurezza più brevi. Il "Responsible Scaling Policy" di Anthropic definisce soglie di sicurezza teoriche, ma chi verifica che vengano rispettate? Anthropic stessa.
I modelli open source: un rischio diverso
Mentre i modelli dei grandi lab sono chiusi (i pesi non sono pubblici), Meta con Llama e altri attori hanno rilasciato modelli open source di capacità crescente. Llama 3, Mistral, DeepSeek: chiunque può scaricarli, modificarli, rimuovere i guardrail di sicurezza e usarli senza limitazioni.
I sostenitori dell'open source sostengono che la trasparenza è la migliore protezione — più persone possono identificare problemi. I critici rispondono che abbassare la barriera d'accesso a capacità pericolose le rende disponibili ad attori che non avrebbero mai avuto accesso ai modelli chiusi. Entrambe le posizioni hanno argomenti validi e dati a supporto.
Il paradosso del modello aperto: un modello "uncensored" basato su Llama può essere usato da ricercatori di sicurezza per testare difese — o da attori malintenzionati per aggirare filtri. La stessa tecnologia, usi opposti.
AGI e il "punto di non ritorno"
Il dibattito sulla sicurezza converge su un punto: cosa succede quando — e non più "se" — viene sviluppata una AI con intelligenza generale artificiale (AGI), capace di migliorare autonomamente? Questo scenario, chiamato "takeoff" nella comunità AI safety, preoccupa perché un sistema abbastanza intelligente da migliorare se stesso potrebbe farlo più velocemente di quanto gli umani possano monitorare o controllare.
OpenAI stima internamente di essere a 3-5 anni dall'AGI. DeepMind ha posizioni simili. Anthropic parla di "potenzialmente questa decade". Non sono promesse — sono scenari di rischio che informano le decisioni di sviluppo. E la domanda su chi controllerà quel sistema, con quali valori e verso quali obiettivi, è la più importante che l'umanità si trovi ad affrontare.
Cosa significa per chi lavora nel tech
Per chi è nel settore, questi non sono dibattiti astratti. I profili di AI safety researcher, alignment engineer e red team specialist sono tra i più ricercati (e pagati) nell'industria AI. Non perché le aziende siano improvvisamente diventate altruiste, ma perché la regolamentazione sta arrivando — EU AI Act, executive order USA, G7 — e avere credenziali di sicurezza è diventato un asset competitivo.
Al contempo, lavorare per un lab AI significa contribuire allo sviluppo di tecnologie con implicazioni enormi e poco prevedibili. Sempre più ricercatori fanno scelte basate sui valori dichiarati dell'organizzazione — non solo sullo stipendio. La dimensione etica del lavoro tech non è mai stata così concreta.