Questa settimana un ricercatore di 27 anni, ex Anthropic e OpenAI, si è licenziato in pubblico dichiarando alla BBC di stimare un 10% di probabilità che l’intelligenza artificiale causi l’estinzione umana entro il prossimo decennio. La notizia ha riacceso un dibattito che circola da anni tra chi sviluppa questi sistemi. Vale la pena capire cosa c’è di concreto dietro i titoli, perché il punto vero per un’azienda italiana non è l’estinzione: è cosa cambia da qui a un anno.

Cosa è successo davvero questa settimana

Jacob Coxon ha lasciato Anthropic con un avvertimento pubblico. Il CEO della stessa Anthropic ha detto che il settore deve rallentare lo sviluppo, perché uno sciame di agenti IA senza sufficienti protezioni potrebbe arrivare a controllare parti di internet entro 6-12 mesi. L’alto commissario ONU per i diritti umani, Volker Türk, ha definito l’IA un possibile “rischio esistenziale per l’umanità”. Al Congresso americano, i senatori Klobuchar e Thune lavorano a una legge di supervisione, mentre Sanders e Casar hanno presentato il 3 settembre il “Ban Artificial Superintelligence Act”.

Il rapporto degli esperti dice qualcosa di diverso

Lo stesso mese è uscito il rapporto internazionale 2026 sulla sicurezza dell’IA, scritto con il contributo di oltre 100 esperti indipendenti. La conclusione è più misurata delle dichiarazioni sui giornali: i sistemi attuali mostrano segnali precoci di alcune capacità potenzialmente rischiose, ma nessuna perdita di controllo. Due letture della stessa settimana, due toni completamente diversi. Alcuni osservatori, come il sito Legal Insurrection, hanno notato che gli allarmi più forti arrivano proprio mentre il Congresso discute nuove regole: una coincidenza che vale la pena tenere a mente prima di prendere ogni titolo alla lettera.

Perché questo dibattito conta anche per una PMI

Il rischio di estinzione non riguarda le decisioni che un’azienda di 15 persone prende oggi. Quello che riguarda davvero un piccolo imprenditore è la direzione della regolamentazione: negli ultimi due anni l’Unione Europea ha già introdotto l’AI Act, con obblighi che entrano in vigore in fasi fino al 2027 e che toccano chi usa sistemi di IA per decisioni su clienti, assunzioni o credito. Se il Congresso americano approva regole più severe sulle IA avanzate, i grandi fornitori (OpenAI, Anthropic, Google) cambieranno i termini di servizio dei tool che molte aziende italiane usano ogni giorno per scrivere contenuti, gestire l’assistenza clienti o analizzare dati.

Cosa fare oggi, in concreto

Tre cose hanno senso indipendentemente da come evolve il dibattito sull’estinzione. Primo: non affidare a un’IA generativa decisioni che riguardano direttamente una persona, come l’approvazione di un preventivo o la selezione di un candidato, senza una revisione umana. Secondo: tieni un registro semplice di quali strumenti di IA usi in azienda e per cosa, perché l’AI Act europeo lo richiederà comunque per i sistemi a rischio più alto. Terzo: non smettere di usare questi strumenti per paura di uno scenario che i primi esperti del settore ritengono ancora improbabile nel breve periodo. La differenza tra un’azienda che usa l’IA in modo produttivo e una che ne ha solo paura si vedrà nei prossimi 12 mesi, non nei prossimi 12 anni.