In una proiezione agghiacciante, gli esperti hanno emesso un severo avvertimento: i rapidi progressi della tecnologia IA potrebbero aumentare significativamente la probabilità di pandemie causate dall’uomo. Secondo uno studio condiviso esclusivamente con TIME, la probabilità di tali eventi sarebbe aumentata di cinque volte, un’indicazione allarmante del potere detenuto dall’IA.

La Svolta dell’IA e le Sue Conseguenze

In passato, la creazione di un’arma biologica rimaneva un compito complesso, richiedendo competenze e risorse significative. Ora, grazie ai chatbot IA, ciò che una volta era dominio di scienziati esperti sta diventando sempre più accessibile. Si ritiene che modelli come ChatGPT e Claude offrano assistenza fondamentale a individui con intenti malevoli, creando un rischio significativo precedentemente evidenziato dalle rinomate aziende di IA.

Una Sveglia dalla Comunità di Previsioni

Il Forecasting Research Institute, che ha condotto indagini con esperti di biosicurezza e super-previsori, sta suonando l’allarme. Hanno stimato il rischio attuale di una pandemia indotta dall’uomo allo 0,3% annuo. Tuttavia, se gli strumenti IA raggiungessero un’efficienza di livello esperto nella manipolazione dei virus, questa cifra potrebbe salire all’1,5%, sottolineando la gravità di questi sviluppi.

L’IA che Supera gli Umani: un Traguardo Preoccupante

La ricerca guidata da Seth Donoughe ha testato le capacità dell’IA contro quelle di virologi esperti. I risultati, che hanno sorpreso molti, hanno rivelato che i migliori sistemi IA attualmente superano gli esperti umani in scenari complessi di risoluzione dei problemi. Questo traguardo conferma i timori dei previsori, indicando un rischio di pandemie significativamente aumentato.

L’Urgenza di Salvaguardie Robuste

L’azione preventiva per ridurre questi rischi sembra cruciale. Lo studio propone due principali strategie di salvaguardia. Le salvaguardie a livello di modello mirano a limitare la capacità dei sistemi IA di favorire attività dannose. Aziende come OpenAI hanno avviato misure protettive per impedire che le loro tecnologie facilitino la costruzione di armi biologiche. Inoltre, le normative impediscono alle aziende di sintesi genetica di contribuire inavvertitamente a scopi nefasti, sollecitando l’implementazione di rigorosi controlli “conosci il tuo cliente”.

Una Nuova Frontiera nella Sicurezza Globale

Con l’IA che potrebbe assistere nella creazione di minacce biologiche, è imperativo concentrarsi su questo rischio emergente, secondo gli esperti. Sebbene il rischio sia diventato più prominente con le capacità dell’IA, misure politiche efficaci potrebbero aiutare a mitigarle riportandole a livelli più gestibili.

Le fonti suggeriscono che questi passi proattivi possono ridurre la probabilità di una pandemia assistita dall’IA a poco sopra il livello base, un obiettivo ottimistico tra la crescente apprensione per le conseguenze non intenzionali dell’IA.

Ora che siamo sull’orlo di un precipizio tecnologico, il bilanciamento tra un’innovazione fenomenale e la sicurezza globale non è mai stato così cruciale. Secondo Time Magazine, è un invito alla vigilanza e a una risposta robusta per salvaguardare il futuro dell’umanità.