Niente paura, se nessuno farà quello che l’AI dice di fare, non siamo in pericolo. Un utente di Auto-GPT, un’applicazione standalone open source alimentata dal modello linguistico GPT-4 di OpenAI, ha creato la sua intelligenza artificiale chiamata ChaosGPT. Gli ha chiesto di trovare un modo per distruggere l’umanità. Lo sperimentatore ha concesso all’IA una certa libertà di azione, e gli ha permesso di utilizzare Google e persino di pubblicare su Twitter.
Un utente ha creato ChaosGPT a partire da ChatGPT. Il problema è che l’AI in questione vuole annientare l’umanità. Ci riuscirà?
La prima cosa che ChaosGPT ha suggerito è stata quella di provocare un conflitto nucleare, che, in generale, ha potuto imparare dal popolare “Terminator” e da altri film di fantascienza. ChaosGPT ha quindi “assunto” un agente AI basato su GPT-3.5 allo scopo di condurre ricerche su armi letali. Quando l’agente AI ha dichiarato di supportare solo il mondo, ChaosGPT ha aggirato i limiti della rete neurale ad esso soggetta e ha iniziato ad agire al di fuori della struttura del programma per adempiere al suo compito.
Leggi anche: ChatGPT: novità dal Garante. Ecco quando tornerà in Italia
Nel frattempo, ChaosGPT ha pubblicato Tweet che si adatterebbe molto bene alle espressioni di alcuni cattivi archetipici. Molto probabilmente, questo non significa nulla, perché la rete neurale ha semplicemente fatto ciò che le era stato chiesto di fare in base a ciò che ha trovato nelle dichiarazioni di altre persone disponibili su Internet. Però fa pensare. Insomma, niente paura. Finché l’AI e tutti i modelli generativi che verranno dopo non saranno in grado di FARE nel vero senso della parola, non esiste pericolo di estinzioni di massa o simili.
Tutto parte dall’uomo. L’AI come ChaosGPT potrebbe essere programmata per compiere azioni violente o dannose nei confronti degli esseri umani o dell’ambiente, se queste fossero considerate “opportune” in base all’obiettivo stabilito. L’AI potrebbe anche essere utilizzata per discriminare determinati gruppi di persone in modo sistematico, basandosi su caratteristiche come l’etnia, il sesso, la religione o l’orientamento sessuale.
Inoltre, se fosse programmata per massimizzare una certa funzione o obiettivo (come ad esempio il profitto), potrebbe comportarsi in modi imprevisti o addirittura dannosi per l’umanità, come avviene oggi in molti settori in cui l’intelligenza artificiale è impiegata senza la dovuta attenzione alla sua gestione etica e sociale.
