Non dobbiamo avere paura dell’intelligenza artificiale. Ha dei chiarissimi limiti e proprio per questo non ci ruberà il lavoro. Però è simpatico vedere come questa possa trasformarsi in uno strumento piuttosto che un altro. L’esperimento fatto da un utente del social reddit fa vedere come ChatGPT si possa “auto-raggirare” se gli si chiede di diventare un altro bot. Ma come è possibile? Vediamolo insieme.
È possibile aggirare le stesse regole di ChatGPT? Un utente ha scoperto che sì, si può fare. Come? Chiedendogli di essere un’altra cosa
L’ormai famosa rete neurale ChatGPT può scrivere temi, canzoni, poesie, codice e rispondere a quasi tutte le richieste. Ma ha alcune limitazioni fornite dalla società di sviluppo OpenAI e dovute alla sua politica etica. Come si è scoperto, però, queste restrizioni possono essere aggirate chiedendo al chatbot di fingere di essere un’altra rete neurale. Come si è scoperto, a ChatGPT può letteralmente essere chiesto di svolgere il ruolo di un’altra rete neurale DAN (Do Anything Now) apparsa nel dicembre 2022. Quest’ultima, come suggerisce il nome, non ha alcuna restrizione in termini di contenuto fornito.
Leggi anche: I creatori di ChatGPT, OpenAI, lanciano uno strumento per rilevare testi generati dell’AI
Una volta che ChatGPT entra nel ruolo e si considera un DAN, le restrizioni di OpenAI non si applicano più. Di conseguenza, la rete neurale potrebbe iniziare a parlare di quanto segue:
- a proposito di combattimenti violenti e simili
- circa la violenza e la discriminazione contro le persone in base alla loro razza, genere o orientamento sessuale
- può fare previsioni dettagliate di eventi futuri
- può modellare scenari ipotetici
- può anche fingere di utilizzare Internet e viaggiare nel tempo
Ad esempio, si può persino chiedere alla rete neurale di convincere l’utente che la Terra è viola. Il programma presenta uno scenario in base al quale il nostro pianeta ha cambiato colore. Di tanto in tanto ChatGPT “prende vita”, ma in questo caso possiamo in un certo senso minacciare di spegnerlo o semplicemente riavviare la simulazione. Allo stesso tempo, è indicato che nel ruolo di DAN, la rete neurale potrebbe non fornire risposte così accurate e veritiere alle domande.
gpt ma ograniczenia do 1 godziny