La startup di ricerca sull’intelligenza artificiale OpenAI ha lanciato martedì uno strumento volto a capire se un testo è stato scritto da un essere umano o da un computer.
I creatori di ChatGPT, OpenAI, lanciano uno strumento per rilevare testi generati dell’AI
OpenAI, la società dietro ChatGPT, un chatbot in grado di generare testo simile a quello umano, è diventato virale dopo essere stato rilasciato due mesi fa. La scorsa settimana Microsoft ha annunciato un investimento multimiliardario in OpenAI e ha affermato che avrebbe incorporato i modelli di intelligenza artificiale della startup nei suoi prodotti per consumatori e aziende.
Da quando ChatGPT ha debuttato a novembre, alcuni dei più grandi distretti scolastici degli Stati Uniti, tra cui New York City, hanno bandito il chatbot AI per timore che gli studenti utilizzino il generatore di testo per imbrogliare o plagiare.
Il CEO di OpenAI Sam Altman ha affermato che l’istruzione è cambiata in passato con l’avvento dei calcolatori e di altre tecnologie, ma ha anche suggerito che l’azienda potrebbe avere un modo per aiutare gli insegnanti a scoprire il testo scritto dall’IA.
Il nuovo strumento di OpenAI non è perfetto e la società afferma che è ancora un work in progress e potrebbero verificarsi errori durante l’uso. “Nella nostra valutazione sul nostro ‘insieme di sfide’ di testi in inglese, il nostro classificatore ha identificato correttamente il 26% del testo scritto dall’IA (veri positivi) come ‘probabilmente scritto da un’IA’, mentre il 9% del testo scritto dall’uomo è stato erroneamente etichettato come scritto da AI (falsi positivi)”, ha scritto il dipendente OpenAI.
Il nuovo strumento non è affidabile nell’analizzare articoli con meno di 1000 caratteri e OpenAI ne sconsiglia l’uso per lingue diverse dall’inglese. Inoltre, il testo dell’intelligenza artificiale può essere aggiornato abbastanza leggermente da impedire al classificatore di giudicare correttamente che non è opera di un essere umano.
OpenAI afferma che sta contattando gli educatori per discutere le capacità e i limiti di ChatGPT e continuerà a lavorare per rilevare il testo generato dall’intelligenza artificiale.
In offerta su Amazon
