OpenAI è una delle aziende più discusse e influenti. Recentemente, la società ha rilasciato un post sul proprio blog che ha attirato l’attenzione di educatori, studenti e appassionati di tecnologia. Il post forniva suggerimenti su come utilizzare ChatGPT come strumento didattico. Tuttavia, una parte del post ha sollevato sopracciglia e generato dibattito: l’ammissione che i rilevatori di scrittura basati su intelligenza artificiale non sono così affidabili come si potrebbe pensare. Vediamo insieme i dettagli dell’articolo.
La realtà dei rilevatori AI secondo OpenAI: un quadro poco chiaro
Nella sezione delle FAQ del post, OpenAI ha affrontato la questione dei rilevatori di scrittura AI, affermando che “nessuno di questi strumenti si è dimostrato in grado di distinguere in modo affidabile tra contenuti generati da AI e contenuti generati dall’uomo“. Questa affermazione è particolarmente rilevante in un’epoca in cui la scrittura generata da AI sta diventando sempre più sofisticata, al punto da confondere persino gli esperti. In effetti, alcuni studi hanno mostrato che questi rilevatori spesso producono falsi positivi, mettendo in discussione la loro efficacia e affidabilità.
Testi, precisione e affidabilità
Ma cosa significa realmente questa affermazione nel contesto più ampio dell’intelligenza artificiale e della sua integrazione nella società? Prima di tutto, mette in luce la crescente complessità dei modelli di linguaggio come ChatGPT, che sono diventati così avanzati da generare testi quasi indistinguibili da quelli scritti da esseri umani. Questo solleva interrogativi etici e pratici, soprattutto nel mondo accademico, dove la possibilità di plagio assistito da AI è una preoccupazione crescente.
In secondo luogo, la dichiarazione di OpenAI evidenzia la necessità di sviluppare metodi di rilevamento più efficaci. Al momento, molti rilevatori si basano su metriche e algoritmi che non sono stati sufficientemente testati o validati. Ad esempio, alcuni utilizzano l’analisi del linguaggio naturale (NLP) per cercare schemi specifici nel testo, ma questi schemi possono essere facilmente manipolati o elusi. Altri ancora si basano su database di esempi di testo generato da AI, ma questi database sono spesso obsoleti o incompleti.
Infine, la mancanza di affidabilità dei rilevatori AI attuali apre la porta a potenziali abusi. Immaginiamo un contesto in cui un rilevatore AI errato etichetta erroneamente un saggio accademico come generato da AI, mettendo a rischio la carriera di uno studente o di un ricercatore. Oppure, consideriamo il rischio che le persone possano iniziare a dubitare della veridicità di qualsiasi tipo di contenuto online, alimentando ulteriormente la crisi della disinformazione.
Leggi anche: Intelligenza artificiale: perché dovremmo tenere d’occhio gli Emirati Arabi
OpenAI: ChatGPT e la sua “ignoranza” consapevole
Un altro punto cruciale sollevato da OpenAI è la limitazione intrinseca di ChatGPT nel riconoscere se un testo è stato generato da un’intelligenza artificiale o da un essere umano. Questo è un dettaglio che molti potrebbero non considerare, ma che ha implicazioni significative non solo per il mondo accademico ma anche per l’industria e la società in generale. Ad esempio, se ChatGPT non può distinguere tra contenuti generati da AI e contenuti umani, come possiamo fare affidamento su di esso per altre attività complesse come la ricerca accademica, la generazione di report finanziari o persino la redazione di documenti legali?
Il falso e la non consapevolezza
Questa “ignoranza” di ChatGPT solleva anche questioni etiche e di responsabilità. Se un modello di linguaggio AI non è in grado di identificare la propria “mano” nella creazione di un testo, potrebbe involontariamente contribuire alla diffusione di informazioni false o fuorvianti. Questo è particolarmente preoccupante in settori come il giornalismo e la scienza, dove l’accuratezza e la verificabilità delle informazioni sono fondamentali. Certo è che questo è evitabile laddove l’uomo vada a revisionare un testo creato (come dovrebbe essere).
Inoltre, la limitazione di ChatGPT pone un interrogativo più ampio sulla natura dell’intelligenza artificiale. Se un modello AI non ha la “consapevolezza” delle proprie azioni, fino a che punto possiamo considerarlo “intelligente”? E come cambia questo la nostra comprensione dell’intelligenza artificiale come estensione o complemento dell’intelligenza umana? Queste sono domande che la comunità scientifica sta ancora cercando di rispondere.
Sebbene gli strumenti di rilevamento automatico basati sull’AI non siano affidabili, ciò non significa che un essere umano non possa mai rilevare la scrittura generata da AI. Ad esempio, un docente che conosce bene lo stile di scrittura di un studente potrebbe notare quando questo stile cambia improvvisamente. Tuttavia, al momento, è consigliabile evitare completamente gli strumenti di rilevamento AI.
