Un nuovo strumento può capire se qualcosa è AI

Un nuovo studio ha scoperto che un rilevatore di intelligenza artificiale sviluppato dall’Università del Kansas è in grado di rilevare contenuti generati dall’intelligenza artificiale in documenti accademici con un tasso di precisione del 99%, uno dei pochi rilevatori sul mercato specificamente orientati alla scrittura accademica.

Vero errore umano? Forse, ma almeno non l’intelligenza artificiale.

Secondo un rapporto pubblicato mercoledì sulla rivista Cell Reports Physical Science, i ricercatori hanno creato uno strumento in grado di dimostrare il rilevamento dell’intelligenza artificiale in documenti accademici con una precisione del 99%.

Il team di ricercatori ha selezionato 64 prospettive (un tipo di articolo) e le ha utilizzate per realizzare 128 articoli utilizzando ChatGPT, che è stato poi utilizzato per addestrare il rilevatore AI.

Il modello aveva un tasso di precisione del 100% nell’identificare gli articoli creati dall’uomo da quelli generati dall’intelligenza artificiale e un tasso di precisione del 92% nell’identificare paragrafi specifici all’interno del testo.

Secondo un sondaggio di Study.com, l'89% degli studenti universitari ha ammesso di utilizzare ChatGPT per aiutare con i compiti, mentre il 34% degli insegnanti ritiene che il software dovrebbe essere vietato, sebbene il 66% sostenga l'accesso da parte degli studenti.

"In questo momento, ci sono alcuni problemi piuttosto evidenti con la scrittura dell'intelligenza artificiale", ha detto l'autrice principale Heather Desaire in una nota. "Uno dei problemi maggiori è che assembla testi da molte fonti e non c'è alcun tipo di controllo dell'accuratezza: è un po' come il gioco Due verità e una bugia."

I rilevatori di intelligenza artificiale non hanno dimostrato di essere accurati al 100%. Una studentessa dell'Università della California a Davis sostiene di essere stata falsamente accusata dalla sua università di imbrogliare con l'intelligenza artificiale. Dopo aver caricato un documento per una delle sue lezioni, ha ricevuto un'e-mail dal suo professore che affermava che una parte era stata contrassegnata nel programma Turnitin come generata dall'intelligenza artificiale. Il suo caso è stato immediatamente inoltrato all'Ufficio per il sostegno agli studenti e gli affari giudiziari, che si occupa della disciplina per cattiva condotta accademica. La studentessa ha perorato la sua causa e alla fine ha vinto, utilizzando i timestamp per dimostrare che ha scritto l'articolo. Questa non è stata l'unica volta in cui gli educatori hanno erroneamente etichettato i compiti come generati dall'intelligenza artificiale. Un professore di commercio della Texas A&M ha tentato di bocciare più della metà della sua classe senior dopo aver utilizzato ChatGPT per verificare se gli studenti utilizzavano il chatbot per scrivere i loro documenti. Ha copiato e incollato i documenti in ChatGPT e ha chiesto se li aveva scritti, a cui ha risposto sì. Ciò ha causato il rifiuto dei loro diplomi da parte dell'università, anche se il professore ha offerto l'opportunità di rifare l'incarico. Tuttavia, l’università ha confermato a Insider che nessuno studente è stato bocciato o escluso dalla laurea.

Il chatbot di OpenAI, ChatGPT, è stato aperto al pubblico nel novembre 2022 e in meno di una settimana ha superato la soglia del milione di utenti, con persone che lo utilizzano per cose come creare codici e scrivere saggi. L'intelligence dell'intelligenza artificiale ha portato diverse scuole a vietare il software a tempo indeterminato o temporaneamente, tra cui le scuole pubbliche di New York, le scuole pubbliche di Seattle e il distretto scolastico unificato di Los Angeles.

Esistono già molti programmi e servizi che promettono di identificare i contenuti scritti dall’intelligenza artificiale.

ChatGPT nelle scuole: ecco dove è vietato e come potrebbe potenzialmente aiutare gli studenti (Forbes)

Ecco cosa sapere sul ChatGPT di OpenAI: cosa sta rivoluzionando e come usarlo (Forbes)