ChatGPT. Se fino a qualche decennio pensare che un’intelligenza artificiale potesse produrre un testo al nostro posto era un’utopia. Oggi invece è una realtà tanto che di fronte a un testo scritto ci si può porre il dubbio se sia stato effettivamente l’alunno a produrlo.
Da quando OpenAI, organizzazione senza scopo di lucro che svolge ricerche nel campo dell’intelligenza artificiale, ha fatto debuttare a dicembre l’ormai celebre ChatGPT, la chatbot che sfrutta il modello linguistico GPT-3.5, grazie al quale riesce a produrre dei testi credibili tanto da sembrare scritti dagli studenti, le cose sono cambiate. Il programma però, pur riuscendo a ‘ingannare’ sulla costruzione apparentemente originale e sensata di un testo, non garantisce l’accuratezza delle informazioni generate.
ChatGPT: le preoccupazioni sulla paternità di un testo
ChatGPT prospetta importanti problematiche nel mondo scolastico e universitario, e anche giornalistico. Creare contenuti non originali, cui difficilmente si riesce a intuire la paternità, sconvolge totalmente i criteri di affidabilità e autorevolezza di un determinato contenuto, che non solo, di fatto, è inattendibile ma così verrà anche percepito dal destinatario finale.
Se il testo è inattendibile, anche leggerlo diventerà un’azione insensata?
Sembrerebbe che ChatGPT abbia il potere di mettere in crisi, con un serio problema di credibilità nella produzione dei testi, l’intero mondo dell’informazione, della divulgazione e del ‘mondo scritto’ in toto. Al riguardo scrive così Melissa Heikkilä, corrispondente di Politico Europe, su MIT Technology Review:
In un mondo online già polarizzato e politicamente teso, questi strumenti di intelligenza artificiale potrebbero distorcere ulteriormente le informazioni che consumiamo.
Implementati nel mondo reale, in prodotti reali, le conseguenze sarebbero devastanti.
ChatGPT, i provvedimenti nel mondo dell’istruzione
Il dipartimento dell’Istruzione di New York ha addirittura ristretto l’accesso a ChatGPT su dispositivi e reti scolastiche, per tutti gli studenti e i professori. Nello specifico alla base vi sono preoccupazioni che riguardano “l’impatto sull’apprendimento, l’accuratezza e la sicurezza delle informazioni”. Non mancano però i sostenitori come Elon Musk, il quale, dopo il rilascio del software, ha twittato:
ChatGPT è spaventosamente buono. Non siamo lontani da un’IA pericolosamente forte.
Come individuare la non originalità di un testo?
Per ovviare a questo problema di riconoscere se un testo è stato scritto dal programma artificiale una possibile soluzione arriverebbe dalla stessa OpenAI. In un discorso in Texas Scott Aaronson ha ipotizzato quale sarebbe l’alternativa:
Vogliamo che sia molto più difficile prendere un output GPT e farlo passare per umano.
ciò è utile a prevenire il plagio accademico o di propaganda, ma anche per evitare di impersonare lo stile di scrittura di qualcuno.
Queste sono tutte cose che vorremmo rendere più difficili, giusto?
ChatGPT, quali strumenti intercettano l’intelligenza artificiale?
Ad esempio, attraverso strumenti come GPTZero, ideato da Edward Tian, studente dell’Università di Princeton, si può analizzare un testo tenendo conto di due fattori: irruenza e perplessità, che misurano il livello di complessità e casualità di quanto scritto. Se l’indicatore misurerà un livello alto vorrà dire che è stato realizzato da un’intelligenza artificiale. Accanto a GPTZero, abbiamo ulteriori strumenti analoghi, quali Open AI Detector, sviluppato e ospitato da Hugging Face, basati entrambi su GPT-2 e Detect GPT, estensione di Google Chrome.
Leggi anche: Web 1.0, web 2.0 e web 3.0: tutte le differenze
