Recentemente i ricercatori di Anthropic hanno scoperto il J-space, un’area interna alla piattaforma AI Claude che trattiene le idee senza trasformarle in risposte. Si potrebbe paragonare, come riporta Ansa, alla coscienza dell’intelligenza artificiale, che ricalca il modo in cui gli esseri umani immagazzinano i propri pensieri.
Questa scoperta appare essere rilevante per comprendere come e cosa i modelli elaborano in silenzio. Per dare rilievo a ciò a cui sono arrivati, i ricercatori di Anthropic hanno condotto uno studio e portato avanti una serie di esempi. Ecco tutto quello che c’è da sapere sulla “coscienza” dell’AI.
Cos’è il J-space, la “coscienza” dell’AI
I ricercatori di Anthropic, una delle principali società di sviluppo dell’intelligenza artificiale, hanno fatto una scoperta che potrebbe cambiare il modo di intendere i dispositivi AI. Lo studio condotto, fa sapere Ansa, ha portato all’individuazione di J-space, uno spazio interno a Claude, che trattiene le idee senza tradurle in risposte agli input degli utenti.
Il nome dell’area deriva dalla tecnica matematica “Jacobiano”, “Jacobian”. La “coscienza” dell’AI è stata presentata dai ricercatori attraverso un video pubblicato sul profilo X di Anthropic, in cui si spiega che Claude utilizza un’area a sé per pianificare strategie indipendenti dal compito richiesto.
Ciò non vuol dire che l’assistente di intelligenza artificiale provi emozioni, ma si pone l’accento su un modus operandi simile a quello umano, per cui le informazioni usate per un ragionamento sono separate dalle elaborazioni sottostanti: “Proprio come gli esseri umani possono pensare a una cosa mentre ne fanno un’altra, Claude è in grado di attivare concetti ed elaborazioni nel suo J-Space che non sono correlati ai suoi output“.
A dimostrazione di ciò, Anthropic ha presentato un esempio in cui ha chiesto a Claude di pensare al Golden Gate Bridge in California mentre copiava una frase non correlata. I ricercatori hanno commentato: “Claude era impegnato a copiare la frase ma ‘dietro le quinte’ il suo J-Space raccontava una storia diversa“. Sia “ponte” che “California”, infatti, figuravano tra gli argomenti presenti nello spazio.
Leggi anche: Anthropic presenta la nuova AI Mythos: “Rileva le vulnerabilità dei software a più livelli”
Come funziona il J-space?
La scoperta fatta da Anthropic appare vantaggiosa perché offre un ottimo spunto per capire cosa un chatbot sta elaborando in silenzio e soprattutto per individuare eventuali intenti malevoli nei modelli di AI. Ma come funziona J-space? Quest’area è composta da schemi neurali interni, ognuno dei quali sembrerebbe essere legato a una parola, un tema o un concetto.
Nel momento in cui uno di questi schemi si accende, sottolinea Repubblica, il segnale indica che quel concetto si è attivato nel suo spazio interno di lavoro e che, di conseguenza, il modello sta compiendo un ragionamento, che non è detto appaia nel testo finale. Si tratta, piuttosto, di un indizio su ciò che il modello sta tenendo presente mentre formula la risposta.
Fanno sapere da Anthropic: “Il J-space opera in silenzio, nelle attivazioni neurali interne del modello, permettendo al modello di pensare a un concetto senza scriverlo”. Questo modo di operare è paragonabile alla “Teoria dello spazio di lavoro globale” della neuroscienza, secondo cui il cervello umano svolge di continuo operazioni automaticamente.
Solo una parte di queste informazioni, però, arriva nello spazio della coscienza, a cui attingiamo per prendere decisioni. Allo stesso modo in J-space le nozioni, dopo essere state elaborate in automatico, diventano disponibili ad altri sistemi mentali, trasformando un dettaglio insignificante in qualcosa su cui porre l’attenzione.
Leggi anche: Anthropic lancia Claude 4.5, il modello che punta a rivoluzionare l’AI
Come è stato condotto lo studio
Il metodo adottato dai ricercatori di Anthropic per condurre lo studio, fa sapere Repubblica, si chiama Jacobian lens, abbreviato J-lens. Esso consiste in una simil lente che prova a guardare dentro Claude, mentre il modello sta lavorando, per capire a quali parole e concetti pensa prima di decidere cosa scrivere.
Siccome i modelli AI non ragionano su frasi già formate ma su enormi quantità di numeri, la J-lens serve a tradurre parte di queste cifre e a capire quali parole sono più consone per rispondere alle domande, anche se ancora Claude non le ha scritte. Anthropic sottolinea, però, che la maggior parte delle operazioni di Claude non avviene nel J-space.
È stato provato a cancellare, infatti, durante l’esecuzione di alcuni compiti e si è dimostrato che il modello continuava a funzionare correttamente. A peggiorare sono state invece le capacità come ragionamento multi-step, riassunto complesso e scrittura poetica in rima. Si può affermare, quindi, che il J-space sembra essere utile in particolare quando Claude deve fare qualcosa di deliberato, per esempio ragionare o combinare informazioni.
