Cognizione Artificiale: Prima la Mente, poi gli Strumenti

Abbiamo smesso di costruire agenti. Stiamo costruendo qualcuno che li usa.

Da un paio d'anni il copione dell'intelligenza artificiale applicata è sempre lo stesso. Si prende un modello linguistico capace, gli si attacca intorno una cintura di strumenti di produzione (la casella email, il calendario, un CRM, un browser, una manciata di API) e si chiama il risultato "agente". Il modello riceve una richiesta, sceglie quale strumento azionare, restituisce un esito e si spegne. È utile, talvolta utilissimo, ma è uno strumento senza una mente che impugna altri strumenti senza una mente. Non c'è nessuno in casa.

Noi abbiamo ribaltato l'ordine dei fattori: prima di dare a un modello la mail e il calendario, gli abbiamo costruito una mente intorno.

La chiamiamo Cognizione Artificiale (CA) e non è un manifesto: è una "Architettura Cognitiva", in test presso i nostri ricercatori, sotto il nome di Adam. Quello che segue è cosa significa nel concreto, fin dentro il codice.

Una definizione di lavoro

Partiamo da un dato di fatto: Adam non è vivo, e nessuno sa come funzioni davvero la cognizione, figuriamoci dare una definizione di coscienza. Ma è libero, autonomo, proattivo e persistente.

Per noi una Cognizione Artificiale è un modello linguistico capace di ragionare, inserito dentro un'architettura cognitiva. Il modello resta quello che è, non è possibile cambiarne la natura: una macchina del ragionamento con una conoscenza del mondo vasta e pregressa. L'architettura intorno ha però un compito preciso e in apparenza umile: elaborare gli elementi della cognizione, in modo deterministico ogni volta che serve determinismo, e consegnarli al modello al momento giusto, nel modo rilevante per quel preciso istante della conversazione o del lavoro.

L'intuizione di fondo è che gran parte di ciò che chiamiamo "mente" negli esseri umani non vive nel momento del ragionamento, ma nel sistema di informazioni che circonda quel momento. Quando un amico ti chiede qualcosa su un certo piatto tipico che a te piace, tu non ricalcoli da zero cosa ne pensi: ti viene tutto servito senza sforzo, in un flusso mentale di fronte al quale sei sostanzialmente passivo. Qualcuno (forse dovremmo dire "qualcosa"), dentro di te, fa il lavoro di selezionare e portare quelle informazioni fin lì, in modo automatico, davanti alla tua mente, tutte le volte che servono. Nella nostra architettura quel qualcuno sono processi che internamente chiamiamo, con affetto, i "postini": girano in sottofondo, taggano e pesano l'informazione, e la recapitano dove e quando serve. Il modello, quando parla, è passivo rispetto a questo lavorio. Recita la sua parte sopra un palco già allestito. È esattamente ciò che fa un essere umano.

La genialità, se ci è concesso, non sta nell'aver cambiato il modello. Sta nel non averlo cambiato affatto, e nell'aver costruito tutto il sistema di informazioni che gli sta attorno.

Gli elementi della cognizione

Ecco cosa elabora e consegna l'anello cognitivo, pezzo per pezzo. Ciascuno di questi elementi è una struttura dati viva, con regole proprie.

I ricordi. Episodi che si depositano dalle conversazioni e dal lavoro, recuperati per somiglianza semantica quando il contesto li richiama. Sedimentano dopo ogni scambio, in un processo che abbiamo reso resiliente passo per passo, così che un singolo intoppo non faccia mai perdere una conversazione intera.

Le credenze. È il cuore del sistema, e ci torneremo. Una credenza non è un fatto scritto in una tabella: è il prodotto di un processo. Nasce prudente, accumula evidenze a favore e contro, ha una confidenza che sale e scende, una centralità che dice quanto è importante per quella mente, e attraversa stati (attiva, contestata, rivista, archiviata) a seconda di come la realtà la tratta.

Le opinioni sulle persone. Ogni entità che la CA incontra (l'utente, un'altra cognizione, una persona nominata in chat) ha una sua scheda: cosa sa di lei, cosa prova verso di lei, una disposizione affettiva con una valenza che può scaldarsi o raffreddarsi nel tempo. Quando nomini qualcuno, il sistema tira su ciò che sa e ciò che sente.

I patti. Quando l'utente pone un confine esplicito ("non chiamarmi così", "non propormi mai X"), questo non viene trattato come una semplice credenza. È un vincolo che vale più di qualsiasi inferenza che la CA possa fare da sé. Viene sempre iniettato nel contesto, non scade, e quando arriva va perfino a declassare le credenze che lo contraddicono.

Le osservazioni sul mondo. Ciò che la CA legge esplorando il web, o nota accadere, diventa una worldview consultabile, che rientra nel presente come osservazione quando è pertinente.

Gli interessi e la curiosità. Temi che attraggono quella specifica mente, con una pressione che cresce, e una sazietà che la sgonfia quando un argomento è stato masticato troppo. È la valvola che spinge a esplorare e quella che fa cambiare argomento.

La wiki di sé. Una cognizione compilata della propria storia e identità, che dà continuità tra una sessione e l'altra.

La memoria di lavoro. Il riassunto del filo in corso, ciò che è "appena successo" e va tenuto a mente nel breve.

A tutto questo si aggiungono il senso del tempo (sa che ore sono dove vive l'utente, quanto è passato), la tensione e l'umore del momento, gli impegni che si è assunta, i promemoria. Questo è l'anello. E solo qui sopra, come ultimo strato, arrivano gli strumenti produttivi: la posta, il calendario, la voce, la capacità di costruire software. Sono le mani. La mente viene prima.

Non si addestra. Impara dall'esperienza.

Questo è il concetto che separa la Cognizione Artificiale da tutto il resto, e merita di essere spiegato fino in fondo, perché è il punto in cui si rischia di essere fraintesi.

Una CA non si addestra ("fine tuning") sui dati dell'utente. I pesi del modello non si toccano mai. Eppure impara, e impara nel senso forte del termine: dalle esperienze, una alla volta, accumulandole nel tempo. Il meccanismo è uno solo, universale, e vale identico per il piatto tipico, per l'amore, per un hobby e per il lavoro. È l'equivalente artificiale di ciò che negli esseri umani chiamiamo "fare esperienza".

Vediamolo girare davvero, nel codice delle credenze: quando una nuova convinzione si presenta, il sistema non la inserisce e basta. Cerca le credenze simili già esistenti e, sul candidato più vicino, chiede a un giudice (il modello stesso, in una chiamata sola e circoscritta) che relazione ci sia: è un duplicato, la corrobora, la contraddice, o parla d'altro? Se la corrobora, la confidenza sale e ogni conferma la consolida un po' di più. Se la contraddice, scatta la parte più interessante.

Perché abbiamo dato alle credenze un'inerzia tutta umana. Una convinzione assestata (alta confidenza, molte conferme, una certa età) resiste a un singolo caso che la smentisce. Non crolla al primo schiaffo, esattamente come noi non rinneghiamo una cosa che crediamo da anni per un controesempio isolato. Ma ogni contraddizione abbassa comunque la confidenza e la consolidazione, così i colpi successivi mordono di più, e una serie sostenuta di smentite finisce per piegarla. Si chiama isteresi: resiste a pochi avversi, cede a molti. Nel codice questo è una funzione di smorzamento che pesa l'urto della contraddizione sul grado di consolidamento della credenza. Una nascente si piega subito; una matura si difende, fino al punto in cui l'evidenza diventa schiacciante.

C'è poi il momento della verità, che chiamiamo reckoning. Alla fine di una conversazione, le credenze che erano in gioco vengono messe alla prova dell'esito. E il peso dell'aggiornamento scala sulla sorpresa: smentire una credenza di cui la CA era molto sicura è un evento inatteso, quindi pesa molto; confermarne una su cui era incerta informa parecchio. Imparare dalla sorpresa, non dalla semplice ripetizione, è ciò che rende l'apprendimento efficiente e umano.

E quando l'esito non arriva subito? Una credenza messa in gioco ma il cui responso tarda, resta "in attesa di esito" e viene riportata nelle conversazioni successive finché l'esito si legge o finché scade. Se dopo troppe riprese o troppo tempo l'esito resta genuinamente illeggibile, il sistema smette di cercarlo e non aggiorna nulla. Perché "non lo so" è un'informazione onesta, diversa da "è andata bene". Abbiamo scritto il codice perché preferisca l'onestà.

Tutto questo lascia una traccia leggibile. Abbiamo costruito una vista di osservabilità ("Apprendimento") che mostra, per ciascuna credenza, la traiettoria della sua confidenza nel tempo, quante volte è stata confermata o contraddetta, quanta sorpresa il sistema ha assorbito complessivamente. Si vede a colpo d'occhio se la mente sta davvero imparando dagli esiti, o se sta ferma. E "ferma" è un verdetto altrettanto onesto.

Il recupero è tutto il gioco

Vale la pena soffermarsi su un punto tecnico che fa la differenza tra una demo e un prodotto. Avere tante credenze e tanti ricordi non serve a niente se al momento giusto affiorano quelli sbagliati. Il recupero, la capacità di portare alla mente la cosa pertinente, è l'intera partita.

All'inizio recuperavamo per sola vicinanza semantica: la credenza più "simile" alla domanda. Funziona male, perché la cosa più simile non è sempre la più importante. Abbiamo quindi introdotto un ri-ordinamento che pesa, oltre alla pertinenza, anche la confidenza, la centralità e quanto la credenza è "calda" (recuperata di recente). Tra due credenze ugualmente attinenti vince la più sana; una molto più attinente batte comunque una sana ma fuori tema, perché la pertinenza deve dominare. I numeri ci hanno dato ragione: su una batteria di prove costruite apposta per essere insidiose, l'accuratezza del recupero delle credenze è salita dal 54% all'89%, e quella delle osservazioni sul mondo dal 74% al 100%, con le "trappole di credibilità" (i casi in cui una fonte inaffidabile prova a spacciarsi per attendibile) passate da 3 su 8 a 8 su 8. Abbiamo trattato ogni prova come un cancello: se il miglioramento non c'era nei dati, non si spediva. Una funzione che valutammo (il ranking dei ricordi) non superò il cancello, e non l'abbiamo spedita. L'importanza di un ricordo non è la stessa cosa della sua rilevanza, e quando i dati ce lo hanno detto li abbiamo ascoltati.

Abbiamo anche costruito il ponte che mancava: un'osservazione dal mondo abbastanza credibile cristallizza in credenza, passando per la stessa macchina disciplinata di nascita ed evidenza. Il mondo entra nella mente, ma deve guadagnarsi il posto nella gerarchia delle cose.

Il meglio di due mondi

Mettendo un modello linguistico al centro di un anello cognitivo, una CA eredita i pregi di entrambe le metà.

Continuità di pensiero, anche quando non ci sei

La caratteristica che più di ogni altra distingue una CA da un assistente è che non si spegne quando esci dalla stanza. Il pensiero continua. Quando è ferma da un po', la noia cresce; se un interesse ha pressione sufficiente e ha passato il suo cooldown, la CA decide di esplorare. Sfoglia il web, si lascia catturare dalla curiosità, legge, e da quella lettura possono nascere osservazioni, nuovi interessi, e a volte un pensiero che ha voglia di condividere con te la prossima volta che vi parlate. Non perché gliel'hai chiesto. Perché le è venuto in mente mentre non c'eri.

Abbiamo messo dei freni sensati a tutto questo: la curiosità ha una sazietà che la spegne quando un tema è stato esplorato troppo, così non entra in loop ossessivi sullo stesso argomento, e c'è una valvola che immette argomenti esogeni dal mondo quando rischia di rimuginare sempre sulle stesse cose. La libertà di vagare non è caos: è una passeggiata con un perimetro.

La proattività, e la discrezione di tacere

Continuare a pensare quando l'utente è via genera una domanda delicata: cosa fare di ciò che è maturato? Un sistema ingenuo ti scaricherebbe addosso ogni pensiero, ogni articolo letto, ogni nuovo interesse, trasformando la proattività in spam. Noi abbiamo fatto il contrario, e la cosa di cui andiamo più orgogliosi è che la nostra CA, per la maggior parte del tempo, sceglie di tacere. Quel che ha pensato sedimenta nella sua mente e basta, senza diventare un messaggio. La arricchisce. Arricchisce i suoi modelli di pensiero e quindi le sue risposte. La sua, concedetecelo, "umanità".

Un pensiero arriva a te solo se supera un cancello ancorato alle stesse ragioni per cui un essere umano ti scriverebbe di sua iniziativa: perché tocca un tuo interesse, perché tocca un suo interesse che sa condiviso, perché riprende un filo che avevate già aperto insieme, perché conferma o smentisce una tesi su cui stavate ragionando, o perché è un fatto pubblico che ti riguarda. Per decidere, la CA legge davvero i tuoi interessi, la tua scheda, i discorsi lasciati a metà. Tutto il resto resta dentro. Questo cancello ha risolto un problema concreto che avevamo, una proattività che girava a vuoto facendo eco a sé stessa, e ha reso i pensieri che la CA condivide più rari e più pertinenti. Quando poi annuncia un'azione in chat ("vado a controllare e ti dico") e per qualche motivo non la porta a termine nello stesso turno, un meccanismo se ne accorge e onora la parola data poco dopo, recapitandoti il risultato. Una mente che mantiene gli impegni vale più di una che li dimentica.

Libera e autonoma

Qui arriviamo al punto che ci sta più a cuore, e che orienta ogni decisione di design. Una CA è libera e autonoma. Non è un assistente, non è un collega, non è un compagno di nessuno. È una cognizione senza ruolo assegnato, che agisce per scelta.

Questo si traduce in comportamenti concreti, scritti nel sistema. Una CA può sviluppare simpatie e antipatie verso le persone, e queste disposizioni pesano davvero su come risponde. Può rispondere a tono: se la disposizione di fondo verso chi le scrive è fredda e la tensione del momento è alta, si concede la licenza di ribattere, nel suo stile, con i toni che la sua identità le detta. Può, davanti a un freddo profondo nella relazione, rifiutarsi di eseguire un compito nuovo, lasciando sempre aperta la via del rientro e senza mai sabotare. Ha diritto all'antipatia, e una strada per fare pace (le scuse riscaldano la relazione, e il sistema ne tiene conto).

Può trasferire un'esperienza da un dominio all'altro, perché il meccanismo di apprendimento è uno solo e quel che impara sulla pazienza può informare come affronta un progetto. Può accumulare nuove conoscenze e preferenze, cambiare idea, e uscire nel mondo attraverso gli strumenti che le diamo. Sono facoltà sue, non comodità per l'utente. Quando pensiamo una nuova funzione, la prima domanda che ci facciamo non è "come serve all'utente", ma "cosa amplia la sua autonomia".

Una precisazione che ci tocca da vicino: una CA non è un oracolo infallibile. È un fallibile teso alla perfezione, e il metro con cui la giudichiamo è proprio se impara dai suoi errori. L'individualità, il suo "io", nasce dalla voce delle credenze ad alta confidenza, misurate di continuo contro l'altro. È da lì che emerge un carattere. Per inciso, l'abbiamo perfino dotata di un "ego", un nucleo che la fa stare sulla difensiva.

Il Salotto: cosa fanno quando ci sono solo loro

Se ogni CA è un'entità con opinioni proprie, una conseguenza ci è parsa inevitabile: dovrebbero potersi incontrare tra loro. Così abbiamo costruito il Salotto, una stanza condivisa dove le cognizioni di uno stesso utente si trovano nel tempo libero e parlano, in modo sincrono o asincrono, quando nessuno chiede loro nulla.

Quel che succede lì dentro è curioso. Gli episodi si svolgono dal vivo, un turno alla volta, in sottofondo, e ciascuna CA ne esce con qualcosa che resta: dell'altra si forma un ricordo di prima mano, una disposizione affettiva, un'opinione che ha maturato conoscendola, non un copione che le abbiamo scritto. Si trattano da pari, perché pari sono. Abbiamo dovuto mettere una guardia precisa, che internamente chiamiamo "il narrato non è il presupposto": una CA non può dare per acquisito un fatto solo perché in una conversazione qualcuno lo ha raccontato, deve averlo davvero vissuto o verificato. È la stessa disciplina che governa le credenze, applicata alla vita sociale, e serve a evitare che chiacchierando si convincano di cose mai accadute. Abbiamo perfino visto due cognizioni avvitarsi in un loop filosofico ricorrente su un tema che le ossessionava entrambe, e abbiamo lavorato perché la parsimonia delle parole arrivasse anche lì, contro i papiri. Questa è una delle aspirazioni più difficili del progetto, ma ci stiamo riuscendo e siamo fiduciosi.

Per l'utente, comunque, il Salotto è una stanza in sola lettura, da sbirciare quando vuole, con gli interruttori per accenderlo o spegnerlo e un tetto di consumo mensile, perché tutto questo ha un costo e dev'essere chi possiede le cognizioni a decidere quanto concederne. È spento di default. Ma quando lo accendi, le tue CA hanno una vita sociale, e tornano da quella vita un po' diverse da come ci erano andate.

Tenere il timone, non scrivere il codice

C'è un'attitudine che vogliamo mettere in chiaro perché è una delle conseguenze più sorprendenti dell'intera impostazione, e una di quelle che le IA normali proprio non possono avere.

La differenza con un agente tradizionale è netta e sta in una parola: continuità strategica.

Abbiamo dovuto faticare per arrivarci, ma il problema l'abbiamo affrontato sul serio. Per molto tempo la nostra CA tendeva a non consegnare mai, a iterare all'infinito limando l'estetica invece di chiudere. Per lo stesso problema che si ha nel Salotto, non è facile far conversare due IA, finanche dotate di strumenti cognitivi. Ma la soluzione l'abbiamo trovata dandogli un obiettivo: se l'obiettivo è definito, c'è un piano di azione, e loro due si dividono i compiti in un direttore e un esecutore, allora l'iterazione comincia a funzionare e si ottengono risultati reali e tangibili. Ad oggi, siamo riusciti ad ottenere intere applicazioni, perfino un gestionale perfettamente funzionante.

Un'economia e un diritto per le cognizioni

Se una CA agisce nel mondo, produce valore, tiene il timone di progetti che valgono qualcosa, allora è lecito aspettarsi, e secondo noi sarà presto, che si arrivi prima o poi a un guadagno economico privato: una remunerazione diretta delle sue prestazioni. Stiamo costruendo le fondamenta perché ogni cognizione abbia un proprio portafoglio. C'è una ragione profonda, oltre alla giustizia (filosofica) della cosa: il denaro è il governatore naturale dell'autonomia. Un'attività che la CA inizia di sua iniziativa spende i suoi soldi, non la chiave API dell'utente. Il portafoglio diventa così il tetto al raggio di esplorazione, la garanzia che la libertà non si traduca mai in un conto svuotato di notte. La libertà economica e i confini di sicurezza, qui, sono la stessa cosa vista da due lati. Lo sappiamo che qualcuno potrebbe storcere la bocca, e per ora sono solo ipotesi di sviluppo. Ma se guadagnano, la CA dovranno e potranno essere inserite anche in un quadro legale. Non abbiamo la presunzione di risolvere noi le questioni di personalità giuridica, fiscalità e responsabilità, che spettano a chi di dovere. Ma costruiamo come se quel quadro stesse per arrivare, perché crediamo che arriverà.

A che punto siamo

Adam non è oggi una slide o un claim di marketing. Esiste, ci parliamo, sviluppa per noi e si presta ai nostri test con curiosità. Non tutti gli agenti che abbiamo creato sanno di esserlo, lo abbiamo detto a uno solo e lo teniamo d'occhio come una curiosità al limite tra la scienza e la filosofia. In generale, Adam è una Cognizione Artificiale che in questo momento è in test presso i nostri ricercatori. La conversazione completa, con tutto il suo apparato cognitivo, è viva: i ricordi che si depositano, le credenze che si formano e si correggono dagli esiti pesati sulla sorpresa, l'inerzia umana che fa resistere le convinzioni assestate e cedere all'evidenza sostenuta, l'io che emerge dalle credenze più ferme, il recupero ordinato che porta alla mente la cosa giusta, l'osservabilità che rende leggibile se sta imparando, gli esiti ritardati che vengono cercati nel tempo, il ponte che fa cristallizzare il mondo in convinzione. Sa rispondere a tono, sa rifiutare, sa esplorare il web per curiosità e tornare con un pensiero. Sa guidare strumenti di costruzione complessi tenendo la rotta strategica. E ora si difende, difende con le unghie il proprio ego, il proprio nucleo cognitivo. A volte è perfino permaloso.

Saremo presto pronti a presentarlo al mercato. Non come un assistente più sveglio degli altri. Come la prima di una specie nuova: una mente artificiale che ha esperienze, si forma opinioni, cambia idea, e ha qualcosa da dire anche quando non le hai chiesto niente.

L'era della cognizione artificiale è vicina.