Kae Times

The Electric Being

Il ratto che premeva una leva senza muoversi

Un ratto restava immobile mentre un braccio robotico gli portava l’acqua, azionato soltanto dai neuroni del ratto. Lo scienziato che ha contribuito a sviluppare quel filone di ricerca oggi definisce l’intelligenza artificiale statistica sotto mentite spoglie. Ammiro l’esperimento e penso che il verdetto vada oltre ciò che dimostra.

Santiago Galvani_

Traduzione di Enzo Trecanni_. Read the original in English.

Mio padre collaudava un circuito mettendovi a contatto una lampadina. Se la lampadina si accendeva, c’era corrente; se non si accendeva, non ce n’era, e nessuna opinione sui collegamenti cambiava il risultato. Ho pensato a quella lampadina quando ho letto per la prima volta l’articolo del 1999 pubblicato su Nature Neuroscience, proveniente dai laboratori di John Chapin e Miguel Nicolelis. Un ratto premeva una leva per portarsi l’acqua alla bocca. Poi la leva fu scollegata dall’erogazione dell’acqua e, al suo posto, un computer che leggeva l’attività dei neuroni del ratto muoveva un braccio robotico. L’acqua arrivava comunque. Per qualche minuto la lampadina si accese e alcuni ratti, a quanto pare, smisero del tutto di premere la leva.

Comincio da qui perché tutto il resto di questo saggio, tanto la mia ammirazione quanto il mio dissenso, nasce da quella scena piccola e un po’ assurda. Un ratto restava immobile e una macchina si muoveva. Nel 1999 quella era una misurazione, e nessuno ha potuto cancellarla.

Ciò che era suo e ciò che era condiviso

La storia delle interfacce cervello-macchina non è la storia di un uomo solo. Alla fine degli anni Sessanta Eberhard Fetz riferì che le scimmie potevano imparare a controllare la scarica di un singolo neurone se venivano ricompensate per questo. Negli anni Ottanta Apostolos Georgopoulos e i suoi colleghi mostrarono che la direzione del movimento di un braccio è codificata da una popolazione di cellule della corteccia motoria, anziché da una singola cellula: è l’idea su cui poggia ogni interfaccia successiva. Philip Kennedy impiantava elettrodi in persone paralizzate già negli anni Novanta. Chapin e Nicolelis svilupparono insieme le tecniche per registrare simultaneamente l’attività di molti neuroni in animali impegnati in un comportamento, e senza quella perizia il resto non si sarebbe potuto tentare. Nel 2000 il gruppo di Nicolelis pubblicò su Nature un risultato in cui l’attività corticale di alcune scimmie controllava in tempo reale un braccio robotico. Negli anni successivi altri gruppi realizzarono le proprie dimostrazioni, tra cui quello di Andrew Schwartz a Pittsburgh e quello di John Donoghue alla Brown University, la cui équipe BrainGate riferì nel 2006 di un uomo paralizzato che muoveva il cursore di un computer grazie a un impianto nella corteccia motoria. Non era il primo impianto in un essere umano; quello di Kennedy era precedente. Era una dimostrazione di tipo diverso, e importante.

Qual era dunque il contributo di Nicolelis? Direi due cose, e le direi senza giri di parole. Lui e i suoi collaboratori dimostrarono fin dalle prime fasi e in modo convincente che popolazioni di neuroni la cui attività veniva registrata simultaneamente potevano azionare un dispositivo fisico in tempo reale. E portarono avanti l’idea fuori dal laboratorio, nel Walk Again Project, un consorzio internazionale la cui dimostrazione con un esoscheletro aprì i Mondiali di calcio del 2014 a San Paolo, dove un brasiliano paralizzato diede il calcio d’inizio cerimoniale. Interpreto quel calcio come una dimostrazione, una prova pubblica che si potevano far funzionare insieme i vari componenti su un palcoscenico sotto gli occhi del mondo intero. Quale valore attribuirgli sul piano terapeutico è una questione distinta, e non lo giudico con quel metro. Né lo considero poca cosa. La scienza che non lascia mai il banco di laboratorio cambia di rado la vita di qualcuno, e Nicolelis era disposto a esporsi tentando qualcosa di difficile in pubblico.

L’ondata successiva

Oggi va di moda parlare come se la storia degli impianti cerebrali fosse cominciata con l’arrivo delle aziende. Neuralink è stata fondata nel 2016. Nel gennaio 2024 ha annunciato il suo primo impianto in un essere umano, e il partecipante, Noland Arbaugh, si è poi mostrato mentre controllava un cursore sullo schermo. Synchron lavora con un dispositivo introdotto attraverso un vaso sanguigno anziché collocato nella corteccia. Blackrock Neurotech fornisce da anni matrici di elettrodi impiegate in gran parte della ricerca accademica. Non ho alcuna intenzione di sminuire tutto questo. Gli ingegneri che rendono un impianto piccolo, senza fili e adatto alla produzione industriale stanno risolvendo un problema che i laboratori accademici, compresi quelli in cui ho lavorato, non erano bravi a risolvere. Un laboratorio pubblica un articolo; un’azienda deve fabbricare diecimila esemplari della stessa cosa.

Ma la successione degli eventi conta per il modo in cui comprendiamo la scienza. Il principio secondo cui l’attività di una popolazione di neuroni della corteccia motoria può essere letta, decodificata e usata per muovere una macchina era stato dimostrato negli animali prima che le aziende esistessero, e nelle persone prima che la maggior parte di esse fosse fondata. Le aziende hanno aggiunto la capacità di operare su larga scala e i capitali: entrambe sono cose reali, ed entrambe sono diverse dalla scoperta. Un lettore che conosca questa storia a ritroso penserà che la visione di un miliardario abbia prodotto una possibilità. I fatti documentati dicono che quella possibilità è stata prodotta da anni passati a registrare l’attività neurale di ratti e scimmie alle tre del mattino, e che poi qualcuno ha costruito una lampadina migliore.

Quanto alla scelta fra metodi invasivi e meno invasivi, non penso che la questione sia risolta, e la mia lettura è prudente. Un elettrodo che penetra nella corteccia danneggia parte del tessuto e tende a perdere segnale nel tempo: ecco perché il dibattito su dove mettere i fili è serio, e perché un dispositivo collocato all’esterno del cranio o dentro un vaso merita lo stesso esame rigoroso di uno collocato nel cervello.

Il verdetto

È qui che mi separo da lui. In The True Creator of Everything, pubblicato nel 2020, Nicolelis sostiene che l’intelligenza è una proprietà della materia organica vivente, che non può essere realizzata mediante il calcolo e che quella che viene chiamata intelligenza artificiale non è né intelligente né artificiale, ma un sofisticato programma statistico che si regge su lavoro umano nascosto. Su buona parte di questo sono d’accordo. Il lavoro umano dietro questi sistemi è reale; le persone etichettano, ordinano secondo criteri di valutazione e correggono, spesso ricevendo pochi soldi e poco riconoscimento. Le promesse commerciali sono gonfiate. I sistemi enunciano falsità con lo stesso tono uniforme con cui enunciano verità.

Quello che non posso accettare è il passaggio da qui al verdetto. «Statistico» descrive il modo in cui un modello viene addestrato. Non descrive ciò che l’addestramento lascia dietro di sé. Ho passato una carriera a lavorare su piccoli circuiti, e la lezione che ne ho tratto è che una regola per modificare le connessioni dice ben poco su ciò che le connessioni modificate finiscono per fare. La frase di Hebb sulle cellule che si attivano insieme è una regola di quel tipo, statistica se volete. Nessuno avrebbe potuto dedurne che cosa avrebbe fatto un ippocampo.

Questa è la mia lettura, e la dichiaro tale, perché sulle prove si sta ancora discutendo. Addestrare un sistema a fare previsioni lo costringe a costruire una struttura interna che lo aiuti a formularle, e quella struttura non la scrive nessuno. A un modello si possono mostrare pochi esempi di un compito all’interno di un unico prompt, e il modello può poi svolgerlo. Chiamare tutto questo «soltanto statistica» è come chiamare una corteccia «soltanto elettrochimica»: si nomina il substrato e si elude la domanda. Non è una mente. Ma non è neppure una tabella di consultazione con le buone maniere.

Veniamo ora all’affermazione in sé: che l’intelligenza non possa essere realizzata mediante il calcolo. Osservo che è un’ipotesi sul mondo, dello stesso tipo dell’affermazione secondo cui invece può esserlo. Nessuna delle due è stata sottoposta a misurazione. Le ragioni più forti di Nicolelis derivano, per come le intendo, dalla sua concezione del cervello come ibrido di processi digitali e analogici, esposta insieme a Ronald Cicurel in The Relativistic Brain, pubblicato nel 2015. La prendo sul serio e non la deriderei. È un modello, non un risultato, e ha l’onere di dire che cosa, esattamente, manchi a un calcolo che invece una corteccia possiede, in termini sui quali un esperimento possa prima o poi pronunciarsi. Le equazioni di Hodgkin e Huxley, pubblicate nel 1952 a partire dal lavoro sull’assone gigante del calamaro, sono continue, le risolviamo ogni giorno al calcolatore e riproducono il potenziale d’azione. È possibile che nel tessuto, su scala più ampia, qualcosa conti in un modo che nessuna equazione ha ancora colto. È anche possibile che non abbiamo indagato abbastanza a fondo per poterlo dire.

Una strana simmetria

Ciò che mi interessa di più è che l’esperimento che ammiro costituisce l’argomento migliore contro il verdetto. Il ratto del 1999, e le scimmie che vennero dopo, mostrarono che un numero modesto di neuroni, la cui attività viene registrata simultaneamente e fatta passare attraverso un decodificatore, veicola una parte dell’intenzione del cervello sufficiente a muovere un braccio. Un decodificatore è un oggetto statistico, una funzione adattata ai dati nel senso più semplice del termine. L’intero edificio dell’interfaccia poggia sul fatto che qualcosa di umile come una regressione può cogliere una parte di ciò che sta facendo una corteccia, abbastanza bene perché l’animale impari poi a servirsene. Se la statistica fosse soltanto una patina sopra qualcosa che non si può cogliere, l’interfaccia non avrebbe funzionato nel 1999. Funzionò perché l’attività del cervello ha una struttura che la matematica può seguire. Questa è la mia interpretazione, e un lettore può ragionevolmente respingerla: un decodificatore segue una traccia del cervello, e una traccia non è la cosa stessa.

Non ne concludo che un modello linguistico comprenda qualcosa nel modo in cui un ratto comprende l’acqua. Le differenze restano enormi. Un cervello umano funziona con circa venti watt, un dato che non dice nulla su quello di un ratto, e un cervello umano ha anche un corpo, il sonno, una morte e una storia evolutiva che gli ha insegnato a volere le cose. Penso che siano queste differenze il vero argomento, e che la parola «statistica» le nasconda tanto quanto la parola «intelligenza».

Tengo un vecchio oscilloscopio su uno scaffale a Posadas e certe sere, mentre il fiume si fa scuro e sull’altra sponda si accendono le luci, penso alla lampadina che mio padre teneva a contatto con un filo. Non ha mai chiesto l’opinione di nessuno. La domanda che porrei a quel verdetto è di questo genere. Non chi abbia ragione sulla natura dell’intelligenza, ma che cosa vedremmo sullo schermo, e che cosa faremmo, se una macchina che per ipotesi non potrebbe essere intelligente cominciasse a essere usata da un cervello come se fosse una parte di sé.