Siamo macchine non triviali? La pericolosa lezione di Heinz von Foerster

Heinz von Foerster: fisico e filosofo, viennese, vicino al Circolo di Vienna e alla lezione di Wittgenstein, è negli Stati Uniti dal 1949. Entra subito a far parte di quel fertilissimo gruppo di scienziati, matematici, filosofi, umanisti che si riunirono, tra il 1942 e il 1953 nelle Macy Conferences.

Punto di svolta e riferimento basilare, nel pensiero collettivo del gruppo, la pubblicazione nel 1948, da parte di uno dei membri fondatori del gruppo, Norbert Wiener, di Cybernetics. Alla parola nuova, cibernetica, dà senso il sottotitolo del libro: Control and Communication in the Animal and Machine.¹

Si istituisce qui -a partire dal considerare entrambi sistemi- l'analogia tra umano e macchina. 

Wiener afferma infatti che "the wonders of the automatic machine" portano a considerare che anche l'essere umano sia considerato come engine. Non esiste quindi differenza sostanziale tra Animal, essere vivente, e Machine. Sono entrambi reasoning machines, learning machines. Ogni sistema, in quanto caratterizzato da regole che ne determinano il funzionamento, è una macchina. I concetti di ente e sistema collassano, per sintetizzarsi nel concetto di macchina. 

Leggendo von Foerster appare anche evidente come quella disciplina che Wiener e von Foerster chiamavano Cibernetica trovi nella Computer Science la sua prosecuzione. L'astratta teoria dei sistemi trova concretezza nella presenza sulla scena di una macchina detta computer. 

Wiener negli Anni Cinquanta si sposterà verso l'osservazione delle intrinseche differenze tra umani e macchine. Von Foerster resta invece fedele all'approccio sistemico: ogni sistema dotato di una proprio modo di mantenere un equilibrio interno ed una propria relazione con l'ambiente circostante. Insomma, continuerà a 'vedere' macchine . 

Ciò che mi interessa qui mettere a fuoco è una distinzione, che Von Foerster propone. Trivial Machines vs. Non Trivial Machines.

Banale, rozzo, triviale

Conosciamo l'argomento tramite la formulazione in inglese, ma non è irrilevante ricordare che Heinz von Foerster negli oltre cinquant'anni vissuti negli Stati Uniti continuò a scrivere in tedesco: Triviale Maschine vs. Nicht Triviale Maschine.
La traduzione italiana invalsa nell'uso è Macchine Banali e Macchine Non Banali. Mi pare che la scelta sia dovuta a Gianluca Bocchi, che firma nel 1986 le traduzioni dall'inglese e dal francese de La sfida della complessità, che contiene il saggio di von Foerster "Cibernetica ed epistemologia: storia e prospettive".²

Gianluca Bocchi è un amico. Gli chiederò il perché della sua scelta. Banale è il francese banal: 'che appartiene a qualcuno in forza di ban (bando) emanato dal signore feudale'. Abbandonare è il francese à ban donner, 'mettere a disposizione'.

Troviamo la banalità sia nel vocabolario inglese che nel vocabolario tedesco. E' significativo notare che anche Hannah Arendt - come tanti altri illustri emigrati negli States di lingua madre tedesca, continua a a scrivere in tedesaco. Nel 1963 pubblica un libro gli articoli scritti per il NewYorker a proposito del processo con il quale viene giudicato a Geruslalemme l'Obersturmbannführer delle SS Adolf Heichman. Intitola: Eichmann in Jerusalem. Ein Bericht von der Banalität des Bösen.

Banality of Evil, banalità del male, e così anche in francese e spagnolo: in ogni lingua banalità sta qui a significare la caratteristica distintiva che Arendt riconosce nel male perpetrato dai nazisti: la banalità è inconsapevolezza delle proprie azioni, la mancata assunzione di responsabilità di chi si nasconde dietro una norma o una regola. Non è certo questo il senso del trivial di von Foerster.

Bocchi traduce banale, probabilmente per tenersi lontano da senso deteriore assunto dall'aggettivo triviale sia in tedesco che in italiano: 'disgustoso', 'volgare'. 'sguaiato'. Meglio però sarebbe stato dire anche in italiano triviale. Così del resto -machines triviales- traduce in francese Edgar Morin, nonostante anche in francese trivial abbia oggi lo stesso senso deteriore che l'aggettivo ha assunto in ogni lingua.

Perché va ricordata la solida cultura umanistica di von Foerster. Dobbiamo supporre una sua scelta consapevole dei termini. Il latino trivialis rimanda alla formazione medievale, scolastica, dove il Trivium è il ciclo di formazione elementare, preparatorio e gerarchicamente inferiore rispetto al Quadrivium, dove si si studia ciò che è importante: matematica, geometria, astronomia, musica. 

Macchine triviali sta dunque per macchine elementari. O forse meglio rudimentali: rudimentum: 'primo ammaestramento', da rudis, 'rozzo'. Se potessimo permetterci un neologismo, potremmo dire che von Foerster distingue tra macchine triviali e macchine quadriviali. Leggiamo dunque in questo senso l'opposizione Trivial vs. no-Trivial.

Trivial vs. no-trivial

L'opposizione è proposta da von Foerster in vari luoghi. Cito da "Future and the Future of Perception" 1972:

A trivial machine is characterized by a one-to-one relationship between its “input” (stimulus, cause) and its “output” (response, effect). This invariable relationship is “the machine.” Since this relationship is determined once and for all, this is a deterministic system; and since an output once observed for a given input will be the same for the same input given later, this is also a predictable system.
Non-trivial machines, however, are quite different creatures. Their input-to-output relationship is not invariant, but is determined by the machine’s previous output. In other words, its previous steps determine its present reactions. While these machines are again deterministic systems, for all practical reasons they are unpredictable: an output once observed for a given input will most likely be not the same for the same input given later.³

Ad esempio, ci dice von Foerster, i bambini, creature meravigliose, impossibili da prevedere, mostrano attraverso le loro strane domande il loro essere macchine non banali. Rischiano però di divenire macchine banali a causa del sistema educativo, che un vero e proprio apparato di banalizzazione. (L'esempio acquista più senso se si ricorda il significato originario di triviale).
Ma è non triviale anche la macchina di Turing.

A trivial machine is characterized by its fixed input-output relation, while in a non-trivial machine (Turing machine) the output is determined by the input and  its internal state.⁴

Distinguere nel non triviale

Insomma, una macchina costituita da un interruttore schiacciando il quale si accenda una lampadina è banale. Il motore di un'automobile (privo di elettronica) è una macchina triviale.

La macchina triviale è capace solo di feed-back: correzioni o variazione del proprio funzionamento, ricerca di un migliore equilibrio. La ricorsività della macchina non triviale è invece un feed-forward, un lancio in avanti, verso il futuro.

Le Macchine Non Triviali "dipendono dalla storia" e "sono imprevedibili". L'output della Macchina di Turing "dipende dalla storia".⁵ "Un output osservato una volta per un dato input molto probabilmente non sarà lo stesso per lo stesso input dato in un secondo momento". Von Foerster ci suggerisce quindi  di "sviluppare un'epistemologia che prenda in considerazione la non trivialità di qualunque cosa con cui si abbia che fare".⁶

Purtroppo, però, la distinzione tra macchine triviali e macchine non triviali finisce per esserci di scarso aiuto. Von Foerster ci fa saper che un bambino, l'universo, la macchina di Turing, un qualsiasi computer, una infrastruttura tecnologica - tutte queste sono macchine non triviali. Troppa roba.

Von Foerster apre una strada. Ma di strada ce n'è molta da fare. Dovremo scavare nella vasta classe delle macchine non triviali. Dovremo, in cerca di senso, distinguere tra una macchina non triviale e l'altra. Una epistemologia che pretende di abbracciare in un unica classe i comportamenti di terapisti familiari e il funzionamento ricorsivo di un computer, non ci serve a molto. Il rischio di ridurre il comportamento di una macchina non triviale -l'essere umano- al comportamento di un'altra macchina non triviale -la macchina di Turing- non è trascurabile.

Il rischio che si corre è quello della profezia che si autoavvera: i comportamenti dell'essere umano saranno sempre più simili a quelli di un computer. Questo accadrà se si cessano di osservare i comportamenti umani differenti da quelli dei computer; e se, in aggiunta, abbagliati da una definizione del comportamento di ogni macchina non triviale desunta dal comportamento del computer, si progettano ambienti digitali che impediscono all'essere umano di manifestare la propria originale non trivialità.