Autore: Zhixiong Pan
L’articolo pubblicato da Vitalik qualche settimana fa, "Galaxy Brain Resistance", è in realtà piuttosto oscuro e difficile da capire, e non ho visto buone interpretazioni, quindi ci provo io.
Dopotutto, anche Karpathy, il creatore del termine Vibe Coding, ha letto questo articolo e preso appunti, quindi sicuramente c’è qualcosa di speciale.
Per prima cosa, spieghiamo cosa significano il titolo Galaxy Brain e Resistance. Una volta capito il titolo, capirai grosso modo di cosa parla l’articolo.
1️⃣ La traduzione cinese di Galaxy Brain è "cervello galattico", ma in realtà deriva da un meme di Internet, simile a un’immagine che unisce (🌌🧠), che sicuramente hai visto.
All’inizio era ovviamente un complimento, usato per lodare le idee brillanti di qualcuno, cioè per dire che è intelligente. Ma poi, con l’uso eccessivo, è diventato gradualmente una sorta di ironia, che significa più o meno "stai pensando troppo, la logica è troppo contorta".
Qui Vitalik, menzionando 🌌🧠, si riferisce specificamente a quel tipo di comportamento in cui si usano acrobazie mentali ad alto quoziente intellettivo per trasformare qualcosa di insensato in una grande verità. Per esempio:
- Chiaramente si licenzia in massa per risparmiare soldi, ma si dice che è "per fornire talenti di alta qualità alla società".
- Chiaramente si emettono shitcoin per truffare, ma si proclama che si sta "potenziando l’economia globale attraverso la governance decentralizzata".
Tutto questo può essere considerato pensiero "cervello galattico".
2️⃣ E cosa significa Resistance (resistenza)? Questo concetto può confondere facilmente, ma in termini semplici si può paragonare alla "capacità di resistere alla manipolazione" o "capacità di non farsi abbindolare".
Quindi Galaxy Brain Resistance dovrebbe essere Resistance to [becoming] Galaxy Brain, cioè: "la capacità di resistere (a diventare) cervello galattico (fandonie)".
O, più precisamente, serve a descrivere quanto sia facile o difficile che uno stile di pensiero/argomentazione venga abusato per "dimostrare qualsiasi conclusione tu voglia".
Questa "resistenza" può quindi riferirsi a una certa "teoria", per esempio,
- Teorie a bassa resistenza (Low Resistance): basta analizzarle un po’ e possono facilmente evolvere in logiche "cervello galattico" estremamente assurde.
- Teorie ad alta resistenza (High Resistance): non importa quanto le analizzi, rimangono invariate, è difficile che degenerino in logiche assurde.
Per esempio, Vitalik dice che nella sua società ideale dovrebbe esserci una linea rossa nella legge: solo quando si può spiegare chiaramente come un certo comportamento causi danno o rischio concreto a una vittima specifica, allora può essere vietato. Questo standard ha una grande resistenza al Galaxy Brain, perché non accetta motivazioni vaghe o tirate come "non mi piace soggettivamente" o "offende la morale pubblica".
3️⃣ Vitalik nell’articolo fa anche molti esempi, persino con teorie che sentiamo spesso, come "longtermismo" e "inevitabilismo".
Il "longtermismo" è molto vulnerabile all’erosione del pensiero 🌌🧠, perché la sua resistenza è molto bassa, è praticamente un "assegno in bianco". Perché il "futuro" è troppo lontano e troppo vago.
- Affermazione ad alta resistenza: "Questo albero crescerà di 5 metri in 10 anni". Questo è verificabile, non è facile inventare scuse.
- "Longtermismo" a bassa resistenza: "Anche se ora devo fare qualcosa di estremamente immorale (come eliminare una parte di persone, o scatenare una guerra), è per permettere all’umanità di vivere in un’utopia tra 500 anni. Secondo i miei calcoli, la felicità futura sarà infinita, quindi i sacrifici attuali sono trascurabili."
Vedi, basta allungare abbastanza il tempo e puoi giustificare qualsiasi malefatta attuale. Come dice Vitalik: "Se la tua argomentazione può giustificare qualsiasi cosa, allora non giustifica nulla".
Tuttavia, Vitalik ammette anche che "il lungo termine è importante", ma critica "l’uso di benefici futuri eccessivamente vaghi e non verificabili per coprire danni attuali chiari".
Un altro campo minato è "inevitabilismo" (Inevitabilism).
Questa è anche la tecnica di autodifesa preferita nella Silicon Valley e nel mondo tech.
Il discorso è questo: "L’AI che sostituisce il lavoro umano è una necessità storica, anche se non lo faccio io, lo farà qualcun altro. Quindi ora sviluppo l’AI in modo aggressivo non per soldi, ma per seguire il corso della storia."
Dove sta la bassa resistenza? Elimina perfettamente il senso di responsabilità personale. Se è "inevitabile", allora non devo assumermi la responsabilità dei danni che causo.
Anche questa è una tipica logica da cervello galattico: mascherare il desiderio personale di "fare soldi / ottenere potere" come "sto compiendo una missione storica".
4️⃣ Allora, di fronte a queste "trappole per persone intelligenti", cosa dovremmo fare?
La soluzione proposta da Vitalik è sorprendentemente semplice, quasi "ingenua". Secondo lui, più si è intelligenti, più si ha bisogno di regole ad alta resistenza per auto-limitarsi, per evitare di perdersi nelle proprie acrobazie mentali.
Primo, attenersi al "deontologismo" (Deontological Ethics), cioè alle regole morali di base da scuola materna.
Non fare calcoli complessi "per il futuro dell’umanità", ma torna ai principi più rigidi:
- Non rubare
- Non uccidere innocenti
- Non truffare
- Rispetta la libertà altrui
Queste regole hanno altissima resistenza. Perché sono bianche o nere, non si discutono. Quando provi a giustificare con il "longtermismo" perché hai sottratto fondi degli utenti, la regola rigida "non rubare" ti colpisce in faccia: rubare è rubare, non tirare in ballo la grande rivoluzione finanziaria.
Secondo, avere la giusta "posizione", anche fisica.
Come si dice, "la posizione determina la testa". Se passi le tue giornate nella echo chamber della Bay Area di San Francisco, circondato da gente che fa AI accelerationism, è difficile rimanere lucidi. Vitalik dà persino un consiglio ad alta resistenza a livello fisico: non vivere nella Bay Area di San Francisco.
5️⃣ Conclusione
In realtà, questo articolo di Vitalik è un avvertimento agli élite estremamente intelligenti: non pensare che, solo perché sei intelligente, puoi aggirare le regole morali di base.
Quelle teorie "cervello galattico" che sembrano poter spiegare tutto sono spesso le scuse universali più pericolose. Al contrario, quelle regole "ad alta resistenza" che sembrano rigide e dogmatiche sono l’ultima linea di difesa contro l’autoinganno.
