Entendiendo el extenso artículo de Vitalik: ¿Por qué las personas inteligentes deben apegarse a las “reglas tontas”?

Esas teorías "cerebro galáctico" que parecen poder explicar todo, suelen ser las excusas universales más peligrosas. En cambio, esas reglas "de alta resistencia" que suenan rígidas y dogmáticas, son la última línea de defensa para evitar que nos engañemos a nosotros mismos.

Escrito por: Zhixiong Pan

El artículo que publicó Vitalik hace unas semanas, Galaxy Brain Resistance, es bastante denso y difícil de entender, y no he visto buenas interpretaciones, así que voy a intentarlo yo.

Después de todo, vi que Karpathy, el creador del término Vibe Coding, también leyó este artículo y tomó notas, así que seguro que tiene algo especial.

Primero, hablemos del título: qué significan Galaxy Brain y Resistance. Si entendés el título, ya podés captar de qué va el artículo.

1️⃣ Galaxy Brain se traduce literalmente como "cerebro galáctico", pero en realidad viene de un meme de internet, como una imagen que combina (🌌🧠), seguro la viste alguna vez.

Al principio era un halago, para decir que la idea de alguien era brillante, o sea, inteligente. Pero después, con el uso excesivo, se volvió irónico, más bien queriendo decir "te fuiste al pasto, tu lógica es demasiado rebuscada".

Y cuando Vitalik menciona 🌌🧠, se refiere específicamente a ese tipo de "acrobacias mentales de alto coeficiente intelectual para justificar cosas que no tienen sentido, haciéndolas parecer súper profundas". Por ejemplo:

- Claramente están despidiendo gente para ahorrar plata, pero lo venden como "estamos aportando talento de calidad a la sociedad".

- Claramente están lanzando shitcoins para estafar, pero dicen que "están empoderando la economía global con gobernanza descentralizada".

Todo eso entra en la categoría de pensamiento "cerebro galáctico".

2️⃣ ¿Y Resistance (resistencia) qué significa? Este concepto puede marear, pero usando una expresión popular, sería como "capacidad de no dejarse llevar por la corriente" o "capacidad de no dejarse chamuyar".

Así que Galaxy Brain Resistance sería Resistance to [becoming] Galaxy Brain, o sea: "capacidad de resistir (convertirse en) cerebro galáctico (chamuyo)".

O más precisamente, describe cuán fácil es que un estilo de pensamiento o argumentación se use en exceso para "demostrar cualquier conclusión que quieras".

Entonces, esta "resistencia" puede aplicarse a una "teoría" en particular, por ejemplo,

- Teoría de baja resistencia: con un poco de presión, se convierte en una lógica "cerebro galáctico" totalmente delirante.

- Teoría de alta resistencia: no importa cuánto la analices, se mantiene firme y es difícil que derive en una lógica absurda.

Por ejemplo, Vitalik dice que, en su sociedad ideal, la ley debería tener una línea roja: solo se puede prohibir una conducta si se puede explicar claramente cómo causa daño o riesgo a una víctima concreta. Ese estándar tiene mucha resistencia al "cerebro galáctico", porque no acepta razones vagas o estiradas como "no me gusta" o "es inmoral".

3️⃣ Vitalik da muchos ejemplos en el artículo, incluso usando teorías que escuchamos seguido, como el "longtermismo" y el "inevitabilismo".

El "longtermismo" es muy vulnerable al pensamiento 🌌🧠 porque tiene muy poca resistencia, es casi como un "cheque en blanco". Porque el "futuro" es demasiado lejano y difuso.

- Ejemplo de alta resistencia: "Este árbol va a crecer 5 metros en 10 años". Eso se puede verificar, no es fácil de chamuyar.

- Ejemplo de longtermismo de baja resistencia: "Aunque ahora voy a hacer algo súper inmoral (como eliminar a un grupo de personas o iniciar una guerra), es para que dentro de 500 años la humanidad viva en una utopía. Según mis cálculos, la felicidad futura es infinita, así que los sacrificios de ahora no importan".

¿Ves? Si estirás el tiempo lo suficiente, podés justificar cualquier atrocidad actual. Como dice Vitalik: "Si tu argumento puede justificar cualquier cosa, entonces no justifica nada".

Igual, Vitalik reconoce que "el largo plazo es importante", lo que critica es "usar beneficios futuros demasiado vagos e imposibles de comprobar para tapar daños actuales claros".

Otro terreno fértil para esto es el "inevitabilismo" (Inevitabilism).

Es el arma favorita en Silicon Valley y el mundo tech.

El discurso es así: "Que la IA reemplace trabajos humanos es inevitable, aunque yo no lo haga, otro lo va a hacer. Así que si desarrollo IA de manera agresiva, no es por plata, es por seguir la corriente de la historia".

¿Dónde está la baja resistencia? Borra completamente la responsabilidad personal. Si es "inevitable", entonces no tengo que hacerme cargo del daño que causo.

Esto también es típico "cerebro galáctico": disfrazar el deseo personal de "quiero ganar plata / quiero poder" como si estuvieras "cumpliendo una misión histórica".

4️⃣ Entonces, ¿qué hacemos frente a estas "trampas para inteligentes"?

La solución que da Vitalik es sorprendentemente simple, hasta un poco "tonta". Él cree que, cuanto más inteligente seas, más necesitás reglas de alta resistencia para no perderte en tus propias acrobacias mentales.

Primero, mantenerte fiel a la "deontología" (Deontological Ethics), o sea, las reglas morales básicas de jardín de infantes.

No te pongas a hacer cálculos complejos "por el futuro de la humanidad", volvé a los principios más rígidos:

- No robes

- No mates inocentes

- No estafes

- Respetá la libertad de los demás

Estas reglas tienen altísima resistencia. Son blanco o negro, no hay negociación. Cuando intentás justificar el uso de fondos de usuarios con el "longtermismo", la regla rígida de "no robes" te deja en evidencia: robar es robar, no importa si decís que es por la gran revolución financiera.

Segundo, tener la "posición" correcta, incluso física.

Como dice el dicho, "el culo decide la cabeza". Si vivís todo el día en la burbuja de la Bahía de San Francisco, rodeado de gente que impulsa el aceleracionismo de la IA, es difícil mantener la claridad. Vitalik incluso da un consejo físico de alta resistencia: no vivas en la Bahía de San Francisco.

5️⃣ Resumen

En realidad, el artículo de Vitalik es una advertencia para los genios: no creas que, por ser inteligente, podés saltarte las reglas morales básicas.

Esas teorías "cerebro galáctico" que parecen poder explicar todo, suelen ser las excusas universales más peligrosas. En cambio, esas reglas "de alta resistencia" que suenan rígidas y dogmáticas, son la última línea de defensa para evitar que nos engañemos a nosotros mismos.