Escrito por: Zhixiong Pan
El artículo que publicó Vitalik hace unas semanas, "Galaxy Brain Resistance", en realidad es bastante críptico y difícil de entender, y no he visto buenas interpretaciones, así que voy a intentarlo yo.
Después de todo, vi que Karpathy, el creador del término Vibe Coding, también leyó este artículo y tomó notas, así que seguro que tiene algo especial.
Primero, expliquemos qué significan "Galaxy Brain" y "Resistance" en el título. Una vez que entiendas el título, ya tendrás una idea general de lo que trata el artículo.
1️⃣ "Galaxy Brain" se traduce al español como "cerebro galáctico", pero en realidad viene de un meme de internet, similar a una imagen que combina (🌌🧠), seguro la viste alguna vez.
Al principio, era un término positivo, para elogiar ideas brillantes, o sea, inteligentes. Pero con el tiempo y el uso excesivo, se volvió algo irónico, significando más bien "pensaste demasiado, tu lógica se fue por las ramas".
Y cuando Vitalik menciona 🌌🧠 aquí, se refiere específicamente a ese tipo de "gimnasia mental de alto coeficiente intelectual, donde se fuerza una explicación lógica a algo que no la tiene". Por ejemplo:
- Claramente se están haciendo despidos masivos para ahorrar dinero, pero lo venden como "aportar talento de alta calidad a la sociedad".
- Claramente están lanzando shitcoins para estafar, pero lo presentan como "empoderar la economía global a través de la gobernanza descentralizada".
Todo eso puede considerarse pensamiento "cerebro galáctico".
2️⃣ ¿Y qué significa "Resistance" (resistencia)? Este concepto puede ser confuso, pero usando un término popular, se puede comparar con la "capacidad de no dejarse manipular" o "capacidad de no dejarse engañar".
Así que "Galaxy Brain Resistance" sería "resistencia a convertirse en cerebro galáctico", es decir, la capacidad de resistir caer en ese tipo de razonamientos rebuscados.
O más precisamente, describe cuán fácil es que un estilo de pensamiento o argumentación se abuse para "demostrar cualquier conclusión que quieras".
Así que esta "resistencia" puede aplicarse a una "teoría" en particular, por ejemplo,
- Teorías de baja resistencia: con un poco de presión, pueden derivar en lógicas "cerebro galáctico" totalmente absurdas.
- Teorías de alta resistencia: no importa cuánto las presiones, se mantienen firmes y es difícil que se desvíen hacia razonamientos absurdos.
Por ejemplo, Vitalik dice que, en su sociedad ideal, la ley debería tener una línea roja: solo se puede prohibir una conducta si se puede explicar claramente cómo causa daño o riesgo a una víctima concreta. Este estándar tiene mucha resistencia al "cerebro galáctico", porque no acepta razones vagas o infinitamente elásticas como "no me gusta" o "es inmoral".
3️⃣ Vitalik da muchos ejemplos en el artículo, incluso usando teorías que escuchamos a menudo, como el "longtermismo" y el "inevitabilismo".
El "longtermismo" es muy vulnerable al pensamiento 🌌🧠 porque su resistencia es bajísima, es casi un "cheque en blanco". Porque el "futuro" es demasiado lejano y difuso.
- Ejemplo de alta resistencia: "Este árbol crecerá 5 metros en 10 años". Es verificable, no se puede inventar cualquier cosa.
- Ejemplo de baja resistencia en el "longtermismo": "Aunque ahora voy a hacer algo sumamente inmoral (como eliminar a un grupo de personas o iniciar una guerra), es para que dentro de 500 años la humanidad viva en una utopía. Según mis cálculos, la felicidad futura será infinita, así que el sacrificio actual no cuenta".
Ves, si estirás el tiempo lo suficiente, podés justificar cualquier atrocidad presente. Como dice Vitalik: "Si tu argumento puede justificar cualquier cosa, entonces no justifica nada".
Sin embargo, Vitalik también reconoce que "el largo plazo es importante", lo que critica es "usar beneficios futuros excesivamente vagos e imposibles de verificar para tapar daños presentes claros".
Otro caso problemático es el "inevitabilismo" (Inevitabilism).
Esta es la defensa favorita en Silicon Valley y el mundo tech.
El discurso es así: "Que la IA reemplace trabajos humanos es inevitable, aunque yo no lo haga, alguien más lo hará. Así que si desarrollo IA agresivamente no es por dinero, sino por seguir el curso de la historia".
¿Dónde está la baja resistencia? Disuelve perfectamente la responsabilidad personal. Si es "inevitable", entonces no tengo que hacerme cargo de los daños que cause.
Esto también es típico "cerebro galáctico": disfrazar el deseo personal de ganar dinero o poder como si estuvieras "cumpliendo una misión histórica".
4️⃣ Entonces, ¿qué hacemos ante estas "trampas de los inteligentes"?
La solución que da Vitalik es sorprendentemente simple, incluso un poco "tonta". Él cree que, cuanto más inteligente seas, más necesitás reglas de alta resistencia para limitarte y evitar que tu mente se descontrole.
Primero, mantenerte fiel a la "deontología" (Deontological Ethics), es decir, las reglas morales básicas de jardín de infantes.
No te pongas a hacer cálculos complejos "por el futuro de la humanidad", volvé a los principios más rígidos:
- No robar
- No matar inocentes
- No estafar
- Respetar la libertad de los demás
Estas reglas tienen altísima resistencia. Son blanco o negro, no hay negociación. Cuando intentás justificar el uso indebido de fondos de usuarios con grandes argumentos "longtermistas", la regla rígida de "no robar" te lo tira abajo: robar es robar, no importa la revolución financiera que prometas.
Segundo, tener la "posición" correcta, incluso en sentido físico.
Como dice el dicho, "el trasero decide la cabeza". Si vivís todos los días en la burbuja del Área de la Bahía de San Francisco, rodeado de gente fanática de la aceleración de la IA, es difícil mantener la claridad. Vitalik incluso da un consejo físico de alta resistencia: no vivas en el Área de la Bahía de San Francisco.
5️⃣ Resumen
El artículo de Vitalik en realidad es una advertencia a los súper inteligentes: no creas que por tu alto coeficiente podés saltarte los límites morales básicos.
Esas teorías "cerebro galáctico" que parecen poder explicar todo, suelen ser las excusas universales más peligrosas. En cambio, esas reglas "de alta resistencia" que suenan rígidas y dogmáticas, son la última línea de defensa para no autoengañarnos.
