Автор: Zhixiong Pan
Стаття Vitalik, опублікована кілька тижнів тому, «Galaxy Brain Resistance», насправді досить складна для розуміння, і я не бачив хороших тлумачень, тому спробую сам.
Зрештою, навіть Karpathy, творець терміну Vibe Coding, прочитав цю статтю і зробив нотатки, отже, в ній точно є щось особливе.
Спочатку про назву: що означають Galaxy Brain і Resistance? Зрозумівши це, ви вже матимете уявлення, про що ця стаття.
1️⃣ Galaxy Brain у перекладі означає «галактичний мозок», але насправді це інтернет-мем, схожий на зображення (🌌🧠), яке ви точно бачили.
Спочатку це, звісно, було компліментом, щоб похвалити чиюсь надзвичайно геніальну ідею, тобто розум. Але з часом, через надмірне використання, це стало певною іронією, приблизно зі змістом «надто ускладнюєш, логіка занадто заплутана».
Vitalik тут має на увазі 🌌🧠 саме таку поведінку: «використовувати високий інтелект для інтелектуальної гімнастики, щоб безглузді речі видавати за щось дуже розумне». Наприклад:
- Очевидно, скорочення штату для економії коштів, але подають це як «постачання висококваліфікованих кадрів суспільству».
- Явно випуск повітряних токенів для обману інвесторів, але заявляють, що це «надання можливостей глобальній економіці через децентралізоване управління».
Все це можна вважати мисленням у стилі «галактичного мозку».
2️⃣ А що таке Resistance (опір)? Це поняття легко заплутати, але якщо говорити простою мовою — це «здатність не піддаватися маніпуляціям» або «здатність не піддаватися обману».
Тож Galaxy Brain Resistance — це Resistance to [becoming] Galaxy Brain, тобто «здатність протистояти (перетворенню на) галактичний мозок (дурниці)».
Або, точніше, це описує, наскільки легко чи важко певний стиль мислення чи аргументації можна використати для «доведення будь-якого бажаного висновку».
Отже, цей «опір» може стосуватися певної «теорії», наприклад,
- Теорія з низьким опором (Low Resistance): варто лише трохи подумати, і вона легко перетворюється на абсурдну логіку «галактичного мозку».
- Теорія з високим опором (High Resistance): як би ви не намагалися, вона залишається незмінною, її важко перекрутити до абсурду.
Наприклад, Vitalik каже, що в ідеальному суспільстві закони повинні мати чітку межу: забороняти щось можна лише тоді, коли можна чітко пояснити, як саме ця дія завдає шкоди або створює ризик для конкретної жертви. Такий стандарт має високий опір до Galaxy Brain, бо не приймає аргументів типу «мені це не подобається» чи «це аморально», які можна тлумачити як завгодно.
3️⃣ Vitalik у статті наводить багато прикладів, навіть із теоріями, які ми часто чуємо, наприклад, «лонгтермізм» і «іневітебілізм».
«Лонгтермізм» дуже вразливий до мислення у стилі 🌌🧠, бо має дуже низький опір, це майже «чистий бланк». Адже «майбутнє» надто далеке й розмите.
- Високоопірне твердження: «Це дерево через 10 років виросте на 5 метрів». Це можна перевірити, тут важко збрехати.
- Низькоопірний «лонгтермізм»: «Хоча зараз я роблю щось дуже аморальне (наприклад, знищую частину людей чи розв’язую війну), але це заради того, щоб через 500 років людство жило в утопії. За моїми підрахунками, майбутнє щастя буде нескінченним, тож нинішні жертви не мають значення».
Бачите, варто лише достатньо розтягнути час, і можна виправдати будь-яке зло сьогодення. Як каже Vitalik: «Якщо ваш аргумент може виправдати будь-що, то він не доводить нічого».
Втім, Vitalik визнає, що «довгострокова перспектива важлива», він критикує саме «надмірно розмиті, неперевірювані майбутні вигоди, які перекривають очевидну шкоду сьогодення».
Ще одна проблемна зона — «іневітебілізм» (Inevitabilism).
Це улюблений захист у Кремнієвій долині та техно-колах.
Аргументація така: «AI замінить людську працю — це історична неминучість, навіть якщо не я, то хтось інший це зробить. Тому я зараз активно розробляю AI не заради грошей, а щоб іти в ногу з історією».
У чому низький опір? Це ідеально знімає з людини відповідальність. Якщо це «неминуче», то мені не треба відповідати за руйнування, які я спричиняю.
Це теж типовий «галактичний мозок»: особисту жадобу до грошей чи влади маскують під «виконання історичної місії».
4️⃣ То що ж робити з цими «пастками для розумних»?
Vitalik пропонує несподівано простий, навіть трохи «наївний» рецепт. Він вважає, що чим розумніша людина, тим більше їй потрібні правила з високим опором, щоб не дати собі «загратися» у розумові акробатики.
По-перше, дотримуйтесь «деонтологічної етики» (Deontological Ethics), тобто елементарних моральних правил, як у дитячому садку.
Не треба рахувати складні рівняння «заради майбутнього людства», поверніться до найжорсткіших принципів:
- Не кради
- Не вбивай невинних
- Не обманюй
- Поважай свободу інших
Ці правила мають дуже високий опір. Вони чорно-білі, тут нема про що домовлятися. Якщо ви намагаєтеся виправдати привласнення коштів користувачів «лонгтермізмом», правило «не кради» одразу вас зупиняє: вкрав — значить вкрав, не треба прикриватися великою фінансовою революцією.
По-друге, займайте правильну «позицію», навіть у фізичному сенсі.
Як кажуть, місце визначає мислення. Якщо ви щодня перебуваєте у «ехо-кімнаті» затоки Сан-Франциско, де всі навколо захоплені AI-акселераціонізмом, вам буде важко зберігати ясність. Vitalik навіть дає фізичну пораду з високим опором: не живіть у затоці Сан-Франциско.
5️⃣ Висновок
Стаття Vitalik насправді попереджає надзвичайно розумних еліт: не думайте, що через свій високий інтелект ви можете обійти прості моральні принципи.
Ті теорії «галактичного мозку», які, здається, можуть пояснити все на світі, часто є найнебезпечнішим універсальним виправданням. А от ті, що здаються жорсткими й догматичними «високоопірні» правила — це останній рубіж, що не дає нам обманювати самих себе.
