Віталік: Боїться АГІ та АСІ, підтримує створення інструментів для підвищення інтелекту людей, а не створення надрозумного життя

22 грудня, у відповідь на нещодавні розробки продуктів, пов'язаних з AGI, у сфері OpenAI та штучного інтелекту, засновник Ethereum Віталік Бутерін опублікував на платформі X, сказавши: "Моє визначення AGI (Штучного Загального Інтелекту) таке: AGI - це настільки потужний штучний інтелект, що якщо одного дня всі люди раптово зникнуть, і цей ШІ буде завантажено в тіло робота, він зможе самостійно продовжувати цивілізацію.

Очевидно, що це дуже складне визначення для вимірювання, але я вважаю, що це саме та інтуїтивна різниця між 'ШІ, до якого ми звикли', і 'AGI' в уявленні багатьох людей. Це позначає перехід від інструменту, який постійно залежить від людського вводу, до самодостатньої форми життя. ASI (Штучний Супер Інтелект) - це зовсім інша справа - моє визначення полягає в тому, що люди більше не додають цінності до продуктивності в циклі (так само, як у шахових іграх, де ми досягли цього лише за останнє десятиліття).

Так, ASI мене лякає - навіть моє визначене AGI мене лякає, тому що це приносить очевидні ризики втрати контролю. Я підтримую зосередження нашої роботи на створенні інструментів інтелектуального підвищення для людей, а не на створенні суперінтелектуальних форм життя."