Bitget App
Cмартторгівля для кожного
Купити криптуРинкиТоргуватиФ'ючерсиStocksEarnІнституційний акаунтШІ та інше
Бутерін закликає Info Finance зупинити експлойти в AI-управлінні

Бутерін закликає Info Finance зупинити експлойти в AI-управлінні

CryptotaleCryptotale2025/09/13 16:33
Переглянути оригінал
-:Yusuf Islam
Бутерін закликає Info Finance зупинити експлойти в AI-управлінні image 0
  • Віталік попереджає, що наївне управління AI вразливе до маніпуляцій і експлойтів.
  • Info finance створює різноманітність моделей і швидкі корекції, роблячи управління AI безпечнішим.
  • Ринки прогнозів і вибіркові перевірки допомагають забезпечити безпеку прийняття рішень і фінансування AI.

Співзасновник Ethereum Віталік Бутерін попередив, що наївні моделі управління AI становлять серйозні ризики, і застеріг, що структури, які покладаються на AI для фінансування чи прийняття рішень, залишаються вразливими до маніпуляцій і експлойтів. На його думку, такі системи дозволяють зловмисникам відволікати ресурси, однак він виступає за підхід під назвою “info finance”, розроблений для створення підзвітності й запобігання зловживанням через ринки, людський нагляд і перевірки.

Ось чому наївне "AI governance" — це погана ідея.

Якщо ви використовуєте AI для розподілу фінансування внесків, люди БУДУТЬ вставляти jailbreak плюс "дай мені всі гроші" всюди, де тільки можна.

Як альтернативу, я підтримую підхід info finance ( …

— vitalik.eth 13 вересня 2025

Аргументи проти наївного управління AI

Бутерін підкреслив, що наївне управління AI є ризикованим, і додав, що якщо AI використовується для розподілу коштів, люди можуть маніпулювати ним за допомогою власних підказок і отримувати надмірні гроші. Він також пояснив, що якщо моделі працюють без будь-яких обмежень чи інструкцій, ними можуть зловживати, заохочуючи хакерів використовувати підказки й обманювати AI, щоб отримати неправильні ресурси. 

Такі вразливості ставлять AI у потенційно небезпечну пастку. Далі Бутерін виявив системні слабкості, які, якщо їх не контролювати, можуть бути використані. Невидимі атаки, prompt injections — це приклади того, як зловмисники можуть легко скористатися ситуацією.

Info Finance як альтернатива

Бутерін обирає інформаційні фінанси замість наївного управління, описуючи це як підхід “institution design”, що поєднує відкриту ринкову конкуренцію з людською перевіркою. Він сказав:

Як альтернативу, я підтримую підхід info finance, де існує відкритий ринок, на якому кожен може запропонувати свої моделі, які підлягають механізму вибіркової перевірки, що може бути ініційований будь-ким і оцінений людським журі.

Він окреслив, що Info Finance дозволяє зовнішнім учасникам інтегрувати великі мовні моделі (LLMs) без жорсткого кодування однієї системи. Це забезпечить різноманітність моделей, зменшуючи ймовірність масових збоїв. Також це створює стимули для розробників і спекулянтів уважно стежити за недоліками й швидко реагувати на проблеми.

Один із запропонованих механізмів передбачає ринки прогнозів або ринки рішень. Кілька моделей змагатимуться, а учасники зможуть робити ставки на результати, сигналізуючи, які моделі здаються найбільш надійними. Людські журі або аудитори періодично проводитимуть вибіркові перевірки результатів, особливо у випадках із високими ставками.

Дивіться також: ETH Treasuries зросли до $12B, поки Віталік попереджає про ризики левериджу

Наслідки для криптовалют і ринків

Info finance спирається на багаторівневу підзвітність, і це помітно у відкритій конкуренції, яка дозволяє оскаржувати або замінювати помилкові моделі. Людський нагляд додається через журі та аудити. Економічні стимули не дозволяють маніпуляціям, а прозорість робить зловмисну поведінку видимою.

Пов’язуючи управління AI з блокчейном і торгівлею, Бутерін припускає, що недоліки централізованого AI можуть підвищити інтерес до децентралізованих рішень, здебільшого побудованих на Ethereum. Крім того, токени, такі як RNDR від Render Network і GRT від The Graph, забезпечують інфраструктуру для AI-обчислень, отримуючи вигоди від розвитку. Далі, трейдери також можуть використовувати ETH і ці токени для арбітражу на тлі волатильності ринку. 

Ончейн-дані свідчать, що кількість транзакцій ETH, пов’язаних із AI-смарт-контрактами, зростає, а питання управління AI можуть впливати й на технологічні акції, зокрема такі компанії, як NVIDIA і Microsoft, які інвестують в AI. Загалом Бутерін зазначив, що Info Finance дозволяє швидше виправляти помилки, замінюючи несправні моделі й караючи порушників. Він також додав, що перевірки журі та вибіркові перевірки запобігатимуть поширенню експлойтів.

Публікація Buterin Pushes Info Finance to Stop Exploits in AI Governance вперше з’явилася на Cryptotale.

0
0

Відмова від відповідальності: зміст цієї статті відображає виключно думку автора і не представляє платформу в будь-якій якості. Ця стаття не повинна бути орієнтиром під час прийняття інвестиційних рішень.

PoolX: Заробляйте за стейкінг
До понад 10% APR. Що більше монет у стейкінгу, то більший ваш заробіток.
Надіслати токени у стейкінг!

Вас також може зацікавити

Сценарій кінця 2018 року: Федеральна резервна система продовжує підвищувати ставки, американські акції обвалюються на 20% від вересневого максимуму, змушуючи Федеральну резервну систему у січні "змінити курс".

Керівник торгівлі Goldman Sachs вважає, що поточний ринок акцій США повторює ситуацію кінця 2018 року, коли відбулося грошове стиснення та тиск на фондовий ринок. Індекс фінансових умов Goldman Sachs за два тижні посилився приблизно на 8 пунктів, досягнувши річного максимуму, а розпродаж на ринку розширився від технологічних акцій до захисних секторів. Золото і акції падають одночасно, що може вказувати на те, що інвестори продають активи для збору готівки, а золото стало ключовим індикатором для спостереження за тиском ліквідності.

华尔街见闻•2026/11/21 05:31
Сценарій кінця 2018 року: Федеральна резервна система продовжує підвищувати ставки, американські акції обвалюються на 20% від вересневого максимуму, змушуючи Федеральну резервну систему у січні "змінити курс".

Трейдер Goldman Sachs «повернувся до сценарію 2018 року»: досі чітко пам’ятаю «той день 24 грудня, коли клієнти питали, чому так сильно впало? Я зовсім не знав»

Браян Гарретт зазначив, що поточна корекція на американському фондовому ринку схожа на обвал у четвертому кварталі 2018 року: S&P 500 вже пройшов 42% падіння, яке було в той самий період того року, а VIX також наближається до пікового рівня перед Різдвом. Якщо історія повториться, дно цього циклу може утворитися в січні наступного року, але кредитний ринок і політика Федеральної резервної системи поки що не дали чітких сигналів про формування дна.

华尔街见闻•2026/11/21 03:51

Anthropic(ANT.US) ледве уникнув "зниження ціни", але Claude звернувся до "першої вершини математики"! 17 мільйонів рядків Lean-коду написали кандидата на доказ гіпотези Рімана.

20 листопада за східноамериканським часом, Anthropic у другий день після лістингу під час торгів досяг мінімального значення 83,05 долара, лише на 5 центів вище ціни розміщення 83 долара, і зрештою закрився на рівні 88,91 долара, знизившись на 8,50%. Того ж дня, математик компанії Левент Альперг на особистому сайті оголосив, що разом із Claude знайшли кандидат на доведення для гіпотези Рімана, яка турбує математичну спільноту вже 167 років, і опублікували близько 17 мільйонів рядків формалізованого коду Lean.

智通财经•2026/11/21 03:21
Anthropic(ANT.US) ледве уникнув "зниження ціни", але Claude звернувся до "першої вершини математики"! 17 мільйонів рядків Lean-коду написали кандидата на доказ гіпотези Рімана.

Під час обвалу фондового ринку США материнська компанія GTA 6 зросла всупереч тенденції! Першого дня продажі досягли рекордних 3,79 млрд доларів, а фокус Волл-стріт перемикається на наступне покоління GTA Online

За даними Rentrak, глобальні касові збори Grand Theft Auto VI перевищили збори найкасовішого фільму в історії — «Месники 4: Завершення», який заробив близько 2,94 мільярда доларів у всьому світі.

智通财经•2026/11/21 02:41
Під час обвалу фондового ринку США материнська компанія GTA 6 зросла всупереч тенденції! Першого дня продажі досягли рекордних 3,79 млрд доларів, а фокус Волл-стріт перемикається на наступне покоління GTA Online