Бутерін закликає Info Finance зупинити експлойти в AI-у правлінні
- Віталік попереджає, що наївне управління AI вразливе до маніпуляцій і експлойтів.
- Info finance створює різноманітність моделей і швидкі корекції, роблячи управління AI безпечнішим.
- Ринки прогнозів і вибіркові перевірки допомагають забезпечити безпеку прийняття рішень і фінансування AI.
Співзасновник Ethereum Віталік Бутерін попередив, що наївні моделі управління AI становлять серйозні ризики, і застеріг, що структури, які покладаються на AI для фінансування чи прийняття рішень, залишаються вразливими до маніпуляцій і експлойтів. На його думку, такі системи дозволяють зловмисникам відволікати ресурси, однак він виступає за підхід під назвою “info finance”, розроблений для створення підзвітності й запобігання зловживанням через ринки, людський нагляд і перевірки.
Аргументи проти наївного управління AI
Бутерін підкреслив, що наївне управління AI є ризикованим, і додав, що якщо AI використовується для розподілу коштів, люди можуть маніпулювати ним за допомогою власних підказок і отримувати надмірні гроші. Він також пояснив, що якщо моделі працюють без будь-яких обмежень чи інструкцій, ними можуть зловживати, заохочуючи хакерів використовувати підказки й обманювати AI, щоб отримати неправильні ресурси.
Такі вразливості ставлять AI у потенційно небезпечну пастку. Далі Бутерін виявив системні слабкості, які, якщо їх не контролювати, можуть бути використані. Невидимі атаки, prompt injections — це приклади того, як зловмисники можуть легко скористатися ситуацією.
Info Finance як альтернатива
Бутерін обирає інформаційні фінанси замість наївного управління, описуючи це як підхід “institution design”, що поєднує відкриту ринкову конкуренцію з людською перевіркою. Він сказав:
Як альтернативу, я підтримую підхід info finance, де існує відкритий ринок, на якому кожен може запропонувати свої моделі, які підлягають механізму вибіркової перевірки, що може бути ініційований будь-ким і оцінений людським журі.
Він окреслив, що Info Finance дозволяє зовнішнім учасникам інтегрувати великі мовні моделі (LLMs) без жорсткого кодування однієї системи. Це забезпечить різноманітність моделей, зменшуючи ймовірність масових збоїв. Також це створює стимули для розробників і спекулянтів уважно стежити за недоліками й швидко реагувати на проблеми.
Один із запропонованих механізмів передбачає ринки прогнозів або ринки рішень. Кілька моделей змагатимуться, а учасники зможуть робити ставки на результати, сигналізуючи, які моделі здаються найбільш надійними. Людські журі або аудитори періодично проводитимуть вибіркові перевірки результатів, особливо у випадках із високими ставками.
Дивіться також: ETH Treasuries зросли до $12B, поки Віталік попереджає про ризики левериджу
Наслідки для криптовалют і ринків
Info finance спирається на багаторівневу підзвітність, і це помітно у відкритій конкуренції, яка дозволяє оскаржувати або замінювати помилкові моделі. Людський нагляд додається через журі та аудити. Економічні стимули не дозволяють маніпуляціям, а прозорість робить зловмисну поведінку видимою.
Пов’язуючи управління AI з блокчейном і торгівлею, Бутерін припускає, що недоліки централізованого AI можуть підвищити інтерес до децентралізованих рішень, здебільшого побудованих на Ethereum. Крім того, токени, такі як RNDR від Render Network і GRT від The Graph, забезпечують інфраструктуру для AI-обчислень, отримуючи вигоди від розвитку. Далі, трейдери також можуть використовувати ETH і ці токени для арбітражу на тлі волатильності ринку.
Ончейн-дані свідчать, що кількість транзакцій ETH, пов’язаних із AI-смарт-контрактами, зростає, а питання управління AI можуть впливати й на технологічні акції, зокрема такі компанії, як NVIDIA і Microsoft, які інвестують в AI. Загалом Бутерін зазначив, що Info Finance дозволяє швидше виправляти помилки, замінюючи несправні моделі й караючи порушників. Він також додав, що перевірки журі та вибіркові перевірки запобігатимуть поширенню експлойтів.
Публікація Buterin Pushes Info Finance to Stop Exploits in AI Governance вперше з’явилася на Cryptotale.
Відмова від відповідальності: зміст цієї статті відображає виключно думку автора і не представляє платформу в будь-якій якості. Ця стаття не повинна бути орієнтиром під час прийняття інвестиційних рішень.
Вас також може зацікавити
Протокол засідання Федеральної резервної системи: усі 19 учасників ухвалення рішень підтримали підвищення ставки у вересні, але мотиви різні; більшість очікує подальше підвищення протягом року, натякають, що у жовтні поспіху немає.
Більшість чиновників вважають, що підвищення процентної ставки у вересні є страховим заходом проти впертої інфляції; меншість вважає це необхідним кроком для стримування інфляції; загалом немає намірів послідовно багаторазово підвищувати ставки. «Новий Федрезервівський інформаційний бюлетень» підкреслив зміст протоколу: «Більшість учасників вважають, що ще одне підвищення ставки до кінця року може бути доречним». Майже всі чиновники вважають, що інфляція все ще на високому рівні, а ринок праці близький до повної зайнятості. Багато чиновників зазначили, що, хоча дохідність довгострокових державних облігацій США зросла, фінансові умови залишаються сприятливими для економічного зростання. Деякі чиновники вважають, що AI розширить інвестиції та підвищить продуктивність, але також може підсилити інфляцію. У протоколах вказано, що у липні спільне втручання США та Японії для підтримки ієни було ініційовано Міністерством фінансів США без використання коштів Федрезерву.
Скорочення на 100 мільйонів барелів? За повідомленнями, ЄС вважає, що план щодо вивільнення нафтових резервів переважно виконує попередні обіцянки, а не додає нові обсяги
Минулієї п’ятниці країни-члени G7 погодилися звільнити до 100 мільйонів барелів запасів сирої нафти та дизельного пального. У березні МЕА оголошувала про план вивільнення 400 мільйонів барелів, і станом на минулу п’ятницю близько 75 мільйонів барелів ще залишалися невивільненими. Країни-члени ЄС загалом вважають, що ця дія лише виконує попередні зобов’язання, а не є додатковим виділенням. Щодо дострокового вивільнення дизельних запасів, на якому особливо наголошували в угоді G7 минулого тижня, країни ЄС вважають це здійсненним, але масштаб може бути обмеженим.
Високопосадовець Ірану заявив, що "ніколи не відмовиться" від права на збагачення урану, США та Іран "не ведуть переговори", і невдовзі буде заблоковано "незаконний" прохід Ормузької протоки.
За повідомленнями, високопосадовець Ірану в середу заявив, що перед обговоренням ядерного питання американська сторона повинна спочатку виконати умови, висунуті Іраном, а поточна пропозиція США щодо ядерної програми суперечить вимогам Ірану; нещодавній задум Ванса відображає лише вимоги США. У понеділок Ванс заявив, що Іран повинен «суттєво» скоротити свою здатність збагачувати уран, аби відповідати вимогам США. У середу ціна на Brent на деякий час перевищила 102 долара за барель.
Економічна стійкість США покращує перспективи малих акцій, Wall Street очікує можливість відновлення
Американський банк зазначив, що для малих акцій, які значною мірою залежать від внутрішньої економіки США, виробничий сектор є найважливішим макроекономічним показником, що впливає на їхню відносну динаміку. Останні дані свідчать про те, що виробничий сектор США розширюється вже дев'ятий місяць поспіль, що є найдовшим періодом зростання з 2022 року.
Ціни на криптовалюти
Більше
