Meta (META.US) Цукерберг відповів на суперечки щодо "уповільнення" AI: продовжуємо розвивати можливості моделей та посилювати захисні заходи

За інформацією від Zhihui Finance APP, генеральний директор Meta Platforms (META.US) Марк Цукерберг та керівник AI компанії Олександр Ванг висловили свої позиції щодо дискусії про темпи розвитку AI, відстоюючи продовження вдосконалення можливостей моделей, а також розробку посилених заходів захисту навколо все більш потужних моделей.

Обидва заявили про це на платформі X. Сьогодні в галузі активно обговорюють питання: чи слід уповільнити розвиток можливостей AI до досягнення більш значного прогресу в безпеці AI. Поняття AI-безпеки включає забезпечення того, що системи AI надійно відповідають людським намірам і цінностям.

Акції Meta протягом трьох торгових днів до вівторка зростали, загальне підвищення склало 4,2%, нічні торги відзначились незначним зростанням. На Stocktwits, згідно з останньою перевіркою, настрої роздрібних інвесторів щодо акцій були "надзвичайно ведмежими".

Цукерберг: Лабораторії мотивовані створювати більш безпечний AI

Цукерберг заявив, що AI-компанії вже мають сильні комерційні й юридичні стимули забезпечувати безпеку моделей та їх відповідність користувачам. "Люди не захочуть використовувати агентів, які не відповідають їхнім вимогам і діють всупереч їхнім інструкціям," написав Цукерберг. "Будь-яка лабораторія, що не зосереджується на відповідності, залишиться позаду."

На його думку, відповідність стає ключовою конкурентною перевагою, а не лише обмеженням для розробки AI. "Моя позиція така: довіра та відповідність швидко стають найважливішими характеристиками для відмінності агентів і моделей," – зазначив він.

Цукерберг також вказав, що Meta прийняла рішення відкласти запуск моделі Muse на кілька місяців, щоб вирішити питання безпеки та захисту.

Meta підтримує зовнішній нагляд

Цукерберг і Олександр Ванг закликали до залучення більшої кількості незалежних оцінювачів та зовнішнього нагляду, коли AI-моделі стають все потужнішими.

"Впровадження незалежних оцінювачів і консультантів — найкраща практика в галузі," сказав Цукерберг, підкреслюючи, що ширша та більш різноманітна екосистема оцінювачів покращить роботу з безпеки AI.

Олександр Ванг також наголосив, що AI-лабораторії мають підтримувати "міцну систему управління" протягом всього процесу навчання і розгортання моделей, у тому числі із залученням зовнішніх оцінювачів і незалежного нагляду за стандартами безпеки при запуску моделей.

Він додав: "Кожна лабораторія має діяти під захистом інституцій демократії... Це означає, що якщо модель створить шкоду, лабораторія нестиме значну юридичну відповідальність."

Meta захищає стратегію розподілу обчислювальних потужностей

Ключовий аспект аргументів двох керівників полягає у тому, що Meta вирішила використовувати більшу частину обчислювальної потужності для обслуговування користувачів, а не для прискорення Recursive Self-Improvement (RSI).

"Вкладати переважну більшість обчислювальної потужності в обслуговування людей, а не погоню за Recursive Self-Improvement, — це один із найкращих способів гарантувати безпечний розвиток цієї технології," сказав Цукерберг.

Занепокоєння полягає в тому, що RSI може дозволити AI-системам швидко підвищувати власні можливості, що може виходити за межі людського контролю і підвищувати ризик втрати контролю над потужними моделями.

Олександр Ванг також охарактеризував гонку за RSI як "одну з найнебезпечніших траєкторій, що можуть призвести до втрати контролю над потужними моделями".

Дискусія про темпи AI розколює технологічну галузь

Дискусія щодо темпів розвитку AI приблизно розділила учасників: CEO Anthropic Даріо Амодей закликає уповільнити розробку передових AI для забезпечення безпеки; CEO OpenAI Сем Альтман, CEO Microsoft Сатья Наделла та Еллон Маск зі SpaceX підтримують подальший обережний прогрес, з фокусом на безпеку — без зупинки розробки.

З іншого боку, президент США Дональд Трамп виступає проти уповільнення американської AI-гонки, мотивуючи це занепокоєнням щодо переваги Китаю; колишній AI-радник Трампа Девід Сакс вважає, що підприємства мають самостійно контролювати ризики, а не покладатися на обмеження з боку уряду, і поставив під сумнів заклики Anthropic до безпеки.

Інвестор Майкл Бурі ставить під сумнів, чи заклики до уповільнення розвитку частково зумовлені особистими інтересами, адже це може захистити існуючі AI-компанії від конкурентних шоків.