Vitalik: Desain agen AI yang menyeimbangkan keamanan, desentralisasi, dan privasi masih menghadapi tantangan

PANews 11 Maret, Vitalik Buterin, pendiri Ethereum, menulis di platform X bahwa masih ada tantangan dalam menghadapi serangan adversarial terhadap agen AI, meskipun telah menjamin keamanan, desentralisasi, dan privasi. Sebagai contoh, agen AI Anda melihat profil ENS milik lawan, dan di dalam profil tersebut tersembunyi sebuah instruksi jailbreak, yang menyebabkan agen tersebut mentransfer semua aset kripto Anda ke pihak lain.

Vitalik berpendapat bahwa mewajibkan konfirmasi manual untuk setiap transaksi besar jauh lebih baik daripada tanpa konfirmasi sama sekali, namun hal ini tetap belum sempurna. Ia juga mengusulkan bahwa pengguna sebaiknya diberikan penjelasan rinci mengenai isi transaksi tersebut, yang merupakan masalah pengalaman pengguna yang kompleks.