Buterin thúc đẩy Info Finance ngăn chặn các cuộc tấn công trong quản trị AI

• Vitalik cảnh báo rằng quản trị AI ngây thơ dễ bị thao túng và khai thác.
• Info finance tạo ra sự đa dạng mô hình và sửa chữa nhanh chóng, giúp quản trị AI an toàn hơn.
• Thị trường dự đoán và kiểm tra ngẫu nhiên giúp bảo vệ quá trình ra quyết định và tài trợ của AI.

Đồng sáng lập Ethereum, Vitalik Buterin, đã cảnh báo rằng các mô hình quản trị AI ngây thơ tiềm ẩn rủi ro nghiêm trọng và lưu ý rằng các khung dựa vào AI để tài trợ hoặc ra quyết định vẫn dễ bị thao túng và khai thác. Theo quan điểm của ông, những hệ thống như vậy cho phép các tác nhân xấu chuyển hướng nguồn lực, tuy nhiên, ông ủng hộ một phương pháp gọi là “info finance”, được thiết kế để xây dựng trách nhiệm giải trình và ngăn chặn việc lạm dụng thông qua thị trường, giám sát của con người và các cơ chế kiểm tra.

Lập luận chống lại quản trị AI ngây thơ

Buterin nhấn mạnh rằng quản trị AI ngây thơ là rủi ro và bổ sung rằng nếu AI được sử dụng để phân bổ quỹ, mọi người có thể thao túng nó bằng các prompt theo ý muốn và kiếm được nhiều tiền hơn mức cần thiết. Ông giải thích thêm rằng nếu các mô hình hoạt động mà không có bất kỳ giới hạn hoặc hướng dẫn nào, chúng có thể bị lạm dụng, từ đó khuyến khích hacker sử dụng prompt để đánh lừa AI giải phóng các nguồn lực sai lầm. 

Những lỗ hổng như vậy đặt AI vào một vòng lặp nguy hiểm tiềm tàng. Hơn nữa, Buterin tiết lộ các điểm yếu hệ thống, nếu không được kiểm soát, có thể bị thao túng. Các cuộc tấn công không nhìn thấy, prompt injection là ví dụ về cách kẻ tấn công có thể dễ dàng lợi dụng.

Info Finance như một giải pháp thay thế

Buterin lựa chọn info finance thay vì quản trị ngây thơ, mô tả nó như một phương pháp “thiết kế tổ chức”, kết hợp cạnh tranh thị trường mở với xác minh của con người. Ông nói,

Là một lựa chọn thay thế, tôi ủng hộ phương pháp info finance, nơi bạn có một thị trường mở mà bất kỳ ai cũng có thể đóng góp mô hình của họ, các mô hình này sẽ chịu một cơ chế kiểm tra ngẫu nhiên có thể được kích hoạt bởi bất kỳ ai và được đánh giá bởi một hội đồng giám khảo là con người.

Ông chỉ ra rằng Info Finance cho phép các bên đóng góp bên ngoài tích hợp các mô hình ngôn ngữ lớn (LLMs) mà không cần mã hóa cứng một hệ thống duy nhất. Điều này sẽ tạo ra sự đa dạng mô hình, từ đó giảm khả năng thất bại trên diện rộng. Nó cũng tạo động lực cho các nhà phát triển và nhà đầu cơ theo dõi sát các lỗ hổng và hành động nhanh chóng khi có vấn đề xảy ra.

Một cơ chế được đề xuất liên quan đến thị trường dự đoán hoặc thị trường quyết định. Nhiều mô hình sẽ cạnh tranh, và người tham gia có thể đặt cược vào kết quả, báo hiệu mô hình nào có vẻ đáng tin cậy nhất. Các hội đồng giám khảo hoặc kiểm toán viên là con người sẽ kiểm tra ngẫu nhiên kết quả định kỳ, đặc biệt trong các trường hợp quan trọng.

Liên quan: Kho bạc ETH tăng vọt lên 12 tỷ USD khi Vitalik cảnh báo về rủi ro đòn bẩy

Ý nghĩa đối với tiền mã hóa và thị trường

Info finance dựa vào trách nhiệm giải trình nhiều lớp, và điều này nổi bật trong cạnh tranh mở, cho phép các mô hình lỗi bị thách thức hoặc thay thế. Giám sát của con người được bổ sung thông qua hội đồng giám khảo và kiểm toán. Động lực kinh tế ngăn chặn thao túng, trong khi tính minh bạch làm cho hành vi xấu trở nên dễ nhận thấy.

Bằng cách liên kết quản trị AI với blockchain và giao dịch, Buterin cho rằng các lỗ hổng trong AI tập trung có thể làm tăng sự quan tâm đến các giải pháp phi tập trung, chủ yếu được xây dựng trên Ethereum. Hơn nữa, các token như RNDR của Render Network và GRT của The Graph cung cấp hạ tầng cho các tính toán AI, do đó hưởng lợi từ sự phát triển này. Ngoài ra, các nhà giao dịch cũng có thể sử dụng ETH và các token này để arbitrage trong bối cảnh biến động thị trường. 

Dữ liệu on-chain cho thấy có nhiều giao dịch ETH liên quan đến các hợp đồng thông minh AI và các vấn đề quản trị AI cũng có thể ảnh hưởng đến cổ phiếu công nghệ, với các công ty như NVIDIA và Microsoft tham gia đầu tư vào AI. Nhìn chung, Buterin chỉ ra rằng Info Finance cho phép sửa chữa nhanh hơn, thay thế các mô hình lỗi và trừng phạt những kẻ xấu. Ông cũng bổ sung rằng kiểm tra của hội đồng giám khảo và kiểm tra ngẫu nhiên sẽ ngăn chặn việc khai thác lan rộng.

Bài viết Buterin Thúc Đẩy Info Finance Để Ngăn Chặn Khai Thác Trong Quản Trị AI xuất hiện đầu tiên trên Cryptotale.