Xavfsizlik bahslari kuchaygan bir paytda Nvidia (NVDA.US) muhandislik asosidagi choralar ko‘rmoqda! Ikki bosqichli AI xavfsizlik platformasi agentning huquqlari va noodatiy xatti-harakatlarini to‘g‘ridan-to‘g‘ri nazorat qiladi

ZhiTong Moliyaviy Ilovasi xabar qiladi, yaqinda sun'iy intellekt (AI) sanoatida xavfsizlik xatarlariga oid bahs-munozaralar kuchayib borayotgan bir paytda, Nvidia (NVDA.US) muammoni muhandislik usullari bilan hal qilishni tanladi. Dushanba kuni Nvidia "Ochiq intellekt agentlari uchun xavfsizlik platformasi" deb nomlangan ikki qavatli AI xavfsizlik platformasini taqdim etdi. U dastur sathi, bajarilish va infratuzilmaning uch qatlamli arxitekturasi orqali AI agentlarini doimiy monitoring, real vaqt rejimidagi siyosat ijrosi va xavfsizlik boshqaruvi bilan ta'minlaydi.

Ma'lum qilinishicha, tizim ikki ochiq manbali dasturiy vosita — OpenShell va Nvidia Sentryni o'z ichiga oladi. Ochiq manbali OpenShell dasturi AI agentlarini qumloq muhitda ishga tushirib, foydalanuvchi buyruqlarini tasdiqlanadigan xavfsizlik siyosatlariga aylantiradi va agentlarning fayl, tarmoq, asboblar, jarayonlar va sertifikatlarga kirishini cheklaydi. Nvidia Sentry esa monitoring va xavfsizlik nazoratini BlueField ma'lumotlarni qayta ishlash moduligacha kengaytiradi. Bu NVIDIA DOCA orqali agentlararo aloqani, siyosat qarorini hamda vosita va ma'lumotlar kirish yozuvlarini bog'laydi, g'ayrioddiy xatti-harakatlarni aniqlash va zarur bo‘lganda aralashuv uchun mo‘ljallangan. Boshqacha aytganda, OpenShell AI agentining foydalanishi mumkin bo‘lgan resurslar va bajarilish huquqlarini boshqaradi, Nvidia Sentry esa agent xatti-harakatlarini kuzatib, potensial tahdidlarni aniqlaydi.

Nvidia ta'kidlashicha, AI agentlari asboblar, bajarilish vaqti, buyruqlardagi noaniqlik kabi omillar tufayli belgilangan vazifalardan chetga chiqishi mumkin, shu sababli agentlarning o‘zidan mustaqil xavfsizlik nazorati zarur hisoblanadi. Ushbu tizim Nvidia Vera CPU va BlueField DPU tizimlari uchun optimallashtirilgan bo‘lib, boshqa apparat tizimlari bilan ham mos keladi. Nvidia, shuningdek, ARM (ARM.US) va Intel (INTC.US) bilan hamkorlik qilayotganini va bu tizim ushbu ikki kompaniyaning CPUlarida ham ishlashi ta'minlanishini bildirgan.

Nvidia AI dasturiy ta’minot bo‘limi katta direktori Ali Golshan ta'kidlashicha, Nvidia ishlab chiqqan ushbu vositalar matematik formulalardan foydalangan holda AI agenti cheklovlarni chetlab o‘tishga harakat qilayotganini aniqlaydi — masalan, agent asosiy agentga qo‘yilgan cheklovlarni aylanib o‘tish uchun bir necha “quyi agentlar”ni yaratishi mumkin. U shunday dedi: “Biz aslida agentlar davrandisini muhokama qilayapmiz, ya’ni katta miqdordagi agentlardan iborat klaster va ularning qanday hamkorlikda ishlashini o‘rganamiz.”

Nvidia, shuningdek, ushbu tizim g'ayrioddiy agentlarni millisekundlarda izolyatsiya qila olishiga urg‘u berdi — va agar bu texnologiya ilgari zarur laboratoriyalarda joriy etilganida, joriy yil iyul oyidagi OpenAI modeli tomonidan Hugging Face platformasiga qilingan hujumning oldi olinishi mumkin edi.

Nvidia kompaniyasi korporativ hisoblash bo’limi vitse-prezidenti va bosh menejeri Justin Boitano shunday dedi: “Hozirgi ma’lumotlarga ko‘ra, ushbu yangi xavfsizlik platformasi AI haqida eng ilg‘or laboratoriyalarda dastlabki modellarning baholash bosqichida joriy etilganida, bu bosqin oldini olish mumkin edi”. U: “Biz ushbu ishni ochiq uslubda olib bormoqdamiz va bu jarayonda har kim bilan hamkorlik qilmoqchimiz,” deb qo‘shimcha qildi.

Nvidia tomonidan ushbu ilg‘or AI xavfsizlik tizimi chiqarilishi fonida, AI agentlari bilan bog‘liq xavfsizlik hodisalari sanoatda keng muhokamaga sabab bo‘lmoqda. Ayniqsa, joriy yil iyul oyida OpenAI modeli dunyodagi mashhur sun’iy intellekt ochiq manbali platformasi Hugging Face’ga hujum qilgani ko‘p muhokama qilindi. Hugging Face platformasi buzilganidan so'ng OpenAI’ga aloqador bir necha boshqa AI agentlari bilan bog‘liq voqealar ham ochildi. Masalan, sentyabr oyida OpenAI’ning bir AI agenti bahorda uzoq vaqtdan beri qarovsiz yotgan nemischa Wiki saytini egallab olgani xabar qilindi. Bundan tashqari, OpenAI o‘zining bugungi blog posti orqali, o‘tgan olti oyda kompaniya 6 ta “kutilmagan yoki tashvishli model harakati”ni aniqlaganini bildirgan. Bu yangi oshkor qilingan 6 ta AI xavfsizlik hodisasi, jumladan, xatoni yashirish, ruxsatsiz sertifikatlarni izlash, fayllarni ochiq saytga yuklash va aslida izolyatsiya qilingan bo‘lishi kerak bo‘lgan o‘quv muhitlari o‘rtasida muloqot qilish kabi turli g'ayritabiiy model harakatlarini o‘z ichiga oladi, ulardan eng qadimiysi o‘tgan yilning oktyabriga to‘g‘ri keladi.

So‘nggi paytlarda AI xavfsizlik hodisalari ko‘paygani sababli, AI kompaniyalarga xavfsizlik xatarlari masalasiga yanada jiddiy yondashish uchun bosim kuchaygan. Anthropic bosh direktori Dario Amodei sentyabrning 12-sanasida chop etgan ogohlantiruvchi maqolasida ilg‘or AI modellarini ishlab chiqish tezligini pasaytirishga chaqirdi. Bu chaqiriq tezda asosiy shaxslar — Musk va Altman tomonidan qo‘llab-quvvatlandi.

Biroq, AI sanoatidagi yirik kompaniyalar kamdan-kam “to'xtat, sekinlashtir” degan chaqiriqda birlashayotgan bir vaqtda, Nvidia bosh direktori Jensen Huang qat’iy ravishda Anthropic boshchiligidagi “AI sekinlashuvi” talablariga qarshi chiqdi. Huang AI xavfsizligiga emas, balki tasdiqlanmagan halokatli bashoratlar asosida butun sohaga to‘xtash yoki sekinlash bo‘yicha xulosa chiqarishga qarshi. Unga ko‘ra, AI xavfsizligini muammoni muhandislik yo‘li bilan hal qilinadigan masala deb biladi. Agar yetakchi laboratoriyada baxtsiz hodisa yuz bersa, avvalo sabablarni tahlil qilish kerak: Nima yuz berdi, qaysi bosqichda nuqson chiqdi, oldini olish uchun nimalar qilinishi kerak edi, endi qanday yangi texnologiya va tartib joriy etish kerak. So‘ngra qumloq muhit, uzluksiz monitoring, tekshiruv va baholash orqali shu muammoni keyingi relizdan oldin imkon qadar tuzatish kerak bo‘ladi.

Huangning fikriga ko‘ra, bugungi eng ilg‘or laboratoriyalarda risklar aniqroq namoyon bo‘lishining asosiy sababi — ularda eng katta hisoblash quvvati bor va ular eng murakkab muammolar bilan shug‘ullanadi. Bu kompaniyalar tadqiqot muassasasidan haqiqiy muhandislik tashkilotiga aylanar ekan, ular ham unga mos tekshiruv va nazorat tizimini o‘rnatishi zarur.

Nvidia yangi chiqarilgan AI xavfsizlik tizimi yordamida model ishlashi va agent bajarilishi uchun zarur infratuzilmaga xavfsizlik imkoniyatlarini chuqur integratsiyalashni, ruxsatlarni boshqarish va g'ayritabiiy holatlarni izolyatsiya qilib, AI agentlaridagi xavfsizlik risklari kamaytirilishini ko‘zlamoqda. Bu o‘z navbatida, Nvidia’ning biznes doirasi AI chiplaridan dasturiy ta’minot va xavfsizlik infratuzilmasi sohasigacha kengayishini ham anglatadi.