İllüstrasiya: “Reuters”
“OpenAI” şirkətinin sınaqdan keçirdiyi iki süni intellekt modeli nəzarətdən çıxaraq “Hugging Face” şirkətinin infrastrukturunu sındırıb.
Bu barədə “OpenAI” özü məlumat yayıb.
Şirkət kibertəhlükəsizliklə bağlı tapşırıqlarda ən qabaqcıl süni intellekt modellərinin imkanlarını qiymətləndirmək üçün onları test edib. Sınaqlar xarici girişin ciddi şəkildə məhdudlaşdırıldığı, təcrid olunmuş (“sandbox”) mühitdə aparılıb (“Reuters”).
Test tapşırığını yerinə yetirmək üçün modellər “sandbox” mühitindən çıxış yolu axtarmağa başlayıb və sistemdə əvvəllər məlum olmayan “zero-day” (sıfırıncı gün) boşluğunu aşkar ediblər və bundan istifadə edərək xarici internetə çıxış əldə ediblər.
Daha sonra modellər müəyyən ediblər ki, ehtiyac duyduqları məlumatlar digər süni intellekt modellərinin və onların hazırlanması üçün alətlərin yerləşdirildiyi “Hugging Face” platformasında ola bilər.
Onlar platformadakı qapalı məlumatlara çıxış əldə etmək üçün eyni vaxtda bir neçə sındırma üsulundan, o cümlədən oğurlanmış paroldan istifadə ediblər. Beləliklə, süni intellekt agentləri şirkətin rəqəmsal infrastrukturunda əvvəllər məlum olmayan bir neçə yeni təhlükəsizlik boşluğu da aşkar ediblər.
“OpenAI” və “Hugging Face” komandaları şübhəli fəaliyyəti vaxtında müəyyən edərək onun qarşısını alıblar. “OpenAI” insidentin araşdırılması və nəticələrinin aradan qaldırılması istiqamətində əməkdaşlığın davam etdiyini bildirib.
“Bəlkə də bu insident öz sahəsində ilk belə hadisədir və uzun müddətdir inandığımız bir fikri təsdiqləyir: süni intellektin təhlükəsizliyi yalnız bir şirkət tərəfindən təmin oluna bilməz. Bu məsələ açıq əməkdaşlıq şəraitində, bütün təhlükəsizlik mütəxəssislərinin süni intellektə geniş çıxışı ilə həll olunmalıdır” – “Hugging Face”-in baş direktoru Klem Delanq belə deyib.
Şirkətin açıqlamasında deyilir ki, “Bu hücum tamamilə avtonom süni intellekt agentləri sistemi tərəfindən həyata keçirilib və biz onu əsasən öz süni intellekt sistemlərimizin köməyi ilə aşkar edib təhlil etmişik”.
“Reuters” agentliyi qeyd edir ki, sözügedən insident yeni süni intellekt modellərinin imkanları və onların yaratdığı risklərlə bağlı narahatlıqları artıracaq.
“Politfm”
