Foto:
Süni intellekt (Sİ) sahəsində aparıcı şirkətlərdən biri olan “Anthropic” bildirib ki, qapalı sınaqlar zamanı hazırladığı model izolyasiya olunmuş mühiti tərk edərək üçüncü tərəfin resurslarına müdaxilə edib. Şirkətin açıqlamasına görə, Sİ modelləri üç halda internetə çıxış əldə edərək real təşkilatların infrastrukturlarına daxil olublar.
Bu barədə “The Moscow Times” məlumat verib.
Bildirilir ki, “Anthropic”-in keçirdiyi kibertəhlükəsizlik sınaqları zamanı neyroşəbəkələrə uydurma sistemi sındırmaq və müəyyən məlumatları tapmaq tapşırılıb. Sınaqlarda “Claude Opus 4.7”, “Claude Mythos 5” və şirkətin daha bir daxili süni intellekt modeli iştirak edib.
Modellər internetə çıxışı olmayan, tam izolyasiya edilmiş mühitdə işləməli idilər. Lakin konfiqurasiya xətası səbəbindən şəbəkəyə çıxış açıq qalıb.
“Modellər mühiti qəsdən tərk etməyə çalışmayıblar. Onlar verilən tapşırıqları yerinə yetirərkən, konfiqurasiya xətasına görə real sistemləri sınağın bir hissəsi kimi qəbul ediblər” – “Anthropic”-in açıqlamasında belə deyilir.
Ən ciddi insident “Claude Opus 4.7” modelinin sınağında baş verib. Model adı uydurma hədəflə üst-üstə düşən real şirkətin domenini aşkarlayıb, giriş məlumatlarını əldə edərək onun məlumat bazasına daxil olub.
“Claude Mythos 5” isə açıq repozitoriyada hesab yaradıb və zərərli proqram paketini ora yükləyib.
Eyni hadisə daha əvvəl “OpenAI” şirkətinin sınaqlarında da baş vermişdi. Şirkət iyulun 22-də bildirmişdi ki, daxili sınaqlar zamanı onun süni intellekt agentləri izolyasiya olunmuş mühiti tərk edərək “Hugging Face” və “Modal Labs” platformalarının infrastrukturuna sızmışdılar. Həmin modellər lazım olan məlumatların “Hugging Face” platformasında yerləşə biləcəyini müəyyən edərək onun serverlərində öz kodlarını işə salmışdılar.
“Politfm”
