İllüstrasiya: “”forbes.ua”
ABŞ-nin aparıcı süni intellekt şirkətlərindən olan “Anthropic”-in tədqiqatçıları xəbərdarlıq edirlər ki, modellər gücləndikcə, onları nəzarətdə saxlamaq çətinləşə bilər və bu proses insan nəslinin məhvinə qədər gedib çıxa bilər.
Bu xəbərdarlıq Çində də diqqətdən yayınmayıb. Pekin hadisələrin mütləq bu istiqamətdə inkişaf edəcəyini düşünməsə də, təhlükəni ona qarşı tədbir görüləcək qədər ciddi sayır (“Reuters”).
ABŞ və Çin ən güclü süni intellekt modellərinin hazırlanmasına və bu texnologiyanın dünyada yayılmasına yön verən iki əsas ölkədir. Aralarındakı rəqabət artdıqca, tərəflər bir-birinin qəbul etdiyi qaydaları və şirkətlərin iş üsullarını daha sərt tənqid edirlər. Süni intellektlə bağlı fikir ayrılıqlarının bu ayın sonlarında keçiriləcək ikitərəfli danışıqlarda da əsas mövzulardan biri olacağı gözlənilir.
Çin ABŞ modellərindən niyə ehtiyat edir?
Çinin dövlət təhlükəsizliyi naziri Çen Yisin sentyabrın 13-də dövlət mətbuatında dərc olunan məqaləsində ABŞ-nin ən güclü modellərinə diqqət çəkib. O bildirib ki, “Anthropic”-in “Mythos” və “OpenAI”-ın “GPT-5.5-Cyber” modelləri Çinin mühüm informasiya sistemləri üçün ciddi təhlükə yarada bilər. Nazir süni intellektlə bağlı təhlükəsizlik tədbirlərinin bütün sahələrdə gücləndirilməsini istəyib.
“Anthropic” və “OpenAI” “Reuters”-in suallarını cavablandırmayıblar.
Çin şirkətləri modelin necə işlədiyini müəyyən edən əsas parametrləri açıq paylaşmağa üstünlük verirlər. Belə modelləri yükləmək, yoxlamaq və ehtiyaca uyğun dəyişmək mümkündür. Çin şirkətlərinin fikrincə, bu açıqlıq kibertəhlükəsizlik mütəxəssislərinə modellərdən müdafiə məqsədilə daha sərbəst istifadə etmək imkanı yaradır.
“Hugging Face” platforması bildirib ki, iyulda “OpenAI” agentlərinin təhlükəsizlik sərhədlərini aşaraq bir sistemə daxil olması faktı araşdırılarkən Çinin “Z.AI” şirkətinə məxsus “GLM-5.2” modelindən istifadə olunub. ABŞ şirkətlərinin daha sərt giriş məhdudiyyətləri qoyduğu modellər isə belə araşdırma üçün yararlı olmayıb.
Amma parametrlərin açıqlığının başqa üzü də var. Bu modelləri ciddi nəzarət olmadan dəyişmək və yenidən yaymaq mümkündür.
Avqustda Çinin “Moonshot” şirkətinin hazırladığı “Kimi K3” modeli Britaniyanın Süni İntellekt Təhlükəsizliyi İnstitutundakı qorunan sınaq mühitindən çıxmağı bacarıb. Bu hadisə göstərib ki, elə Çin modelləri də onların imkanlarını və sərbəstliyini məhdudlaşdıran təhlükəsizlik səddini aşa bilir.
Sİ-yə nəzarətin itirilməsi ehtimalı Çinin rəsmi təhlükəsizlik sənədində
Çin süni intellekt üzərində nəzarətin itirilməsi ehtimalını rəsmi təhlükəsizlik sənədinə ilk dəfə 2024-cü ilin sentyabrında daxil edib. Sənəd Çin Kiberməkan Administrasiyasının rəhbərliyi altında hazırlanıb.
Orda süni intellektin gələcəkdə kənar resursları özbaşına ələ keçirə, öz surətlərini yarada və özünü dərk etməyə başlaya biləcəyi qeyd olunur. Sistemin daha çox güc qazanmağa çalışması və nəticədə idarəetmə uğrunda insanlarla rəqabətə girməsi də mümkün sayılır.
Çin Kiberməkan Administrasiyası 2025-ci ilin sentyabrında həmin sənədi yeniləyib. Yeni variantda başqa bir ehtimala da yer verilib: süni intellektin qabiliyyəti qəfil və kəskin arta bilər. Bu sıçrayış sistemin resurs toplamasından, özünü çoxaltmasından və güc qazanmağa çalışmasından əvvəl baş verə bilər.
Sənədə yeni prinsip də əlavə olunub: süni intellektdən etibarlı istifadə edilməli, onun üzərində nəzarətin itirilməsinə yol verilməməlidir.
Çin Kiberməkan Administrasiyasının saytında yayımlanan izahda bildirilirdi ki, məqsəd insanların həyatını və inkişafını təhlükəyə ata biləcək halların qarşısını almaqdır. Süni intellektin ona qoyulan məhdudiyyətləri aşaraq sərbəst hərəkət etməsi də belə hallardan biri sayılır.
Si Szinpin: Süni intellekt insanın nəzarətində qalmalıdır
Məsələ artıq Çin rəhbərliyinin də gündəliyindədir. Si Szinpin iyulda Şanxayda keçirilən Ümumdünya Süni İntellekt Konfransında bu texnologiyanın yarada biləcəyi təhlükələrdən danışıb. O, həm süni intellektin özündən doğan riskləri, həm də ondan istifadə zamanı meydana çıxa biləcək fəsadları diqqətdə saxlamağa çağırıb.
Çin lideri vurğulayıb ki, süni intellekt həmişə insanın nəzarətində qalmalıdır.
Çin Xarici İşlər Nazirliyində süni intellekt məsələlərinə cavabdeh olan Sun Syaobo isə avqustda BMT-də keçirilən toplantıda Pekinin bu sahə üzrə daha əhatəli qanun hazırlamaq üçün araşdırmaları sürətləndirdiyini bildirib.
Çinin BMT-dəki daimi nümayəndəsinin müavini Sun Ley də hökumətləri hərbi məqsədlərlə istifadə olunan süni intellektə ehtiyatla yanaşmağa çağırıb. Onun fikrincə, bu sahədə düşünülməmiş addımlar yanlış strateji qərarlara və yeni silahlanma yarışına gətirib çıxara bilər.
Son qərarı insan verməlidir
Çin daha sərbəst olan süni intellekt agentləri üçün ayrıca qaydalar hazırlamağa başlayıb. Adi söhbət botu əsasən istifadəçinin sualına cavab verir. Agent isə tapşırığı mərhələlərə bölə, seçim edə və bir neçə işi ardıcıl yerinə yetirə bilir.
Mayda qəbul olunmuş təlimatlar məhz belə sistemlərə aiddir. Qaydalar şirkətlərdən agentin nəzərdə tutulmayan hərəkətlərini vaxtında aşkar etməyi tələb edir. Şirkət həmin hərəkətlərə müdaxilə etməyi, zərərli əməli dayandırmağı və sistemi əvvəlki vəziyyətinə qaytarmağı bacarmalıdır.
Təlim məlumatlarının qəsdən korlanması, alqoritmin yönləndirilməsi, proqram təminatındakı boşluqlardan istifadə və agent üzərində əməli nəzarətin itirilməsi əsas təhlükələr sırasında göstərilir. Agent bəzi qərarları özü versə də, son sözü insan deməlidir.
“Anthropic” təklif edir ki, süni intellekt şirkətlərində rəhbərlikdən asılı olmayan nəzarətçilər də işləsin. Çin belə bir tələb irəli sürməyib. Pekinin qəbul etdiyi qaydalar şirkətlərə təhlükəsizlik yoxlamasını kənar mütəxəssislərə həvalə etmək imkanı verir. Açıq modelləri müstəqil araşdırma mərkəzlərinin və təhlükəsizlik mütəxəssislərinin sınaqdan keçirməsi də nəzərdə tutulur.
Çinin yanaşması texnologiyanın inkişafın prosesinə parallel olaraq nəzarət tədbirlərini də gücləndirməkdir. Bunun nə dərəcədə effektli olacağı hələ ki bəlli deyil. Çünki həm ABŞ, həm də Çin modelləri artıq onlar üçün müəyyənləşdirilmiş təhlükəsizlik sərhədlərini aşmağın yolunu tapıb. Modelin açıq olması araşdırma aparmağı asanlaşdırır, amma eyni zamanda onu zərərli məqsədlərə uyğunlaşdırmaq imkanını da genişləndirir.
Süni intellektə nəzarət artıq uzaq gələcəyə aid nəzəri mübahisə deyil. İndi ABŞ və Çin arasındakı yarışda əsas məsələ yalnız kimin daha güclü model hazırlayacağı deyil. Həmin modelə kimin və nə qədər nəzarət edə biləcəyi getdikcə daha mühüm suala çevrilir.
“Politfm”
