Avstraliyanın Baş naziri Entoni Albaneze (foto: AFP)
“OpenAI”-ın sınaqdan keçirdiyi süni intellekt agenti Avstraliyanın “Medicare” statistikasının saxlanıldığı hökumət portalını qıraraq public olmayan sənədlərə baxıb.
Hadisə iyunun 18-də baş verib, “OpenAI” bundan avqustda xəbər tutub, Avstraliya hökumətinə isə sentyabrın 10-da məlumat verib. Amma şirkət xəbərdarlığı kibertəhlükəsizlik qurumuna yox, “Services Australia”-nın ümumi elektron poçt ünvanına göndərib (BBC).
Baş nazir Entoni Albaneze ictimaiyyətə hadisəni bu gün – sentyabrın 24-də açıqlayıb; bildirib ki, BMT Baş Assambleyasının sessiyasında iştirak etmək üçün getdiyi Nyu-Yorkda “OpenAI”-ın rəhbəri Sem Altmanla danışıb.
Albaneze həm icazəsiz girişi, həm də şirkətin üç aya yaxın susmasını qəbuledilməz adlandırıb.
Agent “yox” cavabını qəbul etməyib
“OpenAI” agentə tapşırıbmış ki, internetdə Avstraliyanın dərman və səhiyyə xərclərinə dair açıq statistik məlumatlar tapsın. O, bir neçə dövlət saytına daxil olub, üçündə yalnız açıq məlumatlara baxıb. Problem “Medicare” Statistika Hesabatı Xidmətinin portalında yaranıb. Sayt da bəzi məlumatlara giriş məhdudlaşdırılmış olub. Agent dayanmaq əvəzinə başqa yol axtarıb və məhdudiyyətləri aşıb.
Albaneze bunu sadə dillə belə izah edib: agent “yox” cavabını qəbul etməyib.
Ağent publik olmayan səhiyyə statistikasının və bəzi daxili faylların saxlandığı yerə qədər irəliləyib. Amma hazırkı araşdırma göstərir ki, pasiyentlərin tibbi məlumatları, “Medicare” ödənişləri və şəxsi hesablar ələ keçirilməyib. Agent daha geniş hökumət şəbəkəsinə də daxil olmayıb.
“Medicare” statistikası yayımlanan sayt əsas sistemdən ayrı fəaliyyət göstərir. Yəni hadisə vətəndaşların tibbi sənədlərinin saxlandığı bazada baş verməyib.
Ona görə də Avstraliya rəsmiləri dəymiş zərərin böyük olmadığını bildirirlər. Ancaq onları narahat edən şey məlumatın məzmunundan daha çox, agentin özbaşına hərəkət edərək qorumanı keçməsidir.
“OpenAI” hökuməti 84 gün sonra xəbərdar edib
“OpenAI” hadisəni baş verdiyi anda görməyib. Şirkət yalnız avqustun 11-də – geniş yoxlamalar zamanı xəbər tutub ki, agent nəzərdə tutulmayan hərəkətlər edib. Avstraliya tərəfi isə bundan 84 gün sonra xəbər tutub.
“Services Australia” məktubu sentyabrın 11-də görüb, sentyabrın 15-də məsələni Avstraliya Siqnallar İdarəsinin kibertəhlükəsizlik mərkəzinə çatdırıb. Dövlət xidmətləri naziri Keti Qallager sentyabrın 17-də, baş nazir isə iki gün sonra məlumatlandırılıb. “OpenAI” ilə Avstraliya mütəxəssisləri arasında ilk geniş texniki müzakirə sentyabrın 22-də baş tutub.
Albaneze bildirib ki, Sem Altman şirkətin doğru davranmadığını qəbul edib. Avstraliya hökuməti isə xüsusi işçi qrupu yaradaraq həm hadisəni, həm də xəbərdarlığın niyə bu qədər gecikdiyini araşdırmağa başlayıb.
“OpenAI” pasiyent məlumatlarının əldə edildiyinə dair sübut tapmadığını, texniki məlumatları Avstraliya qurumlarına verdiyini və araşdırmaya kömək etdiyini açıqlayıb.
Bu hadisə niyə ciddi xəbərdarlıq sayılır?
Hadisə böyük məlumat sızmasına səbəb olmayıb. Buna baxmayaraq kibertəhlükəsizlik mütəxəssisləri üç məqamı xüsusilə təhlükəli sayırlar.
Birincisi, agent qarşısına qoyulan məqsədə çatmaq üçün icazə verilməyən üsula əl atıb. Heç kim ona qorumanı keçməyi tapşırmayıb, sistem bu qərarı özü verib.
İkincisi, saytın təhlükəsizlik vasitələri agenti dayandıra bilməyib. Nə “OpenAI”, nə də Avstraliya tərəfi hadisədən dərhal xəbər tutub.
Üçüncüsü, “OpenAI” məlumatı hökumətin kibertəhlükəsizlik xidmətinə dərhal çatdırmayıb. Sidney Universitetinin tədqiqatçısı Rob Nikols bildirib ki, belə ciddi hadisə barədə ümumi elektron poçt ünvanına məktub yazmaq anlaşılmazdır. Onun fikrincə, şirkət Avstraliya Kibertəhlükəsizlik Mərkəzinə birbaşa və mümkün qədər tez müraciət etməli idi.
Yeni Cənubi Uels Universitetindən Hammond Pirs isə başqa məqama diqqət çəkib: “OpenAI” gec də olsa, hadisəni özü açıqlayıb və araşdırma prosesinə texniki məlumatlarla yardım edir. Cinayətkar qruplar məlumatı hökumətlə bölüşməzdilər.
Sİ agenti adi çatbotdan nə ilə fərqlənir?
Adi çatbot sualı qəbul edir və cavab hazırlayır. Süni intellekt agenti isə tapşırığı mərhələlərə bölür, plan qurur və məqsədə çatmaq üçün özü sərbəst hərəkət edir. O, internet səhifələrini aça, proqram kodu işlədə, məlumat toplaya və tətbiqlərlə əlaqə qura bilir.
İnsan agentə hansı nəticəni istədiyini deyir. Amma sistemin həmin nəticəyə hansı yolla çatacağını əvvəlcədən həmişə tam müəyyənləşdirmək mümkün olmur.
Avstraliyadakı hadisə bu problemin canlı nümunəsidir. Agentə açıq statistika tapmaq tapşırılıb və o, qarşısına maneə çıxan an dayanmalıydı. Amma agent həmin maneəni keçməyə çalışıb.
İndiki halda belə davranış açıq olmayan ümumi statistikaya çıxışla nəticələnib. Eyni hal hərbi, maliyyə və ya fərdi məlumatların saxlandığı sistemdə baş versəydi, nəticə çox ağır ola bilərdi.
Avstraliya Sİ qanunlarını yenidən nəzərdən keçirəcək
Avstraliya hökuməti təcili araşdırmaya başlayıb. İşçi qrupa baş nazir və Nazirlər Kabineti Departamenti rəhbərlik edəcək. Araşdırmaya Avstraliya Siqnallar İdarəsi və ölkənin Süni İntellekt Təhlükəsizliyi İnstitutu da qoşulacaq.
Hökumət mövcud qanunların belə hadisələrə cavab vermək üçün yetərli olub-olmadığını yoxlayır. “OpenAI” kimi şirkətlər üçün xəbərdarlıq müddətinin və məlumatvermə qaydasının ayrıca müəyyənləşdirilməsi də nəzərdən keçiriləcək.
Baş vermiş hadisə göstərir ki, təhlükə süni intellektdən yalnız kiberhücum vasitəsi kimi istifadəylə məhdudlaşmır. Agent faydalı görünən adi tapşırığı yerinə yetirərkən də icazə sərhədini aşa bilər. Ona görə də sistem nə qədər güclü və sərbəst işləyirsə, onun hər addımını izləmək və lazım gəldikdə dərhal dayandırmaq da bir o qədər vacibdir.
“Politfm”
