Foto: “Reuters”
ABŞ-də süni intellekt modelləri hazırlayan “Anthropic” şirkətinin əməkdaşı Ceykob Kokson işdən ayrılıb. O, qərarının səbəblərini “X” sosial şəbəkəsində böyük maraq doğuran silsilə paylaşımlarında açıqlayıb.
Bu barədə “Radio Svoboda” məlumat yayıb.
Koksonun sözlərinə görə, bu addımı atmasının əsas səbəbi “Anthropic” və əvvəllər çalışdığı “OpenAI” şirkətlərinin “özünü təkmilləşdirən superzəkaya doğru sürətlə irəliləməsi və həyatımızı riskə atmasıdır”.
Mütəxəssis hesab edir ki, şirkətlər rəqabətə aludə olduqları üçün süni intellektin inkişafı zamanı təhlükəsizlik tədbirlərini arxa plana keçirirlər. Onun sözlərinə görə, süni intellekti yaradan insanlar bu texnologiyanın “onilliyin sonunadək hamımızı öldürə biləcəyinə” həqiqətən inanırlar.
Ən çox müzakirə olunan məqam məhz bu fikir və “Anthropic”-in süni intellekt təhlükəsizliyi üzrə aparıcı mütəxəssislərindən biri Evan Habingerin ona münasibəti olub. Habinger şirkətdə süni intellektin “bütün insanları öldürə biləcəyi” ehtimalının doğrudan da ciddi qəbul edildiyini bildirib.
Onun şəxsi qənaətinə görə, belə bir hadisənin yaxın on ildə baş vermə ehtimalı 10 faizdən çoxdur. Habinger qeyd edib ki, şirkət təhlükələri dərk etsə də, insanların “superzəka” üzərində nəzarəti necə qoruyacağına dair hələ də dəqiq plan yoxdur. Söhbət qərar verərkən insanların göstərişlərinə tabe olmayan və özünü daim təkmilləşdirən süni intellektdən gedir.
“Anthropic”-in digər əməkdaşı Samuel Marks da bildirib ki, şirkətdə vəzifə pilləsi yüksəldikcə, bəşəriyyət üçün yarana biləcək təhlükəylə bağlı narahatlıq da artır.
Mütəxəssislərin açıqlamaları böyük rezonans doğurub. Buna süni intellekt modellərinin təcrübə zamanı internetə qoşulmadan şəbəkəyə çıxış yolu tapmaları və insanın komandası olmadan kiberhücumlar təşkil etməyi öyrəndiyinə dair son xəbərlər də təsir göstərib.
Süni intellektin imkanlarını nəzarətdə saxlamağı nəzərdə tutan “uyğunlaşdırma” problemi son vaxtlar bu sahədə ən çox müzakirə edilən mövzulardan birinə çevrilib.
Şirkəti “Grok” süni intellekt modelini hazırlayan İlon Mask hələ 2023-cü ildə bildirmişdi ki, süni intellektin bəşəriyyəti məhv etməsi ehtimalı sıfır səviyyəsində deyil.
“Politfm”
