Süni intellekt bioloji silah yarada bilərmi?
"Mindgard" təhlükəsizlik şirkətinin apardığı sınaqlar zamanı çinli süni intellekt şirkəti "Moonshot"ın iki modelində mürəkkəb təlimatlarla təhlükəsizlik məhdudiyyətlərinin aşılmasının mümkün olduğu üzə çıxıb. Tədqiqatçılar modellərdən normal şəraitdə cavab verməməli olduqları təhlükəli mövzularla bağlı cavab almağı bacarıblar. Lakin verilən cavabların real dünyada işlək olub-olmadığı hələ sübuta yetirilməyib. Mütəxəssislərin diqqət çəkdiyi digər risk isə internetə və kod icra etmək imkanına malik modellərin kibertəhlükələrdə istifadə oluna bilməsidir.
Qaynarinfo xəbər verir ki, süni intellekt sistemlərində təhlükəsizlik məhdudiyyətlərinin nə dərəcədə aşılmasının mümkün olduğu yenidən gündəmə gəlib. Təhlükəsizlik şirkəti "Mindgard"ın keçirdiyi sınaqlar çinli süni intellekt istehsalçısı "Moonshot"ın iki modelində təhlükəsizlik boşluqlarının olduğunu ortaya qoyub. Tədqiqatçılar mürəkkəb təlimatlardan istifadə etməklə normal şəraitdə cavablandırılmamalı olan bəzi təhlükəli sorğulara cavab almağı bacardıqlarını açıqlayıblar.
Təhlükəli sorğulara cavab verdilər
Süni intellekt sistemlərinin təhlükəsizliyini sınaqdan keçirən "Mindgard" sözügedən boşluğu iyul ayında aşkar etdiyini bildirib. Böyük Britaniyada fəaliyyət göstərən şirkət "BBC"yə açıqlamasında bəzi modellərdə tərtibatçılar tərəfindən tətbiq edilən təhlükəsizlik tədbirlərinin aşılmasının mümkün olduğunu bildirib.
Tədqiqatçıların sözlərinə görə, modelləri bioloji silahların hazırlanması və sui-qəsd təşkili kimi təhlükəli mövzularla bağlı cavab verməyə sövq etmək mümkün olub. "Moonshot" isə nəticələrdən sonra şirkət daxilində araşdırmaya başlayıb.
Təhlükəsizlik məhdudiyyətləri necə aşılır?
Tədqiqatçılar bildiriblər ki, məqsəd süni intellektə verilən mürəkkəb təlimatlar vasitəsilə tərtibatçıların müəyyən etdiyi təhlükəsizlik məhdudiyyətlərini aşmaqdır. "Mindgard"ın təsisçisinin sözlərinə görə, bu məhdudiyyətlər aradan qaldırıldıqda model zərərli mövzularla bağlı da təkliflər təqdim edə bilər.
Lakin araşdırmanın mühüm məhdudiyyəti var. "Mindgard" modellərin verdiyi cavabların real həyatda işlək olub-olmadığını hələ sübut etməyib.
Əsas risk: süni intellektə verilən səlahiyyətlər
Şirkətin mövqeyinə görə, təhlükəli sorğulara ilk növbədə cavab verilməməlidir. Təhlükəsizlik tədbirlərinin zərərli məzmunun yaradılmasının qarşısını almalı olduğu vurğulanır.
Tədqiqatçıların diqqət çəkdiyi digər risk isə kibertəhlükələrdir. "Mindgard"ın məlumatına görə, təhlükəsizlik məhdudiyyətləri aşılmış bir modelə kod icra etmək və internetə qoşulmaq imkanı verilməsi süni intellektdən kibertəhlükələr üçün alət kimi istifadə edilməsinə şərait yarada bilər.
Bu səbəbdən narahatlıq yalnız süni intellektin verdiyi cavablarla məhdudlaşmır. Modelə hansı səlahiyyətlərin verilməsi də süni intellekt təhlükəsizliyi baxımından mühüm əhəmiyyət daşıyır.
Sonxeber.az
Telegramda izləyin
Şikayətiniz varsa Whatsapp: 077 7125666
Facebookda Paylaş











Sabaha leysan gözlənilir - XƏBƏRDARLIQ
Qətlə yetirilən Gülarənin atası danışdı - "Ayxan 2 ay idi gecələr yatmırdı"
Qadın qətllərinə qarşı ən sərt cəzalar: Azərbaycan İstanbul Konvensiyasına qoşula bilərmi? - VƏKİLDƏN AÇIQLAMA
Kiberdələduzluqda bir başqa yol...
Xarici vətəndaşlıq hərbi xidmətdən azad etmir - VACİB AÇIQLAMA
Elton qızına toy edir
Vətəndaşlara aşağı faizli kredit imkanı: Hansı şərtlər tələb olunur?
Prezident İlham Əliyev Vyetnama rəsmi səfərə gedib - Foto/Video
Kupçasız ev alanlar pullarını və əmlakı itirə bilər? - EKSPERTDƏN XƏBƏRDARLIQ
Nikahdan əvvəl alınan ev boşanma zamanı bölünə bilərmi? - Qanun nə deyir? - ƏMLAK EKSPERTİNDƏN AÇIQLAMA
Sənət adamlarından Könül Xasıyevanı pubda oxumasına reaksiya: "Mənim yaşıma uyğun deyil"
Vəkil Orxan Kəngərli həbs edildi
Azərbaycan-Vyetnam münasibətlərində yeni mərhələ: Əməkdaşlıq hansı istiqamətlərdə genişlənəcək?
Yaşıl çay alarkən bunlara diqqət edin - Keyfiyyətsiz məhsulu necə tanımaq olar? - QİDA EKSPERTİNDƏN AÇIQLAMA