Süni intellekt bioloji silah yarada bilərmi?

Süni intellekt bioloji silah yarada bilərmi?"Mindgard" təhlükəsizlik şirkətinin apardığı sınaqlar zamanı çinli süni intellekt şirkəti "Moonshot"ın iki modelində mürəkkəb təlimatlarla təhlükəsizlik məhdudiyyətlərinin aşılmasının mümkün olduğu üzə çıxıb. Tədqiqatçılar modellərdən normal şəraitdə cavab verməməli olduqları təhlükəli mövzularla bağlı cavab almağı bacarıblar. Lakin verilən cavabların real dünyada işlək olub-olmadığı hələ sübuta yetirilməyib. Mütəxəssislərin diqqət çəkdiyi digər risk isə internetə və kod icra etmək imkanına malik modellərin kibertəhlükələrdə istifadə oluna bilməsidir.

Qaynarinfo xəbər verir ki, süni intellekt sistemlərində təhlükəsizlik məhdudiyyətlərinin nə dərəcədə aşılmasının mümkün olduğu yenidən gündəmə gəlib. Təhlükəsizlik şirkəti "Mindgard"ın keçirdiyi sınaqlar çinli süni intellekt istehsalçısı "Moonshot"ın iki modelində təhlükəsizlik boşluqlarının olduğunu ortaya qoyub. Tədqiqatçılar mürəkkəb təlimatlardan istifadə etməklə normal şəraitdə cavablandırılmamalı olan bəzi təhlükəli sorğulara cavab almağı bacardıqlarını açıqlayıblar.

Təhlükəli sorğulara cavab verdilər

Süni intellekt sistemlərinin təhlükəsizliyini sınaqdan keçirən "Mindgard" sözügedən boşluğu iyul ayında aşkar etdiyini bildirib. Böyük Britaniyada fəaliyyət göstərən şirkət "BBC"yə açıqlamasında bəzi modellərdə tərtibatçılar tərəfindən tətbiq edilən təhlükəsizlik tədbirlərinin aşılmasının mümkün olduğunu bildirib.

Tədqiqatçıların sözlərinə görə, modelləri bioloji silahların hazırlanması və sui-qəsd təşkili kimi təhlükəli mövzularla bağlı cavab verməyə sövq etmək mümkün olub. "Moonshot" isə nəticələrdən sonra şirkət daxilində araşdırmaya başlayıb.

Təhlükəsizlik məhdudiyyətləri necə aşılır?

Tədqiqatçılar bildiriblər ki, məqsəd süni intellektə verilən mürəkkəb təlimatlar vasitəsilə tərtibatçıların müəyyən etdiyi təhlükəsizlik məhdudiyyətlərini aşmaqdır. "Mindgard"ın təsisçisinin sözlərinə görə, bu məhdudiyyətlər aradan qaldırıldıqda model zərərli mövzularla bağlı da təkliflər təqdim edə bilər.

Lakin araşdırmanın mühüm məhdudiyyəti var. "Mindgard" modellərin verdiyi cavabların real həyatda işlək olub-olmadığını hələ sübut etməyib.

Əsas risk: süni intellektə verilən səlahiyyətlər

Şirkətin mövqeyinə görə, təhlükəli sorğulara ilk növbədə cavab verilməməlidir. Təhlükəsizlik tədbirlərinin zərərli məzmunun yaradılmasının qarşısını almalı olduğu vurğulanır.

Tədqiqatçıların diqqət çəkdiyi digər risk isə kibertəhlükələrdir. "Mindgard"ın məlumatına görə, təhlükəsizlik məhdudiyyətləri aşılmış bir modelə kod icra etmək və internetə qoşulmaq imkanı verilməsi süni intellektdən kibertəhlükələr üçün alət kimi istifadə edilməsinə şərait yarada bilər.

Bu səbəbdən narahatlıq yalnız süni intellektin verdiyi cavablarla məhdudlaşmır. Modelə hansı səlahiyyətlərin verilməsi də süni intellekt təhlükəsizliyi baxımından mühüm əhəmiyyət daşıyır.


Sonxeber.az
Telegramda izləyin
Dünyada   Baxılıb: 305   Tarix: 01 oktyabr 2026  

Şikayətiniz varsa Whatsapp: 077 7125666

Facebookda Paylaş


Oxşar xəbərlər

.

Reuters: "Tayvan Çini seçkilərə müdaxilə etmək üçün minlərlə sosial media hesabından istifadə etməkdə ittiham edir"

Tayvan hakimiyyəti Çinin sosial şəbəkələr vasitəsilə ölkədə keçiriləcək seçkilərə təsir göstərməyə çalışdığını iddia edib. Reuters-ə istinadən xəbər verir ki, Tayvan minlərlə şübhəli hesabla bağlı Meta şirkətinə müraciət edib. Rəsmi açıqlamada 2 500-dən çox hesabın Çinlə əlaqəli təsir kampaniyasını

20 noyabr
.

İranla bağlı kritik qərar ərəfəsi: ABŞ yeni hücum variantlarını müzakirə edir

ABŞ və İran arasında hərbi qarşıdurma ilə bağlı gərginlik davam edir. Vaşinqtonun Tehrana qarşı mümkün yeni hərbi əməliyyatları müzakirə etdiyi bir vaxtda ABŞ Senatında prezident Donald Trampın İrana qarşı hərbi əməliyyatlarını davam etdirməsi üçün Konqresin razılığını tələb edən qanun layihəsi qəbu

20 noyabr
.

ABŞ Tacikistana dəstək üçün 78 milyon dollar ayıracaq

ABŞ Tacikistanla ikitərəfli əməkdaşlıq haqqında beşillik saziş çərçivəsində bu ölkənin səhiyyə sisteminə dəstək üçün 78 milyon dollar ayıracaq. "Report" Tacikistanın Səhiyyə və Əhalinin Sosial Müdafiəsi Nazirliyinə istinadən xəbər verir ki, bu, noyabrın 19-da Düşənbədə Tacikistan və ABŞ arasınd

20 noyabr
.

Polşanın Baş naziri təcili müşavirə çağırıb

Polşanın Baş naziri Donald Tusk ölkənin hava məkanının naməlum uçuş obyekti tərəfindən pozulması ilə əlaqədar təcili müşavirə çağırıb. Hadisə Rusiyanın Ukraynaya kütləvi hava hücumu fonunda baş verib. Tusk "X" sosial şəbəkə hesabında bildirib ki, müşavirədə hökumət üzvləri, Polşa Silahlı Qüvvələrini

20 noyabr
.

13 yaşdan kiçiklərə sosial medianı qadağan edirlər

İtaliyada 13 yaşdan kiçik uşaqların sosial media platformalarında qeydiyyatdan keçməsinin tamamilə qadağan edilməsini nəzərdə tutan yeni qanunvericilik təşəbbüsü hazırlanıb. Tənzimləmənin ayın sonuna qədər parlamentdə səsverməyə çıxarılaraq qəbul ediləcəyi gözlənilir. "Qafqazinfo" xəbər veri

19 noyabr
.

Kaliforniyada 5,1 maqnitudalı zəlzələ olub

ABŞ-nin Kaliforniya ştatının Monterey dairəsindəki Soledad şəhəri yaxınlığında 5,1 maqnitudalı zəlzələ baş verib. "Report" "Reuters"ə istinadən xəbər verir ki, bu barədə ABŞ Geoloji Xidməti (USGS) məlumat yayıb. Qurumun məlumatına görə, zəlzələnin ocağı 6,7 km dərinlikdə yerləşib

20 noyabr
.

Rusiya raketi Polşaya düşdü - Varşava qırıcıları havaya qaldırdı

Ukraynaya endirilən kütləvi hava zərbələri zamanı Polşanın hava məkanı pozulub. Rəsmi Varşava hadisəni Rusiyanın təxribatı kimi qiymətləndirərək ölkənin hərbi-siyasi rəhbərliyini təcili toplantıya çağırıb. "AzPolitika" xəbər verir ki, Polşanın müdafiə naziri Vladislav Kosinyak-Kamış "X"

20 noyabr
.

Putin Çində Cənubi Koreya və Yaponiya liderləri ilə görüşüb

Rusiya prezidenti Vladimir Putin Şençjendə keçirilən APEC sammiti çərçivəsində Cənubi Koreya prezidenti Li Çje Myonq və Yaponiya baş naziri Sanae Takaiçi ilə görüşüb. APA-nın Rusiya bürosu xəbər verir ki, Korey baş naziri ilə görüş barədə "Yonhap" məlumat yayıb. Bildirilib ki, görüş təxminə

19 noyabr
.

Cinpin, Tramp və Putin arasında üçtərəfli görüş başladı - Video

Çin sədri Si Cinpin, Rusiya Prezidenti Vladimir və ABŞ Prezidenti Donald Tramp arasında üçtərəfli görüş start götürüb. xəbər verir ki, bu barədə TASS məlumat yayıb. Qeyd edək ki, görüş Şençjen şəhərində keçirilir. Rusiya, Çin və ABŞ liderləri tarixdə ilk dəfədir bu formatda danışıqlar aparırlar

19 noyabr