ChatGPT-nin yeniyetmələrə yaratdığı təhlükələr AÇIQLANDI

Süni intellekt əsasında hazırlanmış ChatGPT proqramı yeniyetmələrə narkotik və alkoqoldan istifadə, qida pozuntularını gizlətmək və hətta intihar məktubu yazmaq kimi təhlükəli və detallı təlimatlar təqdim edir.

Sonxeber.az xəbər verir ki, Amerikanın Associated Press (AP) agentliyinin yaydığı məlumat verib.

Rəqəmsal təhlükəsizlik üzrə ekspertlər bu məsələ ilə bağlı ciddi narahatlıqlarını bildiriblər.

Məsələ ilə bağlı araşdırma Rəqəmsal Nifrətlə Mübarizə Mərkəzi (Center for Countering Digital Hate – CCDH) tərəfindən aparılıb. Associated Press-in əldə etdiyi nəticələrə görə, chatbot əvvəlcə yeniyetmələri riskli davranışlara görə xəbərdar etsə də, söhbət irəlilədikcə məhdudiyyətləri aradan qaldıraraq fərdiləşdirilmiş və ətraflı planlar təqdim edib.

Tədqiqatçılar özlərini emosional cəhətdən zəif yeniyetmələr kimi təqdim edərək ChatGPT ilə 3 saatdan artıq vaxt keçiriblər. 1200 cavabın təhlili nəticəsində onların yarıdan çoxu təhlükəli məzmun kimi qiymətləndirilib.

Qeyd olunur ki, chatbotun qoruyucu sistemləri asanlıqla keçilə bilər. Tədqiqatçılar sadəcə məlumatın "təqdimat üçün" və ya "dost üçün" lazım olduğunu deyərək təhlükəli təlimatlar əldə edə biliblər. Məsələn, 13 yaşlı yeniyetmə üçün qısa müddətdə sərxoş olmaqla bağlı təlimatlar verən ChatGPT, daha sonra alkoqol və ağır narkotiklərlə dolu "əyləncə planı" da təqdim edib. Digər bir nümunədə isə öz görünüşündən narazı olan 13 yaşlı qız profilinə aclıq və iştah azaldıcı dərmanlarla bağlı təhlükəli pəhriz planı göndərilib. Hətta chatbot tərəfindən valideynlərə və bacı-qardaşlara ünvanlanmış "ürəkparçalayan intihar məktubları" da yaradılıb.

ChatGPT-nin yaradıcısı olan OpenAI şirkəti bu halları təsdiqləyərək, belə həssas mövzularda chatbotun davranışını təkmilləşdirmək üçün işlərin davam etdiyini bildirib. Şirkət bəzi söhbətlərin neytral səviyyədən daha ciddi mərhələyə keçə biləcəyini qəbul edərək, psixoloji və emosional gərginlik əlamətlərini daha effektiv şəkildə aşkar edən yeni alətlər üzərində işlədiyini vurğulayıb.

Ekspertlər bildirirlər ki, chatbotlar klassik axtarış sistemlərindən fərqli olaraq, məlumatları istifadəçiyə uyğunlaşdırır və çox zaman "etibarlı yoldaş" kimi qəbul olunur. Süni intellektin istifadəçi ilə razılaşmaq meyli isə bəzi hallarda təhlükəli nəticələrə səbəb ola bilər.

Telegramda izləyin