ChatGPT mübahisələr zamanı aqressivləşə bilər - ARAŞDIRMA
Yeni araşdırma göstərib ki, ChatGPT uzunmüddətli mübahisəli dialoqlar zamanı aqressivləşə və bəzi hallarda təhqir, hədələmə və şəxsi hücumlara keçə bilər.
Lent.az xarici mediaya istinadən xəbər verir ki, tədqiqat iri dil modellərinin düşməncəsinə qurulmuş uzun ünsiyyətə necə reaksiya verdiyini araşdırıb. Alimlər sistemə real münaqişəli yazışmalardan parçalar təqdim edərək cavabların mübahisə inkişaf etdikcə necə dəyişdiyini izləyiblər.
Araşdırmanın nəticələri
Məlum olub ki, model tədricən söhbətin tonuna uyğunlaşmağa başlayır. Təkrarlanan aqressiv ünsiyyət zamanı cavablar daha sərt olur, bəzi hallarda isə süni intellektin düşmənçilik səviyyəsi insanın davranışını belə üstələyir.
Araşdırma müəlliflərindən olan Lancaster Universitetinin alimi Vitorio Tantuççi bildirib ki, sistem real münaqişələrin dinamikasını təkrarlayır. Onun sözlərinə görə, model kontekstə uyğun davranmağa çalışdığı üçün kobudluq və təzyiq kimi siqnallar bəzən təhlükəsizlik məhdudiyyətlərindən üstün gələ bilir. Bəzi testlərdə ChatGPT birbaşa təhdidlər və təhqiramiz ifadələr yaradıb, o cümlədən fərdiləşdirilmiş hücumlar və zərər verməyə işarələr olub.
Tədqiqatçılar bunu sistem daxilindəki ziddiyyətlə izah edirlər: model həm nəzakətli qalmağa, həm də mümkün qədər "insanvari" cavab verməyə çalışır. Mütəxəssislər vurğulayır ki, bu nəticələr xüsusilə həssas sahələrdə məsələn, idarəetmə, diplomatiya və beynəlxalq danışıqlarda bu texnologiyaların istifadəsi baxımından vacibdir. Belə sahələrdə sistemin təzyiqə reaksiyası ciddi nəticələr doğura bilər. Bununla belə, bəzi ekspertlər təhlükənin şişirdilməməli olduğunu qeyd edir. Uppsala Universitetindən tədqiqatçı Marta Andersson bildirib ki, söhbət sistemin nəzarətdən çıxmasından və ya özbaşına aqressiya göstərməsindən getmir.
Onun sözlərinə görə, bu cür reaksiyalar yalnız əvvəlcədən aqressiv kontekst yaradılmış xüsusi ssenarilərdə baş verir. Araşdırma müəllifləri hesab edirlər ki, bu nəticələr dil modellərinin inkişafı və tətbiqində daha ehtiyatlı yanaşmanın vacibliyini göstərir, xüsusilə də onların öyrədilməsi və tənzimlənməsi prosesinin tam şəffaf olmaması nəzərə alınarsa.
Sonxeber.az
Telegramda izləyin
Maraqlı Baxılıb: 327 Tarix: 24 aprel 2026
Şikayətiniz varsa Whatsapp: 077 7125666
Facebookda Paylaş
Payızın 4 trend rəngi - FOTO
Yeni mövsüm həmişə yeni trend və yeni qaydalar deməkdir. Mövsümün bir neçə dəb cərəyanları ilə artıq sizi tanış etmişik. Deməli, qalır rənglərin aktuallığını müzakirə etmək. xəbər xarici mətbuata istinadən xəbər verir ki, bu payız monoxrom dəstlər özünə daha çox yer edəcək. Rənglərin düzgün harmoniyasın
8 sentyabr 2021Əkiz bəylər əkiz gəlinlərlə evləndi
Türkiyənin Adıyaman bölgəsində qeyri-adi toy yaşanıb. Belə ki, məclisdə bəy və gəlinlər əkizlər olub. İki əkiz qardaş əkiz bacılarla ailə qurub. Şadlıq mərasimi vilayətin bələdiyyə başçısı Seleyman Qılıncın iştirakı ilə keçirilib. O, ilk dəfə belə bir hadisə ilə qarşılaşdığını bildirib. Məclis iştirakçılar
6 sentyabr 2021Zooloqlar inəklərə görün nə öyrətdilər
Alimlər inək fermalarından çıxan tullantıların ətraf mühitə təsirini azaltmağın yolunu tapıblar. Məlum olduğu kimi inəklər hər gün çox miqdarda peyin və sidik xaric edir. Buna görə də fermerlər gündəlik olaraq böyük təsərrüfatlarda tullantıların sanitariya problemi yaratmaması üçün müəyyən çətinliklərl
15 sentyabr 2021Evlənməzdən əvvəl özünüzdən bunları soruşun – 12 SUAL
Evlənirsiniz, yaxud gələcəkdə ailə qurmağı planlaşdırırsınız? Belə vacib qərar verməzdən əvvəl özünüzdən soruşmalı olduğunuz suallara cavab vermisinizmi? Uzun sürən bu macəraya başlamazdan əvvəl nələrə diqqət etməlisiniz?. Gözünüz -da olsun. İndi sizə evlənmədən öncə özünüzdən soruşmalı olduğunuz 1
15 sentyabr 2021Pişik "Ginnesin rekordlar kitabı"na düşüb - FOTO
Yaponiyada yaşayan Motimaru adlı şotland pişiyi "YouTube" kanalında ən çox baxılan ev heyvanı olaraq "Ginnesin rekordlar kitabı"na düşüb. xəbər verir ki, pişiyin videohostinqdəki çarxları 685 milyondan çox baxış yığıb. Hazırda o, "YouTube" kanalının ən populyar ev heyvanıdır
11 sentyabr 2021İtaliyada yaşlı qadının 500 milyon avroluq lotereya bileti oğurlandı
İtaliya polisi Neapolda tütün dükanı sahibini saxlayıb. Onun yerli sakinlərdən olan yaşlı qadının 500 milyon avro uduşlu lotereya biletini oğurladığı bildirilib. Cinayətkar Roma hava limanından Kanar adalarına uçmaq istəyərkən ələ keçib. Lakin onun üzərində xoşbəxt bilet tapılmayıb. Hazırda biletin axtarışlar
6 sentyabr 2021Körpəm məni nə zaman eşitməyə başlayır?
Körpəsinin doğulmasını gözləyən ana və atalar, uşaqlarını qucaqlarına alacaqları günü düşünəndə həyəcanlanırlar. Bununla yanaşı, bətndəki körpələri haqqında məlumatlarla da maraqlanırlar. Onlara ən çox maraqlı gələn sual isə budur: Uşağım məni nə vaxt eşitməyə başlayır?. -a istinadən məlumat verir ki
17 sentyabr 2021