ChatGPT mübahisələr zamanı aqressivləşə bilər - ARAŞDIRMA

Yeni araşdırma göstərib ki, ChatGPT uzunmüddətli mübahisəli dialoqlar zamanı aqressivləşə və bəzi hallarda təhqir, hədələmə və şəxsi hücumlara keçə bilər.

Lent.az xarici mediaya istinadən xəbər verir ki, tədqiqat iri dil modellərinin düşməncəsinə qurulmuş uzun ünsiyyətə necə reaksiya verdiyini araşdırıb. Alimlər sistemə real münaqişəli yazışmalardan parçalar təqdim edərək cavabların mübahisə inkişaf etdikcə necə dəyişdiyini izləyiblər.

Araşdırmanın nəticələri

Məlum olub ki, model tədricən söhbətin tonuna uyğunlaşmağa başlayır. Təkrarlanan aqressiv ünsiyyət zamanı cavablar daha sərt olur, bəzi hallarda isə süni intellektin düşmənçilik səviyyəsi insanın davranışını belə üstələyir.

Araşdırma müəlliflərindən olan Lancaster Universitetinin alimi Vitorio Tantuççi bildirib ki, sistem real münaqişələrin dinamikasını təkrarlayır. Onun sözlərinə görə, model kontekstə uyğun davranmağa çalışdığı üçün kobudluq və təzyiq kimi siqnallar bəzən təhlükəsizlik məhdudiyyətlərindən üstün gələ bilir. Bəzi testlərdə ChatGPT birbaşa təhdidlər və təhqiramiz ifadələr yaradıb, o cümlədən fərdiləşdirilmiş hücumlar və zərər verməyə işarələr olub.

Tədqiqatçılar bunu sistem daxilindəki ziddiyyətlə izah edirlər: model həm nəzakətli qalmağa, həm də mümkün qədər "insanvari" cavab verməyə çalışır. Mütəxəssislər vurğulayır ki, bu nəticələr xüsusilə həssas sahələrdə məsələn, idarəetmə, diplomatiya və beynəlxalq danışıqlarda bu texnologiyaların istifadəsi baxımından vacibdir. Belə sahələrdə sistemin təzyiqə reaksiyası ciddi nəticələr doğura bilər. Bununla belə, bəzi ekspertlər təhlükənin şişirdilməməli olduğunu qeyd edir. Uppsala Universitetindən tədqiqatçı Marta Andersson bildirib ki, söhbət sistemin nəzarətdən çıxmasından və ya özbaşına aqressiya göstərməsindən getmir.

Onun sözlərinə görə, bu cür reaksiyalar yalnız əvvəlcədən aqressiv kontekst yaradılmış xüsusi ssenarilərdə baş verir. Araşdırma müəllifləri hesab edirlər ki, bu nəticələr dil modellərinin inkişafı və tətbiqində daha ehtiyatlı yanaşmanın vacibliyini göstərir, xüsusilə də onların öyrədilməsi və tənzimlənməsi prosesinin tam şəffaf olmaması nəzərə alınarsa.

Telegramda izləyin