ChatGPT mübahisələr zamanı aqressivləşə bilər - ARAŞDIRMA

ChatGPT mübahisələr zamanı aqressivləşə bilər - ARAŞDIRMAYeni araşdırma göstərib ki, ChatGPT uzunmüddətli mübahisəli dialoqlar zamanı aqressivləşə və bəzi hallarda təhqir, hədələmə və şəxsi hücumlara keçə bilər.

Lent.az xarici mediaya istinadən xəbər verir ki, tədqiqat iri dil modellərinin düşməncəsinə qurulmuş uzun ünsiyyətə necə reaksiya verdiyini araşdırıb. Alimlər sistemə real münaqişəli yazışmalardan parçalar təqdim edərək cavabların mübahisə inkişaf etdikcə necə dəyişdiyini izləyiblər.

Araşdırmanın nəticələri

Məlum olub ki, model tədricən söhbətin tonuna uyğunlaşmağa başlayır. Təkrarlanan aqressiv ünsiyyət zamanı cavablar daha sərt olur, bəzi hallarda isə süni intellektin düşmənçilik səviyyəsi insanın davranışını belə üstələyir.

Araşdırma müəlliflərindən olan Lancaster Universitetinin alimi Vitorio Tantuççi bildirib ki, sistem real münaqişələrin dinamikasını təkrarlayır. Onun sözlərinə görə, model kontekstə uyğun davranmağa çalışdığı üçün kobudluq və təzyiq kimi siqnallar bəzən təhlükəsizlik məhdudiyyətlərindən üstün gələ bilir. Bəzi testlərdə ChatGPT birbaşa təhdidlər və təhqiramiz ifadələr yaradıb, o cümlədən fərdiləşdirilmiş hücumlar və zərər verməyə işarələr olub.

Tədqiqatçılar bunu sistem daxilindəki ziddiyyətlə izah edirlər: model həm nəzakətli qalmağa, həm də mümkün qədər "insanvari" cavab verməyə çalışır. Mütəxəssislər vurğulayır ki, bu nəticələr xüsusilə həssas sahələrdə məsələn, idarəetmə, diplomatiya və beynəlxalq danışıqlarda bu texnologiyaların istifadəsi baxımından vacibdir. Belə sahələrdə sistemin təzyiqə reaksiyası ciddi nəticələr doğura bilər. Bununla belə, bəzi ekspertlər təhlükənin şişirdilməməli olduğunu qeyd edir. Uppsala Universitetindən tədqiqatçı Marta Andersson bildirib ki, söhbət sistemin nəzarətdən çıxmasından və ya özbaşına aqressiya göstərməsindən getmir.

Onun sözlərinə görə, bu cür reaksiyalar yalnız əvvəlcədən aqressiv kontekst yaradılmış xüsusi ssenarilərdə baş verir. Araşdırma müəllifləri hesab edirlər ki, bu nəticələr dil modellərinin inkişafı və tətbiqində daha ehtiyatlı yanaşmanın vacibliyini göstərir, xüsusilə də onların öyrədilməsi və tənzimlənməsi prosesinin tam şəffaf olmaması nəzərə alınarsa.


Sonxeber.az
Telegramda izləyin
Maraqlı   Baxılıb: 513   Tarix: 24 aprel 2026  

Şikayətiniz varsa Whatsapp: 077 7125666

Facebookda Paylaş


Oxşar xəbərlər

.

Soyuducudakı bu düymə tərəvəzin taleyini həll edir

Soyuducuda saxlanılan tərəvəzlərin tez solması və ya çürüməsi bir çox evdə qarşılaşılan problemlərdəndir. Lakin soyuducuların tərəvəz bölməsində (crisper) olan kiçik sürgülü düymə meyvə və tərəvəzlərin daha uzun müddət təzə qalmasına kömək edir. xəbər verir ki, çəkməcənin içindəki nəmlik səviyyəsin

15 noyabr
.

Satın aldığı qırıq çaydan ona sərvət qazandırdı

İngiltərədə bir kolleksiyaçının cəmi 15 sterlinqə aldığı sınıq və qapaqsız çaydanlığın ABŞ-da istehsal edilmiş ən qədim çini nümunələrindən biri olduğu üzə çıxıb. Təxminən 30 ildir keramika kolleksiyası toplayan alıcının diqqətini çəkən tarixi əşya hərracda 575 min sterlinqə satılıb. Çaydanlıq Nyu-Yorkdak

7 noyabr
.

Zirzəmidə iki il saxlanılan pendir dünyanın ən yaxşısı seçildi

Fransanın şərqindəki Yura dağlarında yerləşən zirzəmidə düz iki il saxlanılan "Komte" pendiri İspaniyanın Kordova şəhərində keçirilən "World Cheese Awards" müsabiqəsində dünyanın ən yaxşı pendiri adına layiq görülüb. "Qafqazinfo" xəbər verir ki, nüfuzlu müsabiqənin münsiflə

13 noyabr
.

"Alatoranlıq" serial olur

"Netflix" platforması məşhur "Alatoranlıq" franşizası əsasında animasiya serialı hazırlayacaq. Axşam.az xəbər verir ki, "Netflix" artıq serialın iki mövsümünü sifariş edib. Layihə Stefani Mayerin "Gecəyarısı günəşi" romanı əsasında çəkiləcək. Əsərdə ilk "Alatoranlıq"

10 noyabr
.

Evdə açarı üç yerə qoymayın: xalq inancları nə deyir?

Xalq inanclarına görə, açarların evdə saxlanıldığı yer ailənin rifahına və evdəki harmoniyaya təsir göstərə bilər. Evimizin və ya mənzilimizin açarlarını çox vaxt əlimizə rahat gələn yerlərə - mətbəx masasına, güzgünün qarşısına və ya giriş qapısının yaxınlığına qoyuruq. Lakin xalq inanclarında açarları

15 noyabr
.

Kotletlər tavaya yapışmayacaq - Peşəkar aşpazların gizli üsulu

Kotlet bişirmək ilk baxışdan çox sadə görünür. Lakin bəzən kotletlər tavaya yapışır, çevirərkən dağılır və ən dadlı, qızarmış hissəsi tavanın dibində qalır. Bunun səbəbi çox vaxt qiymənin hazırlanmasında deyil, bişirmə zamanı yol verilən səhvlərdə olur. xarici mediaya istinadən xəbər verir ki, peşəka

15 noyabr
.

Rent a car üçün ən çox seçilən avtomobillər hansıdır?

Sedan, yoxsa krossover icarəyə götürmək istəyirsiniz? Avtomobil seçərkən nələrə diqqət edilməlidir? Rent a car üçün ekonom, sedan, SUV və miniven avtomobillər təklif olunur. Avtomobillər salon genişliyi, yanacaq sərfiyyatı və baqaj həcminə görə fərqlənir. Ekonom sinif rent a car avtomobilləri. Az yanaca

17 noyabr
.

Sürücülər payızda avtomobilə niyə sabun parçası qoyurlar? - İnanılmaz SƏBƏB

Adi bir sabun parçası payız aylarında sürücülərin köməyinə çata bilər. Yağışların artması, havanın rütubətlənməsi və temperaturun tez-tez dəyişməsi avtomobil sahibləri üçün əlavə çətinliklər yaradır. Belə hallarda sadə məişət vasitələri də faydalı ola bilər. Məhz buna görə bəzi təcrübəli sürücülər avtomobili

15 noyabr
.

Sahiblərinin əhvali-ruhiyyəsi itlərə necə təsir edir?

İtlər sahiblərinin davranışlarına və emosional vəziyyətinə müxtəlif cür reaksiya verirlər. İnsanların keçirdiyi hər bir emosiya heyvanlar üçün fərqli məna daşıya bilər. xəbər verir ki, itlər insanların üz ifadələrini alimlərin əvvəllər düşündüyündən daha yaxşı tanıya bilirlər. Üstəlik, sahibinin emosiona

8 noyabr