Süni intellekt zəhərləndi - Məlumat zəhərlənməsi nədir?

Süni intellekt sistemləri son illərdə sürətlə inkişaf etsə də, bu texnologiyanın əsasını təşkil edən məlumat təhlükəsizliyi ciddi təhlükə altındadır. Mütəxəssislər xəbərdarlıq edirlər ki, "məlumat zəhərlənməsi" adlanan yeni bir hücum növü modelləri daxildən pozmağa başlayır.

Ölkə.az "Haber Global"a istinadla xəbər verir ki, məlumat zəhərlənməsi süni intellekt modellərinin təlim keçdiyi məlumat dəstlərinə manipulyasiya edilmiş və ya yalan məlumat daxil edildikdə baş verir.

Hücumçu qəsdən bir modelə korlanmış və ya qərəzli məlumat daxil etdikdə, model bu məlumatları sanki "düzgün məlumat" kimi öyrənir.

Nəticədə, model hücumçunun istədiyi istiqamətdə səhv və ya qərəzli nəticələr verməyə başlayır.

Əvvəllər belə hücumların effektiv olması üçün milyonlarla manipulyasiya edilmiş məlumat nöqtəsinə ehtiyac olduğu düşünülürdü. Lakin son tədqiqatlar milyardlarla parametrli modellərin yalnız bir neçə yüz saxta sənədlə manipulyasiya edilə biləcəyini ortaya qoydu.

Təhlükənin dərəcəsi

Bu cür zəhərlənmə hücumları yalnız yalan məlumat yaratmaqla məhdudlaşmır. Model daxilində gizli "tetikleyicilər" yaradıla bilər (məsələn, müəyyən bir söz və ya mövzu qeyd edildikdə fərqli davranmaq əmri).

Bu, təcavüzkarın hədəf anında modeli manipulyasiya etməsinə imkan verir.

Bundan əlavə, bu hücumlar çox vaxt təlim prosesi zamanı aşkarlanmır; zəhərlənmiş məlumatlar sistemdə dərin şəkildə yerləşmiş qalır.

Süni intellekt şirkətləri nə edir?

Mütəxəssislərin fikrincə, ictimaiyyətə açıq məlumatlarla təlim keçmiş modellər ən yüksək risk altındadır.

Bu səbəbdən bəzi laboratoriyalar hazırda təlim məlumatlarını mənbə yoxlaması və süzgəc sistemləri vasitəsilə idarə edirlər.

Bundan əlavə, "düşmən təlimi" adlanan yeni metodlar modelləri qəsdən çətinləşdirən və yanlış məlumatlarla sınaqdan keçirməklə müdafiələrini gücləndirir.

Süni intellekt sistemləri saysız-hesabsız sahələrdə qərarlar qəbul edir. Bu cür kritik sistemlərdə məlumatların zəhərlənməsi yalnız səhv nəticələrə deyil, həm də ictimai və iqtisadi zərərə səbəb ola bilər.

Telegramda izləyin