Dünya elə bir vəziyyətlə üzləşəcək ki... - Bu şəbəkələr təhlükəli silaha çevrilir

"Europol" xəbərdarlıq edib ki, tezliklə dünya elə bir vəziyyətlə üzləşəcək ki, ChatGPT və GPT-4 neyron şəbəkələri vasitəsilə süni intellekt müxtəlif saxta sənədlər, videolar və orijinaldan seçilməyən fotolar yaratmağa başlayacaq. Fırıldaqçılar insanları qəsb etmək və aldatmaq üçün süni intellektdən istifadə edə biləcək. Bu neyron şəbəkələri fişinq, dezinformasiya və təbliğat, həmçinin kibercinayətkarlıq üçün istifadə oluna bilər.

"OpenAI" şirkəti mart ayında ChatGPT-ə inteqrasiya olunmuş yeni nəsil təbii dil emalı alqoritmini - GPT-4-ü təqdim edib. Bununla belə, İlon Mask süni intellekt (AI) sahəsində bir sıra digər mütəxəssislərlə birlikdə güclü neyron şəbəkələrin hazırlanmasına moratorium tələb edib, çünki bu sahədə nəzarətsiz proses bəşəriyyət üçün təhlükə yarada bilər. Bu barədə "Future of Life Institute" qeyri-kommersiya təşkilatının saytında dərc edilmiş süni intellekt üzrə ekspertlərin açıq məktubunda deyilir.

Məktubda yazılır: "Biz bütün AI laboratoriyalarını ən azı altı ay ərzində GPT-4-dən daha güclü süni intellekt sistemləri üzrə təlimləri dərhal dayandırmağa çağırırıq".

İT üzrə mühəndis, Bəhruz Əliyev bildirib ki, yeni texnologiyalar fırıldaqçıların əlində bir silaha çevrilə, saxta botlar və qeyri-etik məqsədli proqramlanan işlər çoxala bilər.

Sonxeber.az Publika.az-a istinadən müsahibəni təqdim edir:
- Bəhruz bəy, yeni nəsil neyron şəbəkələrinin özəlliyi nədir?
- Neyron şəbəkələri insan beyninin işləmə prinsiplərinə əsaslanan və bənzər çalışma metodundan istifadə edən riyazi modeldir, başqa formada desək, neyron şəbəkələri öyrənmə prosesini daha sürətli edən insan beyninin çalışma üslubuna bənzər "Maşın Öyrənmə" (Machine Learning-ML) alqoritmasının bir növüdür. Yeni nəsil neyron şəbəkələri əvvəlki nəsil neyron şəbəkələrdən mürəkkəbliyi ilə fərqlənir. Əslində yeni nəsil neyron şəbəkələri də əsas etibarı ilə klassik neyron şəbəkələri və arxitekturaların üzərinə inşa edilmişdir. Eyni zamanda daha çox məlumat, daha çox verilənlər bazası və daha çox mənbələr tələb edir. Neyron şəbəkələr, əsasən proqnozlar vermək və qərar qəbul etmək üçün nəzərdə tutulmuşdur.

Neyron şəbəkələrlə bağlı ilk metod 1970-1980-ci illərdə ortaya çıxmışdır. Kompüterlər gücləndikcə, neyron şəbəkələrə maraq düz mütənasiblik təşkil etdi və daha da artmağa başladı. Hal-hazırda neyron şəbəkələr pilotsuz maşınlar, görüntü (face detection) və nitqin tanınması (speech recognition) və təbii dilin işlənilməsi ilə bağlı məsələlərdə geniş istifadə olunur.

Neyron şəbəkələri "Maşın Öyrənmə" (Machine Learning-ML)" və "Süni İntellekt" (Artificial Intelligence-AI) üçün çox güclü bir vasitədir. Əsas üstünlüyü verilənlərdən öyrənmək qabiliyyətidir. Daha çox nümunə və daha çox məlumat daxil olduqca, inkişaf edirlər.

- Paralel olaraq ChatGPT botlarının saxtakarlıq yarada biləcəyi ilə bağlı narahatlıqlar mövcuddur. Bu, doğrudan belədir?

- ChatGPT son ildə dünyanı çalxalayan bir inkişaf oldu. "GPT OpenAİ" şirkətinin süni intellekt məhsuludur. "OpenAİ" sürətlə inkişaf edərək, "Whisper, DALL-E, GPT" kimi məhsulları və onun versiyalarını ortaya qoydu. Hər kəsin diqqətini çəkməyə başladı. "OpenAİ" əvvəl süni intellektin problemlərini araşdırmaq və inkişafı üçün yaransa da, zamanla vəziyyətin və yanaşmadakı rəngin dəyişdiyini müşahidə etmək mümkündür. Hətta təhlükəsizlik və rəqibləri nəzərə alaraq, bəzi məlumatları vermir və getdikcə "qara qutu"ya çevrilir. Təbii ki, süni intellektlə işləyən "google" kimi rəqib şirkətlərin sayı az deyil. Bəzi məsələlərdə də öz risklərini hüququ olaraq sığortalamağa çalışır. "OpenAİ"-nin ən böyük inverstorlarından biri "Microsoft" şirkətidir. "Mikrosoft"da son illərdə süni intellektlə işləyən etik qrupun işçilərinin azaldılması da müəyyən suallar yaradır. Çünki bu etik qrup süni intellektdən nə dərəcədə və hansı səviyyədə istifadəni insanlığın ümumbəşəri dəyərlərini nəzərə alaraq inkişaf etməsini təmin edə bilər. Əks halda saxta botlar və qeyri-etik məqsədli proqramlanan işlər çoxala bilər. Potensial saxtakarlıq, botların xüsusi proqramlana bilməsi və tərəf seçə bilmə özəllikləridir. Məsələn, araşdırma edərkən, ancaq bir tərəfə aid xəbər məlumatlarını təqdim edib, digər mənbələri gizlətmək kimi. Buna görə də, botların istifadəsinin və inkişafının nəzarət altında saxlanılması və mövcud risklərin ən aşağı səviyyəyə endirilməsi üçün tədbirlər görülməlidir.

- Ağıllı neyron şəbəkələrinin yayılması ilə bağlı hansı təhlükələri görürsünüz?

- Neyron şəbəkə, maşın öyrənmənin bir alqoritmdir. Məlumatlar xüsusi bir yerdə olmur. İnternetdə və bir çox yerdə olan məlumatları öyrənib, ona verilmiş alqoritm əsasında ortaya nəticə qoyur. Amma bu nəticəni daha anlaşıqlı dilə gətirmək və anlamaq üçün yenə də bir insana ehtiyac var. Neyron şəbəkə alqoritmi ilə öyrədilən və öyrənilən məlumatları insana ən yaxın dildə ortaya qoyan texnologiya süni intellektdir. Bu süni intellekt proqramlarının da hal-hazırda ən yüksək inkişaf etmiş olanı GPT-4-dür. Hansı ki, artıq şəkilləri belə analiz edə bilir. Texnologiya təhlükəli deyil, əsas onun istifadəsinə xoş niyyətlə yanaşmaq lazımdır. Bununla belə müəyyən riskləri də ola bilər. İnsanların xüsusi məlumatlarının neyron şəbəkələr vasitəsi ilə öyrənilməsinin qarşısını alan tədbirlər genişləndirilməlidir. Təsdiqini tapmayan məlumatlar təhlükələr yarada bilər. Qərəzli məlumatlar ortaya çıxa bilər. Düzgün idarə olunmadığı təqdirdə, istifadəçilər üçün mənfi nəticələrə gətirib çıxarar.

- Bəs onlar hansı məlumatı yarada bilərlər?

Proqnozlar verə bilərlər, statistik məlumatlar və analizindən istifadə edərək, proqnozlar hazırlamaqda və bəzi hadisələrin nəticələrini öncədən öyrənməkdə istifadə olunurlar. Məsələn: Hava proqnozları, maliyyə proqnozlarında istifadə olunurlar. Trendlərin analizi, müxtəlif məlumatların sinifləndirilməsi, avtomobil təhlükəsizliyində, sürücülərin davranışlarının izlənməsində istifadə yararlanmaq mümkündür. Bazar və reklam sahəsində, müştəri üçün ən yaxşı məhsulu, xidməti və ya reklamı təklif etmək üçün müxtəlif məlumatları toplayırlar. Bu, müştəri tələblərinin daha yaxşı anlaşılmasına və onların məlumatlarının daha yaxşı təqdim edilməsinə kömək edir. Təhlükəsizlik sahəsində təhlükəli məsələlərdən müdafiə olunmaq üçün, istifadə edilə bilər, misal üçün, kiber təhlükəsizlik və fiziki təhlükəsizlik.

- Mövcud təhlükələrə qarşı necə mübarizə aparmaq olar?

- Məlumatlarının təhlükəsizliyini təmin etmək üçün güclü şifrələmə alqoritmləri və digər tədbirlər tətbiq edilməlidir. "Ağıllı neyron" şəbəkələrinin fəaliyyətində yanlışlıq və təhlükəsizlik məsələlərini, düzgün fəaliyyəti yoxlamaq üçün imtahan və sınaq tədbirləri tətbiq edilməlidir. Bu, fəaliyyətin daha yaxşı idarə edilməsini və təhlükəsizliyin artırılmasını təmin edə bilər. Bütün bu tədbirlər birgə istifadə edilərsə, "ağıllı neyron" şəbəkələrinin fəaliyyətinin düzgün təmin edilməsi mümkündür.

Telegramda izləyin