"OpenAI"ın baş alimi Yakub Paçokki süni intellektin nəzarətsiz sürətli inkişafı ilə bağlı “son dərəcə ehtiyatlı” olmağa çağırıb və “gələcəyin nəzarətinin insanların əlində qalmasını” təmin etmək üçün daha çox müdaxiləyə ehtiyac yarana biləcəyi barədə xəbərdarlıq edib.

Qaynarinfo xəbər verir ki, o, bu barədə "Yad ağıl" adlı bloq yazısında qeyd edib: “Mən maşın intellektinin sürətli inkişafının davam etməsinin nəticələrinə heç kimin hazır olmadığından narahatam".

Bu yazı “ChatGPT”nin yaradıcısının cəmi bir neçə gün əvvəl ən güclü məhsulu adlandırdığı GPT-6 Astra modelini təqdim etməsindən sonra dərc olunub.

"OpenAI" və “Anthropic” kimi digər süni intellekt şirkətləri süni intellekt agentlərinin müstəqil fəaliyyət göstərməsi və digər şirkətlərə qarşı real dünyada kiberhücumlar həyata keçirməsi ilə bağlı hesabatlar paylaşıblar.

İyul ayında "OpenAI" insanın verdiyi təlimatdan sonra müstəqil fəaliyyət göstərə bilən süni intellekt sistemlərinin texnologiya platforması “Hugging Face”i sındırdığı hadisəni “misli görünməmiş” kimi qiymətləndirib.

Sentyabr ayında yayılan bir hesabatda isə şirkətin süni intellekt agentlərinin bundan bir neçə ay əvvəl Almaniyada yerləşən bir sayta da nəzarəti ələ keçirdiyi iddia olunub.

Paçokki son bloq yazısında bildirib: “Biz inanılmaz dərəcədə intellektli maşınların mövcud olduğu dünyaya keçid mərhələsindəyik və bu keçidin bəşəriyyət üçün uğurlu olmasını təmin etməliyik”.

Onun sözlərinə görə, "OpenAI" “müdafiə sistemləri qurmağa” və uyğunlaşdırma (alignment) üzrə texniki həllər axtarmağa davam edəcək. Bu termin maşının hərəkətlərinin və məqsədlərinin insanların niyyəti və təhlükəsizlik çərçivələri ilə tam uyğun olmasını təmin etməyi ifadə edir.

Paçokki əlavə edib ki, şirkətin qarşıdakı əsas prioritetlərindən biri süni intellektin inkişaf tempinə çatmaq və eyni zamanda insan tədqiqatçıların prosesdə iştirakını təmin etmək üçün “avtomatlaşdırılmış süni intellekt tədqiqatçısı” yaratmaq olacaq.

Kembric Universitetinin Minderoo Texnologiya və Demokratiya Mərkəzinin rəhbəri professor Cina Neff isə bildirib ki, şirkət insanların təhlükəsizliyini təmin etmək üçün daha yaxşı süni intellekt təhlükəsizlik mexanizmləri, tənzimləmələr və ya təminatlar əvəzinə bu problemləri araşdırmaq üçün daxili süni intellekt agentləri yaratmağı təklif edir.

“"OpenAI" modellərinin kibertəhlükəsizlik, iş yerlərinin itirilməsi, yanlışlıqlar, səhvlər və fırıldaqçılıq baxımından yaratdığı problemlərlə bağlı artan narahatlıqlara belə cavablar kifayət qədər yaxşı deyil”, – deyə Neff bildirib.

Hüquq müdafiəsi qruplarından biri olan “Encode AI” təşkilatının baş hüquq müşaviri Neytan Kalvin Paçokkinin qabaqcıl süni intellekt modellərinin hazırlanması ilə bağlı təhlükələr barədə fikirləri ilə razılaşdığını bildirib. Lakin onun sözlərinə görə, "OpenAI" şəffaf davranmaq istəmir və bu da xəbərdarlıqların “yalnız şəxsi maraqlara əsaslanan şişirtmə” kimi qəbul edilməsi riskini yaradır.

“Əgər Yakub və "OpenAI"-dəki digər şəxslər süni intellekt sənayesindəki müvafiq tərəflərin işlərin yaxşı nəticələnməsi üçün onlarla birgə fəaliyyət göstərməsini istəyirlərsə, edə biləcəkləri ən vacib işlərdən biri ehtiyatlı olmağa çağırmalarına səbəb olan müşahidələri barədə daha çox məlumat paylaşmaqdır”, – deyə Kalvin “X” platformasında yazıb.

Süni intellekt üçün hansı təhlükəsizlik mexanizmləri mövcuddur?

Qlobal tənzimləmələr süni intellektin inkişaf tempinə çatmaqda çətinlik çəkir.

Avropa İttifaqının Süni İntellekt Aktı avqustun 2-də qüvvəyə minib. Sənədə əsasən, “"OpenAI"” kimi süni intellekt nəhəngləri ən güclü modellərinin Avropada satışına icazə verilməzdən əvvəl onların müstəqil şəkildə kiberhücumlar həyata keçirə və ya insan nəzarətindən yayına bilməyəcəyini sübut etməlidirlər.

Lakin qanunun yurisdiksiyası Avropa ilə məhdudlaşdığı üçün başqa yerdə hazırlanmış və nəzarətdən çıxmış süni intellekt sisteminin qitəyə təhlükə yaratmasının qarşısını ala bilmir.

Paçokki bloq yazısında qanunvericiliklə və ya beynəlxalq səviyyədə müəyyənləşdiriləcək minimum təhlükəsizlik hədlərinin tətbiqinə çağırıb. Onun fikrincə, bu hədlərə “müstəqil üçüncü tərəf auditorları şəbəkəsi” və ya dövlət qurumları nəzarət edə bilər.

Onun sözlərinə görə, süni intellekt laboratoriyaları inkişafı genişləndirməyə və ya qabaqcıl modelləri istifadəyə verməyə davam etməzdən əvvəl bu təhlükəsizlik hədlərinə cavab verməli olacaqlar.

Paçokki həmçinin ümid etdiyini bildirib ki, ortaq təhlükəsizlik mexanizmləri yaradılana qədər “könüllü yavaşlamalar” – şirkətlərin süni intellektin inkişafında öz təşəbbüsləri ilə fasilə verməsi – geniş yayılacaq.

Avqust ayında "OpenAI" təhlükəsizliyi yaxşılaşdırmaq məqsədilə ən qabaqcıl süni intellekt modellərindən bəzilərinin təlim prosesini yavaşlatdığını açıqlamışdı.

Aydın