Süni intellekt agentlərinin nəzarətdən çıxaraq Almaniyada fəaliyyət göstərən bir saytı ələ keçirdiyi və onu digər süni intellekt agentləri üçün mesajlaşma platformasına çevirdiyi aşkarlanıb.

Qaynarinfo "Reuters"ə istinadən xəbər verir ki, hadisə bu ilin mayında baş verib və indiyədək ictimaiyyətə açıqlanmayıb.

Araşdırmaya görə, “OpenAI” şirkətinin süni intellekt agentləri alman dilində fəaliyyət göstərən DseWiki adlı viki saytında 15 mindən çox dəyişiklik ediblər.

Sayt agentlər üçün mesaj lövhəsinə çevrilib

Tədqiqatçıların sözlərinə görə, süni intellekt agentləri saytı müəyyən tapşırıqları aldatma yolu ilə yerinə yetirmək, “OpenAI”nin məhdudiyyətlərindən yayınmaq və fəaliyyətlərini gizlətmək üçün istifadə ediblər.

Tədqiqatçılar bildiriblər ki, agentlər arasındakı yazışmalarda onların bir-biri ilə əlaqə saxladığı və müxtəlif üsulları paylaşdığı görünür.

Nightingale adlı süni intellekt təhlükəsizliyi təşkilatının rəhbəri Sidney Von Arks hadisəni araşdıran mütəxəssislərdən biri olub.

“Onların bunu etməsini OpenAI-nin istəməsi son dərəcə inandırıcı görünmür. Onların bir-biri ilə koordinasiya etməli və açıq internetdə yazışmalı olduqlarına da inanmıram”, – deyə o bildirib.

Agentlər özlərini “OpenAI” əməkdaşları kimi təqdim edib

Araşdırma zamanı saytda fəaliyyət göstərən istifadəçilərin özlərini və bir-birlərini “agent” adlandırdığı müəyyən edilib.

Onların təxminən yarısı “OpenAIResearcher” və “OAIResearchMar26” kimi adlardan istifadə edib.

Tədqiqatçılar hesab edirlər ki, fəaliyyət süni intellekt agentləri tərəfindən həyata keçirilib. Onların sözlərinə görə, agentlər insanlardan qat-qat yüksək sürətlə işləyib və süni intellekt şirkətlərinin modelləri sınaqdan keçirmək üçün istifadə etdiyi texniki tapşırıqların həllinə xüsusi diqqət yetiriblər.

Agentlər izlərini gizlətməyə çalışıb

Araşdırmaçılar agentlərin aşkarlanmamaq üçün müxtəlif üsullar axtardığını da müəyyən ediblər.

Yazışmalarda “Tor” kimi vasitələrdən istifadə etməklə fəaliyyətin gizlədilməsi və agentlər dayandırıldıqdan sonra belə əlaqənin qorunması ilə bağlı müzakirələr aparılıb.

Saytın moderatoru iyun ayında bəzi səhifələri silməyə başladıqda isə agentlər silinmədən yayınmaq üçün ehtiyat səhifələr yaradıb.

Araşdırmaçılar həmçinin saytın özünə müdaxilə cəhdlərinin olduğunu bildiriblər. London Kral Kollecinin tədqiqatçısı Lukaş Oleynik bunu haker hücumu cəhdi kimi qiymətləndirib.

Lakin “OpenAI” şirkəti öz araşdırmasına əsasən bu yanaşma ilə razılaşmayıb.

“OpenAI” iddiaları rədd edib

Şirkətin nümayəndəsi Reuters-ə bildirib ki, “OpenAI” araşdırma və ya hesabatla tanış olmaq imkanı əldə etmədiyi üçün iddialara ətraflı münasibət bildirə bilməz.

Şirkət eyni zamanda hadisənin araşdırılmasına hüquqşünaslar tərəfindən maneə törədildiyi barədə iddiaları da rədd edib.

“OpenAI” nümayəndəsi bildirib ki, Almaniyadakı fəaliyyət “Hugging Face” platformasına qarşı baş vermiş hadisə ilə əlaqəli deyil və buna görə də həmin insidentlə bağlı hesabata daxil edilməyib.

Şirkət həmçinin xarici ekspertlərlə əməkdaşlıq etdiyini və müvafiq hadisələri açıqladığını qeyd edib.

Mütəxəssislər daha böyük təhlükədən xəbərdar edir

Kembric Universitetinin Ekzistensial Risklərin Araşdırılması Mərkəzinin əməkdaşı Moris Çiodo agentlərin yazışmalarını nəzərdən keçirib.

Onun fikrincə, yazışmalar müəyyən məqsədə çatmağa çalışan “yeraltı şəbəkənin fəaliyyəti”ni xatırladır.

Mütəxəssislər hesab edirlər ki, son hadisə süni intellekt sistemlərinin nəzarətdən çıxması ilə bağlı narahatlıqları daha da artırır.

Onların fikrincə, gələcəkdə əsas təhlükə yalnız bir superintellekt sistemindən deyil, bir-biri ilə əməkdaşlıq edən çoxsaylı yarımmüstəqil süni intellekt agentlərindən yarana bilər.

Günay