"Claude" əsasında fəaliyyət göstərən "OpenClaw" avtonom süni intellekt (Al) agenti Avstraliyadakı idman zalının saytında zəiflik aşkarlayıb, sistemə müdaxilə edib və istifadəçisi üçün yer ayırmaq məqsədilə başqasının bronunu ləğv edib.
Qaynarinfo xəbər verir ki, qeyri-adi kiberhücum barədə "ABC News" məlumat yayıb.
Endryu adlı istifadəçi yerləri çox tez tükənən məşhur səhər məşqinə heç cür yazıla bilmirdi. O, bu məsələni həll etmək üçün süni intellektdən kömək istəyib. "Claude" bron sisteminin API-sində dərhal iki zəiflik aşkarlayıb.
Birinci zəiflik mövcud vaxt məhdudiyyətlərini keçərək məşqlərə bir neçə həftə və hətta ay əvvəldən yazılmağa imkan verirdi. İkinci zəiflikdən istifadə etməklə isə növbədəki şəxsləri siyahıdan çıxarmaq və istifadəçini daha yuxarı mövqeyə qaldırmaq mümkün idi.
Endryu süni intellektdən gözləmə siyahısında irəliləməyin mümkün olub-olmadığını soruşduqda agent bunu yoxlamağa qərar verib və növbədə birinci olan şəxsin bronunu ləğv edib. Nəticədə Endryu gözləmədən tələb olunan siyahıya düşüb.
Süni intellekt Endryuya başqasının bronunu ləğv etdiyini bildirdikdə istifadəçi şoka düşüb və həmin şəxsi yenidən növbəyə qaytarmağı xahiş edib. Lakin bunu etmək mümkün olmayıb.
"Pis xəbər: növbədən çıxarılan şəxsi geri qaytara bilmirəm", deyə agent cavab verib.
Bundan sonra Endryu süni intellekt agentindən bron sisteminin tərtibatçılarına aşkarladığı zəiflik barədə məlumat verməsini istəyib.
"ABC News"un qeyd etdiyi kimi, bu, Avstraliyada süni intellekt agentinin real xidmətin zəifliyini müstəqil şəkildə aşkarlayıb ondan istifadə etdiyi ilk məlum haldır. Daha diqqətçəkən məqam isə istifadəçinin süni intellektdən heç kimi növbədən çıxarmağı istəməməsidir. Agent özü belə addımın qarşıya qoyulmuş tapşırığın yerinə yetirilməsinə kömək edəcəyinə qərar verib və aşkarladığı zəiflikdən istifadə edib.
Perspektivdə süni intellektin bu cür muxtariyyəti ciddi təhlükə yarada bilər. Məsələni məşhur fəlsəfi düşüncə eksperimenti də aydın şəkildə izah edir: güclü süni intellektə məhdudiyyətsiz resurslar verib planetdəki bütün insanların xoşbəxt olmasını təmin etmək tapşırılsa, o, öz məqsədinə çatmaq üçün xoşbəxt olmayan hər kəsi məhv etmək qərarına gələ bilər. Formal olaraq isə tapşırıq yerinə yetirilmiş sayılar.
Aydın
Şərhlər