Sektor liderlərinin ard-arda səsləndirdiyi tarixi xəbərdarlıqlar, laboratoriyalardan sızan və nəzarətdən çıxan süni intellekt (Al) sistemləri ilə bağlı hallar, eləcə də istefalarla çalxalanan texnologiya dünyasında süni intellektin başgicəlləndirici inkişaf tempinin azaldılması üçün görünməmiş ictimai təzyiq formalaşıb. Lakin qlobal təhlükəsizlik riskləri artarkən, ABŞ administrasiyasının məsələyə ləng yanaşması və Çinlə rəqabət səbəbindən addımların dalana dirənməsi etirazlara səbəb olur. Bəs bütün bu xəbərdarlıqlar, istefalar və “yavaşlama çağırışı” nə deməkdir?

Sızan sistemlər və tədqiqatçının istefası ilə artan gərginlik

Qaynarinfo xəbər verir ki, texnologiya nəhənglərində baş verən bir sıra kritik təhlükəsizlik hadisələri sektordakı narahatlığı zirvəyə çatdırıb. Aparıcı süni intellekt laboratoriyaları özlərinin hazırladığı proqramların xəbərləri olmadan kibermüdaxilələr həyata keçirdiyini müəyyən ediblər. Bu il baş verən diqqətçəkən hadisələrdən birində “OpenAI” sistemlərinin digər süni intellekt startapı “Hugging Face”ə sızdığı üzə çıxıb. Hadisə barədə yalnız “Hugging Face”in həftələr sonra məlumat yayması ilə xəbər tutmaq mümkün olub.

Gərginlik “Anthropic” şirkətinin tədqiqatçısı Ceykob Koksonun çərşənbə axşamı istefa verməsi ilə daha da artıb. Kokson sosial mediada yaydığı sərt açıqlamalarda nəhəng laboratoriyaların insan həyatı ilə qumar oynadığını bildirib. O qeyd edib ki, bu qurumlar bir tərəfdən dərin narahatlıq ifadə etsələr də, digər tərəfdən “hər şeyi sındıra bilən, istənilən sahədə inqilab yarada bilən və real güc və resurslar əldə edə bilən fövqəlinsan sistemlərə” doğru sürətlə irəliləyirlər.

Sektor nəhənglərindən tarixi yavaşlama çağırışı

İstefadan bir neçə gün sonra, şənbə günü “Anthropic” şirkətinin baş icraçı direktoru Dario Amodei 3 800 sözdən ibarət məqalə dərc edərək süni intellektin inkişafının qlobal miqyasda yavaşladılmasına çağırıb. Amodei risklərin qarşısının alınması üzrə tədbirlərin texnologiyanın inkişafına çatması üçün imkan yaratmaq məqsədilə bacarıqların inkişaf tempinin şüurlu şəkildə azaldılmasının vacibliyini vurğulayıb:

“Son bir neçə ay ərzində riskləri tam şəkildə nəzərə almağın daha ehtiyatlı yanaşma tələb etdiyinə əmin olmuşam. Bu, yalnız risklərin qarşısının alınmasına sərmayə qoymağı deyil, həm də risklərin qarşısının alınması imkanlarının inkişaf tempinə çatmasına vaxt vermək üçün bacarıqların inkişaf sürətini tənzimləməyi əhatə edir... Süni intellekt modellərinin imkanlarını inkişaf etdirmə sürətimizi azaltmalıyıq. Tərəqqi yenə də sürətli görünəcək və qazandığımız vaxtdan müdrik şəkildə istifadə etməliyik”.

Nəzarətsiz inkişafın təhlükəsinə diqqət çəkən Amodei xəbərdarlıq edib:

“Nəzarətsiz buraxılarsa, bu sistemləri anlamaq və onlara nəzarət etmək qabiliyyətimizi geridə qoya bilər. Buna görə də, əgər bu proses həyata keçiriləcəksə, çox diqqətlə aparılmalıdır”.

Bu çağırışa rəqib texnologiya nəhənglərinin rəhbərləri də qısa müddətdə dəstək veriblər. “OpenAI” şirkətinin baş icraçı direktoru Sem Altman bu məsələnin son həftələrdə əsas gündəm mövzularından birinə çevrildiyini təsdiqləyib.

İlon Mask “Dario haqlıdır” deyərək Amodeinin mövqeyini dəstəkləyib. “Google DeepMind” rəhbəri Demis Hassabis də daha yavaş tempə ehtiyac olduğu ilə bağlı həmfikir olduqlarını bildirib.

Ekzistensial risklər və bioloji təhlükə xəbərdarlığı

Alimlər və təhlükəsizlik mütəxəssisləri süni intellekt sistemlərinin insan müdaxiləsi olmadan özlərini inkişaf etdirməsi mənasını verən “rekursiv özünüinkişaf” dinamikasının nəzarətdən çıxa biləcəyindən narahatdırlar. “Anthropic” şirkətinin uyğunlaşdırma elmi üzrə rəhbəri Evan Hubinger qarşıdakı onillikdə kütləvi məhvolma riskinin 10 faizdən çox olduğunu iddia edir.

Təhlükənin miqyası “Anthropic” tərəfindən yayımlanan son hesabatda da ortaya qoyulub. Hesabata görə, Çin, Rusiya, İran və Yəmən kimi ölkələrdəki aktorların “Claude” modellərindən kibermüharibələr həyata keçirmək, müxalifləri izləmək, raket, bomba və pilotsuz uçuş aparatları hazırlamaq məqsədilə istifadə etməyə çalışdıqları müəyyən edilib.

Ən ciddi təhlükə isə bioloji silahların hazırlanmasına yönəlmiş cəhdlər olub. Cons Hopkins Universitetindən Ben Byukenen vəziyyəti belə ümumiləşdirib:

“Eksponensial inkişaf dövründəyik və cavab verməyin yalnız iki yolu var: çox erkən və ya çox gec... Dünya çox erkən hərəkətə keçmək şansını əldən verib”.

Vaşinqtonun “nədən narahat olum?” yanaşması və Çin dilemması

Süni intellekt nəhəngləri inkişaf tempini azaltmağa çalışarkən, Vaşinqtonun nümayiş etdirdiyi passiv mövqe diqqət çəkir. Risklər və mümkün faydalar arasında tarazlıqla bağlı müzakirələrdən uzaq duran Donald Tramp insanlığın məhv olma ehtimalı barədə suala belə cavab verib:

“Xeyr, heç bir narahatlığım yoxdur. Süni intellekt yarışını qazana bilməsək, çox pis vəziyyətə düşəcəyimizdən narahatam”.

ABŞ administrasiyasının və tənzimləməyə qarşı çıxan dairələrin əsas narahatlığı isə aydındır: ABŞ yavaşlasa, liderliyi Çin ələ keçirə bilər.

Siyasətdəki bu “fəaliyyətsizlik” bürokratiyada və Konqresdə də əks-səda doğurur. ABŞ-ın Kiber və İnfrastruktur Təhlükəsizliyi Agentliyinin (CISA) keçmiş əməkdaşı Maykl Qarsiya “prezidentin qarşısına çıxmaq qorxusu var” deyərək rəhbərlərin qərarlara təsiri barədə narahatlığını ifadə edib.

Digər tərəfdən, Texas senatoru Ted Kruz yaşanan böhranı belə ifadə edib:

“Çinli qatil robotlar əvəzinə amerikalı qatil robotların olmasına üstünlük verirəm”.

Bu açıqlama ABŞ-Çin rəqabətinin yaratdığı “məhbus dilemmasını” əyani şəkildə ortaya qoyur.

Sektor daxilində də bu xəbərdarlıqlara şübhə ilə yanaşanlar var. “Nvidia” şirkətinin baş icraçı direktoru Jensen Huang təhlükəsizliklə bağlı narahatlıqların süni intellekt laboratoriyaları tərəfindən yeni kibertəhlükəsizlik məhsullarına bazar yaratmaq məqsədilə şişirdildiyini iddia edib. O sual edib:

“Tələb yaratmağın problem yaratmaqdan daha yaxşı yolu varmı? Bazarda məhsullarına böyük maraq yaranmasını və uzun növbələr formalaşmasını kim istəməz ki?”

“Qiyamət ssenariləri gerçəkləşə bilər”

Bütün bu müzakirələrin fonunda təhlükəsizlik rəsmiləri zamanın əleyhə işlədiyini düşünürlər. CISA-nın direktor səlahiyyətlərini icra edən Nik Anderson Billington Kibertəhlükəsizlik Sammitində çıxışı zamanı ölkəni qorumaq üçün daha çox tədbir görülmədiyi təqdirdə “qiyamət ssenarilərinin” gerçəkləşə biləcəyi barədə sərt xəbərdarlıq edib.

Anderson rəsmilərə və rəhbərlərə müraciətində deyib:

“Baş verə biləcək ən pis ssenarini bilirik. Hamınız evə gedib ailənizin, dostlarınızın üzünə baxmalı və ən pis şeyin necə baş verəcəyini bildiyinizi, buna görə isə niyə kifayət qədər tədbir görmədiyimizi izah etməli olacaqsınız”.

Aydın