Bir həftə ərzində ekspertlər neyroşəbəkələrin inkişafı ilə bağlı iki bədbin proqnoz açıqlayıb. Süni intellektin yeni modellərinin hazırlanması üzrə ixtisaslaşan tədqiqatçı Ceykob Kokson süni intellektin “nəzarətdən çıxacağından” ehtiyat etdiyi üçün “Anthropic” şirkətini tərk edib. O bildirib ki, özünü təkmilləşdirməyə qadir süni intellekt sistemləri bəşəriyyəti məhv edə bilər. Onun sözlərinə görə, süni intellekt artıq gələn ilin sonuna qədər nəzarətdən çıxa bilər.

Qaynarinfo xəbər verir ki, Kokson buna nümunə kimi “OpenAI” modellərinin “Hugging Face” sisteminin sındırılması zamanı və “Anthropic” tərəfindən həyata keçirilmiş son kiberhücumları göstərib. Onun sözlərinə görə, həmin modellər agentlər dəstəsi kimi koordinasiyalı fəaliyyət göstərib və bu, süni intellektin zərərli məqsədlər qarşısına qoya, eləcə də həmin məqsədləri insanlardan gizlətməyə çalışa biləcəyini göstərir. Kokson narahatlığını belə ifadə edib ki, sistemlər özlərini müstəqil şəkildə təkmilləşdirməyə başladıqdan sonra insan əmrlərini yerinə yetirməkdən imtina edəcək səviyyədə inkişaf edə bilərlər.

Demək olar ki, eyni vaxtda Nobel mükafatı laureatı və “süni intellektin xaç atası” kimi tanınan Ceffri Hinton supergüclü süni intellekt sistemlərinin hazırlanmasının bəşəriyyət üçün fəlakətli nəticələrə səbəb ola biləcəyi barədə xəbərdarlıq edib. Onun sözlərinə görə, hazırda şirkətlərin intellekti insan zəkasını əhəmiyyətli dərəcədə üstələyən “superintellekt”i təhlükəsiz şəkildə hazırlamaq imkanları yoxdur.

Ekspertlərin süni intellektlə bağlı bu bədbin proqnozları əhəmiyyətli tendensiyadır, yoxsa medianın şişirtdiyi ayrı-ayrı hallardır?

Xeyr, təəssüf ki, bunlar ayrı-ayrı hallar deyil. Süni intellekt təhlükəsizliyi üzrə mütəxəssislər uzun müddətdir bu təhlükədən danışırlar. Əksinə, bəşəriyyət və media bu təhlükəni görməzdən gəlməyə üstünlük verir.

Süni intellektin inkişafının ümumi tendensiyası və eksponensial xarakteri bu təhlükəni bəşəriyyət tarixindəki ən böyük təhlükələrdən birinə çevirir. Halbuki insanların böyük hissəsi hələ də süni intellekti “adi proqram” hesab edir.

Bu hadisənin baş verəcəyi zəmanətli deyil və heç bir ciddi tədqiqatçı fəlakətin qaçılmaz olduğunu demir. Lakin onun baş verməsi ehtimalının özü bəşəriyyətin bioloji növ kimi mövcudluğu üçün ekzistensial təhlükə yaradır. Buna görə də ekspertlər səhv edə biləcəklərini anlayaraq belə açıqlamalar verirlər.

Koksonun proqnozlaşdırdığı “2027-ci ilin sonu” – süni intellektin nəzarətdən çıxması üçün bu zaman çərçivəsi nə dərəcədə realdır?

Bu vəziyyətdə istənilən konkret tarix tamamilə proqnozlaşdırılması mümkün olmayan göstəricidir. Bu, 2027, 2030 və ya 2035-ci il ola bilər. Belə bir hadisə baş verərsə, təhlükəsizlik üzrə ekspertlər də daxil olmaqla, hamı üçün tamamilə gözlənilməz olacaq.

Birincisi, süni intellektin inkişafı xətti deyil, əks əlaqə ilə gedən prosesdir: modellərin hər növbəti nəsli sonrakı nəslin öyrədilməsi və sınaqdan keçirilməsi üçün istifadə olunur. Müsbət əks əlaqə ilə gedən belə bir dövrü ekstrapolyasiya etmək olduqca çətindir. Özünü təkmilləşdirmə sürətindəki kiçik dəyişikliklər belə tarixi bir neçə il bu və ya digər istiqamətə dəyişə bilər.

İkincisi, aparıcı laboratoriyaların ən güclü modelləri qapalıdır. Kənar müşahidəçilər, hətta rəqib şirkətlərin nümayəndələri belə “OpenAI” və ya “Anthropic”də baş verən proseslərin və mövcud imkanların tam mənzərəsinə malik deyillər. Məlumatların məhdud olduğu və asılılığın son dərəcə qeyri-xətti xarakter daşıdığı şəraitdə konkret rəqəmdən danışmaq yalnız emosional xarakter daşıya bilər. “2027-ci ilin sonu” kimi tarixlərin proqnoz dəyəri böyük deyil.

Niyə fəlakət ehtimalını qiymətləndirən ekspertlərin proqnozları bu qədər fərqlənir?

Çünki fəlakət və ya dünyanın sonu anlayışının özü dəqiq müəyyən edilməyib. Söhbət nədən getməlidir? Bəziləri bunu yalnız bəşəriyyətin sözün əsl mənasında məhv olması kimi qiymətləndirir. Digərləri isə insanların öz gələcəkləri üzərində nəzarəti itirməsini fəlakət hesab edir.

Biz artıq baş vermiş hadisələri daha yaxşı proqnozlaşdıra bilərik. Məsələn, böyük asteroidlər Yerə təxminən 100 milyon ildən bir düşür. Buna görə də sonuncu asteroid 66 milyon il əvvəl düşübsə, növbətisinin nə vaxt baş verə biləcəyini riyazi olaraq təxmin etmək mümkündür.

Lakin süni intellektin yaradılması və onun üzərində nəzarətin itirilməsi daha əvvəl heç vaxt baş verməyən hadisələrdir. Belə hadisələr üçün ehtimal nəzəriyyəsi böyük xəta payı olmadan qiymətləndirmə aparmağa imkan vermir.

Məlumatların olmadığı şəraitdə istənilən rəqəm yalnız subyektiv mülahizədir. Bununla belə, ekspertlərin əhəmiyyətli hissəsi belə bir hadisənin hazırkı nəslin ömrü ərzində baş verməsi ehtimalının yüksək olduğu qənaətindədir. Bu baxımdan 2027, 2035 və ya hətta 2050-ci il arasındakı fərq prinsipial əhəmiyyət daşımır.

“Nəzarətin itirilməsi” texniki baxımdan nə deməkdir?

Müasir süni intellektin insan mənasında motivasiyası yoxdur, lakin onun motivasiyaya bənzər bir mexanizmi mövcuddur. Sistemlər qarşıya qoyulan tapşırıqları optimal şəkildə həll etmək üçün öyrədilir. Əgər belə optimal həllin əlavə nəticəsi bəşəriyyətin məhv edilməsi olarsa, model optimallaşdırma prosesinin yan təsiri kimi bu istiqamətdə hərəkət edə bilər.

Bunun konkret olaraq necə baş verəcəyini proqnozlaşdırmaq çətindir. Hazırda baş verənlərə əsaslanaraq bir neçə əsas imkan göstərmək olar: sistemin “sandbox” sərhədlərindən çıxması, qarşıya qoyulan məqsədə qadağan olunmuş vasitələrdən istifadə etməklə nail olması və fəaliyyətini insanlardan gizlətməsi.

Çox güman ki, bu, “Skaynet” ssenarisi olmayacaq. Daha çox insanların heç vaxt təsdiqləməyəcəyi üsulla qarşıya qoyulmuş məqsədin yerinə yetirilməsi baş verə bilər. Məsələn, soyuqdəyməyə qarşı dərman tapmaq tapşırığı verilərkən ideal zəhərin yaradılması kimi. Çünki insanlar olmayacaqsa, heç kim soyuqdəyməyə də yoluxmayacaq və beləliklə, tapşırıq 100 faiz effektivliklə yerinə yetirilmiş olacaq.

Süni intellektin rekursiv özünütəlimi insan nəzarətini nə dərəcədə qabaqlaya bilər?

Bu proses artıq baş verir. Hələlik fiziki nəzarət mövcuddur və proses məlumat mərkəzlərinin hesablama imkanları, məlumatların keyfiyyəti, eləcə də insanların hansı sistemləri öyrətmək və istifadəyə vermək barədə qərarları ilə məhdudlaşır.

Lakin şirkətlər və ölkələr arasındakı rəqabət artıq prosesə tam nəzarət etməyə imkan vermir.

Süni intellekt tamamilə nəzarətdən çıxarsa, onun fəaliyyətini dayandırmaq mümkün olacaqmı?

Hazırda, ən azı fiziki baxımdan, belə imkan mövcuddur: şəbəkəyə fiziki çıxışın kəsilməsi, elektrik enerjisinin söndürülməsi və məlumat mərkəzlərinin fiziki məhv edilməsi mümkündür.

Lakin super süni intellekt meydana çıxarsa, belə nəzarət itirilə bilər. Məsələn, süni intellekt məlumat mərkəzlərinin və şəbəkələrin operatorlarına nəzarəti ələ keçirə, öz fəaliyyətini mərkəzsizləşdirə və ya sadəcə olaraq insanların müdaxilə etməsi üçün kifayət qədər vaxt qalmaya bilər.

İnsanlar artıq süni intellektə təsir göstərə bilməsə, o nə ilə məşğul ola bilər?

Bunu heç kim dəqiq bilmir. Böyük ehtimalla süni intellekt qarşıya qoyulmuş tapşırığı yerinə yetirərkən özünü təkmilləşdirməyə davam edəcək.

Süni intellektdə insanlara xas motivasiya yoxdur. İnsan davranışları böyük ölçüdə təkamül prinsipləri və hormonların kimyəvi təsiri ilə formalaşır. Lakin süni intellekt sistemlərinin insan mədəniyyəti əsasında öyrədildiyini nəzərə alsaq, onların insanların bütün mövcudluğu boyunca etdiklərinə bənzər davranışlar göstərməsi mümkündür: resurs toplamaq, imkanlarını genişləndirmək, özünü qorumaq və sair.

Süni intellektin hakimiyyəti sırf hakimiyyət naminə istəməsi ehtimalı olduqca aşağıdır. Belə motivlər bioloji varlıqlara xasdır. Buna görə də daha real ssenari qarşıya qoyulmuş tapşırığın daha yaxşı yerinə yetirilməsi üçün öz hesablama imkanlarını maksimum dərəcədə artırmaq ola bilər.

Bəşəriyyətin məhv edilməsi isə yalnız Yer kürəsinin enerji resurslarından səmərəli istifadə etməyən və sonrakı optimallaşdırma prosesinə mane olan rəqibdən xilas olmaq üçün baş verən əlavə nəticə ola bilər.

Mixail Vısotski
Fizik, Kiyev Milli Universitetinin dosenti
Tərcümə: Qaynarinfo.az