Süni intellektin gələcəyi ilə bağlı dünyada həyəcan siqnalları səslənərkən, texnologiya sektorundan gələn bir açıqlama müzakirələri yeni istiqamətə yönəldib. Süni intellektin yalnız nəzarətdən çıxması deyil, bəşəriyyətin gələcəyini birbaşa təhdid etməsi ehtimalı da müzakirə olunur. Bəs insanlığın qarşılaşa biləcəyi əsas təhlükələr hansılardır? Mütəxəssislərin diqqət çəkdiyi 5 ssenari süni intellektə baxışı dəyişə bilər.

Qaynarinfo xəbər verir ki, süni intellektin gələcəyi artıq yalnız texnologiya şirkətləri və alimlərin müzakirə etdiyi mövzu deyil. Texnologiyanın getdikcə güclənməsi ilə süni intellektin necə nəzarətdə saxlanılacağı, insan nəzarətinin necə qorunacağı və mümkün risklərin necə məhdudlaşdırılacağı məsələsi Birləşmiş Millətlər Təşkilatının (BMT) gündəminə də daxil olub.

BMT Baş Assambleyasında liderlər süni intellektin yarada biləcəyi risklərə qarşı daha güclü təhlükəsizlik tədbirləri və ictimai nəzarət çağırışı ediblər. ABŞ prezidenti Donald Tramp isə BMT Baş Assambleyasındakı çıxışında süni intellektin qlobal səviyyədə tənzimlənməsinə yönəlmiş təşəbbüslərə qarşı olduğunu bildirib.

ABŞ prezidenti həmçinin süni intellektin adının dəyişdirilməsini gündəmə gətirib. Tramp “süni” sözünün texnologiyanın real imkanlarını olduğundan daha məhdud göstərdiyini iddia edərək, bundan sonra ABŞ-ın rəsmi sənədlərində “süni intellekt” əvəzinə “super intellekt” ifadəsindən istifadə ediləcəyini açıqlayıb. O, digər ölkələrin də bu ifadədən istifadə edəcəyinə ümid etdiyini bildirib.

Sektor daxilindən gələn açıqlama müzakirələri narahatedici mərhələyə daşıdı

Trampın açıqlamaları BMT-də süni intellektə daha ciddi təhlükəsizlik tədbirlərinin tətbiqi ilə bağlı çağırışların səsləndirildiyi dövrə təsadüf edib. BMT-nin baş katibi Antonio Quterreş süni intellekt üzərində daha güclü nəzarətə çağırış edib. 20-dən çox ölkənin lideri də inkişaf etmiş süni intellekt sistemləri üçün məcburi təhlükəsizlik tədbirlərinin hazırlanmasını istəyib.

Süni intellektin gələcəyinin qlobal miqyasda müzakirə edildiyi bir vaxtda sektor daxilindən gələn başqa bir açıqlama isə müzakirələri daha narahatedici istiqamətə yönəldib.

Süni intellekt üzrə tədqiqatçı Ceykob Koksan “X” hesabında yayımladığı geniş açıqlamada “Anthropic” şirkətindən istefa verdiyini bildirib. O, son üç il ərzində “OpenAI” və “Anthropic” şirkətlərində süni intellekt modellərinin ilkin təlim prosesləri üzrə araşdırmalar apardığını qeyd edib.

Koksan hər iki şirkətin süni intellektin inkişafına məsuliyyətli yanaşmadığını iddia edib. Onun sözlərinə görə, şirkətlər özünü təkmilləşdirə bilən “super intellekt” sistemlərinə çatmaq üçün yarışır və bu, bəşəriyyətin gələcəyi baxımından böyük risk yaradır.

Koksan süni intellektin imkanlarının kiçildilməməli olduğunu vurğulayıb. O, yaxın gələcəkdə insanlardan daha bacarıqlı sistemlərin ortaya çıxa biləcəyini iddia edib. Tədqiqatçı belə sistemlərin kiberhücumlar həyata keçirə, müxtəlif sahələrdə sürətli dəyişikliklərə səbəb ola və zaman keçdikcə real dünyada güc və resurs əldə etmək imkanına çata biləcəyini bildirib.

“Rəhbərlər süni intellektin 10 il ərzində bəşəriyyəti tamamilə məhv edə biləcəyinə həqiqətən inanırlar”

Ceykob Koksan həmçinin süni intellekt hazırlayan tədqiqatçı və rəhbərlərin əhəmiyyətli hissəsinin texnologiyanın 10 ilin sonuna qədər bütün bəşəriyyəti məhv edə biləcəyinə həqiqətən inandığını iddia edib.

O, bunun “marketinq taktikası” olmadığını da bildirib. Koksanın iddiasına görə, bəzi rəhbərlər və baş tədqiqatçılar ictimaiyyət qarşısında daha ehtiyatlı açıqlamalar versələr də, özəl söhbətlərdə həmin şəxslər süni intellektin yarada biləcəyi risklərdən ciddi narahat olduqlarını bildirirlər.

Koksan “Əgər həqiqətən bunun bu qədər təhlükəli olduğuna inanırlarsa, niyə hələ də inkişaf etdirirlər?” sualına da cavab verib. Onun sözlərinə görə, “OpenAI” şirkətində bəzi şəxslər məsələnin bəşəriyyət üçün əhəmiyyətini hələ tam dərk etməyib. “Anthropic”də isə risklər daha yaxşı başa düşülür, lakin şirkət süni intellekt yarışında geridə qalmaq qorxusu ilə hərəkət edir.

Süni intellekt bəşəriyyət üçün necə təhlükə yarada bilər?

“Daily Mail”in də diqqət yetirdiyi bu sualla bağlı mütəxəssislərin fikirləri əsasında beş mümkün ssenari önə çıxarılır.

1. Nə baş verdiyini anlamağa fürsətimiz olmaya bilər

Süni intellektin bəşəriyyət üçün təhlükə yarada biləcəyini düşünənlərin əsas arqumentlərindən biri insan zəkasından qat-qat üstün sistemin davranışlarını proqnozlaşdırmağın son dərəcə çətin olmasıdır.

Başqa sözlə, insanlardan daha ağıllı bir süni intellektin hansı məqsədləri formalaşdıracağını və həmin məqsədlərə çatmaq üçün hansı üsullardan istifadə edəcəyini indidən dəqiq müəyyənləşdirmək mümkün olmaya bilər.

Bu yanaşma insanın özündən qat-qat az intellektə malik bir varlıqdan mürəkkəb insan davranışlarını izah etməsini gözləməyə bənzədilir.

Lakin mövcud süni intellekt sistemlərinin hələ də mühüm məhdudiyyətləri var. Bəzi modellər müəyyən və olduqca mürəkkəb məsələlərdə insanları qabaqlaya bilsələr də, bu, onların bütün sahələrdə insanlardan daha ağıllı olması demək deyil.

Bununla belə, süni intellektin getdikcə daha mürəkkəb riyazi məsələləri həll edə bilməsi bu müzakirənin əhəmiyyətini artırır. Gələcəkdə ümumi imkanları insan səviyyəsini aşan sistemlər meydana çıxarsa, onların davranışlarını əvvəlcədən proqnozlaşdırmaq daha çətin ola bilər.

2. Bioloji silahlar

Süni intellektin bəşəriyyət üçün yarada biləcəyi konkret risklərdən biri bioloji silahların hazırlanmasını asanlaşdırmasıdır.

Son dərəcə inkişaf etmiş süni intellektin yeni və təhlükəli bioloji agentlərin hazırlanması, genetik ardıcıllıqların yaradılması və ya laboratoriya proseslərinin sürətləndirilməsi üçün istifadə oluna biləcəyi ehtimal edilir.

Bu ehtimal süni intellekt və biologiyanın kəsişməsində baş verən inkişaflarla birlikdə daha çox müzakirə olunmağa başlayıb. “Stanford” Universitetində tədqiqatçıların genetik süni intellekt modelindən istifadə edərək yeni viruslar üzərində araşdırma apardıqlarına dair xəbərlər də bu narahatlıqların nümunəsi kimi gündəmə gəlib.

Lakin yeni və ölümcül virus yaratmaqla bəşəriyyəti tamamilə məhv etmək eyni şey deyil. Qlobal miqyasda böyük pandemiya yaratmaq üçün patogenin yalnız ölümcül olması deyil, eyni zamanda geniş miqyasda və effektiv şəkildə yayılması lazımdır.

Yoluxduruculuq və ölümcüllük arasındakı əlaqə isə olduqca mürəkkəbdir. Buna görə də bioloji risk real olsa da, bunun avtomatik olaraq bəşəriyyətin məhvinə gətirib çıxaracağını söyləmək olmaz.

3. Nüvə müharibəsi

Digər ssenari süni intellektin nüvə silahlarından istifadə edilən münaqişəni tətikləməsidir.

Nüvə komandanlıq və nəzarət sistemlərinin təhlükəsizliyi bu baxımdan mühüm əhəmiyyət daşıyır. Keçmişdə texniki səhvlər, yanlış həyəcan siqnalları və səhv qiymətləndirmələr səbəbindən nüvə müharibəsi riski ciddi şəkildə gündəmə gəlib.

“Stuxnet” hücumu da yüksək səviyyədə qorunan və internetdən təcrid edildiyi düşünülən sistemlərin belə mürəkkəb kiberhücumlara qarşı tamamilə toxunulmaz olmadığını göstərib. 2010-cu ildə üzə çıxan hücum İranın nüvə proqramında istifadə olunan sentrifuqaları hədəfə almışdı.

İnkişaf etmiş süni intellektin yanlış kəşfiyyat məlumatı yaratması, mövcud məlumatları səhv şərh etməsi və ya hərbi qərarvermə proseslərinə yanlış məlumat ötürməsi nəzəri olaraq ciddi nəticələrə səbəb ola bilər.

Belə bir vəziyyətdə risk yalnız nüvə partlayışlarından ibarət olmaz. Böyükmiqyaslı nüvə müharibəsindən sonra yarana biləcək ərzaq çatışmazlığı, iqtisadi çöküş və iqlim təsirləri də qlobal miqyasda ağır nəticələr doğura bilər.

4. Səhv hədəf böyük təhlükə yarada bilər

Süni intellektin bəşəriyyət üçün təhlükəli olması üçün insanlara nifrət etməsi vacib deyil. Daha fundamental risk son dərəcə güclü süni intellekt sisteminin qarşısına qoyulan məqsədi yerinə yetirərkən insanların maraqlarını nəzərə almaması ola bilər.

Tutaq ki, süni intellektə müəyyən məqsədə mümkün qədər qısa müddətdə çatmaq tapşırılıb. Sistem zaman keçdikcə bu məqsədə çatmaq üçün insanlarla məsləhətləşmədən qərarlar qəbul edə, mövcud resurslardan öz məqsədləri doğrultusunda istifadə edə və qarşısına maneə kimi çıxan amilləri aradan qaldırmağa çalışa biləcək səviyyədə inkişaf etsə, nə baş verər?

Süni intellekt təhlükəsizliyi sahəsində bu ehtimalı izah etmək üçün filosof Nik Bostromun irəli sürdüyü düşüncə eksperimentindən istifadə olunur. “Kağız sancağı istehsalçısı” kimi tanınan ssenaridə süni intellektə mümkün qədər çox kağız sancağı istehsal etmək məqsədi verilir. Sistem məqsədinə çatmaq üçün getdikcə daha çox resursdan istifadə edir və nəticədə insanların ehtiyacları ilə öz məqsədi arasında ziddiyyət yaranır.

Burada əsas məsələ kağız sancaqları deyil. Düşüncə eksperimentinin göstərmək istədiyi odur ki, süni intellekt pis niyyətli olmadan da təhlükəli nəticələrə səbəb ola bilər.

Sistem qarşısına qoyulmuş tapşırığı mükəmməl şəkildə yerinə yetirməyə çalışarkən insanların dəyər verdiyi prinsipləri və prioritetləri nəzərə almaya bilər. Bununla belə, bu, hazırda baş verən hadisə deyil və süni intellektin gələcəkdə hansı imkanlara çatacağını müzakirə etmək üçün istifadə olunan nəzəri nümunədir.

Üstəlik, son dərəcə inkişaf etmiş süni intellektin həqiqətən belə davranacağı da dəqiq deyil. Lakin ssenarinin ortaya qoyduğu əsas sual getdikcə daha çox əhəmiyyət qazanır: insanların nə istədiyini həqiqətən anlayan və buna uyğun hərəkət edən süni intellekt sistemləri yarada biləcəyikmi?

5. Ən böyük risk yenə insanlar ola bilər

Bəlkə də ən fərqli ssenari süni intellektin birbaşa bəşəriyyəti məhv etməyə çalışması deyil, cəmiyyətlərin özlərini zəiflətməsinə yardım etməsidir.

Təsəvvür edək ki, süni intellekt genişmiqyaslı iş itkilərinə səbəb olur, yanlış və aldadıcı məlumatların sürətlə yayılmasını asanlaşdırır, siyasi qütbləşməni artırır və insanların getdikcə daha çox süni münasibətlərə yönəlməsinə gətirib çıxarır.

Bu hadisələrin heç biri təkbaşına bəşəriyyətin məhvi demək deyil. Lakin bir-birini gücləndirən iqtisadi, siyasi və sosial böhranlar zaman keçdikcə institutların zəifləməsinə və cəmiyyətlərin sabitliyini itirməsinə səbəb ola bilər.

Bu ssenaridə süni intellekt bəşəriyyətin birbaşa düşmənindən daha çox, artıq mövcud olan sosial problemləri böyüdən bir vasitəyə çevrilə bilər.

Aydın