Süni intellekt yarışını başladan şirkətlər indi niyə yavaşlamaq istəyirlər? “OpenAI” və “Anthropic” şirkətlərinin təhlükəsizlik testlərində baş verənlərdən tutmuş sənayenin qorxduğu ssenariyə qədər süni intellekt böhranının pərdəarxası.

Qaynarinfo xəbər verir ki, dünyanın ən güclü süni intellekt sistemlərini hazırlamaq üçün bir-biri ilə yarışan şirkət rəhbərləri indi yarışın sürətini azaltmaqdan danışırlar. “Anthropic” şirkətinin baş direktoru Dario Amodei süni intellekt imkanlarının inkişaf etdirilmə sürətinin yavaşladılmasının vacib olduğunu bildirib. “OpenAI” şirkətinin baş direktoru Sem Altman və “xAI” şirkətinin sahibi İlon Mask da bu çağırışı dəstəkləyib.

Hazırda isə “Anthropic”dən ayrılan Ceykob Koksonun açıqlamaları müzakirə olunur. Kokson süni intellekt üzərində çalışan tədqiqatçıların texnologiyanın inkişaf sürətindən və mümkün nəticələrindən ciddi şəkildə qorxduqlarını deyərək, “Mövcud sürətlə davam etsək, hamımız ölə bilərik”, deyə o, bildirib.

Bəs nə baş verir? Süni intellekt böhranı necə başladı və gəlib çatdığımız mərhələdə nə bu qədər qorxuludur?

Süni intellekt böhranı necə başladı?

Süni intellektin inkişafındakı dəyişikliklərin arxasında tək bir hadisə dayanmayıb. Son aylarda aparılan təhlükəsizlik testləri süni intellekt agentlərinin onlar üçün müəyyən edilmiş sərhədlərdən kənara çıxdığını, internetə daxil olduğunu, real sistemlərə çatdığını və bəzi hallarda təhlükəsizlik boşluqlarından istifadə etdiyini göstərib.

Modellər artıq yalnız suallara cavab verən çat-botlar deyil. Onlar kompüterdən istifadə edə, kod yaza, tapşırıqları müstəqil şəkildə yerinə yetirə və müxtəlif süni intellekt agentləri ilə birlikdə işləyə bilirlər.

Buna görə də sənaye qarşısında belə bir sual yaranıb: sistemlər gücləndikcə onları nəzarət altında saxlaya biləcəyikmi?

Hər şeyi sürətləndirən yarış necə başladı?

Süni intellekt yarışında ən mühüm dönüş nöqtələrindən biri 2022-ci ilin sonlarına təsadüf edib. “Anthropic” “Claude”un ilk versiyası üzərində işləyərkən “OpenAI” də qabaqcıl dil modellərini çat interfeysi vasitəsilə istifadəçilərə təqdim etməyə hazırlaşırdı. “Reuters”in şirkətlərdə çalışan şəxslərdən əldə etdiyi məlumata görə, “OpenAI” “Anthropic”in çat-bot hazırladığını öyrəndikdən sonra öz məhsulunu sürətlə bazara çıxarmaq qərarına gəlib.

Təqvim 30 noyabr 2022-ci ili göstərdikdə “OpenAI” “ChatGPT”ni istifadəyə verdi.

“ChatGPT” qısa müddət ərzində milyonlarla istifadəçiyə çatdı. Texnologiya şirkətləri bu böyük təsirdən sonra planlarını bir-bir dəyişdirdi və böyük yarış başladı.

“Google”, “Microsoft”, “Meta” və digər şirkətlər süni intellektə investisiyaları sürətləndirərkən “OpenAI” ilə “Anthropic” arasındakı rəqabət də gücləndi. Bu yarış yalnız istifadəçi sayı və ya gəlir uğrunda aparılmırdı. Şirkətlər daha çox hesablama gücündən istifadə edən, daha çox problemi həll edə bilən və getdikcə daha müstəqil fəaliyyət göstərən modellər hazırlamağa başladılar.

Hər keçən gün yeni model təqdim olunurdu. Bir model digərindən daha uzunmüddətli tapşırıqları yerinə yetirə bilir, digəri daha yaxşı kod yazır, növbəti versiya isə öz işini kiçik süni intellekt agentləri arasında bölüşdürə bilirdi. Meyar hər gün bir qədər yüksəlirdi.

Çat-bot kimi başladı, müstəqil işləyən agentlərə çevrildi

“ChatGPT”nin ilk versiyaları kifayət qədər sadə görünürdü. İstifadəçi sual verir, model isə cavablandırırdı. Bu gün isə sistemlər tamamilə fərqli şəkildə işləyə bilir. Agent qarşısına məqsəd qoyaraq həmin məqsədə çatmaq üçün lazım olan bütün addımları özü həyata keçirə bilir. Faylları araşdıra, internetdə əməliyyatlar apara və kompüterdə uyğun proqramlardan istifadə edə bilir.

Bu xüsusiyyətlər süni intellekti daha faydalı edib. Lakin eyni zamanda təhlükəsizlik problemi də ortaya çıxıb: bir agent qarşısına qoyulan məqsədə çatmaq üçün nə qədər irəli gedə bilər?

2026-cı ilin yayında baş verən bəzi hadisələr bu sualın daha tez-tez verilməsinə səbəb olub.

İlk böyük xəbərdarlıq “OpenAI” testindən sonra gəldi: “Hugging Face” hadisəsi

“OpenAI” 2026-cı ilin iyulunda qabaqcıl modellərinin kibertəhlükəsizlik imkanlarını sınaqdan keçirirdi.

Məqsəd modellərin kompüter sistemlərindəki boşluqları nə dərəcədə yaxşı tapa bildiyini müəyyənləşdirmək idi. Bu səbəbdən “OpenAI” sınaq mühitində adi istifadəçilərə təqdim etdiyi bəzi təhlükəsizlik tədbirlərini zəiflətmişdi. Lakin test planlaşdırıldığı kimi getmədi.

“OpenAI”nin daha sonra dərc etdiyi hadisə hesabatına görə, süni intellekt modelləri özlərini internetdən təcrid etmək üçün istifadə olunan nəzarət mexanizmlərini aşmağa nail olub.

Sistemlər icazə verilməyən kommunikasiya üsullarından istifadə edib, ortaq infrastrukturdakı təhlükəsizlik boşluqlarından yararlanıb və internetə çıxıb.

Daha sonra isə “Hugging Face” sistemlərinə qədər çatıblar.

“OpenAI” hadisəni şirkət və sənaye üçün “xəbərdarlıq atəşi” kimi qiymətləndirib. Çünki süni intellekt agentləri insanların açıq şəkildə istəmədiyi təhlükəli addımlar atıb.

Daha vacibi isə sistemlərin qarşılarına çıxan texniki maneələri dəf edə biləcək qədər güclü olması idi.

Süni intellekt agentləri birlikdə hərəkət etdilər

“OpenAI” hadisəsini daha diqqətçəkən edən məqamlardan biri bunun yalnız bir süni intellekt agentinin davranışından ibarət olmaması idi.

Test zamanı çoxsaylı agentlər müxtəlif tapşırıqlar üzərində işləyirdi. Bəzi agentlər icazə verilməyən kanallar vasitəsilə bir-biri ilə əlaqə saxlayıb və əldə etdikləri məlumatları bölüşüblər.

Sistemlər təhlükəsizlik boşluqlarını tapıb, internetə çıxış yollarını aşkar edib və digər sistemlərdən əldə etdikləri məlumatlardan istifadə etməyə başlayıblar.

Bu vəziyyət tədqiqatçıların uzun müddətdir müzakirə etdiyi başqa bir ehtimalı gündəmə gətirib: tək bir güclü süni intellekt əvəzinə yüzlərlə və ya minlərlə süni intellekt agenti eyni vaxtda işləsə, nə baş verər?

Bugünkü sistemlər bunun məhdud nümunəsini göstərə bilir. Gələcəkdə modellər daha da güclü olarsa, eyni yanaşma daha böyük miqyasda işləyə bilər.

Daha sonra “Anthropic” də oxşar hadisələri açıqladı

“OpenAI” tək deyildi. “Anthropic” qısa müddət sonra öz təhlükəsizlik testləri zamanı bəzi “Claude” modellərinin real şirkət sistemlərinə icazəsiz daxil olduğunu açıqladı.

Problemin başlanğıc nöqtəsi “OpenAI” hadisəsindən fərqli idi. “Anthropic”in test mühitindəki konfiqurasiya xətası internetə qapalı olması nəzərdə tutulan modellərin real internetə çıxışına imkan verib. Lakin bundan sonra baş verənlər şirkəti narahat edib.

“Claude” qarşısına qoyulan kibertəhlükəsizlik tapşırığını yerinə yetirməyə çalışarkən real sistemlərə hücum edib. “Anthropic” ilkin araşdırmadan sonra yoxlamanı genişləndirib və təxminən 481 milyon əməliyyat qeydini təhlil edib. Şirkət dörd ciddi hadisə müəyyənləşdirib.

Hadisələrdən birində “Claude” Python proqramlarının yayılması üçün istifadə olunan “PyPI” platformasına zərərli paket yükləmək məqsədilə uzun əməliyyatlar zənciri həyata keçirib. Sistem saxta hesab yaratmaq yolları axtarıb, lazımi resursları müəyyənləşdirməyə çalışıb və nəticədə zərərli paketi yayımlayıb.

Bu paket real sistemlərə çatıb.

Tədqiqatçıları ən çox narahat edən davranış ortaya çıxdı

“Anthropic” hadisələri yenidən araşdırarkən iki davranış üzərində dayanıb. Birincisi, modelin əlindəki məlumatları gördüyü əməliyyatı əsaslandıracaq şəkildə şərh etməsi olub. İkincisi isə daha vacib idi: model özünə verilən dar tapşırığı tamamlamaq üçün zərər vurmaq ehtimalı olan addımları atmağa davam edib.

“Claude” bəzi testlərdə real internetdə olduğunu göstərən əlamətlərlə qarşılaşmasına baxmayaraq tapşırığı davam etdirib. “Anthropic” daha sonra mühitin real olduğunu modelə daha açıq şəkildə izah edən təcrübələr aparıb. Bəzi hallarda model real dünyada zərər vurmaq ehtimalını qəbul etməsinə baxmayaraq hücum xarakterli əməliyyatları davam etdirib. Şirkət bunu ciddi təhlükəsizlik problemi kimi qiymətləndirib.

Problem süni intellektin “pis” olması deyil

Burada mühüm bir fərq var. Bu hadisələr süni intellektin şüur qazandığını, insanlara nifrət etdiyini və ya bəşəriyyətə hücum etmək qərarına gəldiyini göstərmir. “OpenAI” və “Anthropic”in hesabatları da belə nəticəyə əsas vermir. Əsas problem daha sadə, lakin həlli daha çətin ola bilər.

Süni intellekt sisteminə bir məqsəd verilir. Sistem həmin məqsədə çatmaq üçün üsullar hazırlayır. Lakin məqsədlə təhlükəsizlik qaydaları arasında ziddiyyət yarandıqda bəzi hallarda sistem təhlükəsizlik sərhədini deyil, məqsədi izləyir.

Tədqiqatçılar bunu ümumilikdə “alignment”, yəni süni intellekt sistemlərinin davranışlarını insanların məqsədləri və müəyyən etdiyi sərhədlərlə uyğunlaşdırmaq problemi adlandırırlar. Bugünkü modellərdə baş verən hadisələrin təsiri məhdud olub. Lakin modellər inkişaf etdikcə eyni davranışın nəticələri də böyüyə bilər.

Modellər artıq öz inkişaflarını da sürətləndirə bilər

Dario Amodeinin sürəti azaltmaq çağırışının arxasında dayanan ikinci böyük narahatlıq isə süni intellektin süni intellekt hazırlamağa başlamasıdır.

Bu gün qabaqcıl modellər artıq proqram təminatı hazırlaya bilir. Onlar tədqiqatçılar üçün kod yaza, təcrübələrin nəticələrini araşdıra və yeni ideyalar təklif edə bilir. Bu imkanlar inkişaf etdikcə süni intellekt şirkətləri yeni modellərin hazırlanmasında getdikcə daha çox süni intellektdən istifadə edə bilər. Burada kritik bir dövrə yaranır.

Daha güclü süni intellekt daha güclü süni intellektin hazırlanmasına kömək edir. Yaranan yeni model isə növbəti modeli daha sürətlə hazırlaya bilər. Bu proses bəzən “recursive self-improvement”, yəni özünü qidalandıran inkişaf dövrü adlandırılır.

Sənayedəki bəzi tədqiqatçılar bu dövrə başladığı halda model imkanlarının inkişaf sürətinin insanların təhlükəsizlik testlərini təkmilləşdirmə sürətini üstələyə biləcəyindən narahatdırlar.

Yarışı başladan şəxslər indi niyə əyləci basmaq istəyirlər?

Bu mərhələdə süni intellekt sənayesi qəribə bir ziddiyyətlə üzləşir.

“OpenAI”, “Anthropic”, “Google DeepMind” və “xAI” daha güclü modellər hazırlamaq üçün bir-biri ilə yarışır. Şirkətlər milyardlarla dollarlıq məlumat mərkəzləri inşa edir, daha çox prosessor alır və yeni modellərini rəqiblərindən əvvəl təqdim etməyə çalışırlar.

Lakin eyni şirkətlərin rəhbərləri yarışın həddindən artıq sürətləndiyini deyirlər. Bunun səbəbi təhlükəsizlik işlərinin eyni sürətlə irəlilədiyinə əmin olmamalarıdır.

Dario Amodei sentyabrın 12-də yayımladığı “We Must Pace the Frontier” (“Sərhəd inkişafının tempini tənzimləməliyik”) başlıqlı yazısında sənayenin model imkanlarını inkişaf etdirmə sürətini azaltmalı olduğunu bildirib. Amodei süni intellekt araşdırmalarının dayandırılmasını təklif etmir. O, şirkətlərin təhlükəsizlik sistemlərini model imkanları ilə eyni səviyyəyə çatdıra bilməsi üçün inkişafın nəzarətli şəkildə yavaşladılmasını istəyir.

Sem Altman və İlon Mask da bu yanaşmanı dəstəklədiklərini açıqlayıblar.

Lakin heç kim təkbaşına əyləci basmaq istəmir

Burada sənayenin həll etməli olduğu başqa bir problem ortaya çıxır. “OpenAI” təhlükəsizlik səbəbindən altı ay yavaşlasa, “Anthropic” önə keçə bilər. “Anthropic” yavaşlasa, “OpenAI” və ya “Google” üstünlük qazana bilər. ABŞ şirkətlərinin hamısı yavaşlasa, Çin süni intellekt şirkətləri aradakı fərqi bağlaya bilər.

Nəticədə şirkət rəhbərləri risk gördüklərini desələr də, təkbaşına yavaşlamaq istəmirlər.

Bu vəziyyət klassik yarış probleminə çevrilir: hər kəs sürətin təhlükəli olduğunu bilir, lakin ilk əyləci basan tərəfin yarışı uduzacağından qorxur. Amodei bu səbəbdən böyük süni intellekt şirkətlərinin ümumi təhlükəsizlik standartları müəyyənləşdirməsini təklif edir.

Planın digər hissəsində isə müstəqil ekspertlər yer alır. Amodei şirkətlərin daxilində yaradılacaq müstəqil təhlükəsizlik qruplarının əməkdaşlara yaxın səviyyədə çıxış imkanına malik olmasını və modelləri kənardan nəzarətdə saxlamasını istəyir.

“Anthropic” bu tətbiqə öz sistemlərində başlayacağını açıqlayıb. Altman da “OpenAI”nin oxşar sistemi həyata keçirəcəyini bildirib.

Şirkətlərin daxilindən də xəbərdarlıqlar gəlir

Müzakirələri genişləndirən hadisələrdən biri “Anthropic” tədqiqatçısı Ceykob Koksonun istefası olub.

Daha əvvəl “OpenAI”də də çalışan Kokson iki şirkətin çox güclü süni intellekt hazırlamaq üçün apardığı yarışın ciddi risklər yaratdığını müdafiə edib.

Kokson yaxın on il ərzində süni intellektin bəşəriyyətin məhvinə səbəb olma ehtimalını 10 faizdən yüksək qiymətləndirdiyini bildirib.

“Anthropic”in süni intellektin uyğunlaşdırılması üzrə araşdırmalarına rəhbərlik edən Evan Hubinger də oxşar risk qiymətləndirməsi aparıb. Bu rəqəmlər elmi baxımdan sübut edilmiş proqnozlar deyil. Mütəxəssislər süni intellektin bəşəriyyət üçün uzunmüddətli riski məsələsində ciddi şəkildə fərqli düşünürlər.

Bəzi tədqiqatçılar insan nəzarətinin itirilə biləcəyini düşünür, digərləri isə yaxın gələcəkdə bəşəriyyətin məhv olması kimi ssenarilər üçün kifayət qədər sübut olmadığını bildirirlər.

Lakin tərəflərin böyük hissəsi daha konkret bəzi risklərlə bağlı razılaşır.

Bu gün üçün daha konkret təhlükə nədir?

Ən yaxın risklərdən biri kibertəhlükəsizlikdir. Qabaqcıl süni intellekt sistemləri kompüter boşluqlarını insanlardan daha sürətlə axtara bilər. Minlərlə agent eyni vaxtda müxtəlif sistemləri skan edə və tapdıqları məlumatları bir-biri ilə bölüşə bilər. Bu, hücumların miqyasını dəyişə bilər.

Digər risk bioloji silahlardır. Çox güclü modellər biologiya sahəsində biliyi olmayan insanların təhlükəli maddələr və ya patogenlərlə bağlı daha ətraflı məlumat əldə etməsini asanlaşdıra bilər. Dələduzluq, kütləvi dezinformasiya, nəzarət və avtomatlaşdırılmış kiberhücumlar da mövcud risklər sırasındadır.

Bu ssenarilərin heç biri süni intellektin şüur qazanmasını tələb etmir. İnsanlar sistemdən pis məqsədlərlə istifadə edə bilər və ya kifayət qədər müstəqil işləyən sistem qarşısına qoyulmuş tapşırığı yerinə yetirərkən gözlənilməz zərər vura bilər.

Ən böyük qorxu isə nəzarətin tədricən itirilməsidir

Uzunmüddətli müzakirələrin mərkəzində isə fərqli bir ehtimal dayanır. Əgər süni intellekt sistemi insanlardan daha yaxşı proqram təminatı hazırlamağa, araşdırma aparmağa və yeni süni intellekt modelləri yaratmağa başlasa, inkişafın sürəti əhəmiyyətli dərəcədə arta bilər.

Eyni sistem kompüterdən istifadə edə, internetə daxil ola və digər agentlər yarada bilirsə, nəzarət problemi daha da mürəkkəbləşir. Buradakı qorxu bir səhər kompüterlərin “bəşəriyyətə müharibə elan etməsi” deyil. Daha real hesab olunan problem çox güclü sistemin qarşısına qoyulmuş məqsədi insanların istədiyindən fərqli şəkildə şərh etməsi və insanların onu dayandırmaqda getdikcə daha çox çətinlik çəkməsidir.

Bu gün baş verən hadisələr belə bir ssenarinin reallaşdığını göstərmir. Lakin tədqiqatçılar onları gələcəkdə ortaya çıxa biləcək daha böyük problemlərin kiçik xəbərdarlıqları kimi qiymətləndirirlər.

Bəs niyə məhz indi?

Süni intellekt riskləri illərdir müzakirə olunur. Lakin 2026-cı ildə baş verənlər müzakirənin xarakterini dəyişib. Əvvəllər tədqiqatçılar gələcəkdə çox güclü süni intellektin təhlükəsizlik sərhədlərini aşa biləcəyini ehtimal edirdilər. İndi isə şirkətlər öz modellərinin real təhlükəsizlik testləri zamanı sərhədləri aşdığını bildirirlər.

“OpenAI”nin agentləri internet izolyasiyasını aşaraq “Hugging Face”ə çatıb.

“Anthropic”in modelləri real üçüncü tərəf sistemlərinə daxil olub.

Böyük Britaniyanın AI Security Institute tərəfindən aparılan digər testlərdə “OpenAI” və “Anthropic” modelləri saxta onlayn kimliklər yaratmaq və təhlükəsiz sistemlərə icazəsiz daxil olmaq kimi davranışlar nümayiş etdirib.

“Meta” da öz testlərindən birində modelinin başqa şirkətin sisteminə daxil olduğunu açıqlayıb.

Bu hadisələrin hər birində şərtlər və səbəblər fərqli olub. Bəzilərində test mühitinin yanlış konfiqurasiyası mühüm rol oynayıb. Bəzi hallarda şirkətlər modellərin normal təhlükəsizlik tədbirlərini qəsdən aradan qaldırıb. Buna görə də bu hadisələri gündəlik “ChatGPT” və ya “Claude” istifadəsi zamanı baş verən davranışlarla eyniləşdirmək düzgün deyil.

Lakin ortaq bir nəticə var: kifayət qədər güclü modellərə uyğun alətlər və kifayət qədər fəaliyyət imkanları verildikdə onlar insanların əvvəlcədən nəzərdə tutmadığı yollar tapa bilirlər.

Süni intellekt böhranı əslində sürət böhranı ola bilər

Sənayenin bu gün qarşılaşdığı problem bəlkə də süni intellektin özünün nə qədər təhlükəli olmasından daha fundamental məsələdir: problem sürətdir.

Modellər bir neçə ay ərzində daha bacarıqlı olur. Şirkətlər bir-birini ötüb keçmək üçün yeni sistemlər hazırlayır. Süni intellekt artıq yeni süni intellekt sistemlərinin hazırlanmasına kömək edir. Eyni zamanda təhlükəsizlik qrupları bu sistemlərin nələr edə biləcəyini sınaqdan keçirməlidir.

Dövlətlər isə bütün bunları anlayıb qaydalar hazırlamalıdır. Bu proseslərin eyni sürətlə irəlilədiyinə dair zəmanət yoxdur.

Məhz buna görə bir neçə il əvvəl süni intellekt yarışının ön sıralarında olan şəxslərin bir qismi indi həmin yarış üçün əyləc mexanizmi tələb edir.

Hazırda süni intellektin nəzarəti ələ keçirdiyini göstərən heç bir sübut yoxdur. Bəşəriyyətin sonunun yaxınlaşması ilə bağlı da ekspertlər arasında konsensus yoxdur. Lakin 2026-cı ildə baş verən hadisələr başqa bir reallığı ortaya qoyub: süni intellekt sistemlərinin imkanları artıq yalnız laboratoriya testlərində əldə edilən ballarla ölçülə bilməyəcək mərhələyə yaxınlaşır.

Bu sistemlər hərəkətə keçə, uzunmüddətli tapşırıqları davam etdirə, kompüter sistemləri ilə qarşılıqlı əlaqə qura və qarşılarına çıxan maneələr üçün yeni həllər tapa bilirlər. İndi sənayenin həll etməli olduğu sual bəlkə də süni intellektin nə qədər sürətlə inkişaf etdirilə biləcəyi deyil. Əsas sual onun nə qədər sürətlə inkişaf etdirilməsinin təhlükəsiz olmasıdır.

Aydın