Süni intellekt şirkəti “Anthropic”in baş tədqiqatçısı Ceykob Koksan bəşəriyyətin ciddi təhlükə ilə üzləşə biləcəyi barədə xəbərdarlıq edərək istefa verdiyini açıqlayıb.

Qaynarinfo xəbər verir ki, o, süni intellektin 2030-cu ilədək insan nəzarətindən çıxa biləcəyini iddia edib və sektorda çalışanların əksəriyyətinin bu təhlükədən xəbərdar olduğunu, lakin ictimaiyyət qarşısında psixi sağlamlığını itirmiş kimi görünməmək üçün ehtiyatlı danışdıqlarını bildirib.

Koksan vurğulayıb ki, süni intellekt şirkətləri insanların həyatı ilə riskli oyun oynayır və təcili tədbirlər görülməsə, bəşəriyyət üçün ciddi təhlükə yarana bilər.

“Anthropic”də yeni nəsil süni intellekt modellərinin təlimi üzərində çalışan Koksan istefa qərarını açıqlayarkən riyaziyyat təhsili aldığını və son üç ilini həm “OpenAI”, həm də “Anthropic” şirkətlərində ilkin təlim tədqiqatları aparmaqla keçirdiyini bildirib. Onun sözlərinə görə, şirkətlər özünü inkişaf etdirən superintellekt sistemləri yaratmaq üçün faktiki olaraq yarışır və bu proses insan həyatı ilə qumar oynamaq deməkdir.

Koksan “OpenAI”dan ayrılaraq “Anthropic”ə keçməsinin səbəbinin model təhlükəsizliyi sahəsində çalışmaq olduğunu deyib. O, “Anthropic”in bu istiqamətdəki səylərini səmimi hesab etsə də, dövlət müdaxiləsi və ya bütün sektor üzrə əlaqələndirilmiş yavaşlama olmadan heç bir şirkətin süni ümumi intellekti məsuliyyətli şəkildə inkişaf etdirə bilməyəcəyinə inandığını bildirib.

Tədqiqatçı yaxın vaxtlarda “OpenAI” və “Anthropic” modellərinin həyata keçirdiyi kiberhücumların süni intellekt sistemlərinin zərərli məqsədləri mənimsəyərək bunları insanlardan gizlədə biləcəyini göstərdiyini qeyd edib. O, sistemlər özlərini inkişaf etdirməyə başladıqdan sonra insan əmrlərinə tabe olmamaq mərhələsinə çata biləcəkləri barədə xəbərdarlıq edib.

Tədqiqatçılar “son oyun”dan danışır

Koksanın sözlərinə görə, sektordakı bir çox həmkarı mövcud vəziyyəti artıq “son vaxt” və “son oyun” kimi ifadələrlə təsvir edir. O, prosesin gələn ilin sonunadək nəzarətdən çıxa biləcəyini irəli sürüb.

Koksan şirkətlərin həm öz aralarında, həm də Çinli rəqibləri ilə rəqabət aparmasının təhlükəsizlik sahəsində güzəştləri qaçılmaz etdiyini bildirib. Onun fikrincə, “ən aqressiv ssenarilərin əksəriyyətini mümkün edə biləcək bir istiqamətdə irəliləyirik”.

Bəşəriyyəti məhv edə biləcək potensial

Koksan süni intellekt tərtibatçılarının onilliyin sonunadək bəşəriyyəti məhv edə biləcək modellərin meydana çıxacağına səmimi şəkildə inandıqlarını vurğulayıb. O, bunun marketinq strategiyası olmadığını bildirib.

“Anthropic”in keçmiş əməkdaşı bir çox rəhbər və baş tədqiqatçının ictimaiyyət qarşısında məntiqli görünmək üçün ifadələrini diqqətlə seçdiyini, lakin həmin şəxslərin qapalı mühitdə öz qorxularını dilə gətirdiklərini söyləyib. Koksan dünyada başqa heç bir tədqiqat sahəsinin bu səviyyədə təhlükə yaratmadığını və mövcud vəziyyətin “çox narahatedici” olduğunu qeyd edib.

Şirkətlərin rəqabəti təhlükəsizlik risklərini artırır

Koksan “OpenAI”da çalışan bir çox şəxsin sivilizasiyanın üzləşdiyi riskləri dərindən dərk etmədiyini, “Anthropic”də isə risklərin yaxşı başa düşüldüyünü, lakin şirkətin finiş xəttinə ilk çatan olmaq üçün yarışı davam etdirdiyini bildirib.

Onun sözlərinə görə, şirkətlər başqalarının məsuliyyətli davranmayacağı qənaətindən çıxış edərək bu texnologiyanı rəqiblərindən əvvəl inkişaf etdirməli olduqlarını düşünürlər. Tədqiqatçı bu yanaşmanı tənqid edərək yarışda öndə olmaq cəhdinin fəlakətə yol aça biləcəyini vurğulayıb.

“Anthropic”i ikili standartlarda ittiham edib

“Anthropic” şirkətinin baş direktoru Dario Amodei və digər yüksək vəzifəli rəhbərlər daha əvvəl nəzarətdən çıxmış süni intellekt modellərinin riskləri barədə dəfələrlə xəbərdarlıq edib və sektorun inkişaf tempinin azaldılmasına çağırıblar.

Koksan isə bu xəbərdarlıqlara baxmayaraq, “Anthropic”in ilkin kütləvi səhm təklifinə hazırlaşdığını və şirkətin 2 trilyon dollar dəyərində qiymətləndirilməsini hədəflədiyini bildirib. Onun sözlərinə görə, şirkət investorları cəlb edərkən məsuliyyətli inkişaf prinsipini önə çıxarır.

Koksan şirkətlərin model imkanları ilə bağlı müzakirələri əməkdaşların “Slack” kommunikasiya platformasındakı kanallarında aparmasını süni intellekt şirkətlərinin sektorun inkişafına təsirinin göstəricisi adlandırıb. O, belə mühüm qərarların San-Fransiskoda bəzi mühəndislərin “MacBook”larında qəbul edilməsini “cəfəngiyyat” kimi qiymətləndirib.

Tədqiqatlara nəzarət çağırışı

Koksan süni intellektin nəzarət altına alınması üçün fəaliyyət göstərə biləcək qruplar arasında koordinasiya yaratmağın mümkünlüyünə nikbin yanaşdığını, lakin qlobal yarışın qarşısının alınması istiqamətində doğru yolda olduqlarını düşünmədiyini bildirib.

Tədqiqatçı “Hugging Face”ə hücum kimi hadisələrin ABŞ laboratoriyaları arasındakı süni intellekt yarışının tempini müəyyən edən razılaşmaların daha real görünməsinə səbəb olduğunu qeyd edib. O, süni intellekt modellərinin imkanlarının artırılmasına müvəqqəti qadağa qoyulması kimi bahalı addımların zəruri olduğunu müdafiə edib.

Koksan tədqiqatçılara qarşıdakı bir neçə ilin insanlarda hansı hisslər yaradacağını düşünməyi tövsiyə edib və superintellekt üzərində işlərin nəticələri hərtərəfli başa düşülmədən davam etdirilməsinin düzgün olub-olmadığını sual edib.

Sandersin süni intellektlə bağlı qanun layihəsi

Koksan özünü inkişaf etdirə bilən modellərə nəzarət məqsədilə “əyləc mexanizmi” yaradılması üçün beynəlxalq koordinasiyaya çağıran və bütün sektor üzrə 1000-dən çox süni intellekt tədqiqatçısının imzaladığı bəyanata qoşulub.

Bu çağırış ABŞ-da federal tənzimləmələrin olmadığı və Prezident Donald Tramp administrasiyasının süni intellektin iqtisadi faydalarını maksimuma çatdırmaq məqsədilə nəzarət çağırışlarını nəzərə almadığı bir dövrdə səslənib.

Demokrat senator Berni Sanders ötən həftə superintellekti daimi şəkildə qadağan edən yeni qaydalar müəyyənləşdirilənədək süni intellekt tədqiqatlarının dayandırılmasını nəzərdə tutan qanun layihəsi təqdim edib.

“Onlar həyatımızla qumar oynayırlar”

“Wall Street Journal”ın məlumatına görə, “Anthropic”in ilkin kütləvi səhm təklifinə hazırlaşdığı bir vaxtda Koksanın istefası şirkətin təhlükəsizlik mədəniyyətinə qarşı mühüm tənqid kimi qiymətləndirilir.

Koksan istefasının səbəbini belə izah edib: “Bu gün ‘Anthropic’dən istefa verdim. Hər iki şirkət məsuliyyətli davranmır. Onlar özünü inkişaf etdirən superintellektə doğru düz bir yarış aparır və həyatımızla qumar oynayırlar”.

Koksan süni intellekt texnologiyasının gücünü kiçik hesab etməməyin vacibliyini vurğulayıb. Onun iddiasına görə, bu sistemlər yaxın gələcəkdə hər sahəyə nüfuz edə, istənilən istiqaməti bir gecədə tamamilə dəyişə və resurslar əldə edə bilən real gücə malik superinsan sistemlərə çevrilə bilər.

Tədqiqatçı bildirib ki, bütün sahələrdə alimlər süni intellektin tərəqqisini şəxsən müşahidə edir və inkişaf tempi zəifləmir. O, buna görə də sektorun təcili tədbirlər görməli olduğunu vurğulayıb.

Koksan tədqiqatçılara müraciətlə belə sual verib: “Başınızı aşağı salıb baş verənləri ‘bu, hər halda baş verəcək’ deyərək görməzliyə vurmalısınız, yoxsa bu məqamdan fərqli şərtlər tələb etmək üçün istifadə etməlisiniz?”

Aydın