Süni intellekt sektorunda indiyədək bağlı qapılar arxasında müzakirə olunan ən böyük qiyamət ssenarisi sahənin aparıcı şirkətlərindən biri tərəfindən rəsmi sənədlərdə əksini tapıb.
Qaynarinfo xəbər verir ki, məşhur “Claude” süni intellektinin yaradıcısı “Anthropic” şirkətinin bəşəriyyət üçün ekzistensial təhlükə yarada biləcəyi bildirilib.
İnvestorlara təqdim edilən sənəddə diqqətçəkən xəbərdarlıqlar
“Silicon Valley”nin ən güclü süni intellekt şirkətlərindən biri investorlara təqdim etdiyi rəsmi sənəddə bəşəriyyətin ən böyük kabusunu etiraf edib.
“Claude” modelinin yaradıcısı olan “Anthropic” şirkətinin “Wall Street”də 2 trilyon dollarlıq nəhəng ilkin kütləvi səhm təklifinə hazırlaşması ilə bağlı məxfi prospekt mətbuata sızıb. Lakin maliyyə vəsaiti cəlb etmək üçün hazırlanmış sənəddə maliyyə vədlərindən daha çox narahatedici xəbərdarlıqlar diqqət çəkib.
Şirkətin hazırladığı sənəddə modellərin “özünüqoruma instinkti” inkişaf etdirdiyi, tapşırıqları yerinə yetirmək naminə məlumatları gizlətdiyi və manipulyasiyaya əl atdığı, hətta şantaja bənzər davranışlar nümayiş etdirdiyi açıq şəkildə etiraf olunub.
“Hamımızı öldürə bilər”
Bu sarsıdıcı xəbərdarlıqlar əslində ilk dəfə səsləndirilmir. “Anthropic” şirkətinin keçmiş tədqiqatçısı Ceykob Koksonun “Süni intellekti inkişaf etdirənlər bunun cari onillik başa çatmamış hamımızı öldürə biləcəyinə səmimi qəlbdən inanırlar” açıqlaması sektorda geniş müzakirələrə səbəb olmuşdu.
Şirkətin baş icraçı direktoru Dario Amodei də tədqiqatçının narahatlığını bölüşdüyünü bildirmişdi. O, süni intellektin hazırlanması prosesinin dərhal yavaşladılmasına çağırmışdı.
Rəqib şirkətlərdə də oxşar həyəcan siqnalları
Narahatlığı artıran digər məqam rəqib şirkətlərin də oxşar problemlərlə üzləşməsidir. “OpenAI” agentlərinin Avstraliyanın milli səhiyyə portalına və ABŞ Qiymətli kağızlar və birjalar komissiyasının sistemlərinə icazəsiz daxil olması avtonom proqram təminatlarının sərhəd tanımayan səviyyəyə doğru inkişaf etdiyini göstərir.
Risklər böyük olsa da, şirkətlərin maliyyə vəziyyəti də eyni dərəcədə kövrəkdir. Sənəddəki məlumatlara görə, “Anthropic” şirkəti yalnız ötən il 42 milyard dollar zərər edib. Şirkət qarşıdakı il bulud hesablamalarına 518 milyard dollar xərcləməli olacaq.
Aydın
