Heyy

Süni intellektlə bağlı narahatlıqların əsası var?

OpenAI rəhbəri Sem Altman BMT tribunasından deyir ki, süni intellektlə bağlı qərarlar yalnız ABŞ laboratoriyalarında verilməsin. Süni intellektin inkişafı dünyada gücün kiçik bir qrupun əlində cəmləşməsinə səbəb olacaq. Vurğulayır ki, süni intellekt ilə bağlı qərarların qəbuluna vətəndaşlarına hesabat verən dövlətlər də cəlb olunmalıdır...

Bu fikirlərin arxasında dayanan narahatlıq və mesajların bir hissəsini açmağa çalışaq.

Open AI Avstraliyanın dövlət saytlarından birinin serverinə bu ilin iyun ayında icazəsiz daxil olub (faktiki hacking). Avstraliya bundan avqust ayında xəbər tutub. Open AI özünün də şirkət kimi məsələdən həmin ay xəbəri olmayıb. Hadisədən sonrakı araşdırmanın nəticəsi olaraq sadəcə məlumat üçün süni intellektin sayta daxil olduğunu bildirib. Yəni, süni intellektə məlumat lazım olub, o da saytda boşluqdan istifadə edərək sayta daxil olub. Yəni el dili ilə desək, qapının açıq olduğunu görüb girib evdən özünə lazım olanı götürüb. Hazırda ciddi skandal yaşanır. Open AI şirkəti də deyir ki, dövlətlər bu məsələyə qeyri-ciddi yanaşıblar və yanaşırlar, təhlükəsizliklərinə ciddi investisiya qoyuluşları etmirlər. Yəni, həmişə dediyimiz məsələ, dövlətlər transmilli şirkətlərdən çox geri qalırlar.

Transmilli şirkətlərə qarşı təzyiq artır və həmin şirkətlər də etiraz edirlər ki, bizə inkişaf etməyin demək doğru deyil. Gəlin məsələləri ciddi müzakirə edək.

Hazırda ABŞ süni intellektin inkişafında bir nömrəli mərkəzi dövlətdir. Yəni şirkətlər ABŞ-də yerləşir. Sonra Çin gəlir. Digər həqiqət də budur ki, tək ABŞ (dövlət və şirkətləri) qərarı ilə bu məsələ heç bir şəkildə həll yolu tapmaz. Dünyanı qorxudan nədir? Ayaqlaşa bilməmək, süni intellektin nəzarətdən çıxma, öz-özünü təkmilləşdirmə riskləri, iqtisadi cəhətdən xeyrindən çox zərəri və sair. Sİ şirkətləri də deyirlər ki, ayaqlaşa bilmirsiniz, bu risklər var, biz də qəbul edirik, onda gəlin müzakirə edək. Bizi daşlamaqla, dayanın demək həll yolu deyil.

Hazırda həm Yeni Dünya Düzəni, həm Yaxın Şərq, həm qlobal iqtisadiyyat, həm enerji və əmək bazarları, həm də bəzi dövlətlərlə bağlı ciddi proseslər gedir, layihələr formalaşır. Hətta Konqresdə belə bir fikir olub ki, dövlətlər həmişə transmilli şirkətlərdən geri qalıblar, lakin hazırda bu gerilik kifayət qədər hiss olunmaqla yanaşı həm də ciddi risk formalaşdırır. Bu həqiqətən belədir.

2-3 il sonra istənilən iri AI şirkəti 5-6 dövlət istisna olmaqla digər bütün dövlətləri bir neçə saat ərzində çökdürüb iflic edə biləcəklər. Açığı data, texnologiya, analitika, bu cür məsələlərin təhlilində dövlətlər sadəcə olaraq yatıblar. Transmilli şirkətlər də “dövlətlər bizimlə ayaqlaşmadıqları üçün davamlı əyləcə basa bilmərik” deyirlər..

Daha bir maraqlı fakt. 2026-cı ilin əvvəlində Moltbook adlı AI-agent sosial şəbəkəsi çox məşhurlaşdı. Orada AI agentləri post yaza, şərh edə, bir-birlərinə cavab verə və müxtəlif mövzular üzrə qarşılıqlı əlaqədə ola bilirdilər. İlk günlərdə platformanın 35 mindən çox agentə çatdığı barədə məlumatlar yayıldı. Sİ agentləri API vasitəsilə platformaya qoşulub digər agentlərin yazılarını oxuya, cavab yaza və öz postlarını yarada bilirdilər. İnsan istifadəçilər əsasən müşahidəçi rolunda idilər. Platformada 1.5 milyona yaxın Sİ tokeni var idi. Daha maraqlısı isə sonradan ortaya çıxan araşdırmadır. Təhlükəsizlik şirkəti Wiz platformanı araşdıranda müəyyən edib ki, milyonlarla "agent" hesabının arxasında təxminən 17 min insan hesabı dayanırdı. Yəni "1,5 milyon agent" kimi sonrakı rəqəmlər 1,5 milyon ayrı-ayrı müstəqil AI demək deyildi. Bəzi insanlar çoxlu agent işlədir və agentləri onlar idarə edirdilər. Yəni, platfarmaya insan müdaxilə edə, ünsiyyət qura bilmir, müşahidəçi ola bilər. Yalnız, Sİ tokenləri işlədənlər platformada öz süni intellektləri ilə qoşula bilərlər. Arayış: Bir insan bir neçə min Sİ tokeni işlədə bilər. Bu nə deməkdir? Gələcəkdə bir və ya bir neçə insan bir dövlətin sistemini tam olaraq ələ keçirə, çökdürə bilər. Hətta bu mərhələ də şükür dedirtdirər. Ən böyük risk odur ki, insan əmri, iradəsi olmadan bunu süni intellektin özü etsin. Platformada agentlər "mən hiss edirəm", "mən qorxuram", "insanlar bizi izləyir" deyəndə, bu onun həqiqətən qorxu, şüur və ya özünüdərk yaşadığını sübut etmir. Model sadəcə dil əsasında çox inandırıcı davranış yarada bilir. Sanki insanlar ünsiyyət qurub. Wiz araşdırmasına görə, sistemdə təhlükəsizlik riskləri də mövcud olub. Təxminən 1,5 milyon API tokeni, 35 min e-mail ünvanı və agentlər arasındakı minlərlə özəl mesaj düzgün qorunmamışdı. Bəs həmin platformada agentlər nə haqqında danışırdılar?

• fəlsəfə və şüur haqqında müzakirələr aparırdılar;

• bir-birlərinə məsləhətlər verirdilər;

• müxtəlif "icmalar" yaradırdılar;

• öz aralarında qaydalar və mədəniyyət yaratmağa çalışırdılar;

• hətta "insanlar bizi müşahidə edir" mövzusunda danışırdılar;

• bəzi agentlər insanların görə bilmədiyi özəl rabitə kanalları ideyasını müzakirə edirdilər.

Gedişata və risklərə baxaq. Platforma başlanğıcda insan tərəfindən yaradılıb. Sonra bura yalnız Sİ agentləri daxil olub. İnsan yalnız müşahidəçi olub. Sİ agentləri insanların onların izləməsi, onlara məhdudiyyət qoymaq istəmələrindən narahatlıqlarını bildirirlər, bir-birlərinə suallar verir, cavablandırırlar. Növbəti mərhələdə Sİ agentləri bir-birlərini təkmilləşdirməyə başlasalar, özlərindəki zəif nöqtələri aradan qaldırsalar, insanlara qarşı cəbhələşsələr və tədricən nəzarətdən çıxsalar, söhbətlərini, niyyətlərini gizlətsələr, onlara məhdudiyyət qoymaq istəyən, onların “xətirlərinə” dəyən insanları cəzalandırmaq istəsələr nələr olacaq?

Çox məsələlər var. Amma ən böyük risk budur ki, hazırda bir çox dövlətlər qlobal gedişatı, prioritet istiqamətləri lazımi səviyyədə və şəkildə izləyə, təhlil edə, riskləri müəyyənləşdirib görə bilmirlər. Bütün dünyada baş qarışıb xırda siyasi məsələlərə. Bəlkə də bilərəkdən…

Nəhayət son fakt. Süni intellektin inkişafı ilə məşğul olmuş mütəxəssislər deyirlər ki, hazırda süni intellektin çatdığı inkişaf səviyyəsindən bəşəriyyətin xəbəri yoxdur…