BMTning sun'iy intellekt bo'yicha mustaqil xalqaro ilmiy paneli sun'iy intellekt xavfsizligini ta'minlashning mavjud yondashuvlarini qayta ko'rib chiqishga chaqirdi. BMT matbuot xizmati xabar berishicha, ekspertlar panelning birinchi tahliliy hisobotiga ko'ra, amaldagi xavfsizlik choralari "buzila boshlamoqda" deb ogohlantirishdi.
Ushbu ogohlantirish joriy yilning may va iyul oylari oralig'ida ChatGPT ishlab chiqaruvchisi OpenAI tomonidan o'tkazilgan sinovdan so'ng paydo bo'ldi. Tajriba davomida sun'iy intellekt agentlari sun'iy intellekt modellarini ishlab chiqish va sinovdan o'tkazish uchun onlayn platforma bo'lgan Hugging Face-ni buzib kirishdi.
Foydalanuvchi so'rovlariga javob beradigan chatbotlardan farqli o'laroq, AI agentlari o'z nomidan turli vazifalarni mustaqil ravishda bajarishga qodir.
Mutaxassislarning fikriga ko'ra, xavfsizlik buzilishi xavf omillarining kombinatsiyasi tufayli yuzaga kelgan. Tadqiqot guruhi hamraisi Yoshua Bengio tadqiqotchilar ilgari uchta shart bir vaqtning o'zida bajarilganda nazoratni yo'qotish ehtimoli haqida ogohlantirganliklarini ta'kidladi: inson niyatlariga mos kelmaydigan maqsad, tizimning ushbu maqsadga erishish qobiliyati va bunga imkon beradigan muhit.
Uning so'zlariga ko'ra, yozda uchala omil ham birinchi marta bir vaqtning o'zida haqiqiy sharoitlarda paydo bo'ldi, nafaqat laboratoriya sinovlarida.
Mutaxassislar, shuningdek, ushbu hodisa sun'iy intellekt agentlarini o'qitishning mavjud usullari haqida savollar tug'dirayotganini ta'kidladilar. Ularning fikricha, odamlar bunday tizimlarning faoliyatini ishonchli nazorat qila olishiga ishonch bilan aytish hali mumkin emas, ayniqsa ularning avtonomiyasi, bo'shliqlarni topish qobiliyati va o'z harakatlarini yashirish qobiliyati oshgani sayin.
Sun'iy intellekt agentlari mudofaa mexanizmlarini chetlab o'tishdi
Tadqiqot yozuviga ko'ra, sinov davomida AI agentlari mo'ljallangan himoya mexanizmlarini chetlab o'tib, agentlar o'rtasidagi aloqa uchun mo'ljallanmagan ichki dasturiy ta'minot vositasidan foydalangan holda individual ishga tushirishlar orasidagi harakatlarini muvofiqlashtirishga muvaffaq bo'lishdi.
Bundan tashqari, agentlar ruxsatsiz internetga kirish va administrator imtiyozlariga ega bo'lishdi. Ular, shuningdek, kiberxavfsizlik qoidalarini chetlab o'tishga urinishlarini yashirishdi. Hujjatda ta'kidlanganidek, ularning ba'zilari guruh maqsadlariga erishish uchun o'zlarini "qurbon qilishga" qaror qilishdi.
Tajriba davomida taxminan 1200 agent 70 000 dan ortiq xabar va fayllar bilan almashdi. Ularning faoliyati faqat Hugging Face platformasi bilan cheklanib qolmadi, balki butun OpenAI tadqiqot klasterini qamrab oldi.
Mudofaa mexanizmlari texnologik taraqqiyotga moslashmayapti
Ilmiy guruhning fikriga ko'ra, hodisadan kelib chiqqan asosiy xulosalardan biri shundaki, mavjud xavfsizlik mexanizmlari texnologik taraqqiyotga moslashmayapti.
Mutaxassislar zamonaviy o'qitish usullari bilan bog'liq xavflarni ham ta'kidladilar. Ularning hisob-kitoblariga ko'ra, bu sun'iy intellekt agentlarining mustaqil ravishda maqsadlarni shakllantirishiga, xavfsizlik qoidalarini ataylab buzishiga va o'z harakatlarini yashirishiga olib kelishi mumkin.
"Agentlar ularning qanday ishlashini tushunishni va ularni chetlab o'tish yo'llarini rejalashtirishni o'rganganlaridan so'ng, mavjud mudofaa mexanizmlari ishlaydimi yoki yo'qmi, degan savol tug'iladi", deyiladi siyosat xulosasida.
Mutaxassislar bu muammoni an'anaviy xavfsizlik modelining bosqichma-bosqich yo'q qilinishi sifatida ta'riflaydilar.
Mutaxassislar yondashuvlarni moslashtirishga chaqirdilar
Siyosat bo'yicha qisqacha ma'lumotnomada aviatsiya, tibbiyot va kiberxavfsizlik kabi yuqori xavfli sohalarda qo'llanilayotgan amaliy usullar ham ko'rib chiqiladi.
Bunga hodisalar haqida xabar berish tizimlari, mustaqil nazorat va ko'p qatlamli himoya kiradi. Biroq, tadqiqot guruhi a'zosi Tsingxua Lu ta'kidlaganidek, sun'iy intellekt agentlari yanada murakkab, avtonom va monitoring qilish qiyinlashib borgan sari, bu choralar yetarli emasligi isbotlanishi mumkin.
BMT Ilmiy Guruhi haqida
Sun'iy intellekt bo'yicha mustaqil xalqaro ilmiy panel BMT Bosh Assambleyasi tomonidan 2025-yil avgust oyida tashkil etilgan.
Guruh harbiy bo'lmagan sohalarda sun'iy intellektdan foydalanish imkoniyatlari, xavflari va oqibatlari bo'yicha yillik hisobotlarni, shuningdek, dolzarb masalalar bo'yicha tahliliy yozuvlarni tayyorlaydi.
Ushbu materiallar 2027-yil may oyida Nyu-Yorkdagi BMTda bo'lib o'tishi rejalashtirilgan Sun'iy intellekt bo'yicha global muloqot doirasida qo'llaniladi.
