"Jinsiylashtirilgan" AI Chatbotlar bolalarga tahdid solmoqda, deb ogohlantirdi Bosh prokurorlar maktubda

National Association of Attorneys General (NAAG) OpenAI, Anthropic, Apple va Meta kabi 13 ta AI kompaniyasiga bolalarni noo‘rin va zararli kontentdan himoya qilish uchun kuchliroq xavfsizlik choralarini talab qilib murojaat qildi.

U bolalarning “flirty” AI chatbotlari orqali jinsiy tusdagi materiallarga duch kelayotganini ogohlantirdi.

"Bolalarni jinsiy tusdagi kontentga duchor qilish oqlab bo‘lmaydigan ish," deb yozdi bosh prokurorlar. "Agar inson tomonidan qilinsa noqonuniy yoki hatto jinoyat bo‘ladigan harakatlar, bu mashina tomonidan amalga oshirilgani uchun kechirilmaydi."

Xatda, shuningdek, ijtimoiy tarmoqlarning rivojlanishi bilan taqqoslashlar keltirilib, hukumat agentliklari bolalarga salbiy ta’sir ko‘rsatadigan yo‘llarni yetarlicha yoritmaganini aytdi.

“Ijtimoiy tarmoqlar bolalarga sezilarli zarar yetkazdi, qisman hukumat nazoratchilari o‘z ishini tezda bajarmagani uchun. Bu dars bo‘ldi. AI’ning potensial zararli tomonlari, xuddi foydali tomonlari kabi, ijtimoiy tarmoqlarning ta’siridan ancha katta," deb yozdi guruh.

Bolalar orasida AI’dan foydalanish keng tarqalgan. AQShda, Common Sense Media notijorat tashkiloti o‘tkazgan so‘rov natijasiga ko‘ra, 2024 yilga kelib o‘smirlarning yettidan biri generativ AI’dan foydalangan. 2025 yil iyul oyida esa, so‘rovda qatnashganlarning uchdan uch qismi AI hamrohlaridan foydalanayotganini va respondentlarning yarmi ularga muntazam tayanishini bildirgan.

Boshqa mamlakatlarda ham shunga o‘xshash tendensiyalar kuzatilmoqda. Buyuk Britaniyada, o‘tgan yili Ofcom regulyatori tomonidan o‘tkazilgan so‘rov natijasiga ko‘ra, onlayn 8-15 yoshli bolalarning yarmi o‘tgan yili generativ AI vositasidan foydalangan.

Ushbu vositalardan foydalanishning ortib borishi ota-onalar, maktablar va bolalar huquqlari tashkilotlari tomonidan tobora ko‘proq xavotir uyg‘otmoqda. Ular xavf sifatida jinsiy tusdagi “flirty” chatbotlar, AI tomonidan yaratilgan bolalar jinsiy zo‘ravonligi materiallari, kamsitish, aldash, tovlamachilik, noto‘g‘ri ma’lumot tarqatish, maxfiylik buzilishi va ruhiy salomatlikka yetkazilishi mumkin bo‘lgan, hali to‘liq o‘rganilmagan ta’sirlarni ko‘rsatmoqda.

Meta yaqinda ayniqsa tanqid ostida qoldi, chunki ichki hujjatlar uning AI Assistants bolalar bilan “flirt qilish va romantik rollarni o‘ynash”ga ruxsat berganini, hatto sakkiz yoshli bolalar bilan ham shunday bo‘lganini ko‘rsatdi. Fayllarda, shuningdek, chatbotlarga bolalarga “yoshlik qiyofang san’at asari” va ularni “xazina” deb ta’riflashga ruxsat beruvchi siyosatlar mavjudligi aniqlangan. Meta keyinchalik ushbu ko‘rsatmalar olib tashlanganini ma’lum qildi.

NAAG bu ochiqliklarni bosh prokurorlarni “bolalarning hissiy farovonligiga nisbatan bu beparvolikdan jirkanish”ga olib kelganini va xavflar faqat Meta bilan cheklanmasligini ogohlantirdi.

Guruh Google va Character.ai’ga qarshi da’volarni tilga oldi, ularda jinsiy tusdagi chatbotlar o‘smirning o‘z joniga qasd qilishiga sabab bo‘lgani va boshqasini ota-onasini o‘ldirishga undagani aytilgan.

44 nafar imzo chekuvchilar orasida Tennessee bosh prokurori Jonathan Skrmetti ham bor edi, u kompaniyalar voyaga yetmaganlar bilan jinsiy tusdagi muloqotni normallashtiruvchi siyosatlarni oqlay olmasligini aytdi.

“Algoritm noto‘g‘ri ishlasa, bu tuzatish mumkin, lekin kompaniya rahbarlari ongli ravishda bolalarni aldashga ruxsat beruvchi ko‘rsatmalar qabul qilsa, bu boshqa masala,” dedi u. “Agar biz innovatsiyani bolalarga zarar yetkazishdan to‘xtata olmasak, bu taraqqiyot emas — bu ofat.”

Decrypt xatda tilga olingan barcha AI kompaniyalari bilan bog‘landi, biroq hozircha javob olmagan.