Birlashgan Millatlar Tashkiloti 18-iyun kuni nafrat so‘zlariga qarshi kurash xalqaro kunini nishonlar ekan, Bosh kotib Antonio Guterrish ijtimoiy platformalar bu tahdidni kuchaytirayotganidan ogohlantirdi.
Ilgari shaxsan tarqalgan nafrat so‘zlari endi anonim onlayn akkauntlar orqali yanada uzoq va tez tarqalmoqda. Sun’iy intellekt (AI) onlayn nafrat so‘zlarini aniqlash va olib tashlash uchun tobora ko‘proq jalb qilinmoqda, biroq Al Jazeera ushbu tizimlarning inson mulohazasiga nisbatan qayerda kamlik qilishini o‘rganadi.
BMT ta’rifiga ko‘ra, nafrat so‘zlari bir shaxs yoki guruhga nisbatan kamsitish yoki zo‘ravonlikka undaydigan har qanday muloqotni (og‘zaki, yozma yoki xulq-atvor) o‘z ichiga oladi. U irq, etnik kelib chiqish, din, jins, jinsiy orientatsiya yoki nogironlik kabi xususiyatlarga qaratilgan bo‘lishi mumkin.
Ipsos va YUNESKO tomonidan 2023-yilda 16 mamlakatda 8000 kishi ishtirokida o‘tkazilgan so‘rov natijalariga ko‘ra, internet foydalanuvchilarining uchdan ikki qismidan ko‘prog‘i onlayn nafrat so‘zlariga duch kelgan. So‘rov shuningdek, 33 foiz odamlar LGBTQI odamlari eng ko‘p nafrat so‘zlariga duchor bo‘lgan guruh deb hisoblashini ko‘rsatdi.
Facebook egalik qiluvchi Meta kompaniyasi 2023-yildan beri nafratli postlarni kamroq olib tashlamoqda. 2025-yilning to‘rtinchi choragida kompaniya Instagram’dan 1,3 million va Facebook’dan 1,3 million postni olib tashladi, bu 2024-yilning to‘rtinchi choragidagi 7,4 million va 5,8 millionga nisbatan sezilarli kamayishdir.
TikTok esa 2025-yilning to‘rtinchi choragida barcha nafrat so‘zlari va kontentning 96,3 foizini xabar berilishidan oldin olib tashlaganini ma’lum qildi.
Onlayn nafrat so‘zlariga qarshi kurashish uchun ijtimoiy media kompaniyalari tobora ko‘proq AI’ga murojaat qilmoqda, katta til modellari (LLM) asosidagi kontent moderatsiya tizimlaridan foydalanmoqda. Biroq, Pensilvaniya universiteti tadqiqotchilari tomonidan 2025-yilda o‘tkazilgan tadqiqot ushbu modellar nafrat so‘zlarini aniqlash va tasniflashda sezilarli farqlarga ega ekanligini aniqladi.
Tadqiqot OpenAI, Anthropic, DeepSeek, Mistral va Google’dan yettita AI moderatsiya tizimini baholadi va ularning bir xil kontentga turlicha baho berishini ko‘rsatdi. Masalan, Mistral Moderation Endpoint ko‘pincha yuqori ball beradi, OpenAI Moderation Endpoint esa pastroq ball beradi.
London Qirolicha Meri universiteti professori Arkaitz Zubiaga AI tizimlari yashirin nafrat so‘zlarini aniqlashda qiynalishini ta’kidladi. Masalan, ijobiy tuyulgan “Agar... dunyo qanday ajoyib bo‘lishini ko‘rishni istardim” iborasi keyinchalik kamsitish bilan davom etsa, AI buni nafrat deb aniqlay olmaydi.
Shu bilan birga, tarixan haqoratli bo‘lgan, ammo hozir mehr bilan ishlatiladigan so‘zlar (qayta o‘zlashtirilgan til) AI tomonidan noto‘g‘ri nafrat deb belgilanishi mumkin. Bu esa moderatsiya jarayonining qonuniyligiga putur yetkazadi.
Source: www.aljazeera.com