Речта на омразата в интернет не е нов проблем, като той има доста измерения.
Най-добре познати са острите изказвания в социалните мрежи и блоговете, като индустрията и институциите от години работят по въвеждането на различни мерки и технологии, които да ограничат разпространението им. Ефектът може да е спорен, но все пак има някакъв резултат и доста от по-неприятните коментари биват откривани и премахвани сравнително бързо.
Оказва се обаче, че речта на омразата не е точно изчезнала. Голяма част от нея просто се е преместила другаде – в онлайн игрите или т.нар. мултиплейър. Играенето онлайн с хора от целия свят може да е много забавно и да помогне за създаване на добри и трайни приятелства. Но има и своята негативна страна, предаде Дарик радио.
По-агресивните играчи имат „навика“ да обиждат останалите много грубо. А с времето доста проучвания показаха, че онлайн лобитата и игрите понякога се използват за съзнателно разпространение не само на на реч на омразата, но и на екстремизъм.
Проучване на Hertie School от декември 2022 г. показва, че през миналата година е имало над 3 млрд. активни играчи на най-различни онлайн игри по света. Играчите често прекарват много време в чакане на започване на игрите, като си говорят, изпращат съобщения и т.н.
Или самите игри разчитат много на активния говор между играчите.
Вече съществуват огромни общности в самите игри. В повечето случаи те са насочени към дадената игра, но понякога излизат извън пределите ѝ и стават платформи с конкретни каузи в реалния свят. Често има и много конфликти.
Оказва се, че 90% от геймърите са ставали свидетели или са били жертва на обиди или тормоз. А един на всеки трима е бил обект на реч на омразата. Очаквано, това разваля удоволствието за играчите. 70% казват, че са се отказвали от игра или са обмисляли да се откажат, защото са попадали на подобно съдържание или поведение.
Проблемът с речта на омразата в социалните мрежи може да се адресира сравнително лесно. Преобладаващата част от това съдържание е статично, т.е. то се публикува и публикацията остава. Тя е проследима, може да се спрат и копията ѝ, след като бъде идентифицирана. Същото важи и с клиповете и снимките.
При онлайн игрите ситуацията е по-сложна. Огромната част от речта на омразата се изговаря в реално време. Тук-таме може да остане проследима, ако е в текстов чат например, но в повечето случаи става дума само за изказвания, от които няма записи. Дори и да подаде сигнал, потърпевшият трудно може да го докаже. Затова в повечето случаи дори не се подават оплаквания.
Затова компаниите трябва сами да се справят. За тях това е важно, тъй като регулаторите ги държат отговорни за проблемите, а и самата им репутация бива накърнявана, ако се смята, че в игрите и платформите им има реч на омразата. Особено като се има предвид, че при някои игри играчите са от всякакви възрасти, включително и много голям брой непълнолетни.
В търсене на решения
Затова речта на омразата в игрите трябва да бъде ограничена максимално. Има различни подходи за това. Едно от тях е технологията ToxMod. Това са умни алгоритми, които използват ботове, за да участват в игрите като наблюдатели. Те слушат разговорите и идентифицират какво се казва, като могат да разберат дали става дума за обиди, реч на омразата и др.
Ако засече проблем, алгоритъмът прави транскрипция на казаното и го препраща към човек-модератор. Той може да прегледа ситуацията и да прецени дали има нарушение и как да го санкционира. ToxMod се предлага като услуга, която различните платформи и игри може да добавят, за да подобрят модерацията.
Някои компании с повече ресурси правят и собствени системи. Сред тях е и Microsoft, която е собственик на Xbox. Наскоро компанията обяви нова система за наказания, които да имат по-голяма превантивна роля.
Новата система включва поредица от 8 наказателни точки. Първите две точки ще водят до блокиране на профила само за ден. След това обаче срокът се увеличава постепенно на 3, 7, 14 дни. При 7 точки блокирането е 60 дни, а при осем – 365 дни.
Google влиза стремглаво в ерата на изкуствения интелект
Различните нарушения носят различен брой наказателни точки. Използването на нецензурни изрази и маменето в игрите ще коства само една точка. „Сексуално неподходящи“ изказвания ще се наказват с две точки, както и тормозът и обидите. Речта на омразата обаче ще е най-строго наказвана – 3 точки за всяко констатирано нарушение.
Играчите ще могат да обжалват всяко наказание пред модераторите. Точките ще се трупат за срок от 6 месеца от последното нарушение. Така, ако някой прави по-малко нарушения, ще може да се „отърве“ със сравнително кратки блокирания на профила си.
Компанията допълва, че „нелегална активност“ в профила все още може да доведе и до незабавен и вечен бан на профила. Microsoft отбелязва, че прибягва до такъв ход само в крайни случаи. Целта на промените е масовият потребител да не бъде засегнат.
Компанията казва, че миналата година по-малко от 1% от играчите са били наказани и повечето от тях си взимат поука и не правят повторни нарушения.
