AI-охоронці Meta: захист підлітків у реальному часі від цифрових небезпек

Meta впровадила новий набір засобів захисту на основі штучного інтелекту, спеціально розроблених для підвищення безпеки підлітків, які користуються її платформами, включаючи WhatsApp, Instagram та Facebook. Компанія оголосила, що вдосконалені чат-боти зі штучним інтелектом будуть відстежувати та фільтрувати шкідливий контент, ідентифікувати підозрілі взаємодії та попереджати користувачів або адміністраторів у разі виявлення потенційно небезпечної поведінки. Ця ініціатива відповідає зростаючому регуляторному тиску та суспільному попиту на посилення цифрового захисту неповнолітніх.

Системи зі штучним інтелектом використовуватимуть обробку природної мови (NLP) та поведінкову аналітику для виявлення ризиків, таких як кібербулінг, грумінг та доступ до неприйнятних матеріалів. Внутрішні дослідження Meta показують, що шкідливі взаємодії в соціальних мережах частіше трапляються серед користувачів віком від 13 до 18 років, ніж вважалося раніше, що й зумовило необхідність проактивного втручання. Компанія підкреслила, що ці системи не будуть відстежувати приватні розмови у спосіб, який порушує конфіденційність користувачів, а зосередяться на виявленні шкідливих моделей та поведінки.

Однією з ключових функцій чат-ботів зі штучним інтелектом є їхня здатність виявляти та позначати потенційно небезпечні розмови в режимі реального часу. Наприклад, система може розпізнати шаблони, які свідчать про спробу грумінгу неповнолітнього, і автоматично попередити користувача або, в окремих випадках, повідомити місцеві органи влади, якщо буде досягнуто певних порогових значень. Meta також впровадила механізми контролю користувачів, які дозволяють підліткам налаштовувати параметри конфіденційності та відмовлятися від певних функцій моніторингу, забезпечуючи баланс між безпекою та автономією.

Нові засоби захисту є частиною ширшої ініціативи Meta Responsible AI, яка має на меті розробку систем штучного інтелекту, що є прозорими, справедливими та ефективними у зниженні онлайн-ризиків. Компанія співпрацює з організаціями із захисту дітей для навчання моделей штучного інтелекту на наборах даних, що відображають широкий спектр шкідливої онлайн-поведінки. Ця співпраця покликана підвищити точність та культурну релевантність втручань штучного інтелекту, особливо в різних регіонах та мовах.

Meta також зобов’язалася регулярно публікувати звіти про прозорість, у яких буде детально описано ефективність чат-ботів зі штучним інтелектом та кількість виявлених і вирішених інцидентів. Компанія визнає, що системи зі штучним інтелектом не є безпомилковими, і постійне вдосконалення є необхідним для зменшення кількості хибних спрацьовувань і забезпечення того, щоб система не мала надмірного впливу на досвід користувачів. За внутрішніми показниками, чат-боти вже позначили тисячі підозрілих взаємодій під час ранніх етапів тестування, і зростаючий відсоток цих випадків підтверджується як шкідливі.

Аналітики галузі високо оцінили цей крок як значний прогрес у сфері цифрової безпеки дітей, хоча деякі застерігають, що лише штучний інтелект не може вирішити всі онлайн-ризики. За словами одного з експертів, успіх ініціативи значною мірою залежатиме від того, наскільки ефективно навчені моделі штучного інтелекту та наскільки оперативно реагують механізми реагування при виявленні ризику. У міру того, як Meta впроваджує чат-ботів зі штучним інтелектом на своїх платформах, компанія продовжуватиме збирати відгуки користувачів і регуляторів для вдосконалення системи та вирішення нових питань.

Джерело: