Розмір шрифта: 

Досліджено проблему модерації контенту на онлайн-платформах, розглянуто автоматичний, ручний режим аналізу контенту на порушення правил онлайн-платформ, визначено їх недоліки. Встановлено доцільність використання гібридного режиму роботи для процесу модерації. Існуючі рішення мають вузьку спеціалізацію та обмежені функціональні можливості використання та впровадження, не забезпечують механізмів швидкої інтеграції системи в раніше створені програмні продукти. Розглянуто проблему створення інформаційної технології із веб-інтерфейсом та механізмом децентралізованого та ізольованого доступу до даних клієнта для автоматизованого аналізу тексту на елементів, що порушують правила платформи з використанням штучного інтелекту на основі нейронних мереж та пріоритетного запропонування на розгляд працівникам-модераторам спірних, неоднозначних випадків порушення правил платформи, зокрема за класами образ. Запропоновано удосконалення архітектури інформаційної технології аналізу текстів на наявність образливих висловлювань за допомогою механізму доступу на основі зашифрованих API-ключів, що забезпечило спрощення та пришвидшення процесу поширення та інтеграції системи в існуючі програмні рішення, підвищило ступінь захисту та незалежність компонентів та кластерів бази даних від атак та збоїв. Запропонована інформаційна технологія дозволяє пришвидшити процес модерації вмісту коментарів та дописів, а також зменшує кількість дописів, для яких існує необхідність ручної модерації працівниками, так як основна робота аналізу проводиться автоматизовано.