Штучний інтелект та соціальні мережі: підходи до виявлення фейкової інформації

DOI: 10.31673/2412-4338.2024.044748

Анотація

У статті розглядаються сучасні підходи до виявлення фейкової інформації в соціальних мережах із використанням штучного інтелекту (ШІ) та машинного навчання (МН). Зростання популярності соціальних мереж супроводжується глобальною проблемою дезінформації, яка має серйозні наслідки для суспільства, економіки, політики та навіть здоров'я населення, що стало особливо помітним під час пандемії COVID-19. Основна увага приділяється методам виявлення фейкових новин, які включають використання нейронних мереж, психологічних характеристик користувачів та аналіз тексту. Окремо досліджуються підходи до аналізу візуального контенту, зокрема зображень та відео, з метою визначення їх достовірності. Стаття також аналізує роль соціальних ботів у поширенні дезінформації, зокрема їхню здатність впливати на громадську думку через маніпуляції, а також інструменти, що допомагають їх ідентифікувати, наприклад графові моделі та евристичні методи. У роботі надається характеристика процесів збору та обробки даних, таких як API соціальних платформ, веб-скрапінг, моніторинг активності користувачів та їх взаємодій. Окрему увагу приділено попередній обробці даних, включно з етапами очищення, нормалізації, токенізації, лематизації та анотації, які суттєво впливають на якість результатів роботи алгоритмів виявлення. Розглянуто також проблеми масштабованості та продуктивності таких систем в умовах великого обсягу даних, а також виклики, пов'язані із забезпеченням приватності користувачів. Крім того, підкреслюється необхідність адаптації алгоритмів до нових патернів дезінформації, що еволюціонують у відповідь на технологічний прогрес, і важливість міждисциплінарного підходу, що поєднує досягнення ШІ, когнітивних наук, лінгвістики та соціології.

Ключові слова: штучний інтелект, соціальні мережі, фейкова інформація, машинне навчання, дезінформація, нейронні мережі, виявлення новин, обробка даних.

Список використаних джерел

1. Silva, F., Vieira, R., & Garcia, A. Can machines learn to detect fake news? A survey focused on social media. Hawaii international conference on system sciences - HICSS. 2019. P. 1–8. URL: https://doi.org/10.24251/HICSS.2019.332. ISSN 2412-4338 Телекомунікаційні та інформаційні технології. 2024. № 4 (85)
2. Arming the public with artificial intelligence to counter social bots / K. Yang et al. Human behavior and emerging technologies. 2019. Vol. 1, no. 1. P. 48–61. URL: https://doi.org/10.1002/hbe2.115 (date of access: 03.11.2024).
3. The mass, fake news, and cognition security / B. Guo et al. Frontiers of computer science. 2020. Vol. 15, no. 3. URL: https://doi.org/10.1007/s11704-020-9256-0 .
4. Nistor A., Zadobrischi E. The influence of fake news on social media: analysis and verification of web content during the COVID-19 pandemic by advanced machine learning methods and natural language processing. Sustainability. 2022. Vol. 14, no. 17. URL: https://doi.org/10.3390/su141710466
5. Bio-Inspired artificial intelligence with natural language processing based on deceptive content detection in social networking / A. A.Albraikan et al. Biomimetics. 2023. Vol. 8, no. 6. P. 449. URL: https://doi.org/10.3390/biomimetics8060449.
6. Fake news detection on social media / K. Shu et al. ACM SIGKDD explorations newsletter. 2017. Vol. 19, no.1. P. 22–36. URL: https://doi.org/10.1145/3137597.3137600 .
7. Shevchenko O., Bondarchuk A., Polonevych O., Zhurakovskyi B., Korshun N. (2021) Methods of the objects identification and recognition research in the networks with the IoT concept support. Workshop on Cybersecurity Providing in Information and Telecommunication Systems, (pp. 197–209)
8. Moshenchenko, M., Zhurakovskyi, B., Poltorak, V., Bondarchuk, A., Korshun, N. (2021) Optimization Algorithms of Smart City Wireless Sensor Network Control. Workshop on Cybersecurity Providing in Information and Telecommunication Systems, (pp. 32–42)