Практическая сетевая топология в исследовании процесса онлайн-радикализации молодежи: возможности и ограничения

ISSN online: 2221-1616

Bulletin of the Institute of Sociology (Vestnik instituta sotziologii)

Практическая сетевая топология в исследовании процесса онлайн-радикализации молодежи: возможности и ограничения

Научная статья

Зубок Ю. А. д.соц.н., проф.,
ФНИСЦ РАН, Москва, Россия
uzubok@mail.ru
ORCID ID=0000-0002-3108-2614
Elibrary SPIN=2160-6341
Карпова А. Ю. д.соц.н.
Национальный исследовательский Томский политехнический университет, Томск, Россия
belts@tpu.ru
ORCID ID=0000-0001-7854-1438
Савельев А. О. к.т.н.
Национальный исследовательский Томский политехнический университет, Томск, Россия
sava@tpu.ru
ORCID ID=0000-0002-7466-6142


DOI: 10.19181/vis.2024.15.1.2
EDN: VWSNFH

Практическая сетевая топология в исследовании процесса онлайн-радикализации молодежи: возможности и ограничения
// Вестник Института социологии. 2024. Том 15. № 1. С. 13-42

Дата поступления статьи: 19.02.2024
Рубрика: Методология в российской социологии

Ссылка для цитирования:
Зубок Ю. А., Карпова А. Ю., Савельев А. О. Практическая сетевая топология в исследовании процесса онлайн-радикализации молодежи: возможности и ограничения // Вестник Института социологии. 2024. Том 15. № 1. C. 13-42.
DOI: https://doi.org/10.19181/vis.2024.15.1.2. EDN: VWSNFH
For citation:
Zubok Y. A., Karpova A. Y., Savelev A. O. Practical network topology in the study of online radicalisation of youth: opportunities and limitations. Vestnik instituta sotziologii. 2024. Vol. 15. No. 1. P. 13-42
DOI: https://doi.org/10.19181/vis.2024.15.1.2. EDN: VWSNFH


Текст статьи


Аннотация

В настоящей статье представлены ключевые подходы к пониманию и исследованию радикализации, а также возможности и ограничения применения некоторых исследовательских методов для моделирования сетевой топологии и оценки контентного сходства онлайн-сообществ. Сегодня в исследованиях социальных сетей и участия в них молодежи часто применяются методы и технологии Web Mining и AI. Однако до сих пор остается открытым вопрос о том, как эти подходы могут быть эффективно использованы в целях изучения онлайн-радикализации. Ответ на него должен повысить объяснительную и прогностическую способность вычислительных моделей для обнаружения и прогнозирования радикализации в онлайн-пространстве. В значительной части российских исследований онлайн-радикализации распространен подход, при котором задача выявления взаимосвязей отдельных онлайн-сообществ или их кластеров сводится к оценке степени их сходства по подписчикам, либо по лингвистическим маркерам. Такой подход ограничен в прогнозировании новых связей между сообществами и обосновании путей радикализации, но в то же время актуален в моделировании информационной диффузии. В данной работе авторы стремятся продемонстрировать возможности и ограничения применения методов tf-idf, doc2vec для оценки контентного сходства онлайн-сообществ без признаков радикализации и онлайн-сообществ с признаками радикализации. Такой подход позволил выявить сообщества со значительной тенденцией к объединению (установлению прямых связей). В статье представлены результаты сравнительного исследования в виде социальных графов, сформированных по принципам общности подписчиков, сходства значимых слов, контекстного сходства на базе doc2vec модели. Социальный граф на основе doc2vec метода показал лучшие результаты с точки зрения кластеризации онлайн-сообществ, а также интерпретируемости результатов. Это является критически значимым для обнаружения и прогнозирования радикализации в Интернете, поскольку открывает перспективы для изучения природы ассортативности в наблюдаемой сети.

Ключевые слова

социальная сеть, сообщество, радикализация, сетевая топология, tf-idf, doc2vec

Список литературы

 

  1. Ахременко А. С., Стукал Д. К., Петров А. П. Сеть или текст? Факторы распространения протеста в социальных медиа: теория и анализ данных // Полис. Политические исследования. 2020. № 2. С. 73–91. DOI: 10.17976/jpps/2020.02.06; EDN: APZWMB.
  2. Карпова А. Ю., Кузнецов С. А. и др. Метод поиска изображений с признаками ультраправой радикализации в социальных медиа на основе нейросетевой классификации // Системы управления и информационные технологии. 2023. № 1(91). С. 59–64. DOI: 10.36622/VSTU.2023.91.1.012; EDN: KGWMLC.
  3. Карпова А. Ю., Савельев А. О. Возможности и границы применения технологий Big Data для изучения онлайн-радикализации // Третьи декабрьские социально-политические чтения «Как живешь, Россия?». Вызовы пандемии, парламентские выборы и стратегическая повестка дня для общества и государства: Матер. науч.-практич. конф. М.: ФНИСЦ РАН, 2022. С. 67–78. EDN: ZXFWGV.
  4. Карпова А. Ю., Савельев А. О. и др. Ультраправая радикализация: методика автоматизированного выявления угроз методами web mining // Вестник РФФИ. Гуманитарные и общественные науки. 2020. № 5(102). С. 30–43. DOI: 10.22204/2587-8956-2020-102-05-30-43; EDN: BEZTTC.
  5. Карпова А. Ю., Савельев А. О. и др. Изучение процесса онлайн-радикализации молодежи в социальных медиа (междисциплинарный подход) // Мониторинг общественного мнения: экономические и социальные перемены. 2020. № 3(157). С. 159–181. DOI: 10.14515/monitoring.2020.3.1585; EDN: CXJJUW.
  6. Карпова А. Ю., Савельев А. О., Кузнецов С. А. Трансформация социальных практик ответственного отцовства в девиантные формы социальной активности // Векторы благополучия: экономика и социум. 2021. № 4(43). С. 107–118. DOI: 10.18799/26584956/2021/4(43)/1130; EDN: DDROPU.
  7. Карпова А. Ю., Ширыкалов А. М. Разработка метода оценки схожести коллекций текстов с использованием их векторных представлений, полученных методом doc2vec // Молодежь и современные информационные технологии: Сб. тр. XVIII Междунар. науч.-практ. конф. Томск: ТПУ, 2021. С. 75–76. EDN SWSZVQ.
  8. Кузнецов С. А., Карпова А. Ю., Савельев А. О. Методы и технологии интеллектуализации поиска деструктивного и радикального контента в социальных медиа: анализ современного состояния // Вестник компьютерных и информационных технологий. 2023. Т. 20. № 4(226). С. 39–48. DOI: 10.14489/vkit.2023.04.pp.039-048; EDN: EVCQQC.
  9. Савельев А. О., Карпова А. Ю., Кузнецов С. А. Подход к оценке взаимосвязей сообществ социальных медиа на базе тематического сходства текстового контента (на примере сообществ социально активных отцов и сообществ с признаками радикализации) // Казанский экономический вестник. 2022. № 1(57). С. 96–103. EDN: DNZYVS.
  10. Соколова Т. В., Чеповский А. М. Задача анализа профилей пользователей социальных сетей // Ситуационные центры и информационно-аналитические системы класса 4i для задач мониторинга и безопасности (SCVRT2017): Тр. Междунар. науч. конф. Москва–Протвино: ИФТИ, 2017. С. 198–201. EDN: YSHYDJ.
  11. Стукал Д. К., Ахременко А. С., Петров А. П. Аффективная политическая поляризация и язык ненависти: созданы друг для друга? // Вестник РУДН. Сер.: Политология. 2022. Т. 24. № 3. C. 480–498. DOI: 10.22363/2313-1438-2022-24-3-480-498; EDN: VLTQRN.
  12. Чупров В. И., Зубок Ю. А. Молодежный экстремизм: сущность, формы проявления, тенденции. М.: Academia, 2009. 320 с. EDN: SUFKBZ.
  13. Akram M., Nasar A. Systematic Review of Radicalization through Social Media // Ege Academic Review. 2023. Vol. 23(2). P. 279–296. DOI: 10.21121/eab.1166627; EDN: JFWLSR.
  14. Alvari H., Sarkar S., Shakarian P. Detection of Violent Extremists in Social Media // 2nd International Conference on Data Intelligence and Security (ICDIS). South Padre Island, TX, USA, 2019. P. 43–47. DOI: 10.1109/ICDIS.2019.00014.
  15. Araque O., Iglesias C. A. An Approach for Radicalization Detection Based on Emotion Signals and Semantic Similarity // IEEE Access. 2020. Vol. 8. P. 17877–17891. DOI: 10.1109/access.2020.2967219.
  16. Binder J. F., Kenyon J. Terrorism and the internet: How dangerous is online radicalization? // Frontiers in Psychology. 2022. Vol. 13. DOI: 10.3389/fpsyg.2022.997390; EDN: RGSMYY.
  17. Borum R. Radicalization into Violent Extremism I: A Review of Social Science Theories // Journal of Strategic Security. 2012. Vol. 4(4). P. 7–36. DOI: 10.5038/1944-0472.4.4.1.
  18. Borum R. Radicalization into Violent Extremism II: A Review of Conceptual Models and Empirical Research // Journal of Strategic Security. 2012. Vol. 4(4). P. 37–62. DOI: 10.5038/1944-0472.4.4.
  19. Borum R. Rethinking radicalization // Journal of Strategic Security. 2012. Vol. 4(4). P. 1–6. URL: https://digitalcommons.usf.edu/jss/vol4/iss4/1 (дата обращения: 15.12.2023).
  20. Borum R. Understanding the terrorist mind-set // FBI Law Enforcement Bulletin. 2003. Vol. 72(7). P. 7–10.
  21. Clancy T., Addison B., Pavlov O., Saeed Kh. Contingencies of Violent Radicalization: The Terror Contagion Simulation // Systems. 2021. Vol. 9(4). Article 90. DOI: 10.3390/systems9040090.
  22. Das S., Biswas A. The Ties that matter: From the perspective of Similarity Measure in Online Social Networks // ArXiv. 2022. DOI: 10.48550/arXiv.2212.10960.
  23. de la Roche R. S. Why is collective violence collective? // Sociological Theory. 2001. Vol. 19(2). P. 126–144. DOI: 10.1111/0735-2751.00133.
  24. Deem A. The Digital Traces of #whitegenocide and Alt-Right Affective Economies of Transgression // International Journal of Communication. 2019. Vol. 13. P. 3183–3202.
  25. Derbas N., Dusserre E. et al. Eventfully Safapp: hybrid approach to event detection for social media mining // Journal of Ambient Intelligence and Humanized Computing. 2020. Vol. 11(1). P. 87–95. DOI: 10.1007/s12652-018-1078-7; EDN: VCUFZA.
  26. Ducol B. A Radical sociability: in defense of an online/offline multidimensional approach to radicalization // Social Networks, Terrorism and Counter-Terrorism: Radical and Connected / Ed by M. Bouchard. N. Y.: Routledge, 2015. P. 82–104.
  27. Expressions of Radicalization: Global Politics, Processes and Practices / Ed. by K. Steiner, A. Onnerfors. Cambridge: Palgrave Macmillan, 2018. 526 p. DOI: 10.1007/978-3-319-65566-6.
  28. Ferrara E. Contagion dynamics of extremist propaganda in social networks // Information Sciences. 2017. Vol. 418–419. P. 1–12. DOI: 10.1016/j.ins.2017.07.030.
  29. Floridi L. Hyperhistory and the philosophies of information policies // The Onlife Manifesto / Ed. by L. Floridi. L.: Springer, 2015. P. 51–63. DOI: 10.1007/978-3-319-04093-6_12.
  30. Francisco M., Castro J. L. A fuzzy model to enhance user profiles in microblogging sites using deep relations // Fuzzy Sets and Systems. 2020. Vol. 401. P. 133–149. DOI: 10.1016/j.fss.2020.05.006.
  31. Garcet S. Understanding the psychological aspects of the radicalization process: a sociocognitive approach // Forensic Sciences Research. 2021. Vol. 6(2). P. 115–123. DOI: 10.1080/20961790.2020.1869883.
  32. Gezha V. N., Kozitsin I. V. The Effects of Individuals’ Opinion and Non-Opinion Characteristics on the Organization of Influence Networks in the Online Domain // Computers. 2023. Vol. 12(6). Article 116. DOI: 10.3390/computers12060116.
  33. Greenberg K. J. Counter-radicalization via the internet // The Annals of the American Academy of Political and Social Science. 2016. Vol. 668(1). P. 165–179. DOI: 10.1177/0002716216672635.
  34. Grover T., Mark G. Detecting Potential Warning Behaviors of Ideological Radicalization in an Alt-Right Subreddit // Proceedings of the International AAAI Conference on Web and Social Media. 2019. Vol. 13. P. 193–204. DOI: 10.1609/icwsm.v13i01.3221.
  35. Hall M., Logan M. et al. Do Machines Replicate Humans? Toward a Unified Understanding of Radicalizing Content on the Open Social Web // Policy & Internet. 2020. Vol. 12. P. 109–138. DOI: 10.1002/poi3.223.
  36. Hamm M., Spaaj R. Lone Wolf Terrorism in America: Using Knowledge of Radicalization Pathways to Forge Prevention Strategies. Washington DC: US Department of Justice, 2015. URL: https://www.ojp.gov/pdffiles1/nij/grants/248691.pdf (дата обращения: 15.12.2023).
  37. Horgan J. From Profiles to Pathways and Roots to Routes: Perspectives from Psychology on Radicalization into Terrorism // The Annals of the American Academy of Political and Social Science. 2008. Vol. 618(1). P. 80–94. DOI: 10.1177/0002716208317539; EDN: JLEUBT.
  38. Ishfaq U., Khan H. U., Iqbal S. Identifying the influential nodes in complex social networks using centrality-based approach // Journal of King Saud University. Computer and Information Sciences. 2022. Vol. 34(10). P. 9376–9392. DOI: 10.1016/j.jksuci.2022.09.016; EDN: DKHGZY.
  39. Karpova A. Yu., Kuznetsov S. A. et al. An online scan of extreme-right radicalization in social networks (the case of the Russian social network VKontakte) // Journal of Siberian Federal University. Humanities and Social Sciences. 2022. Vol. 15. № 12. P. 1738–1750. DOI: 10.17516/1997-1370-0948; EDN: IGVUQA.
  40. Karpova A., Savelev A. et al. Method for detecting far-right extremist communities on social media // Social Sciences. 2022. Vol. 11. № 5. Article 200. DOI: 10.3390/socsci11050200; EDN: EFNFLP.
  41. Kozitsin I. V. A general framework to link theory and empirics in opinion formation models // Scientific Reports. 2022. Vol. 12(1). Article 5543. DOI: 10.1038/s41598-022-09468-3; EDN: VVQEUT.
  42. Kozitsin I. V. Opinion dynamics of online social network users: a micro-level analysis // The Journal of Mathematical Sociology. 2023. Vol. 47(1). P. 1–41. DOI: 10.1080/0022250X.2021.1956917; EDN: BHVFFM.
  43. LaFree G. Lone-Offender Terrorists // Criminology and Public Policy. 2013. Vol. 12(1). P. 59–62. DOI: 10.1111/1745-9133.12018.
  44. Lara-Cabrera R., Pardo A. G. et al. Measuring the Radicalisation Risk in Social Networks // IEEE Access. 2017. Vol. 5. P. 10892–10900. DOI: 10.1109/access.2017.2706018; EDN: GFVFJT.
  45. Lee D.-H., Kim Y.-R. et al. Fake News Detection Using Deep Learning // Journal of Information Processing Systems. 2019. Vol. 15(5). P. 1119–1130. DOI: 10.3745/JIPS.04.0142.
  46. McCauley C., Moskalenko S. Mechanisms of Political Radicalization: Pathways Toward Terrorism // Terrorism and Political Violence. 2008. Vol. 20(3). P. 415–433. DOI: 10.1080/09546550802073367.
  47. Moghaddam F. M. The staircase to terrorism: A psychological exploration // American Psychologist. 2005. Vol. 60(2). P. 161–169. DOI: 10.1037/0003-066X.60.2.161.
  48. Mussiraliyeva S., Bolatbek M. et al. On detecting online radicalization and extremism using natural language processing // 21st International Arab Conference on Information Technology. Giza, 2020. P. 9300086. DOI: 10.1109/ACIT50332.2020.9300086; EDN JNULVZ.
  49. Neumann P. R. The trouble with radicalization // International Affairs. 2013. Vol. 89(4). P. 873–893. DOI: 10.1111/1468-2346.12049.
  50. Petrov A. Countering Fake News with Contagious Inoculation and Debunking: A Mathematical Model // 2022 15th International Conference Management of large-scale system development (MLSD). Moscow, 2022. P. 1–4. DOI: 10.1109/MLSD55143.2022.9933991.
  51. Petrov A., Akhremenko A., Zheglov S. Dual Identity in Repressive Contexts: An Agent-Based Model of Protest Dynamics // Social Science Computer Review. 2023. Vol. 41(6). P. 2249–2273. DOI: 10.1177/08944393231159953; EDN: LPVEKT.
  52. Petrov A., Proncheva O. Modeling propaganda battle: Decision-making, homophily, and echo chambers // Communications in Computer and Information Science. 2018. Vol. 930. P. 197–209. DOI: 10.1007/978-3-030-01204-5_19; EDN: WTYCBE.
  53. Radicalization and Variations of Violence. New Theoretical Approaches and Original Case Studies / Ed. by D. Beck, J. Renner-Mugono. Springer, 2023. 212 p. DOI: 10.1007/978-3-031-27011-6.
  54. Renström E. A., Bäck H., Knapton H. M. Exploring a pathway to radicalization: The effects of social exclusion and rejection sensitivity // Group Processes & Intergroup Relations. 2020. Vol. 23(8). P. 1204–1229. DOI: 10.1177/1368430220917215.
  55. Rowe M., Saif H. Mining Pro-ISIS Radicalisation Signals from Social Media Users // Proceedings of the Tenth International AAAI Conference on Web and Social Media (ICWSM 2016). 2016. Vol. 10(1). P. 329–338. DOI: 10.1609/icwsm.v10i1.14716.
  56. Sharif W., Mumtaz S. et al. An empirical approach for extreme behavior identification through tweets using machine learning // Applied Sciences. 2019. Vol. 9(18). Article 3723. DOI: 10.3390/app9183723; EDN: VKLQVT.
  57. Siebl T. Digital transformation: survive and thrive in an era of mass extinction. N. Y.: Rosetta Books, 2019. 256 p.
  58. Smith L. G., Wakeford L. et al. Detecting psychological change through mobilizing interactions and changes in extremist linguistic style // Computers in Human Behavior. 2020. Vol. 108. Article 106298. DOI: 10.1016/j.chb.2020.106298.
  59. Tang L., Liu H. Community Detection and Mining in Social Media. Morgan & Claypool Publishers, 2010. 138 p. DOI: 10.1007/978-3-031-01900-5.
  60. Tausch N., Bode S., Halperin E. Emotions in Violent Extremism // Handbook of the Psychology of Violent Extremism / Ed by M. Obaidi, J. Kunst. Cambridge University Press, 2024.
  61. The Routledge handbook of terrorism research / Ed. by A. Schmid. L.: Routledge, 2011. 736 p.
  62. Thompson R. Radicalization and the Use of Social Media // Journal of Strategic Security. 2011. Vol. 4. P. 167–190. DOI: 10.5038/1944-0472.4.4.8.
  63. Tsapatsoulis N., Djouvas C. Opinion Mining From Social Media Short Texts: Does Collective Intelligence Beat Deep Learning? // Frontiers in Robotics and AI. 2019. Vol. 5. P. 138. DOI: 10.3389/frobt.2018.00138.
  64. Valentini D., Lorusso A. M., Stephan A. Onlife Extremism: Dynamic Integration of Digital and Physical Spaces in Radicalization // Frontiers in Psychology. 2020. Vol. 11. P. 524. DOI: 10.3389/fpsyg.2020.00524.
  65. Wadhwa P., Bhatia M. P. S. An approach for dynamic identification of online radicalization in social networks // Cybernetics and Systems. 2015. Vol. 46(8). P. 641–665. DOI: 10.1080/01969722.2015.1058665.
  66. Whittaker J. Rethinking Online Radicalization // Perspectives on Terrorism. 2022. Vol. 16(4). P. 27–40. URL: https://www.jstor.org/stable/27158150 (дата обращения: 15.12.2023).
  67. Winter Ch., Neumann P. et al. Online extremism: research trends in internet activism, radicalization, and counter-strategies // International Journal of Conflict and Violence. 2020. Vol. 14. P. 1–20. DOI: 10.4119/ijcv-3809.
  68. Wojcieszak M. Carrying online participation offline: mobilization by radical online groups and politically dissimilar offline ties // Journal of Communication. 2009. Vol. 59(3). P. 564–586. DOI: 10.1111/j.1460-2466.2009.01436.x.
  69. Xu G., Meng Y. et al. Sentiment Analysis of Comment Texts Based on BiLSTM // IEEE Access. 2019. Vol. 7. P. 51522–51532. DOI: 10.1109/ACCESS.2019.2909919.
  70. Zafarani R., Abbasi M. A., Liu H. Social Media Mining: An Introduction. Cambridge University Press, 2014. 332 p. DOI: 10.1017/CBO9781139088510.
  71. Zareie A., Sheikhahmadi A. et al. Finding influential nodes in social networks based on neighborhood correlation coefficient // Knowledge-Based Systems. 2020. Vol. 194. Article 105580. DOI: 10.1016/j.knosys.2020.105580.

 

Содержание выпуска Vestnik instituta sotziologii. 2024. Vol. 15. No. 1