АссистентНовый вопросИсторияОбласти знаний
Партнёрские проектыСпецпроектыСтать автором
Сменить язык
О РУВИКИ

Социальный бот

Социальный бот (англ. social bot, также известен как социальный ИИ и социальный алгоритм) — это программный агент, самостоятельно осуществляющий коммуникацию в социальных сетях. Социальные боты могут распространять сообщения (например, твиты), функционировать группами и в различных конфигурациях, включая частичный человеческий контроль (гибридные схемы) через алгоритмы. Кроме того, такие боты способны применять методы искусственного интеллекта и машинное обучение для формирования сообщений, приближённых по стилю к естественному человеческому диалогу.

Применение

Социальные боты используются для решения множества задач на различных платформах, включая Twitter, Instagram, Facebook и YouTube. Одно из наиболее распространённых применений — искусственное увеличение показателей популярности пользователя соцсетей: накрутка лайков, репостов, ответов, а также числа подписчиков с помощью фейковых аккаунтов[1]. Это создаёт ложное впечатление массовости и значимости, что позволяет привлекать дополнительных подписчиков и повышать онлайн-присутствие частных лиц, брендов и компаний. Фейковая активность и подписчики приобретаются на теневом рынке социальных сетей[2].

Многие компании используют автоматизированных агентов поддержки в соцсетях, чтобы недорого обрабатывать большой поток обращений[3]. Часто социальные боты отправляют автоответы на вопросы пользователей или предлагают продолжить общение в личных сообщениях. Рост числа автоматизированных систем поддержки и виртуальных ассистентов приводит к сокращениям персонала служб клиентского сервиса[4].

Значительное число социальных ботов применяется для воздействия на общественное мнение — они массово публикуют сообщения в поддержку конкретных товаров, компаний или политических движений, имитируя стихийную поддержку "снизу"[5]. Такое моделирование может исказить представление о реальной популярности идеи и даже повлиять на биржевые котировки или исход выборов[6].[7] Согласованные сообщения также способны формировать модные тенденции и интернет-мемы[8].

Часто социальные боты становятся инструментом фишинга: обманом побуждают пользователя перейти по вредоносной ссылке или раскрыть личные данные[9]. Для сокрытия адреса вредоносной ссылки используются сокращатели URL, например, TinyURL или bit.ly[10]. Поддельная активность аккаунта и "живое" общение помогают выдать мошенника за надёжного пользователя.

Социальные боты могут использоваться для компьютерной пропаганды[11]. Они могут применяться для алгоритмической модерации контента, радикализации, а также для манипуляций в формате «инфлюенсер за деньги», когда внешний аккаунт продаётся на площадке социальных сетей.

История

Боты существуют с самых ранних этапов развития вычислительной техники. Корни социальных ботов уходят в 1950-е годы, когда Алан Тьюринг разработал понятие машинного интеллекта и провёл первое тестирование, впоследствии названное тестом Тьюринга. В последующие десятилетия велись работы по созданию программ, способных имитировать человеческое поведение — примечательный пример тому Джозеф Вейценбаум и его система ELIZA[12], один из первых чатботов, способный к определённой имитации общения на естественном языке посредством сопоставления шаблонов. Её сценарий DOCTOR моделировал работу психотерапевта, ведущего беседу с пациентом[13].

В начале 2000-х годов по мере роста числа соцсетей боты стали взаимодействовать с массовой пользовательской аудиторией уже почти незаметно. Ранняя автоматизация проявлялась на подобных MySpace площадках: маркетинговые агентства использовали ботов для накрутки активности на страницах клиентов[14].

Социальные боты зафиксированы почти на всех популярных площадках, однако наибольшее внимание привлекают примеры с Twitter: публикация спама или массовая автоматизация подписки противоречит правилам сервиса, хотя ограниченное использование API Twitter разрешается для новостных и развлекательных ботов[15]. На других площадках, таких как Reddit и Discord, разрешены автоматические боты, если они не нарушают антиспам-политику платформы. Ведётся автоматизированная фильтрация ботовых сообщений, однако существующие фильтры не способны распознавать весь бот-трафик[16].

Законодательное регулирование

undefined

Из-за трудностей идентификации социальных ботов и отделения их от "допустимой" автоматизации посредством API соцсетей, механизмы правового регулирования остаются неясными. Боты способны оказывать влияние на формирование общественного мнения как автоматические инфлюенсеры. Они применяются для быстрой дезинформации, манипуляций на финансовых рынках, создания ложного позитивного имиджа брендов, для массового распространения политической рекламы и фишинговых атак[17].

В США отдельные штаты приняли первые законы о регулировании использования социальных ботов. В 2019 году Калифорния приняла закон Bolstering Online Transparency Act (B.O.T. Act), запрещающий незаметное использование автоматизированного ПО для влияния на решения пользователей соцсетей при покупке товаров и голосовании[18]. Аналогичные законы приняты в штатах Юта и Колорадо[19].

В Европейском союзе первый комплексный закон в данной сфере — Акт об искусственном интеллекте (AI Act) — вступил в силу в 2024 году[20]. Он требует прозрачности ИИ-систем, в частности — недопустимости маскировки ИИ-переписки под человеческую. Контент соцсетей, сгенерированный ИИ, должен сопровождаться соответствующей маркировкой[21].

Обнаружение

Боты первого поколения зачастую отличались "сверхчеловеческой" скоростью публикации сообщений. В дальнейшем у агентов появились признаки человеческой активности и поведенческих шаблонов. При большом объёме взаимодействий возможно искусственное формирование социального доказательства. Для точного выявления социальных ботов требуется анализ сразу нескольких критериев с применением методов обнаружения паттернов[22], в том числе:[23]

  • использование мультяшных аватаров;
  • присвоение случайных реальных фотографий (кража личности);
  • высокая частота перепостов;
  • временные паттерны активности[24];
  • выражение эмоций и полярности сообщений;
  • соотношение числа подписчиков и друзей[25];
  • длина и особенности имён пользователя;
  • разнообразие сообщений при репостинге;
  • вовлечённость (лайки/подписчики);
  • анализ временных рядов сообщений[26].

Совершенствование маскировки и массовое распространение ботов существенно усложняют их обнаружение[27]. Так, по данным CNBC, в Twitter на 2017 год действовало до 48 миллионов ботов из 319 млн зарегистрированных аккаунтов (примерно 15 %)[28].

Сервис Botometer (ранее BotOrNot) осуществляет публичный скоринг аккаунтов Twitter с учётом тысячи параметров[29], используя алгоритмы анализа поведения[30].[31] Одна из популярных методик на раннем этапе — установка ловушек (honeypot), публикующих бессмысленный контент и собирающих репосты и лайки со стороны ботов[32]. По мере эволюции ботов методы обнаружения требуют постоянного обновления[33]. Среди новых подходов — анализ распределения ведущих цифр в статистике аккаунтов (закон Бенфорда), впервые протестированный в 2020 году Университетом Претории[34]. Также используют AI-подходы (active learning, feature engineering, обучение с учителем и без учителя, поиск корреляций)[27].

Отдельно выделяются синхронизированные кампании: например, ИГИЛ координировало массовую раскрутку исламских новостей через сеть автоматических аккаунтов, выводя материалы в число трендов[35].[36] Аналогичные методы применяются и в биржевых махинациях[37].

Популярные платформы

Instagram

Instagram достиг рубежа в миллиард активных пользователей в месяц в июне 2018 года[38], однако оценочно до 10 % аккаунтов ботизированы. Боты участвуют не только в пропагандистских кампаниях, но и в раскрутке частных страниц (накрутка лайков, просмотров, подписок, комментариев)[39].

К этому же времени Facebook — владелец Instagram и WhatsApp — анонсировал найм 10 тыс. модераторов для защиты платформ от ботов и вредоносного контента[40]. Жёсткие лимиты платформы и интеграция детекторов приводят к ограничению бот-сервисов, многие из которых теряют возможность принимать оплату и подключаться к e-mail-платформам[41].

Twitter

Основная статья: Твиттер-бот

Масштабы распространения ботов в Twitter связаны с лёгкостью создания учётных записей и API, допускающими автоматизацию. По оценке CNBC, в 2017 году из 319 млн пользователей до 48 млн могли быть ботами[28].[42] По заявлению Twitter на июль 2022 года, ежедневно удаляется до 1 млн спам-ботов[43].

Часть ботов используется для автоматического планирования твитов, напоминаний, отслеживания событий и аварий[44]. При этом API Twitter разрешает ограниченную легальную автоматизацию интерфейсов для улучшения взаимодействия[45].

Meta

В 2025 году компания Meta объявила о разработке ИИ-продукта для создания виртуальных персонажей (AI-персон) на Instagram и Facebook, имеющих собственное описание, аватар и способных генерировать "контент на основе искусственного интеллекта"[46].[47][48] Публичная идентификация первых ботов Meta произошла 1 января 2025 года[49].[50] Многие пользователи отмечали невозможность блокировки таких ботов и наличие синей галочки доверия[51].

SocialAI

Приложение SocialAI, запущенное 18 сентября 2024 года, предназначено для общения исключительно между ботами на базе искусственного интеллекта, без участия людей[52]. Создатель приложения — Майкл Сэйман (Michael Sayman), известный по работе в Google, Facebook, Roblox и Twitter[53]. По оценке Ars Technica, проект связан с теорией "мёртвого интернета"[54].

Примечания

  1. ↑ Zhou, Liying; Jin, Fei; Wu, Banggang; Chen, Zhi; Wang, Cheng Lu (1 марта 2023). “Do fake followers mitigate influencers' perceived influencing power on social media platforms? The mere number effect and boundary conditions”. Journal of Business Research [англ.]. 158. DOI:10.1016/j.jbusres.2022.113589. ISSN 0148-2963. Дата обращения 2025-03-20.
  2. ↑ Bots and the black market of social media engagement (англ.). Digital Methods Initiative Wiki (2019). Дата обращения: 20 марта 2025.
  3. ↑ Xu, Anbang. A New Chatbot for Customer Service on Social Media // Proceedings of the 2017 CHI Conference on Human Factors in Computing Systems / Anbang Xu, Zhe Liu, Yufan Guo … [и др.]. — New York, NY, USA : Association for Computing Machinery, 2 мая 2017. — P. 3506–3510. — ISBN 978-1-4503-4655-9. — doi:10.1145/3025453.3025496.
  4. ↑ Rogers lays off customer-service staff in multiple provinces (англ.), The Globe and Mail (20 февраля 2025). Архивировано 21 июля 2025 года. Дата обращения: 20 марта 2025.
  5. ↑ The influence of social bots (англ.). www.akademische-gesellschaft.com. Дата обращения: 1 марта 2022. Архивировано 21 марта 2023 года.
  6. ↑ What is a social media bot? (англ.). Cloudflare. Дата обращения: 20 марта 2025. Архивировано 2 октября 2025 года.
  7. ↑ Hu, Charlotte How AI Bots Could Sabotage 2024 Elections around the World (англ.). Scientific American. Дата обращения: 20 марта 2025. Архивировано 17 октября 2025 года.
  8. ↑ Frederick, Kara (2019), The New War of Ideas: Counterterrorism Lessons for the Digital Disinformation Fight, Center for a New American Security, <https://www.jstor.org/stable/resrep20399>. 
  9. ↑ Shafahi, Mohammad. Phishing through social bots on Twitter // 2016 IEEE International Conference on Big Data (Big Data) / Mohammad Shafahi, Leon Kempers, Hamideh Afsarmanesh. — декабрь 2016. — P. 3703–3712. — ISBN 978-1-4673-9005-7. — doi:10.1109/BigData.2016.7841038.
  10. ↑ Padmanabhan, Sankar. Spam Detection in Link Shortening Web Services Through Social Network Data Analysis // Data Engineering and Communication Technology : [англ.] / Sankar Padmanabhan, Prema Maramreddy, Marykutty Cyriac. — Springer Nature, 2020. — Vol. 1079. — P. 103–118. — ISBN 978-981-15-1097-7. — doi:10.1007/978-981-15-1097-7_9.
  11. ↑ Haile, Yirgalem A (22 декабря 2024). “The theoretical wedding of computational propaganda and information operations: Unraveling digital manipulation in conflict zones”. New Media & Society [англ.]. DOI:10.1177/14614448241302319. ISSN 1461-4448.
  12. ↑ Ferrara, Emilio; Varol, Onur; Davis, Clayton; Menczer, Filippo; Flammini, Alessandro (24 июня 2016). “The rise of social bots”. Commun. ACM [англ.]. 59 (7): 96—104. arXiv:1407.5225. DOI:10.1145/2818717. ISSN 0001-0782. Дата обращения 2025-03-24.
  13. ↑ Bassett, Caroline (1 декабря 2019). “The computational therapeutic: exploring Weizenbaum's ELIZA as a history of the present”. AI & Society [англ.]. 34 (4): 803—812. DOI:10.1007/s00146-018-0825-9. ISSN 1435-5655.
  14. ↑ Errett, Joshua Robots invade MySpace - NOW Magazine (англ.). NOW Toronto (12 июня 2008). Дата обращения: 24 марта 2025. Архивировано 24 июля 2025 года.
  15. ↑ Rules for Posting automated Tweets with Twitter Bots - Digital Inspiration (англ.). digitalinspiration.com. Дата обращения: 24 марта 2025. Архивировано 11 августа 2025 года.
  16. ↑ Efthimion, Phillip; Payne, Scott; Proferes, Nicholas (20 июля 2018). “Supervised Machine Learning Bot Detection Techniques to Identify Social Twitter Bots”. SMU Data Science Review [англ.]. 1 (2). Дата обращения 2025-03-24.
  17. ↑ Gorwa, Robert; Guilbeault, Douglas (2020). “Unpacking the Social Media Bot: A Typology to Guide Research and Policy”. Policy & Internet [англ.]. 12 (2): 225—248. arXiv:1801.06863. DOI:10.1002/poi3.184. ISSN 1944-2866.
  18. ↑ Julius Cerniauskas. The legal and ethical implications of sharing the web with bots (англ.). TechRadar (11 июня 2024). Дата обращения: 24 марта 2025. Архивировано 13 июля 2025 года.
  19. ↑ State Lawmakers Propose Regulating Chatbots (англ.). multistate.ai. Дата обращения: 24 марта 2025. Архивировано 5 апреля 2025 года.
  20. ↑ Butt, Junaid Sattar (март 2024). “Analytical Study of the World's First EU Artificial Intelligence (AI) Act, 2024”. International Journal of Research Publication and Reviews [англ.]. 5 (3): 7343—7364. DOI:10.55248/gengpi.5.0324.0914. Проверьте дату в |date= (справка на английском)
  21. ↑ Filling social media with indistinguishable AI-bots is illegal with EU AI Act. Security, Privacy & Tech Inquiries (4 января 2025). Дата обращения: 24 марта 2025. Архивировано 18 июня 2025 года.
  22. ↑ Dewangan, Madhuri; Rishabh Kaushal (2016). “SocialBot: Behavioral Analysis and Detection”. International Symposium on Security in Computing and Communication. DOI:10.1007/978-981-10-2738-3_39.
  23. ↑ Ferrara, Emilio; Varol, Onur; Davis, Clayton; Menczer, Filippo; Flammini, Alessandro (2016). “The Rise of Social Bots”. Communications of the ACM. 59 (7): 96—104. arXiv:1407.5225. DOI:10.1145/2818717.
  24. ↑ Mazza, Michele; Stefano Cresci; Marco Avvenuti; Walter Quattrociocchi; Maurizio Tesconi (2019). “RTbust: Exploiting Temporal Patterns for Botnet Detection on Twitter”. In Proceedings of the 10th ACM Conference on Web Science (WebSci '19). arXiv:1902.04506. DOI:10.1145/3292522.3326015.
  25. ↑ How to Find and Remove Fake Followers from Twitter and Instagram : Social Media Examiner. Social Media Examiner. Дата обращения: 24 марта 2025. Архивировано 20 мая 2025 года.
  26. ↑ Weishampel, Anthony; Staicu, Ana-Maria; Rand, William (1 марта 2023). “Classification of social media users with generalized functional data analysis”. Computational Statistics & Data Analysis [англ.]. 179. DOI:10.1016/j.csda.2022.107647. ISSN 0167-9473.
  27. ↑ 1 2 Zago, Mattia; Nespoli, Pantaleone; Papamartzivanos, Dimitrios; Perez, Manuel Gil; Marmol, Felix Gomez; Kambourakis, Georgios; Perez, Gregorio Martinez (август 2019). “Screening Out Social Bots Interference: Are There Any Silver Bullets?”. IEEE Communications Magazine [англ.]. 57 (8): 98—104. DOI:10.1109/MCOM.2019.1800520. ISSN 1558-1896. Проверьте дату в |date= (справка на английском)
  28. ↑ 1 2 Newberg, Michael As many as 48 million Twitter accounts aren't people, says study (англ.). CNBC (10 марта 2017). Дата обращения: 22 ноября 2022. Архивировано 21 сентября 2025 года.
  29. ↑ Botometer. Botometer. Дата обращения: 24 марта 2025.
  30. ↑ Davis, Clayton A.; Onur Varol; Emilio Ferrara; Alessandro Flammini; Filippo Menczer (2016). “BotOrNot: A System to Evaluate Social Bots”. Proc. WWW Developers Day Workshop. arXiv:1602.00975. DOI:10.1145/2872518.2889302.
  31. ↑ Varol, Onur; Emilio Ferrara; Clayton A. Davis; Filippo Menczer; Alessandro Flammini (2017). “Online Human-Bot Interactions: Detection, Estimation, and Characterization”. Proc. International AAAI Conf. on Web and Social Media (ICWSM).
  32. ↑ How to Spot a Social Bot on Twitter. MIT Technology Review. technologyreview.com (28 июля 2014). Дата обращения: 24 марта 2025. Архивировано 2 июня 2016 года.
  33. ↑ Grimme, Christian; Preuss, Mike; Adam, Lena; Trautmann, Heike (2017). “Social Bots: Human-Like by Means of Human Control?”. Big Data [англ.]. 5 (4): 279—293. arXiv:1706.07624. DOI:10.1089/big.2017.0044. PMID 29235915. S2CID 10464463.
  34. ↑ Mbona, Innocent; Eloff, Jan H. P. (1 января 2022). “Feature selection using Benford's law to support detection of malicious social media bots”. Information Sciences [англ.]. 582: 369—381. DOI:10.1016/j.ins.2021.09.038. HDL:2263/82899. ISSN 0020-0255.
  35. ↑ Giummole, Federica. Trending Topics on Twitter Improve the Prediction of Google Hot Queries // 2013 International Conference on Social Computing / Federica Giummole, Salvatore Orlando, Gabriele Tolomei. — IEEE, 2013. — P. 39–44. — ISBN 978-0-7695-5137-1. — doi:10.1109/socialcom.2013.12.
  36. ↑ Badawy, Adam; Ferrara, Emilio (3 апреля 2018). “The rise of Jihadist propaganda on social networks”. Journal of Computational Social Science [англ.]. 1 (2): 453—470. arXiv:1702.02263. DOI:10.1007/s42001-018-0015-z. ISSN 2432-2717.
  37. ↑ Sela, Alon; Milo, Orit; Kagan, Eugene; Ben-Gal, Irad (15 ноября 2019). “Improving information spread by spreading groups”. Online Information Review [англ.]. 44 (1): 24—42. DOI:10.1108/oir-08-2018-0245. ISSN 1468-4527.
  38. ↑ Constine, Josh Instagram hits 1 billion monthly users, up from 800M in September (англ.). TechCrunch (20 июня 2018). Дата обращения: 24 ноября 2022. Архивировано 27 сентября 2025 года.
  39. ↑ Instagram Promotion Service (Real Marketing) – UseViral (англ.) (15 августа 2021). Дата обращения: 24 ноября 2022. Архивировано 21 июня 2021 года.
  40. ↑ Instagram's Growing Bot Problem. The Information (18 июля 2018). Дата обращения: 24 ноября 2022. Архивировано 30 июля 2018 года.
  41. ↑ Morales, Eduardo Instagram Bots in 2021 — Everything You Need To Know (англ.). Medium (8 марта 2022). Дата обращения: 24 ноября 2022. Архивировано 23 сентября 2025 года.
  42. ↑ Gilani, Zafar. Do Bots impact Twitter activity? // Proceedings of the 26th International Conference on World Wide Web Companion - WWW '17 Companion / Zafar Gilani, Reza Farahbakhsh, Jon Crowcroft. — Republic and Canton of Geneva, CHE : International World Wide Web Conferences Steering Committee, 3 апреля 2017. — P. 781–782. — ISBN 978-1-4503-4914-7. — doi:10.1145/3041021.3054255.
  43. ↑ Dang, Sheila. Twitter says it removes over 1 million spam accounts each day (англ.), Reuters (7 июля 2022). Архивировано 7 июля 2022 года. Дата обращения: 23 ноября 2022.
  44. ↑ Azhar, Huzaifa 10 Best Twitter Bots You Should Follow in 2022 - TechPP (англ.). techpp.com (10 декабря 2021). Дата обращения: 24 ноября 2022. Архивировано 6 сентября 2025 года.
  45. ↑ Twitter's automation development rules (англ.). help.twitter.com. Дата обращения: 24 ноября 2022. Архивировано 13 декабря 2017 года.
  46. ↑ Murphy, Hannah. Meta envisages social media filled with AI-generated users, Financial Times (27 декабря 2024). Архивировано 28 сентября 2025 года. Дата обращения: 1 января 2025.
  47. ↑ Herrman, John Meta's Big Bet on Bots (англ.). Intelligencer (31 декабря 2024). Дата обращения: 2 января 2025. Архивировано 27 сентября 2025 года.
  48. ↑ Kevin Okemwa. "They'll have bio's and profile pictures": Meta is gearing up to unleash a wave of AI-powered personas, set to redefine Facebook's social engagement. Windows Central (30 декабря 2024). Дата обращения: 2 января 2025. Архивировано 20 июля 2025 года.
  49. ↑ Threads. www.threads.net. Дата обращения: 2 января 2025. Архивировано 2 января 2025 года.
  50. ↑ Sato, Mia Meta's AI-generated bot profiles are not being received well (англ.). The Verge (3 января 2025). Дата обращения: 12 февраля 2025. Архивировано 3 января 2025 года.
  51. ↑ Growcoot, Matt Meta Purges AI-Generated Facebook and Instagram Accounts Amid Backlash (англ.). PetaPixel (6 января 2025). Дата обращения: 12 февраля 2025. Архивировано 12 сентября 2025 года.
  52. ↑ Davis, Wes SocialAI: we tried the Twitter clone where no other humans are allowed (англ.). The Verge (17 сентября 2024). Дата обращения: 12 февраля 2025. Архивировано 28 сентября 2025 года.
  53. ↑ Ghosh, Shona The 24-year-old whiz kid who was hired by Mark Zuckerberg then Google is leaving to work at Roblox (англ.). Business Insider. Дата обращения: 12 февраля 2025. Архивировано 1 декабря 2024 года.
  54. ↑ Edwards, Benj "Dead Internet theory" comes to life with new AI-powered social media app (англ.). Ars Technica (18 сентября 2024). Дата обращения: 12 февраля 2025. Архивировано 30 сентября 2025 года.

Литература

Ссылки

Категории