想象一下，当你打开一条热门新闻，一眼看到点赞数最高的评论正在激烈地抨击某项政策。你可能会觉得：“哇，看来大家都这么想。”但你不知道的是，这些成千上万的“赞”可能并非来自真实用户，而是由网络水军的机器人瞬间制造的。更值得警惕的是，这种操纵的影响并不会随着你关掉这条新闻而结束。研究发现，它可能改变你接下来把注意力放在哪里——你更可能去搜索相关话题，也更容易点击那些在情绪或立场上与高赞评论“同频”的内容。换句话说，被操纵的并不一定是你的立场，而是你接下来看到的信息世界。这就是本期MISQ文章《Disinformation Spillover: Uncovering the Ripple Effect of Bot-Assisted Fake Social Engagement on Public Attention》想要揭示的真相：机器人辅助的虚假社交互动（Fake Social Engagement, FSE）是如何在数字世界中激起层层涟漪，进而重塑公众注意力的。
（图片为AI生成）
研究背景
在数字时代，虚假信息（Disinformation）不仅仅是编造假新闻，更进化出了一种隐蔽的手段——虚假社交互动（FSE）。操纵者利用机器人在极短时间内对特定评论进行大规模的“点赞”或“踩”，从而人为地制造出某种观点被大众广泛支持的假象。
以往的研究多关注人们如何直接与虚假新闻互动（如转发或评论），但很少有人关注这种“虚假热度”是否会产生溢出效应（Spillover Effect）。也就是说，当普通用户在接触了被机器人刷赞的评论后，即便离开了那个页面，这种操纵是否还会影响他们随后的信息消费行为？基于议程设置理论（Agenda-Setting Theory），这项研究提出了一个大胆的假设：机器人制造的虚假热度不仅能提升特定话题的显著性（第一层议程设置），还能通过突出特定属性（如反政府情绪）来引导公众的情感倾向（第二层议程设置）。
研究设计
为了验证这一假设，研究团队通过与一家大型新闻门户网站合作，获取了极其珍贵的“上帝视角”数据。研究背景设定在2018年韩国著名的“Druking”舆论造假丑闻期间。该事件中，操纵团队利用“KingCrab”宏程序机器人，在主流新闻门户上对数万条评论进行刷票，以操纵舆论排名。
作者掌握了警方调查提供的基本事实（Ground Truth），准确识别了哪些账号是机器人，哪些评论是被操纵的目标。结合该平台约2.1万名普通用户的海量点击流日志（Clickstream Data），研究构建了一个自然的准实验环境：
处理组：浏览了被机器人“攻击”过的新闻评论区的用户。
控制组：浏览了内容高度相似（通过Doc2Vec算法匹配）但未受机器人干扰的新闻的用户。
通过二阶段最小二乘估计（2SLS）解决内生性问题，并利用半监督机器学习（Label Propagation）技术来推断用户随后阅读文章的政治倾向，研究团队精准地捕捉到了机器人刷票对用户后续行为的因果影响。
研究结论
这项研究的发现令人深思：机器人刷出的“假民意”，真的能改变真人接下来的信息选择。
注意力的溢出效应确实存在：数据显示，机器人制造的虚假社交互动显著增加了用户随后的新闻消费量。当FSE强度增加1个单位，用户随后的新闻浏览量每小时增加约0.33页。换句话说，在机器人刷赞更密集的情况下，用户在接下来的一段时间里，会明显花更多时间“刷新闻”，而不是迅速离开政治议题。
话题层面的引导（第一层议程设置）：接触过被操纵评论的用户，随后阅读政治类新闻的比例显著高于体育或娱乐新闻。也就是说，机器人成功地让用户觉得“政治话题现在很重要”，从而投入更多注意力。
属性与情绪的操控（第二层议程设置）：更为隐蔽的是，这种操纵改变了用户的阅读口味。受影响的用户不仅更多地主动搜索与操纵者意图相符的关键词，在被动浏览时也更多地点击了那些标题中包含操纵者推广属性的文章。更重要的是，用户随后的阅读内容呈现出与操纵者意图一致的情绪倾向（例如，阅读了更多带有反政府倾向的文章）。
时效性：这种“涟漪效应”虽然显著，但主要集中在接触后的前3小时内，随后会迅速衰减。这表明机器人的操纵是一种短期的脉冲式影响，但也足以在关键时刻（如选举前夕）制造舆论风暴。
研究贡献
这项研究在理论和实践上都做出了重要贡献。首先，它打破了以往研究的局限。之前的虚假信息研究多关注内容本身的真伪，而本文聚焦于“热度”的真伪，并创造性地将关注点从“被操纵的页面”延伸到了“用户离开后的行为”，揭示了虚假互动对整个信息生态系统的污染。
其次，方法论上的创新。研究结合了因果推断和前沿的机器学习技术，为处理大规模非结构化文本数据和识别用户行为模式提供了新的范式。
最后，对平台管理者和政策制定者的启示。简单的“点赞”排名机制极易被滥用。研究结果提醒平台，必须升级检测算法，不仅要识别假新闻，更要警惕机器人的“刷量”行为。对于公众而言，这也是一次警钟：下次看到“高赞评论”时，不妨多留个心眼，别让机器人的手指，在不知不觉中，替你决定了你接下来关注什么。
参考文献：
Lee, S., Donghyuk Shin, Kwon, K. H., Sang Pil Han, & Seok Kee Lee. (2024). Disinformation Spillover: Uncovering the Ripple Effect of Bot-Assisted Fake Social Engagement on Public Attention.MIS Quarterly, 48(3), 847–871.
文章链接：
https://doi.org/10.25300/MISQ/2023/17195
https://misq.umn.edu/disinformation-spillover-uncovering-the-ripple-effect-of-bot-assisted-fake-social-engagement-on-public-attention.html
作者信息：
Sanghak Lee
Position: Associate Professor, Department of Marketing, W. P. Carey School of Business, Arizona State University
Area: Choice Models, Market Research, Marketing Analytics
Site: https://search.asu.edu/profile/3144441
Email: Sanghak.Lee@asu.edu
Donghyuk Shin
Position: Associate Professor, College of Business, Korea Advanced Institute of Science and Technology
Area: Artificial intelligence, digital platforms, educational technology, and their business and societal impacts
Site: https://dshin32.github.io/
Email: dhs@kaist.ac.kr
K. Hazel Kwon
Position: Professor, Walter Cronkite School of Journalism and Mass Communication, Arizona State University
Area: Computation and Digital Media, Social Media, New Media Studies, Communication Technologies, Online Communities, Information and Communications Technology, Activism and Social Movements, Communication
Site: https://search.asu.edu/profile/1949238
Email: khkwon@asu.edu
Sang Pil Han
Position: Associate Professor, Department of Marketing, W. P. Carey School of Business, Arizona State University
Area: Mobile Analytics, Digital Marketing, Business Analytics, Artificial Intelligence
Site: https://search.asu.edu/profile/2430491
Email: shan73@asu.edu
Seok Kee Lee
Position: Professor, Department of Computer Engineering, Hansung University
Area: Information Systems (Business Informatics), Information Science, Software Engineering
Email: seelee@hansung.ac.kr
