晚上好,我是蓝色蒜头。欢迎来到短播客第 102 期。
垃圾信息
播客 101 期里,蒜头说过,现在是一个信息更加爆炸的时代。很不幸,多出来的一大半信息,都是各种各样的垃圾信息。可是,如果把每个人的注意力看成一种资源,这种资源并没有明显的增长。
有限的注意力和有限的时间,要投入到不同的信息上。一旦你意识到了这样的捉襟见肘和力不从心,开始逐渐觉得这是一种困境,你对垃圾信息就会开始产生痛恨。
垃圾信息有很多种,让我来简单划分的话:「低水平的讨论」以及「歪曲现实的议题设置」是最常见的两种,也是蒜头在往期播客谈论过的两种。当然,还有其他的很多种。
「垃圾信息」在目前并不是一个有普遍衡量准则的概念,但是对于每个个人而言,要判断什么是「对于自己而言的垃圾信息」则相对较为简单。蒜头认为,对于我自己而言的垃圾信息,通常会有以下三种类型:
- 第一,除了引发我的情绪之外,实际上对我没有任何实践帮助和认知提升的信息。比如那些和我没有任何关系的娱乐八卦,网红趣闻,莫名其妙出现在热搜榜上的很多关键词。哪怕这些信息引发的情绪不是反感、愤怒,而是觉得好笑、欢乐,也同样是在耗散注意力。
- 第二,经过验证之后,假的、错误的、与事实冲突的、或者无法对应到事实线索的信息。这种信息大家应该见的不少了,每过一段时间,就会有一些谣言被揭穿。前几天的某个用剧本来伪造事实,并且遭到行政处罚的案例,就是属于这种类型。
- 第三,结论导向性过于强,过程论证过于少,同时又有很多人在做简单重复发布的信息。大部分的「议题设置」都属于这种类型。
这里对于「垃圾信息」的判断标准是狭义的。其实就和营养学上对于「垃圾食品」的判断有相似的地方。
「垃圾食品」可以很好吃,可以很顶饱。但是因为它缺乏大量的必须营养要素,在一个长期的饮食过程里,盲目的提升「垃圾食品」在整个饮食习惯中的占比,会让人变得不健康,甚至生病。
「垃圾信息」同样可以很有趣,可以很打发时间。但是因为它缺乏大量的必要思维认知要素,在一个长期的信息关注过程里,盲目的放任「垃圾信息」在整个关注过程里的占比,会让人的思维结构和实践方法都出问题,相当于变得不健康。
「垃圾信息」的判断,是对于注意力投入回报比的判断,而不是对于其他信息特征的判断。哪怕这些信息本身是欢乐的,是善意的,是不图名利的,是无伤大雅的,只要从结果来看,它大量的浪费了 很多人的注意力,而不产生相应的认知价值,就可以被定义为垃圾信息。
上面的这些论述、比喻、如果让你感同身受,或者认可部分逻辑。那么可以继续听我聊接下来的内容。
研究论文
前几天,蒜头看到了一篇来自心理学领域的研究论文。发表于 2022 年年底。从过去整个 2023 年的实际情况来看,论文中提到的现实因素正在加剧发展。或者换一个角度说,论文提供了一定的前瞻性。同时,论文中对于信息认知的一些建议,也和蒜头的一些思路比较接近。今天就来简述这篇论文的内容。
论文的标题是:Critical Ignoring as a Core Competence for Digital Citizens,翻译过来可以是「批判性忽略是数字化公民的核心能力」。Digital Citizens 数字化公民这种说法,比较偏西方叙事,我会辩证的理解;而其他的部分:「批判性忽略是核心能力」这一点,我非常赞同。
文章首先提及了垃圾信息的成因,主要包括以下两点:
- 首先,大量新增信息来源不明、缺乏传统的可信度指标。用蒜头平时的话来说,就是公共信息场域缺乏准入机制以及缺乏价值衡量机制;
- 其次,虚假信息和阴谋论泛滥。论文以美国为主要背景,罗列了一些相关案例和相关政策响应。实际上这个问题在各国都 普遍存在,而且有各自不同的复杂原因;
因为这些因素在短时间内很难消除,而且目前实际上在不断加剧,垃圾信息泛滥的趋势,至少在当下还会延续。论文中则提到,因为这种现实,「无情的信息流将人类的注意力变成了一种稀缺资源,被广告商和内容供应商夺取和压榨」
实际上每个人的注意力都有各自的独特价值,其实你比你想象的重要很多。但在现在的当下,这些注意力价值却没有被所有者重视,而被其他人有目的的侵占和征用。原文中用的形容词是:「expropriated」
文章的中心观点在于:过去一直以来,在思维方法论上所强调的「批判性思维」(Critical thinking) 可能已经不够用了,并且会被有心之人反过来利用,以某种诱饵来侵占他人的注意力。因此,现在应该去践行的一种新做法是「批判性忽略」(Critical Ignoring)
批判性忽略
人类对于「有用信息」的判断和选择,构成了人类认知的核心。这种判断和选择的依据,有生物进化上的因素,也有历史发展中沉淀的因素。但不管怎么样,现在的「注意力经济」「流量经济」「网红经济」「热度理论」其实全都是在刻意利用这种下意识的判断的和选择。
在蒜头来看,这里会有一个简单的理解分歧:
第一个理解方向:如果相信这种「信息选择模式」来源于人的不可变的、至少是短期不可 变的的动物性,那么这些「流量经济」的逻辑就会在我们存活于世的时间内长期成立,故事一直能讲通;
第二个理解方向:如果相信这种「信息选择模式」来源于人的可变的社会性,那么这些「流量经济」的逻辑基础,就会在多数人的思维方式变化抵达一个临界点时,遭到挑战,甚至出现崩溃;
在蒜头的世界观里,人因为社会性而具有进步性,因此我会倾向于第二个理解方向。
回到这篇论文上,论文对于因为「流量经济」而产生的「不良信息」做了不少的衍生探讨以及高密度的举例。围绕注意力这种资源,许多人正在做的事情,已经从开始的适度吸引,变成了恶性的彼此抢夺。这种抢夺已经逐渐进入了由大量的工具和方法论来驱动的阶段。
蒜头看来,如果这篇论文的作者在 2024 的当下再次观察,就会发现,生成式 AI 已经加入了这个注意力恶性抢夺的工具箱。不过这个也并不影响他们整体的结论,也就是:为了应对当下的注意力劫持,应该把「批判性忽略」加入信息管理的习惯里。
「批判性忽略」和一般意义上的忽略有一定的区别。一般来说的忽略,通常是因为没有注意到,不感兴趣,不懂,而去忽略,这种忽略是被动的,或者说下意识的。
而「批判性忽略」不同,它更强调意志和理性决定的忽略的主动性:
- 即使各种平台的热搜榜都在聊这些信息,即使很 多朋友转发这些信息,即使这些信息直接拍到我脸上。我不可能注意不到,但我仍然选择忽略;
- 即使我对这些信息很感兴趣,即使我知道点进去看能找到一些乐子,我对它可能感兴趣,但我仍然选择忽略;
- 即使我对于这些信息的领域擅长,了解,可以深入探讨,但我仍然选择忽略;
我选择忽略的原因,不是因为「没有注意到、不感兴趣、不懂」,而只是因为「信息质量低」,并且我还没有饿到饥不择食的程度,所以我选择忽略。
信息的重要性和价值,由我自己决定,而不是由各种信息平台替我决定。
这就是蒜头理解的「批判性忽略」。
行动策略
围绕这个概念,论文给出了三种行动策略。三种策略分别对应不同的垃圾信息模式。以下蒜头分别来进行简介和适当的解读。
self-nudging - 自我推动
第一种策略是「self-nudging」可以译为「自我推动」。
这种策略针对的垃圾信息目标是:情绪化的信息、煽动性的信息、吸引人点进去的标题党信息,可以统称为「趣味型垃圾信息」。
这种策略带来的收益是:更好的自控能力,减少对着屏幕的时间,以及提升幸福感。
实践方法上,不要太依赖于 人本身的意志力,而是采用以下几种方法:
- 环境隔离的方法。如果用生活习惯来举例,这种做法就好比把零食放在比较不容易拿到的地方,这样就不会想着总去吃它。用在信息处理上,把手机调成黑白,把一些社区应用程序放在更靠后的屏幕,都是可行的做法。
- 时间限制的方法。例如规定好什么时间才去看这些内容,而其他时间不去看。在蒜头看来,这种做法在一开始的成败,主要在于要在一天内留出一些余地,而不是一上来就完全屏蔽,那样很难坚持下去。
- 转变内在奖励的方法。很多情况下,对于趣味垃圾信息的依赖,是因为习惯于把这种垃圾信息作为奖励,例如「工作累了就去看一看」「烦了就去看一看」。这种把垃圾信息当做奖励的心态会带来持续的依赖。需要找到其他的一些事情作为同样情境下的奖励,例如「工作累了就去散散步」「烦了就去画画或者锻炼」。在你觉得有必要给自己一些小奖励的时候,不把这些垃圾信息作为奖励,而是替换成其他事物。
如果有值得信任的,可以听你倾诉的朋友,也可以把和这样的朋友的聊天作为一种奖励。但不是每个人都有这样的机会。蒜头希望大家都能找到这样的朋友。但人各有缘,实在没有,也接受事实,努力练习个人排解。
Lateral reading - 横向阅读
第二种策略是:「Lateral reading」可以译为「横向阅读」。
这种策略针对的垃圾信息目标是:虚假信息、误导信息、伪装成科学 的伪科学,倾向性过于明显的议题设置,有名人代言或者背书的理论、观点或者产品、钓鱼网站,等等。可以统称为「错乱型垃圾信息」。
这种策略带来的收益是:提高对信息可信度的判断。用蒜头的说法来说,帮助你更好的去做信息溯源。
实践方法上,需要配合搜索引擎等工具,进行以下几个步骤:
- 首先不要急于深入思考,也不要急于按照信息的引导去深入阅读。这种阅读模式就是「垂直阅读」。首先跳出这个信息来源,优先关注这个信息的背后是谁,真正的来源是哪里。这种模式就是「横向阅读」。
- 这个过程可以利用搜索引擎,或者各种公共平台的内容搜索,过程之中,最好能找到同样的信息的其他来源。
- 在这之后,根据搜索结果,进行快速的理解和比对。如果存在多个来源对于信息的论述是一致的,那么可信度会适当上升。如果不同信息源对于信息的描述各自不同,有所矛盾;或者找不到合理的信息来源,或者是不具名的单一信源,那么最好就不要再浪费时间。
这种思维的逻辑基础很简洁,其实就是「一面之词并不可信」,需要多来源交叉验证。蒜头在这里需要补充的是,这种方法比较有效,但也有局限性。
如果是来自于第一现场突发事件信息,很可能在你看到的时间点,还缺乏其他的信源来验证。此外,很多时候,哪怕有多个信源说法一致,仍然会有集体做议题串通的可能。这些都是信息世界的复杂性,而这种复杂性在接下来的几年还会更加加剧。
蒜头播客第 76 期《如何做好信息溯源》里,也聊过类似的话题。这种「横向阅读」的策略,可以作为一种补充实践。
Do not feed the trolls - 不要奖励喷子/杠精
第三种策略是:「Do not feed the trolls」翻译的话,要考虑中英文互联网的具体用语。
trolls 的原意是西方奇幻故事里的一种常见生物,一般翻译成「巨魔」。在互联网公共信息领域「trolls」,对应到中文互联网则一般可以是「喷子」或「杠精」或「某某小鬼」。就是那些以争论、吵架、制造混乱为乐,并且以身处混乱中心为荣的人。
这类人的行为,以及由于这类人的行为而产生出来的垃圾信息,就是这种策略要针对的目标。可以统称为「争吵型垃圾信息」。
这种策略带来的收益是:减少网络对于我们彼此带来的伤害,以及减少负面的体验。利己,同时利他。
这个策略的实践方法,其实比前两个策略都要简单,就是「不要理这些人」。
- 不要和他们进行互动,无论是争吵、攻击、辩论、说服、教化哪一种互动都不要去做。有的人可能会以「啊对对对」「你说的都对」作为回复,不过蒜头看来,连这种回复都可以没有。
- 不要因为这些人让你分心,不要影响你的注意力。有时候,虽然你并不会去回复他们。但是他们的那些言论放在评论区里会很扎眼,每次路过都会看到,让你很难受。这一点是需要去克服的障碍。
- 如果实在难受,那么也可以进一步的去处置这些信息。如果是你的地盘,比如你的视频下面,能删除这些回复,就删除。不是你的地盘,你就把这些人拉黑。但是,你迟早会遇到,有人会不离不弃的开别的号不停发新帖来烦你,一定要做好心理准备。如果是别人的地盘,甚至就是在喷子和杠精自己的地盘,他要发这些信息,你也确实拿他没什么办法,那就只能躲着了。
论文里还有一条建议是向平台举报。蒜头同意这个建议的动机,但是对于平台举报和平台处理这件事情,不应该期望太高。比较明显的人身攻击,或者太直接的脏话,可能处理的会比较快。
但是,无论在哪个平台,TYB / Twitter / 微博 / 抖音 / B 站 …… 等等,但很多定位模糊的内容,是否会被处理,处理结果如何,都取决于平台本身对于信息倾向的理解,以及处理的当事值班人员或者无人值守的信息过滤算法的倾向。
在公共平台,喷子和杠精的问题,长期以来只能动态平衡,而事实上不可能建立统一的准则。况且,如果平台本身即信奉「注意力经济」「流量经济」,它们对于这类人甚至是可以放任和鼓励的。这样的人以及他们的账号、频道在每个平台可能都会被养大,大到比多数人的粉丝要多,流量要大。
对于这一点,论文作者援引了 2022 年 4 月 在 ACM 网络科学会议上的另一篇报告,其中提到:2021 年 2 月到 3 月期间,在 facebook 和 twitter 上发布的反疫苗内容,有 65% 仅仅来源于 12 个源头账号。多数的账号只是在参与争论和转发。
对于很多错乱信息,如果进行类似的调查研究,可能可以得出比较接近的一些结论。在这个过程里,平台对于「流量经济」的追求,以及多数思维方式没有来得及调整的用户,以「忍不住的回复」和「忍不住的批评」共同完成了对这些账号的奖励和喂养。
如果把这些特殊账号看成 RPG 游戏里的敌人。你的所有攻击都对他们无效,反而会导致他们的等级上升。目前唯一的办法只是不去互动,他们才有机会慢慢消亡。多数人在这场游戏里,需要学会这种依赖耐心的「战斗策略」。
这也就是为什么在蒜头看来,第三个策略最简单也最难,简单是因为它相比于前两个策略更容易实施。难也是因为它相比于前两个策略见效更慢,缺乏立竿见影的效果,容易让人气馁。
局限性
这篇论文的篇幅比较短,论文的最后提出,应该把「批判性忽略」作为一种新的范式,加入到整个教育体系里。这一点蒜头比较认同,但也很不乐观。现在的教育体系(这里我说的不局限在某个具体国家地区),欠缺的内容其实并不少,基础的「逻辑」「审美」甚至往往都不包括在通识体系之内。为了应对智能时代,教育体系要加入的概念还有非常多。
论文成文于 2022 年,而在 2024 年的当下,由于生成 式 AI 在互联网信息制造方面已经基本普及和开始泛滥。这几条策略已经都开始出现局限性。蒜头在这里做一些简单的补充:
针对「自我推动」策略,这两年的新变化是:
互联网在趣味性方面会更加丰富,目前的简单粗暴生成式 AI 工作流,非常擅长在降低信息质量的同时,提升信息对于特定人群的趣味性。换言之,诱惑在变大。
而且,为了推广生成式 AI,很多商业故事会建立在「注意力经济」「流量经济」的基础上,把相关的实践解读成具有天然的正义性和合理性,把对少数人而言的商业价值,错误的偷换概念为对整个社会而言的信息价值,以扰乱价值观,来瓦解人们的自我推动。这一部分,以后有机会我会更深入的展开。
针对「横向阅读」策略,这两年的新变化是:
许多「错乱型垃圾信息」的创造者,已经开始大规模利用 AI 进行造假,加强信息内部的可交叉验证性和逻辑一致性。这一点甚至已经蔓延到了科技论文里,让传统的审稿者难以分辨。一些已经建立起来的「横向阅读」习惯、「信息溯源」习惯,在许多人为创造的多信源的组合攻势下,会失效的非常快。
针对「不要奖励喷子/杠精」的策略,这两年的新变化是:
很多 喷子和杠精已经不是真人,而是由 AI + 脚本程序控制它们的发言时间、场合、内容的某种自动化智能体。在初期,这类智能体可能还会被一些钓鱼关键词揭露真面目。但蒜头可以保证,模型的语言理解力会越来越丰富,这一点很快能克服。仅靠我们的通常认知会很难区分。
并且,很多平台已经默许了这些账号的存在甚至在暗中鼓励,把因它们而形成的可量化指标,整合到自己的商业故事里。这也就是为什么我前面会说,不要对于平台举报和平台处理这件事情有太高的期望。
但我自己仍然会,以及我仍然希望大家去执行举报过程。处理不处理是他的事,举报不举报是我的事。我是主动的人,那么就做好我的事。这也是一种「但行好事,莫问前程」。
结尾
以上是对于「批判性忽略」这个思维实践方法的简介。它是一个在智能时代比较好的思维基础。但如果仅此而已,则远远不够。「批判性忽略」是一个总则,围绕这个总则衍生出来的策略,包括论文里提到的这些策略,可能随着情况的变化,效果会变低。
我们需要围绕这个总原则去不断的优化策略,以及一定要借助 AI 手段帮助我们筛选、过滤、整理提取信息。这是一场已经引入了新要素的斗争,每一个人都不可能躲得掉,必须去面对。
这一期就聊到这里。祝大家进步,拥有顺利的一天,再见!
延伸阅读
- https://app.xinhuanet.com/news/article.html?articleId=4a7539e25204504ca59b8c16aee5d34f
这一期提到的行政处罚案例 - https://journals.sagepub.com/doi/10.1177/09637214221121570
Critical Ignoring as a Core Competence for Digital Citizens
这一期提到的论文 - https://dl.acm.org/doi/fullHtml/10.1145/3501247.3531573
The Disinformation Dozen: An Exploratory Analysis of Covid-19 Disinformation Proliferation on Twitter
这一期提到的「仅仅 12 个账号制造了 65% 的反疫苗内容」的来源 - https://www.nytimes.com/2024/03/29/opinion/ai-internet-x-youtube.html
A.I.-Generated Garbage Is Polluting Our Culture
这一期提到的「人工智能对于论文写作的污染」的来源
修订
- 初稿:2024-04-19
- 二稿:2024-04-20

