当前的网络空间正面临一个根本且严峻的挑战:认知信任问题。生成式人工智能的广泛应用深刻地改变了互联网信息生态,使得大众在浏览信息时,不仅要面对大量深度伪造内容,还要处理海量未经审核且可能包含“幻觉”的生成式文本。这导致网络信息质量、真实性和可信度显著下降,真假难辨的信息充斥,加剧了人类的认知负担,并迫使信任门槛不断提高。
学界常提及“后真相时代”,其特点是观点、情绪甚至虚假信息在网络传播中速度和范围远超事实真相,导致客观事实被掩盖,真相的显现变得滞后。然而,与“虽晚必至”的后真相不同,在数智时代,真相可能永远无法抵达。生成式人工智能的普及带来了大量未经审辨、自带错误或“幻觉”的生成文本涌入传播领域。这些虚假信息不仅“掩盖”事实,更以高仿真形态直接“替代”真相,制造出真假难辨的认知迷雾。对于媒介素养和专业认知能力不足的群体而言,这种迷雾的负面影响尤为显著。
不久前,某自媒体博主为博取关注而策划的盲道被撞虚假报道事件,引发了广泛讨论。在此背景下,我以“真人秀的‘真’究竟是什么意思”为切入点,在思政课上引导学生探讨深度媒介化社会中“真实”的本质。通过深入讨论,学生们认识到,真人秀的“真”并非物质世界的客观真实,也非理性推理得出的逻辑真实,而是一种介于主观与客观、现实与建构之间的“媒介真实”。它包含真实参与者、真实场景等现实基础,但也高度依赖观众的情感期望和节目制作方的主观建构。
如今,我们接触到的许多信息已不再是纯粹的客观真实,也不是“眼见为实”的感官真实,而是经过媒体深度中介化的“媒介真实”。媒体在信息的筛选、加工和认知过程中扮演着关键角色。
然而,这种经过媒介技术中介化的真实存在潜在风险。以真人秀为例,节目常以“真实”为卖点,利用真实人物和场景,却掩盖了剧本策划、镜头选择、后期剪辑和人为引导等加工过程,使观众误以为所见内容是参与者最自然、未经修饰的表达。
数智时代的到来进一步加剧了这些风险。大语言模型凭借其严谨的逻辑、流畅的文本和系统化的表述,为用户营造出“专业、真实、可信”的观感。然而,技术逻辑驱动的信任机制并不能完全保证内容的真实性。许多用户默认大模型生成的内容真实可靠,却忽视了其本质是基于现有知识库的概率性预测,而非对客观事实的精确还原,因此可能出现“幻觉”和错误。若不加甄别地将大模型内容纳入认知体系,不仅会助长虚假信息传播,还可能混淆价值判断,侵蚀社会共识的基础。
大模型的普及催生了生成式文本的爆发式增长,但并未同步提供有效的信任技术来保障其内容的真实性。
信任的建立始终以“真实”为核心判断标准。为应对数智时代的认知信任危机,我们迫切需要构建一个多维度、立体化的信任结构。这不仅要发挥技术信任的创新作用,还要重视制度信任的保障功能,更要强调人格信任的基础性作用,从而真正摆脱深度媒介化所构建的认知迷雾。
在思政课上,我与同学们深入探讨了适应数智时代的信任结构。首先,应通过信任技术来强化技术信任。数智时代的信任危机,既源于大模型本身的不完善,也与缺乏可验证、可追溯、可审计的信任技术体系密切相关。我引用了今年央视“3·15”晚会曝光的“数据投毒”案例,指出生成式引擎优化(GEO)本是提升信息可信度的正面技术,却因监管缺失被滥用。未来,需要建立覆盖模型训练、内容生成、传播分发的全链条信任技术标准,构建GEO可信传播机制,确保大模型生成内容的每一个环节都可验证、可追溯、可信任、可担责。
其次,应通过制度信任来保障社会信任。社会学家卢曼认为,信任是一种简化机制,能提升复杂社会的运行效率。制度信任,以协议、契约、法规等为依据,为社会行为和信息的真实性提供兜底。未来,应将生成式文本的真实性要求提升至具有约束力的法律原则、监管义务、程序规则和责任后果层面,强化人工智能生成内容的“标记”要求,普遍建立可信内容标识体系,重塑公众对生成式人工智能的社会信任基础。
最后,要筑牢人格信任的底线。人格信任是最原始、最基础的信任机制,也是所有信任的前提。这种基于人格的信任,源于长期互动或对专业知识的熟悉和推理,深植于人类认知心理结构之中。
面对数智时代的信任危机,个体尤其需要依靠人格信任来构建稳定的信任结构,打牢个人信息甄别和真伪判断的根基。面对海量网络信息,要学会不盲从、不轻信,善用理性思维和专业知识进行甄别核查,精准识别错误、虚假信息或谣言,避免被媒介技术构建的“伪真实”所误导。
在思政课堂上深入讲解信任的社会结构,有助于引导学生系统、深刻地认识数智时代的信任危机,并提升其识别错误或虚假信息的能力。课后作业和反馈中,许多同学结合生活实例,深入探讨了媒介真实的利弊,明确了面对网络信息(尤其是生成式文本)时,必须保持严谨审慎、主动甄别、理性判断的态度。
这套关于信任的解释体系,为破解认知信任危机、重建适应数智时代的认知信任结构,提供了切实可行的解决方案。
(作者系复旦大学马克思主义研究院副院长、副教授) 李凌 来源:中国青年报 2026年07月13日 07版
05 条精彩评论
幕后花絮
2024年5月16日 10:00
精彩永不落幕!
赛场趣闻
2024年5月17日 18:30
精彩永不落幕!
运动达人
2024年5月18日 09:45
精彩永不落幕!
观赛心得
2024年5月19日 20:00
精彩永不落幕!



球迷故事
2024年5月15日 15:12
精彩永不落幕!