“参考文献全是AI编的，连作者名字都查无此人！”近日，微博话题“防止DeepSeek乱编文献的方法”登上热搜，有网友利用AI工具辅助写论文时，发现AI所给的参考文献在正规的学术资料库中根本找不到，内容、标题、作者都是其虚构出来的。不少网友也纷纷晒出自己的“踩坑”经历：虚构名著中不存在的句子、乱编医学典籍中不存在的医术、“发明”历史上完全没有发生过的“史实”……看似无所不知的AI，似乎正悄然成为伪科学信息的制造源头。
当下，AI工具早已成为辅助人们学习、工作的智能帮手。即使面对专业性很强的学术难题，它也可以提供一个有数据、有出处、有引用，逻辑自洽、内容翔实，看上去科学合理的答案。然而当人们去追根溯源、验证信息真伪时，往往发现那些看似严谨的答案完全是子虚乌有。
不久前，一则“‘80后’死亡率突破5.2%”的消息刷屏网络，声称“截至2024年末，每20个‘80后’中就有1人已经去世”。这份附有翔实人口数据、死因分析的“权威报告”被众多自媒体和网友广泛转载，然而最终却被证实为谣言，其数据实为AI工具自编自造。类似事件并非个例，AI甚至还可以篡改专业严谨的司法内容。“我用DeepSeek查《中华人民共和国民法典》里一则条款，它言之凿凿地告诉我在第几章第几条，但实际上这一条的内容和它说的完全不一样，本想通过AI快速搜索一下法条依据，没想到它直接开始‘立法’了。”在太原从事法律工作的王秀妮哭笑不得地对记者说。她还提到，AI不仅会捏造法条，甚至还会编案例和判决文书。“如果这些假信息未经核查便被采信，很可能会造成严重后果。”她不无担忧地说。
记者调查发现，在医疗、法律、历史、文学等诸多严肃学科领域都曾有过AI编造、杜撰的伪科学信息，如AI提供的诊疗方案最终延误病情、荒诞的“秘史”被当作学术成果等。随着专业机构的接连辟谣，不少原本对AI工具盲目信赖的用户开始重新审视其可靠性。网友@请叫我老周就无奈调侃：“AI乱编内容真假难辨，就连查证时，它都会继续编造、自圆其说，彻底陷入‘信息套娃’，所以查专业知识还是老老实实翻书、查正规资料库吧。”
“AI对科学信息的拼接和虚构本质上与谣言无异，只不过相较于普通的谣言，它的伪装能力更强，本身就披着科技的外衣，再加上晦涩专业术语的包装，让其自带一种‘权威滤镜’，让人误以为科学可靠，极易误导公众认知。”山西工商学院传媒学院教师冯梅认为，AI既可以成为科学传播的得力助手，但也可能沦为伪科学滋生的温床。为此，她提醒广大网友，在进行学术研究或科学探索时，不能过度依赖和轻信AI软件，而应寻求科学、正规的专业机构、权威平台或者有资质的专家并进行交叉验证，规避掉进伪科学的“陷阱”。
山西日报记者王少杰
