从技术原理来看，以ChatGPT等为代表的大语言模型难以避免的“幻觉”会造成对真实性的污染。作为人工智能领域最先进的产品之一，ChatGPT在底层数据与核心技术方面均为世界领先，具备优秀的意图识别与语言理解能力，但是它因为数据质量与技术的限制，  ①  。所谓“幻觉”，指的是自然语言处理模型生成自然流畅，语法正确但实际上毫无意义，或包含虚假信息，就像人产生的幻觉一样。

这种幻觉问题导致一些网民在试用时发现，ChatGPT在交互中会生成不少的事实性错误，有时对一些简单问题也会一本正经地胡说八道。有研究者认为，尽管ChatGPT能够生成合乎语言逻辑的内容，  ②  。不过，在隔行如隔山的今天，这种似是而非的内容对非专业用户却具有极大的迷惑性。再加上随着现代科学的蓬勃发展，科学技术的先进性与权威性已经深度捆绑，并植入到了大众的脑海之中。ChatGPT因其技术的先进性，就可能应用这种认知惯性，裹挟着科学的威势，潜移默化中影响人们对特定问题的认知。可以预见，面对着大语言模型的加持，未来的虚假信息治理  ③  。