该PDF由清华大学团队撰写,聚焦AI模型(如DeepSeek)的“幻觉”现象,即生成与事实不符或逻辑断裂的内容。主要内容包括:
AI幻觉定义与成因:分为事实性/忠实性幻觉,由数据偏差、泛化困境、知识固化等引发;
案例与风险:金融、医疗等场景中的错误应用,如虚构信息、转录失真,可能导致信息污染、信任危机等;
评测与缓解:通过事实性测试对比模型幻觉率,提出联网搜索、多模型验证、提示词工程等方法降低风险;
创造力价值:在科学(如蛋白质设计)、艺术(游戏/文学创作)、技术(自动驾驶优化)中利用幻觉激发创新。
总结:AI幻觉是技术局限性与创造潜力的双重体现,需平衡风险管控与创新应用。