大模型幻觉的表现特征、效应争议及潜在价值
喻国明 金丽萍 苏芳
关 键 词:大语言模型;智能幻觉;人机协同;价值场景;温度参数
摘 要:
大语言模型的幻觉问题已嵌入内容生产与传播的每个环节,成为影响个体认知、社会分化、人机信任等的重要课题。然而不透明性、概率性与自主性作为人工智能系统的本质特征,大模型幻觉难以从技术层面完全消弭。从大模型技术底层逻辑出发,可分析大模型幻觉的定义内涵、表现特征与产生机制,并辩证看待大模型幻觉的消极影响与潜在价值。作为一种难以消解的复杂现象,大模型幻觉对于我们的挑战在于如何利用其潜在好处,同时尽量减少其消极影响。对幻觉率的容忍度应随场景而流动,温度参数的调整可在信息准确性与创意性之间进行平衡与取舍。此外,用户应提高“提示”素养,减少幻觉可能带来的负面效应,并在人机协同中最大程度地激发其潜在价值。
[PDF](下载数:)