人工智能前沿技术解读 · 按栏目浏览全部文章

寻想集团-超级人工智能有限公司全部文章

你的技术前沿之旅,从这里开始

大模型生成重复内容:先检查哪几处来源

重复可能来自解码设置,也可能来自输入和任务设计。

昏暗的服务器通道,两侧机柜指示灯向远处延伸,其中一格亮着暖黄色指示灯。
大模型基础设施场景示意。

一、先判断重复的类型

模型原样复制用户材料、循环同一句话和反复表达相近观点,是三种不同现象。摘要任务中的少量引用可能正常,长文末尾的循环则可能与停止条件有关。先保留完整请求、实际输出和结束原因,再决定是否调整重复惩罚;一味提高惩罚也可能破坏术语、数字和专有名词。

二、检查输入中的回声

多轮历史可能已经包含相同回答,检索结果也可能重复收录同一段。把这些内容全部塞进请求,会放大模型再次复述的倾向。尝试去重资料、缩短无用历史,并明确要求每个小节回答不同的问题。文章要以实质信息区分章节,而不是仅换一个标题重复结论。

三、设置可验收的出口

明确最大输出长度和停止条件,记录是否因为长度耗尽而没有自然结束。对生成文章检查连续重复片段,对代码则不要盲目删除相似行。若调整参数后重复减少但关键内容缺失,应恢复原设置,改用分段生成与逐段审核,把质量判断放在可观察的输出上。

延伸阅读

Transformers 生成策略官方文档:https://huggingface.co/docs/transformers/generation_strategies 。资料供核对相关基础概念;本文流程建议需结合具体任务验证。