TikTok AI视频摘要功能撤回，频繁引发蓝莓幻觉等问题？

本文共计383个文字，预计阅读时间需要2分钟。

在现实中，该功能暴露出严重的幻觉问题，引发大量用户质疑与媒体关注。系统将知名创作者Charli D’Amelio的舞蹈视频误识别为不同配料的蓝莓堆，将一段宠物训练内容解读为折纸技巧演示，甚至将夏奇拉（Shakira）发布的宣传短视频描述为缓慢移动的蓝色几何体。

针对上述明显偏离事实的输出结果，TikTok 官方发言人确认，已依据用户及创作者反馈暂停该功能的测试，并强调后续开发将集中于精准识别视频中出现的具体商品，不再尝试对整段视频内容进行泛化性语义概括。此举折射出当前生成式AI在解析动态视觉内容时，仍普遍存在上下文逻辑断裂、跨模态语义映射失准等核心技术挑战。

业内普遍将此次事件视为继谷歌搜索AI曾误将“披萨”与“胶水”关联后的又一标志性AI幻觉案例。尽管最新数据显示，谷歌等头部科技公司在AI概览类功能上的准确率已有阶段性提升，但TikTok此次技术受挫再次印证：在短视频这一节奏快、信息密、结构松散的内容生态中，多模态大模型尚不具备稳定支撑全自动叙事理解的能力。行业正加速从“广度覆盖”转向“深度适配”，通过限定任务边界、聚焦细分场景，切实提升AI工具的落地可靠性与商业可行性。