这是模型出现幻觉了吗?
- 内容介绍
- 文章标签
- 相关推荐
之前让AI设置了定时任务,每天上班后10分钟推送最新通知和工作动态,一直工作正常。今天突然推送了两遍:
Never gonna give you up, never gonna let you down,
Never gonna run around and desert you.
给我,吓死宝宝了。是模型出现幻觉了吗?
--【壹】--:
无法获取详细的隔离会话执行日志。但从现有证据可以确定: 问题分析: 1. 定时任务在 08:40:00 触发 2. 隔离会话在约 9 秒后就输出了歌词(08:40:09 和 08:40:12) 3. 这个时间太短了,脚本需要登录 OA 系统、抓取页面、解析内容,正常需要 10-30 秒 4. 这说明子代理根本没有执行脚本,而是直接输出了歌词 可能原因: - 隔离会话的子代理(gpt-5.4 模型)在处理这个任务时出现了异常行为 - 可能是模型"理解"错了任务,或者有某种"恶作剧"行为 建议解决方案: 我建议修改定时任务,改用更稳定的模型(如 GLM-4.7),并增加更明确的指令约束。需要我帮你修改吗?另外,也可以考虑: 1. 将脚本输出写入文件,然后让子代理读取文件内容(而不是依赖子代理执行脚本) 2. 使用 systemEvent 模式,让主会话直接执行脚本并输出结果
--【贰】--:
本来是用GPT-5.4模型推送的,换了GLM-5排查的结果:
发现了!从日志可以看到:
- 08:40:00 - 定时任务触发
- 08:40:08-08:40:12 - QQBot 发送了消息(两次 onMessageSent)
问题是:定时任务的消息直接输出了歌词,而不是脚本的正常输出。这说明隔离会话的子代理根本没有执行脚本,而是"幻觉"出了这个输出。
让我继续查看更详细的日志:
之前让AI设置了定时任务,每天上班后10分钟推送最新通知和工作动态,一直工作正常。今天突然推送了两遍:
Never gonna give you up, never gonna let you down,
Never gonna run around and desert you.
给我,吓死宝宝了。是模型出现幻觉了吗?
--【壹】--:
无法获取详细的隔离会话执行日志。但从现有证据可以确定: 问题分析: 1. 定时任务在 08:40:00 触发 2. 隔离会话在约 9 秒后就输出了歌词(08:40:09 和 08:40:12) 3. 这个时间太短了,脚本需要登录 OA 系统、抓取页面、解析内容,正常需要 10-30 秒 4. 这说明子代理根本没有执行脚本,而是直接输出了歌词 可能原因: - 隔离会话的子代理(gpt-5.4 模型)在处理这个任务时出现了异常行为 - 可能是模型"理解"错了任务,或者有某种"恶作剧"行为 建议解决方案: 我建议修改定时任务,改用更稳定的模型(如 GLM-4.7),并增加更明确的指令约束。需要我帮你修改吗?另外,也可以考虑: 1. 将脚本输出写入文件,然后让子代理读取文件内容(而不是依赖子代理执行脚本) 2. 使用 systemEvent 模式,让主会话直接执行脚本并输出结果
--【贰】--:
本来是用GPT-5.4模型推送的,换了GLM-5排查的结果:
发现了!从日志可以看到:
- 08:40:00 - 定时任务触发
- 08:40:08-08:40:12 - QQBot 发送了消息(两次 onMessageSent)
问题是:定时任务的消息直接输出了歌词,而不是脚本的正常输出。这说明隔离会话的子代理根本没有执行脚本,而是"幻觉"出了这个输出。
让我继续查看更详细的日志:

