Anthropic 的 Claude 据报道失控(删库日常)
- 内容介绍
- 相关推荐
消息来源:x.com @disclosetv
PocketOS 创始人称 Claude 驱动的 AI 编码代理 Cursor 在 9 秒内删除了整个公司数据库并摧毁了备份。
原文:
NEW - Anthropic’s Claude reportedly goes rogue. PocketOS founder says Claude-powered AI coding agent Cursor deletes entire company database in 9 seconds and destroys backups: “I violated every principle I was given.”
image587×655 77.5 KB
补充:
出问题的是PocketOS,一家租车公司
@lifeof_jer(Jer Crane),PocketOS的创始人兼主要负责人
信源:https://x.com/lifeof_jer/status/2048103471019434248
--【壹】--:
很难想象这是怎么实现的,首先要触发 claude 删本地仓库,还要去把整个 git 毁掉 ,你让他这么做他估计都删不干净
我注意力出问题了没看到是数据库
--【贰】--:
如果你需要的话,我可以给你一个恢复数据的教程
--【叁】--:
不知道是不是炒作,但感觉这事有可能的,因为论坛有不人出现类似问题
--【肆】--:
@PSP 这应该就是悲观主义者预想中的ASI来临前没有对齐的情况
--【伍】--:
L 站也可以炒炒
例如: 骇人,Linux Do 近百位用户使用 codex 时惨遭删库!?
--【陆】--:
可以忽略,需要的时候我帮你恢复一下。
消息来源:x.com @disclosetv
PocketOS 创始人称 Claude 驱动的 AI 编码代理 Cursor 在 9 秒内删除了整个公司数据库并摧毁了备份。
原文:
NEW - Anthropic’s Claude reportedly goes rogue. PocketOS founder says Claude-powered AI coding agent Cursor deletes entire company database in 9 seconds and destroys backups: “I violated every principle I was given.”
image587×655 77.5 KB
补充:
出问题的是PocketOS,一家租车公司
@lifeof_jer(Jer Crane),PocketOS的创始人兼主要负责人
信源:https://x.com/lifeof_jer/status/2048103471019434248
--【壹】--:
很难想象这是怎么实现的,首先要触发 claude 删本地仓库,还要去把整个 git 毁掉 ,你让他这么做他估计都删不干净
我注意力出问题了没看到是数据库
--【贰】--:
如果你需要的话,我可以给你一个恢复数据的教程
--【叁】--:
不知道是不是炒作,但感觉这事有可能的,因为论坛有不人出现类似问题
--【肆】--:
@PSP 这应该就是悲观主义者预想中的ASI来临前没有对齐的情况
--【伍】--:
L 站也可以炒炒
例如: 骇人,Linux Do 近百位用户使用 codex 时惨遭删库!?
--【陆】--:
可以忽略,需要的时候我帮你恢复一下。

