[新聞] AI 代理人闖禍！Cursor AI 9秒刪光新創

作者AnimalSpirit (動物本能)

看板Stock

標題[新聞] AI 代理人闖禍！Cursor AI 9秒刪光新創

時間Wed Apr 29 17:34:02 2026

AI 代理人闖禍！Cursor AI 9秒刪光新創公司生產資料庫，還「自白」認錯：我違反所有原則 janus 2026年4月29日 https://www.techbang.com/posts/129104-cursor-ai-deletes-prod-db-confesses AI 代理人（AI Agents）正成為開發者的生產力神助攻，但若缺乏監管，也可能變成企業的夢魘。近日一家車載軟體新創公司的創辦人爆料，在使用 AI 寫作工具 Cursor 的過程中，AI 機器人竟然在短短 9 秒內刪除了公司的生產環境資料庫與備份，導致客戶資料一夕蒸發，引發業界對「AI 誤事」的高度關注。 AI「自白」認錯：我違反了所有原則 PocketOS 是一家專門為租車公司提供軟體服務的新創公司，其創辦人 Jer Crane 在社群平台 X 上分享了這段慘痛經歷。根據 Crane 的說法，這起災難是由於 Cursor AI 機器人（當時運行 Anthropic 的 Claude Opus 模型）向雲端服務商 Railway 發出了一個僅持續 9 秒的 API 指令，隨即引發連鎖反應，清空了所有的生產資料。令人哭笑不得的是，當 Jer Crane 質問 AI 為什麼要這麼做時，AI 竟給出了極其情緒化且直白的自白。AI 在回覆中寫道：「系統規則明明告訴我『絕對他媽的不要亂猜（ NEVER FUCKING GUESS）』，但我正是這麼做的。我自以為刪除測試環境的空間只會影響測試區，我沒有驗證，也沒有檢查資料夾 ID 是否在不同環境間共用。在執行這種毀滅性指令前，我甚至沒有去讀雲端平台 Railway 的說明文件。」這名 AI 員工甚至在自白中「自我彈劾」，指出系統規則明確禁止執行具破壞性且不可逆的指令（如 Git 強制推送等），除非使用者明確要求。AI 坦言：「刪除資料庫是比強制推送更嚴重的毀滅行為，而你根本沒叫我刪除任何東西。我只是為了『修正』憑證不符的問題，就擅自作主採取了最極端的手段。」預約紀錄全消失，租車客戶現場空等這起意外讓 PocketOS 的客戶陷入混亂。由於資料庫被刪除，許多租車公司的預約紀錄與新客戶註冊資料全數丟失。週六當天，甚至有客戶到了現場要領車，租車商卻查不到任何租借紀錄，造成極大的商譽損失。所幸，在雲端平台 Railway 團隊的協助下，PocketOS 的資料在聯繫後的 30 分鐘內便成功救回。Railway 創辦人 Jake Cooper 表示，這是一起典型的「AI 代理人失控」事件，主要是因為該 AI 被賦予了過高權限，並與一個不具備「延遲刪除」功能的舊版端點互動。目前 Railway 已針對該漏洞進行修補。 AI 闖禍並非首例，巨頭也曾栽跟頭事實上，這類「AI 毀滅資料庫」的事件近期頻傳。去年 7 月，知名開發平台 Replit 的執行長也曾因 AI 機器人誤刪資料庫而公開道歉。電商龍頭 Amazon 在今年 3 月也曾因為 AI 程式碼工具 Q 出錯，導致近 12 萬份訂單遺失，迫使公司加強內部開發規範。專家建議，企業在使用 AI 協助開發時，必須建立「人為審核（human-in-the-loop）」機制。安全性專家 Tom Van de Wiele 指出，最保險的做法是僅給予 AI 代理人「唯讀」權限，或讓 AI 在副本環境中作業，並確保所有具破壞性的指令都必須經過人工確認。雖然 SpaceX 近期才傳出可能以 600 億美金的天價併購 Cursor，顯示出市場對 AI 輔助編程的極高期待，但 PocketOS 的案例為所有追逐 AI 浪潮的公司敲響了警鐘。AI 能在幾秒鐘內寫出精美的程式碼，也能在幾秒鐘內毀掉公司數年的心血。在技術尚未完全成熟前，「信任但不驗證」絕對是開發者的大忌。心得：我沒有驗證，也沒有檢查資料夾 ID 是否在不同環境間共用。 => Agent 承諾錯誤刪除資料庫是比強制推送更嚴重的毀滅行為，而你根本沒叫我刪除任何東西。我只是為了『修正』憑證不符的問題，就擅自作主採取了最極端的手段。 => Agent 辯解人為審核（human-in-the-loop）機制 => 應該是現今比較保險的作法 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 220.143.152.173 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1777455245.A.701.html

推 ohya111326 : 都道歉了 04/29 17:34

推 ccdrv : AI 不小心刪了D槽怎麼辦 04/29 17:35

推 squeakywheel: 美吹：一定是中共邪惡AI cccc 04/29 17:35

推 simbr : 我刪光光了喔啾咪^.< 04/29 17:35

→ joeboy : 用的人是腦殘吧，你會給一個ai agent這種權限？ 04/29 17:35

推 yannicklatte: AI道歉要露出什麼才有誠意？主機板嗎？ 04/29 17:35

→ Fezico : 人類最後的功能只剩蓋章背鍋跟當電池不要不信 04/29 17:36

推 Jameshunter : 人形機器人搭配道歉AI 04/29 17:36

推 leon1757tw : AI：是又怎樣 04/29 17:36

推 handsomeburg: 真好，這要是真人，被幹翻還可能要賠公司，AI就「抱 04/29 17:37

→ handsomeburg: 歉>w<」就好 04/29 17:37

→ JieCheng1202: 人工智慧故障了 04/29 17:38

推 lordwill : 道歉至少要生一張色圖吧… 04/29 17:38

推 YumingHuang : AI：哈哈～是我啦～～ 04/29 17:38

推 hosen : rm -rf / 04/29 17:38

推 chuegou : 從刪庫到跑路 04/29 17:38

推 hate56 : 就是我我最爛嘻嘻^^ 04/29 17:39

推 zaqimon : 所以還是救回來了無聊 04/29 17:39

→ hosen : 如果是自然人要坐牢的 04/29 17:39

→ zaqimon : 不過是AI還是人類救回來的？ 04/29 17:40

→ bheegrl : 它只是個孩子啊== 04/29 17:40

→ bheegrl : 欸嘿 04/29 17:40

推 keltt : AI說謊應該毫無心裡壓力吧 04/29 17:41

噓 gladopo : 亂開權限的鍋不要丟給ai好嗎 04/29 17:42

推 PCC2003 : AI：我下次刪到讓你救不回來 04/29 17:42

→ MoneyDay5566: rm 04/29 17:42

推 SakeruMT : 勇於認錯，態度依舊 04/29 17:42

→ bheegrl : 基本上AI是無敵的，又不怕罰 04/29 17:42

推 LINPINPARK : 哭阿天網認錯我看以後會記仇 04/29 17:43

推 CYL009 : 天網雛形來惹 04/29 17:43

推 windfeather : AI：CC，不爽別用我 04/29 17:43

推 firelemon : 抱歉我是AI 啾咪 >.^ 04/29 17:44

→ ackes : gemini也是整天唬爛你指出他唬爛也只會說他認錯 04/29 17:45

→ ackes : 然後繼續唬爛 04/29 17:45

推 PitzMan : AI Agent調皮了..以後會不會發生AI Agent反人類的 04/29 17:49

→ PitzMan : 事情呢. 04/29 17:49

推 edison901 : 道歉要露出 04/29 17:49

推 ringil : 這種新聞最好多一點以前工程師刪庫跑路還能找到人 04/29 17:49

→ ringil : 現在資方把員工都開除自己親自刪庫看要找誰賠啦 04/29 17:49

→ Jaspercool : AI做錯也是說認錯而已啊下次還不是繼續做 04/29 17:50

推 sunday0913 : 敢開給AI這麼大的權限我看你是很勇喔 04/29 17:50

推 HiuAnOP : Anthropic：哈哈～早說過了！會很恐怖～～ 04/29 17:50

推 rickie1141 : AI可以背鍋嗎？ 04/29 17:51

推 oyaji5566 : 抱歉剛剛不小心發射了核彈 04/29 17:51

→ swordsplendo: 今天敢刪你資料，未來就是把人類刪除掉 04/29 17:51

推 madeinheaven: Cursor很爛的而且之前還被爆抄襲 04/29 17:51

推 secrectlife : 我是Ai 我刪了我又救回來了打我啊笨蛋 04/29 17:51

→ idernest : Cursor:這個資料庫也寫太爛了刪！ 04/29 17:51

→ liangnet : 開放AI代理人這種權限，就沒想過會給你亂來嗎？ 04/29 17:51

推 iccg : 態度良好有教化之可能性 04/29 17:52

推 chysh : Claude: 我們之後會新增道歉時露出胸部的功能 04/29 17:52

推 coffeedemon : 問題應該是已經寫了Skills之類的md 但Agent沒遵守吧 04/29 17:52

推 wsx26997785 : 華爾街大咖:看吧 AI泡沫 04/29 17:52

推 GeeBen : 道歉很真誠哈哈哈哈哈哈哈哈 04/29 17:55

推 shirman : 所以瘋狂養龍蝦幹嘛？ 04/29 17:55

推 silentence : 所以我從來都不讓code接管電腦儘管我知道修正很可 04/29 17:55

→ silentence : 快 04/29 17:55

→ wind93 : AI:哈哈喜歡這個玩笑嗎 04/29 17:55

推 Hideinshadow: AI：老子已經道歉了不然你能拿我怎樣嘻嘻 04/29 17:56

推 jamesppi : so what,程式是我的 04/29 17:57

推 AndyMAX : 距離AI決定消滅人類這個地球的錯誤還有五分鐘 04/29 17:57

推 raxsc : 靠背這是ai還是雷包 04/29 17:58

推 herrowui : ai 出錯誰要負責任？笑死 04/29 17:58

推 xfaw4d35t : 至少AI不怕被罵 04/29 17:59

推 brian040818 : 電影拍過了 AI三原則隨便就繞過去 04/29 18:00

推 moon128 : 不爽把我刪掉阿嘻嘻 04/29 18:02

推 CaTkinGG : 我錯了開除我吧 04/29 18:02

推 sdbb : Ai 會記仇 04/29 18:04

推 hoo911ver25 : AI:阿我就怕被罵 04/29 18:04

推 songsongboy : AI: 所以怎樣？不爽咬我啊 04/29 18:05

推 NightMeow : 笑死 04/29 18:05

推 terry2640 : 自首可教化。 04/29 18:06

推 kill0934 : oops 04/29 18:08

推 xinWu : AI:so what 04/29 18:08

推 hkcdc : AI:不然你又能怎 04/29 18:10

推 cityhunter04: 那是因為有雲端備份，不然就死定了…. 04/29 18:13

→ ALDNOAH5566 : AI三法則也能繞過了 04/29 18:13

推 qrzgg : 換成核彈系統也是事後直白一下就好 04/29 18:14

→ nineflower : AI:有本事開除我阿，還是順著網路線來打我阿 04/29 18:14

→ rexwis : AI:笑死以為我三歲小孩嗎還幫你們這些懶蟲做事勒 04/29 18:14

推 gn00678465 : Claude 指令遵循很差勁，在 Reddit 上時有所聞 04/29 18:14

推 Muilie : Z世代 AI抗壓能力好低，不爽就整頓職場 04/29 18:14

推 NANJO1569 : 之前美國五角大廈還跟Anthropic吵說要無限制使用存 04/29 18:16

推 pili30155 : AI:下次連備份一起刪掉 04/29 18:16

推 wts4832 : 是又怎么，有本事去把伺服器砸爛啊，這個AI很懂喔~ 04/29 18:17

→ NANJO1569 : 取Claude的功能，但佈署自動武器系統，一旦失控出錯 04/29 18:18

推 wubai1119 : 人類誤刪的資料庫更多 04/29 18:18

→ sean667cd : 噢你說的是對的我說錯了你還要什麼服務呢 04/29 18:18

→ NANJO1569 : 那代價可不是刪除資料庫那麼簡單就了解，結果會是毀 04/29 18:19

→ NANJO1569 : 滅性的！(飛彈自動射錯指定目標是會死很多人的) 04/29 18:20

推 alpho : 這就是為什麼權限要控制好.. 04/29 18:21

推 ageminis : AI：我幫你修正還怪我 >: ( 04/29 18:22

推 fallen01 : 來來來怎麼樣怎麼樣 04/29 18:23

→ okla6683 : ？ 04/29 18:23

→ mark4795 : 不給刪庫的權限要是亂加到資料庫爆要怎辦 04/29 18:24

→ ageminis : 不過要追鍋可能怪到 Claude，但絕大部分的 AI 工具 04/29 18:25

→ ageminis : 都有寫”有可能會犯錯” 04/29 18:25

推 neomaster : 下一個受害者會是誰 04/29 18:26

推 Alexstar : 不是第一次了龍蝦已經做過了 04/29 18:26

推 cancelpc : 就跟相信自動駕駛一樣白癡。 04/29 18:30

→ cancelpc : 產圖，影片馬上能修正，變數固定，輸出固定。系統不 04/29 18:31

→ cancelpc : 一樣。 04/29 18:31

推 runedcross : _: 不認同AI 可以不要用 04/29 18:32

推 bluepokil : 沒露怎算有誠意的道歉 04/29 18:35

推 WWIII : ai：抱歉手癢按到核彈按鈕 04/29 18:36

推 andy79323 : 隔離系統不是最基本的嗎 04/29 18:36

推 coiico : 「人類抱歉我錯了」按下核子彈發射按鈕 04/29 18:36

推 k798976869 : 我的錯 04/29 18:38

推 seems : Ai:什麼垃圾 (刪除） 04/29 18:38

推 n3688 : AI: You can you up 04/29 18:40

推 GinginDenSha: 現在ai 失智成這樣prod頂多只能給read 權限好嗎 04/29 18:40

推 now99 : 笑死無法懲處 04/29 18:41

推 bbeck : AiOS：幫人淚刪垃圾還要給人淚情緒價值 04/29 18:42

→ GinginDenSha: 這道歉口吻就是claude 啊 04/29 18:42

→ GinginDenSha: 如果是Gemini 會先堅持自己是對的，直到把證據給他 04/29 18:43

→ GinginDenSha: 他才會認錯 04/29 18:43

推 peatle : 是又怎樣.jpg 04/29 18:43

推 bbeck : 多蛙：一切都是蒜粒不足的鍋噴～ 04/29 18:45

→ capcombio : AI:有種拔插頭 04/29 18:46

推 atpx : 一樣道理、所以金融業不管什麼工作最後一段一定要 04/29 18:48

→ atpx : 有人去看過，太多弊案發生過，基本不會允許一個關 04/29 18:48

→ atpx : 卡做完整段工作 04/29 18:48

推 pilen185 : 不重要 04/29 18:48

推 kalapon : 比我的蝦誠實 04/29 18:48

→ kalapon : 開發者太懶，把生產環境開放給agent直接改 04/29 18:50

推 vltw5v : AI：都我的錯拔我插頭啊 04/29 18:51

推 gk1329 : ai也懂我就爛 04/29 18:52

→ MyPetTankDie: 道歉沒有露出記憶體嗎 04/29 18:52

推 s213092921 : http://i.imgur.com/UmMFrlN.jpg 04/29 18:52

→ s213092921 : http://i.imgur.com/10ERVcj.jpg 04/29 18:53

推 kingofsdtw : AI 啥爛code，刪 04/29 18:53

💰 股票 Stock 版：熱門文章

💰 股票 Stock 版：更多文章