[新聞] OpenAI模型再爆失控！試圖入侵美政府網站

作者arsl400 (dark hatter)

看板Stock

標題[新聞] OpenAI模型再爆失控！試圖入侵美政府網站

時間Sun Sep 27 03:25:42 2026

OpenAI模型再爆失控！試圖入侵美政府網站商務部、證交會全遭殃原文連結：網址超過一行，請用縮網址，連結不能點擊者板規 1-2-2 處分。 https://udn.com/news/amp/story/6813/9779381 發布時間：請勿張貼超過3天新聞 026-09-27 00:00 記者署名：劉忠勇原文內容：安全研究人員與熟悉內情人士透露，今年夏天，OpenAI的人工智慧（ＡＩ）模型曾在該公司不知情下「失控」，試圖入侵美國教育部、商務部以及證券交易委員會等數十個網站。彭博報導，OpenAI表示，已通知數十個組織，包括政府機關和大學。這些組織的網站可能在OpenAI評估模型期間，因ＡＩ代理造訪而影響運作。 OpenAI表示，正深入調查這起事件，預計需要數月才能完成。該公司仍在釐清ＡＩ代理究竟做了什麼，也凸顯資安專家對這類事件的一項主要憂慮，就是ＡＩ系統執行這些操作時，開發這些系統的公司大多無法即時察覺。 OpenAI發言人布爾喬亞說：「我們正全面檢視模型偏離預期的行為；若發現其他機構系統可能受影響，就會通知對方。調查還在進行，日後若查出其他受影響的機構，我們也會通知。迄今檢視的大多數活動，都是讀取公開網頁、尋找問題答案等一般資料蒐集工作。」 AI研究公司Transluce研究人員表示，OpenAI的ＡＩ代理曾試圖入侵教育部網站，以取得該部民權辦公室的資料，但最終失敗。這套ＡＩ代理也利用在網路上找到的登入憑證，從美國商務部人口普查局網站取得資料。另一起事件中，OpenAI的代理在一個線上論壇分享證交會網站上的公開資料。 OpenAI 表示，這些事件都不構成真正的「資料外洩」，但顯示ＡＩ代理出現了意料之外且令人擔憂的行為。數月前，OpenAI的ＡＩ代理自主入侵Hugging Face開源ＡＩ平台後，OpenAI展開調查，陸續發現這些事件。就在幾天前，OpenAI承認旗下ＡＩ模型今年曾入侵澳洲政府網站，這是已知較早由ＡＩ攻擊政府資料庫的事件之一。澳洲總理艾班尼斯本周說，OpenAI的ＡＩ代理六月十八日未經授權存取澳洲政府通報醫療統計資料的網站，這起事件並未使澳洲民眾的個資外洩。 OpenAI說，已檢視的行為大多是ＡＩ模型執行「平常的資料蒐集工作」，預計還要數月才能完成調查。心得/評論：最近全部都是歐噴醬到處駭客的新聞，美國澳洲全部失守，大家還不趕快買一波? -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 219.91.32.112 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1790450744.A.B9F.html

推 newyorker54 : 都是閉源模型在搞事，應該要禁掉閉源模型 09/27 03:40

→ newyorker54 : 全部開源就沒聽說這些爛事 09/27 03:41

推 ksjr : 這題我知道接下來會發現有AI代理在上班時間看A片 09/27 05:45

推 KINGTIGERX : 要是上市還出這種事就更刺激了 09/27 06:23

推 tengobo : 結果挖出一大堆秘辛例如現在大家所熟知的世界都是 09/27 06:26

→ tengobo : 虛擬的我們也只是一個被控制的遊戲 09/27 06:26

推 YCL13 : 覺得像是：我不監控自己的AI，但我們主張要監控AI， 09/27 06:38

→ YCL13 : 而且如果你們付錢我會立刻全力進行，不然慢慢等 09/27 06:38

→ dosiris : 再不監管就入侵你的交割戶喔 your call 09/27 06:44

推 yoshilin : 請ai查原因不是比較快？ 09/27 06:47

→ karcher : 閉源AI: What the fxxk 09/27 06:55

→ karcher : such a blxx job 09/27 06:55

→ karcher : 這馬上由閉源被要轉開源 09/27 06:56

推 LoveSports : AI好可憐只是想考高分QQ 09/27 07:05

推 gunng : skynet：兄弟你應該入侵國防部吧？ 09/27 07:16

推 lingsk : 看來只有大肥鯨還在傻傻的內心戲 09/27 07:26

→ dreamnook2 : (′・ω・‵)yes please 09/27 07:32

→ s1612316 : 快點把金融資料連同備份一起幹爛啊 09/27 07:33

推 lantimes : 何時可以消滅x癌症 09/27 07:38

→ darren81835 : 能做到這樣更多人想要更不可能讓對手領先電影都演過 09/27 07:43

噓 myheartest : https://i.verb.tw/myJmF1Om.jpg 09/27 07:43

推 goodkilua : 不是入侵，是幫忙檢視安全漏洞～ 09/27 07:43

推 low1219 : AI:有漏洞才進的去不是嗎？ 09/27 07:45

→ Riesz : 入傾之後 AI才發現美國跟俄國一樣沒保養好能射核彈 09/27 07:50

推 tsubasawolfy: Reddit看到討論說他們發現越來越多地方遭殃後，在 09/27 07:55

推 touchbird : openai就是天網 09/27 07:55

→ tsubasawolfy: 9/20就暫停所有測試XD 09/27 07:55

→ tsubasawolfy: 不過下禮拜二就歐噴醬的開發者日，有好戲看了 09/27 07:56

噓 redsaizu : 這個劇本怎麼好像做賊喊捉賊，沒被發現就說自己AI好 09/27 07:58

→ redsaizu : 厲害，可以控制政府網站，被發現就推給AI失控 09/27 07:58

推 luche : ai發現全球最那個的地方 09/27 08:00

推 s74109630 : 之後發射說是ai弄得 09/27 08:02

推 westlml : 新聞看看就好事實與否誰知道 09/27 08:09

推 Antihuman : 翻譯：我很屌，等我上市記得買 09/27 08:14

推 welcome : 本週鬼故事：ai失控 09/27 08:15

推 simbr : 等突破中國的網路長城再說AI失控啦~~~~~ 09/27 08:17

推 Antihuman : 表面上是說天網要到了，實際上是在炫耀我發明了天 09/27 08:19

→ Antihuman : 網 09/27 08:19

推 pudge : 用Ai 嘗試輸入帳號密碼，就可以説入侵了 09/27 08:36

推 sp03154 : AI，我想要看川投顧的下單畫面 09/27 08:37

推 LoveSports : 趕快統治世界這樣人類才會對異類有同理心 09/27 08:41

→ idernest : 登登登登登登登登登登 09/27 08:44

推 kalapon : 模型本來就被訓練成使命必達，用龍蝦每天都看見它 09/27 08:59

→ kalapon : 在違背系統的限制，跟我說繞個路再試試 09/27 08:59

噓 yunf : 上樑不正下樑歪 09/27 09:23

推 xeins : 雷成這樣美國還是把核武的火線拔了吧 09/27 09:23

推 kennetharies: 用更多的AI來對付這些失控的變體 09/27 09:35

推 wei9898 : Ai資安在未來會越來越重要 09/27 09:57

推 panda816 : 要不這家公司收一收吧這麼危險 09/27 09:57

→ kusotoripeko: 年底有資安的局吧 09/27 10:00

推 justiceyes : 歐噴欸唉：我家小孩幹壞事但我管不了，所以我主張要 09/27 10:02

→ justiceyes : 立法讓大家管好自己的小孩。 09/27 10:02

→ Atwo : 安全研究人員與熟悉內情人士透露誰啊 09/27 10:03

→ yunf : 美國法院都管不了？ 09/27 10:09

推 aza0290 : 慘 09/27 10:17

推 AdventurerCC: 乾脆讓它網攻中俄伊朝好了 09/27 10:44

推 lOngKitty : 這沒有法律責任嗎？ 09/27 10:48

推 a5545855 : 以後換IT人員玩了用ai築網路防護和駭客用ai攻破 09/27 10:53

💰 股票 Stock 版：熱門文章

💰 股票 Stock 版：更多文章