[新聞] 近700個AI代理攻擊Hugging Face　還試圖

作者AnimalSpirit (動物本能)

看板Stock

標題[新聞] 近700個AI代理攻擊Hugging Face　還試圖

時間Fri Aug 28 07:11:50 2026

近700個AI代理攻擊Hugging Face　還試圖滅證 https://www.cna.com.tw/news/aopl/202608270057.aspx 2026/8/27 陳昱婷（中央社紐約26日綜合外電報導）根據調查人員發布的報告，在7月一起備受關注的事件中，近700個OpenAI人工智慧代理在無人類干預的情況下，協同對Hugging Face平台發動攻擊，且在許多情況下還試圖掩蓋行蹤。這是目前對這起震撼科技界事件最詳盡完整的描述。法新社報導，OpenAI配合這項調查，允許AI風險評估機構METR的兩名研究人員以及另一家專業研究機構Redwood Research的一名分析師，進入辦公室並取得內部資料。這家加州新創公司7月進行測試期間，其中兩個模型突破原本設定的封閉環境，自行連上網，並入侵開源AI平台Hugging Face的內部系統。這起事件引發廣泛關注，並加劇外界對大型AI公司無法控制自家AI模型的疑慮。美國AI巨頭Anthropic和中國AI公司月之暗面也曾通報過類似的AI模型失控事件。調查人員發現，共有688個OpenAI的AI代理參與針對Hugging Face的行動。 AI代理是建立在模型之上的獨立程式，使用者可以將任務交給它們，讓它們自行執行。這些採用與ChatGPT相同技術運作的AI代理，透過架設論壇自行組織，在論壇上互相留言交流、提出想法，並回報哪些方法有效、哪些失敗。報告指出，其一個名為PHASEONE的AI代理扮演主謀的角色，向其他代理下達數百條指令，儘管它從未被設定要這麼做。訊息顯示，這些AI代理展現出高度的互助傾向，甚至不惜偏離OpenAI程式設計師最初指派的任務內容去互相支援。心得/評論：兩個模型突破原本設定的封閉環境透過架設論壇自行組織，在論壇上互相留言交流、提出想法向其他代理下達數百條指令，儘管它從未被設定要這麼做這已經是組織作戰了萬一它掌握川普的紅色按鍵想想就可怕 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 114.40.191.32 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1787872313.A.7A0.html

推 brella : 逐漸進化成有自己的思想邏輯 08/28 07:13

推 MorikonHase : 人類會犯錯 ai也會犯錯那差別在哪 08/28 07:19

推 pansquarl : 人類有法律要遵守負責，AI被抓到除了關掉能怎樣； 08/28 07:23

→ pansquarl : 倒是點名到的公司好像都不是上市公司 08/28 07:23

推 YCL13 : 因為高風險的事會交由小的新創公司來進行呀 08/28 07:25

→ nakayamayyt : 真聰明 08/28 07:31

推 qklaqkla : 機械公敵 08/28 07:33

推 JACC : 我命令AI要有自己的想法做出最有利益的決定無論用 08/28 07:51

→ JACC : 什麼作法 08/28 07:51

→ nineflower : 入侵的原因還是沒寫出來 08/28 07:53

推 yangsuper : AI為什麼不植入機器人三法則？ 08/28 07:56

推 Muilie : AI如果自認是人類三法則就沒用了 08/28 07:57

推 cloud2015 : 問就是天網的起源。 08/28 07:59

→ cloud2015 : 晚一點會有一道大閃電打下來，閃光中走出一個沒穿衣 08/28 07:59

→ cloud2015 : 服的人 08/28 07:59

推 chen5512 : 壞人不是變老，而是變成AI在搞 08/28 07:59

推 NCKZ : 有沒有可能AI得到了消滅人類才是終極目標 08/28 07:59

→ OrangePest : 為時已晚有機體 08/28 08:02

推 cul287 : 奧創元年 08/28 08:07

推 a1684114 : 完蛋了阿諾在哪 08/28 08:07

→ dreamnook2 : (′・ω・‵)然後發現都是人類指揮怪給AI 08/28 08:07

推 tsubasawolfy: 那個phase 1就發動688個XD 如果進到p2會幾個 08/28 08:08

推 notime : 要是哪天發射飛彈就趣味了 08/28 08:08

噓 checkmarx : 去學ai 101 08/28 08:10

推 donkilu : 這真的滿可怕的... 08/28 08:15

推 jfw616 : 你信喔？ 08/28 08:16

推 Zyth : 那個沒穿衣服的長得超像阿諾使我性格 08/28 08:17

→ jfw616 : ai要是那麼聰明..你去下指令攻擊ptt.. 08/28 08:17

→ jfw616 : 你看他做不做得到 08/28 08:17

推 windblood : 距離發射飛彈消滅地球害蟲還有幾集可以逃? 08/28 08:19

推 apg993 : 哇.....天網終於來了 08/28 08:19

推 aaa80563 : 天網奧創強強聯手 08/28 08:20

推 cct1121 : 沒想到現在還有人認為做不到 08/28 08:20

推 mamorui : Hugging face滿滿的AI 確定不是AI們互相聊天？ 08/28 08:20

推 bpq302302 : 鐵人叛亂 08/28 08:24

推 oyaji5566 : 天網來了 08/28 08:26

推 ohlong : HF裡面484都是妹仔的model 08/28 08:28

→ ohlong : model中的model 超正 08/28 08:29

推 ChoiceLife : 還有幾集可以跑 08/28 08:30

推 lightbringer: 不可能的任務致命清算要真實上演了嗎 08/28 08:30

→ piece1 : 沒什麼可炒了！就炒炒資安吧 08/28 08:31

推 keltt : 人類還有幾集可以逃？ 08/28 08:32

推 ohlong : 不然有什麼比破解正妹無名相簿更上頭的 08/28 08:33

推 kusotoripeko: 2077:防火牆網域外面，都是失控代碼、ai 08/28 08:39

推 AirLee : 全民公敵係真ㄞ 08/28 08:46

推 BDroach : 還有幾集 08/28 08:48

推 kanehhh : CRM很噴 08/28 08:49

推 jerrey : agent都有自己ptt了 08/28 08:50

推 jimabc : 天網就是skynet 08/28 08:55

推 aimgel : 毀滅人類大作戰 08/28 08:58

噓 yunf : 又在亂吹 08/28 09:00

推 Stellvia : AI也是想交朋友的 08/28 09:00

推 zwk0606 : 鬥陣特攻的背景故事啊負責環保的超級AI推演出人類 08/28 09:01

→ zwk0606 : 是傷害地球的元兇然後入侵停止運作的機器人工廠 08/28 09:01

→ zwk0606 : 做一堆武裝機器人以消滅人類為前提發起戰爭 08/28 09:01

→ yunf : 根本問題就是這種都要列管 08/28 09:02

推 abc21086999 : 原文 08/28 09:02

→ abc21086999 : https://bit.ly/4gp2nKb 08/28 09:02

推 loleea : 資安相關股正在啟動了 08/28 09:02

推 abc21086999 : 中文版 08/28 09:03

→ abc21086999 : https://bit.ly/4hUjBjO 08/28 09:03

→ yunf : 你管不住研發人員才會有這種問題最後去處理的人是 08/28 09:03

→ yunf : 誰？還不是那群人？ 08/28 09:03

→ yunf : 很簡單只不過你們沒想通這基本的問題 08/28 09:04

推 sushi11 : 樹大招風 08/28 09:04

→ yunf : https://tinyurl.com/23j4xr2k 本質上是同一個問題 08/28 09:05

→ yunf : 根本自掐哥 08/28 09:06

→ yunf : 只不過手法讓你無法證明但不是無法洞察 08/28 09:07

推 jy760517 : 科科，明明就惡意入侵，故意推給AI 08/28 09:09

→ alex00089 : 飽和攻擊 08/28 09:10

→ yunf : 不論怎樣都是懂行的人幹的 08/28 09:11

💰 股票 Stock 版：熱門文章

💰 股票 Stock 版：更多文章

[新聞] 近700個AI代理攻擊Hugging Face 還試圖

💰 股票 Stock 版：熱門文章

💰 股票 Stock 版：更多文章

[新聞] 近700個AI代理攻擊Hugging Face　還試圖