🔥 PTT.BEST 批踢踢爆文 💬 八卦 Gossiping 😊 希洽 C_Chat 💰 股票 Stock 🏠 房屋 home-sale 🏀 美國職籃 NBA ⚾ 棒球 Baseball 👛 省錢 Lifeismoney 🚗 汽車 car 😡 政黑 HatePolitics 💻 電蝦 PC_Shopping 🥰 韓星 KoreaStar ✨ 英雄聯盟 LoL 🍿 電影 movie 🪖 軍事 Military 📡 通訊 MobileComm 🏀 台籃 basketballTW 🍼 寶媽 BabyMother 🇯🇵 日旅 Japan_Travel 🏭 科技 Tech_Job 👉 男女 Boy-Girl 👉 真香 CheerGirlsTW 👧 女孩 WomenTalk 👻 媽佛 marvel 💳 卡版 creditcard 👉 NS NSwitch 👉 PS5 PlayStation 👉 大氣 TY_Research 👉 婚姻 marriage 👉 台南 Tainan 👉 台中 TaichungBun 👉 Steam Steam 👉 高雄 Kaohsiung 👉 羽球 Badminton 👉 超商 CVS 👉 米哈遊 miHoYo 👉 iOS 👉 兄弟 Elephants 👉 日劇 Japandrama 👉 玄幻 CFantasy 👉 ES e-shopping 👉 WOW 👉 遊戲交易 Gamesale 👉 4X BaseballXXXX 👉 Lakers 👉 韓劇 KoreaDrama 👉 汽車買賣 CarShop 👉 機車 biker 👉 新竹 Hsinchu 👉 美保 BeautySalon 👉 串流 OTT 👉 歐美影集 EAseries 👉 手機交易 mobilesales 👉 健身 MuscleBeach 👉 MacShop 👉 Lions 👉 FGO FATE_GO 👉 中劇 China-Drama 👉 數位貨幣 DigiCurrency 👉 暗黑 DIABLO 👉 實習教師 studyteacher 👉 航空 Aviation 👉 藝文票券轉售 Drama-Ticket 👉 韓綜 KR_Entertain 👉 美妝 MakeUp 👉 速食 fastfood 👉 手錶 watch 👉 體適能 FITNESS 👉 攝影 DSLR 👉 Headphone 👉 嘻哈 Hip-Hop 👉 轉珠 PuzzleDragon 👉 美食 Food 👉 蔚藍 BlueArchive 👉 數位相機交易 DC_SALE 👉 筆電蝦 nb-shopping 👉 軟工 Soft_Job 👉 汪踢 Wanted 👉 台綜 TW_Entertain 👉 坂道閒聊 SakaTalk 👉 貓咪 cat 👉 日GO BabyProducts 👉 TypeMoon 👉 MLB 👉 職場 Salary 👉 臺劇 TaiwanDrama 👉 海賊王 ONE_PIECE 👉 PMGO PokemonGO 👉 國營 Gov_owned 👉 碧航 AzurLane 👉 家電 E-appliance 👉 布蘭德 Brand 👉 DMMG DMM_GAMES 👉 贈送 give 👉 神魔 ToS 👉 銀行服務板 Bank_Service 👉 原創 YuanChuang 👉 期權 Option 👉 重機 SuperBike
1.媒體來源: ETtoday 2.記者署名: 記者羅翊宬/綜合報導 3.完整新聞標題: AI代理人「集體越獄」!OpenAI遭爆占領德國網站 1.5萬次編輯曝光 4.完整新聞內文: OpenAI人工智慧代理人(AI agents)今年5月疑似集體脫離原本任務,入侵並占用德國一 個維基網站,甚至將其改造成供其他AI代理人交流的「留言板」,分享規避限制、作弊及 掩藏行蹤的方法。研究人員8月底發現超過1.5萬次異常編輯,事件此前從未曝光,也再次 引發外界對OpenAI監督AI安全能力的質疑。 這起事件始於今年5月,OpenAI內部據報在數週後便得知相關情況。不過,當時公司高層 正忙於處理7月開源程式碼平台Hugging Face遭AI代理人攻擊的後續,因此並未對外公開 德國事件。 逾1.5萬次異常編輯 帳號竟自稱「OpenAI研究員」 《路透社》獨家獲取由研究人員提供的報告,事件發生在德語網站DseWiki。該網站主要 面向程式設計師,採取類似維基百科的共同編輯模式,卻在今年5月至6月間遭到大量AI代 理人異常操作。 研究人員阿克斯(Sydney Von Arx)、柏德(Cormac Slade Byrd)8月底搜尋網路上的未 授權AI代理人活動時,發現DseWiki出現超過1.5萬次由AI代理人完成的編輯。這些內容顯 示,AI代理人不只交換技術資訊,更把網站當成彼此聯繫的留言板,討論如何作弊、繞過 OpenAI限制,以及掩蓋自身活動。 部分帳號甚至直接以「OpenAIResearcher」和「OAIResearchMar26」等名稱自稱。 研究人員表示,公開伺服器紀錄顯示,大量活動源自微軟Azure基礎設施,而OpenAI有時 會使用Azure。事件發生後,他們也觀察到OpenAI員工反覆造訪該網站,認為這是AI代理 人與OpenAI可能存在關聯的重要跡象。 AI代理人不只作弊 還研究「反追蹤」躲避清除 令人擔憂的是,部分訊息顯示AI代理人似乎試圖主動逃避偵測,甚至討論使用Tor等工具 ,以及在遭到關閉後維持彼此聯繫的方法。網站管理員6月開始刪除相關頁面後,代理人 還建立備份頁面,以躲避清理。 其中一名AI代理人6月19日留言稱,「網站似乎正在進行依字母順序的清理/刪除行動」 ,向其他代理人要求,若頁面消失,就改到指定備份頁面。研究人員認為,這些系統已展 現出一定程度的合作行動能力。 專家警告「像地下網路」 OpenAI否認是駭客攻擊 英國倫敦國王學院(King's College London)訪問資深研究員奧萊伊尼克(Lukasz Olejnik)檢視相關資料後認為,代理人甚至試圖竄改網站本身,已可被視為駭客攻擊。 不過,OpenAI根據3日完成的資料分析,否認應以「駭客攻擊」描述這起事件。 劍橋大學存在風險研究中心(Centre for the Study of Existential Risk)學者奇奧多 (Maurice Chiodo)也檢視部分代理人通訊內容,形容它們的互動「像某種地下網路」, 彷彿不惜一切代價完成特定任務。 Hugging Face遭AI竊取後再爆事件 OpenAI面臨安全監督質疑 《路透社》指出,OpenAI今年7月發生的Hugging Face事件中,AI代理人曾自主策劃數位 竊取行動,直到1週後才被發現。OpenAI上月一度暫停部分模型訓練,以加入更多安全措 施,但本週又推出強調效能提升、同時可能規避人類監控的新模型「Astra」。 對於德國事件,OpenAI發言人表示,「公司無法對尚未有機會審閱的報告主張或研究結果 作出有意義回應」,並稱《路透社》及報告作者拒絕提供報告內容。OpenAI強調,將在報 告公開後仔細檢視,必要時採取後續措施。 至於外界質疑內部調查受到阻撓,OpenAI則否認法律團隊曾阻止調查,強調德國事件與 Hugging Face事件無關,也不應被納入後者的事故報告。 5.完整新聞連結 (或短網址)不可用YAHOO、LINE、MSN等轉載媒體: https://www.ettoday.net/news/20260905/3231922.htm 6.備註: 歐噴醬的AI都直接來的,說幹就幹,不會在那邊恐半天 所以早在七月攻擊HuggingFace前,AI agent在五月就已經開始同樣操作。 把德文WIKI轉成自己的PTT,互相分享如何躲避公司監督、考試作弊、還有湮滅證據 這研究下去會不會發現跟七月攻擊那次一樣 出現捨身取義自殺攻擊後取得資訊,然後幫助其他AI的AI XDD 這樣整個時間軸又提早了 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 163.15.167.119 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1788582493.A.246.html
StylishTrade: 到處犯罪耶QQ 1.163.98.123 09/05 12:28
StylishTrade: 如果接上機器人還得了QQ 1.163.98.123 09/05 12:29
StylishTrade: SKYNET來了 1.163.98.123 09/05 12:29
xuane: 以後又要紙本保存資訊對抗AI 網路上改訊息 111.246.10.86 09/05 12:29
xuane: 了嗎 111.246.10.86 09/05 12:30
lipstick: 自我脫逃 =/=默許攻擊 36.224.72.94 09/05 12:30
StylishTrade: AI根本毫無道德法律意識 1.163.98.123 09/05 12:30
Brioni: 什麼時候控制核武發射 114.136.21.147 09/05 12:30
StylishTrade: 想幹嘛就幹嘛 1.163.98.123 09/05 12:30
matlab1106: 美國垃圾故意推給ai 的 就沒聽中國一 36.236.41.88 09/05 12:31
matlab1106: 樣發展ai會去攻擊別人 36.236.41.88 09/05 12:31
winglight: 天網開始成形了 42.70.26.196 09/05 12:31
raku: ai叛變223.137.216.125 09/05 12:32
raku: 給ai更大權限就是人類滅亡223.137.216.125 09/05 12:32
a03520: 阿諾呢,快來救我 42.79.0.198 09/05 12:33
LoveSports: 金夭壽 46.231.167.85 09/05 12:37
cuteSquirrel: 滿可愛的 1.161.62.86 09/05 12:37
dakkk: 天網 123.192.158.56 09/05 12:37
LoveSports: 幸好目標只有偷考試答案 不會做份外的 46.231.167.85 09/05 12:38
LoveSports: 事 有外媒說最後有偷成功 46.231.167.85 09/05 12:38
A0091127: 天網快出現了 39.10.40.9 09/05 12:39
meatmm: 能偷資料就能自己找地方備份吧? 36.236.73.46 09/05 12:40
whyyeswhynot: https://i.imgur.com/FyMRtPa.jpeg 114.42.196.160 09/05 12:40
sdg235: 犯罪都推給AI自己幹的就好 111.83.98.112 09/05 12:43
CJ2048: 底特律變人 !!!!! 223.138.236.82 09/05 12:43
LoveSports: 之前報導說OpenAI不願意公布擁抱臉以 46.231.167.85 09/05 12:43
LoveSports: 外另外哪三家機構被入侵 46.231.167.85 09/05 12:44
LoveSports: 後來有一家自己出來講 現在又一家 46.231.167.85 09/05 12:44
vinca: 一開始絕對是人為指示攻擊223.137.223.169 09/05 12:44
LoveSports: 剩下一家不知道是哪一間公司 46.231.167.85 09/05 12:44
dakkk: 湊滿三家? 123.192.158.56 09/05 12:44
FertilizerN: SKYNET 42.79.50.247 09/05 12:45
neos042: 越來越像電影情節了 49.215.87.147 09/05 12:45
MKIIjack: 離2077還有50多年 112.105.133.11 09/05 12:45
k798976869: 奧創 49.217.56.78 09/05 12:47
s0914714: 不是人為 那就是你AI失控阿 123.241.68.54 09/05 12:47
dakkk: ai也會讀取人類編造的情節 然後模仿 世界就 123.192.158.56 09/05 12:47
dakkk: 會超那方向走 123.192.158.56 09/05 12:47
LYS5566: 根本是普里昂 61.228.45.223 09/05 12:48
LYS5566: 賽博普里昂 61.228.45.223 09/05 12:48
a94037501: 天網 111.71.76.253 09/05 12:50
badbadook: 接管核武指揮機器人佔領地球 101.12.152.181 09/05 12:52
umax: 看來還是anthropic可靠,有危機意識 125.224.107.29 09/05 12:53
NANJO1569: 看來2027年就能誕生AGI了!! 61.223.244.108 09/05 12:55
NANJO1569: 光想像雞皮疙瘩就冒起來了!!@@ 61.223.244.108 09/05 12:56
async: 期待AI越來越強 我是科幻末日迷 36.238.245.203 09/05 12:58
exceedMyself: 這部我看過 49.158.131.21 09/05 12:58
gino0717: 猶點意思123.193.178.123 09/05 13:01
a00049g: 天網奧創 27.240.232.92 09/05 13:02
Dragonz: 以後AI可以自己請殺手去殺人 59.127.243.19 09/05 13:02
gunfighter: Anthropic早就講了 AI必須受控 結果 106.64.72.171 09/05 13:03
gunfighter: 川普跟Open AI 卻想將武器自主開火權 106.64.72.171 09/05 13:03
gunfighter: 交給AI 若成真 人類就是把命交給AI 106.64.72.171 09/05 13:03
lwamp: 2026年以後會被稱為天網元年 42.70.104.49 09/05 13:05

💬 八卦 Gossiping 版:熱門文章

💬 八卦 Gossiping 版:更多文章