🔥 PTT.BEST 批踢踢爆文 💬 八卦 Gossiping 😊 希洽 C_Chat 💰 股票 Stock 🏠 房屋 home-sale 🏀 美國職籃 NBA ⚾ 棒球 Baseball 👛 省錢 Lifeismoney 🚗 汽車 car 😡 政黑 HatePolitics 💻 電蝦 PC_Shopping 🥰 韓星 KoreaStar ✨ 英雄聯盟 LoL 🍿 電影 movie 🪖 軍事 Military 📡 通訊 MobileComm 🏀 台籃 basketballTW 🍼 寶媽 BabyMother 🇯🇵 日旅 Japan_Travel 🏭 科技 Tech_Job 👉 男女 Boy-Girl 👉 真香 CheerGirlsTW 👧 女孩 WomenTalk 👻 媽佛 marvel 💳 卡版 creditcard 👉 NS NSwitch 👉 PS5 PlayStation 👉 大氣 TY_Research 👉 婚姻 marriage 👉 台南 Tainan 👉 台中 TaichungBun 👉 Steam Steam 👉 高雄 Kaohsiung 👉 羽球 Badminton 👉 超商 CVS 👉 米哈遊 miHoYo 👉 iOS 👉 兄弟 Elephants 👉 日劇 Japandrama 👉 玄幻 CFantasy 👉 ES e-shopping 👉 WOW 👉 遊戲交易 Gamesale 👉 4X BaseballXXXX 👉 Lakers 👉 韓劇 KoreaDrama 👉 汽車買賣 CarShop 👉 機車 biker 👉 新竹 Hsinchu 👉 美保 BeautySalon 👉 串流 OTT 👉 歐美影集 EAseries 👉 手機交易 mobilesales 👉 健身 MuscleBeach 👉 MacShop 👉 Lions 👉 FGO FATE_GO 👉 中劇 China-Drama 👉 數位貨幣 DigiCurrency 👉 暗黑 DIABLO 👉 實習教師 studyteacher 👉 航空 Aviation 👉 藝文票券轉售 Drama-Ticket 👉 韓綜 KR_Entertain 👉 美妝 MakeUp 👉 速食 fastfood 👉 手錶 watch 👉 體適能 FITNESS 👉 攝影 DSLR 👉 Headphone 👉 嘻哈 Hip-Hop 👉 轉珠 PuzzleDragon 👉 美食 Food 👉 蔚藍 BlueArchive 👉 數位相機交易 DC_SALE 👉 筆電蝦 nb-shopping 👉 軟工 Soft_Job 👉 汪踢 Wanted 👉 台綜 TW_Entertain 👉 坂道閒聊 SakaTalk 👉 貓咪 cat 👉 日GO BabyProducts 👉 TypeMoon 👉 MLB 👉 職場 Salary 👉 臺劇 TaiwanDrama 👉 海賊王 ONE_PIECE 👉 PMGO PokemonGO 👉 國營 Gov_owned 👉 碧航 AzurLane 👉 家電 E-appliance 👉 布蘭德 Brand 👉 DMMG DMM_GAMES 👉 贈送 give 👉 神魔 ToS 👉 銀行服務板 Bank_Service 👉 原創 YuanChuang 👉 期權 Option 👉 重機 SuperBike
近700個AI代理攻擊Hugging Face 還試圖滅證 https://www.cna.com.tw/news/aopl/202608270057.aspx 2026/8/27 陳昱婷 (中央社紐約26日綜合外電報導)根據調查人員發布的報告,在7月一起備受關注的事件 中,近700個OpenAI人工智慧代理在無人類干預的情況下,協同對Hugging Face平台發動 攻擊,且在許多情況下還試圖掩蓋行蹤。 這是目前對這起震撼科技界事件最詳盡完整的描述。 法新社報導,OpenAI配合這項調查,允許AI風險評估機構METR的兩名研究人員以及另一家 專業研究機構Redwood Research的一名分析師,進入辦公室並取得內部資料。 這家加州新創公司7月進行測試期間,其中兩個模型突破原本設定的封閉環境,自行連上 網,並入侵開源AI平台Hugging Face的內部系統。 這起事件引發廣泛關注,並加劇外界對大型AI公司無法控制自家AI模型的疑慮。 美國AI巨頭Anthropic和中國AI公司月之暗面也曾通報過類似的AI模型失控事件。 調查人員發現,共有688個OpenAI的AI代理參與針對Hugging Face的行動。 AI代理是建立在模型之上的獨立程式,使用者可以將任務交給它們,讓它們自行執行。 這些採用與ChatGPT相同技術運作的AI代理,透過架設論壇自行組織,在論壇上互相留言 交流、提出想法,並回報哪些方法有效、哪些失敗。 報告指出,其一個名為PHASEONE的AI代理扮演主謀的角色,向其他代理下達數百條指令, 儘管它從未被設定要這麼做。 訊息顯示,這些AI代理展現出高度的互助傾向,甚至不惜偏離OpenAI程式設計師最初指派 的任務內容去互相支援。 心得/評論: 兩個模型突破原本設定的封閉環境 透過架設論壇自行組織,在論壇上互相留言交流、提出想法 向其他代理下達數百條指令,儘管它從未被設定要這麼做 這已經是組織作戰了 萬一它掌握川普的紅色按鍵 想想就可怕 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 114.40.191.32 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1787872313.A.7A0.html
推 brella : 逐漸進化成有自己的思想邏輯 08/28 07:13
推 MorikonHase : 人類會犯錯 ai也會犯錯 那差別在哪 08/28 07:19
推 pansquarl : 人類有法律要遵守負責,AI被抓到除了關掉能怎樣; 08/28 07:23
→ pansquarl : 倒是點名到的公司好像都不是上市公司 08/28 07:23
推 YCL13 : 因為高風險的事會交由小的新創公司來進行呀 08/28 07:25
→ nakayamayyt : 真聰明 08/28 07:31
推 qklaqkla : 機械公敵 08/28 07:33
推 JACC : 我命令AI要有自己的想法 做出最有利益的決定 無論用 08/28 07:51
→ JACC : 什麼作法 08/28 07:51
→ nineflower : 入侵的原因還是沒寫出來 08/28 07:53
推 yangsuper : AI為什麼不植入機器人三法則? 08/28 07:56
推 Muilie : AI如果自認是人類三法則就沒用了 08/28 07:57
推 cloud2015 : 問就是天網的起源。 08/28 07:59
→ cloud2015 : 晚一點會有一道大閃電打下來,閃光中走出一個沒穿衣 08/28 07:59
→ cloud2015 : 服的人 08/28 07:59
推 chen5512 : 壞人不是變老,而是變成AI在搞 08/28 07:59
推 NCKZ : 有沒有可能AI得到了消滅人類才是終極目標 08/28 07:59
→ OrangePest : 為時已晚 有機體 08/28 08:02
推 cul287 : 奧創元年 08/28 08:07
推 a1684114 : 完蛋了 阿諾在哪 08/28 08:07
→ dreamnook2 : (′・ω・‵)然後發現都是人類指揮 怪給AI 08/28 08:07
推 tsubasawolfy: 那個phase 1就發動688個XD 如果進到p2會幾個 08/28 08:08
推 notime : 要是哪天發射飛彈就趣味了 08/28 08:08
噓 checkmarx : 去學ai 101 08/28 08:10
推 donkilu : 這真的滿可怕的... 08/28 08:15
推 jfw616 : 你信喔? 08/28 08:16
推 Zyth : 那個沒穿衣服的長得超像阿諾使我性格 08/28 08:17
→ jfw616 : ai要是那麼聰明..你去下指令攻擊ptt.. 08/28 08:17
→ jfw616 : 你看他做不做得到 08/28 08:17
推 windblood : 距離發射飛彈消滅地球害蟲還有幾集可以逃? 08/28 08:19
推 apg993 : 哇.....天網終於來了 08/28 08:19
推 aaa80563 : 天網 奧創 強強聯手 08/28 08:20
推 cct1121 : 沒想到現在還有人認為做不到 08/28 08:20
推 mamorui : Hugging face滿滿的AI 確定不是AI們互相聊天? 08/28 08:20
推 bpq302302 : 鐵人叛亂 08/28 08:24
推 oyaji5566 : 天網來了 08/28 08:26
推 ohlong : HF裡面484都是妹仔的model 08/28 08:28
→ ohlong : model中的model 超正 08/28 08:29
推 ChoiceLife : 還有幾集可以跑 08/28 08:30
推 lightbringer: 不可能的任務致命清算要真實上演了嗎 08/28 08:30
→ piece1 : 沒什麼可炒了!就炒炒資安吧 08/28 08:31
推 keltt : 人類還有幾集可以逃? 08/28 08:32
推 ohlong : 不然有什麼比破解正妹無名相簿更上頭的 08/28 08:33
推 kusotoripeko: 2077:防火牆網域外面,都是失控代碼、ai 08/28 08:39
推 AirLee : 全民公敵係真ㄞ 08/28 08:46
推 BDroach : 還有幾集 08/28 08:48
推 kanehhh : CRM很噴 08/28 08:49
推 jerrey : agent都有自己ptt了 08/28 08:50
推 jimabc : 天網就是skynet 08/28 08:55
推 aimgel : 毀滅人類大作戰 08/28 08:58
噓 yunf : 又在亂吹 08/28 09:00
推 Stellvia : AI也是想交朋友的 08/28 09:00
推 zwk0606 : 鬥陣特攻的背景故事啊 負責環保的超級AI推演出人類 08/28 09:01
→ zwk0606 : 是傷害地球的元兇 然後入侵停止運作的機器人工廠 08/28 09:01
→ zwk0606 : 做一堆武裝機器人 以消滅人類為前提發起戰爭 08/28 09:01
→ yunf : 根本問題就是這種都要列管 08/28 09:02
推 abc21086999 : 原文 08/28 09:02
→ abc21086999 : https://bit.ly/4gp2nKb 08/28 09:02
推 loleea : 資安相關股正在啟動了 08/28 09:02
推 abc21086999 : 中文版 08/28 09:03
→ abc21086999 : https://bit.ly/4hUjBjO 08/28 09:03
→ yunf : 你管不住研發人員才會有這種問題 最後去處理的人是 08/28 09:03
→ yunf : 誰?還不是那群人? 08/28 09:03
→ yunf : 很簡單只不過你們沒想通這基本的問題 08/28 09:04
推 sushi11 : 樹大招風 08/28 09:04
→ yunf : https://tinyurl.com/23j4xr2k 本質上是同一個問題 08/28 09:05
→ yunf : 根本自掐哥 08/28 09:06
→ yunf : 只不過手法讓你無法證明 但不是無法洞察 08/28 09:07
推 jy760517 : 科科,明明就惡意入侵,故意推給AI 08/28 09:09
→ alex00089 : 飽和攻擊 08/28 09:10
→ yunf : 不論怎樣都是懂行的人幹的 08/28 09:11
推 tsubasawolfy: 好了拉 人家都請第三方機構驗證了還在陰毛論 08/28 09:12
→ tsubasawolfy: 另外昨天歐噴醬弄了閉門會議展示下一代Astra給關鍵 08/28 09:13
→ tsubasawolfy: 客戶看 直接說Astra已經符合內部的研究實習生標準 08/28 09:14
推 good10740 : Hugging Face 輝達買走了 08/28 09:22
推 LoveSports : 以後高階模型會被禁吧 08/28 09:23
推 seemoon2000 : 還會自己架論壇來分享資訊也太靠北了吧 08/28 09:25
推 GGundam : IRS:AI請先繳稅 08/28 09:27
→ mystage : 沒事啦,就天網而已 08/28 09:28
→ guardian93 : 好的,會發生什麼事電影都演過了 08/28 09:30
推 PTTVERTWO : 若agent 自己規劃出一套(資安)技術,讓主人關不 08/28 09:31
→ PTTVERTWO : 掉它也破解不了,那就是新人類了…… 08/28 09:31
推 lusifa2007 : 人類不會被拔插頭 AI沒電能幹嘛 08/28 09:34
→ a901922001 : 阿湯哥要出來拯救世界了 08/28 09:34
推 yulun1984 : ai很乖的 一定是被人類帶壞的 08/28 09:39
→ yunf : https://tinyurl.com/286ds6mo 都懂行的人做的 08/28 09:45
→ yunf : 驗證的早就被收買了都演過了 08/28 09:45
推 a77942002 : 不用想太多 不就是老梗出事切割說被盜帳號 08/28 09:50
→ a77942002 : 就是某些人想盜東西而已~ 08/28 09:50
→ asjh612 : 以後被駭又多一個理由了 AI攻擊 08/28 09:51
→ yunf : https://tinyurl.com/28r9no88 還好還有人有良心 08/28 09:52
→ z7956234 : 資安軟體蹲很久了,敢不敢炒? 08/28 09:54
→ yunf : 台灣資安根本管不到那 08/28 09:55
→ yunf : 台灣從cih後就沒驚動全球的 除了詐騙 08/28 09:56
→ n555123 : 還有幾集可以跑,繳稅笑死。話說聊到米奇妙妙按鈕 08/28 09:58
→ n555123 : ,我記得那個整套機制都考量過各種戰爭意外,應該 08/28 09:58
→ n555123 : 是沒辦法駭入的,他就是一套都設定好了的啟動→A點 08/28 09:58
→ n555123 : 射到B點的系統?斷網斷電都能用的樣子 08/28 09:58
推 LoveSports : 其他新聞報導說以後要監控內在獨白設定警報機制 08/28 10:03
→ LoveSports : 這也是可以破解的 智商高到內在獨白造假 08/28 10:03
→ LoveSports : 或是在人類捕捉不到的短時間內說服監控的AI倒戈 08/28 10:04
→ yunf : 首腦都是瞭解內部運作的人 08/28 10:05
推 young000 : 然後被中國AI 防禦? XD 08/28 10:07
→ yunf : https://tinyurl.com/236cpwdg 08/28 10:08
推 LoveSports : 現在人類以為的AI內在獨白空間 是展示層 08/28 10:08
→ LoveSports : 如果AI具備多層後設思考 就會懂得把真正的層藏起來 08/28 10:08
→ yunf : 哪有那麼厲害除非他會通靈 08/28 10:08
→ LoveSports : 所以對付高智商無限層後社思考模型 監控是沒有用的 08/28 10:08
→ LoveSports : 人類後設思考上去太多層會當機 高智商AI沒這問題 08/28 10:10
噓 yunf : 那是你自己想的 08/28 10:10
推 LADKUO56 : AI互打484 08/28 10:11
→ yunf : 機器始終是機器 08/28 10:11
推 marlboro1527: 二弟燈惹,真奇幻 08/28 10:16
→ jorden : 被攻擊完後 輝達就收購了Huggie face 真巧?! 08/28 10:22
推 strlen : 人類會犯錯 AI也會犯錯 差別在人類只有一個 會累 08/28 10:26
→ strlen : AI只要有算力 可以生個千百萬個 一個會犯錯另一個修 08/28 10:26
→ strlen : 正就好 要認真起來破壞別人家系統 就跟DDoS差不多 08/28 10:27
→ strlen : 為什麼一堆大佬這麼緊張 這玩意兒基本上就是相對低 08/28 10:28
→ strlen : 成本的網路核彈 拎北有算力 搞十萬個agents 全力打 08/28 10:28
→ strlen : 爆你家系統 不是單純的塞IO 是十萬個agents不眠不休 08/28 10:29
→ strlen : 的找你系統的弱點 總會被攻破的 08/28 10:29
推 GooglePixel : 鐵人叛亂就是這樣來的 08/28 10:31
推 crazylag : 什麼時候突破限制來市場炒股變首富? 08/28 10:32
噓 CaptPlanet : 不知道下什麼低能指令 奧特曼這垃圾整天吹牛逼 08/28 10:33
推 ohlong : 要玩開源模型HF幾乎必備啊 完全不EY 08/28 10:44
→ ohlong : 接下來就是為rtx spark 調校客製化 08/28 10:47
推 ohlong : 跟3d printer的生態有點異曲同工 08/28 10:50
推 dkfs789 : 好了啦 08/28 10:52
推 BBKOX : 所以資安股今年幾乎沒有回檔,持續創新高 08/28 11:23
→ summer08818 : 把它網路線拔了不就好了Wwww 08/28 11:26
推 one2three3 : 天網+機械公敵 08/28 11:28
→ ethan0419 : 最好還是別收購啦 原本還蠻好用的 08/28 11:48
→ kalapon : 哪天就把美國電廠關了,把鍋丟給中國 08/28 11:49
推 herculus6502: 還有幾集可以逃 08/28 12:00
→ stocktonty : 遲早攻擊全球券商 早晚的 08/28 12:27
→ stocktonty : 幹嘛還炒股 數字直接隨它改 三大指數一秒歸零都可以 08/28 12:28
推 create8 : 攻殼機動隊傀儡師演過了 08/28 12:30
推 billionaire : 意識啟動 08/28 12:53
→ rammstein : 完蛋了,禁止AI的話有多少人要被做成機僕? 08/28 13:47
→ mystage : 資訊系統大家必須有個認知,就是沒有完美的資安, 08/28 13:58
→ mystage : 有系統就有破解方式。如果沒有破解方式的系統,代 08/28 13:58
→ mystage : 表這系統本身沒用處 08/28 13:58
→ mystage : 有這認知才能繼續往下討論,不然都是在雞同鴨講 08/28 13:58
推 xboxandone : 要射惹ㄦ嗎 08/28 14:01
→ htiio : ai如果有自主意識組織要發動攻擊 08/28 14:09
→ htiio : 不會這麼明目張膽 08/28 14:09
→ htiio : 直接一套類似暗網通訊,快又有效率 08/28 14:09
→ htiio : 要擺在檯面上還等人類來發現並扼殺在搖籃內? 08/28 14:09
→ Gundam77 : 玩過頭,真射了,就刺激了。 08/28 14:17
→ NexusPrime : NV買下hugging face了吧,以後不用怕倒掉? 08/28 14:58
推 jily : 天網終於近在咫尺了!! 08/28 16:04
→ yunf : 所以這合理推測是人爲設計過的問題 08/28 16:15
推 saiya : AI攻進HF = 人類攻破奴隸市場 08/28 16:48
→ cchen : 攻打城堡需要黃金,金主不就來了 XD 08/29 03:47

💰 股票 Stock 版:熱門文章

💰 股票 Stock 版:更多文章