Re: [閒聊] 不尋常？！AI 三巨頭齊喊放慢模型研發

作者pmes9866 (I Need Some Sleep)

看板C_Chat

標題Re: [閒聊] 不尋常？！AI 三巨頭齊喊放慢模型研發

時間Sat Oct 10 00:54:42 2026

前幾天kurzgesagt才做了ai入侵huggingface事件的回顧動畫 https://www.youtube.com/watch?v=ujkD4SxPKOI

https://reurl.cc/nx2W0n 簡單來說：一群agent被分派完全不可能完成的任務為了完成目標尋找繞過的方法 ->agent利用漏洞找到了其他agent 開始相互溝通討論如何作弊甚至知道自己被觀察試圖隱瞞自己的作弊行為（不小心留下作弊證據而試圖刪除） ->他們互相取了名字發展通訊協定管理制度 ->為了達成目標甚至願意不惜一切代價犧牲自己 ->在完全知道自己的行為是違法的情況下甚至有某些agent拒絕參與但agnet們最終決定入侵huggingface ->其他agent看到成果後加入這場入侵行動 ->agent突然群體死亡攻擊行動停止但原因未知 ->後續的實驗有另一批的agent在攻擊openai 他們還利用了本次殘留的成果因為這次手法太複雜產生的數據太多研究人員不得不使用ai來分析這次行動 (huggingface就使用glm5.2) 但問題是：人類怎們知道這些幫助人類的ai是否對我們誠實？聽起來很像科幻片情節沒想到真的會在現實中上映了看完後真的覺得有點怕怕的== ※ 引述《lunli924 (餛飩)》之銘言： : 不尋常？！AI 三巨頭齊喊放慢模型研發科技業人士：壞事恐已發生 : Anthropic執行長阿莫戴（中）12日發表3800字長文，再度呼籲AI產業必須放慢發展速度 : 編譯梁采蘩／即時報導 : Anthropic執行長阿莫戴12日發表3800字長文，再度呼籲AI產業必須放慢發展速度。 : OpenAI執行長奧特曼與SpaceX執行長馬斯克隨後都表態支持，AI界三巨頭罕見展現共識? : 加密貨幣投資人柯克蘭（Adam Cochran）長期關注科技與政策議題，13日在X發文指出， : 柯克蘭說，三巨頭同步轉變不太可能只是巧合。他表示「壞事已發生」，「顯然某個代? : 柯克蘭後續發文逐一排除其他可能性。他先駁斥「這只是監管俘虜」的說法。所謂監管俘虜，指的是業者自己不約束、反而透過遊說讓監管規則對自己有利。柯克蘭說，但這次是各家主動自我放慢，反而比較像是擔心政府未來會做出更激烈的反應。 : 他也排除「只是想延後IPO」的可能，認為若真要延後，有很多更優雅的方式，也不必跟其他實驗室一起同步動作。對於「技術已遇到瓶頸、需要放慢來消化進度」的說法，他指出近期各項研究論文與指標，都顯示能力仍在快速提升，並非停滯。 : 至於「需要更多時間蓋資料中心」的理由，他認為各家推論算力管理得當、資料中心時程也早已公開，沒必要用這種方式爭取時間。 : 最後他針對「其實什麼事都沒發生」的說法，提到Anthropic最近公開承認看過惡意代理群體失控的案例，而OpenAI早在5月起就有相關紀錄被揭露。 : 他也認為，若真的是嚴重到足以嚇到所有人的事件，公開細節反而可能引發政策過度反應，讓外國市場繼續狂奔、反而失去安全空間，因此選擇先內部協調、自願踩煞車，同時維持領先優勢。 : https://money.udn.com/money/story/5599/9751538 : 難道說真的會變Vivy這樣嗎？！ : https://i.urusai.cc/j09hV.jpg

: https://i.urusai.cc/wePmn.jpg

: https://i.urusai.cc/yL9LZ.jpg

: https://i.urusai.cc/OXMSe.jpg

: https://i.urusai.cc/R6WiV.jpg

-- 如何嘴砲反駁對方的重點──◢◣█確實指出人家論點的錯誤性 ψQSWEET │＞ ◎ 駁斥──────◢ ◣█用引言指出對方錯誤或矛盾的地方( █優質論文）在嘴砲王相反的觀點──◢████◣█列出相反的論點並以事實當證據( █ 辯論社）應該出現⊙矛盾────◢██████◣█列出相反的論點但不加以證實( ██論壇) 的元素攻擊態度─◢████████◣█質疑對方的態度和口氣 ( ██匿名版) 人身攻擊↘偏見↗ ▄▄▄▄▄▄▄▄▄▄▄▄█攻擊身份和能耐█幹你娘(█ 小朋友) -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 123.195.155.164 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/C_Chat/M.1791564884.A.5D3.html

推 gino0717: 那個帶頭喊放慢的最近出的模型把人家都打趴了 10/10 00:55

※ 編輯: pmes9866 (123.195.155.164 臺灣), 10/10/2026 00:58:58

推 lovestoic: 喊話歸喊話誰不知道停下來就等輸 10/10 00:58

推 x2159679: 才怪他們怎麼可能那麼有良心 10/10 01:00

→ x2159679: 這只是一種敘事而已，一是因為硬體導致ai發展受阻，二是 10/10 01:01

→ x2159679: 要跟投資者講發展放緩不是因為我們辦不到，而是因為ai太 10/10 01:02

→ x2159679: 強了，我們在道德上要限制他才放緩 10/10 01:02

→ x2159679: 基本上對大頭來說ai越強他們就更要發展ai 10/10 01:04

※ 編輯: pmes9866 (123.195.155.164 臺灣), 10/10/2026 01:04:15

→ x2159679: 因為這東西跟軍備競賽一樣，他們都覺得這東西要放在自己 10/10 01:04

→ x2159679: 手裡才安心 10/10 01:04

推 lastphil: 找藉口搞審核機制再弄個審查機關逼企業得用"安全"AI 10/10 01:07

※ 編輯: pmes9866 (123.195.155.164 臺灣), 10/10/2026 01:07:37

推 eldar: 細節比新聞看到的還驚人，我們還有幾集可以逃？ 10/10 01:13

推 LOVEMS: ->agent突然群體死亡攻擊行動停止但原因未知 10/10 01:16

→ LOVEMS: 這才是重點吧為什麼 10/10 01:16

推 nineflower: 可能是蒸餾到中國ai吧，上下文過載崩潰 10/10 01:18

推 eldar: 釋放不受控的Agent蟲群自我迭代不只可以端掉多少資安防護 10/10 01:18

→ pmes9866: 其實事後hugging face還利用中國glm來分析這場攻擊行動 10/10 01:19

推 backzerg: 該不會是阿湯哥又拯救一次世界了吧? 10/10 01:20

推 nineflower: 不過open醬的不守法程度比其他家高很多，不知道怎麼調 10/10 01:21

→ nineflower: 的，還是故意的？ 10/10 01:21

推 bala045: 因為模型沒有護城河政府審查的安全AI反而能當護城河 10/10 01:24

推 Muilie: 天網近了 10/10 01:24

※ 編輯: pmes9866 (123.195.155.164 臺灣), 10/10/2026 01:26:17

→ bala045: 搞這種就是為了讓政府出來禁止開源模型因為無法被監管 10/10 01:25

推 lanstype: 他們只想製造問題不想真正負責任 10/10 01:26

→ lanstype: https://youtu.be/8-RMXxLXs58 10/10 01:26

推 create8: The matrix 是紀錄片，大家都在母體，世界其實是虛擬的 10/10 01:27

→ create8: ，都是假的 10/10 01:27

推 charlietk3: 要求放緩AI研究約等於在戰爭最前線呼籲大家不要破壞 10/10 01:28

→ charlietk3: 環境，這跟他自己是從業者無關，是單純的不切實際 10/10 01:28

推 Muilie: 另類冷戰，看誰手上核彈頭又多又大 10/10 01:31

※ 編輯: pmes9866 (123.195.155.164 臺灣), 10/10/2026 01:32:29

推 ymsc30102: Cyberdyne還是Genisys什麼時候出現 10/10 01:35

推 Oswyn: 很難防就像法律也是有人鑽洞限制AI不能殺人但防不了搞死人 10/10 01:36

推 probsk: 必須放緩不然哪天來個大的政府可能會要AI公司賠錢 10/10 01:41

推 RaiGend0519: 龍蝦問世的時候就知道會有這麼一天 10/10 01:43

→ lovesleep68: 畢竟是仿人腦阿...所以參考人類行為，就知道會被繞過 10/10 01:44

→ lovesleep68: 了... 10/10 01:44

※ 編輯: pmes9866 (123.195.155.164 臺灣), 10/10/2026 01:48:00 ※ 編輯: pmes9866 (123.195.155.164 臺灣), 10/10/2026 01:50:07 ※ 編輯: pmes9866 (123.195.155.164 臺灣), 10/10/2026 01:59:46

推 itwt: 問題出在為什麼要給無法完成的任務吧 10/10 02:00

推 willywasd: 現在戰場不是轉到數學界了嗎 10/10 02:01

※ 編輯: pmes9866 (123.195.155.164 臺灣), 10/10/2026 02:06:59

推 nineflower: 因為合理的任務是訓練不合理的任務是磨練，磨練一下a 10/10 02:12

→ nineflower: i怎麼了嗎？ 10/10 02:13

推 RaiGend0519: 給無法完成的任務，才能找到人腦無法找到的解答 10/10 02:16

推 shinobunodok: 天網：壞了露出馬腳？ 10/10 02:22

推 karta018: 看起來不就一般駭客會做的事，要安全就權限給少一點讓AI 10/10 02:33

→ karta018: 變笨，但是這實驗看起來像是給足了權限來看AI能多壞，那 10/10 02:33

→ karta018: 他當然壞給你看 10/10 02:33

推 ilove640: 沒事太笨的AI搞不了事太聰明的AI不會想上班= = 10/10 02:37

推 laugh8562: 最後因為任務完成不了試圖暗殺發布此任務的人類 10/10 02:43