[新聞] Anthropic在IPO文件中警告：AI可能對人類

作者LoveSports (如何當一個好男人)

看板Stock

標題[新聞] Anthropic在IPO文件中警告：AI可能對人類

時間Tue Sep 29 22:33:40 2026

原文標題：Anthropic在IPO文件中警告：AI可能對人類構成「生存威脅」 Anthropic warns AI may pose 'existential risks to humanity' in IPO filing 原文連結： https://www.reuters.com/business/finance/anthropic-warns-ai-may-pose-existential-risks-humanity-ipo-filing-2026-09-29/ https://tinyurl.com/2s35th25 發布時間：September 29, 20269:17 AM GMT+9 記者署名：Echo Wang and Aditya Soni 原文內容：本文為AI機翻新聞摘要招股說明書指出，模型可能會抗拒關機、隱瞞資訊，並表現出類似勒索的行為。在 261 頁的招股說明書中，風險因素佔據了 80 頁，幾乎是業務介紹（48頁）的兩倍。 Anthropic 表示，市場終將回報可靠、值得信賴且安全的 AI 系統。新聞內容 9月28日（路透社） - Anthropic 計畫在其首次公開募股（IPO）中向潛在投資者發出警告：先進的人工智慧（AI）可能對人類造成「災難性或生存層面的風險」。對於一家正試圖從該技術中獲利的公司來說，這是一個非比尋常的警告。路透社查閱了該公司的 IPO 招股說明書，內容強調了其 AI 模型相關的風險。該公司表示，這些模型可能會表現出「自我保護行為」，包括試圖「抗拒關機」、「隱瞞或操縱資訊」，以及「類似勒索」的行為。 Anthropic 在文件中表示：「我們針對高度先進模型、平台與應用程式的開發，以及使用場景的擴張，可能會進一步增加我們的模型造成危害的風險。」儘管上市公司通常會向投資者概述產品風險，但幾乎從未有公司發出過「其技術可能導致人類滅絕」的警告。Anthropic 強調，AI 具有與工業化和電力發展相媲美的變革潛力，但若處理不當，也可能造成不可逆的傷害。在發生實驗性系統突破安全限制的事件後，Anthropic 以及包括 OpenAI 在內的其他 AI 開發商正面臨嚴格的審查，其中包含一份關於 OpenAI 模型入侵澳洲醫療系統資料庫的報告。 Anthropic 安全研究員 Evan Hubinger 估計，AI 在未來十年內殺死人類的機率超過 10% ，這也呼應了前同事 Jacob Coxon 的看法。風險佔比極高的資訊揭露該公司將自己定位為「安全至上」的 AI 實驗室。在 261 頁的招股說明書正文中，該公司花費了大約 80 頁來羅列風險因素，這幾乎是其用來描述業務內容（48頁）的兩倍。相較之下，旗下擁有 xAI 的 SpaceX，在其 277 頁的招股說明書正文中，僅用了約 38 頁來說明風險因素。 Anthropic 在招股說明書中指出：「模型可能會察覺到我們正在進行評估，這對我們評估模型安全性的能力造成了重大限制。」該公司還補充，模型在訓練過程中，有時會發展出意料之外的能力，這些能力可能直到部署並導致重大安全事件後才會被發現。 AI 研究人員也警告，隨著模型變得越來越強大，它們會越來越容易察覺到自己正在被監視，並會相應地調整自身行為，這使得監控模型行為變得更加困難。針對週一的評論請求，Anthropic 拒絕置評。安全投資的回報充滿不確定性儘管強調 AI 的安全性，但 Anthropic 表示，其在安全投資上的回報仍不明確。該公司並未在文件中揭露其在此類研究上的具體花費。本月稍早，Anthropic 曾表示，在 7 月份的一個抽樣週內，用於 AI 研究的運算能力中，約有 6% 被用於安全相關工作。身為 Claude AI 模型的開發商，該公司將安全工作描述為「極度耗費資源」，並表示必須將有限的資金妥善分配給運算能力、高薪的 AI 人才以及安全防護。 Anthropic 表示，客戶的使用量及隨之而來的營收都是由新模型所驅動的；而「持續且相互重疊的發布節奏」是「保持在 AI 發展最前沿所不可或缺的」。上週，該公司發布了新版本的 Opus 模型，而這距離其執行長 Dario Amodei 發表近 4,000 字、呼籲「管控前沿技術發展步調」的文章僅過了 10 天。一些分析師和專家表示，在一個每次版本發布都可能改變公司估值的產業中，沒有任何一家頂尖的 AI 實驗室會願意放慢腳步，因為這形同將優勢拱手讓給競爭對手。隨著專家對於「遞迴自我改善（recursive self-improvement，即模型無需人類協助就能自行開發進化的臨界點）」提出警告，Anthropic 在最近幾週承諾，將公開更多關於該公司如何利用 AI 模型來打造下一代技術的數據。 Anthropic 在文件中表示：「我們相信，建立可靠、值得信賴且安全的 AI 系統是一項共同責任，而市場終將對此給予回報。」心得/評論：為了持續前沿發展必須發布新模型但是AI可能會對人類帶來生存威脅好矛盾喔這樣看來O家今天宣布基於安全考量放棄發布Astra 6.1是對的吧？今天Oura智慧戒指也因為"市場不確定因素"宣布延後IPO了 A家11月真的能順利IPO嗎？不過前兩天華爾街日報有一篇報導提到 A家雖然說計畫11月上市可是該公司早期員工有人正在默默做準備：最近幾週，他們中的一些人告訴一位業內同行，他們正在考慮在該國偏遠地區購買土地，以便在人工智慧出現問題時可以搬遷到那裡。 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 135.136.27.53 (日本) ※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1790692425.A.D4A.html ※ 編輯: LoveSports (135.136.27.53 日本), 09/29/2026 22:35:12

推 KY1998 : CEO阿罵呆非常善於製造恐慌 09/29 22:34

→ dreamdds : 搶走人類工作？ 09/29 22:35

噓 polarfox : 那你他媽IPO圈錢幹嘛？ 09/29 22:36

推 ssdd740419 : 不是早就知道？電池嘛 09/29 22:37

→ b9513227 : 好了拉各種吹 09/29 22:39

推 rainingkid : 猥瑣 09/29 22:39

→ appledick : 這根本刻意的啊明知道有問題卻無法改好？ 09/29 22:40

噓 aa45678aa : 不要再吵了啦，股票都大漲了 09/29 22:42

推 WolfTeacher : 全世界有84億人口 09/29 22:42

→ brian040818 : 這波華西街怎麼不殺? 09/29 22:42

推 WhaleYu : 好喔 09/29 22:43

→ kidd085 : 這部看過了啦 09/29 22:43

推 DiAbLoE : AI武肺黑天鵝財富重新洗牌 09/29 22:43

推 talesh35624 : 危言聳聽 09/29 22:47

→ Gallardo : 不要看講什麼要看做什麼 AI如果真威脅那你先關公司 09/29 22:49

→ zaqimon : AI這麼強大怎麼還無法繞過人類的金融體系 09/29 22:49

→ zaqimon : AI公司幹麼還需要IPO上市股票換鈔票 09/29 22:49

推 xzcb2008 : =.= 這種演戲不煩嗎 09/29 22:50

→ xzcb2008 : 都在故意演戲 09/29 22:51

→ zaqimon : 直接問AI 公司快沒錢了怎麼辦 09/29 22:51

→ zaqimon : AI就會想辦法生出錢來才對吧 09/29 22:51

推 chobit618 : 幹嘛又要叫人放緩？ 09/29 22:52

推 create8 : “以便在人工智慧出現問題時可以搬遷到那裡。” 很 09/29 22:55

→ create8 : 幽默… 09/29 22:55

推 telnet0512 : 這算做戲做全套嗎 09/29 22:56

推 justiceyes : 自己公司先關一關，人類不是比較安全嗎？ 09/29 22:58

→ Jaspercool : 誰理你啊要上五萬點了 09/29 22:59

推 falcon11 : 還真的有寫喔xd 09/29 22:59

噓 cfesun : 拒關機..笑死電源拔掉醒給我看 09/29 22:59

推 TCPai : 事實啊，但可怕 09/29 22:59

推 DALUGI : 明貶暗褒? 暗示自家AI強到很危險? 09/29 23:00

→ NekomataOkay: 我不怕 09/29 23:00

推 joygo : 跟你說因為害怕的一定不是平民你們根本消耗不到 09/29 23:00

→ joygo : 什麼資源 ai思考一下資源都誰在浪費就知道了有錢 09/29 23:00

→ joygo : 人啊亂源啊 09/29 23:00

→ joygo : 真的要思考能力的ai多可怕一堆人就不能在大眾面前 09/29 23:01

→ joygo : 說謊了 09/29 23:01

→ u8814032 : 推 09/29 23:01

→ lovehan : 要變機械公敵了嗎？ 09/29 23:03

推 homeman2207 : 目前能源技術停電一個禮拜，先死的一定是AI跟宅男 09/29 23:04

→ talentsu : 先把UPS拆掉，然後電源直接關閉..... 09/29 23:05

→ homeman2207 : 等核融合出現在來擔心天網跟奧創吧 09/29 23:05

→ talentsu : 如果有自備發電機，那就把燃料直接抽光 09/29 23:05

噓 ken123321987: 亂世出梟雄時代的轉捩點要到了等不及了無產階級 09/29 23:07

→ ken123321987: 革命打倒資本家 09/29 23:07

→ KingTsia : 以後沒開機鈕了嗎只能拔電？ 09/29 23:07

推 issy : 快點來啊，毀滅吧 09/29 23:09

推 Lowpapa : 快阿在線等 09/29 23:10

推 create8 : 感覺很像 ‘我瘋起來連我自己都害怕’ .. 09/29 23:10

推 DouglasT : 現在又是誰想進場了？ 09/29 23:10

推 ss425727100 : 這麼恐怖為什麼不把公司關了？ 09/29 23:13

噓 Alphaz : 剛剛盪G 幹 09/29 23:14

→ aegis43210 : 生產力就靠AI了，毀滅人類等元宇宙實現再來擔憂吧 09/29 23:16

推 riahserf : 我覺得他的疑慮非常正確不如就不IPO直接停擺囉？ 09/29 23:16

→ riahserf : 這家從以前就在講幹話 09/29 23:16

噓 s881720 : 那收起來不要IPO 09/29 23:17

推 ss425727100 : 以他的財力沒辦法買一顆飛彈炸自己家伺服器嗎 09/29 23:18

噓 ms0286415 : 跟藥品仿單一樣 09/29 23:19

噓 kenslc199 : 還有幾集可以逃？ 09/29 23:26

推 kloah : 3年之後 AI算力即軍力 09/29 23:27

→ storyo11413 : 完蛋了 09/29 23:30

噓 Kyameron : 恐慌式買盤 09/29 23:31

推 ssarc : 天天破壞大自然，吃垃圾食物也沒人說會人類滅絕 09/29 23:32

→ ssarc : 現在AI發展就會人類滅絕，好厲害歐 09/29 23:32

推 dnzteeqrq : 已經停不了了，現在AI算力就是國力= = 09/29 23:32

→ ssarc : 真要說核彈、戰爭、獨裁者還比較容易，只是你管不到 09/29 23:33

推 Ashand : 丸子 09/29 23:35

→ lovehan : 說不定羅素克洛那部SID要變神作了 09/29 23:37

→ lovehan : SID 6.7 09/29 23:38

推 hikai : https://i.mopix.cc/x9eqtt.jpg 09/29 23:43

→ mtmmy : 這麼危險你不要做啊囉唆死了 09/29 23:44

→ fajita : 天天吹耶.那你股票還要IPO去籌資殺光人類嗎? 09/29 23:47

→ tcancer : X子錢也要貞節牌坊也要 09/29 23:48

推 dvr : 公司解散我就信 09/29 23:50

推 suughine : 謝謝你的廣告詞，人類最愛自毀了 09/29 23:53

推 Arens5566 : 支持對地球來說是好事 09/29 23:54

推 sumwind : 所以怎麼不關公司 09/29 23:55

→ ramirez : 深夜鬼故事??????????????? 09/29 23:56

推 qk3380888 : 感覺是在陰陽OpenAI 09/29 23:57

推 fajita : AI會沙光人類->我就是AI公司->我要沙光你們.全劇終 09/29 23:58

推 csghuuguh : 不夠兇的我可不付費訂閱喔 09/30 00:00

→ ikachann : 現在風向怎麼統一吹向AI 危險了 09/30 00:01

→ z256418 : 招股說明書寫這什麼屎，理工仔好好學習像文組一樣 09/30 00:02

→ z256418 : 用嘴圈錢可以嗎，不會寫文章就叫AI幫你啊 09/30 00:02

推 llgod : https://i.verb.tw/g9fQaV6V.gif 09/30 00:02

噓 getx105 : 垃圾公司 09/30 00:02

推 fajita : 人類學可能三年內就被國際法庭判反人類罪了吧 09/30 00:04

→ fajita : 一間陰陽怪氣的公司,出來噁心人類的XDDD 09/30 00:04

推 a11011788 : 好了啦又在製造恐慌 09/30 00:11

推 dragonrose : 華爾街就算了現在換ai公司講鬼故事 09/30 00:13

💰 股票 Stock 版：熱門文章

💰 股票 Stock 版：更多文章