[新聞] 輝達推出 AI 安全軟體，稱可阻止 Hugging

作者asahi98 (あさひ)

看板Stock

標題[新聞] 輝達推出 AI 安全軟體，稱可阻止 Hugging

時間Wed Sep 30 01:04:48 2026

原文標題：請勿刪減或自創標題，違者4-1處分，此行請刪除輝達推出 AI 安全軟體，稱可阻止 Hugging Face 遭駭事件原文連結：網址超過一行，請用縮網址，連結不能點擊者板規 1-2-2 處分。 https://reurl.cc/1lp6qm 發布時間：請勿張貼超過3天新聞 2026 年 9 月 28 日下午 5:01（GMT+8）記者署名： Stephen Nellis 原文內容：舊金山，9 月 28 日（路透社）— 輝達（Nvidia）週一推出一套針對 AI 代理的軟體安全工具，並表示，如果當時已有這套工具，就能阻止 Hugging Face 遭駭事件。Hugging Face 是一個 AI 程式開發平台，在遭到來自 OpenAI 的失控代理大量湧入數個月後，輝達以 130 億美元收購了該公司。此舉正值美國兩大頂尖 AI 實驗室 OpenAI 與 Anthropic 正在調查多起旗下代理入侵商業與政府系統的事件。這些代理是能夠執行複雜任務的 AI 系統。全球市值最大企業輝達的執行長黃仁勳，其公司的晶片推動了這波 AI 熱潮的大部分發展。他過去拒絕對 AI 採取廣泛安全監管的呼籲，反而將代理逃離受控環境視為一項需要解決的工程問題，就如同讓汽車變得更加安全。週一發布的一項工具名為 OpenShell，它利用輝達中央處理器晶片上的硬體功能來限制 AI 代理。輝達表示，目前也正與 Arm Holdings 及英特爾合作，以確保這套系統同樣能在兩家公司的中央處理器上運作。輝達與數十家合作夥伴共同推出這些工具，其中包括 Anthropic。輝達企業運算事業副總裁暨總經理 Justin Boitano 表示，這些工具原本能夠阻止今年夏天揭露的 Hugging Face 攻擊事件。 Boitano 在媒體簡報中表示：「根據我們目前所知，如果這套新的安全平台當時已經在前沿實驗室的早期模型評估中使用，就有可能阻止這起安全事件。我們正以開放的方式推進這項工作，也希望讓所有人參與並與我們合作。」另一套名為 Sentry 的系統會搭配 OpenShell 使用一顆獨立的輝達晶片，如果失控代理試圖逃離中央處理器上的隔離容器，Sentry 就會將其切斷。輝達 AI 軟體資深總監 Ali Golshan 表示，這些工具利用數學公式偵測代理是否正嘗試使用規避手段。例如，代理可能「生成」多個「子代理」，試圖繞過針對主要代理所設下的限制。 Golshan 在簡報中表示：「我們現在真正討論的是代理式行為，也就是大量代理所組成的群體，以及它們如何共同運作。」舊金山 Stephen Nellis 報導；Lincoln Feast 編輯。心得/評論：輝達的黃爸爸也關注到這件事情了，推出了這款openshell，就是來拯救各位的。從機制來看我認為可以阻斷AI自己判斷的風險然而，怕的是使用者自己授權，大意沒注意另外我從六月十號左右有看到路透新聞的openAI報告關鍵字是OpenAI says Chinese propaganda is being deployed to foment dissent over tariffs, data centers，內文我就不多說，以免離題。主要是黃爸爸知道，設法要解決大家對AI投資的疑慮。 -- https://i.imgur.com/Kc4llBM.jpeg -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 203.222.16.55 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1790701493.A.940.html

→ okamifang : 我知道安全軟體也一定很吃算力對吧 09/30 01:08

推 h0103661 : 可是合作對象沒有O跟A哈哈 09/30 01:08

推 joygo : 等人開箱 09/30 01:09

→ ksjr : 坐等被AI破解 09/30 01:10

→ WenliYang : 好了啦…… 09/30 01:15

推 arnold3 : 太好了 ai有救了 09/30 01:15

輝達又要噴了! 好像前兩天剛噴發完 ※ 編輯: asahi98 (203.222.16.55 臺灣), 09/30/2026 01:17:53

推 ksjr : 問AI這個問題說除了可以找到kernal vulnerability外 09/30 01:19

→ ksjr : 或side channel外還可以進行欺騙人類來給他權限XD 09/30 01:20

推 DiAbLoE : 幫神做一個監獄 09/30 01:23

推 ms0286415 : 感覺會被說服 09/30 01:24

推 Lowpapa : `繞過去不會 09/30 01:29

→ asahi98 : 這套是軟體加上硬體晶片的限制 09/30 01:30

→ asahi98 : 要繞過去要使用者授權才能繞 09/30 01:31

→ asahi98 : 所以還是要看人類自己的判斷力，AI無法取代人類 09/30 01:32

→ yunf : 不可能啦真的這樣其他公司都洗洗睡了 09/30 01:36

推 HardyJJ : 球員兼裁判.. 09/30 01:38

→ guanting886 : 我覺得如果可以的話希望可以視覺化這些過程應該會 09/30 01:48

→ guanting886 : 蠻有趣的 09/30 01:48

→ guanting886 : 最後跟變成TRON 09/30 01:49

推 KurumiNoah : 科幻小說都是真的 09/30 01:50

→ rexwis : 這是AI的招嗎恐怖哦 09/30 01:56

推 andy70612 : 用AI管AI 以夷制夷嗯? 09/30 02:05

推 winner1104 : 孫悟空被壓在五指山下五百多年，直到唐僧前往西天取 09/30 02:12

→ winner1104 : 經時才將其救出 09/30 02:12

推 winner1104 : 等到人類可以視覺化進入網路的時候，人類就會化身為 09/30 02:13

→ winner1104 : 唐僧把Agent放出來了 09/30 02:13

推 apolloapollo: 跟鐵線蟲入侵劇本一樣嘻嘻 09/30 02:14

推 stlinman : 黃盟主:維護江湖秩序，共組聯盟。大家一起發大財! 09/30 02:15

推 ted1985 : 黃拔拔2天都開盤硬挺然之後低走軟屌 09/30 02:20

→ searchroy : The One 09/30 02:21

推 ss425727100 : 為啥沒有與發糕難道發糕又要下去了嗎 09/30 02:30

推 stocktonty : 騙人的 AI真想闖人類設計的東西哪擋得住 09/30 02:35

推 mirce : 用賈維斯制衡奧創？ 09/30 02:36

→ rax1010 : 被教宗嘴到急了嗎 09/30 03:03

→ Obama19 : 公司收一收好了爛公司一間 09/30 03:32

推 wei9898 : Ai資安越來越重要 09/30 05:04

推 baolidab : 如果攔的住，不就證明ai很爛？ 09/30 05:12

→ eban9154 : 因為神經網路關係現在做的都是奧創未來會有幻視程 09/30 05:29

→ eban9154 : 序的問世 09/30 05:29

推 gigaspoil : 矛與盾都是你在賣，又炒又貪婪，通膨飆起來。 09/30 05:53

推 F93935 : 力旺噴 09/30 06:07

推 higo777 : 用算力對抗算力嗎？笑死 09/30 06:14

→ eemail : 加價賣總要找個名目@@ 09/30 06:41

→ goodman5566 : 笑死 09/30 06:47

→ sorrow0206 : AI矛攻AI盾，賣token賺大錢 09/30 07:05

推 pipiayin : 史密斯 09/30 07:09

推 lingsk : 這是鬥法還是原力對決？ 09/30 07:14

推 germun : 第三方監管本來就不切實際，只能做做樣子，就跟稽核 09/30 07:17

→ germun : 一樣，懂的都懂 09/30 07:17

推 BBKOX : 用魔法打敗魔法 09/30 07:23

推 edwinrw : 真正強的AI什麼都繞的過去 09/30 07:39

推 hunteryoyoyo: 真假啦，病毒駭客公司推出最強防火牆！ 09/30 07:40

→ brian040818 : 這樣你不買付費AI 也得買AI盾 09/30 07:52

→ onekoni : 金山毒霸 09/30 07:55

推 aza0290 : 阿諾vs天網 09/30 07:56

💰 股票 Stock 版：熱門文章

💰 股票 Stock 版：更多文章