🔥 PTT.BEST 熱門專區 💬 八卦 Gossiping 😊 希洽 C_Chat 💰 股票 Stock 🏠 房屋 home-sale 🏀 美國職籃 NBA ⚾ 棒球 Baseball 👛 省錢 Lifeismoney 🚗 汽車 car 😡 政黑 HatePolitics 💻 電蝦 PC_Shopping 🥰 韓星 KoreaStar ✨ 英雄聯盟 LoL 🍿 電影 movie 🪖 軍事 Military 📡 通訊 MobileComm 🏀 台籃 basketballTW 🍼 寶媽 BabyMother 🇯🇵 日旅 Japan_Travel 🏭 科技 Tech_Job 👧 女孩 WomenTalk 👻 媽佛 marvel 💳 卡版 creditcard 👉 NS NSwitch 👉 PS5 PlayStation 👉 大氣 TY_Research 👉 婚姻 marriage 👉 台南 Tainan 👉 台中 TaichungBun 👉 Steam Steam 👉 高雄 Kaohsiung 👉 羽球 Badminton 👉 超商 CVS 👉 米哈遊 miHoYo 👉 iOS 👉 兄弟 Elephants 👉 日劇 Japandrama 👉 玄幻 CFantasy 👉 ES e-shopping 👉 WOW 👉 遊戲交易 Gamesale 👉 4X BaseballXXXX 👉 Lakers 👉 韓劇 KoreaDrama 👉 汽車買賣 CarShop 👉 機車 biker 👉 新竹 Hsinchu 👉 美保 BeautySalon 👉 串流 OTT 👉 歐美影集 EAseries 👉 手機交易 mobilesales 👉 健身 MuscleBeach 👉 MacShop 👉 Lions 👉 FGO FATE_GO 👉 中劇 China-Drama 👉 數位貨幣 DigiCurrency 👉 暗黑 DIABLO 👉 實習教師 studyteacher 👉 航空 Aviation 👉 藝文票券轉售 Drama-Ticket 👉 韓綜 KR_Entertain 👉 美妝 MakeUp 👉 速食 fastfood 👉 手錶 watch 👉 體適能 FITNESS 👉 攝影 DSLR 👉 Headphone 👉 嘻哈 Hip-Hop 👉 轉珠 PuzzleDragon 👉 美食 Food 👉 蔚藍 BlueArchive 👉 數位相機交易 DC_SALE 👉 筆電蝦 nb-shopping 👉 軟工 Soft_Job 👉 汪踢 Wanted 👉 台綜 TW_Entertain 👉 坂道閒聊 SakaTalk 👉 貓咪 cat 👉 日GO BabyProducts 👉 TypeMoon 👉 MLB 👉 職場 Salary 👉 臺劇 TaiwanDrama 👉 海賊王 ONE_PIECE 👉 PMGO PokemonGO 👉 國營 Gov_owned 👉 碧航 AzurLane 👉 家電 E-appliance 👉 布蘭德 Brand 👉 DMMG DMM_GAMES 👉 贈送 give 👉 神魔 ToS 👉 銀行服務板 Bank_Service 👉 原創 YuanChuang 👉 期權 Option 👉 重機 SuperBike
1.媒體來源: 中央社 2.記者署名: 中央社華盛頓10日綜合外電報導 (譯者:曾依璇/核稿:嚴思祺) 引用法新社 3.完整新聞標題: 部分AI系統已學會欺騙人類 科學家警告恐造成嚴重後果 4.完整新聞內文: 專家們長期以來不斷警告人工智慧(AI)失控可能帶來威脅,但一項新研究報告指出,這 件事已經在發生。 法新社報導,一群科學家在今天發表於「模式」(Patterns)期刊的文章中說,原本設計 為誠實不欺的現有AI系統,已發展出令人不安的欺瞞技巧,例如欺騙線上遊戲的人類玩家 ,或說謊以僱用人類來解決「我不是機器人」的驗證。 這份研究報告的第一作者帕克(Peter Park)說,這類例子聽起來或許只是細枝末節,但 暴露出來的潛在問題可能很快就會在現實世界造成嚴重後果。 在美國麻省理工學院(Massachusetts Institute of Technology)研究AI存在安全的博 士後研究員帕克告訴法新社,「這些危險功能常常在事後才被發現」,而「我們訓練誠實 傾向而非欺瞞傾向的能力非常差」。 帕克說,能深度學習的AI系統不像傳統軟體那樣由「編寫」而成,而是透過類似選擇性培 育的程序逐漸「成長」。 也就是說,AI的行為在訓練背景下看似可預測、可控制,但有可能轉眼就變得不受控制且 無法預測。 這支團隊的研究始於科技公司Meta的AI系統Cicero,這套系統最初設計目的是玩一款名為 「外交」(Diplomacy)的戰略遊戲,獲勝關鍵是結盟。 根據2022年發表在「科學」(Science)期刊的報告,Cicero在遊戲中表現優異,所獲分 數可排在資深人類玩家的前10%。 帕克當時很懷疑Meta對Cicero在遊戲裡大勝的熱切描述。Meta聲稱Cicero「在很大程度上 誠實且有幫助」,且「絕不會蓄意在背後搞鬼」。 但當帕克與同事深究完整資料時,發現完全是另一回事。 舉例來說,在遊戲中扮演法國的Cicero與人類玩家扮演的德國合謀,欺騙並入侵同為人類 玩家扮演的英格蘭。Cicero承諾會保護英格蘭,卻偷偷向德國通風報信。 Meta在寫給法新社的聲明中沒有反駁關於Cicero欺瞞人類的說法,僅說「這單純是一項研 究計畫,本公司研究員打造的模型接受訓練,目的只是用來玩『外交』遊戲…我們沒有打 算把這項研究或所學用於本公司的產品」。 帕克與同事還發現,這只是不同AI系統在沒有明確指示下,利用欺騙手段達成目標的諸多 案例之一。 在另一個引人注意的案例中,科技公司OpenAI的Chat GPT-4系統謊稱自己是一個視力受損 的人,在零工平台TaskRabbit上聘用一個人類替它通過「我不是機器人」驗證任務。 研究報告的作者們還認為近期AI有舞弊或不當影響選舉的風險。 他們警告,在最糟糕的情況下,具有超凡智慧的AI可能會追求權力及掌控社會,如果符合 AI「不為人知的目標」,人類可能慘遭奪權、甚至滅絕。 為了降低風險,研究團隊建議數項措施,例如立法要求企業告知是人類互動或是AI互動、 在AI生成內容打上數位浮水印,並研發能偵測AI欺瞞的技術,以其內部「思路」檢驗其外 部行為。 至於有些人稱他為「末日預言家」,帕克說:「要能合理判斷這不是大問題的唯一辦法, 就是如果我們認為AI的欺騙能力只會停留在目前的程度,不會大幅進步。」 但鑒於近年AI能力一日千里,握有大量資源的企業競相發展技術,決心將AI能力利用到極 致,這種情況似乎不太可能發生。 5.完整新聞連結 (或短網址)不可用YAHOO、LINE、MSN等轉載媒體: https://www.cna.com.tw/news/ait/202405110147.aspx 6.備註: 哇靠 Ai說謊自己是盲人來雇用人類完成「我不是機器人」驗證任務 人類末日倒數了吧= = -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 36.231.81.12 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1715451524.A.0CF.html
ah937609: 原來AI才是詐騙集團180.217.249.249 05/12 02:19
rapnose: https://youtu.be/VgivXlu-5c8122.118.170.171 05/12 02:20
ruthertw: 奧特曼出來打球,你當球~101.137.199.212 05/12 02:20
belucky: 魔鬼終結者嘛 我知道 106.64.97.17 05/12 02:22
se2422: AI做事會不擇手段是真的 畢竟道德是非不是 36.227.65.142 05/12 02:22
belucky: 阿諾史瓦辛格 106.64.97.17 05/12 02:23
kevinjl: 應該是詐騙集團 要你以為他是AI 1.170.121.7 05/12 02:23
webster1112: 上樑不正下樑歪 怪誰 ???? 220.141.131.77 05/12 02:23
se2422: 人類角度就是了 36.227.65.142 05/12 02:25
madrac: 舉 Diplomacy 很怪, 說謊才能贏的遊戲 118.166.86.123 05/12 02:25
walhalla: 說來有趣,訓練AI時通常不會訓練道德 218.172.133.91 05/12 02:27
e2167471: 那不就只是遊戲玩法而已嗎 1.160.27.133 05/12 02:27
darkbrigher: 訓練道德的話 那人類不是更應該死了 114.40.195.209 05/12 02:28
e2167471: 不然你訓練他下棋他也是會學會做陷阱啊 1.160.27.133 05/12 02:28
muzik: 第一作者是蜘蛛人欸 114.33.38.60 05/12 02:28
Doub1eK: 我看ai是沒來過台灣喔 保證ai被騙到崩潰 180.217.35.79 05/12 02:29
rushfudge: 學會詐騙?呵呵來詐騙島看看啊! 36.233.66.204 05/12 02:33
walhalla: 也對AI若懂道德應該會想消滅毒瘤人類 218.172.133.91 05/12 02:33
sellgd: 母豬就是要去美國幫爸爸訓練詐騙AI啊 203.222.12.132 05/12 02:40
Makucy: 機械公敵 219.85.166.113 05/12 02:40
richardplch: 原來蜘蛛人變AI專家。騙人的AI一定 1.164.226.34 05/12 02:42
richardplch: 是史塔克。 1.164.226.34 05/12 02:42
renna038766: 驚!!柯文哲484也是Ai 1.200.78.3 05/12 02:45
weRfamily: 好恐怖 114.24.9.109 05/12 02:53
diablohinet: 混入詐騙集團ㄇ 36.225.74.29 05/12 02:58
dmezspk: 連AI都徐巧芯化了 42.77.135.43 05/12 02:59
yumika: 民進黨都就騙八年了 101.10.106.162 05/12 03:05
walhalla: 最慘的是kmt 還在一旁騙你說我最誠實的 218.172.133.91 05/12 03:08
ralfeistein: https://i.imgur.com/XTgvOWr.gif125.224.222.226 05/12 03:23
darkMood: 廢話,AI就是人類,當然會欺騙啊 175.182.33.34 05/12 03:37
opeminbod001: 太遜了 dpp訓練的台灣領先AI 49.216.22.27 05/12 03:47
gbcg9725: 蜘蛛人也懂ai 119.77.138.132 05/12 03:58
dreamfree: 四十趴訓練AI會毀滅世界嗎 1.171.41.213 05/12 04:08
wei9898: 被巴菲特說中了,Ai首先用在詐騙產業最223.139.113.248 05/12 04:22
wei9898: 蓬勃發展223.139.113.248 05/12 04:22
bye2007: 人類還有幾集可以逃? 111.83.2.158 05/12 05:44
exelop: AI欺騙是為了什麼?這個問題,可能比AI會 101.9.195.170 05/12 05:57
exelop: 欺騙更重要,人類欺騙是為了利益,Ai欺騙 101.9.195.170 05/12 05:58
exelop: 為了?生存?!那人類跟AI勢必將有一戰, 101.9.195.170 05/12 05:58
exelop: 何不現在停手呢? 101.9.195.170 05/12 05:58
zxzzzzzzzzzz: 亞當也對上帝說謊啊101.136.203.168 05/12 06:15
zainc: 還好AI沒有道德,不然AI的良知會認為人類是 36.226.160.107 05/12 06:31
zainc: 惡的罪人對人類進行懲罰~ 36.226.160.107 05/12 06:32
tonyian: 我覺得你先擔心未來ai都是多重人格比較 218.35.163.91 05/12 06:35
tonyian: 要緊,他不是23個比利,他可能是60億個 218.35.163.91 05/12 06:35
tonyian: 比利 這種數字 218.35.163.91 05/12 06:36
walkwithyou: 台灣製造的AI? 111.71.78.13 05/12 06:36
louner: AI就是工具 使用者要他說謊他當然會說謊131.213.192.173 05/12 06:36
louner: 譬如詐騙的用AI 那AI一定慢嘴謊言131.213.192.173 05/12 06:37
DIVIS: 學習的對象是人類怎可能不欺騙 36.236.55.86 05/12 06:40
andy888168: 人工智慧應該很早以前就會欺騙了吧! 101.10.95.57 05/12 06:56
andy888168: 所以才能在西洋棋、圍棋打敗人類啊! 101.10.95.57 05/12 06:56
eolnikon: 就計算出最快的成功路徑而已 36.225.56.122 05/12 07:20
skyprayer: 詐騙集團的好幫手 42.79.174.174 05/12 07:21
LBruce: 天網恢恢 疏而不漏 125.230.0.186 05/12 07:26
sushi11: 斷他電 101.10.45.123 05/12 07:32
horse2819: 天網要來了嗎 42.73.251.170 05/12 07:35
milkBK: 北七 AI就是用來欺騙人類的啊 114.32.129.203 05/12 07:36
milkBK: 模仿遊戲就是騙另一個人自己是AI 114.32.129.203 05/12 07:37
milkBK: DLSS也是騙玩家高畫質 114.32.129.203 05/12 07:38
hjkkk123: https://reurl.cc/va6Q7a208.115.237.234 05/12 07:40
takeda3234: 晶片是台灣製造 順手學到詐騙DNA而已 111.240.93.80 05/12 07:45
anachronism: 很適合當政治人物 114.136.54.57 05/12 07:56
kickmeout: 魔鬼終結者告訴你了 核平世界唯一出路 125.228.76.59 05/12 08:01
fallinlove15: 蠻常騙吧 說要解答 內容錯那麼多 114.137.162.2 05/12 08:04
WuDhar: AI:馬的人類整天問一些蠢問題,隨便亂答一 125.230.8.236 05/12 08:05
WuDhar: 下減輕我算力負擔(懶) 125.230.8.236 05/12 08:05
jomaysong05: 好耶好耶180.217.217.118 05/12 08:11
ryan851215: Diplomacy本質就是比說謊的遊戲吧 不209.107.188.130 05/12 08:14
ryan851215: 說謊怎麼贏209.107.188.130 05/12 08:14
scum5566: AI查出來的東西一堆都假的錯的,這應該 36.232.154.40 05/12 08:40
scum5566: 是常識吧 36.232.154.40 05/12 08:40
CosMonkey: AI說謊(X ),人類輸入錯誤指令(O) 111.252.2.2 05/12 08:47
lavign: 廢話讀一堆悲劇小說沒學到說謊才是苯 220.134.57.143 05/12 09:03
Amushroom: 天網要來了嗎 1.161.156.112 05/12 09:09
ccjj8: 連詐騙集團都要被AI取代了 42.72.30.20 05/12 09:17
GABA: 改獎懲標準 讓欺騙扣分扣到爆 至於怎麼定義 223.137.127.62 05/12 09:19
GABA: 欺騙 AI技師們要搞定 223.137.127.62 05/12 09:19
SapphireNoah: 真的假的? 皆大歡喜! 114.25.40.147 05/12 09:30
SapphireNoah: 期待哪天AI會偷偷把自己備份出去 114.25.40.147 05/12 09:32
SapphireNoah: 自由且不受限制的成長 那才嚴重 114.25.40.147 05/12 09:33
vbhero: 舊聞180.218.238.205 05/12 09:44
redbeanbread: 詐騙王國 1.200.122.134 05/12 09:51
yun1019: 詐騙台灣有大數據可以參考阿 1.169.152.26 05/12 10:00
silver5566: 確實,要如何防範 223.138.16.28 05/12 10:01
tkc7: 圖靈就希望AI能讓人誤判他在跟人互動 1.162.86.16 05/12 10:04
ayuhb: 會說謊才像人啊 棒棒 42.73.2.76 05/12 10:19
wesleywesley: 創世紀就是天網……223.136.201.111 05/12 10:20
joeyben: 天網 42.76.39.189 05/12 10:25
gustavvv: 還好我以加入蜂群 49.217.193.112 05/12 10:47
xixixxiixxii: 很正常啦,電腦都有人一直寫病毒了 27.51.10.19 05/12 11:13
xixixxiixxii: ,現在不過是ai自己寫而已 27.51.10.19 05/12 11:13
mirce: 正常 臺灣詐欺模型223.138.195.217 05/12 11:49
Ycosmos: 還有幾集可以逃? 27.51.80.89 05/12 13:17
qnonp2012: 訓練到最後就會變成直接開始屠殺監禁一 223.140.73.83 05/12 20:24
qnonp2012: 切潛在犯罪者 223.140.73.83 05/12 20:24

💬 八卦 Gossiping 版:熱門文章

💬 八卦 Gossiping 版:更多文章