推 chrisjohn214: 為了避免大人不開心，大家正在自我審查，你別攪和 02/04 21:26
推 wahaha99: 沒錯,只是事情大概會變成這樣: 02/04 21:26
→ wahaha99: 你為了訓練出蘿感, 找了一堆偽蘿圖來訓練, 02/04 21:27
→ wahaha99: 接下來除非是大眾熟悉的AV女優,不然你得證實那是偽蘿 02/04 21:27
→ wahaha99: 幹嘛搞自己 02/04 21:27
→ moswu: 聽起來他媽超複雜 02/04 21:28
事實上沒有很複雜，stable diffusion 早就已經有在圖片裡面存關鍵字資訊了
這就純粹是在輸出檔案上多幾行meta的事
跟食安法規定食品上要標內容物與產地差不多
推 forever9801: AI擬真圖最大問題就是你少一個立足點可以抗辯 02/04 21:28
→ forever9801: 2次元你可以說這跟真人根本沒辦法產生連結 正常判斷 02/04 21:28
→ forever9801: 能力的人都不會認為這是真人 02/04 21:28
→ forever9801: 擬真圖過幾年你只能以太完美來覺得他是假的 02/04 21:29
→ forever9801: 執法單位要怎麼判斷這是AI還是真人圖? 02/04 21:30
meta不清楚就當他沒證據啊，持有爭議物品要證明來自合法管道很正常吧
藥物管制不也是差不多的東西。
※ 編輯: peterturtle (115.165.192.240 臺灣), 02/04/2024 21:34:04
→ forever9801: 以兒少大旗來講超級逆風 除非你找的到幾個不分區立委 02/04 21:31
→ forever9801: 願意自殺去挺 不然真的難 02/04 21:31
→ HanadaIru: 簡單說支持AI擬真的基本上就是真的戀童癖無誤了 02/04 21:32
→ HanadaIru: 這種就是專門在拖後腿的 02/04 21:32
當然最好的情況是戀童癖們能轉戰純二次蘿
推 forever9801: 反正你要打完全創作自由大旗 基本上就是不太可能 02/04 21:34
→ forever9801: 連日本這麼挺二次元的 很多網站這個都自肅禁了 02/04 21:35
→ moswu: 你都說爭議物品了，官府一定覺得我還放出來自找麻煩 02/04 21:35
→ Satoman: 不行，我同樣的dataset同樣的設定兩次會現不同的結果 02/04 21:37
會有不同結果是因為Random一般會帶時間參數來避免重覆，
你要直接紀錄亂數結果才會一樣
→ moswu: 推這個出去砍頭是影響最小的，要100%當兒福聯盟吃素的？ 02/04 21:37
※ 編輯: peterturtle (115.165.192.240 臺灣), 02/04/2024 21:42:50
→ Satoman: 而且目前的訓練機制是完全可以隱藏dataset的 02/04 21:39
→ headender: 戀童癖都被定義成精神病了 最好還是跟戀童癖切割 看二 02/04 21:39
→ headender: 次元還能說現實沒人長這樣 看擬真的兒少色情圖很難說服 02/04 21:39
→ headender: 別人自己不是戀童癖吧 02/04 21:39
→ Satoman: 坦白講我拿真人訓練二次元風格模型你也不會知道 02/04 21:39
推 Peurintesa: 還有個問題是是使用工具的有責任還是開發模型的有責任 02/04 21:40
→ Satoman: AI生成不可能被保護，因為SD的訓練圖庫本身就有問題 02/04 21:40
推 forever9801: AI本身在創作上就已經是頗逆風的東西了 有著作權爭議 02/04 21:41
推 moswu: 老美最近在燒泰勒絲AI圖，看看有什麼結果 02/04 21:43
→ forever9801: 你要挺AI擬真幾乎只有"存在發洩管道"可降低現實犯罪 02/04 21:44
推 x2159679: 人不幫模型負責誰要負責? 02/04 21:44
→ x2159679: 講白了我現在看到一堆人都想把責任推到模型身上 02/04 21:44
→ Zzell: 是說大家知道美國最高法院20年前就判取締虛擬兒色違憲了嗎 02/04 21:44
→ x2159679: 然後做一堆不負責任的事情 02/04 21:44
→ Zzell: 所以美國現在明文上虛擬(非擬真)兒色是合法的 02/04 21:45
→ dieorrun: AI你就算是用完全合法的兒童寫真 你拿來生色圖當然是 02/04 21:45
→ forever9801: 這一套說法 但這連數據都沒有喔(非一般R18/二次元) 02/04 21:45
→ dieorrun: 完完全全的剝削兒童 直接禁掉我想沒啥問題 02/04 21:45
→ Satoman: 美國那邊違憲，但是議會又搞了一個新的法來限制 02/04 21:45
→ forever9801: 而且挺這個幾乎可以直接被貼標戀童癖了 02/04 21:46
→ Satoman: 所以美國那邊會歸類到灰色地帶去 02/04 21:46
→ forever9801: 犯不犯罪是一件事 有幾個人敢帶著這標籤上檯面辯論? 02/04 21:46
→ Zzell: 從頭到尾每個人的底線就是合法性 社會觀感從來不是重點吧 02/04 21:47
→ nisioisin: 現在就是有罪推論呀 02/04 21:47
→ Satoman: SD是底模本身就有問題，你是要怎麼証明？ 02/04 21:47
別證明了，換個來源乾淨的底模
推 Peurintesa: 所以這是灰色地帶甚至可以說需要一個新定義的領域 02/04 21:47
→ forever9801: 法律一大部分就是社會觀感的代議士創造出來的喔 02/04 21:47
→ nisioisin: 先說你有罪要你自己拿出你清白的證據 02/04 21:47
上面有說了這跟食品標來源類似，
你總不能說你要證明我食品有問題而不是我要證明食品沒問題吧，
舉證責任永遠都該在比較容易處理的那邊。
→ x2159679: 所以歐美那邊才想搞訓練來源公開化啊 02/04 21:48
訓練來源本來就該公開化，說實話我不知道這有什麼好藏的
→ Peurintesa: AI擬真的虛擬性和二次元圖像的虛擬性應該區分嗎? 02/04 21:48
※ 編輯: peterturtle (115.165.192.240 臺灣), 02/04/2024 21:51:28
→ forever9801: 用符合社會利益禁掉這部分立場是絕對100%充足 02/04 21:48
→ Peurintesa: 訓練來源要驗證又是一大難題囉 02/04 21:48
→ x2159679: 不然都講「你又不能證明我的訓練來源有問題呵呵」 02/04 21:48
→ Zzell: 美國明面上就算合法但也沒有人敢碰兒色 但他還是合法 02/04 21:48
→ Zzell: 代表你可以偷偷看 在私人論壇分享不會被抓被下架 02/04 21:49
→ Zzell: 若真的被起訴還有違憲判例可以拿來吵 02/04 21:49
→ nisioisin: 現在是都講「你又不能證明你的訓練來源沒有問題呵呵」 02/04 21:49
推 YaKiSaBa: 主觀認定你要怎麼自證清白 02/04 21:49
→ Satoman: 當然不能證明，SD底模本身就來路不明了 02/04 21:49
推 x2159679: 所以誰要負責任? 02/04 21:50
→ Peurintesa: zero-shot的生成技術就不見得會真的用到實際存在圖像 02/04 21:50
→ x2159679: 現在就是沒人想對模型負責 02/04 21:50
→ Satoman: 現在二次元模形用的NAI底模更來路不明 02/04 21:50
→ Peurintesa: 不是啊 問題就是出在如果你想抓訓練來源 請問怎麼抓? 02/04 21:50
→ Satoman: 不可能抓啊，除非有人真的掀了SD、NAI 02/04 21:51
→ Satoman: 你知道SD和NAI這兩個底模訓練成本多高嗎 == 02/04 21:51
→ nisioisin: 不知道 可以科普一下嗎？ 02/04 21:52
推 forever9801: 反正現實就是這個不切出去妥協 一定全盤皆輸 02/04 21:52
→ x2159679: 不知道 求科普 02/04 21:52
推 Peurintesa: 而且現在有些訓練模型只是拿來預訓練 借用別人參數 02/04 21:52
推 moswu: 在台灣只要上檯面就要有跟兒福家長團體纏鬥的準備 02/04 21:52
→ Satoman: 對使用者來說不可能換，因為那不是個人能訓練出來的東西 02/04 21:52
→ Peurintesa: 這種情況下是不需要原始訓練圖像的 02/04 21:53
→ forever9801: 人家用二次元能引導三次元犯罪 你可以用超不像來抗辯 02/04 21:53
→ moswu: 結果大家只想要動司長 02/04 21:53
→ forever9801: 這個我不知道怎麼抗辯 誰敢上檯面去抗辯? 02/04 21:53
推 julianscorpi: 其實司長已經快要突破事務官臨界點了 很多這個LEVEL 02/04 21:54
→ julianscorpi: 的都會被抓去當政務官培養 02/04 21:54
→ moswu: 抗辯很簡單啊，版友示範過了：你有證據嗎哼哼 02/04 21:54
→ Satoman: 60萬美元，這是SD底模的成本 02/04 21:54
→ Hyouri: 我覺得拿虛擬引導現實出來就是在唬爛 數據也這麼顯示 02/04 21:54
→ moswu: 結果就是兒福聯盟推動立法全禁，科科 02/04 21:55
→ Hyouri: 但執法判斷困難 還滿合理的 02/04 21:55
→ Satoman: NAI成本不知道，但是理論上也不是什麼便宜玩意兒 02/04 21:55
→ Satoman: 某種程度上SD還比較有公信力，NAI天殺的誰知道那是怎麼練 02/04 21:56
→ Satoman: 出來的 02/04 21:56
→ nisioisin: 其實禁擬真大部分人都能接受吧！ 02/04 21:57
→ nisioisin: 只是會有跟一般動漫一樣的問題？怎麼計算擬真度？ 02/04 21:57
→ nisioisin: 不然擬真度10% 20% 是不是又打到動漫了？ 02/04 21:57
→ Zzell: 聊天悲觀就算了 實際上先進國家都有守住最後言論自由的底線 02/04 21:57
→ Satoman: 但二次元AI社群實際就是靠NAI這個訓練集不明的東西在生圖 02/04 21:57
→ Satoman: 英國就沒有，除非你認為英國不算先進 02/04 21:57
→ dieorrun: 我只能說擬真這條比什麼幼態實際多了 02/04 21:58
→ Satoman: 現在衛道團體和保護司就是用英國當先進國家標準在搞 02/04 21:58
→ Zzell: 台灣最愛跟的美國直接做出違憲判例 歐美保守派也很兇捏 02/04 21:58
推 Peurintesa: 對 禁擬真的問題點就是在又要定義怎麼樣的擬真出局 02/04 21:58
推 oasis404: 韓國也沒有啊，甚至都蓋網路長城了 02/04 21:58
→ Peurintesa: 我印象換臉法案能處理是因為真的像到某人而侵犯權益 02/04 21:59
→ oasis404: 算了，還是不要先自行妥協好了，這篇看起來驗證方法還 02/04 21:59
→ oasis404: 算可行 02/04 21:59
→ Peurintesa: 但是如果生成一個這世界上不存在的人 那要怎麼處理? 02/04 21:59
推 macocu: 擬真切割了，某方面就自相矛盾了，然後界線也有問題 02/04 21:59
→ Zzell: 其實那個保護司官員很明顯就是暴走等級的個人言論 02/04 21:59
→ nisioisin: 除非國際普遍立法要公開訓練來源 要不然永遠都會有問 02/04 21:59
→ nisioisin: 題 02/04 21:59
→ Satoman: 這次就是小玉換臉和之前某次偷拍論壇讓修法加速 02/04 21:59
→ Zzell: 這種法界可以吵很久的東西他一句話不會有太大影響 02/04 22:00
→ oasis404: 可是人家是司長耶不是小咖 02/04 22:00
→ Zzell: 反而引起眾怒是好事 02/04 22:00
→ Satoman: 然後二次元創作被掃到颱風尾+偷襲 02/04 22:00
推 moswu: 生成幼女色情就下去啊，然後問題回到什麼是色情 02/04 22:00
→ macocu: 舉例來講，A片降低性犯罪，那擬真蘿也應同理 02/04 22:01
→ oasis404: 就看看會不會引起反對虛擬入罪的學者注意吧 02/04 22:01
→ macocu: 但是擬真，就暗示的那人確實對現實形象人物會有性慾 02/04 22:02
→ moswu: A片降低犯罪，那除罪化肯定沒問題吧 02/04 22:02
→ moswu: 現實就不是這樣運作的 02/04 22:02
→ moswu: 更不用講還扯上幼女 02/04 22:03
推 forever9801: 我只能說 歐美法庭片有看過吧 你認罪關2年不認罪關25 02/04 22:04
→ rabbit61677: 這沒什麼好爭的，成人色清是合法的，兒童色情不合法 02/04 22:05
→ forever9801: 不認罪就是拿那個擬真AI舉言論自由大旗要擋洪水 02/04 22:05
→ forever9801: 陪審團不會有人採信你的說詞的 02/04 22:06
→ macocu: 阿確實，回歸原則，兒色不合法 02/04 22:06
推 Peurintesa: 應該說 AI擬真/AI二次元生成圖像/二次元繪圖 這三項 02/04 22:07
→ Peurintesa: 他們應該綁一起看 還是AI直接再分一區? 02/04 22:07
→ rabbit61677: 所以用成人片來舉例不對，本來就不能有兒少色情片 02/04 22:08
→ forever9801: 這項目說到底其實沒有什麼AI不AI 重點是擬不擬真 02/04 22:08
→ forever9801: AI只是達到擬真最容易的手段 02/04 22:08
→ Peurintesa: 再來就是要用什麼論述去區分它們或是歸為一類 02/04 22:08
→ rabbit61677: 而且兒少色情在社會倫理道德上絕對是不行的 02/04 22:09
→ forever9801: 擬真就是最接近兒少38條的圖畫 02/04 22:09
推 moswu: 結果搞到最後擬不擬真還是得靠iwin就好笑了 02/04 22:09
→ Peurintesa: 我會覺得AI可能要再分一類是因為擬真度會高到起爭議的 02/04 22:09
→ forever9801: 除非你有辦法讓立委修法 不然這個法律解讀就這樣 02/04 22:09
→ rabbit61677: 就以前根本沒擬真AI圖，所以沒人說要管虛擬 02/04 22:10
→ rabbit61677: 頂多是猥褻物色情，現在已經造成執法困難才開始管 02/04 22:10
推 x2159679: 倒不如說擬真反而要證明這張不是用拍的吧? 02/04 22:10
→ x2159679: 證明的責任在擬真那邊啊 02/04 22:10
→ Peurintesa: 所以AI會導致虛擬和真實分開的論述變的很難成立 02/04 22:10
→ dieorrun: 就說了擬真這條線比討論至今所有的標準明確多了 02/04 22:11
推 forever9801: 你就算上法庭也是法官自由心證判定這算不算 02/04 22:11
→ Peurintesa: 證明一個不存在的東西不存在 我還真想不到怎麼證明== 02/04 22:11
→ rabbit61677: 其實雙方都很難證明什麼，AI擬真也可能變成類似 02/04 22:12
→ rabbit61677: deepfake的案件，如果剛好有人跟AI圖長很像 02/04 22:12
→ dieorrun: 就算還是有心證的空間 至少偏差太多大家看的出來 02/04 22:12
→ rabbit61677: 而這些圖散播對本人造成心靈傷害，這種要怎麼說？ 02/04 22:12
→ Peurintesa: deepfake還找的到很像的人 如果這個人不存在怎麼處理? 02/04 22:13
推 x2159679: 這種當事人都會把責任推到ai上啊 02/04 22:13
→ rabbit61677: 即使美系你都不會覺得是真人，日系更不用說 02/04 22:14
推 forever9801: 反正 理想就是底線壓在擬真度 用一些擬真度百分比的 02/04 22:14
→ rabbit61677: 但擬真AI就有這種以假亂真的問題，還會造成舉證困難 02/04 22:14
→ x2159679: 你說，這個人不存在是因為ai能產生不存在的東西 02/04 22:14
→ cloudwolf: 用虛擬傷害人，還用不到"擬真"。只要把特色表現出來， 02/04 22:14
→ x2159679: 但是ai不可能負起責任 02/04 22:14
→ x2159679: 不管ai產生了什麼影響都必須要有一個人負擔責任 02/04 22:14
→ forever9801: 圖當判例 看輿論攻防切到幾% 02/04 22:14
→ x2159679: 現在大家都是把責任推到「ai的能力」上 02/04 22:15
推 moswu: 你要我證明這張很像照片的照片是假的，憑什麼？ 02/04 22:15
→ cloudwolf: 就可以辦到。比如在設計一個禿頭的議員，就算畫的不像 02/04 22:15
→ x2159679: 但社會的發展下這點不可能行得通的，不然會亂成一團 02/04 22:15
→ cloudwolf: 也能夠達到用該人物傷害某人的效果。 02/04 22:15
→ x2159679: 所以未來一定會是ai被越管越多 02/04 22:15
→ moswu: 不是質疑的人要證明嗎？ 02/04 22:15
→ peterturtle: 所以不是說了嗎，算圖必然有重複性，同樣的輸入必有 02/04 22:16
→ peterturtle: 同樣的輸出，你要保留自己無罪的證據啊。然後不給重 02/04 22:16
→ peterturtle: 複輸出的模型就別用，用了結果上法庭就自己吞吧，食 02/04 22:16
→ peterturtle: 神不就是栽在有一批牛肉好便宜上的。 02/04 22:16
推 Hyouri: 「虛擬創作導致現實犯罪」這絕對是狗屁 再真都一樣 02/04 22:16
→ Hyouri: 但說太真導致執法困難不知道這真的還假的 那有可能 02/04 22:16
推 Peurintesa: 擬真是個方向 但又高機率回到心證 因為擬真也有程度 02/04 22:16
→ x2159679: 對啊就是這樣，使用者有能力證明生成過程就可以啊 02/04 22:17
→ cloudwolf: 提出質疑者提出證明是原則，實務上有時會將舉證責任改 02/04 22:17
→ dieorrun: 絕對不可能沒有心證這件事啦 02/04 22:17
→ x2159679: 我記得著作權有些相關的證明也是要證明過程 02/04 22:17
→ cloudwolf: 由被質疑者提出，例如食品添加物的安全性。 02/04 22:17
→ Peurintesa: 對 但心證的前提還是會有個標準 唉 真的頭很痛== 02/04 22:18
→ x2159679: 「提出質疑者提出證明是原則」這點實務上不可能行得通 02/04 22:18
→ peterturtle: 大原則就是舉證責任在輕鬆的那邊 02/04 22:18
→ rabbit61677: 重點是如果幾年後AI畫出來真的跟照片一模一樣 02/04 22:18
→ rabbit61677: 而且你也分辨不出來，警方要如何舉證，這是社會問題 02/04 22:18
推 x2159679: 因為對兒少法來說每個人都說是ai產的不就不用抓了 02/04 22:18
→ Peurintesa: 問題我前面提過 如何證明不存在的東西不存在? 02/04 22:19
推 moswu: 保證最後還是回到心證啦，first time? 02/04 22:19
→ x2159679: 這會變成社會問題，所以到時候就會是管ai 02/04 22:19
→ x2159679: 這也是這次議題必須切割ai的原因 02/04 22:19
→ rabbit61677: 當AI圖跟照片完全分不出來的時代到來，從前會被 02/04 22:19
→ rabbit61677: 定罪的真實兒少罪犯，變成拿他們沒有辦法的話 02/04 22:19
→ x2159679: AI擬真已經踩到社會不可能容許的那條線了 02/04 22:20
→ peterturtle: 所以才說算圖有重複性，你真的是用算出來的話同樣的 02/04 22:20
→ peterturtle: 數據灌下去一個像素的RGB都不會有任何差別，兩張圖相 02/04 22:20
→ peterturtle: 減一定是一片零，這就是沒犯罪的證據，反之做不到就 02/04 22:20
→ peterturtle: 是有罪 02/04 22:20
→ Peurintesa: 踩線是因為過於真實 但還是不存在實際對象 02/04 22:21
→ moswu: 官府怕麻煩，最後還是個換名iwin來處理 02/04 22:21
→ rabbit61677: 那網路傳播存起來的人呢？兒少不是只抓作者 02/04 22:21
→ dieorrun: 你用AI產兒色 至少會真人兒童的圖吧 就算那張圖是合法的 02/04 22:21
→ dieorrun: 你產成色圖實際上不就在剝削那名兒童 02/04 22:22
→ Peurintesa: 以最新的技術來說還真不見得需要真實兒少圖像就能生成 02/04 22:22
→ peterturtle: 你說呢，使用來路不明的管制藥物有沒有罪？ 02/04 22:22
→ rabbit61677: 如果真實犯罪者說他是網路抓的圖，除非AI圖有 02/04 22:22
→ rabbit61677: 不可竄改的證明，但說到底有機制就會有人破解 02/04 22:22
→ Peurintesa: 生成圖像的技術也在進步的 要抓訓練來源更難抓 02/04 22:23
→ peterturtle: 要自行破壞證據怪我囉 02/04 22:23
→ dieorrun: 既然很難判斷要馬像模型槍有規定 要馬就禁掉 不就這樣 02/04 22:24
→ rabbit61677: 如果真的要從技術上說產圖沒罪，但散播絕對是有罪的 02/04 22:24
→ peterturtle: 就像你主張這片地是你的、又沒有地契、在政府那邊也 02/04 22:25
→ peterturtle: 沒有文件，你覺得法院會放你過嗎？ 02/04 22:25
→ rabbit61677: 雖然有道德瑕疵，但你自己私底下不管做什麼 02/04 22:26
→ rabbit61677: 只要全世界沒有人知道，基本上就沒有法律會制裁 02/04 22:26
→ leptoneta: 所以那個衍算法是犯罪工具囉 更慘 02/04 22:27
→ rabbit61677: 可是就這個問題來看，就變成你是源頭無罪，散播出去 02/04 22:28
→ rabbit61677: 拿到的人有罪，所以作者即使產圖無罪卻不可能無罪 02/04 22:28
→ rabbit61677: 只是會有其他法條去辦而已，而且絕對是社會共識 02/04 22:28
推 dbr623: AI 應用現在就是未定灰色地帶了，各國都還沒明顯定論 02/04 22:28
→ dbr623: 二次元宅泥菩薩過江還要多渡個 AI 是嫌通關難度太低嗎 02/04 22:28
→ peterturtle: 人家就能證明自己無罪啊，看證據說話 02/04 22:29
噓 clarkyoona: 來了一個不懂transformer模型的 02/04 22:30
→ leptoneta: 檢察官拿一個兒少色圖 經由不明AI算出類似的圖就夠了 02/04 22:30
推 rabbit61677: 假設像你講的產圖無罪，那就像是你有持槍證合法持槍 02/04 22:31
→ rabbit61677: 但是你把槍提供給沒有持槍證的人，那你還是有罪 02/04 22:31
→ rabbit61677: 只是犯的不是非法持槍而已，而且說到底如果 02/04 22:32
→ rabbit61677: 沒有散播出去，本來就沒有需要什麼證明好嗎 02/04 22:32
推 dbr623: 連訓練資料庫都沒公開是要證明什麼，源頭就黑盒子 02/04 22:33
推 Peurintesa: 二次元這次搞不好就是因為AI生成才掃到颱風尾勒== 02/04 22:33
→ totomo168: 誰能論述一個人電腦裡有幾T的AI真人蘿天天對的AI真人蘿 02/04 23:42
→ totomo168: 打槍，大家支持我創作自由<<誰??還有誰支持????<<硬要 02/04 23:42
→ totomo168: 撞死在這上??不要騙自己電腦裡沒事生幾千張ai真人蘿圖 02/04 23:42
→ totomo168: 是純欣賞啊，騙誰??誰會買單??怎麼有人就要一頭撞死在 02/04 23:42
→ totomo168: 這上面?? 02/04 23:42
→ totomo168: 當然你自己關起來誰也不真的沒事，那被抓就是有扯到散 02/04 23:51
→ totomo168: 播，那更out了直接爆破 02/04 23:51
