Re: [報導] 見到女兒在看「噴血、縱火的佩佩豬」

[Lin2200 (Lin2200*Sachi)]

原文43

聊一下我對水管審核的看法
為什麼有版權問題的影片被下架的特別快
但這種影片網路上一大堆？

你上傳一個版權有問題的影片
演算法會先幫你過濾一次
像我之前測試上傳遊戲人生第一集
(買來的，單純用來測試水管上傳)
上傳完後表示我侵犯KADOKAWA的版權
把我影片擋掉
即使我能見度是設定只限本人

如果你把片段切的很細
那就可以通過演算法審核
但版權方可以手動檢舉你
A jie大大在解說他如何製作短評的那個影片，把這部分講的很清楚

接著來看看這些惡意的影片
這些東西用自動審核的難度和精度會高出版權類的審核好幾倍
版權審核只要比對有無相似片段就好
要過濾這類惡意影片
必須判斷這影片同時有"暴力"和"兒童"兩個元素
雖然說現在的AI技術是完全可以做到
但對於理解演算法和深度學習技術的人來說
要騙過水管的演算法真的不難
這方面要詳細解釋會偏太遠先不多贅述
網路上有很多相關文章有興趣可以去找

今天水管上出現這種惡意影片
代表兩件事：
1.有一群有大量資金和資訊技術的人
正在大量生產這種惡意影片
2.他們的產出效率可以遠遠蓋過檢舉的速度

這已經不是智障小屁孩的惡作劇的層級了
是有組織性和系統性的惡意行為
這真的蠻恐怖的
會因此晚上不敢上廁所其實不誇張
因為你發現有一群比你強大好幾倍的惡人正在欺負你和你的家人
你反抗不了，你只能躲

接著說我認為水管最適合的處理方式

比起限制"什麼影片可以通過"
從"兒童可以看什麼影片"去做改良比較現實
你演算法可以強化，破解法當然可以進步
而且再怎麼踴躍檢舉
即使你能做到一小時內處理完檢舉影片
影片成功上傳到影片被檢舉這段空窗期你還是無法應付

我認為最好的解決方式是做一個"兒童模式"
開啟兒童模式後
只有被水管認證的兒童頻道的影片才會出現
其他非認證頻道要讓自己的影片出現在兒童模式介面
就去申請，然後人工審核

在水管解決問題之前，家長能做的是什麼？
如果你不能全程陪你小孩觀看影片
那就把網路關掉
只給他看你看過覺得可以的影片
如果你連做這種事的時間也沒有
那就把3C產品收起來
買書給你小孩看

至於那些周遭有為人父母的版友們
請做個善事轉貼此事件的相關報導，讓他們知道這個資訊
我們沒有能力反抗，但至少我們有辦法讓自己不受到侵害




--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 110.50.162.136
※ 文章網址: https://www.ptt.cc/bbs/C_Chat/M.1516342900.A.DCC.html
推 yeldnats: 反正兒童難以反抗，從兒童下手就是最簡單的
推 orze04: 推倒數第二段
推 thdob: ai做得到這種事嗎 有沒有什麼資料能參考一下
→ gaym19: 水管AI很強 以前拍遊戲短片上傳時他直接跟我說音樂侵權
→ gaym19: 以前火影的OP上傳到水管時會把畫面翻轉也是要躲偵測
→ rofellosx: 接著家長會靠北youtube不會分辨使用者是否是兒童
推 wht810090: 推這篇 是說到底是哪個(些?)團體在做這些東西 目的又是
推 thdob: 我指的是判斷出同時具有暴力及兒童元素 感覺很OP啊
推 Nravir: 最安全就把網路、電視、手機等全銷毀讓他乖乖在家，然後..
→ wht810090: 啥毀 實在令人費解...
恐懼鳥有發一篇尋覓者的文章，自己去看
真實性自己判斷
推 NoLimination: 為了追求愉悅吧
為了讓兒童接受暴力，讓兒童認為被大人暴力/侵害是對的
推 orze04: 版權比對只要抓特徵值 內容元素的比對很難
→ orze04: 暴力內容要怎讓AI判斷？
現在的AI有能力判斷影片中的個別物件
只要能判斷有沒有刀，槍，煙，傷口，血和會被ncc糊掉的等等這些東西出現就可以了
判定物件比行為容易
推 bluejark: 你這想法實際
推 GalLe5566: 推 我也覺得是要上兒童模式
推 cheeseup: https://kids.youtube.com/ 兒童模式有啊，就這個
→ cheeseup: 我沒用過就是了
這個如果我的認知沒錯的話沒有辦法擋
如果我認為這個沒用的資訊是不正確的話請告訴我
→ meowyih: YouTube 現在就有嚴格篩選模式了，平板軟體也能開，只是
→ meowyih: 沒很準確，但我是都開著啦
推 hom5473: 家長自己編一個播放清單給小孩看不就得了
→ hom5473: 影片分級 兒童模式啥的 使用的小孩不甩的話一點用也沒有
如果小孩已經會到想要自己選擇觀看的影片的心智年齡，家長就有義務教育他那些惡意影
片是不正確的
※ 編輯: Lin2200 (110.50.162.136), 01/19/2018 14:55:50
推 nigatsuki: Kidstube有，但知道的家長感覺沒有很多
→ wachau: 如果水管AI會把這種影片放行給兒童模式就沒用了
推 aries74262: 推，沒時間篩選3c內容，就不要用吧，只是童書真的不
→ aries74262: 便宜，且剛起步要帶著小孩看，養成習慣
→ maplefoxs: 有理 推一下，不過到底誰這麼無聊做這種影片
可怕的是這些影片不是無聊的產物，而是有明確的目的性
推 charlie123qq: 有人發現在兒童模式下也能找到相關影片
推 aries74262: 平板真的是丟下去小孩就目不轉睛一質看
※ 編輯: Lin2200 (110.50.162.136), 01/19/2018 14:57:05
推 yuponkimo: 如果那些做惡意影片的人靠北有錢，那他們應該也可以在
→ yuponkimo: 油管裡面找些暗樁幫忙通過篩選門檻吧
呃，做的到，但一次就會爆炸的暗樁沒意義
推 jajepound: 這類影片都用有版權的角色，不能判斷他侵權嗎，單純好
→ jajepound: 奇
可以啊，但只能手動刪除，自動審核還是會通過
※ 編輯: Lin2200 (110.50.162.136), 01/19/2018 15:09:25
推 yo800810: 推個，我也是這麼想的~
推 bluejark: 水管的審核是啥也是個大問題
道高一尺，魔高一丈
審核這種東西不可能做到最好
水管有在持續改進審核機制就算很好了
※ 編輯: Lin2200 (110.50.162.136), 01/19/2018 15:13:30
→ bluejark: 事實上水管有權力把頻道影片設成18禁甚至是不準公開
是的，但這些都是要靠人力來用
現在的問題是，水管努力的在刪這些影片
但產率太大，刪不完
※ 編輯: Lin2200 (110.50.162.136), 01/19/2018 15:16:41
→ bluejark: 沒裸露的都會被這樣處理還有同一個影片有的還是活的好好
這就顯現出了人工作業的缺點
※ 編輯: Lin2200 (110.50.162.136), 01/19/2018 15:20:26
→ bluejark: 另外就是yt大小眼問題當頻道訂閱或觀看多yt反而不會去動
→ bluejark: 一直想辨法清理小頻道卻忽略影嚮範圍比較大
推 qize1428: 兒童模式是個好想法
推 asmiocv: 之前剪家教影片做成gif，剪到快50秒上傳yt就被擋了
推 ionchips: 推這篇
推 lu19900217: 就出短片速度快過檢舉速度 除非像中國那邊先人工審核
→ lu19900217: 再上傳 不然會有漏網之魚 不過像中國那樣也不是啥好事
→ bluejark: 以yt機制來說觀看愈多的愈會被推薦表上很多人就這樣看到
→ bluejark: 但yt的做法就是去清理一些雜魚頻道來跟你說他有做事
→ bluejark: 然後那些奇怪的東西反而觀看很多卻沒事
我覺得你有點在鬼打牆，這件事跟你說的沒甚麼關聯性
→ a71085: 去信恐懼鳥不就是莫名其妙的事 他就拿那些東西來賣錢的
他的文章那些可信那些是創作應該不難判斷
→ a71085: 另外你知道一堆北七最喜歡幹的事就是reupload嗎
不要亂開地圖砲
→ gmoz: 你先去查一下YOUTUBE的註冊年齡限制吧
可以請你說詳細一點嗎？我不太能理解
推 meierlink: 童書不一定要用買的，圖書館可以借一個月。小朋友只要
→ meierlink: 找到他最喜歡的那本，那整個月大人同一本都念到想吐了
→ meierlink: ，小孩還是可以每次興致高昂地要求[再一遍]
真的XD
推 naya7415963: 我也在想這個方法，現在ai辨識圖片的能力那麼強，
→ naya7415963: 挑出有卡通角色和那種影片常見內容的封鎖應該沒問題
做得到，但其實很好破解，鑽AI的漏洞真的不難
→ spyair: 難怪水管上面的RM都是極短片段居多
推 meierlink: 有些時候，覺得並不是小孩真的一開始愛看3C,而是他們在
→ meierlink: 找能替代父母陪伴自己的東西。
→ meierlink: 所以如果小孩要的其實是跟父母互動，丟靜態物品給他們
→ meierlink: 也安份不了太久。影片畫面訊息量會讓他們的腦袋非常忙
→ meierlink: 碌，所以才能安靜好一會。
→ meierlink: 記得有一次拿到內容比較深的繪本跟老大共讀。她說她其
→ meierlink: 實不太了解書裡的故事，但她之所以能聽完，是因為她喜
→ meierlink: 歡大人陪她的感覺。
你講的超棒的
推 icemooney: 推這篇，兒童模式覺得可行
※ 編輯: Lin2200 (180.217.192.250), 01/19/2018 19:05:18