YouTube 艾莎門事件——孩子們看的是卡通,還是失控演算法下的黑箱世界? | | 開根好 SquareGood
  • 搜尋
  • 關於

YouTube 艾莎門事件——孩子們看的是卡通,還是失控演算法下的黑箱世界?

YouTube 艾莎門事件——孩子們看的是卡通,還是失控演算法下的黑箱世界?

圖片來源:canva 圖庫
每天吸引無數眼球的 YouTube,究竟是如何從一個簡單的影音分享平台,成為顛覆媒體、文化、產業與民主的網路巨獸?又付出了多少代價?《影音巨獸 YouTube》──第一本深入直擊 YouTube 崛起內幕及全球影響力的重磅之作!

葛瑞格.齊森(Greg Chism)迷上了 YouTube。剛發現這個平台時,他的境況並不太好。他是住在伊利諾州南部、獨力撫養兩個女兒的單親爸爸,多年都以草坪養護工作維生,直到快 40 歲時,他接觸到 YouTube 及一些關於人生轉變的勵志影片,決定去矯正牙齒並開始鍛鍊身體。他也用破舊的摩托羅拉手機拍攝草坪養護的相關影片,開啟了專談草坪的 YouTube 頻道,找到同樣熱衷此道的粉絲。他戲稱這些粉絲為「怪胎」。

齊森開始上傳家庭影片,是兩個女兒在家裡開箱玩具的片段。他實驗不同的影片標題、標籤與內容,為頻道取名「玩具怪胎」(Toy Freaks)。他在 2015 年表示:「我發現其中的規律,有些影片的觀看次數特別高。這種創作真的很有成就感,而且也能帶來金錢回饋。YouTube 簡直太神了。」

到了 2017 年,「玩具怪胎」達到極高的成就,頻道衝上 YouTube 瀏覽量排行榜第 68 名,還晉升最高等級的廣告分潤,收入相當可觀。齊森順利搬出拖車公園,住進房屋裡。他不斷依循 YouTube 的規律,在影片中和女兒們一起叼著奶嘴,拍攝所謂的「壞寶寶」劇情,賺到驚人的流量。他還和孩子們一起吃超大糖果、開玩笑捉弄她們。

YouTube 送他一面金色播放按鈕獎牌,作為頻道訂閱數突破 100 萬的獎勵。在此之前,從來沒有人抱怨齊森的影片—直到後來,一夕間所有人都對他的影片怨聲連連。

▌無人掌控的黑暗世界

自從 YouTube 放棄以可口型、營養型等標籤分類兒童影片之後,兒童取向的內容已演化成怪異且超越任何分類的型態。

「織夢綺譚」頻道的營運據點在加拿大魁北克市,演員們穿著廉價的萬聖節服裝,在一條灰暗的連棟屋街道上,表演滑稽復古的雜耍動作。他們幾乎不開口就能完成拍攝,內容通常是以艾莎為受難女主角、蜘蛛人英雄救美的愛情劇。

由於《冰雪奇緣》和超級英雄系列電影並未在 YouTube 上架,家長或孩子只要在搜尋列輸入「艾莎」或「蜘蛛人」,就會一次又一次看到「織夢綺譚」頻道那些高人氣影片。2017 年,與該頻道簽約的多頻道聯播網 Studio71 主管蘭塔在受訪時表示:「有些影片,可能同個小孩就重複看了 50 遍。這對衝高流量真的很有幫助。」

然「織夢綺譚」頻道古怪到了極點:影片裡的艾莎有時會裝上一雙「雞爪腳」,有時還會裝上「腦袋肚肚」。但身為前單口喜劇演員,蘭塔堅持這個頻道「其實沒什麼大礙」,就像給孩子們看的無聲老電影或角色扮演劇場,情節簡單易懂,角色被關進監獄之類的情節也頗受歡迎。

同一年 YouTube 的熱門關鍵字裡有個「壞寶寶」的詞條,範圍含括單純的幼童動畫影片,也有噁心的真人情節,顯示小孩暴飲暴食、嘔吐等畫面。「玩具怪胎」頻道正是後者的代表:齊森讓自己兩個學齡期的女兒裝扮成嬰兒,再惡整她們。即使如此,「玩具怪胎」頻道的排名仍在 YouTube 上節節攀升。

不久後,幾乎所有觀看到這些怪影片的人都認知到事情在不斷惡化,唯獨 YouTube 渾然不覺。

▌該如何制訂規範?

「玩具怪胎」頻道並非唯一的問題。齊森的成功讓更多頻道爭相仿效(公司稱之為「複製式內容」)。有些人還會以「關鍵字堆砌」這種亂槍打鳥的方式,幫影片加上各種不相關的標籤給系統看,導致系統誤判而獲得更高流量—「壞寶寶」就是常被人當作關鍵字與標籤的字詞。

其實 YouTube 早有規範,嚴禁兒童剝削或性癖相關內容。上述影片雖未直接違規,但明顯踩在界線邊緣。多年前,YouTube 就一再告知家長,應該讓孩子使用 YouTube Kids,但從 YouTube Kids 的流量就能看出,大眾並沒有採納這個建議,還是有無數的孩子在無人監督的情況下,直接上 YouTube.com 看影片。

Google 習慣使用高精確率與高召回率的人工智慧模型,如今 YouTube 要處理兒童取向的怪異內容時,卻發現制定規範並不容易。

蜘蛛人和艾莎的角色扮演,跟一般在動漫展上出沒的角色扮演者,又有什麼差別?這些差異連人類都分不清了,更何況是機器?「玩具怪胎」頻道又該如何分類?難道家庭就不能上傳自家玩樂的影片嗎?

英國作家詹姆斯.布萊德(James Bridle)原本專寫無人機與戰爭議題,這次卻將目光轉向兒童領域。他在部落格平台 Medium 發表大長文,標題下得十分聳動:〈網路上出了問題〉。他先貼出驚喜蛋開箱、兒歌、粉紅豬小妹仿作等影片的截圖,都是些動輒累積數百億次觀看的分類。接著,他貼出手指家庭類影片的圖片。YouTube 上「至少有 1,700 萬個不同的版本」,許多截圖看起來像是機器生成,但也難以下定論。布萊德寫道:「這,正是演算法發掘時代的內容生產方式—就算你是人,也不得不去模仿機器。」

越往下捲動,文章貼出的圖片就益發詭異:一張張色彩繽紛的縮圖,卻有著令人不安的高度雷同。

多數人(家中有幼兒的家長,甚至是Google員工)都不知道世上竟有這樣的內容。時常進行網路輿情觀測的 YouTube 內部,員工們很快就注意到 Twitter 上圍繞布萊德那篇文章的討論正急速升溫。媒體記者紛紛順藤摸瓜,找上「玩具怪胎」頻道中的爸爸齊森。倫敦《泰晤士報》刊登廣告商憤而從齊森影片撤資的新聞,標題直呼「YouTube 上的兒虐」,副標更指出:「Google 靠駭人的影片賺進數百萬」。

▌大規模清掃

《泰晤士報》刊登出報導後,YouTube 考慮採取前所未見的做法:立即停用 YouTube 上所有品牌廣告,直到這些兒童內容的問題徹底解決為止,就算因此損失數十億美元也在所不惜。

最終,YouTube 高層投票通過另一項同樣激進的方案。過去一向對爭議影片相當寬容,甚至極力捍衛這些影片的 YouTube,這次一口氣刪掉數十萬支影片。

經營家庭 Vlog 的艾波(April)與戴維.奧吉爾(Davey Orgill)也在 YouTube 上開設超級英雄惡搞頻道,與孩子們一同演出換裝秀,訂閱數突破 200 萬。結果,他們在 8 月停止發布這類影片。艾波在影片中告訴觀眾:「這類影片變得越來越詭異了。好噁。」不過他們還是繼續維護著頻道,繼續靠該頻道吸引觀眾與營利。11 23 日,YouTube 才剛核准他們的兩支影片可投放廣告,隔天整個頻道便被移除了。

奧吉爾對記者表示:「YouTube 什麼都怪在拍影片的人頭上,可是他們的演算法之前整整一年都在推這些內容。是 YouTube 自己養出這頭怪獸。」

不久後,網友將這場波及超級英雄與艾莎等角色的風波,連同 YouTube 的大規模刪片行動,冠上一個稱呼—艾莎門(Elsagate)。

YouTube 公布了好幾項承諾,包括從移除不恰當家庭娛樂影片中的廣告、封鎖針對兒童的猥褻留言、諮詢更多專家,並發布製作「家庭友善內容」的創作者指南,以及「運用科技加快處置問題」等措施。

沃西基在 12 月的部落格文章中提到,YouTube 上的大量影片是如何「啟發」了她的孩子。她寫道:「但我也看見 YouTube『開放』背後更令人憂心的一面。我看到,有些老鼠屎利用我們的開放環境,扭曲誤導、騷擾甚至傷害他人。」她承諾要擴充 Google 內容審查團隊的規模,讓專門處理此類問題的團隊在隔年突破 1 萬人—這可是相當醒目的數字。


本文摘自 今周刊出版《影音巨獸 YouTube》 馬克.伯根 著

►購買連結:五車商城博客來

►延伸閱讀:一條線牽起我們,牽起彼此的掛念與依賴:《我們之間的線》
►延伸閱讀:容易分心、注意力渙散?陪孩子一起找回失去的「專注力」!