審查零容忍？ 無辜家長上傳影片遭控虐童

社羣網站的AI審查政策嚴格。(路透)

紐約時報27日報導，科技龍頭谷歌(Google)對於虐待兒童的影音內容訂有零容忍政策(zero-tolerance)，谷歌旗下YouTube網站設有人工智慧(AI)自動掃瞄機制，每分鐘可審查數百小時上傳影音內容，但審查過程有時卻出現錯誤，導致無辜家長遭控虐童。

報導指出，谷歌用戶珍妮佛‧華金斯(Jennifer Watkins)說，接到頻道遭關閉的系統通知時，剛開始並不以爲意，因爲她根本沒有開立YouTube頻道。但她後來發現，7歲大的雙胞胎兒子使用三星(Samsung)平板電腦觀看YouTube是用她的谷歌帳號登入，孩子們除了瀏覽兒童影片，也自行拍攝跳舞等搞笑短片，大多數視頻的瀏覽次數都在5次以下。

華金斯說，讓她惹上麻煩的一支短片是因爲兒子拍到臀部。她說，先前從沒看過這支影片，兒子拍攝原因則是被同學挑釁敢不敢赤裸身體拍片。

紐約時報指出，谷歌AI審查機制還有其他類似案例，孩子無意之間拍攝的赤裸影片或照片，在人工智慧審查過程中被認定違反社羣網站使用規則，某些家長因此遭到警方調查。華金斯案例發生於今年9月，影片上傳之後的短短几分鐘裡，系統就發出「兒童遭受性剝削」(sexual exploitation)嫌疑警示，根據谷歌使用規則恐將面臨嚴重後果。

這起事件讓住在澳洲新南威爾斯(New South Wales)的華金斯所有谷歌帳號都被封鎖，無法讀取電郵、檔案與照片。她說，再也收不到公司班表，無法查看銀行紀錄，原本透過谷歌帳號登入的麥當勞(McDonald's)應用程式無法再用。華金斯的付費谷歌帳號後來遭到完全刪除，但登入網頁顯示她可以向谷歌提出上訴。上訴遭駁回之後她向紐約時報投訴，記者向谷歌提出詢問之後，她的帳號才得以恢復。

報導指出，華金斯兒子拍攝的影片被審查機制發現有問題之後，一名谷歌員工便將案例通報給美國國家失蹤暨遭剝削兒童中心(National Center for Missing & Exploited Children)，國家失蹤暨遭剝削兒童中心將影音內容加入資料庫之後，有權決定是否將案件通報地方警察機關。

根據國家失蹤暨遭剝削兒童中心統計，谷歌去年通報200多萬件「顯而易見的兒童色情」(apparent child pornography)案例，數量雖比絕大多數社羣媒體還多，但仍少於Meta。