雲端影響力／仰賴社羣業者自主規範？ 美國專家沒信心

社羣媒體是政治影響力擴散的利器，但如今在多國民主選舉裡的作用卻發生質變。假訊息、假帳號和人工智慧（AI）生成的深僞影音充斥網路空間，引發破壞民主運作的擔憂。今年舉行大選的美國、印度皆備受假訊息挑戰，但在各國政府制定充分防護措施前，只能仰賴社羣業者自主規範。這些科技巨頭，能預防2021年美國國會暴動重演嗎？

美國總統大選將在11月登場，以色列網路安全公司Cyabra在5月發佈一份報告，發現社羣媒體X（前推特）存在大量政治性假帳號。該公司在3到4月分析9.4萬多個讚揚前總統川普的帳號，發現約15%是假帳號；讚揚總統拜登1萬多個帳號，則有7%是假帳號。

該報告並指出，讚揚川普的假帳號似乎屬於刻意安排，意在影響輿論及網路風向，此事可從假帳號使用同標籤、同時發文或回覆判斷。

俄羅斯被指介入2016年美國大選以幫助川普後，各界對X、臉書、IG等社羣媒體在選舉中的角色更爲關切。選務官員與網路假訊息專家再度開始關注在大選前，是否又冒出誤導性論述。

印度國會改選 兩部深僞影片暴紅

4月至6月分舉行國會改選的印度，已經可看到假訊息在大選期間造成的亂象。選舉開跑後幾天，出現兩部合成深僞影片，僞造寶萊塢影星辛赫、阿米爾汗批評總理莫迪政府，併爲在野黨「國大黨」拉票的影像，在網路上被瘋傳。另一支影片裡，國大黨要角胡爾．甘地宣佈退黨，卻也是AI生成，其聲音被AI仿造。

美國之音5月報導，一名印度深僞內容製作者賈頓指出，這是首次AI內容如此大規模散播。他爲數個印度政黨製作生成內容，近幾個月行程滿檔，但他自陳不會用換臉、合成聲音來詆譭特定政治人物，也會標記作品爲AI生成。

隨着科技進步，AI影音製作成本大爲降低，讓人們能大量生產這類內容。賈頓說若是4年前，製造一分鐘AI影片可能花好幾天，但現在所有人都可拿任何一張照片、一段聲音產出AI內容。印度選舉委員會雖警告各黨勿用AI散佈不實訊息，但少有實際規範。賈頓說，只能敦促民衆自己警覺，若看到煽動情緒的影片，分享前要暫停、思考一下。

流行天后假圖 凱蒂佩芮母親也誤認

5月，一幅AI生成的圖像顯示美國流行天后凱蒂佩芮出席紐約大都會博物館慈善晚宴，在紅毯上留影，但其實佩芮根本沒參加。不料，佩芮母親看到後，還傳訊息給她「不知道妳有參加」，令佩芮驚覺連老媽都被AI騙，看不出女兒是假的。若這類技術用於選戰攻防，難保不會誤導選民。

營運臉書、IG和Threads的Meta，以及短影音平臺TikTok都說會開始標記AI生成內容。YouTube也推出規範，要求創作者揭露使用AI製作的影片以便加上標籤。發佈GhatGPT的OpenAI也宣佈，會推出能讓用戶偵測機器人生成圖像的工具，並會和金主微軟共同啓動200萬美元的基金，用以對抗可能「欺騙選民、侵蝕民主」的深僞內容。

科技巨頭規範 外界難以有多大信心

業界雖有動作要因應深僞的潛在傷害，但美國有線電視新聞網（CNN）分析，根據過往經驗，科技巨頭往往未能充分落實自己設定的相關規範，讓惡意內容散佈給大衆，後續反應才姍姍來遲，這令外界對社羣平臺的自主規範很難有多大信心，尤其美國正面臨攸關民主制度的關鍵大選。

3月，一羣科技公司前主管、學者和智庫專傢俬下舉行討論，探討Meta、TikTok等業者要如何避免2021年的國會山莊暴動重演。這羣人士5月發佈報告，提出多項建議，其中包括呼籲各平臺針對選舉相關假訊息和煽動暴力的內容，發展並傳達明確的政策。

專家預測社羣：僅處理直接煽動暴力內容

但紐約大學法學院賴斯法律與安全中心資深研究員裘斯林說，當前問題是，「反民主」論述和陰謀論已成爲主流政治右派的一部分，這些不再是邊緣論述，社羣平臺最後可能只會處理部分最直接煽動暴力的內容。

位於新德里的網路自由基金會執行主任瓦格爾也表示，以印度而言，部分政黨本就是仰賴特定的論述、誤導訊息等，AI生成內容是否足以影響投票決定，還未可知。