想像一下，選舉白熱化階段，網絡上如果突然開始流傳一部視頻或錄音檔，內容是某個候選人發表疑似違法或可能流失選票的言論。
這會不會影響到你的投票意願？
或者說，這會不會影響到廣大選民的投票意願？
如果內容是真的也就罷了，若內容是偽造的，候選人豈不吃了「死貓」，輸得不明不白？
新加坡政府昨日（9日）正式在國會提出選舉（維護網絡廣告誠信）（修正）法案（Elections (Integrity of Online Advertising) (Amendment) Bill）一讀。
要針對的，就是上述情形。
該法案將修改國會選舉法令和總統選舉法令，在選舉期間，禁止發布由包括AI技術在內的數碼技術所生成或篡改的網絡競選廣告。
上述網絡競選廣告，指的是那些魚目混珠，以假亂真，逼真描繪某個候選人未曾說過或做過的事的內容。
簡單來說，就是那些把別人沒說過的話塞進別人嘴裡的深偽視頻。
法案將賦予選舉官向違例內容發布者、社交媒體服務和網際網路服務提供者發出更正指示的權力，讓他們撤下相關內容，或禁止新加坡用戶在選舉期間訪問違例內容。
受影響的候選人和公眾皆可舉報涉嫌違例的內容。
若違例內容發布者或相關服務提供商拒絕遵從更正指示，一旦定罪，社交媒體服務商最高可被罰款100萬元，其他涉事者則可被罰款不超過1000元、監禁最長12個月，或兩者兼施。
根據數碼發展及新聞部的說法，相關內容一旦符合以下三種條件，發布、轉發、分享的行為就會觸法：
內容是經由AI技術生成或篡改，或經由修圖、配音或拼接等數碼技術所產生的；
內容被認定為網絡競選廣告，目的是為了讓某個政黨或候選人的選情更有利或更不利；
內容必須以假亂真、煞有其事地描繪出某位候選人說著或做著他們從不曾說過的話或做過的事。
值得一提的是，除了利用深偽內容讓人扣分不行，以虛假內容來幫人加分也屬違例。
例如，若某位候選人明明完全不會說福建話，卻用深偽視頻把自己描繪成流利福建話流利的人，其逼真程度也足以說服某些選民，那這不符合事實的描繪就屬於違例。
無論如何，動畫、卡通人物、娛樂內容、迷因和競選海報，只要不符合幾可亂真的條件，即不會讓人對內容信以為真，那就不在法案的禁止範圍。
例如下面這張梗圖，一看就知道是為了娛樂大眾，而非詆毀候選人，因此不屬於違例。
媽媽：你們有沒有把雞肉拿出來解凍？
我和兄弟姐妹們的表情……
（SGAG）
此外，個人聊天或在私聊群組所傳送的內容，也不受法案規範。
深偽內容已在多國選舉「發威」
自生成式AI技術問世以來，近年來不少國家的選舉，已然可以見到深偽內容影響選舉的蛛絲馬跡。
去年9月，在斯洛伐克大選投票日前夕，當地社群媒體突然出現一段聽起來像是該國政党進步黨領袖希梅奇卡（Michal Simecka）和一名記者討論收買選票的語音檔。
經過核實後，才發現該語音檔原來是AI工具搜集希梅奇卡真實談話錄音後，加以變造合成。
當時，親歐洲的希梅奇卡和對手，親俄羅斯的前總理費佐（Robert Fico）所領導的政黨競爭激烈，上述深偽錄音對最終選舉結果有多大影響不得而知，但費佐最終成功當選總理。
印尼和印度則出現「死人復生幫忙拉票」的亂象。印尼政黨戈爾卡黨在選舉期間，以AI技術「復活」前總統蘇哈多，並借「假蘇哈多」之口為自己拉票。
已故蘇哈多在競選視頻中「復活」。（網際網路）
在語言非常多樣且複雜的印度，印度執政黨人民黨則透過AI技術，讓印度總理莫迪除了用印地語說話，還用包括淡米爾語在內的其他八種語言發表演說（在新加坡，這類以假亂真的配音在新法上路後屬於違法，請參考前文所述的「福建話」案例）。
新加坡政治人物也無可倖免。我國總理黃循財和國務資政李顯龍都曾遭不法分子「深偽」，內容是推銷詐騙投資平台。
李顯龍還一度被有心人攫取過去的訪談畫面，深偽假造他談論台灣及菲律賓等敏感國際議題的內容，在TikTok和小紅書流傳的相關內容取得了數十萬觀看次數。
李顯龍遭假造談論敏感議題的內容。（李顯龍臉書）
人們辨識能力有限
雖說謹慎的選民或能識破深偽內容，將其影響降至最低，但研究顯示，現實中人們對深偽內容的辨識能力恐怕不那麼令人樂觀。
倫敦大學學院去年8月公布的一項研究結果發現，人類識別AI聲稱語音的準確率只有73%。
必須強調的是，當時這份研究的語音樣本採用的是比較舊的AI工具，這意味著隨著AI技術的仿真度越來越高，人類的識別成功率只會更低。
另外一份澳洲國立大學去年11月所發布的調查則指出，被AI人臉矇騙的人，往往對自己的判斷最有信心。
這意味著，以假亂真的深偽內容「取信於人」的可能性不小，其影響選民投票行為的風險不可忽視。
因此，不少國家已在思考落實相關法律，以降低AI技術生成內容可能對選舉帶來的干擾。
隨著AI技術持續精進，人們或將愈來愈難分辨真偽。（路透社）
新加坡最晚將在明年11月舉行大選。在選舉到來之前，有必要防範於未然，尤其得避免整個輿論環境被各種深偽內容搞得烏煙瘴氣，令人真假難辨。
這點紅螞蟻頗有感觸，最近公司的IT部門為測試員工預防網絡詐騙的能力，連續發出釣魚郵件，一旦被「釣到」就得去補上網絡安全課程，搞得大家人心惶惶，甚至連看到真實的郵件也要猶豫再三，才敢點開。
將這種可能的心態放到現實場域，若未來AI深偽的虛假內容滿天飛，人們面臨的，便可能是沒有任何人、事、物能相信的世界。這對需要基於事實進行討論，並作出決定的公共事務，將會是一大打擊。
除了好人可能被誣賴，真正的壞人也可能藉著輿論環境遭深偽內容污染，謊稱不利於自己的真實內容是由AI所生成或篡改，以此獲得「說謊者紅利」（liar’s dividend）。
因此，在新加坡的防深偽選舉內容的法案中，當局也加上了一個但書，若候選人向當局謊稱某個真實內容是虛假的，那他也同樣會受到法律制裁，包括被罰款乃至喪失議席。
