DSET「GenAI and Democracy」計畫應對數位時代的挑戰
面對生成式 AI 資訊操弄對民主的威脅，台灣站在全球前線，積極探索應對策略。DSET民主治理組組長黃凱紳在12月4日於英國倫敦大學 Brunei Gallery 以「管制假AI假訊息的民主兩難」為題開講，揭示台灣在 2024 年總統選舉期間面臨的資訊操弄挑戰，並提出解決之道。
黃凱紳指出，從聲稱台灣民眾黨主席柯文哲批評賴清德的合成音檔，到指控民進黨候選人賴清德與「春風計畫」有關的假影片，生成式 AI 工具正被資訊操弄的攻擊者用於生成深偽的聲音與影片，也被用以偽造帳號的頭像。黃凱紳表示：「因台灣特殊的地緣政治挑戰，台灣成為世界上境外資訊操弄最嚴重的地區，使台灣成為資訊操弄挑戰的前線。」
假訊息治理與言論自由的平衡
論壇另一個核心議題是如何在規範假訊息與維護民主價值之間取得平衡，特別是言論自由。黃凱紳解釋，台灣對言論自由的堅守源自從戒嚴時期過渡到民主的抗爭歷史。然而，他也指出：「傳統的法規框架難以應對當前數位假訊息的規模與速度。」
黃凱紳說明，過往言論自由的倡議是在資訊稀缺、人們渴望資訊且願意深入討論的環境，但現在面臨的卻是資訊爆炸、人們注意力稀缺的情況。在現代的資訊環境下，傳統的法規框架顯然難以應對現在的資訊操弄的氾濫。
識別框架：強化治理的全新工具
黃凱紳演講的一大亮點是應用例如 DISARM 等框架分析資訊操弄案例，藉此詳細描繪資訊操弄中計畫、執行與擴散的技術與策略。以具體資訊操弄案例為例，黃凱紳說明攻擊者如何利用 AI 生成人聲，並透過建立的虛假帳號傳播這些內容。
黃凱紳指出，使用框架可以標準化資訊操弄的過程，也使治理資訊操弄的討論可以更為細緻，提供精準的監管的應對依據。
聽眾提問聚焦資訊操弄治理與未來法規方向
在提問環節，在場的與會者非常熱烈提出問題，如台灣的資訊操弄是否涵蓋線下活動、能否使用AI反制資訊操弄等。黃凱紳回答問題時表示，資訊操弄不僅限於線上，也常透過線下管道散播，台灣需同時關注線上與線下資訊操弄的綜合效應。此外，AI 技術已被應用於偵測與反制假訊息，例如分析影像真實性或語言特徵，但其使用需謹慎，以避免侵犯言論自由或隱私。
針對台灣再推類似數位中介服務法的可能性，黃凱紳表示，過去的數位中介服務法案雖未能成功推動，但其背後反映出台灣對於假訊息治理的迫切需求。他認為，未來若要提出類似方案，需更注重透明度與多方利害關係人的討論，以兼顧民主價值與有效治理，讓政策能夠獲得更廣泛的社會支持。
台灣對抗資訊操弄的全球意義
作為面臨外部壓力的活力民主國家，台灣提供關鍵的全球案例。黃凱紳總結表示：「台灣的經驗凸顯國際合作應對 AI 資訊操弄的必要性，台灣的經驗與教訓能為全球民主價值的捍衛提供寶貴借鑑。」
