科技民主與社會研究中心年度論壇第二場次為「AI時代的民主韌性」，由DSET主任杜文苓主持，並由周睦怡副主任、黃凱紳研究員、林哲瑋研究員針對AI與資安小組年度研究進行報告。會中，林研究員以2024台灣總統大選為例，舉出受到生成式AI進行資訊操弄的案例，黃研究員與周副主任則分別指出，資訊操弄應該以科學化的方式判定，以及強化媒體識讀能力與事實查核的重要性。
主講及與談回應
本場次首先由黃凱紳研究員主談。他指出，資訊操弄的判定應以科學化的方式進行說明，藉此來處理高度敏感度的政治議題，同時也強調其重要性與影響性。
接著由林哲瑋研究員更詳細地說明報告所採用的框架DISARM。DISARM框架是參考資安上使用之ATT&CK框架所開發，專門用以分析資訊操弄戰術與手法的框架。林哲瑋研究員以DISARM框架分析在台灣2024總統大選中，使用生成式AI進行資訊操弄的案例。林哲瑋指出，目前生成式AI降低了資訊操弄的門檻，但未來若技術持續提升，使生成的深偽內容難以辨識，未來就可能產生嚴重的社會衝擊。最後，由周睦怡副主任討論公民社會在ＡＩ時代的重要性以及政府、平台業者應多進行事實查核並且增強民眾媒體識讀的能力。
隨後即針對人工智慧與資訊安全相關議題進行論壇，台灣人工智慧學校侯宜秀校務長指出生成式AI技術如何改變傳統的言論生態，並評估了歐盟人工智慧法案對此類操作的規範影響同時也提醒法規的建立與調整都應保障既有的言論自由與民主制度。
瓦科代表介紹了Access Now組織的努力，他們提供全球支援以保護網路自由，並在RightsCon大會上推廣科技與人權的結合。
DEVCORE 翁浩正執行長則從資訊安全的角度討論資安攻擊的層層防禦機制包含識別、保護、偵測、回應、復原、治理等六大措施進行防禦，以及NIST System和MITRE的ATT&CK Framework的應用。
台大新聞所蔡蕙如教授則從社會文化角度出發，討論了新聞媒體在面對AI假訊息傳播時的挑戰，她指出現今媒體傳播鏈已經改變，民眾取得資訊的方式更為多元且複雜，媒體難以作為假資訊的守門者(gatekeeper)角色，因此也應加強民眾對於媒體的釋讀能力。
未來展望：透過AI強韌台灣民主體制
論壇尾聲，討論涵蓋了討論成果報告書中資訊操弄與假消息的區分以及如何應對社群媒體的資訊操弄，進一步使用AI對抗AI的可能性；以及AI對於民主體制的威脅，包含資安攻擊以及其資安情報交換機制；最後則是討論到如何利用台灣的資安攻擊韌性、民主韌性將台灣轉型成為AI Island。
總體而言，此次論壇從科學化的判定、案例分析、公民社會、法規制度、資訊安全等多面向的針對當前AI技術和民主韌性議題的進行討論與分析。同時也呈現出，台灣在AI時代下如何透過科技與相關防禦手段讓台灣的民主體制更為穩定，也提供了政策建議者在未來施政上各種不同面向的建議，以及台灣勢必要不段推進相關技術，在現今快速變動的科技與局勢下，穩定向前。