今年世界各地有數十億人參加投票，全球民主面臨巨大風險，而生成式人工智慧(Generative AI)的進步和廣泛的可取得性，正在影響這些大選。台灣人工智慧實驗室(Taiwan AI Labs)創辦人杜奕瑾(Ethan Tu)28日提供台灣大選的經驗，表示選舉期間網路出現大量不正常的使用者帳號活動，經由人工智慧(AI)比對，這些訊息操弄呼應中方的論述，試圖影響台灣人民。
美國哥倫比亞大學(Columbia University)國際公共事務學院(School of International and Public Affairs)和阿斯本研究所(Aspen Institute)旗下的阿斯本數位(Aspen Digital)計畫合作，28日針對AI如何在台灣、阿根廷和斯洛伐克等地已經舉行的選舉中發揮作用、以及對今年稍後選舉所代表的意義，舉行「AI對2024年全球選舉的影響」(AI's Impact on the 2024 Global Elections)會議，並邀請政治事務專家、高階科技人才與頂尖學者進行討論。
杜奕瑾是受邀的與會嘉賓，他在紐約表示，在台灣總統大選期間，他們在臉書、推特(Twitter，現稱X)、以及批踢踢實業坊(PTT)等社群媒體上，發現數十億次不正常使用者活動，並在整個選舉期間發現假新聞的操弄。
杜奕瑾表示，他們運用AI技術能夠確認這些帳號並非真人。「運用AI，我們辨識出這些人並不是真人。他們一起出現，一起消失，一起散布假訊息，且善用影音。以往訊息操弄主要是文字，今年則可在YouTube和短影音分享平台TikTok看到許多的短影音，而通常YouTube上的影片則是源自TikTok」。
杜奕瑾表示，有許多影片是深偽(deep fake)，它們有不同的背景，不同的聲音，湧入YouTube和TikTok平台，傳達著相同的訊息，並影響台灣人的感受。
他並以台灣總統蔡英文訪美時、以及美國總統拜登(Joe Biden)表明會在中國動武時馳援台灣為例，表示當時他們都發現到不正常使用者(troll)的活動激增，甚至把拜登的話曲解為美國會協助台灣發展生物武器。
杜奕瑾說，『(英文原音)如果我們進行事實核查和內容審核，那將面臨很大的挑戰，因為人們會說這是違反言論自由和事實核查，什麼是事實。這將是很多爭論。所以，在台灣，所以現在與其說我們談論的是事實核查、內容審核，不如說我們談論的是如何披露訊息操縱。』
當主持人詢問中國是否是訊息操弄來源時，杜奕瑾表示，根據他們的了解，在運用AI比對相似論述後發現，不正常的使用者帳號大多呼應中方國營媒體論述。
