【沃草】記者朱乃瑩報導
在臉書上發哪些關鍵字，最有可能被「祖」？PTT（批踢踢）、台灣AI實驗室創辦人杜奕瑾指出，社群平臺創造了精準行銷、認知操作的空間，「變成認知作戰的工具」，臺灣就處在全球訊息戰的第一線。杜奕瑾也警告，國際上因假消息泛濫，要求社群平臺進行事實查核，卻等於賦予平臺管控言論的權限。他指出，基於人工智慧（AI）的事實查核機制，會受AI開發者或資料樣本的偏見影響，「如果（查核的）演算法是在中國訓練，當然是用中國的思維跟文化去做言論審查」。根據AI實驗室分析，與臺灣、中國、香港、印度有關的發文最可能被臉書屏蔽。
PTT（批踢踢）、台灣AI實驗室創辦人杜奕瑾。攝影／朱乃瑩。
「臺灣青年數位文化創新協會」與資策會、中華電信、中研院資訊科技創新研究中心等單位昨（14）日舉辦「國家安全與網路資訊安全論壇」，邀請「台灣AI實驗室」（Taiwan AI Labs）創辦人杜奕瑾發表「認知安全與國家安全」專題演講。杜奕瑾為知名軟體工程師、「批踢踢」創站站長，現為中華電信獨立董事、文策院董事。
杜奕瑾說，以前講「電腦安全」都會想到病毒攻擊、黑客攻擊，但現在已經上升到精神層面，也就是認知作戰、訊息戰，更牽涉國家安全。
「臺灣就是訊息戰第一線！」杜奕瑾指出，臺灣是全世界公認受外力影響，假消息最嚴重的地方，近來許多國際組織都來臺灣取經。由於各種言論都能自由進出臺灣，造成臺灣雖然在無國界記者組織等媒體評比中，新聞自由度高居亞洲前列，但媒體信任度卻排在全世界倒數。
杜奕瑾說，社群媒體是認知作戰的絕佳平臺。2020年拍攝的紀錄片“The Social Dilemma”（智能社會：進退兩難）揭露了社交媒體平臺為了提高使用者黏著度以追求最大獲利，會幫忙散播仇恨言論，造成同溫層效應、社會極化，也創造認知操作的空間；另一部紀錄片“The Great Hack”（個資風暴：劍橋分析事件）則提到，社群媒體作為絕佳的精準行銷工具，足以改變人的認知，若為政治服務，就成為認知作戰的工具。
「事實查核很危險」，對假訊息的反制可能造成另一種困境。杜奕瑾表示，要求社交媒體進行事實查核的結果，就是賦予其言論審查的權力。他舉例，中國醫師李文亮在Covid-19疫情之初發表相關檢測報告，當時被當成假消息，也被臉書、推特下架，結果卻是全世界都應該及早注意的資訊。
有沒有比較正面的做法？杜奕瑾舉例，臺灣的PTT就不是由站長決定下架某一言論，而是使用者選出版主，版主再依照版規決定要不要下架。在這種相對開放的平台上，因為是由下而上治理，言論較能被保留和討論。同時，PTT的開放架構，也讓研究人員能輕易找出認知操作的痕跡。
杜奕瑾說明，考量到事實查核的尺度不同，可能會造成言論風向改變，因此臺灣AI實驗室並不去判斷事實真偽，而是披露訊息的來源、傳遞、表達方式，以及對特定訊息的立場。
AI分析全球假消息地景：由中文到英文、由臺灣到世界
杜奕瑾說明，透過NLP（自然語言處理）技術，可以完整分析大量新聞輿論及網路資訊，這也是AI實驗室的強項。他舉例，AI實驗室在去年疫情爆發期間，大量分析中國微博、微信上的文章，發現少數特定帳號「發號施令」之後，其他外圍帳號就會跟著發動攻擊，在短時間內將消息傳播出去，表現出很強的協同性。
杜奕瑾指出，假消息會先在臺灣醞釀、傳播，之後在歐美國家複製；在語言上，則是先以中文傳播並造成事實之後，再用英文跟進擴散。去（2020）年在世界各地發生的「衛生紙之亂」，臺灣是第一站，然後是日本、澳洲、美國等地。杜奕瑾回憶，去年3月美國出現第一例死亡案例時，他正好在美國，有機會觀察到中文和英文假消息傳播不對稱：當地是先傳出「超市物資被搶購一空」的中文資訊，造成華人搶購，華人搶購的事實發生之後，英文媒體再跟進報導。
PTT（批踢踢）、台灣AI實驗室創辦人杜奕瑾。攝影／朱乃瑩。
而這種先讓假消息影響形成某種事實，再自我佐證的手法，也見諸於世界衛生組織秘書長譚德賽指控的「臺灣網軍」事件。杜奕瑾說明，譚德賽在去（2020）年4月指控「臺灣網軍已攻擊他3個月」，同時一張罵譚德賽是「黑鬼」、「黑色蟑螂」的PTT截圖被廣為流傳，也有許多自稱是臺灣人的帳號發起向譚德賽道歉。但追溯這張截圖的來源，其實是譚德賽此前說臺灣網軍攻擊他的文章被轉載到PTT，引發鄉民圍攻。杜奕瑾強調，3個月前臺灣因為尚無疫情，其實沒什麼人關注譚德賽。
杜奕瑾指出，譚德賽指控「臺灣網軍」事件發酵時，推特上的發文大致可以分為兩群：一派自稱「臺灣網軍」，以標籤「#ThisAttackComesFromTaiwan」轉貼各種臺灣美食；另一派則不斷截圖PTT上的仇恨言論，或代表臺灣人向譚德賽道歉。AI實驗室對兩者進行協同性分析，發現貼美食照的使用者之間多元而分散，協同性低；截圖或道歉「PTT仇恨言論」的內容則相當一致，有如「罐頭文章」。進一步分析發現，這些帳號追蹤最多的推特前三名，分別是中國外交部發言人趙立堅、華春瑩，以及美國總統川普。杜奕瑾反問，「這會是臺灣人嗎？」
臉書真的有中國式審查？杜奕瑾憂：網路平台事實查核變言論審查
杜奕瑾關注的另一個議題是，由誰進行社群媒體平臺上的言論審查？以什麼標準審查？他指出，許多社交媒體仰賴人工智慧進行言論審查，但人工智慧有可能會傳遞開發人員或資料樣本的偏見。因為中國是中文人口最多的國家，目前中文的人工智慧，就有很大的可能偏向中國標準、中國立場。社群平臺也會將人工審查工作外包到低收入國家，「臺灣臉書的言論審查就不是在臺灣進行。」
杜奕瑾回憶，自己過去分享臺灣防疫成就、中國資安問題等主題的文章，都被臉書下架；AI實驗室在「國慶日」放臉書廣告，竟然也被下架。他們於是發起「葉黃素計畫」，邀請臉書使用者記錄被平臺刪除的貼文。AI實驗室分析這些文章發現，「臺灣」、「中國」、「香港」、「印度」可能是被下架的關鍵字，而其中真正與仇恨、不當言論有關的僅不到2%，剩下98%的言論都應該可受社會公評。
「如果AI是在對岸訓練，當然是用對岸的思維跟文化去做言論審查！」杜奕瑾強調，國際間已開始關切社群平臺的透明度，也就是演算法內容、訓練AI的資料來源，以及社群平臺的言論審查規範。而後疫情時代，人際連結會更依賴社群平臺，應更重視這種資訊平臺的人工智慧演算法，以及平臺使用權的管控規範。