【研發處記者林欣儀報導】

從應數底蘊走向資訊科學的研究之路

在當今生成式人工智慧與巨量資料快速發展的浪潮下，資訊安全與個人隱私保護已成為全球科技與法制領域高度關注的核心議題。國立政治大學資訊科學系林志訓助理教授，憑藉深厚的數學邏輯底蘊與追根究柢的精神，投入資訊安全與隱私保護研究，研究範疇涵蓋差分隱私、AI 模型安全性分析及相關防禦技術。

談及學術養成，林志訓老師分享，大學就讀應用數學系奠定了嚴密的邏輯推導能力，這對他日後跨入資訊科學領域產生了決定性影響。他笑說，相較於資工系，應數系學生實際撰寫程式的機會相對較少，但數學訓練所形塑的邏輯思維，也幫助他在進入研究所後逐步適應程式設計與資訊科學研究。「寫程式對我來說，本質上就是邏輯問題，只要邏輯通透了，在撰寫程式與 Debug（除錯）的過程中就會相當清晰，不會感到負擔。」

這樣的邏輯訓練，也逐漸形塑了林志訓面對問題時追根究柢的習慣。「我是一個一定要探究『為什麼』的人，我不喜歡別人直接告訴我怎麼做，而是希望自己想盡辦法解決問題。」這種重視理解問題本質、獨立尋找答案的態度，也成為他投入學術研究的重要動力。對他而言，學校考試往往有標準公式與答案，但真實世界的研究問題充滿未知，「做研究最吸引人的地方，就在於你必須在沒有前例可循的未知領域中，自己開闢出一條路來。」

「一棵大樹」讀懂差分隱私的核心精神

隨著資料蒐集與應用日益普及，如何在利用資料價值與維護個人隱私之間取得平衡，也愈顯重要。林志訓老師以生動的比喻解說「差分隱私」：「試著想像一棵秋天變色的樹，遠看能看到滿樹金黃的整體景觀，知道大約是什麼季節，但你不會在意其中某一兩片綠葉。」差分隱私的核心精神，就是讓個人的資訊隱藏在群體統計之中，使外界難以從分析結果反推出特定個人的資訊。研究者關注的是大眾的整體統計趨勢，而非單一個人的私密資料。

從科學角度看，若已知班級人數，再比較「全班平均成績」與「扣除小明後的全班平均成績」，就可能反推出小明的個人成績。為了降低這類資訊洩漏的風險，差分隱私技術會在資料處理過程中加入經過精心設計的「隨機雜訊（Noise）」，降低外界由統計結果反推個人資訊的可能性。「在另一類由本地端進行隨機化處理的隱私保護方法中，以涉及敏感健康資訊的問卷為例，例如詢問受訪者是否感染愛滋病毒，受訪者可以理直氣壯表示回答『有』是因為隨機雜訊的干擾，而非自身狀況。這種機制降低了回答與個體真實狀況之間的直接關聯，民眾便更願意提供資料。」

老師也提到，差分隱私已應用於包括「政府開放資料（Open Data）」與「智慧終端設備的使用者資料蒐集」（如 iPhone 改善使用者體驗）等場景。如何在保護個人隱私的同時，盡可能維持資料分析的實用價值，也是當前隱私保護研究的重要課題。

語言模型隱憂：揭露後門攻擊與安全漏洞

隨著生成式 AI 崛起，研究範疇也從「隱私保護」延伸至「模型安全（Model Security）」。林志訓強調，隱私保護是防止資料洩漏，而模型安全則是防止 AI 被惡意操控或破壞。

林志訓與合作研究團隊深入探討了 AI 模型中的「後門攻擊（Backdoor Attack）」風險。攻擊者在模型訓練階段預先埋入特定的隱藏觸發條件（Trigger），平時模型表現正常，但一旦輸入包含特定符號或特徵的提示，就會觸發特殊行為。「例如公司下載開源的人臉辨識模型作為門禁系統，若模型被埋入後門，攻擊者只需佩戴特定樣式的配件，系統就會瞬間誤認並給予通行權限。」

研究也發現，部分後門即使經過後續訓練或微調（Fine-tuning），仍可能持續存在。林志訓表示，從另一個角度來看，團隊扮演的是「安全測試員」的角色，揭示漏洞是為了提醒開發者即時修補防線；同時，後門技術也可以反向應用於「模型數位水印」，用於證明開源模型的原始所有權。

反制 AI 威脅：從概念消除安全檢驗到 Deepfake 主動防禦

除了後門攻擊，林志訓與合作團隊也針對生成式 AI 的「概念消除（Concept Erasure）」技術進行安全性檢驗。現行模型開發者會嘗試移除暴力、色情或特定物件、藝術風格等不希望模型生成的概念，但研究團隊發現，部分安全機制仍可能被繞過。「就像開發者告訴模型『不要再產生某類內容』，研究團隊則從安全測試的角度反過來問：這個概念是真的被移除了，還是換一種問法之後仍然找得回來？」團隊因此開發出名為 Ring-A-Bell 的安全測試方法，透過擷取特定概念的特徵表示，自動尋找可能繞過安全機制的提示詞，測試模型是否仍會生成原先試圖移除的內容。研究結果顯示，現有的概念消除機制仍有進一步強化的空間，也凸顯持續對生成式 AI 進行安全測試的重要性。

此外，面對深度偽造（Deepfake）帶來的詐騙與假資訊威脅，林志訓與日本明治大學團隊也投入主動式防禦技術研究。其核心概念是在影像公開前，預先加入人類肉眼不易察覺、但會影響 AI 模型判斷的微小擾動，使攻擊者利用影像進行換臉合成時，降低生成結果的品質。林志訓表示，這類研究可以從防禦可行性、跨模型轉移能力，以及擾動的隱蔽性三個層次逐步思考。首先，在能掌握目標模型資訊的「白箱」情境下，驗證主動防禦方法是否確實能干擾 Deepfake 生成；接著進一步面對更貼近真實世界的「黑箱」情境，研究如何讓擾動在面對未知模型時，仍能維持一定的防禦效果。現階段的研究則進一步關注如何兼顧防禦效果與視覺隱蔽性，希望在不明顯影響原始影像品質的情況下，提高對 Deepfake 生成的防禦能力。

打好基本功，讓AI成為協作夥伴而非腦袋

林志訓老師認為，隨著 AI 技術快速融入各類應用，除了追求模型效能，如何建立「可信任 AI（Trustworthy AI）」同樣重要。可信任 AI 涵蓋隱私保護、模型安全、可靠性與透明可解釋性等面向，目標是讓使用者能更安心地使用 AI 技術。談到資安系統可能存在的漏洞，他則表示：「世界上很難存在絕對完美的系統；沒有發現漏洞，不代表漏洞不存在。因此資安真正重要的是持續檢驗、發現問題並改善系統。」

在政大任教約半年的林志訓，對政大學生善於表達、重視人際互動與社會關懷的特質印象深刻。面對碩士班的資安課程，他喜歡在引入複雜數學公式前先建立情境故事，幫助非純技術背景的學生理解資安風險與應用價值。對於學生使用AI工具，林志訓抱持開放態度，他鼓勵進行「人機協作（Human-AI Collaboration）」，同時也提醒，鼓勵使用AI絕不等於過度依賴AI。「我最擔心學生在過程中放棄了基礎功力的鍛鍊。」林志訓強調，若將邏輯構思全盤交給 AI，反而可能逐漸失去獨立判斷與解決問題的能力。一旦缺乏底層知識，不僅難以判斷 AI 答案的真偽，當服務中斷時更會陷入癱瘓。「AI 應該是你的協作夥伴，而不是你的腦袋。保持紮實的基本功與獨立思考能力，才能在 AI 浪潮中成為真正引領技術發展的人才。」

坐在辦公室裡遠眺景美溪與綿延山景，林志訓手中端著咖啡，沉浸於這片靜謐而富有學術氣息的環境中。對他而言，可信任 AI 與資訊安全研究不只是尋找系統漏洞，更重要的是理解新興技術的風險與限制。未來，他也將持續投入差分隱私、AI 模型安全與跨領域應用研究，並將相關成果帶入教學與人才培育。