AI 釣魚與深偽詐騙:給團隊的辨識與應對手冊
這篇文章整理了 AI 釣魚與深偽詐騙的三種升級手法、三個可直接當內訓教材的案例情境,以及「驗證通道」原則與企業演練計畫範本。適合要幫團隊建立防詐流程的主管,與經手匯款、帳戶變更的財務、行政人員閱讀。
那通「兒子的聲音」改變了我的課程設計
有一次在研究單位的內訓課後,一位資深行政人員私下告訴我,她接過一通電話,那頭是她兒子的聲音,急促地說出了車禍、需要錢。她差點就去匯款——攔住她的不是任何資安知識,而是她照習慣回撥了兒子的手機,兒子在辦公室好端端地接了電話。
她問我:「老師,聲音那麼像,到底還有什麼是可以相信的?」
這個問題,正是這篇文章要回答的。過去我們教員工辨識釣魚信,是教大家「找破綻」:錯字、奇怪的語法、粗糙的假網域。但生成式 AI 把破綻一個一個抹掉了。當破綻找不到的時候,防線必須換一種蓋法——從「辨識內容真偽」轉向「驗證請求本身」。
AI 讓釣魚升級的三個維度
升級一:個人化,量產的客製攻擊
傳統釣魚信是亂槍打鳥,一封信寄十萬人。AI 釣魚是先讀完你的 LinkedIn、公司官網、新聞稿、你在研討會的演講摘要,再生成一封只為你寫的信:提到你上週參加的活動、引用你主管的名字、附上和你業務完全相關的「合作提案」。
過去這種等級的客製攻擊只會用在高價值目標上,因為很花人力。現在 AI 把成本壓到趨近於零,每個員工都值得被客製化攻擊一次。
升級二:語氣模仿,連「他不會這樣講話」都失效
很多人辨識假信的直覺是語感:「我老闆不會用這種語氣。」但攻擊者只要取得目標過去的公開文字(社群貼文、新聞稿、外流的郵件),AI 就能模仿到位——包括慣用的開頭、簽名檔格式、甚至偶爾打錯的那個字。
完美的中文、對的語氣、合理的脈絡。「找破綻」這條路,正在失效。
升級三:即時深偽,眼見不再為憑
深偽(Deepfake)已經從「事先做好的假影片」進化到「即時生成的假視訊」。攻擊者可以拿著某人的公開影像與聲音素材,在視訊會議裡即時扮演他,表情、口型、聲音同步。
香港在 2024 年發生過指標案例:一家跨國公司的財務人員參加視訊會議,會議裡的「財務長」和多位「同事」全部是深偽,他依「會議決議」分多筆匯出約兩億港幣。事後回看,那場會議裡只有受害者一個真人。
三個案例情境(建議拿去當內訓教材)
以下情境經過改編與匿名化,但手法都有真實案例對應。
情境一:財務轉帳——「急件,董事長交辦」
財務部的小陳收到一封信,寄件人顯示是董事長特助,信中說有一筆併購保證金需在今天下午三點前匯出,並強調「案件保密中,請勿在群組討論」。信的語氣、格式、簽名檔都對,甚至正確提到上週的董事會日期。
破綻不在信裡。破綻在於這個請求同時踩了三個紅旗:急迫(今天三點前)、保密(不准問別人)、繞過常規(不走正常簽核)。AI 可以偽造內容,但偽造不了「正常流程不會長這樣」這件事。
情境二:視訊會議裡的假主管
業務主管收到海外總部「營運長」的視訊會議邀請,會中營運長親口指示變更某大客戶的收款帳戶。臉是對的、聲音是對的、背景是總部辦公室。
防住這一關的公司,靠的都不是員工的眼力,而是制度:任何收款帳戶變更,無論誰口頭指示,一律須由原通道(既有聯絡窗口的已知電話)回電確認,並附書面簽核。視訊裡的人說什麼都不算數。
情境三:語音訊息——「我在開會,先幫我處理」
行政同仁的通訊軟體收到主管的語音訊息:「我在客戶這邊不方便講話,先幫我買十張高額禮品卡,序號拍照傳給我。」聲音一模一樣。現在複製一個人的聲音,只需要幾秒鐘的公開音檔——一段受訪影片、一場線上演講就綽綽有餘。
對策同樣不是「聽出破綻」,而是約定:涉及金錢與帳密的請求,語音訊息一律視同未驗證,必須回撥本人已知號碼確認。
核心原則:驗證通道,不驗證內容
把上面三個情境收斂成一句話,就是我希望每個團隊都背下來的原則:
重點:「內容可以偽造,通道比較難。收到請求的那個管道,永遠不能拿來驗證請求本身。」
對方從 email 來,就用電話驗證;從電話來,就當面或用公司內部系統驗證;從視訊來,就回撥已知號碼驗證。回撥用的聯絡方式,必須來自你既有的通訊錄,而不是對方信裡附的那支「專線」。
配套三條團隊守則:
一、急迫加保密加繞過流程,三旗同見,幾乎可以斷定是詐騙。
二、高風險動作(匯款、改帳戶、給帳密、買禮品卡)一律雙人複核,沒有例外——「董事長交辦」更不能例外,因為攻擊者最愛扮演的就是董事長。
三、可以跟家人或核心團隊約定「驗證暗語」:一個只有你們知道、網路上查不到的問題。深偽可以複製聲音,複製不了你們上個月一起吃過什麼。
順帶一提,這條原則跟我在〈Prompt Injection 白話文〉談的防線一脈相承:不論騙的是人還是 AI,解法都是在高風險動作前面,放一道攻擊者控制不了的關卡。
團隊演練:知道沒有用,練過才有用
資安意識訓練最大的迷思是「看過簡報等於會」。
我的經驗:我帶過的企業演練裡,剛上完課的團隊照樣有人在模擬釣魚中點了連結——這不是學員的問題,是肌肉記憶需要練。
有效的演練長這樣:
桌上推演(每季一次,60 分鐘)
拿上面三個情境給團隊分組討論:第一時間做什麼?打給誰?哪個環節最可能失守?讓財務、行政、主管混組,因為真實攻擊就是跨部門的。
模擬釣魚(每季一次)
用演練平台寄送模擬釣魚信,重點不是抓出誰點了連結,而是觀察「點擊後有沒有通報」。點了連結但立刻通報的員工,應該被肯定而不是懲罰——通報率才是組織真正的免疫力指標。
回撥驗證實測(每半年一次)
由資安或外部團隊扮演「主管」發出轉帳指示,實測財務流程的雙人複核與回撥機制是否真的會啟動。流程在演練中斷掉,遠比在真實攻擊中斷掉便宜。
企業演練計畫範本(可直接抄)
目標:六個月內,全員通報率達 70% 以上,高風險流程回撥驗證執行率 100%。
第 1 個月:全員 90 分鐘基礎訓練(本文三情境+驗證通道原則);公告高風險動作清單與雙人複核規定。
第 2 個月:第一次模擬釣魚(基準測量,結果不公布個人、只公布整體數據)。
第 3 個月:財務與高階幕僚的深偽情境桌上推演;建立並測試「已知號碼通訊錄」。
第 4 個月:第二次模擬釣魚(難度提高:個人化內容);檢討通報流程的卡點。
第 5 個月:回撥驗證實測;修訂付款與帳戶變更流程。
第 6 個月:成果回顧,把演練制度化寫進年度計畫。
角色分工:資安或 IT 主辦、人資協辦訓練、財務主管負責流程修訂、高階主管公開背書「通報無責」文化。
常見翻車與 FAQ
問:裝了郵件過濾和防毒,還需要演練嗎?
需要。技術過濾擋掉的是大宗攻擊,客製化的 AI 釣魚和深偽視訊根本不經過你的郵件閘道。最後一道防線永遠是收到請求的那個人,以及他身後的流程。
問:要求回撥驗證,主管嫌麻煩怎麼辦?
請主管算一筆帳:回撥一通電話三十秒,香港那家公司損失兩億。更實際的做法是讓高階主管公開宣示「向我驗證不會被罵,不驗證才會」,一句話就能改變整個組織的行為。
問:深偽即時視訊真的分辨不出來嗎?聽說可以叫對方轉頭或揮手?
這些招數對部分工具有效,但偵測技巧月月在過時,把安全感建立在「我看得出來」上非常危險。正確的心態是:分辨不出來也沒關係,因為你的流程不依賴分辨。
問:員工在模擬釣魚中點了連結,該懲處嗎?
強烈建議不要。懲處的結果是下次沒人通報,組織反而變盲。要追蹤的是整體點擊率與通報率的趨勢,要表揚的是最快通報的人。
問:小公司沒預算買演練平台,怎麼辦?
桌上推演零成本,回撥驗證零成本,已知號碼通訊錄零成本。先把這三件做起來,效果就超過一半。模擬釣魚可以之後再補。
寫在最後
AI 沒有發明新的詐騙,它只是把舊詐騙的成本砍到接近零、把品質拉到接近完美。好消息是,應對的核心從來不是科技,而是流程與習慣:驗證通道、雙人複核、通報無責。這三件事,任何規模的公司這個月就能開始。
如果你想為團隊安排一場包含深偽情境演練的實戰訓練,或想把這套手冊變成貴公司的標準流程,歡迎參考我的 AI 助航資安規範課程。詐騙集團已經在用 AI 了,你的團隊值得用同等的認真來應對。