一、調研背景

冒充領導、熟人詐騙，以包紅包、急事需要借錢、家里有事，詐騙的理由千奇百怪，只要你一不小心就會“入套”。不法分子通過AI換臉和擬聲技術，10分鐘騙430萬元；AI虛擬人在聊天中篩選出受害者，人工接力實施詐騙……近期，多起宣稱利用AI技術實施詐騙的案件引發關注。

利民之事，絲發必興；厲民之事，毫末必去。隨著網絡技術的不斷發展，利用網絡進行詐騙的招數也在升級加碼，讓人防不勝防。電信網絡詐騙現已成為發展最快、嚴重影響人民群眾安全感的刑事犯罪之一，嚴重影響社會的長治久安，人民生活的安定幸福。近年來，網絡有害信息及其關聯的網絡犯罪日益增長。傳統犯罪加速向網絡空間蔓延，特別是利用網絡實施的詐騙和賭博犯罪持續高發，2020年已占網絡犯罪總數的64.4%。2020年，全國檢察機關起訴涉嫌網絡犯罪（含利用網絡和利用電信實施的犯罪及其上下游關聯犯罪）14.2萬人，同比上升47.9%。

為了響應國家全民反詐的號召，山東大學法學院AI換臉調研隊伍利用暑期時間，線上線下雙管齊下，在家鄉深入社區，面向社區內居民開展反詐宣傳活動。同時在抖音快手等短視頻平臺借助短視頻這一宣傳介質科普AI換臉相關知識，提供識破騙局的方法，有力反擊AI換臉詐騙。

二、實地走訪

通過前期調查，我們發現學生，老人等重點群體的個人隱私保護意識較為淡薄，而且仍存在為了蠅頭小利出賣個人信息甚至身份證件供不法分子使用的不良現象。因此，此次線下調研我們主要針對以上重點群體，幫助他們提高反詐騙意識。

7月15日，團隊成員曹若萱在了解家鄉當地社區反詐情況后，聯系居委會工作人員，盛情邀請社區中小學生開展題為“謹防‘AI換臉’新騙局”的反AI詐騙的宣講會。通過多媒體投影集中解釋AI詐騙概念、拆解常見的AI詐騙手法，深入淺出地剖析了AI詐騙典型案例。同時借助反詐騙宣傳視頻讓小學生們身臨其境般感受到詐騙分子的處心積慮、防不勝防，有效提高參加宣講會的學生的反詐安全意識。 7月20日，熱比哈同學不懼驕陽，走出家門，走進社區店鋪，調研當地店主反詐騙的實際情況，并將防范電信網絡詐騙宣傳送進多家店鋪。她與多位店主一起，或邀請填寫問卷，或手機觀看視頻，或現身說法，講述身邊受騙上當人群的真實案例。同時積極推廣“國家反詐”APP，保護店主的“錢袋子”，為反詐再添一道防火墻。 線上宣傳過程中，鵬麗、王玲兩位同學在抖音快手等多個短視頻平臺上注冊賬號，自己拍攝剪輯短視頻來宣傳AI換臉詐騙的內容。王玲同學主要負責的內容有2期，以嚴打“AI換臉”詐騙為主題，結合熱點案例和日常預防做法進行宣傳。鵬麗同學以個人信息保護為主題，分別結合國內實踐和國外實踐，從法律規制和司法規制兩方面入手進行宣傳。目前宣傳視頻得到了相當數量的關注，二位同學表示會繼續搜集素材，爭取作出更多優質的宣傳視頻。

考慮到兒童的年齡、理解力等情況，團隊同學創新方式方法，運用通俗易懂的語言，進行細致的案例講解，努力做到讓群眾聽得懂、能領會、好落實。黃衛佳同學走進幼兒園為小朋友作了一場別開生面的反詐騙宣講會。本次宣傳主要以現場講解與面對面交流的形式展開，宣傳內容主要圍繞常見的詐騙手段、預防詐騙的措施、詐騙的補救方法。小朋友們全程認真聆聽并積極參與互動環節，宣傳取得預期效果。 此外，團隊其他成員還通過制作、分發、張貼反詐傳單等方式，逐一突破不同年齡段，經過物業公司、居委會的同意后，在社區內、樓道內張貼宣傳單，繼續深化AI換臉等新技術詐騙提醒，喚醒廣大民眾的防范意識、提高廣大民眾的防范自覺。

三、調研感悟

隨著新技術的不斷發展，AI換臉逐漸進入大眾視野。這一技術可以生成以假亂真的精美照片，增加用戶體驗感和趣味性；同時也在短視頻平臺、人臉識別等領域得到了廣泛應用，給人們的生活帶來了便利。

然而，AI換臉也被不法分子應用于詐騙，通過冒充親屬、合成視頻來誹謗、敲詐勒索他人，使電信詐騙防不勝防，大量人臉信息也由此泄露。

整治AI換臉，當用“法”打敗“魔法。”這個法可以是方法、辦法的法。面對騙子的新招數，我們的防騙方法要更優化，總結出富有成效的好方法及時普及，構筑反詐防騙的全民陣線。這個法也是法規、法律的法。2022年12月，《互聯網信息服務深度合成管理規定》，對人臉生成、替換、操控、合成人聲、仿聲都有明確約束。顯然，隨著制度涉及更精準，相關立法更健全，AI換臉空間將越來越逼仄。

綜上，AI換臉等新技術是一把雙刃劍。只有通過法律為其劃定紅線，才能鏟除新型電信詐騙帶來的安全隱患；只有構建并強化算法問責與救濟機制，解決深度合成技術不透明性、歸責難等問題，才能真正加強網絡犯罪預防和治理，凈化網絡安全空間，充分保護個人信息與數據權益。