□然玉

　　話題“AI詐騙正在爆發”，最近沖上微博熱搜。近日，內蒙古包頭市公安局發布一起使用智能AI技術進行電信詐騙的案件，福州市某科技公司法人代表郭先生10分鐘內被騙430萬元。騙子通過智能AI換臉和擬聲技術，佯裝好友對他實施了詐騙。郭先生撥打好友電話，才知道被騙。警方表示，一些詐騙分子利用社交平臺發布的視頻，截取面部視頻畫面后再利用“AI換臉”技術合成，制造與“好友”視頻聊天的假象騙取其信任，從而實施詐騙。（中新社）

　　技術天然是中性的，無所謂善惡。一項突破性的技術，強大力量與生俱來。能不能約束和駕馭這股力量，決定了這項“技術工具”在現代社會所發揮的現實影響！當下而言，實現了質變進化的生成式人工智能，無疑走到了關鍵的十字路口。誠如我們所看到的，AI詐騙、AI造假事件近來密集發生。此類典型個案，顯然預示著某種一般性的風險。也即，過往那種基于生物信息、知識壁壘、專業身份等等所建構的關乎真實與安全的社會防線，正備受考驗。

　　有人運用“AI換臉”冒充好友視頻聊天借錢，輔之以毫無破綻的“聲音合成”，簡直可以以假亂真。在很多人的潛意識里，活生生的視頻、面對面的對話，那種基于“聲畫一體”所形成的神經反射式感官反饋，足以形成“就是他本人”的篤定判斷。然而，AI技術帶來了新的挑戰，也即“是他又不是他”。倘若角色視角互換，這就是個如何證明“我是我”的命題。非常之哲學，非常之懸疑，非常之驚悚。畢竟，稍有不慎，就可能搭進去真金白銀。

　　不管愿不愿意承認，一個顯而易見的狀況是，相比于生成式人工智能一日千里的演進，人類社會那套基于記憶、經驗、直覺、印象以及簡單肖像特征來“識人”的認知體系千古未變，時至今日這套系統正在趨于瓦解和失效。“眼見為實”，越發成為一種錯覺式的存在，乃至被不斷打臉、不斷證偽。當然，就算如此，也大可不必陷入“技術悲觀主義”的悵然情緒中，須知，圍繞“技術工具”的善惡交鋒、攻防對壘，本就是現代社會的常態，且結果往往都導向了積極的一面。

　　基本的邏輯是，隨著AI技術的量產化、白菜化、通用化，其門檻和成本越來越低，使用者越來越多，由此注定會導致與之相關的侵權、違法案例越來越多發。可以預見，在未來的一段時間，民眾或許會哀嘆，“AI造假層出不窮，AI詐騙防不勝防”。為此破局，一方面要強化公共宣教，確立新的防騙反詐意識；另一方面，更重要的還是加快防御性、對抗性技術工具的推廣落地和應用嵌入。比如說，不妨嘗試在常用的社交媒介軟件中，內嵌入聲紋、人臉識別的身份核驗模塊。如此這般，或許能少些“換臉冒充借錢”之類的案件吧。

　　（作者是知名媒體評論員）