AI改變生活，也迭代“騙術”！
2023-5-24 10:01:53??????點擊：
2023年，ChatGPT幾乎一夜之間爆火。ChatGPT之所以大火，主要在于它踩在生成式AI上，可以簡單理解成為“聊天機器人”。
在我們仍在擔憂未來某一天生成式AI在文字創作、AI繪畫、AI翻譯、AI客服等方面替代人工，造就一部分失業的可能性的時候，一些犯罪分子則盯上了AI技術，實施電信詐騙，讓人防不勝防！
近日，包頭警方發布一起利用人工智能（AI）實施電信詐騙的典型案例，福州市某科技公司法人代表郭先生10分鐘內被騙430萬元。讓人不可思議的是，犯罪分子通過智能AI換臉和模擬聲音技術獲取信任，讓人根本無法分辨真假！可以說，AI在改變我們的生活，也讓我們在AI時代可能遭遇更多的不可預測的風險。
來AI的“降維式打擊”
上述電信詐騙案例是用AI技術行騙的典型案例。與之前通過純粹電話、微信添加好友等方式不同，犯罪分子直接利用AI換臉和模擬聲音技術通過微信視頻聯系受害人，輕易獲得信任，畢竟視頻圖像+聲音的“惟妙惟肖”讓人很難想到視頻另一頭是在作假行騙。
按照受害人的描述，4月20日中午，郭先生的好友突然通過微信視頻聯系他，短暫聊天后，好友告訴郭先生，自己的朋友在外地競標，需要430萬保證金，且需要公對公賬戶過賬，想要借郭先生公司的賬戶走賬。好友向郭先生要了銀行卡號，聲稱已經把錢轉到了郭先生的賬戶上，還把銀行轉賬底單的截圖通過微信發給郭先生。基于對好友的信任，加上已經視頻聊天核實了身份，郭先生沒有核實錢款是否到賬，就分兩筆把430萬轉到了好友朋友的銀行卡上。然而，在郭先生發微信消息稱事情已經辦妥之后，好友的反應讓其明白他自己遇上了高端的電信詐騙。
盡管福州、包頭兩地警銀迅速啟動止付機制，成功止付攔截336.84萬元，但仍有93.16萬元被轉移，目前正在全力追繳中。
實際上，類似的案例在最近幾年里數不勝數。2019年，《華爾街日報》就報道過，有犯罪分子成功模仿了英國某能源公司在德國母公司CEO的聲音，詐騙了22萬歐元巨款。據悉，今年4月，加拿大犯罪分子利用AI技術合成親人聲音實施詐騙，3天內至少8人上當，受害者多為老年人。而在美國，類似的詐騙案件近期也呈上升趨勢。
在這里要特別提一下“AI換臉”技術和AI聲音合成技術。AI換臉技術是指利用深度學習技術和AI換臉軟件，將人面部特征替換成其他人的臉龐。比如，AI換臉中的Deepfake技術，只需要一張正臉照片，就能夠將視頻中的人臉進行置換。更為恐怖的是，有一種視頻聊天實時換臉技術，可以將人臉照片直接替換視頻聊天中，讓照片根據你的人臉做動作，擠眉弄眼、聊天都不是問題。
而AI語音合成軟件的工作原理是將一個人的聲音分解成不同的組成部分，比如音軌或音節，然后將這些組成部分重新排列，形成具有相似語音模式、音調和音色的新語音。這種技術被稱為“Deepfake音頻”。犯罪分子利用這種技術，可以通過合成可信任人的聲音等方式進行詐騙。
可以說，在AI技術的助力下，人們未來可能遭受更多來自人工智能技術的“降維式的打擊”，而且在犯罪分子掌握受害人足夠的信息之后，比如從微信、QQ等應用程序上獲得號主的照片、視頻等，就可以通過“AI換臉”技術與之進行視頻聊天，進而幫助犯罪分子進行下一步的行動。
AI是一把“雙刃劍”
過去一年時間里，由于ChatGPT突然火爆起來，各大科技巨頭和創新公司都加入在AIGC技術的研發中，掀起了AI技術創作熱潮。
目前，越來越多企業加入AIGC發展大潮，通過大模型的跨模態綜合技術能力激發創意，提升創意內容多樣性，降低制作成本，實現大規模應用。數十秒內創作一張此前需要人力數天才能創作出來的海報；一分鐘內創作出人們需要數小時才能完成的文字創作；實時、高效、準確回答人們提出的各種問題……
2022年 8 月，美國游戲設計師 Jason Allen 就憑借一幅 AI 繪畫作品《太空歌劇院（Théatre D'opéra Spatial）》，獲得了美國科羅拉多州博覽會美術競賽一等獎。未來，我們將看到AI技術在生活中帶來的各種便利，幫助人類解決很多復雜的問題，提高生活和工作的質量和效率。
然而，AI技術是一把雙刃劍，新工具的誕生無疑會引發一系列新的社會問題。當然，上述提到的利用AI行騙是眾多負面影響之一。生成式AI還對版權、專利、學術等帶來了諸多影響。
有人認為，AI是未來。但也有人認為，AI寫作就是抄襲。目前，美國不少大學宣布禁止學生使用生成式AI工具；美國大部分的州也已禁用。日本多所大學提出針對生成式人工智能的限制措施，但具體內容不盡相同。東京大學則禁止學生完全使用生成式AI撰寫論文。
今年2月，美國版權局在一封信件中表示，人工智能（AI）繪畫工具Midjourney制作的一部漫畫中的插圖不受版權保護，因為作者只是為AI繪畫工具提供文本提示，并不是最后生成圖像的“主腦”，不能算創作者。這是美國法院或官方機構首次就AI創作作品的版權保護范圍作出裁定。
讓人啼笑皆非的是，今年3月，在美國前總統特朗普預言自己會被捕而沒有如期被捕時，有人用AI繪畫出特朗普被捕、審判、入獄、及逃獄的畫面，畫面惟妙惟肖，宛如現場直播畫面，爆火全球網絡。
此前不久，一名擁有百萬粉絲的女網紅也爆出了一起“AI換臉”事件，被人AI換臉用于另外視頻之中，讓其飽受傷害。
可以說，AI在給我們生活帶來諸多有利變化的同時，也在對人們的財產和心理造成巨大沖擊，使用不當則會給我們自己割下深深的傷口。
對AI立法和監管刻不容緩
正是因AI帶來我們的“雙面性”影響，已有越來越多國家開始加大對AI技術的監管與立法。
過去數月里，隨著OpenAI公司的ChatGPT等人工智能軟件快速爆火，社會各界也呼吁加強AI技術的監管。比如，馬斯克、蘋果聯合創始人沃茲尼亞克以及上千名專家聯名呼吁暫停訓練比GPT-4更強大的AI系統。馬斯克就曾表示，“任何先進技術都可能威脅人類安全，而AI對于人類來說，則是一個更大的安全隱患。”
實際上，在AI立法上，歐洲可謂敢為人先。2021年4月，歐盟發布了一個長達108頁的文件。這是全球首部試圖監管AI的立法提案。此前，歐洲多個國家也相繼宣布或考慮對ChatGPT進行調查監管。5月初，歐洲議會還通過了《人工智能法案》提案的談判授權草案，旨在確保人工智能系統受到監督。
今年4月，意大利成為首個全面禁止使用ChatGPT的西方國家。這也是西方國家政府首次親自下場，明確對ChatGPT說“不”。當然，意大利數據保護局隨后也對OpenAI提出了一系列有關信息安全的要求，基于滿足這些要求的前提下，ChatGPT才會允許重新在意大利上線。
5月4日，美國副總統哈里斯會見了微軟、谷歌和OpenAI的CEO，討論AI潛在風險。美國總統拜登則明確表示，這些AI企業必須在推出產品之前確保其安全性，"你們正在做的事不僅有巨大的影響力，還將帶來巨大的危害。"
5月16日，美國國會參議院舉行一場名為“AI監管：人工智能的規則”的聽證會。OpenAI的首席執行官山姆·阿爾特曼首次赴國會聽證，呼吁政府為AI系統制定安全標準，并提出“政府的監管干預至關重要”。他認為，“如果這項技術出現問題，可能會釀成大錯，因此我們希望與政府合作，防止這種情況發生。”
在當前AI大行其道、野蠻式成長的背景下，我們需要通過加大AI監管和立法，給AI加裝一個可靠的枷鎖，讓其在合情、合理、合法的框架下運行，真正服務于人類。
在我們仍在擔憂未來某一天生成式AI在文字創作、AI繪畫、AI翻譯、AI客服等方面替代人工，造就一部分失業的可能性的時候，一些犯罪分子則盯上了AI技術，實施電信詐騙，讓人防不勝防！
近日，包頭警方發布一起利用人工智能（AI）實施電信詐騙的典型案例，福州市某科技公司法人代表郭先生10分鐘內被騙430萬元。讓人不可思議的是，犯罪分子通過智能AI換臉和模擬聲音技術獲取信任，讓人根本無法分辨真假！可以說，AI在改變我們的生活，也讓我們在AI時代可能遭遇更多的不可預測的風險。
來AI的“降維式打擊”
上述電信詐騙案例是用AI技術行騙的典型案例。與之前通過純粹電話、微信添加好友等方式不同，犯罪分子直接利用AI換臉和模擬聲音技術通過微信視頻聯系受害人，輕易獲得信任，畢竟視頻圖像+聲音的“惟妙惟肖”讓人很難想到視頻另一頭是在作假行騙。
按照受害人的描述，4月20日中午，郭先生的好友突然通過微信視頻聯系他，短暫聊天后，好友告訴郭先生，自己的朋友在外地競標，需要430萬保證金，且需要公對公賬戶過賬，想要借郭先生公司的賬戶走賬。好友向郭先生要了銀行卡號，聲稱已經把錢轉到了郭先生的賬戶上，還把銀行轉賬底單的截圖通過微信發給郭先生。基于對好友的信任，加上已經視頻聊天核實了身份，郭先生沒有核實錢款是否到賬，就分兩筆把430萬轉到了好友朋友的銀行卡上。然而，在郭先生發微信消息稱事情已經辦妥之后，好友的反應讓其明白他自己遇上了高端的電信詐騙。
盡管福州、包頭兩地警銀迅速啟動止付機制，成功止付攔截336.84萬元，但仍有93.16萬元被轉移，目前正在全力追繳中。
實際上，類似的案例在最近幾年里數不勝數。2019年，《華爾街日報》就報道過，有犯罪分子成功模仿了英國某能源公司在德國母公司CEO的聲音，詐騙了22萬歐元巨款。據悉，今年4月，加拿大犯罪分子利用AI技術合成親人聲音實施詐騙，3天內至少8人上當，受害者多為老年人。而在美國，類似的詐騙案件近期也呈上升趨勢。
在這里要特別提一下“AI換臉”技術和AI聲音合成技術。AI換臉技術是指利用深度學習技術和AI換臉軟件，將人面部特征替換成其他人的臉龐。比如，AI換臉中的Deepfake技術，只需要一張正臉照片，就能夠將視頻中的人臉進行置換。更為恐怖的是，有一種視頻聊天實時換臉技術，可以將人臉照片直接替換視頻聊天中，讓照片根據你的人臉做動作，擠眉弄眼、聊天都不是問題。
而AI語音合成軟件的工作原理是將一個人的聲音分解成不同的組成部分，比如音軌或音節，然后將這些組成部分重新排列，形成具有相似語音模式、音調和音色的新語音。這種技術被稱為“Deepfake音頻”。犯罪分子利用這種技術，可以通過合成可信任人的聲音等方式進行詐騙。
可以說，在AI技術的助力下，人們未來可能遭受更多來自人工智能技術的“降維式的打擊”，而且在犯罪分子掌握受害人足夠的信息之后，比如從微信、QQ等應用程序上獲得號主的照片、視頻等，就可以通過“AI換臉”技術與之進行視頻聊天，進而幫助犯罪分子進行下一步的行動。
AI是一把“雙刃劍”
過去一年時間里，由于ChatGPT突然火爆起來，各大科技巨頭和創新公司都加入在AIGC技術的研發中，掀起了AI技術創作熱潮。
目前，越來越多企業加入AIGC發展大潮，通過大模型的跨模態綜合技術能力激發創意，提升創意內容多樣性，降低制作成本，實現大規模應用。數十秒內創作一張此前需要人力數天才能創作出來的海報；一分鐘內創作出人們需要數小時才能完成的文字創作；實時、高效、準確回答人們提出的各種問題……
2022年 8 月，美國游戲設計師 Jason Allen 就憑借一幅 AI 繪畫作品《太空歌劇院（Théatre D'opéra Spatial）》，獲得了美國科羅拉多州博覽會美術競賽一等獎。未來，我們將看到AI技術在生活中帶來的各種便利，幫助人類解決很多復雜的問題，提高生活和工作的質量和效率。
然而，AI技術是一把雙刃劍，新工具的誕生無疑會引發一系列新的社會問題。當然，上述提到的利用AI行騙是眾多負面影響之一。生成式AI還對版權、專利、學術等帶來了諸多影響。
有人認為，AI是未來。但也有人認為，AI寫作就是抄襲。目前，美國不少大學宣布禁止學生使用生成式AI工具；美國大部分的州也已禁用。日本多所大學提出針對生成式人工智能的限制措施，但具體內容不盡相同。東京大學則禁止學生完全使用生成式AI撰寫論文。
今年2月，美國版權局在一封信件中表示，人工智能（AI）繪畫工具Midjourney制作的一部漫畫中的插圖不受版權保護，因為作者只是為AI繪畫工具提供文本提示，并不是最后生成圖像的“主腦”，不能算創作者。這是美國法院或官方機構首次就AI創作作品的版權保護范圍作出裁定。
讓人啼笑皆非的是，今年3月，在美國前總統特朗普預言自己會被捕而沒有如期被捕時，有人用AI繪畫出特朗普被捕、審判、入獄、及逃獄的畫面，畫面惟妙惟肖，宛如現場直播畫面，爆火全球網絡。
此前不久，一名擁有百萬粉絲的女網紅也爆出了一起“AI換臉”事件，被人AI換臉用于另外視頻之中，讓其飽受傷害。
可以說，AI在給我們生活帶來諸多有利變化的同時，也在對人們的財產和心理造成巨大沖擊，使用不當則會給我們自己割下深深的傷口。
對AI立法和監管刻不容緩
正是因AI帶來我們的“雙面性”影響，已有越來越多國家開始加大對AI技術的監管與立法。
過去數月里，隨著OpenAI公司的ChatGPT等人工智能軟件快速爆火，社會各界也呼吁加強AI技術的監管。比如，馬斯克、蘋果聯合創始人沃茲尼亞克以及上千名專家聯名呼吁暫停訓練比GPT-4更強大的AI系統。馬斯克就曾表示，“任何先進技術都可能威脅人類安全，而AI對于人類來說，則是一個更大的安全隱患。”
實際上，在AI立法上，歐洲可謂敢為人先。2021年4月，歐盟發布了一個長達108頁的文件。這是全球首部試圖監管AI的立法提案。此前，歐洲多個國家也相繼宣布或考慮對ChatGPT進行調查監管。5月初，歐洲議會還通過了《人工智能法案》提案的談判授權草案，旨在確保人工智能系統受到監督。
今年4月，意大利成為首個全面禁止使用ChatGPT的西方國家。這也是西方國家政府首次親自下場，明確對ChatGPT說“不”。當然，意大利數據保護局隨后也對OpenAI提出了一系列有關信息安全的要求，基于滿足這些要求的前提下，ChatGPT才會允許重新在意大利上線。
5月4日，美國副總統哈里斯會見了微軟、谷歌和OpenAI的CEO，討論AI潛在風險。美國總統拜登則明確表示，這些AI企業必須在推出產品之前確保其安全性，"你們正在做的事不僅有巨大的影響力，還將帶來巨大的危害。"
5月16日，美國國會參議院舉行一場名為“AI監管：人工智能的規則”的聽證會。OpenAI的首席執行官山姆·阿爾特曼首次赴國會聽證，呼吁政府為AI系統制定安全標準，并提出“政府的監管干預至關重要”。他認為，“如果這項技術出現問題，可能會釀成大錯，因此我們希望與政府合作，防止這種情況發生。”
在當前AI大行其道、野蠻式成長的背景下，我們需要通過加大AI監管和立法，給AI加裝一個可靠的枷鎖，讓其在合情、合理、合法的框架下運行，真正服務于人類。
- 上一篇：預估2023年折疊手機出貨量約1,980萬支，年增逾5成 2023/5/25
- 下一篇：簡單說說汽車音響的工作原理 2023/5/24
