美國《紐約時(shí)報(bào)》網(wǎng)站8月30日刊登題為《“音頻深度偽造”技術(shù)正在對(duì)你的銀行賬戶余額進(jìn)行攻擊》的文章，內(nèi)容編譯如下：
今年春天，佛羅里達(dá)州的投資者克萊夫·卡巴茨尼克打電話給美國銀行在當(dāng)?shù)氐目蛻舸?，討論打算進(jìn)行的大額轉(zhuǎn)賬業(yè)務(wù)。隨后，他又打去了電話。
只是第二通電話并不是卡巴茨尼克本人打的。更準(zhǔn)確地說，一個(gè)軟件程序人工生成了他的聲音，并試圖誘騙銀行工作人員將錢轉(zhuǎn)移到別處。

卡巴茨尼克和他的銀行客戶代表成為了一個(gè)高端騙局的目標(biāo)，這一騙局吸引了網(wǎng)絡(luò)安全專家的注意：利用人工智能(AI)生成“深偽”音頻，即模仿真人聲音的音頻。

深偽攻擊勢(shì)頭猛

這還是個(gè)新問題，尚沒有關(guān)于其發(fā)生頻率的全面計(jì)算。但是，負(fù)責(zé)監(jiān)控美國多家大銀行音頻通信、為美國十大銀行中的八家審查自動(dòng)語音驗(yàn)證系統(tǒng)的“靜默”公司的一位專家說，他看到今年“深偽”音頻大幅增多——語音詐騙騙局的精巧程度也大幅提升。另一家語音驗(yàn)證服務(wù)提供商紐安斯公司則早在去年年底就首次成功地對(duì)一家金融服務(wù)客戶進(jìn)行了深度偽造攻擊。

在卡巴茨尼克的例子中，這一騙局是可以被人察覺出來的。但隨著技術(shù)迅猛發(fā)展、生成式AI程序的成本日益下降，以及在互聯(lián)網(wǎng)上可以廣泛獲得人們的聲音錄音，這些都給與語音相關(guān)的AI騙局創(chuàng)造了合適的溫床。

遭黑客竊取的銀行賬戶信息等客戶數(shù)據(jù)——在黑市上可廣泛獲取——有助于騙子發(fā)起這類攻擊。富裕階層客戶的數(shù)據(jù)變得更加容易獲取，包括其演講在內(nèi)的公開露面信息在互聯(lián)網(wǎng)上唾手可得。尋找尋常客戶的音頻樣本也輕而易舉，只需在TikTok和Instagram等社交媒體應(yīng)用程序上進(jìn)行搜索，輸入騙子已經(jīng)獲得其銀行賬戶信息的人士的名字即可。

“靜默”公司首席執(zhí)行官兼創(chuàng)始人維賈伊·巴拉蘇布拉馬尼揚(yáng)說：“網(wǎng)上有大量音頻內(nèi)容?！?

“合成語音”可識(shí)別

過去10年來，“靜默”公司審查了超過50億通電話錄音。這些電話是其所服務(wù)的金融公司運(yùn)營(yíng)的呼叫中心接到的。這些呼叫中心負(fù)責(zé)處理銀行賬戶、信用卡和大型零售銀行提供的其他服務(wù)。所有呼叫中心都會(huì)接到詐騙分子的電話，每年一般在1000通到10000通不等。巴拉蘇布拉馬尼揚(yáng)說，每周有20通電話是騙子打進(jìn)來的，這很常見。

他說，到目前為止，計(jì)算機(jī)程序制造的偽造音頻只占這些電話中的“一小部分”——而且它們只是在過去一年內(nèi)才開始出現(xiàn)的。

“靜默”公司見到的大多數(shù)偽造音頻攻擊是打給信用卡服務(wù)呼叫中心的。在這些中心，人工客服代表會(huì)接待需要信用卡服務(wù)的客戶。

巴拉蘇布拉馬尼揚(yáng)為記者播放了一段匿名錄制的、于今年3月記錄的此類通話。盡管這是一個(gè)非常初級(jí)的例子——這個(gè)案例中的聲音聽起來很像機(jī)器人，更像是電子書閱讀器而非真人——但這通電話說明了，隨著AI使模仿人類聲音這件事情變得更容易，騙局可能會(huì)如何發(fā)生。

可以聽到一名銀行工作人員問候客戶。然后，一個(gè)像機(jī)器人的聲音說：“我的信用卡支付失敗了。”
“我能問一下您的姓名嗎？”銀行工作人員回答。
那個(gè)聲音又說：“我的信用卡支付失敗了?！?br />

銀行工作人員再次詢問客戶姓名。隨后一陣沉默，其間可以聽到微弱的鍵盤敲擊聲。據(jù)巴拉蘇布拉馬尼揚(yáng)介紹，鍵盤敲擊的次數(shù)與客戶姓名中字母的個(gè)數(shù)一樣。騙子正在將單詞輸入一個(gè)程序，然后該程序讀出了這些單詞。

巴拉蘇布拉馬尼揚(yáng)說，在這種情況下，來電者的合成語音會(huì)導(dǎo)致銀行職員將電話轉(zhuǎn)到另一個(gè)部門，并將其標(biāo)記為潛在的欺詐行為。

像他所分享的、利用文本輸入技術(shù)的通話是比較容易防范的一類攻擊：呼叫中心可以利用篩查軟件來獲取技術(shù)線索，截獲由機(jī)器生成的語音。

避免騙局不容易

但是，和許多安全措施一樣，這是攻擊者與防御者之間的軍備競(jìng)賽。如今，騙子可以直接用麥克風(fēng)說話，或者輸入提示，然后其內(nèi)容會(huì)很快被轉(zhuǎn)化為目標(biāo)人物的聲音。

巴拉蘇布拉馬尼揚(yáng)指出，一種生成式AI系統(tǒng)——微軟公司的VALL-E系統(tǒng)——可以制造“深偽”音頻，即只需3秒鐘的音頻樣本就可以說出用戶想說的任何話。

在5月份的《60分鐘》節(jié)目中，社交認(rèn)證安全服務(wù)公司首席執(zhí)行官、安全顧問蕾切爾·托巴克利用軟件克隆了該節(jié)目記者莎琳·阿方西的聲音，其成果逼真到從該節(jié)目的工作人員那里騙到了阿方西的護(hù)照號(hào)碼。

托巴克說，這次襲擊只花了5分鐘就完成了。她所使用的工具今年1月就可以買到了。

微軟公司2021年收購的語音技術(shù)供應(yīng)商紐安斯公司負(fù)責(zé)安全和生物識(shí)別技術(shù)事務(wù)的總經(jīng)理布雷特·貝拉尼克說，盡管可怕的深偽技術(shù)演示是安全會(huì)議的主要內(nèi)容，但現(xiàn)實(shí)生活中的攻擊仍然極其罕見。紐安斯公司的客戶唯一被攻破的案例是在去年10月，當(dāng)時(shí)攻擊者進(jìn)行了十幾次攻擊才成功。

貝拉尼克最擔(dān)心的不是對(duì)呼叫中心以及多家銀行已經(jīng)采用的語音生物識(shí)別系統(tǒng)等自動(dòng)化系統(tǒng)的攻擊。他擔(dān)心的是來電者直接聯(lián)系到個(gè)人的騙局。

他說：“就在本周早些時(shí)候，我曾與我們的一家客戶進(jìn)行了交流。他們說，嘿，布雷特，我們的聯(lián)絡(luò)中心能夠免遭攻擊，這很好——但如果有人直接用手機(jī)打電話給我們的首席執(zhí)行官，假裝是別人，那怎么辦？”
卡巴茨尼克的例子即是如此。根據(jù)銀行工作人員的描述，他似乎想讓她把錢轉(zhuǎn)移到新的地點(diǎn)，但語音一直重復(fù)，試圖努力說服她，用詞含混不清。銀行工作人員掛斷了電話。

卡巴茨尼克說，這名工作人員稱攻擊者“就像我在和她說話，但說的話不著邊際”。

安全威脅難消除

卡巴茨尼克說，在很快又接連兩次接到這樣的電話后，這名銀行工作人員向美國銀行的安全團(tuán)隊(duì)報(bào)告了此事。由于擔(dān)心卡巴茨尼克的銀行賬戶安全，她不再接聽他的電話，也不回復(fù)他的電子郵件——甚至是卡巴茨尼克本人發(fā)送的郵件。他們兩人大約花了10天時(shí)間才重新建立聯(lián)系——是卡巴茨尼克去了她的辦公室見她。

美國銀行發(fā)言人威廉·哈爾丁說：“我們定期訓(xùn)練我們的團(tuán)隊(duì)發(fā)現(xiàn)和識(shí)別騙局，幫助我們的客戶避免受騙?！彼f，他無法就具體客戶及其經(jīng)歷發(fā)表評(píng)論。

盡管這些攻擊變得越來越精巧，但它們?cè)醋砸粋€(gè)存在了幾十年的基本的網(wǎng)絡(luò)安全威脅：數(shù)據(jù)泄露，即銀行客戶的個(gè)人信息遭泄露。根據(jù)美國聯(lián)邦貿(mào)易委員會(huì)的數(shù)據(jù)，從2020年到2022年，超過3億人的個(gè)人信息落入了黑客之手，導(dǎo)致88億美元的損失。

一旦黑客獲得了一批數(shù)據(jù)，他們就會(huì)對(duì)信息進(jìn)行篩選，并將其與真人進(jìn)行匹配。那些竊取信息的人幾乎從來都不是最終使用信息的人。盜賊賣出信息。行業(yè)專家可以利用輕易獲得的程序中的任意一個(gè)來假冒目標(biāo)客戶的電話號(hào)碼——這就是卡巴茨尼克的例子中可能發(fā)生的事情。他聲音的錄音很容易被找到。在互聯(lián)網(wǎng)上，有其在會(huì)議上講話和參加籌款活動(dòng)的視頻。

卡巴茨尼克說：“我認(rèn)為這相當(dāng)可怕。問題是，我不知道該怎么辦。只是秘密行動(dòng)和玩失蹤嗎？”