“AI馬斯克”泛濫：輕松騙走82歲老人69萬美元退休金

　　據(jù)報道，AI生成的埃隆·馬斯克的形象，已經(jīng)出現(xiàn)在數(shù)千條虛假廣告中，并導(dǎo)致了數(shù)十億美元的欺詐損失。德勤預(yù)計，AI驅(qū)動的“深度偽造”(deepfake)預(yù)計每年將造成數(shù)十億美元的欺詐損失。

　　去年年底，82歲的退休老人Steve Beauchamp觀看了一段視頻。視頻中馬斯克支持一個承諾快速回報的激進(jìn)投資機(jī)會，口型與聲音都高度吻合，看起來極為真實(shí)。于是，Beauchamp聯(lián)系了這家公司，開設(shè)了一個248美元的賬戶。

　　經(jīng)過數(shù)周的一系列交易，Beauchamp耗盡了他的退休賬戶，最終投資了69多萬美元(約合495萬元)。但令這位老人沒有想到的是，這些錢最終卻消失了，輸送給了那些處于AI驅(qū)動的新犯罪前沿的數(shù)字騙子。

　　原因是：騙子對馬斯克的一篇真實(shí)采訪進(jìn)行編輯，利用AI工具，使用復(fù)制品代替了他的聲音。如今，AI技術(shù)已經(jīng)足夠先進(jìn)，可以改變微小的嘴部動作，以匹配他們?yōu)閿?shù)字欺詐而編寫的新劇本。對于一個普通的觀眾來說，這種操縱可能是難以察覺的。

　　Beauchamp對此表示：“畫面上的人物，的確是他(馬斯克)。現(xiàn)在，我真的不知道是不是AI讓他說出了那番話。但就畫面而言，那就是他。”

　　近幾個月來，數(shù)千個AI驅(qū)動的視頻(即“深度偽造”)充斥著互聯(lián)網(wǎng)，這些視頻以“虛假的馬斯克言論”欺騙了數(shù)十名潛在投資者。據(jù)德勤估計，這種由AI驅(qū)動的“深度偽造”預(yù)計每年將造成數(shù)十億美元的欺詐損失。

　　這些視頻的制作成本只有幾美元，可以在幾分鐘內(nèi)完成。它們在社交媒體上得到推廣，包括在Facebook的付費(fèi)廣告中，從而擴(kuò)大了其影響力。

　　監(jiān)控和檢測“深度偽造”的Sensity公司的聯(lián)合創(chuàng)始人Francesco Cavalli表示：“這可能是有史以來最大的由‘深度偽造’驅(qū)動的騙局。”這些視頻往往栩栩如生，捕捉到了馬斯克標(biāo)志性的相對僵硬的節(jié)奏和南非口音。

　　Sensity分析了2000多個“深度偽造”，稱馬斯克是這些視頻中最常見的發(fā)言人。Sensity發(fā)現(xiàn)，自去年年底以來，馬斯克參與了近1/4的“深度偽造”騙局。而在那些專注于數(shù)字加密貨幣的虛假視頻中，馬斯克的參與率更是高達(dá)近90%。

　　此外，著名投資者沃倫·巴菲特和亞馬遜創(chuàng)始人杰夫·貝索斯，也經(jīng)常出現(xiàn)在這種“深度偽造”廣告中。

　　對此，馬斯克尚未發(fā)表評論。