“AI張文宏”開始深夜帶貨？老人信以為真，已有多人上當受騙
什么？“張文宏”開始帶貨了？
最近有網(wǎng)友向媒體發(fā)來一段視頻詢問“張文宏是不是帶貨了？”還在賣一種蛋白棒，家里的老人信以為真已經(jīng)下單，還轉發(fā)了很多群。
該視頻系AI合成
記者核實發(fā)現(xiàn)，這個賬號名為“般畫234”。在視頻中，“張文宏”反復介紹一種產(chǎn)品，口型是他的，聲音也是他的。
但稍微懂點AI的小伙伴們一眼就能分辨，這是AI合成的視頻！但是老年人哪里懂甄別啊？
記者發(fā)現(xiàn)，這段視頻已在該賬號內(nèi)不可見。但商品櫥窗內(nèi)還保留著蛋白棒售賣的頁面，并顯示已售出1266件。
新民晚報記者晏秋秋評論，現(xiàn)在的科技，只要有一段張文宏正常說話的視頻，再把你想要他說的話輸入，AI一處理就能自動生成帶貨視頻。不法賬號趁著深夜把這種帶貨視頻放出，到了早上再把視頻屏蔽掉。這樣買的人就投訴無門，而且也不太容易被發(fā)現(xiàn)。
這么做毫無疑問，就是在犯罪！賣掉這幾百單，可能要坐牢幾年，這樣的賬號也存活不了多久，平臺會第一時間封禁賬號、封存資金。
類似案例
“假靳東”騙老人上當
今年11月，江西一位老人來到銀行辦理銀行卡，但手續(xù)不全又不肯離開，警方到現(xiàn)場后，老人表示要到銀行貸款200萬元給自己的男朋友“靳東”拍戲。
“我是在短視頻平臺上認識的‘靳東’，‘靳東’向我表白了，并用兩人合照發(fā)布了短視頻，現(xiàn)在他拍戲需要200萬元，我要去幫助他。”老人略顯激動在說道。
民警隨即拿起老人的手機進行查看，發(fā)現(xiàn)老人所謂的大明星“靳東”是騙子冒充的，其所發(fā)布的視頻也是由電腦AI合成，但老人對網(wǎng)絡知之甚少，對于騙子所說所做深信不疑。
民警向老人進行耐心勸導，通過展示網(wǎng)絡上一些冒充“靳東”詐騙的新聞和現(xiàn)場利用AI合成照片等方式，老人才醒悟過來。
如何辨別
屏幕里是真人還是AI合成人？
螞蟻集團天璣實驗室安全算法專家朱凱建議，通過遮擋結合“動起來”的方式，來識別到底是真人還是“數(shù)字人”——比如，在摁鼻子或摁臉的同時左右搖晃頭部，這就是“動起來”的一種方式。目前很多“AI換臉”的基礎是被模仿者的照片，照片是平面的，所以生成的“數(shù)字人”以正面、平面為主。當人臉動起來時，會呈現(xiàn)出臉部的三維結構，算法只能基于平面的照片推測三維結構，按照現(xiàn)有的技術手段，推測結果大多不太理想，從而讓人發(fā)現(xiàn)漏洞。
此外，可以要求對方在臉部揮手、用手指比數(shù)字等。真人做這些動作時，臉部表情、手部動作都很自然；如果是“數(shù)字人”，很可能出現(xiàn)問題。雖然現(xiàn)有的AI技術有能力生成臉部被部分遮擋的靜止畫面，但“揮手”“比數(shù)字”意味更多的動作，目前技術還沒辦法實時生成完美效果，從而出現(xiàn)破綻。
值得注意的是，以上鑒別方式都是基于現(xiàn)有算法的局限性。未來隨著AI技術的發(fā)展，“動起來”“揮手”“比數(shù)字”等有可能難不倒新技術，“數(shù)字人”同樣能順利完成以上動作，從而更加具備迷惑性。所以，防范AI詐騙，還是要從自己出發(fā)，做好信息保護，提高警惕。
例如，不要泄露個人信息，尤其要注意圖像、聲音、指紋等生物信息的保護。“AI換臉”的數(shù)據(jù)基礎是被模仿人的照片、視頻等，個人公開在外的照片、視頻越多，意味著AI算法參考的數(shù)據(jù)越多，生成的“數(shù)字人”會更真實。
同時，在涉及資金交易等場景下，需要多留心眼，不輕易相信視頻、聲音。很多時候，傳統(tǒng)的識別方式要比技術識別更有效。例如，可以詢問對方只有當事人之間知道答案的問題、共同經(jīng)歷的事情等。
本文鏈接：http://www.albanygandhi.com/news-23-94957.html“AI張文宏”開始深夜帶貨？老人信以為真，已有多人上當受騙
聲明：本網(wǎng)頁內(nèi)容由互聯(lián)網(wǎng)博主自發(fā)貢獻，不代表本站觀點，本站不承擔任何法律責任。天上不會到餡餅，請大家謹防詐騙！若有侵權等問題請及時與本網(wǎng)聯(lián)系，我們將在第一時間刪除處理。
