美國(guó)《大眾科學(xué)》網(wǎng)站9月13日發(fā)表題為《人工智能語(yǔ)音過(guò)濾器可以讓你聽(tīng)起來(lái)像任何人——也可以讓任何人聽(tīng)起來(lái)像你》的文章，作者是安德魯·保羅。全文摘編如下：

近年來(lái)，人們對(duì)人工智能（AI）深偽技術(shù)越來(lái)越多的關(guān)注主要集中在視覺(jué)欺騙上。想想看，視頻能夠不可思議地將一個(gè)人的臉疊加到另一個(gè)人的身上，基于用戶(hù)建議的超現(xiàn)實(shí)藝術(shù)世代，以及圍繞著這些能力的倫理問(wèn)題受到爭(zhēng)議。但另一種令人信服的數(shù)字模擬關(guān)鍵方法最近才得到適當(dāng)?shù)膶徱暫陀懻摗?br />
看看本田、吉普和雪佛蘭新推出的語(yǔ)音過(guò)濾器，在人工智能的幫助下，最近才開(kāi)始得到更多重視。不幸的是，它帶來(lái)了一系列嚴(yán)重的社會(huì)影響，就像視頻深偽行業(yè)一樣，監(jiān)管機(jī)構(gòu)似乎對(duì)此無(wú)能為力。

新興的人工智能工具——比如Koe Recast——正在迅速提升它們可以將音頻輸入轉(zhuǎn)換成幾乎任何人聲音的能力，只要提供足夠的資料進(jìn)行分析的話。在某些情況下，這些程序只需要15秒至30秒的片段就能產(chǎn)生令人信服的模擬。盡管Koe Recast僅處于Alpha測(cè)試（α測(cè)試）階段，但已經(jīng)有例子顯示，元宇宙平臺(tái)公司董事長(zhǎng)馬克·扎克伯格的一段簡(jiǎn)短音頻聽(tīng)起來(lái)可以像一個(gè)重低音敘述者，一個(gè)女人，甚至是一個(gè)高音調(diào)動(dòng)漫角色。

Koe Recast的創(chuàng)建者阿薩拉·尼爾在接受“技術(shù)之道”網(wǎng)站的記者采訪時(shí)說(shuō)：“我的目標(biāo)是幫助人們用任何能讓他們更快樂(lè)的方式來(lái)表達(dá)自己?！蹦釥栠€說(shuō)，他打算最終發(fā)布一款桌面應(yīng)用程序，能夠在Discord和Zoom等平臺(tái)上實(shí)時(shí)轉(zhuǎn)換用戶(hù)的聲音。當(dāng)被問(wèn)及壞人利用Koe Recast進(jìn)行人身攻擊以及發(fā)布虛假信息的可能性時(shí)，尼爾認(rèn)為，“就像任何技術(shù)一樣，它可能同時(shí)具有積極和消極的一面，但我認(rèn)為絕大多數(shù)人類(lèi)都是由優(yōu)秀的人組成的，他們將從中受益匪淺”。

然而，批評(píng)人士仍對(duì)讓公眾放心使用這種潛在混亂的工具持懷疑態(tài)度。最近，一些外包呼叫中心的代表也已經(jīng)開(kāi)始使用人工智能軟件來(lái)消除自己國(guó)家的口音，以聽(tīng)起來(lái)更“本土”，減輕西方消費(fèi)者的偏見(jiàn)。盡管這個(gè)工具的創(chuàng)建者認(rèn)為他們的發(fā)明防止了偏見(jiàn)，但很多人反駁說(shuō)，它只是提供了一種避免處理手頭更大問(wèn)題的方法——即排外主義和種族主義。

同樣，一些大型企業(yè)的員工已經(jīng)成為騙子的獵物，他們利用類(lèi)似的音頻模擬來(lái)模仿老板，要求轉(zhuǎn)賬和密碼。普羅托科爾網(wǎng)站的網(wǎng)絡(luò)安全記者凱爾·阿爾斯波最近在全國(guó)公共廣播電臺(tái)的《市場(chǎng)》欄目中解釋說(shuō)：“在規(guī)模較大的企業(yè)中，我認(rèn)為，越來(lái)越多的企業(yè)開(kāi)始看到這一點(diǎn)，因?yàn)樗麄冋娴氖沁@種事情的現(xiàn)成目標(biāo)。”

阿爾斯波也指出，這類(lèi)騙局仍處于初級(jí)階段，但可能用不了多久，這些策略就會(huì)變得越來(lái)越常見(jiàn)，很難區(qū)分事實(shí)和虛構(gòu)。不幸的是，人工智能支持的視覺(jué)和音頻模擬的快速升級(jí)是無(wú)法阻擋的?！?