Facebook的Deepfake禁令是真正的禁令嗎？

最近，F(xiàn)acebook官員表示，由于公司最近進行的一系列更改，它將禁止由人工智能操縱的視頻，以防止虛假信息在其網(wǎng)站上傳播。

該公司的高管還證實，該社交網(wǎng)站將刪除被人工智能更改的視頻，稱為Deepfake的視頻，這些視頻可能會誤導用戶，使他們認為視頻內(nèi)容說的是他們不說的話。

領(lǐng)先的社交網(wǎng)絡(luò)平臺之一的Facebook在過去幾年中一直面臨困境。無論是在Cambridge Analytica案還是在2.67億Facebook用戶的個人數(shù)據(jù)暴露于在線數(shù)據(jù)庫的場合，F(xiàn)acebook都處在灰色陰影之下。此外，2016年競選期間平臺上虛假信息的傳播導致對該公司的廣泛批評。

通過禁止偽造品，F(xiàn)acebook試圖使仍然沮喪的學者，議員和政治運動平靜下來，并質(zhì)疑該公司如何管理有關(guān)政治和政治人物的政治帖子和視頻。

假冒偽言最近在社交媒體上變得越來越普遍，它們也開始挑戰(zhàn)公眾對真實和非真實的期望。以前，計算機科學家曾警告說，機器用來制作圖像和聲音的新技術(shù)與真實事物相比是模糊的，可能會大大增加虛假或誤導性信息的數(shù)量。

例如，去年，加蓬政府發(fā)布了一個錄像帶。該錄像帶證明了他的的生活，他的在國外求醫(yī)。但是，的反對者聲稱這是假的。

為什么這個禁令不是它看起來的樣子

這家社交媒體公司指出，任何符合刪除條件的誤導性和可操縱媒體內(nèi)容都將從Facebook上刪除。該公司還建立了兩套規(guī)則。

它已被修改或合成，超出了對清晰度甚至質(zhì)量的調(diào)整范圍，對普通人而言并不明顯，并且很可能會誤導某人以為他們說的那些不帶視頻詞的主題。

它是人工智能和機器學習的產(chǎn)物，它將內(nèi)容組合，替換并疊加到視頻上，從而使其具有真實性。

這些Facebook政策可能不適用于公司確定為諷刺的內(nèi)容。如果有任何視頻不符合標準，F(xiàn)acebook可能仍會決定需要采取行動，并且任何社交網(wǎng)絡(luò)第三方事實檢查小組都會對其進行評估，該小組可以將內(nèi)容標記為虛假。

如果發(fā)生這種情況，F(xiàn)acebook將大大降低其新聞源中內(nèi)容的可見性，而未看到該內(nèi)容的用戶將看到警告，指出該內(nèi)容為假。這也意味著，即使內(nèi)容完全錯誤且經(jīng)過事實檢查，F(xiàn)acebook也不會將其從其網(wǎng)站中刪除。

如何檢測Deepfake?

Deepfake視頻很難被未經(jīng)訓練的眼睛識別出來，因為它們非常不現(xiàn)實-既可以用作報復，操縱金融市場或削弱國際關(guān)系的個人武器，又可以描述人們做事和講話的Deepfake視頻他們從未說過的話，對視線相信不再有效的長期觀念構(gòu)成了根本威脅。

通過顯示一個人的多個圖像的算法，然后使用它來生成新的人臉圖像，可以制作出大多數(shù)的深造品。同時，他們的聲音也得到了綜合，因此，無論是外觀還是聲音，就像該人在說些新話一樣。

科技公司正在尋找新技術(shù)來檢測Deepfake視頻并阻止其在社交媒體上傳播。但是，如果您嘗試訓練自己的眼睛，可以嘗試以下一些操作：

一個奇怪的眨眼。假面孔沒有真正的眼睛和淚管，無論真正的眨眼是什么樣，他們都沒有正確地做。

兩張臉的混合。它可以顯示出來，特別是在復雜的動作中。這是因為更多的動作意味著需要更多的鏡頭和原始的角度來做出令人信服的假貨。

面部動作和肌肉組織可能會生澀。例如，假頭的嘴巴可能會自動移動。

膚色和光線變化。當頭部旋轉(zhuǎn)時，視頻可能會抽搐，就像糟糕的視頻游戲圖形一樣。

Facebook Deepfake挑戰(zhàn)

去年9月，F(xiàn)acebook發(fā)起了Deepfake檢測挑戰(zhàn)賽，旨在創(chuàng)建數(shù)據(jù)集以及可用于檢測和防止AI操縱的媒體被發(fā)布到網(wǎng)站上的伴隨技術(shù)。

目前，那些仔細觀察的人可以通過分析視頻組件(如眉毛不規(guī)則，邊界偽影和陰影不一致)來檢測深度虛假。但是，deepfake技術(shù)的技術(shù)能力正在快速增長，從而導致了更高級的媒體操作，也很容易使受過良好訓練的眼睛蒙上陰影。

為了解決這個問題，F(xiàn)acebook 開始了一項預算為1000萬美元的挑戰(zhàn)，創(chuàng)建一個由現(xiàn)實世界參與者執(zhí)行的動作數(shù)據(jù)集，以訓練網(wǎng)絡(luò)并幫助檢測被操縱的媒體。

防御假貨

盡管Deepfake于2017年出現(xiàn)，但已經(jīng)被各種網(wǎng)絡(luò)所使用。由于Deepfake代表了一種新形式的網(wǎng)絡(luò)攻擊，因此沒有確定的措施可以應對。但是，有一些策略可以抵御深層造假，下面將對此進行討論：

1.檢測技術(shù)

組織可以保護自己的一種方法是找到一種可靠的方法來檢測Deepfake，最好通過自動化技術(shù)進行檢測。由AI驅(qū)動的檢測軟件提供了這樣的機會?？梢杂柧氂糜趧?chuàng)建深層偽造的深度學習算法，以識別圖像或視頻已被更改的跡象。

2.安全協(xié)議充當預防性安全措施。

通過在組織中采用新的安全協(xié)議，您也可以保護自己。假冒騙人的可能性很高，但是如果涉及更多的人，其影響某人的能力將急劇下降。通過在可能需要深度仿造的情況下添加多個檢查，公司可以在遭受破壞之前就應對它。

由于黑客使用Deepfake進行電話和視頻通話，因此公司應建立計算機安全協(xié)議，以指定員工收到此類呼叫時應進行的檢查。

3.員工培訓與教育

大多數(shù)組織仍然不知道他們所施加的深造是什么樣的危險。公司可以通過向工人，經(jīng)理和高級管理人員提供有關(guān)威脅性質(zhì)的教育，以降低深層造假的風險。對員工進行有關(guān)安全風險和預防方法的培訓將使他們更加熟練地檢測到深層造假。

最后的想法

Deepfake可以讓我們瞥見網(wǎng)絡(luò)的未來。它們是技術(shù)如何誤導人們以可能危害我們所屬組織的方式行事的一個典型例子。隨著Deepfake威脅的威脅仍在增長，公司必須開始對Deepfake攻擊做好準備，方法是對員工進行教育，并在可行時整合技術(shù)措施。