技術(shù)往往是一把雙刃劍相梳。人工智能在迅速發(fā)展的同時咏逛，也帶來了一些困惑和挑戰(zhàn)。雖然近段時間一直討論的人工智能倫理規(guī)范問題離我們有些遠奢惋，但現(xiàn)實中人工智能帶來的其他困惑卻在上演预隆。

　　在信息爆炸的今天，你能相信你看到的消息是真實的嗎啸盲？在過去多年中膳灶，由于算法聚合、缺乏監(jiān)管導(dǎo)致假新聞在各種社交媒體中泛濫立由，F(xiàn)acebook轧钓、Twitter以及國內(nèi)各種社交平臺都深受其害，同時也給社會帶來越來越多的負效應(yīng)锐膜。Facebook日前推出了全新的地方新聞服務(wù)毕箍，以打擊好友間傳播假新聞。

　　除了假新聞道盏，你能相信你看到的照片以及視頻也有可能是假的嗎而柑？

　　有媒體報道，目前英偉達的一組研究人員最近創(chuàng)建了一個系統(tǒng)捞奕，可以通過分析成千上萬真正的名人照片牺堰，并創(chuàng)建看起來相似，實則完全“無中生有”的“假照片”颅围。此外，該系統(tǒng)還能創(chuàng)建馬匹院促、公共汽車酒旷、自行車等常見物體的“假照片”。并且這些“假照片”满傍，已經(jīng)成功騙過了絕大多數(shù)人的眼睛渡表。

   該系統(tǒng)的目標(biāo)是可以自動創(chuàng)建娶讽、生成令人信以為真的圖像，或是以同樣的方式改變已有的圖像赐罪。在研究之初涉等，英偉達打算將這種技術(shù)應(yīng)用在游戲、電影和其他內(nèi)容領(lǐng)域的創(chuàng)作上详础。英偉達研究人員利用稱之為漸進式GAN的方法程挑，建立了一個以低分辨率圖像開始，然后逐漸進化到更高分辨率的系統(tǒng)普易。最終經(jīng)過18天的時間臊耳，制造一張逼真的1024×1024像素，圖像清晰畜股、細節(jié)豐富“假照片”颈侈。

　　當(dāng)然不僅僅是英偉達，其他一些科技巨頭也在涉足這一領(lǐng)域闷旧。隨著大數(shù)據(jù)分析长豁，深度學(xué)習(xí)算法技術(shù)的不斷成熟，GOOGLE和Facebook等企業(yè)都建立了相似的系統(tǒng)——以人眼識別的準(zhǔn)確度來判斷憑空制造人臉鸠匀、普通物體的成熟度蕉斜。

　　此外，英偉達的研究團隊也于近日創(chuàng)建了一個系統(tǒng)——能夠自動更改在夏季拍攝的街頭照片缀棍，使其看起來像下雪的冬季場景宅此。而加州大學(xué)伯克利分校的研究人員設(shè)計出能讓普通馬變成斑馬、莫奈成梵高的系統(tǒng)爬范，谷歌旗下的倫敦AI實驗室DeepMind則是探索能夠自動生成視頻的技術(shù)父腕。

　　目前，泛濫各大社交媒體的假新聞青瀑，已經(jīng)給社會帶來極大的困擾璧亮，并且無法進行根治。假圖片的出現(xiàn)將會進一步放大這中困惑斥难，同時也可能危機社會公共安全枝嘶。然而更令人感到不安的是，假的視頻已經(jīng)出現(xiàn)蟹梗。

　　據(jù)媒體報道膜暴，在去年8月份，華盛頓大學(xué)的一個研究小組創(chuàng)建了一個系統(tǒng)尚稍，生成了一段由奧巴馬發(fā)布的視頻“假新聞”道暑。另外，去年科大訊飛2017年度發(fā)布會上竭珊，現(xiàn)場播放了“特朗普”對大會的祝福人蕊。而視頻聲音是通過科大訊飛的機器學(xué)習(xí)葬聘、合成技術(shù)，通過對特朗普大量語音的分析锤镀，從而實現(xiàn)任意字詞的語音合成赖相，達到近乎以假亂真的效果。

　　在人工智能技術(shù)不斷成熟下手索，輕松地制造逼真的假圖像或者假視頻捣兄，或者冒充他人發(fā)布假視頻似乎一夜之間成為現(xiàn)實。在目前社會詐騙案件高發(fā)的時期啼术，如果這種技術(shù)被不法分子獲取，其危害性將無法估量载碌。

　　在目前公共安全管理中猜嘱，圖像以及視頻信息已經(jīng)成為各種身份認證、現(xiàn)場復(fù)核以及案件偵破的重要依據(jù)嫁艇。然而基于人工智能下的假圖像或者假視頻的出現(xiàn)無疑會給公共安全管理帶來很大的隱患朗伶，視頻監(jiān)控圖像的真實性將受到質(zhì)疑！

　　如何面對人工智能可能產(chǎn)生的負面影響步咪？科技部副部長李萌曾經(jīng)表示论皆，人工智能是影響面廣的顛覆性技術(shù)，其發(fā)展的不確定性將對就業(yè)猾漫、法律点晴、倫理、隱私悯周、國際關(guān)系等帶來新挑戰(zhàn)粒督。國務(wù)院出臺的《新一代人工智能發(fā)展規(guī)劃》強調(diào)注重發(fā)展與規(guī)制平衡，把握人工智能技術(shù)屬性和社會屬性高度融合的特征禽翼，既要最大程度發(fā)揮人工智能潛力屠橄，又要加強前瞻預(yù)防與約束引導(dǎo)，確保走上安全硫忆、可靠筷资、可控的發(fā)展軌道。