繼ChatGPT后，近日，美國OpenAI公司發布了首個視頻生成模型“Sora”。您只要輸入一段文本指令，就可以生成一段逼真的視頻。然而，視頻生成模型在推進人工智能技術發展的同時，也引發了人們對人工智能深度偽造視頻可能加劇錯誤信息和虛假信息傳播的擔憂。

　　您現在看到的視頻，就是視頻生成模型“Sora”制作而成。據美國OpenAI官網介紹，此次發布的文字轉視頻模型可以依據用戶輸入的指令，生成一段時長可達一分鐘的視頻。比如根據文本：“一位時尚女性走在東京街頭，街道滿是霓虹燈和城市標志。她穿著紅色長裙、黑色皮夾克和黑色靴子，戴著太陽鏡、涂著紅色口紅。”就可以生成眼前這樣的視頻。模型也能獲取現有的靜態圖像并從中生成視頻，還能獲取現有視頻，進行擴展或填充缺失內容。

　　在“Sora”誕生之前，美國人工智能初創公司Runway就曾推出過類似的技術，但是制作的視頻時長較短。

　　美國Runway公司創始人 巴倫蘇埃拉：讓我們做一個有云的天空，我可以選擇電影風格或預覽角度。我真的很喜歡這張，它看起來就像光是從云里出來的。人工智能正在掃描圖片，并由此生成一段視頻。你現在可以看到云正在移動，天空正在變暗，暴風雨就要來了。

　　當前，包括谷歌和Runway在內的多家公司，都在積極研發此類人工智能項目。但OpenAI強調，“Sora”的突出之處在于其圖像的真實感，以及能夠生成比其他模型更長的視頻片段。不過目前，“Sora”仍然存在缺陷，例如可能混淆一些文本指令中的空間細節，例如左右方向等。

　　人工智能產品開發者 莫斯塔克：我認為這是自互聯網出現以來，我們在技術上取得的最大飛躍之一，它將創造全新的行業，將使媒體更加令人興奮和有趣。我認為這將不可避免地創造大量新的工作崗位，我認為它將改變一切。

　　不過人工智能技術帶來許多新機遇的同時，也不可避免地造成了前所未有的挑戰和隱患。其中，人工智能生成欺騙性內容干擾選舉被認為是全球面臨的重要挑戰。

　　當地時間1月23日，2024年美國總統選舉共和黨黨內初選在新罕布什爾州舉行。在此之前，很多美國選民都表示，自己接到了一通“來自美國總統拜登的電話”。

　　人工智能生成的虛假電話錄音：真是一派胡言，當選票作數的時候，我們就能知道民主投票的價值了。你要把選票留到11月再投。

　　很快，白宮新聞秘書皮埃爾就澄清說，這是一則偽造的電話錄音。

　　意大利《共和國報》報道說，視頻生成模型可以讓“名人或政客說從未說過的話、做從未做過的事”，如果有人利用模型克隆拜登、特朗普或其他競選美國總統或2024年歐洲議會席位的人，可能會加劇錯誤信息和虛假信息的傳播。斯坦福大學研究員巴西勒·西蒙擔心，這些工具會在選舉中被濫用，并擔心公眾將“不再知道該相信什么”。

　　視頻生成模型也讓靠制作視頻謀生的人以及電影從業者感到擔憂。Runway公司創始人巴倫蘇埃拉直言，未來電影制作的門檻和成本將大大降低。

　　美國Runway公司創始人 巴倫蘇埃拉：用手機就能拍一部被數億人觀看的電影，這將改變電影業的格局。

　　有網友坦言：“幸好人工智能視頻和真實視頻目前不算太難區分。”

　　但也有網友擔心道：“真是受夠了，我要失去我的工作了。”“捏造的政治宣傳將遍布互聯網。”

　　還有網友質疑：“我好奇生成這些視頻的學習材料來源，為了生成有效視頻，它需要大量不同的視頻數據”“人工智能的發展就像無人駕駛的汽車，不知道會走向何方。”

　　專家解讀：生成式人工智能技術進步明顯

　　全球生成式人工智能技術發展迅猛，廣泛應用于越來越多的行業中。如何看待人工智能的發展？來聽聽中國科學院自動化研究所研究員、聯合國人工智能高層顧問機構專家曾毅的解讀。

　　中國科學院自動化研究所研究員、聯合國人工智能高層顧問機構專家 曾毅：人工智能“Sora”在生成數據的真實性、連續性上的進步應該說是非常明顯的。最新的進展，將視覺和聽覺的數據跨模態的生成，產生的用戶體驗可以說是更上一層樓的。

　　現階段人工智能仍存在違反常識性錯誤

　　中國科學院自動化研究所研究員、聯合國人工智能高層顧問機構專家 曾毅：一方面，我們國家的人工智能相關的研究和產業有能力，而且一定要盡快趕上。因為“Sora”相關的生成式人工智能技術，可以降低人工影視娛樂文化產品等相關的開發的成本和門檻。另一方面，也需要指出，這并不意味著生成式人工智能已經真正理解了我們的物理世界，并可以完全替代這些產業當中傳統需要人類來完成的工作。比如說現在的“Sora”系統生成的視頻，還有很多違反生活和物理常識的錯誤。

　　AI快速發展 監管面臨挑戰

　　中國科學院自動化研究所研究員、聯合國人工智能高層顧問機構專家 曾毅：未來，應當在積極探索這些技術潛在的應用和對人類工作的互補的同時，充分地關注生成式人工智能給社會帶來的潛在的負面影響。比如說“Sora”在連續的高精度的視頻生成方面，它所采用的這個技術，使產生的人工智能造假的水平，可以說達到了一個前所未有的高度，給眼見為實帶來了更大的挑戰。

　　中國科學院自動化研究所研究員、聯合國人工智能高層顧問機構專家 曾毅：而對于公眾而言，區分虛假信息可以說是難上加難，對于視覺取證、執法等等帶來的挑戰也可以說是非常顯著的。一方面，人工智能治理相關政策的發展和落實一定要跟上；但另外一方面，生成式人工智能技術發展，它的研發機構、企業要同步地發展和推廣更高水平的自動化鑒偽技術。只有這樣，生成式人工智能技術才能被更健康地研發和使用。