2月21日，一份由25名技術與公共政策研究員共同發布的報告指出，快速發展的人工智能（AI）被惡意利用的風險呈上升趨勢，一旦遭黑客攻擊，或釀成無人駕駛的車禍，商業無人機也可能變成有針對性的武器。參與這份報告的撰寫者包括來自劍橋、牛津和耶魯大學的25位技術與公共政策研究人員，以及隱私和軍事專家。報告旨在就可能發生的濫用人工智能行為敲響警鐘。

研究人員表示，基于對五年內人工智能技術發展進程的預估，其認為惡意使用人工智能會對數字、物理和政治安全造成迫在眉睫的威脅，因為它可能被利用來實施大規模的、極具針對性的高效攻擊。

“我們都同意，人工智能可以有很多積極的應用。”牛津未來人類研究所研究員Miles Brundage表示：“但圍繞惡意使用人工智能問題的文獻少得多。”

人工智能一般使用計算機執行通常需要人類智能的任務，例如做出決定或識別文本、語音或視覺圖像。

人工智能被認為是實現各種技術可能性的一股強大力量，但它已經成為了學界激烈爭論的焦點。爭論涉及的問題主要在于，通過人工智能實現的大規模自動化是否會造成大規模失業和其他社會混亂。

而這篇98頁的文章警告稱，通過使用AI來完成原本可能需要人力和專業知識才能完成的任務，或將降低攻擊的成本。未來可能會出現新的攻擊，單靠人類獨自開發或利用AI系統本身的脆弱性是不切實際的。

報告綜述了大量關于人工智能造成安全風險的學術研究，并呼吁各國政府和政策及技術專家通力合作，一同化解此類危險。

研究人員詳細介紹了人工智能生成合成圖像、文本和音頻的能力，它可以被用來在網絡上模仿他人行為，以左右輿論。報告提出的建議包括將人工智能作為軍用和商用兩種用途的技術來進行管理。

報告還提出了問題——學者是否應該對其發表和披露的有關人工智能新發展的內容有所保留，是否應該在該領域的其他專家研究并找到應對潛在危險的方法后，再將結果公之于眾。

“我們最終得到的問題比答案多得多。”Brundage說。

這篇論文誕生于2017年初的一次研討會上，自那以后，其中一些預言基本上成真了。作者們當時預測，人工智能可以用于制作極度仿真的政府官員音頻和視頻，從而用于宣傳目的。

而去年年底，一些仿真的色情視頻開始在網上流傳，一些名人的面孔被嫁接到不同的身體上，有些效果可以以假亂真。

特拉斯公司首席執行官馬斯克和硅谷投資者薩姆·阿爾特曼創立的OpenAI組織政策主管杰克·克拉克表示：“雖然它現在被用在了色情行業，而非政治宣傳，但是，這一技術被應用于后者也不是不可能。”

返回第一電動網首頁 >