專家：政府必須介入，以防止邪惡，超級動力人工智慧

比賽到底部

像Facebook和谷歌這樣的科技公司，以及像五角大樓的DARPA或俄羅斯高級研究基金會這樣的政府研究公司都試圖創造出超級動力的人工智慧，必須採取預防措施來防止超級智能人工智慧破壞人類。

這是聯合國大學教授WimNaudé在「對話」中撰寫的一篇新論文的關鍵所在。 Naudé認為，政府需要介入，既要確保人工一般情報能夠使公眾受益，又要確保沒有人會對人類釋放惡意演算法。

滑稅

在這篇文章中，Naudé引用他從四月開始的研究，其中他調查了哪些政府政策可能對面對超人AI的社會最有利。

他也有一些政策建議。首先，政府應該提出購買不完善但仍然強大的演算法的常規要求。 Naudé認為，通過創造第二名獎，競爭公司可能更有可能合作並分享他們的知識，而不是將其隱藏在鎖定的門後。

副作用

但這隻會阻止這種人工智慧產生的財富中心化在頂端。如果演算法本身被證明是惡意的，Naudé建議政府可以根據人工智慧的友好程度對任何公司開發它進行徵稅。

「足夠高的稅率基本上意味著超級人工智慧的國有化，」Naudé寫道。 「這將極大地阻礙私營公司因為擔心失去國家產品而偷工減料。」

閱讀更多：奇點：政府如何能夠阻止不友好，不可阻擋的超級AI的崛起（The Conversation）

關於危險AI的更多內容：邪惡AI研究應該發布嗎？五位專家稱重。