從理論上講，人類不可能控制超級(jí)人工智能

計(jì)算能力有限，但人類無(wú)法控制超級(jí)人工智能。

最近，一項(xiàng)新的研究發(fā)現(xiàn)，從理論上講，人類不可能控制超級(jí)人工智能。

更糟的是，這項(xiàng)研究還明確指出，人類無(wú)法在生成這種AI時(shí)發(fā)現(xiàn)它。

令人欣慰的是，根據(jù)多個(gè)預(yù)測(cè)，任何通用超級(jí)計(jì)算機(jī)超越人類的時(shí)間都將相差數(shù)十年。

近年來(lái)，在國(guó)際象棋，圍棋，德州撲克，危險(xiǎn)游戲和其他游戲中，人工智能已經(jīng)超越了人類。

在Dota2和StarCraft游戲中，它與頂級(jí)玩家來(lái)回玩耍。

有時(shí)會(huì)引起小小的恐慌，有些人對(duì)此感到擔(dān)心。

超越人類的機(jī)器智能將有一天使人們無(wú)所適從。

“關(guān)于超智能是否由人類控制的問(wèn)題實(shí)際上很老了，”他說(shuō)道。

西班牙馬德里自治大學(xué)的計(jì)算機(jī)科學(xué)家Manuel Alfonseca說(shuō)。

“它必須追溯到1940年代阿西莫夫的機(jī)器人三定律”。

隨著超級(jí)人工智能的發(fā)展。

任何形式的交流都是有風(fēng)險(xiǎn)的。

人們所熟悉的三個(gè)機(jī)器人定律是在1942年由科幻小說(shuō)家艾薩克·阿西莫夫（Isaac Asimov）的短篇小說(shuō)集“ I，Robot”中提出的。

規(guī)則如下：機(jī)器人不得傷害人類，或坐著觀看人類受到傷害；機(jī)器人必須遵守人的命令，除非該命令與第一定律相抵觸。

機(jī)器人可以保護(hù)自己，而不會(huì)違反第一定律或第二定律。

在“機(jī)器人與帝國(guó)”一書中， 1985年，阿西莫夫（Asimov）將三項(xiàng)法律擴(kuò)展為四項(xiàng)法律：添加第零規(guī)則機(jī)器人不能傷害整個(gè)人類，也不能坐著觀看整個(gè)人類受到的傷害。

2014年，牛津大學(xué)人類未來(lái)研究所所長(zhǎng)哲學(xué)家尼克·博斯特羅姆（Nick Bostrom）不僅探索了超級(jí)人工智能可以摧毀人類的方式，而且還研究了此類機(jī)器的可能控制策略以及它們無(wú)法工作的原因。

Bostrom列舉了對(duì)此“控制問(wèn)題”的兩種可能的解決方案。

一種是控制AI可以做什么，例如阻止AI連接到Internet。

另一種方法是控制AI想要做的事情，例如教授AI規(guī)則和價(jià)值觀，以便它可以按照人類最大利益的原則行事。

博斯特倫認(rèn)為，第一種解決方案的問(wèn)題在于，超級(jí)智能機(jī)器可能會(huì)擺脫人類對(duì)其施加的任何限制。

第二種解決方案涉及人類可能無(wú)法訓(xùn)練超級(jí)人工智能。

計(jì)算的固有局限性可能導(dǎo)致人類無(wú)法控制超級(jí)人工智能。

在本月初發(fā)表在AI領(lǐng)域頂級(jí)期刊上的一篇文章中，“人工智能研究雜志”馬德里自治大學(xué)馬克斯·普朗克人類發(fā)展研究所（JAIR），其他機(jī)構(gòu)的研究人員認(rèn)為，由于計(jì)算固有的基本局限性，人類可能無(wú)法控制超級(jí)人工智能。

他們表示，旨在確保超級(jí)人工智能不會(huì)傷害人類的任何算法都必須首先模擬機(jī)器行為，以預(yù)測(cè)其行為的潛在后果。

如果超智能機(jī)器確實(shí)確實(shí)可能造成傷害，則這種類型的遏制算法（遏制算法）需要停止機(jī)器的運(yùn)行。

但是，科學(xué)家認(rèn)為，任何抑制算法都不可能模擬AI的行為，并且不可能100％地預(yù)測(cè)AI的行為是否會(huì)造成傷害。

抑制算法可能無(wú)法正確模擬AI行為或無(wú)法準(zhǔn)確預(yù)測(cè)AI動(dòng)作的后果，因此無(wú)法區(qū)分這些故障。

論文地址：https：//jair.org/index.php/jair/article/view/12202/26642“ Asimov給出的第一定律實(shí)際上已經(jīng)被證明是無(wú)法計(jì)算的”。

阿方塞卡說(shuō)。

＆quot;因此，根本不可能實(shí)現(xiàn)它”。

我們甚至不知道我們是否創(chuàng)造了超級(jí)智能機(jī)器，這是賴斯在可計(jì)算性理論中的定理的推論，該定理闡明了遞歸可枚舉語(yǔ)言的所有非平凡性。

性質(zhì)是不可決定的。

本質(zhì)上，僅觀察程序本身就無(wú)法知道程序可能輸出什么。

當(dāng)然，另一方面，我們不需要為將來(lái)的機(jī)器人大師做好提前準(zhǔn)備的準(zhǔn)備。

在這項(xiàng)研究中，存在三個(gè)重要的問(wèn)題，這些不確定性給本文的推論帶來(lái)了不確定性。

首先，阿方塞卡（Alfonseca）預(yù)測(cè)，強(qiáng)大的人工智能的關(guān)鍵時(shí)刻仍然遙遙無(wú)期。

他說(shuō)：“至少兩個(gè)世紀(jì)之遙”。

其次，人們還稱不上人們所說(shuō)的通用人工智能還是強(qiáng)大的人工智能。