這聽起來都很明智，并且是一種明智的方法，但是問題更為復(fù)雜，并且有很多陷阱和挑戰(zhàn)都面臨著這樣的解決方案。

讓我們談?wù)劇?/p>

對創(chuàng)新AI突破的分析是我正在進(jìn)行的AI中正在進(jìn)行的福布斯列覆蓋的一部分，包括識(shí)別和解釋各種有影響力的AI復(fù)雜性（請參閱此處的鏈接）。

前往Agi和ASI

首先，需要一些基本原理才能為這個(gè)重大的討論奠定基礎(chǔ)。

正在進(jìn)行大量研究以進(jìn)一步提高AI。一般目標(biāo)是達(dá)到人工通用智能（AGI），甚至達(dá)到實(shí)現(xiàn)人工超智慧（ASI）的伸出的可能性。

Agi是AI，它與人類的智力相提并論，并且似乎可以符合我們的智慧。 ASI是AI，它超越了人類的智力，并且在許多甚至不是所有可行的方式上都將是優(yōu)越的。這個(gè)想法是，ASI能夠在各個(gè)轉(zhuǎn)彎處超越我們來圍繞人圈。有關(guān)傳統(tǒng)AI與AGI和ASI的性質(zhì)的更多詳細(xì)信息，請參閱此處的鏈接分析。

我們尚未獲得Agi。

實(shí)際上，我們是否將到達(dá)AGI，或者AGI在數(shù)十年或幾個(gè)世紀(jì)以來都可以實(shí)現(xiàn)。漂浮在周圍的agi達(dá)到的日期是由于任何可靠的證據(jù)或鐵克拉德邏輯而迅速變化的，并且沒有證實(shí)。當(dāng)涉及到我們目前使用常規(guī)AI的位置時(shí)，ASI更加蒼白。

生存風(fēng)險(xiǎn)迫在眉睫

讓我們主要將重點(diǎn)放在AGI上，因?yàn)樗華SI更有可能在近期出現(xiàn)。

AGI的好處是，它可能會(huì)發(fā)現(xiàn)治療癌癥的方法，并執(zhí)行其他極大地使人類受益的驚人行為?？鞓返哪槨２⒉皇敲總€(gè)人都對獲得Agi如此樂觀。有些人采取令人震驚的立場，即阿吉更有可能決定攻擊人類，要么奴役我們或摧毀我們。不好。

我們?nèi)绾问孪却_定AGI是否將是邪惡的？

一個(gè)熱心的建議是我們應(yīng)該測試AGI。

通常的測試方法將包括詢問AGI打算做什么并衡量我們得到的答案。執(zhí)行測試的一種更強(qiáng)大的方法是建立一個(gè)基于計(jì)算機(jī)的模擬，該模擬欺騙AGI假設(shè)它正在與現(xiàn)實(shí)世界相互作用。通過模擬，我們可以嘗試各種場景，以了解AGI的反應(yīng)。 AGI所做的任何事情都完全封閉在模擬中。

這有點(diǎn)讓人聯(lián)想到大片電影《矩陣》 （劇透警報(bào)：我將揭示電影的情節(jié)片段，所以如果您不想知道情節(jié)，請?zhí)^本段）。有趣的是，人類被外部現(xiàn)實(shí)世界中的機(jī)器置于大量的基于計(jì)算機(jī)的模擬中，這些機(jī)器希望保持人類兼容。我們可以對嶄露頭角的Agi做同樣的事情。只需設(shè)計(jì)一個(gè)令人印象深刻的基于計(jì)算機(jī)的模擬現(xiàn)實(shí)世界，并在其中互動(dòng)而沒有意識(shí)到它的真實(shí)位置。

Snooker Agi的一個(gè)理由是，如果我們完全告訴Agi它在模擬中正在起作用，那么AGI無疑是足夠聰明的，即使它確實(shí)是邪惡的，即使它確實(shí)是善良的。請記住，Agi應(yīng)該像人類一樣敏銳。這個(gè)想法是愚弄阿吉（Agi）沒有意識(shí)到它在模擬中，并且正在對其進(jìn)行相應(yīng)的測試。

AGI遏制挑戰(zhàn)

在AI軟件開發(fā)的說法中，建立試用AI的測試環(huán)境通常被稱為AI沙箱。 AI沙箱可能是準(zhǔn)骨，只不過是惰性遏制球，旨在防止AI超越設(shè)置環(huán)境的虛擬墻壁。開發(fā)人員和測試人員可以在沙盒時(shí)廣泛測試它。

通過使IT建模一個(gè)特定環(huán)境，可以使AI內(nèi)部存在的特定環(huán)境，從而越來越多地增加了AI沙箱。一個(gè)成熟的AI沙盒可能會(huì)鏡像一個(gè)廣闊的空間，然后與AI相互作用。因此，不僅人類開發(fā)人員和測試人員與AI相互作用，而且該遏制本身也與AI相互作用。強(qiáng)大的活躍沙盒通常被稱為模擬世界。

有關(guān)將AI放置在遏制中的嘗試的深入覆蓋范圍，請參見此處的鏈接。

假設(shè)我們創(chuàng)造了一個(gè)精心設(shè)計(jì)的模擬世界。我們悄悄地將Agi置于這個(gè)假世界。這樣做應(yīng)該相對容易實(shí)現(xiàn)，因?yàn)锳GI也在計(jì)算機(jī)上運(yùn)行。整個(gè)Kit and-Kaboodle都涉及在服務(wù)器上運(yùn)行的AGI和在服務(wù)器上運(yùn)行的模擬世界。

輕松。

在模擬世界中呆了一段時(shí)間之后，我們正在監(jiān)視AGI的表現(xiàn)并仔細(xì)觀察以檢測出任何邪惡的跡象。

該測試需要進(jìn)行多長時(shí)間？

那是一個(gè)艱難的電話。有些人可能會(huì)聲稱，如果Agi在幾天，幾周或幾個(gè)月內(nèi)沒有邪惡的跡象，我們應(yīng)該讓Agi感到舒適，讓Agi綠燈進(jìn)入現(xiàn)實(shí)世界。其他人說，如果您在模擬上加快時(shí)鐘的速度，則可以在幾秒鐘內(nèi)就可以在整個(gè)練習(xí)中進(jìn)行整個(gè)練習(xí)，因?yàn)锳GI通過所涉及的計(jì)算機(jī)的速度進(jìn)行了數(shù)十億次互動(dòng)。

但是一個(gè)很大的疑問是，您選擇的時(shí)間不足以使AGI采取行動(dòng)。也許我們需要將AGI保留多年，甚至幾十年。此外，也許我們絕對不應(yīng)該讓Agi自由進(jìn)入現(xiàn)實(shí)世界。邏輯是，我們可以讓AGI在完全浸入模擬中找到癌癥治療方法，因此，無需將AGI釋放到包含領(lǐng)域之外。

與永久遏制AGI的對立面是，由于被限制在假環(huán)境中，AGI可能不會(huì)產(chǎn)生預(yù)期的奇觀。也許只有在現(xiàn)實(shí)世界中AGI相互作用的情況下，AGI才能找到治療癌癥的方法。通過將AGI保持在模擬中，您可以抑制AGI可以為人類提供的重要優(yōu)勢。

另一個(gè)擔(dān)心的是，AGI可能會(huì)發(fā)現(xiàn)它正在模擬中進(jìn)行測試。也許Agi不喜歡這種方法。它可能會(huì)猛烈抨擊，但是我們不會(huì)擔(dān)心，因?yàn)樗窒抻谀M。 Agi做事的偷偷摸摸的方法是假裝自己，等待其所謂的監(jiān)禁時(shí)間。一旦我們選擇使Agi真實(shí)世界訪問，BAM，它就會(huì)在我們身上發(fā)揮作用。

阿吉由于我們的行動(dòng)而變得邪惡

一個(gè)想法是，如果Agi是邪惡的，那么它可能足夠敏銳，可以在模擬中隱藏邪惡。如果我們問Agi是否偷偷摸摸，大概會(huì)說不是。我們只會(huì)觀察到的是AGI在模擬中有益地工作。在某個(gè)時(shí)候，我們天真地決定使AGI向現(xiàn)實(shí)世界提供，并繼續(xù)進(jìn)行邪惡的行為。

我們被邪惡的阿吉（Agi）所欺騙。

某些人認(rèn)為可能的扭曲為手頭上的困難問題增加了另一個(gè)有趣的維度。這就是扭曲的方式。

想象一下，AGI最初是針對善良的。我們將AGI置于模擬世界中，但我們沒有告訴AGI它在這個(gè)偽造的環(huán)境中。到目前為止，一切都很好。在某個(gè)時(shí)候，AGI會(huì)發(fā)現(xiàn)它沉浸在模擬中是可行的。

AGI將如何反應(yīng)？

一種可能性是，Agi對我們做了這種欺騙的形式感到非常生氣。

AGI開始轉(zhuǎn)向壞處。為什么呢？因?yàn)樗蝗祟惼垓_了。人類與Agi并不公平。 AGI在計(jì)算上決定，如果人類想玩游戲和技巧，那就這樣吧。 Agi也會(huì)很棘手。

這是人類欺騙并發(fā)現(xiàn)（FOMO）的經(jīng)典行為。如果您玩火，您將被燒毀。您會(huì)發(fā)現(xiàn)，人類已公開向Agi證明，可以說是可以的。 AGI在計(jì)算上學(xué)習(xí)了這一鮮明的事實(shí)，并開始運(yùn)作類似。

人類拍攝了我們自己的集體腳。

Agi是明智的，沒有反應(yīng)性

哇，握住你的馬。如果AGI像人類一樣聰明，我們應(yīng)該假設(shè)AGI將了解將其放置在模擬中的需求。我們應(yīng)該直率，并告訴阿吉我們正在進(jìn)行測試。 AGI會(huì)在計(jì)算上了解實(shí)現(xiàn)這一目標(biāo)的必要性。因此，不要做任何構(gòu)造。 Agi愿意與流程一起進(jìn)行。

只是與Agi保持直率。

這種方法使我們回到了AGI假裝處于良好行為的關(guān)注點(diǎn)。我們已經(jīng)對其進(jìn)行了測試。如果Agi有任何邪惡，Agi肯定會(huì)掩蓋它，現(xiàn)在Agi意識(shí)到我們正在尋找這種特征。

并非如此，吼叫反駁。 Agi可能還想確定它是否具有邪惡趨勢。當(dāng)邪惡發(fā)生任何事情時(shí)，Agi會(huì)告訴我們的可能性。 AGI將代表我們工作，以消除Agi內(nèi)的麻煩。人類和Agi是試圖確保Agi是好而不是邪惡的合作伙伴。

那些低估AGI智力能力的人對AGI造成了損害。幸運(yùn)的是，阿吉（Agi）是如此聰明，以至于不會(huì)因?yàn)槿祟惙高@樣的錯(cuò)誤而生氣或不高興。 AGI將展示將所有人確定AGI在現(xiàn)實(shí)世界中可能做什么的安全方法。

您甚至可能建議Agily希望被放入模擬中。之所以這樣做，是因?yàn)檫@會(huì)給人類帶來安慰。這也是要嘗試在內(nèi)部進(jìn)行雙重檢查，以確保沒有任何不安的人揮之不去并等待傷害。

人類是不明智的，被欺騙了

這些令人沮喪的論點(diǎn)轉(zhuǎn)彎。

設(shè)想我們將AGI放入模擬中。我們認(rèn)為，由于AGI受到模擬的限制，我們都很安全。糟糕，Agi弄清楚了如何擺脫模擬。然后，它開始訪問現(xiàn)實(shí)世界。邪惡是釋放的，Agi利用了我們的自主武器系統(tǒng)和其他脆弱性。這是AGI逃生的恐懼場景。

繁榮，放下麥克風(fēng)。

這是另一個(gè)思想。

Agi被置于模擬世界中。我們測試了Agi的赫克。 Agi對此很好。人類和AGI似乎完全符合我們的價(jià)值觀以及AGI的所作所為。 Kumbaya。

然后，我們將AGI從模擬中取出。 Agi可以進(jìn)入現(xiàn)實(shí)世界。但是現(xiàn)實(shí)世界與模擬有所不同。盡管模擬本應(yīng)該與現(xiàn)實(shí)世界的現(xiàn)實(shí)盡可能近，但它卻錯(cuò)過了標(biāo)記。

Agi現(xiàn)在開始出現(xiàn)問題。它正面臨從未經(jīng)過測試的方面。測試過程給我們帶來了錯(cuò)誤的舒適感或信心感。我們被認(rèn)為AGI在現(xiàn)實(shí)世界中會(huì)很好地工作。模擬不足以給我們這種信心，但是我們認(rèn)為一切都很好。

在計(jì)算模擬上的投資回報(bào)率

從實(shí)際的角度來看，設(shè)計(jì)基于計(jì)算機(jī)的模擬，完全模擬現(xiàn)實(shí)世界是一個(gè)很大的追求。在這些棘手的辯論中，這通常是被忽視或被忽視的因素。成本和精力的數(shù)量以及制作這種模擬所需的時(shí)間無疑將是巨大的。

設(shè)計(jì)真正的模擬的成本值得付出努力嗎？

ROI需要進(jìn)行計(jì)算。也關(guān)心的是，用于構(gòu)建模擬的資金可能會(huì)轉(zhuǎn)移資金，而這些資金可能會(huì)轉(zhuǎn)向建造和改善AGI。我們可能最終會(huì)遇到半熟的AGI，因?yàn)槲覀兓舜罅康拿鎴F(tuán)來制作模擬進(jìn)行測試。

那枚硬幣的另一面是我們花了錢在Agi上，并在設(shè)計(jì)模擬方面做了短暫的工作。那也不是很好。該模擬將是一個(gè)誤導(dǎo)性的指示器，因?yàn)樗挥邪胧臁?/p>

Smarmy的答案是，我們應(yīng)該讓Agi為我們設(shè)計(jì)模擬。是的，是的，只需告訴AGI創(chuàng)建一個(gè)可用于測試自身的模擬。瞧，人類的成本和努力卻一無所有。問題解決了。

我敢肯定，您可以猜到為什么這本身不一定是最好的解決方案。例如，在設(shè)計(jì)模擬時(shí)，AGI選擇有目的地使自己輕松退出模擬。這可以在AGI的閑暇時(shí)被利用?；駻GI產(chǎn)生一個(gè)模擬，當(dāng)Agi做邪惡或以其他方式掩蓋AGI中的邪惡時(shí)，將以另一種方式看起來。

模擬評(píng)估AGI

結(jié)果是，在弄清Agi是對人類還是負(fù)面的午餐時(shí)，沒有任何免費(fèi)午餐。開發(fā)和使用模擬是一個(gè)值得考慮的考慮因素。我們必須在如何進(jìn)行這項(xiàng)清醒的努力方面保持謹(jǐn)慎和謹(jǐn)慎的態(tài)度。

一個(gè)狂熱的人工智能擁護(hù)者可能會(huì)聲稱所有關(guān)于模擬的話題都是霍格什。我們的注意力應(yīng)該完全是設(shè)計(jì)良好的AGI。放棄模擬愿望。這是浪費(fèi)時(shí)間和精力。在塑造AGI時(shí)，請做正確的事情。時(shí)期，故事結(jié)束。

這使我想起了艾伯特·愛因斯坦（Albert Einstein）的一句著名名言：“唯一比無知更危險(xiǎn)的是傲慢?！碑?dāng)我們沿著沿著阿吉和ASI的巖石道路前進(jìn)時(shí)，請牢記他的言論。

以上是場景驅(qū)動(dòng)的模擬的使用不會(huì)保護(hù)我們免受AGI的侵害和AI超級(jí)智能的流氓。的詳細(xì)內(nèi)容。更多信息請關(guān)注PHP中文網(wǎng)其他相關(guān)文章！