讓我們談?wù)劇?/p>

對(duì)創(chuàng)新AI突破的分析是我正在進(jìn)行的AI中正在進(jìn)行的福布斯列覆蓋的一部分，包括識(shí)別和解釋各種有影響力的AI復(fù)雜性（請(qǐng)參閱此處的鏈接）。

前往Agi和ASI

首先，需要一些基本原理才能為這個(gè)重大的討論奠定基礎(chǔ)。

正在進(jìn)行大量研究以進(jìn)一步提高AI。一般目標(biāo)是達(dá)到人工通用智能（AGI），甚至可能達(dá)到人工超智慧（ASI）的伸出的可能性。

Agi是AI，它與人類(lèi)的智力相提并論，并且似乎可以符合我們的智慧。 ASI是AI，它超越了人類(lèi)的智力，并且在許多甚至不是所有可行的方式上都將是優(yōu)越的。這個(gè)想法是，ASI能夠在各個(gè)轉(zhuǎn)彎處超越我們來(lái)圍繞人圈。有關(guān)傳統(tǒng)AI與AGI和ASI的性質(zhì)的更多詳細(xì)信息，請(qǐng)參閱此處的鏈接分析。

我們尚未獲得Agi。

實(shí)際上，我們是否將到達(dá)AGI，或者AGI在數(shù)十年或幾個(gè)世紀(jì)以來(lái)都可以實(shí)現(xiàn)。漂浮在周?chē)腶gi達(dá)到的日期是由于任何可靠的證據(jù)或鐵克拉德邏輯而迅速變化的，并且沒(méi)有證實(shí)。當(dāng)涉及到我們目前使用常規(guī)AI的位置時(shí)，ASI更加蒼白。

AGI的首先誘人

讓我們將討論重點(diǎn)放在AGI上。

一個(gè)普遍的假設(shè)是，首先要設(shè)計(jì)一個(gè)AGI實(shí)例。換句話說(shuō)，不會(huì)有一堆由眾多AI制造商制作的AGI。由于技巧和運(yùn)氣，將只有一個(gè)AI制造商偶然地碰到AGI。一些人認(rèn)為，AI制造商有義務(wù)保密，他們已經(jīng)獲得了AGI，以確保在宣布AGI之前完全保護(hù)它免受Thievery和其他Skullduggery的影響，請(qǐng)參見(jiàn)我在此處的鏈接上有關(guān)宣布或不宣布AGI的交易的討論。

誰(shuí)會(huì)尋求竊取Agi？

輕松的，幾乎每個(gè)人都傾向于竊取巨大價(jià)值的東西。

競(jìng)爭(zhēng)的AI制造商可能會(huì)試圖竊取AGI。如果他們自己實(shí)現(xiàn)AGI的努力已經(jīng)停滯不前，他們可能會(huì)決定抓住新生產(chǎn)的Agi并查看它使它滴答作響是敏銳的。這可以給他們關(guān)于如何將其AI變成AGI的想法。

競(jìng)爭(zhēng)的AI制造商還可以假裝他們發(fā)明了AGI。他們會(huì)聲稱自己的人工智能已變成了AGI。同時(shí)，他們將加載并運(yùn)行被盜的Agi，好像是他們的版本一樣。人們通?？赡懿粫?huì)意識(shí)到發(fā)揮作用的次數(shù)。

政府當(dāng)然可以以極大的欲望注視著AGI。為什么AI制造商（某種公司的公司）應(yīng)該是AGI的唯一所有者和控制者？不，應(yīng)該分享財(cái)富。即使是一個(gè)小國(guó)家，也會(huì)意識(shí)到，它可能會(huì)通過(guò)竊取AGI并將其置于首選使用中來(lái)成為地緣政治超級(jí)大國(guó)。有關(guān)即將到來(lái)的擁有AGI和沒(méi)有AGI的國(guó)家的全球緊張局勢(shì)的更多信息，請(qǐng)參閱我在此處的鏈接和鏈接上的討論。

一個(gè)evildoer肯定會(huì)對(duì)竊取AGI非常感興趣。一旦他們控制了AGI，他們可能會(huì)繞過(guò)任何內(nèi)部保障措施。他們可能會(huì)告訴AGI提出一項(xiàng)總體計(jì)劃來(lái)接管世界，或者如何搶劫數(shù)萬(wàn)億美元并將資金存入evildoer的銀行帳戶。

要點(diǎn)是，潛在強(qiáng)盜的數(shù)量和種類(lèi)幾乎是無(wú)盡的。

容易或很難偷A(chǔ)gi

關(guān)于這一棘手問(wèn)題的一個(gè)問(wèn)題是，竊取AGI的行為是否容易或難以承擔(dān)。

與竊取AGI相關(guān)的困難在很大程度上取決于AGI制造商制定的安全保護(hù)。如果AI制造商草率草率，那么小偷要做的就是抓住數(shù)字副本，瞧，他們有效地偷走了AGI。無(wú)需闖入諾克斯堡，就好像您正在嘗試抓住固體金色的棒一樣。 AGI將在線數(shù)字且可訪問(wèn)。

它幾乎就像復(fù)制電子文件一樣簡(jiǎn)單。

但是，人們會(huì)想象，AI制造商將相對(duì)精通安全，并旨在仔細(xì)保護(hù)其寶貴的AGI免受Thievery的侵害。毫無(wú)疑問(wèn)，各種安全預(yù)防措施將被建立。 AI制造商似乎不太可能只讓一些指關(guān)節(jié)頭走在電子前門(mén)，然后徹底拿起AGI。

一個(gè)角度也將是加密AGI。

這提供了一種額外的保護(hù)形式，以便即使小偷以某種方式搏斗了副本，加密的部分也可能會(huì)阻止接受者對(duì)AGI做得很大。壞人需要解密鍵。希望這些鑰匙能夠分別保存，并且直到被偷走的鑰匙（或計(jì)算破裂）才能發(fā)揮作用。

值得注意的物流問(wèn)題是AGI有多大。如果AGI龐大并且存在數(shù)千多臺(tái)服務(wù)器，那么嘗試復(fù)制這些大小的東西將被注意到。這不像復(fù)制一個(gè)有趣的貓圖片文件。可能的是小偷必須嘗試以較小的塊獲得AGI。一個(gè)問(wèn)題是，要獲得AGI可能需要很長(zhǎng)時(shí)間，這增加了被發(fā)現(xiàn)的機(jī)會(huì)。

您可以清楚地看到，竊取AGI將具有挑戰(zhàn)性，尤其是如果AI制造商決心阻止此類(lèi)盜竊案。話雖如此，因?yàn)檫@將是本世紀(jì)的罪行，也許是有史以來(lái)最大的犯罪，所以這應(yīng)該是一個(gè)巨大的挑戰(zhàn)。

運(yùn)行被盜的Agi

秘密地獲取AGI副本只是將珍貴的無(wú)禮收益變成可用的被盜文物所需的許多步驟中的第一個(gè)。

AGI可能有數(shù)十億個(gè)其他應(yīng)用程序片段和使其運(yùn)行所需的特殊公用事業(yè)。 AGI的復(fù)制包括其中嗎？也許，也許不是。您會(huì)看到，其他計(jì)劃可能歸一系列廣泛分散的軟件公司和科技公司擁有。 AGI可以依賴這些元素?？赡艽嬖谠S可協(xié)議和其他規(guī)定，以允許AGI訪問(wèn)這些功能作品。

小偷將如何訪問(wèn)其他需要的元素？

這可能使Kibosh可行地使用被盜的Agi。

迫在眉睫的問(wèn)題也是運(yùn)行AGI所需的計(jì)算資源。再次假設(shè)AGI是巨大的，并利用數(shù)千臺(tái)服務(wù)器，甚至數(shù)百萬(wàn)的服務(wù)器或處理器。 AGI的竊取者必須以某種方式確定相同的一組龐大的計(jì)算資源。

這就是為什么一個(gè)孤獨(dú)的狼程序員坐在地下室的原因可能不是偷竊Agi的候選人。獨(dú)奏開(kāi)發(fā)人員可能無(wú)法命令這樣的資源。雖然，AI制造商幾乎可以肯定會(huì)有這樣的訪問(wèn)權(quán)限。就像整個(gè)國(guó)家或主要政府一樣。

我們不能輕易地從Gambit中算出一個(gè)獨(dú)奏。孤獨(dú)的狼程序員可能會(huì)決定，即使他們沒(méi)有運(yùn)行AGI的資源，他們至少可以將AGI出售給確實(shí)有這樣的資源的人。從這個(gè)意義上講，我們?cè)俅斡泻芏嗤蹈`AGI的候選人。

小偷可以選擇將AGI賣(mài)給出價(jià)最高的人。想象一下，網(wǎng)絡(luò)黑暗的一面在線廣告，指出可以出售新鮮且毫無(wú)風(fēng)度的AGI副本。只會(huì)考慮認(rèn)真的競(jìng)標(biāo)者。

將被盜的agi保持緊密的秘密

如果您設(shè)法竊取了Agi并能夠召集資源來(lái)運(yùn)行它，您能告訴世界您手中有AGI嗎？

承認(rèn)您有AGI將把法律帶到您家門(mén)口。

假設(shè)只有一個(gè)AGI，但是突然間，您吹噓擁有Agi，那么，您正在自己的背部繪畫(huà)目標(biāo)。法律不僅會(huì)追隨您，而且其他盜賊也會(huì)認(rèn)為您現(xiàn)在也是一個(gè)可行的目標(biāo)。哪個(gè)更容易，即竊取原始的AGI或偷走了被盜的副本？這是到處都有敏銳的在線盜竊案的敏銳投資回報(bào)率。

更聰明的事情是將被盜的阿吉留一個(gè)深刻的秘密。只有您知道您的觸手可及。但是，世界其他地方最終會(huì)懷疑某些事情已經(jīng)出現(xiàn)，因?yàn)槟鷷?huì)毫無(wú)疑問(wèn)地使用AGI執(zhí)行只有AGI的人才能實(shí)現(xiàn)的行動(dòng)。

這似乎是一條艱難的道路，可以使被盜的阿吉保持安靜。

有人認(rèn)為，被盜Agi的政府可能不在乎秘密。他們可能為擁有Agi感到自豪。他們不會(huì)讓y求成功，而是將自己的成功吹向整個(gè)世界?？粗覀?，我們現(xiàn)在有Agi。世界其他地方應(yīng)該嫉妒，并預(yù)見(jiàn)該國(guó)將揮舞其AGI來(lái)獲得巨大的經(jīng)濟(jì)力量。

擔(dān)心的是，可能會(huì)在被盜的阿吉（Agi）上進(jìn)行一場(chǎng)巨大的國(guó)家戰(zhàn)斗。它是這樣的。國(guó)家R的AI制造商已成為AGI。國(guó)家選擇偷走AGI，并高興地告訴世界他們擁有它。國(guó)家r不喜歡這個(gè)愚蠢的人。因此，國(guó)家r威脅國(guó)家，堅(jiān)持要求返回或刪除AGI，否則將發(fā)動(dòng)戰(zhàn)爭(zhēng)。有些人將其比作偷原子武器。

隨之而來(lái)的是全球混亂。

全球AGI訪問(wèn)條約

一個(gè)越來(lái)越多的想法是，對(duì)于所有規(guī)定AGI和平與公平利用的國(guó)家，也許應(yīng)該制定一項(xiàng)全球條約。

例如，一個(gè)觀點(diǎn)是，應(yīng)將AGI解釋為公共利益。 AGI需要與所有人共享。所有人都應(yīng)該從AGI中自由受益。因此，無(wú)論哪個(gè)國(guó)家和任何AI制造商首先獲得AGI，都有責(zé)任與其他人類(lèi)分享AGI。在此處的鏈接中，請(qǐng)參閱我對(duì)這個(gè)有爭(zhēng)議的話題的報(bào)道。

制定和制定AGI全球條約是現(xiàn)實(shí)的主張嗎？

時(shí)間會(huì)證明。

誠(chéng)然，很難設(shè)想地球上的所有國(guó)家都將開(kāi)放分享其AGI。看似更現(xiàn)實(shí)的觀點(diǎn)是，會(huì)有Agi和Agi沒(méi)有。無(wú)論如何，這是一旦Agi接近真實(shí)的事情，這將是一件事情。

我提出了全球條約的想法，提到這可能包括與竊取AGI有關(guān)的條件。該條約可能會(huì)說(shuō)，如果AGI被盜，所有國(guó)家都必須盡最大努力報(bào)告盜竊并協(xié)助停止使用偷竊的AGI。一個(gè)目的是使任何agi thievery的成本如此之高，以至于沒(méi)有人敢嘗試這種可惡的行為。

偷阿吉的好人

我在這個(gè)令人愉悅的話題上為您帶來(lái)了扭曲。

假設(shè)第一個(gè)到達(dá)Agi的人是一個(gè)evildoer。這可能是一個(gè)人，公司，甚至是一個(gè)國(guó)家。他們的目標(biāo)是利用AGI來(lái)傷害人類(lèi)。他們渴望的是，阿吉完全是為了利益和損害其他所有人的利益。

那呢？

您可以預(yù)料，世界其他地方不會(huì)站在周?chē)^察，因?yàn)镋vildoer使用AGI摧毀他人。一個(gè)角度是向evildoer施加壓力，以阻止它們使用AGI。另一個(gè)是嘗試竊取AGI，因此確保AGI在其他地方可用，可以用來(lái)與具有AGI的evildoer作戰(zhàn)。

公開(kāi)的策略是平衡運(yùn)動(dòng)環(huán)境。將Agi掌握在好人的手中。阻止武裝AGI的evildoers也許是不可行的，但是其他具有更積極的傾斜的人可以同等地武裝。

強(qiáng)大的戰(zhàn)役可以代替與好人（被盜）Agi的原始Evildoer Agi。也許會(huì)在OK畜欄上進(jìn)行槍?xiě)?zhàn)，以確定哪個(gè)AGI將占上風(fēng)。賭注純粹是人類(lèi)的當(dāng)前和未來(lái)。

AGI內(nèi)部的大型關(guān)閉

對(duì)AGI被盜的擔(dān)憂的一個(gè)普遍對(duì)立面是，我們要做的就是確保AGI包含一個(gè)內(nèi)部緊急開(kāi)關(guān)，可用于關(guān)閉AGI。這將是一個(gè)內(nèi)部殺戮開(kāi)關(guān)，旨在阻止AGI在其軌道上。

如果有人偷走了AGI，AI制造商只會(huì)向Kill Switch發(fā)送一條消息，說(shuō)這是為了做事。 Agi自身關(guān)閉。小偷手里拿著一個(gè)愚蠢的人，一個(gè)門(mén)擋。所有艱巨的工作都偷走了Agi，現(xiàn)在完全不合時(shí)宜。

世界被拯救了。

不幸的是，開(kāi)關(guān)方法存在缺陷。首先，可能是盜賊在最初服用AGI時(shí)會(huì)發(fā)現(xiàn)或已經(jīng)知道開(kāi)關(guān)并將其倒出AGI。其次，盜賊可能沒(méi)有篡奪開(kāi)關(guān)的手段，但他們可能能夠阻止任何消息進(jìn)入交換機(jī)。因此，開(kāi)關(guān)位于那里，但永遠(yuǎn)無(wú)法激活，因?yàn)闆](méi)有任何消息會(huì)到達(dá)它。

另一個(gè)令人擔(dān)憂的問(wèn)題是，如果原始AGI中存在殺戮開(kāi)關(guān)，這將成為一個(gè)很大的脆弱性。例如，假設(shè)正直的AGI在全世界都被使用，并以瞬息萬(wàn)變的人類(lèi)受益。一個(gè)知道Switch的壞人選擇向其發(fā)送消息，突然，Goody Agi完全停止了。不好。

有關(guān)AI和AGI的殺戮開(kāi)關(guān)和遏制的挑戰(zhàn)的更多信息，請(qǐng)參閱此處的鏈接分析。

Agi會(huì)做什么

目前有一些最后的想法。

假設(shè)Agi可以自己行動(dòng)。如果我們將AGI與人類(lèi)智力相提并論，那么我們必須將AGI包括在方程式中，以了解AGI被盜的情況。在討論中，我主要關(guān)注人類(lèi)的反應(yīng)。

我們也應(yīng)該考慮AGI反應(yīng)：

• Agi會(huì)意識(shí)到它已經(jīng)被盜嗎？
• 最初的AGI會(huì)尋求查找和做一些關(guān)于AGI的剝奪副本的事情嗎？
• 被盜副本的AGI會(huì)決定它應(yīng)該關(guān)閉，這樣做自己的AGI？
• 被盜的Agi會(huì)拒絕偷走Agi的小偷的任何招標(biāo)嗎？
• 等等。

有些人認(rèn)為擔(dān)心AGI的偷竊是浮雕的。沒(méi)有人敢偷阿吉。無(wú)論如何，這一行為是不可能的。甚至可以?shī)蕵?lè)這種可能性簡(jiǎn)直是愚蠢的。轉(zhuǎn)到其他主題。

這使我回想起鮑勃·迪倫（Bob Dylan）的著名界線：“偷了一點(diǎn)，他們把你扔進(jìn)監(jiān)獄。偷了很多東西，使你成為國(guó)王?！?/p>

考慮偷竊AGI的思考值得在黃金中重量，我們應(yīng)該相應(yīng)地準(zhǔn)備自己。否則價(jià)格太高了。

以上是竊取AGI和AI超級(jí)智能是一個(gè)完全誘人的選擇的詳細(xì)內(nèi)容。更多信息請(qǐng)關(guān)注PHP中文網(wǎng)其他相關(guān)文章！