Mari kita bercakap mengenainya.

Analisis terobosan AI yang inovatif ini adalah sebahagian daripada liputan lajur Forbes yang berterusan pada AI terkini, termasuk mengenal pasti dan menerangkan pelbagai kerumitan AI yang memberi kesan (lihat pautan di sini).

Menuju ke Agi dan ASI

Pertama, beberapa asas diperlukan untuk menetapkan peringkat untuk perbincangan berat ini.

Terdapat banyak penyelidikan yang berlaku untuk memajukan AI. Matlamat umum adalah sama ada mencapai kecerdasan umum buatan (AGI) atau mungkin juga kemungkinan terulur untuk mencapai superintelligence buatan (ASI).

AGI adalah AI yang dianggap setanding dengan akal manusia dan nampaknya sepadan dengan kecerdasan kita. ASI adalah AI yang telah melampaui akal manusia dan akan menjadi lebih baik dalam banyak jika tidak semua cara yang boleh dilaksanakan. Idea ini ialah ASI akan dapat mengendalikan bulatan di sekitar manusia dengan menghancurkan kita pada setiap masa. Untuk maklumat lanjut mengenai sifat AI konvensional berbanding AGI dan ASI, lihat analisis saya di pautan di sini.

Kami belum mencapai AGI.

Malah, tidak diketahui sama ada kita akan sampai ke AGI, atau mungkin AGI akan dapat dicapai dalam beberapa dekad atau mungkin berabad -abad dari sekarang. Tarikh pencapaian AGI yang terapung di sekitar adalah sangat berbeza -beza dan tidak berasas oleh sebarang bukti yang boleh dipercayai atau logik ironclad. ASI lebih melampaui pucat ketika datang ke mana kita sedang dengan AI konvensional.

Pencapaian pertama AGI memikat

Mari tumpukan perbincangan ini mengenai AGI.

Andaian umum ialah hanya satu contoh AGI yang akan dibuat terlebih dahulu. Dalam erti kata lain, tidak akan ada sekumpulan AGI yang semuanya dibuat oleh banyak pembuat AI. Hanya akan ada satu pembuat AI yang, secara kebetulan, berlaku untuk mendarat di AGI kerana kemahiran dan nasib. Ada yang percaya bahawa pembuat AI mempunyai kewajipan untuk menyimpan rahsia bahawa mereka telah mencapai AGI, berbuat demikian untuk memastikan ia dilindungi sepenuhnya dari pencurian dan lain -lain Skullduggery sebelum mengumumkan AGI wujud, lihat perbincangan saya tentang tradeoffs mengumumkan atau tidak mengumumkan pencapaian AGI, di pautan di sini.

Siapa yang akan berusaha mencuri AGI?

Easy-peasy, hampir semua orang yang mempunyai bengkok ke arah mencuri sesuatu yang mempunyai nilai humongous.

Pembuat AI yang bersaing mungkin cuba mencuri AGI. Sekiranya usaha mereka sendiri untuk mencapai AGI telah terhenti, mereka mungkin memutuskan bahawa ia akan menjadi bijak untuk merebut AGI yang baru dihasilkan dan melihat apa yang membuatnya menandakan. Ini dapat memberi mereka idea bagaimana untuk menjadikan AI mereka menjadi AGI.

Pembuat AI yang bersaing juga boleh berpura -pura bahawa mereka mencipta AGI. Mereka akan mendakwa bahawa AI mereka telah berubah menjadi AGI. Sementara itu, mereka akan memuatkan dan menjalankan Agi yang dicuri seolah -olah ia adalah versi mereka. Orang umumnya mungkin tidak menyedari subterfuge semasa bermain.

Kerajaan pasti dapat melihat Agi dengan nafsu yang hebat di dalam hatinya. Kenapa pembuat AI, sebuah syarikat sejenis, menjadi pemilik tunggal dan pengawal AGI? Tidak, kekayaan harus dikongsi. Malah sebuah negara kecil akan menyedari ia boleh menjadi kuasa besar geopolitik semalaman dengan mencuri AGI dan meletakkannya untuk kegunaan pilihannya. Untuk lebih lanjut mengenai ketegangan global yang akan datang ke atas negara -negara yang mempunyai AGI dan yang tidak, lihat perbincangan saya di pautan di sini dan pautan di sini.

Seorang pengamal pasti akan berminat untuk mencuri AGI. Sebaik sahaja mereka mempunyai AGI di bawah kawalan mereka, mereka mungkin boleh memintas sebarang perlindungan dalaman. Mereka mungkin memberitahu AGI untuk membuat rancangan induk untuk mengambil alih dunia, atau bagaimana merompak trilion dolar dan mendepositkan dana ke dalam akaun bank Evildoer.

Intipati adalah bahawa bilangan dan pelbagai perompak yang berpotensi hampir tidak berkesudahan.

Mudah atau sukar untuk mencuri AGI

Soalan segera mengenai perkara duri ini adalah sama ada perbuatan mencuri AGI akan mudah atau sukar untuk dilakukan.

Kesukaran yang berkaitan dengan mencuri AGI sangat bergantung pada perlindungan keselamatan yang disediakan oleh pembuat AGI. Sekiranya pembuat AI telah ceroboh, semua pencuri perlu dilakukan adalah merebut salinan digital, dan voila, mereka telah mencuri AGI dengan berkesan. Tidak perlu memecah masuk ke Fort Knox seolah -olah anda cuba merebut bar emas pepejal. AGI akan digital dan boleh diakses dalam talian.

Ia hampir boleh semudah menyalin fail elektronik.

Tetapi seseorang akan membayangkan bahawa pembuat AI akan menjadi bijak dan bertujuan untuk melindungi AGI berharga mereka dari pencurian. Semua cara langkah berjaga -jaga keselamatan pasti akan ditubuhkan. Nampaknya tidak mungkin pembuat AI hanya membiarkan beberapa knucklehead berjalan di pintu depan elektronik dan mengambil AGI secara terang -terangan.

Satu sudut juga akan menyulitkan AGI.

Ini memberikan satu bentuk perlindungan tambahan sehingga walaupun seorang pencuri entah bagaimana menghilangkan salinan, bahagian -bahagian yang disulitkan mungkin akan menghalang pengambil daripada melakukan sangat dengan AGI. Orang jahat akan memerlukan kunci penyahsulitan. Kekunci diharapkan akan disimpan secara berasingan dan ergo AGI tidak berfungsi sehingga mereka juga dicuri (atau, retak komputasi).

Isu logistik yang patut diberi perhatian ialah berapa besar AGI. Sekiranya AGI besar -besaran dan wujud beribu -ribu pelayan, cuba menyalin sesuatu saiz itu akan diperhatikan. Ini tidak seperti menyalin fail gambar kucing lucu. Kemungkinan pencuri perlu mencuba dan mendapatkan AGI dalam ketulan yang lebih kecil. Masalahnya ada yang boleh mengambil masa yang lama untuk mendapatkan AGI yang meningkatkan peluang pendedahan untuk dijumpai.

Anda dapat melihat dengan jelas bahawa mencuri AGI akan mencabar, terutamanya jika pembuat AI bertekad untuk menghalang larceny tersebut. Bahawa dikatakan, kerana ini akan menjadi jenayah abad ini, atau mungkin jenayah terbesar sepanjang masa, ia sepatutnya menjadi cabaran yang hebat.

Menjalankan Agi yang dicuri

Diam-diam mendapatkan salinan AGI adalah yang pertama dari banyak langkah yang diperlukan untuk menghidupkan keuntungan yang tidak diperolehi sebagai artifak yang dicuri yang boleh digunakan.

AGI mungkin mempunyai zillions coretan lain aplikasi dan utiliti khas yang diperlukan untuk membuatnya dijalankan. Adakah penyalinan AGI termasuk mereka? Mungkin, mungkin tidak. Anda lihat, program -program lain mungkin dimiliki oleh syarikat perisian yang tersebar luas dan firma teknologi. AGI boleh mempunyai pergantungan terhadap unsur -unsur tersebut. Mungkin perjanjian pelesenan dan peruntukan lain wujud untuk membolehkan AGI mengakses kepingan berfungsi.

Bagaimanakah pencuri mendapat akses kepada unsur -unsur yang diperlukan?

Itu boleh meletakkan kibosh untuk menggunakan penggunaan AGI yang dicuri.

Isu yang menjulang juga adalah sumber pengiraan yang diperlukan untuk menjalankan AGI. Anggapkan lagi bahawa AGI adalah besar -besaran dan menggunakan ribuan pelayan, mungkin juga berjuta -juta pelayan atau pemproses. Pencuri AGI mesti entah bagaimana menubuhkan set sumber pengiraan yang sama.

Itulah sebahagiannya mengapa pengaturcara serigala tunggal yang duduk di ruang bawah tanah mereka mungkin bukan calon yang mungkin mencuri AGI. Pemaju solo mungkin tidak dapat memerintahkan sumber daya seperti itu. Pembuat AI walaupun hampir pasti mempunyai akses sedemikian. Seperti negara atau kerajaan utama.

Kami tidak dapat dengan mudah mengira dari Gambit A Solo Bandit. Seorang pengaturcara serigala tunggal mungkin memutuskan bahawa walaupun mereka tidak mempunyai sumber untuk menjalankan AGI, mereka sekurang -kurangnya berpotensi menjual AGI kepada seseorang yang mempunyai sumber sedemikian. Dalam erti kata itu, kita sekali lagi mempunyai banyak calon untuk mencuri AGI.

Pencuri boleh memilih untuk menjual AGI kepada penawar tertinggi. Bayangkan iklan dalam talian di sebelah gelap web, menyatakan bahawa salinan AGI yang segar dan tidak disengajakan boleh dijual. Hanya pembida serius yang akan dipertimbangkan.

Menjaga Agi yang dicuri sebagai rahsia yang ketat

Sekiranya anda berjaya mencuri AGI dan dapat mengumpulkan sumber -sumber untuk menjalankannya, adakah anda akan memberitahu dunia bahawa anda mempunyai AGI di tangan anda?

Mengakui bahawa anda mempunyai AGI akan membawa undang -undang ke depan pintu anda.

Dengan mengandaikan bahawa hanya ada satu AGI yang wujud, tetapi tiba -tiba anda membual tentang memiliki AGI, dengan baik, anda melukis sasaran di belakang anda sendiri. Bukan sahaja undang -undang akan datang selepas anda, tetapi pencuri lain akan menganggap anda kini menjadi sasaran yang baik juga. Mana yang lebih mudah, iaitu mencuri AGI asal atau mencuri salinan yang dicuri? Itulah ROI yang penuh perhatian untuk pencuri dalam talian yang bijak di mana -mana.

Perkara yang lebih bijak untuk dilakukan adalah untuk memastikan rahsia anda yang dicuri sebagai rahsia yang mendalam. Hanya anda tahu bahawa anda mempunyai AGI di hujung jari anda. Tetapi seluruh dunia akhirnya akan mengesyaki sesuatu yang sudah habis kerana anda secara tidak sengaja menggunakan AGI untuk melakukan tindakan yang hanya seseorang dengan AGI boleh menarik diri.

Ia kelihatan seperti jalan yang sukar untuk diam tentang Agi yang dicuri.

Seseorang menganggap bahawa kerajaan yang telah mencuri AGI mungkin tidak peduli untuk menjadi rahsia. Mereka mungkin bangga bahawa mereka mempunyai AGI. Daripada menjadi coy, mereka akan mencetuskan kejayaan mereka ke seluruh dunia. Lihatlah kami, kami kini mempunyai AGI. Selebihnya di dunia sepatutnya cemburu dan diperingatkan bahawa negara akan menggunakan AGI untuk mendapatkan kuasa ekonomi yang luar biasa.

Kebimbangan adalah bahawa pertempuran kebangsaan raksasa mungkin dilancarkan ke atas AGI yang dicuri. Ia seperti ini. Pembuat AI di negara R telah membuat AGI. Negara memilih untuk mencuri AGI dan dengan gembira memberitahu dunia yang mereka miliki. Negara R tidak suka pencurian ini. Oleh itu, negara mengancam negara, menegaskan bahawa AGI dikembalikan atau dipadam, atau perang lain akan dilancarkan. Ada yang menyamakan ini untuk mencuri senjata atom.

Kekacauan di seluruh dunia berlaku.

Perjanjian Global mengenai Akses AGI

Pemikiran yang semakin menyuarakan adalah bahawa mungkin ada perjanjian global untuk semua negara yang menetapkan penggunaan AGI yang aman dan adil.

Sebagai contoh, satu pandangan ialah AGI harus ditafsirkan sebagai kebaikan awam. AGI perlu dikongsi dengan semua orang. Semua orang harus mendapat manfaat secara bebas dari AGI. Oleh itu, mana-mana negara dan mana-mana pembuat AI yang pertama mencapai AGI, harus bertugas untuk berkongsi AGI dengan seluruh umat manusia. Lihat liputan saya mengenai topik perbalahan ini di pautan di sini.

Adakah perancangan dan penggubalan perjanjian global AGI sebagai cadangan yang realistik?

Masa akan memberitahu.

Adalah sukar untuk membayangkan bahawa semua negara di planet ini akan terbuka untuk berkongsi AGI mereka. Perspektif yang kelihatan lebih realistik adalah bahawa akan ada Agi Haves dan AGI mempunyai-Nots. Bagaimanapun, ini adalah perkara yang akan diambil apabila AGI semakin dekat menjadi perkara yang sebenar.

Saya membawa idea perjanjian global untuk menyebut bahawa ini mungkin merangkumi keadaan yang berkaitan dengan mencuri AGI. Perjanjian itu mungkin mengatakan bahawa jika AGI dicuri, semua negara mesti melakukan yang terbaik untuk melaporkan kecurian dan bantuan dalam menghentikan penggunaan AGI yang dipotong. Matlamatnya adalah untuk menjadikan kos yang begitu tinggi untuk mana -mana pencuri AGI yang tidak ada yang berani mencuba tindakan yang tidak masuk akal.

Mencuri AGI oleh lelaki yang baik

Saya mempunyai sentuhan untuk anda mengenai topik ini.

Katakan bahawa yang pertama tiba di AGI adalah seorang yang lebih baik. Ini boleh menjadi orang, sebuah syarikat, atau mungkin sebuah negara. Mereka bertujuan untuk menggunakan AGI dengan cara untuk membahayakan manusia. Ia adalah keinginan mereka bahawa AGI semata -mata untuk manfaat mereka dan menjejaskan orang lain.

Apa itu?

Anda boleh menjangkakan bahawa seluruh dunia tidak akan berdiri dan menonton sebagai Evildoer menggunakan AGI untuk memusnahkan orang lain. Satu sudut adalah untuk menerapkan tekanan kepada Evildoer untuk menghalang mereka daripada menggunakan AGI. Satu lagi adalah untuk mencuba dan mencuri AGI, oleh itu memastikan bahawa AGI boleh didapati di tempat lain dan boleh digunakan untuk memerangi penggemar yang mempunyai AGI.

Strategi yang terang -terangan adalah untuk mengukur padang permainan. Letakkan Agi di tangan orang baik. Mungkin ia tidak boleh dilaksanakan untuk menghentikan para penggemar yang bersenjata dengan AGI, tetapi yang lain dengan slant yang lebih positif dapat bersenjata sama.

Sebuah royale pertempuran yang hebat boleh mengambil tempat evildoer ali yang asal mengadu terhadap lelaki yang baik (dicuri) Agi. Mungkin akan ada penentuan di OK Corral untuk menentukan AGI yang akan berlaku. Taruhan adalah semata -mata sekarang dan masa depan manusia.

Suis besar di dalam AGI

Titik yang sama dengan kebimbangan AGI yang dicuri adalah bahawa semua yang perlu kita lakukan adalah memastikan AGI mengandungi suis kecemasan dalaman yang boleh digunakan untuk mematikan AGI. Ini akan menjadi suis membunuh dalaman yang bertujuan untuk menghentikan AGI di treknya.

Jika seseorang mencuri AGI, pembuat AI hanya menghantar mesej kepada suis Kill yang mengatakan bahawa ia adalah untuk melakukan perkara itu. AGI menutup dirinya. Pencuri mempunyai rasa tidak puas hati di tangan mereka, sebuah pintu. Semua kerja yang sukar untuk mencuri AGI, dan kini ia benar -benar keluar dari komisen.

Dunia diselamatkan.

Malangnya, pendekatan suis adalah cacat. Pertama, mungkin pencuri menemui atau sudah mengetahui tentang suis dan membuangnya keluar dari AGI pada mulanya mengambil AGI. Kedua, pencuri mungkin tidak mempunyai cara untuk merampas suis, tetapi mereka mungkin dapat menghalang sebarang mesej daripada mendapatkan suis. Oleh itu, suis duduk di sana tetapi tidak boleh diaktifkan kerana tiada mesej akan mencapainya.

Isu tambahan yang membimbangkan ialah jika suis membunuh wujud dalam AGI yang asal, ini menjadi kelemahan besar. Anggapkan sebagai contoh bahawa AGI tegak sedang digunakan di seluruh dunia dan memberi manfaat kepada manusia. Orang yang buruk yang menyedari suis memilih untuk menghantar mesej kepadanya, dan tiba -tiba, Goody Agi berhenti sepenuhnya. Tidak bagus.

Untuk lebih lanjut mengenai cabaran membunuh suis dan kontra untuk AI dan AGI, lihat analisis saya di pautan di sini.

Apa yang akan dilakukan AGI

Beberapa pemikiran terakhir buat masa ini.

Katakan bahawa AGI agak bertindak sendiri. Sekiranya kita memberi kredit kepada AGI sebagai setanding dengan akal manusia, kita mesti memasukkan AGI dalam persamaan tentang apa yang akan berlaku jika AGI dicuri. Dalam perbincangan ini, saya telah memberi tumpuan terutamanya kepada reaksi manusia.

Kita juga harus mempertimbangkan reaksi AGI:

• Adakah AGI menyedari bahawa ia telah dicuri?
• Adakah AGI yang asal berusaha mencari dan melakukan sesuatu mengenai salinan AGI yang ripped?
• Adakah AGI yang merupakan salinan yang dicuri memutuskan bahawa ia harus mematikannya, melakukannya dengan sendirinya?
• Adakah AGI yang dicuri enggan melakukan mana -mana bidaan pencuri yang mencuri AGI?
• Dan sebagainya.

Ada yang percaya bahawa ia adalah hogwash untuk bimbang tentang mencuri AGI. Tiada siapa yang akan berani mencuri AGI. Perbuatan itu mustahil. Ia hanya bodoh untuk menghiburkan kemungkinan. Beralih ke topik lain.

Ini menyebabkan saya mengingati garis terkenal oleh Bob Dylan: "Mencuri sedikit dan mereka membuang kamu ke penjara. Mencuri banyak dan mereka membuat kamu raja."

Berfikir tentang mencuri AGI pasti bernilai beratnya dalam emas dan kita sepatutnya menyiapkan diri dengan sewajarnya. Harga sebaliknya terlalu tinggi.

Atas ialah kandungan terperinci Mencuri AGI dan AI Superintelligence adalah pilihan yang sangat menarik. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!