Parlons-en.

Cette analyse d'une percée d'IA innovante fait partie de ma couverture de colonne Forbes en cours sur les dernières personnes en IA, notamment en identifiant et en expliquant diverses complexités d'IA percutantes (voir le lien ici).

Se dirigeant vers AGI et ASI

Premièrement, certains principes fondamentaux sont tenus de préparer le terrain pour cette discussion lourde.

Il y a beaucoup de recherches en cours pour faire progresser l'IA. L'objectif général est d'atteindre l'intelligence générale artificielle (AGI) ou peut-être même la possibilité tendue de réaliser une superintelligence artificielle (ASI).

AGI est AI qui est considéré comme à égalité avec l'intellect humain et qui peut correspondre apparemment à notre intelligence. L'ASI est une IA qui est allée au-delà de l'intellect humain et serait supérieure à beaucoup sinon toutes les manières possibles. L'idée est que l'ASI serait en mesure de faire des cercles autour des humains en nous éteignant à chaque tournant. Pour plus de détails sur la nature de l'IA conventionnelle contre AGI et ASI, consultez mon analyse sur le lien ici.

Nous n'avons pas encore atteint AGI.

En fait, on ne sait pas si nous atteindrons AGI, ou que peut-être AGI sera réalisable dans des décennies ou peut-être dans des siècles. Les dates de réalisation de l'AGI qui flottent sont très variables et extrêmement non étayées par toute preuve crédible ou logique à ferr. L'ASI est encore plus au-delà du pale en ce qui concerne l'endroit où nous sommes actuellement avec une IA conventionnelle.

La première réalisation d'AGI est séduisante

Concentrons cette discussion sur AGI.

Une hypothèse générale est qu'un seul cas d'AGI sera d'abord con?u. En d'autres termes, il n'y aura pas un tas d'Agis qui sont tous à la fois fabriqués par une multitude de fabricants d'IA. Il n'y aura qu'un seul fabricant d'IA qui, par hasard, arrive à atterrir sur AGI en raison des compétences et de la chance. Certains croient qu'un fabricant d'IA a l'obligation de garder secrète qu'il a atteint AGI, ce qui le fait pour s'assurer qu'il est pleinement protégé contre le vol et d'autres cranes avant d'annoncer l'AGI, voir ma discussion sur les compromis d'annoncer ou de ne pas annoncer la réalisation d'AGI, au lien ici.

Qui chercherait à voler AGI?

Easy PEASY, à peu près tout le monde qui a une tendance à voler quelque chose de valeur gigantesque.

Un fabricant d'IA concurrent pourrait essayer de voler AGI. Si leurs propres efforts pour réaliser AGI ont été bloqués, ils pourraient décider qu'il serait astucieux de saisir l'AGI nouvellement produit et de voir ce qui le fait vibrer. Cela pourrait leur donner des idées sur la fa?on de transformer leur IA en AGI.

Le fabricant d'IA concurrent pourrait également prétendre qu'ils ont inventé l'AGI. Ils affirmeraient que leur IA a été transformée en Agi. Pendant ce temps, ils chargeaient et dirigeaient l'AGI volé comme si c'était leur version. Les gens pourraient généralement ne pas réaliser le subterfuge en jeu.

Un gouvernement pourrait certainement regarder l'Agi avec une grande luxure dans son c?ur. Pourquoi un fabricant d'IA, une entreprise d'une sorte, devrait-il être le seul propriétaire et contr?leur d'AGI? Non, les richesses doivent être partagées. Même un petit pays se rendrait compte qu'il pourrait devenir une superpuissance géopolitique du jour au lendemain en volant AGI et en le mettant à son usage préféré. Pour en savoir plus sur la prochaine tension mondiale sur les nations qui ont AGI et celles qui ne le font pas, voir ma discussion sur le lien ici et le lien ici.

Un célibataire serait certainement intéressé à voler l'AGI. Une fois qu'ils ont sous leur contr?le, ils pourraient vraisemblablement contourner les garanties internes. Ils pourraient dire à l'AGI de proposer un plan directeur pour reprendre le monde, ou comment voler des milliers de dollars et déposer les fonds dans les comptes bancaires du malfaitement.

L'essentiel est que le nombre et la variété de voleurs potentiels sont presque sans fin.

Agi facile ou difficile à voler

Une question tout de suite sur cette affaire épineuse est de savoir si l'acte de voler AGI sera facile ou difficile à entreprendre.

La difficulté associée au vol de l'AGI dépend considérablement des protections de sécurité mises en place par le fabricant de l'AGI. Si le créateur de l'IA a été baclé, tout ce que le voleur a à faire est de prendre une copie numérique et le tour est joué, il a effectivement volé l'AGI. Il n'est pas nécessaire de pénétrer dans Fort Knox comme si vous essayiez de saisir des barres d'or massif. AGI sera numérique et accessible en ligne.

Cela pourrait être presque aussi simple que de copier un fichier électronique.

Mais on pourrait imaginer qu'un fabricant d'IA sera relativement averti de la sécurité et visera à protéger soigneusement son précieux Agi contre le vol. Toutes sortes de précautions de sécurité seraient sans aucun doute établies. Il semble peu probable qu'un fabricant d'IA laisse simplement une pointe marcher dans la porte d'entrée électronique et prendre l'Agi carrément.

Un angle serait également de crypter l'AGI.

Cela fournit une forme de protection supplémentaire de telle sorte que même si un voleur épanche en quelque sorte une copie, les parties cryptées empêcheront probablement le preneur de faire beaucoup avec l'AGI. Les méchants auraient besoin des clés de décryptage. Nous espérons que les touches seraient maintenues séparément et Ergo, l'AGI n'est pas fonctionnel tant que ceux-ci ne seront pas volés (ou, fissurés par calcul).

Un problème logistique remarquable est de l'ampleur de l'AGI. Si l'AGI est massive et existe sur des milliers de serveurs, essayer de copier quelque chose de cette taille va être remarqué. Ce n'est pas comme copier un fichier de photos de chat amusantes. Les chances sont que le voleur devrait essayer d'obtenir l'AGI en petits morceaux. Un problème est qu'il pourrait prendre beaucoup de temps pour obtenir l'AGI, ce qui augmente les chances d'exposition d'être découvertes.

Vous pouvez clairement voir que le vol d'agi va être difficile, surtout si un fabricant d'IA est déterminé à prévenir un tel larcin. Cela étant dit, comme ce serait le crime du siècle, ou peut-être le plus grand crime de tous les temps, ce devrait être un défi formidable.

Courir l'agi volé

L'obtention de subrepticement d'une copie d'AGI n'est que la première des nombreuses étapes nécessaires pour transformer les gains mal acquis en un artefact volé utilisable.

L'AGI a probablement des milliers d'autres extraits d'applications et des services publics spéciaux nécessaires pour le faire fonctionner. La copie de l'AGI a-t-elle inclus celles-ci? Peut-être, peut-être pas. Vous voyez, ces autres programmes pourraient appartenir à une multitude de sociétés de logiciels largement dispersées et d'entreprises technologiques. L'AGI pourrait avoir une dépendance à ces éléments. Il existe probablement des accords de licence et d'autres dispositions pour permettre à l'AGI d'accéder à ces pièces fonctionnelles.

Comment le voleur aura-t-il accès à ces autres éléments nécessaires?

Cela pourrait mettre le kibosh sur la réalisation viable de l'AGI volé.

Un problème imminent est également les ressources de calcul nécessaires pour exécuter l'AGI. Supposons à nouveau que l'AGI est massif et utilise des milliers de serveurs, peut-être même des millions de serveurs ou de processeurs. Le voleur de l'AGI doit en quelque sorte établir ce même ensemble de vastes ressources informatiques.

C'est en partie pourquoi un programmeur de loup solitaire assis dans leur sous-sol n'est probablement pas un candidat probable pour voler AGI. Le développeur solo ne peut probablement pas commander une telle prime de ressources. Un fabricant d'IA aurait cependant presque certainement un tel accès. Tout comme un pays entier ou un gouvernement majeur.

Nous ne pouvons pas facilement compter à partir du gambit un bandit solo. Un programmeur de loup solitaire pourrait décider que même s'il n'a pas les ressources pour gérer l'AGI, ils pourraient au moins vendre l'AGI à quelqu'un qui a de telles ressources. En ce sens, nous avons encore une fois beaucoup de candidats pour voler AGI.

Un voleur pourrait choisir de vendre l'AGI au plus offrant. Imaginez une annonce en ligne sur le c?té obscur du Web, déclarant qu'une copie fra?che et sans fard d'AGI est disponible à la vente. Seuls les soumissionnaires sérieux seront pris en compte.

Garder volé AGI un secret serré

Si vous réussissiez à voler AGI et que vous pourriez rassembler les ressources pour la gérer, diriez-vous au monde que vous aviez Agi entre vos mains?

Admettant que vous avez AGI va apporter la loi à votre porte.

En supposant qu'il n'y a qu'un seul AGI existant, mais soudain, vous vous vantez de posséder AGI, eh bien, vous peignez une cible sur votre dos. Non seulement la loi viendra après vous, mais d'autres voleurs penseront que vous êtes maintenant une cible viable également. Ce qui est plus facile, à savoir voler l'AGI d'origine ou voler une copie volée? C'est un ROI conscient pour les cambrioleurs en ligne astucieux partout.

La chose la plus intelligente à faire serait de garder votre Agi volé un secret profond. Vous seul savez que vous avez de l'AGI à portée de main. Mais le reste du monde soup?onnera finalement que quelque chose se passe, car vous utiliseriez indubitablement l'AGI pour effectuer des actions que seule quelqu'un avec AGI pourrait réaliser.

Cela semble être une route difficile pour se taire sur un Agi volé.

On suppose qu'un gouvernement qui a volé AGI pourrait ne pas se soucier d'être secret. Ils pourraient être fiers qu'ils aient AGI. Plut?t que d'être timides, ils vantaient leur succès à l'ensemble du globe. Regardez-nous, nous avons maintenant Agi. Le reste du monde devrait être jaloux et prévenu que le pays va manier son AGI pour recueillir une puissance économique prodigieuse.

Les inquiétudes sont qu'une gigantesque bataille nationale pourrait être menée sur un agi volé. ?a va comme ?a. Un fabricant d'IA dans le pays R a fabriqué AGI. Country S choisit de voler l'AGI et dit joyeusement au monde qu'ils ont. Country R n'aime pas ce vol. Ainsi, le pays R menace les pays, insistant sur le fait que l'AGI soit retourné ou supprimé, sinon la guerre sera menée. Certains ont comparé cela au vol d'armes atomiques.

Le chaos mondial s'ensuit.

Traité mondial sur l'accès AGI

Une pensée de plus en plus exprimée est qu'il devrait peut-être y avoir un traité mondial pour tous les pays qui stipule l'utilisation paisible et équitable de l'AGI.

Par exemple, un point de vue est que l'AGI doit être interprétée comme un bien public. Agi doit être partagé avec tout le monde. Tout le monde devrait bénéficier librement d'AGI. Ainsi, quel que soit le pays et quel que soit le créateur de l'IA, il arrive d'abord à AGI, il doit être tenu de partager l'AGI avec le reste de l'humanité. Voir ma couverture de ce sujet controversé sur le lien ici.

La con?u et la promulgation d'un traité mondial AGI sont-ils une proposition réaliste?

Le temps nous dira.

Il est certes difficile d'envisager que tous les pays de la planète seront ouverts à partager leur AGI. Une perspective apparemment plus réaliste est qu'il y aura des Agi Haves et des Agi. Quoi qu'il en soit, c'est une question qui sera prise en charge une fois qu'Agi se rapproche d'être une chose réelle.

J'évoque l'idée du traité mondial pour mentionner que cela engloberait vraisemblablement les conditions associées au vol d'agi. Le traité pourrait dire que si AGI est volé, toutes les nations doivent faire de leur mieux pour signaler le vol et aider à arrêter l'utilisation de l'AGI pilé. Un objectif serait de rendre le co?t si élevé pour tout vol Agi que personne n'oserait tenter l'acte odieux.

Voler Agi par les bons gars

J'ai une torsion pour vous sur ce sujet enivrant.

Supposons que le premier à arriver à AGI soit un malfaiteur. Cela pourrait être une personne, une entreprise ou peut-être même un pays. Ils visent à utiliser AGI de manière à nuire aux humains. C'est leur désir fervent qu'Agi soit uniquement à leur avantage et au détriment de tout le monde.

Quoi alors?

Vous pouvez anticiper que le reste du monde ne va pas rester debout et regarder le malfaiteur utilise AGI pour en détruire les autres. Un angle serait d'appliquer une pression sur le malfaiteur pour les empêcher d'utiliser AGI. Un autre serait d'essayer de voler l'AGI, garantissant ainsi que l'AGI est disponible ailleurs et peut être utilisée pour lutter contre le malfaiteur qui a AGI.

La stratégie manifeste consiste à niveler les règles du jeu. Mettez Agi entre les mains des bons. Peut-être qu'il n'est pas possible d'arrêter les malfaiteurs armés d'Agi, mais d'autres avec une inclinaison plus positive peuvent être armés également.

Une puissante bataille Royale pourrait remplacer le malfaiteur d'origine Agi opposée au bon gars (volé) Agi. Il y aura peut-être une fusillade à l'OK Corral pour déterminer quel AGI prévaudra. Les enjeux sont purement le présent et l'avenir de l'humanité.

Le grand arrêt à l'intérieur d'Agi

Un contrepoint commun aux préoccupations de l'agi volé est que tout ce que nous devons faire est de garantir que l'AGI contient un interrupteur d'urgence interne qui peut être utilisé pour éteindre l'AGI. Ce serait un interrupteur de mise à mort interne qui vise à arrêter AGI sur ses pistes.

Si quelqu'un vole AGI, le créateur de l'IA envoie simplement un message au Switch Kill disant que c'est pour faire son truc. L'Agi s'arrête. Les voleurs ont un raté dans leurs mains, un avis de porte. Tout ce travail ardu pour voler Agi, et il est maintenant totalement hors service.

Le monde est sauvé.

Malheureusement, l'approche du commutateur est imparfaite. Tout d'abord, il se pourrait que les voleurs découvrent ou connaissent déjà l'interrupteur et le jettent de l'AGI en prenant initialement l'AGI. Deuxièmement, les voleurs peuvent ne pas avoir les moyens d'usurper l'interrupteur, mais ils pourraient empêcher tout message de passer au commutateur. Ainsi, le commutateur s'y trouve mais ne peut jamais être activé car aucun message ne l'atteindra.

Un problème inquiétant supplémentaire est que si le commutateur de mise à mort existe dans l'AGI d'origine, cela devient une grande vulnérabilité. Supposons par exemple que l'AGI droit est utilisé dans le monde entier et bénéficiant à l'humanité de fa?on momentanée. Une mauvaise personne qui est au courant du Switch choisit de lui envoyer un message, et soudain, Goody Agi s'arrête complètement. Pas bon.

Pour en savoir plus sur les défis d'avoir tué des commutateurs et des confinement pour l'IA et l'AGI, consultez mon analyse sur le lien ici.

Que ferait Agi

Quelques dernières pensées pour l'instant.

Supposons qu'Agi puisse agir un peu seul. Si nous accordons le crédit d? à l'AGI comme étant à égalité avec l'intellect humain, nous devons inclure AGI dans l'équation de ce qui se passera si AGI est volé. Dans cette discussion, je me suis concentré principalement sur les réactions humaines.

Nous devrions également envisager les réactions AGI:

• Agi se rendrait-il compte qu'il a été volé?
• L'AGI d'origine chercherait-il à trouver et à faire quelque chose à propos de la copie déchirée d'AGI?
• L'AGI qui est la copie volé déciderait-il qu'elle devrait s'éteindre, ce qui le fait de lui-même?
• Un AGI volé refuserait-il de faire l'une des enchères des voleurs qui ont volé l'AGI?
• Et ainsi de suite.

Certains croient qu'il est de WOGWASH de s'inquiéter du vol d'AGI. Personne n'oserait voler Agi. L'acte serait impossible de toute fa?on. Il est tout simplement téméraire de divertir la possibilité. Passez à d'autres sujets.

Cela me fait rappeler la célèbre ligne de Bob Dylan: "Vole un peu et ils vous jettent en prison. Volez beaucoup et ils vous font roi."

Penser au vol d'AGI vaut assurément son poids en or et nous devons nous préparer en conséquence. Le prix est autrement trop élevé.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!