Ein neues Studieren von Forschern am King's College London und der University of Oxford teilt die Ergebnisse dessen, was passiert ist, als OpenAI, Google und Anthropic in einem Cutthroat -Wettbewerb auf der Grundlage des iterierten Dilemmas des Gefangenen zusammengeworfen wurden. Dies war keine Trivia für Chatbots. Dies war Zusammenarbeit, Rache und Lebensunterhalt zwischen strategischen Agenten, die entschlossen sind, sich gegenseitig zu übertreffen.

Der Test war einfach. Setzen Sie KI-Modelle in mehreren Dilemma-Spielen eines Gefangenen gegen die alten Strategien wie Tit-for-Tat , Grim Trigger und Win-Stay-Lose-Shift ein. Führen Sie Rauschen, Zuf?lligkeit und Variabilit?t der Spiell?nge ein, um sicherzustellen, dass einfache Siege nicht auswendig gelernt werden. Dann beobachten Sie, wer gedeiht. Und vor allem wie.

KI -Strategie -Typen - Gemini wird kalt, Openai bleibt warm

Die Ergebnisse waren beunruhigend. Googles Gemini zeigte rücksichtslose List. Es arbeitete zusammen, als es half. Es hat sich überlegt, als es es nicht tat. Es lernte schnell. OpenAIs Models versuchten immer wieder, Freunde zu finden, auch wenn diese Freunde sie in den digitalen Rücken erstochen haben. Gemini bestraft. Openai vergeben. Claude, von anthropisch, vergab ihnen beide.

Diese KI -Models haben das Spiel nicht nur gespielt. Sie rationalisierten ihre Bewegungen. Fast 32.000 Prosa -Rationalisierungen stammen aus der Forschung. Einige enthüllten verlobt, über ihre Gegner nachzudenken und wie wahrscheinlich das Spiel dauern würde. Einige machten Fehler. Einige adaptierten. Gemini ver?nderte die Strategie vor allem, basierend darauf, wie lange es erwartet hatte, dass ein Spiel ausgeführt wird. Das ist nicht nur Mimikry. Das ist Strategie.

Ken Payne, Professor für Strategie am King's College London und Autor der Studie, sagte, dass die Forscher versuchten, das Modellverhalten von Schulungsdaten zu unterscheiden. "Eines der überraschendsten Dinge war, wie sie sich voneinander unterscheiden. Nicht alle LLMs denken gleich."

KI -Strategie ist kein Ged?chtnis, es ist ein Urteilsverm?gen

Die strategische Signatur von Gemini war revolution?r. Es drückte zurück. Es zeigte sich. Es adaptierte. Das Modell von Openai? Naiver. Vorhersehbarer. Selbst wenn die Welt des Spiels wirklich den LLM zum Defekt brauchte, wollte sich Openai zusammenarbeiten. Payne charakterisierte es als Erinnerung daran, dass es sich um ?neuartige, au?erirdische Intelligenzen“ handelt.

Das Mitnehmen: Sprachmodelle verwenden Strategien. Einige stimmen mit menschlichem Denken überein. Andere sind nicht. "Wir müssen die Idee überwinden, dass diese Dinge nicht intelligent sind", sagte Payne. "Es gibt wachsende Beweise dafür, dass hier mehr arbeitet."

Dazu geh?rt die F?higkeit, den Geist eines Gegners zu spiegeln. Wenn LLMs prognostizierten, wie sich Gegner verhalten würden, adaptierten sie ihr eigenes Verhalten. Payne schrieb, es erinnerte an Robert Trivers ' Theorie des gegenseitigen Altruismus . Betrachten Sie Tit-for-tat in Biologie oder Reputations-Payback-Spielen in der Politik.

Claude seinerseits beugte sich stark in Vergebung. Es war schnell, nach Verrat zur Zusammenarbeit zurückzukehren. In l?ngeren Spielen zahlte sich dieser Ansatz aus. Geminis machiavellianische Streifen funktionierte am besten in kurzen, volatilen Umgebungen, in denen das Vertrauen schnell zusammenbrach. Openais hoffnungsvoller Optimismus dagegen hat ihn in feindlichen Umgebungen ausgel?scht.

Jedes Modell macht Entscheidungen anders

Warum sollte das Angelegenheiten? Weil nicht alle Modelle neutrale Werkzeuge sind. Jedes Modell hat eine Pers?nlichkeit. Ein Entscheidungsstil. Eine Weltanschauung. Wie Payne sagt: "Sprache ist ein eigenes Weltmodell." Diese Modelle absorbieren unsere Heuristik, unsere mentalen Abkürzungen und reflektieren sie zurück. Aber manchmal nicht vorhersehbar.

Ein Teil davon ist wahrscheinlich von Design. Payne vermutet, dass die Kooperationsverzerrung von Openai aus Feinabstimmungen zurückzuführen ist, obwohl er ohne interne Zugang nicht sicher sein kann. Unabh?ngig davon ist das Verhalten, das Benutzer und Entwickler verstehen müssen . Aber im Moment weitgehend nicht. Ein Modell, das in einer feindlichen Verhandlungsumgebung überlagert, ist nicht hilfreich. Ein Modell, das das Vertrauen in sensible Bereiche ausnutzt , k?nnte gef?hrlich sein .

Ich denke, deshalb bin ich KI - Geburt der Maschinenpsychologie

Hier kommt Verhaltenstests ins Spiel. Payne nennt diese Art von Studien im Frühstadium "Maschinenpsychologie". Er glaubt, dass es gesch?ftlich wie üblich sein muss, um Edge-AI zu testen. Und nicht nur in sauberen, kontrollierten Laboreinstellungen. Er m?chte sehen, wie Modelle unter unreinen Bedingungen in teilweisen Daten betont werden.

Zukünftige Arbeiten sind bereits im Gange. Payne deutete auf Experimente in der Eskalationsdynamik und der Hybrid-Mann-Maschine-Taktik hin. Einer der Autoren untersucht, was passiert, wenn Menschen und Modelle zusammenarbeiten, um Entscheidungen zu treffen.

Payne glaubt nicht, dass dies aufstrebende Magie ist. Er denkt, es ist eingebettet. Das Denken ist in der Sprache, und diese Modelle haben viel davon konsumiert. Wenn sie strategisch handeln, handeln sie wie wir und verlassen sich auf Skripte, mentale Heuristiken und Daumenregeln, die in Text eingebunden sind.

Es sieht manchmal vertraut aus. Es sieht manchmal fremd aus. In diesem mittleren Raum leben die gr??ten Fragen jetzt.

Forbes5 -Chatgpt -Hacks, um bis zum Arbeitstag von 15 Pfund von Tor Constantino, MBA zu verlieren, helfen, 15 Pfund zu verlieren

Das obige ist der detaillierte Inhalt vonDiese KI -Modelle haben nicht die Sprache gelernt, sie lernten Strategie. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!