キングスカレッジロンドンとオックスフォード大學(xué)の研究者からの新しい研究は、繰り返しの囚人のジレンマに基づいて、Openai、Google、および人類(lèi)がカットスロート競(jìng)技で一緒に投げ込まれたときに起こったことの結(jié)果を共有しています。これはチャットボットにとってはトリビアではありませんでした。これは、互いに勝つことを決意した戦略的エージェント間のコラボレーション、復(fù)ge、および自給でした。

テストは簡(jiǎn)単でした。 AIモデルは、Tit-for-Tat 、 Grim Trigger 、Win-Stay Lose-Lose-Shiftなどの古い戦略に対して、いくつかの囚人のジレンマゲームに入れます。ノイズ、ランダム、ゲームの長(zhǎng)さのばらつきを?qū)毪筏啤⒑?jiǎn)単な勝利が記憶されないようにします。次に、誰(shuí)が繁栄するかを見(jiàn)てください。そして最も重要なことは、どのように。

AI戦略タイプ - ジェミニは冷たくなり、Openaiは暖かいままです

結(jié)果は不安でした。 GoogleのGeminiは冷酷なunningを示しました。それが助けたとき、それは協(xié)力しました。そうしなかったときに亡命しました。それは速く學(xué)びました。 Openaiのモデルは、彼らの友人がデジタルバックで彼らを刺したときでさえ、友人を作ろうとし続けました。ジェミニは罰せられた。 Openaiは許します。人類(lèi)のクロードは、両方を許しました。

これらのAIモデルは、ゲームをプレイするだけではありませんでした。彼らは動(dòng)きを合理化しました。研究から32,000近くの散文合理化が注がれました。一部の人は、相手についての魅力的な考えを明らかにし、ゲームがどれほど続く可能性があるかを明らかにしました。いくつかの間違いを犯しました。いくつかは適応しました。 Geminiゲームの実行が予想される期間に基づいて、ほとんどの変更された戦略が変更されました。それは単なる模倣ではありません。それは戦略です。

King's College Londonの戦略教授であり研究の著者であるKen Payneは、研究者はモデルの行動(dòng)をトレーニングデータと區(qū)別しようとしていると述べました。「モデルが人間のような能力を持っているかどうかを探ることができる環(huán)境を探していました」 「最も驚くべきことの1つは、それらが互いにどのように異なるかでした。すべてのLLMが同様に考えるわけではありません?！?/p>

AI戦略は記憶ではなく、判斷です

ジェミニの戦略的署名は革命的でした。それは押し戻されました。大文字になりました。それは適応しました。 Openaiのモデル？もっと素樸です。より予測(cè)可能。ゲームの世界が本當(dāng)にLLMを欠陥に必要としていたときでさえ、Openaiは協(xié)力したいと思っていました。ペインは、これらが「斬新でエイリアンインテリジェンス」であることを思い出させるものとして特徴づけました。

テイクアウト：言語(yǔ)モデルは戦略を使用しています。いくつかは人間の思考と一致しています。他の人はそうではありません。 「私たちは、これらのことは知的ではないという考えを乗り越える必要があります」とペインは言いました。 「ここでさらに多くのことが機(jī)能しているという証拠が増えています?！?/p>

それには、相手の心をミラーリングする能力が含まれます。 LLMSが敵がどのように振る舞うかを予測(cè)したとき、彼らは自分の行動(dòng)を採(cǎi)用しました。ペインは、ロバート?トリバーの相互利他主義の理論を連想させると書(shū)いています。生物學(xué)のTIT-for-Tatまたは政治における評(píng)判の回収ゲームを検討してください。

クロードは、その側(cè)面では、赦しに大きく傾いていました。裏切りの後、すぐに協(xié)力に戻りました。長(zhǎng)いゲームでは、そのアプローチは報(bào)われました。 GeminiのMachiavellian Streakは、信頼が急速に崩壊した不安定な設(shè)定で最もよく機(jī)能しました。対照的に、Openaiの希望に満ちた楽観主義は、敵対的な環(huán)境で一掃されました。

すべてのモデルは決定を異なります

なぜこれが重要なのですか？すべてのモデルがニュートラルツールではないためです。すべてのモデルには個(gè)性があります。意思決定スタイル。世界観。ペインが言うように、「言語(yǔ)は獨(dú)自の世界モデルです。」これらのモデルは、ヒューリスティック、精神的なショートカットを吸収し、それらを反映します。しかし、時(shí)には予測(cè)可能な方法ではありません。

これのいくつかは、設(shè)計(jì)による可能性があります。ペインは、Openaiの協(xié)力バイアスが微調(diào)整に起因する可能性があると疑っていますが、內(nèi)部アクセスがなければ確信はありません。とにかく、それはユーザーと開(kāi)発者が理解する必要がある行動(dòng)です。しかし、主に現(xiàn)時(shí)點(diǎn)ではありません。敵対的な交渉の設(shè)定で過(guò)剰に協(xié)力するモデルは役に立ちません。敏感なドメインへの信頼を悪用するモデルは危険な場(chǎng)合があります。

したがって、私はaiだと思います - 機(jī)械心理學(xué)の誕生

それが行動(dòng)テストが始まるところです。ペインは、この種の研究の初期段階の「機(jī)械心理學(xué)」と呼んでいます。彼は、それがエッジアイをテストするためにはビジネスである必要があると考えています。清潔で制御されたラボ設(shè)定だけではありません。彼は、汚れた狀態(tài)で、部分的なデータで強(qiáng)調(diào)されたときにモデルがどのように行動(dòng)するかを見(jiàn)たいと思っています。

將來(lái)の仕事はすでに進(jìn)行中です。ペインは、エスカレーションダイナミクスとハイブリッドマンマシン戦術(shù)の実験を暗示しました。著者の一人は、人間とモデルが協(xié)力して決定を下すときに何が起こるかを調(diào)査することです。

ペインは、これが緊急の魔法だとは思わない。彼はそれが埋め込まれていると思います。推論は言語(yǔ)であり、これらのモデルはそれの多くを消費(fèi)しています。彼らが戦略的に行動(dòng)するとき、彼らは私たちのように行動(dòng)しており、スクリプト、精神的ヒューリスティック、およびサンプのルールに依存してテキストに焼き付けられています。

それは時(shí)々おなじみのように見(jiàn)えます。それは時(shí)々異質(zhì)に見(jiàn)えます。その中間スペースは、現(xiàn)在の最大の質(zhì)問(wèn)が生きているところです。

Forbes5 ChatGptハックは、MBA、コンスタンティーノの労働者の日までに15ポンドを失うのに役立ちます

以上がこれらのAIモデルは言語(yǔ)を?qū)Wぶことができず、戦略を?qū)Wびましたの詳細(xì)內(nèi)容です。詳細(xì)については、PHP 中國(guó)語(yǔ) Web サイトの他の関連記事を參照してください。