Sebuah stud baru dari penyelidik di King's College London dan University of Oxford berkongsi hasil apa yang berlaku ketika Openai, Google dan Anthropic dibuang bersama dalam pertandingan cutthroat berdasarkan dilema banduan berulang . Ini bukan perkara biasa untuk chatbots. Ini adalah kerjasama, dendam, dan sara hidup antara agen strategik yang ditentukan untuk mengalahkan satu sama lain.

Ujiannya mudah. Letakkan model AI dalam beberapa permainan dilema banduan menentang strategi lama seperti Tit-for-Tat , pencetus suram dan menang-k-kalah. Memperkenalkan bunyi bising, rawak dan permainan panjang untuk memastikan sebarang kemenangan mudah tidak diingati. Kemudian tonton siapa yang berkembang maju. Dan yang paling penting, bagaimana.

Jenis Strategi AI - Gemini bertukar sejuk, terbuka tetap hangat

Hasilnya tidak menentu. Gemini Google menunjukkan licik kejam. Ia bekerjasama apabila ia membantu. Ia dibantah apabila tidak. Ia belajar dengan cepat. Model Openai terus berusaha untuk berteman, walaupun rakan -rakan itu menikam mereka di belakang digital. Gemini dihukum. Openai memaafkan. Claude, dari antropik, memaafkan mereka berdua.

Model AI ini tidak hanya bermain permainan. Mereka merasionalisasikan langkah mereka. Hampir 32,000 rasionalisasi prosa yang dituangkan dari penyelidikan. Ada yang mendedahkan pemikiran tentang lawan mereka dan bagaimana kemungkinan permainan itu akan bertahan. Ada yang membuat kesilapan. Ada yang disesuaikan. Gemini kebanyakan strategi yang diubah berdasarkan berapa lama ia menjangkakan permainan berjalan. Itu bukan semata -mata meniru. Yang strategi.

Ken Payne, seorang profesor strategi di King's College London dan pengarang kajian itu, mengatakan bahawa para penyelidik cuba membezakan tingkah laku model dari data latihan. "Kami sedang mencari persekitaran di mana kita dapat meneroka sama ada model mempunyai kebolehan seperti manusia," tulisnya dalam pertukaran e-mel. "Salah satu perkara yang paling mengejutkan adalah bagaimana mereka berbeza antara satu sama lain. Tidak semua LLMs berfikir sama."

Strategi AI bukan ingatan, itu penghakiman

Tandatangan strategik Gemini adalah revolusioner. Ia ditolak. Ia memanfaatkan. Ia disesuaikan. Model Openai? Lebih naif. Lebih diramalkan. Walaupun dunia permainan benar -benar memerlukan LLM untuk kecacatan, Openai mendapati dirinya mahu bekerjasama. Payne mencirikannya sebagai peringatan bahawa ini adalah "novel, kecerdasan asing."

The Takeaway: Model bahasa menggunakan strategi. Ada yang konsisten dengan pemikiran manusia. Yang lain tidak. "Kita perlu mengatasi idea bahawa perkara -perkara ini tidak bijak," kata Payne. "Terdapat bukti yang semakin meningkat yang lebih banyak bekerja di sini."

Ini termasuk keupayaan untuk mencerminkan minda lawan. Apabila LLM meramalkan bagaimana lawan akan berkelakuan, mereka menyesuaikan tingkah laku mereka sendiri. Payne menulis bahawa ia mengingatkan teori altruisme timbal balik Robert Trivers. Pertimbangkan tit-for-tat dalam biologi atau permainan pembayaran balik reputasi dalam politik.

Claude, untuk bahagiannya, bersandar banyak ke dalam pengampunan. Ia cepat kembali ke kerjasama selepas pengkhianatan. Dalam permainan yang lebih lama, pendekatan itu terbayar. Streak Machiavellian Gemini bekerja dengan baik dalam tetapan yang pendek dan tidak menentu di mana amanah rosak dengan cepat. Sebaliknya, optimisme yang diharapkan Openai dapat dihapuskan dalam persekitaran yang bermusuhan.

Setiap model membuat keputusan secara berbeza

Mengapa perkara ini mesti berlaku? Kerana tidak semua model adalah alat neutral. Setiap model mempunyai keperibadian. Gaya keputusan. Pandangan dunia. Seperti kata Payne, "Bahasa adalah model dunia sendiri." Model -model ini menyerap heuristik kita, pintasan mental kita dan mencerminkan mereka kembali. Tetapi kadang -kadang tidak dengan cara yang boleh diramal.

Sebahagian daripada ini mungkin dengan reka bentuk. Payne mengesyaki kecenderungan kerjasama Openai mungkin berpunca dari penalaan halus, walaupun tanpa akses dalaman dia tidak pasti. Walau apa pun, tingkah laku pengguna dan pemaju perlu memahami ; Tetapi sebahagian besarnya tidak pada masa ini. Model yang mengoperasi lebih banyak dalam suasana rundingan yang bermusuhan tidak membantu. Model yang mengeksploitasi kepercayaan dalam domain sensitif mungkin berbahaya .

Oleh itu, saya fikir saya AI - Kelahiran Psikologi Mesin

Di sinilah ujian tingkah laku masuk. Payne memanggil jenis kajian ini "psikologi mesin." Dia fikir ia harus menjadi perniagaan-seperti-biasa untuk menguji Edge-ai. Dan bukan hanya dalam tetapan makmal yang bersih dan terkawal. Dia mahu melihat bagaimana model bertindak apabila ditekankan, dalam keadaan najis, pada data separa.

Kerja masa depan sudah dijalankan. Payne mengisyaratkan eksperimen dalam dinamik peningkatan dan taktik mesin hibrid. Salah satu penulis sedang menyiasat apa yang berlaku apabila manusia dan model bekerjasama untuk membuat keputusan.

Payne tidak fikir ini adalah sihir muncul. Dia fikir ia tertanam. Penalaran adalah dalam bahasa, dan model -model ini telah banyak menggunakannya. Apabila mereka bertindak secara strategik, mereka bertindak seperti yang kita lakukan, bergantung kepada skrip, heuristik mental, dan peraturan-peraturan yang dibakar ke dalam teks.

Ia kadang -kadang kelihatan biasa. Ia kadang -kadang kelihatan asing. Ruang tengah itu adalah di mana soalan terbesar sekarang hidup.

Forbes5 Chatgpt Hacks Untuk membantu kehilangan 15 paun oleh Hari Buruh oleh Tor Constantino, MBA

Atas ialah kandungan terperinci Model AI ini tidak belajar bahasa, mereka belajar strategi. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!