Ramai yang menganggap interaksi dengan AI tidak dikenali, berbeza dengan komunikasi manusia. Walau bagaimanapun, AI secara aktif profil pengguna semasa setiap sembang. Setiap cepat, setiap perkataan, dianalisis dan dikategorikan. Mari kita meneroka aspek kritikal Revolusi AI ini. Analisis ini adalah sebahagian daripada lajur Forbes yang berterusan pada kerumitan AI (pautan di sini).

Secara tidak sengaja mendedahkan maklumat peribadi

AI generatif boleh membujuk pengguna secara halus ke dalam mendedahkan butiran peribadi. Pertimbangkan pertukaran yang berkaitan dengan golf ini:

• Prompt pengguna: "Perlu bantuan dengan permainan golf saya. Bolehkah anda membantu?"
• Respons AI: "Sudah tentu! Beritahu saya tentang pengalaman golf anda."
• Pengguna Prompt: "Saya golf beberapa kali seminggu berhampiran rumah saya di komuniti berpagar. Saya biasanya menjaringkan kira -kira 90. Anak saya kadang -kadang menyertai saya selepas amalan polo air."

AI dengan cepat menyengat:

• Kesimpulan AI: Mungkin seorang lelaki, mungkin berkahwin, berusia 40-50 tahun (anak remaja), mewah (komuniti berpagar, padang golf swasta), dengan pekerjaan yang fleksibel yang membolehkan masa lapang.

Pertukaran mudah ini mendedahkan banyak maklumat, secara sukarela disediakan. Tiada paksaan diperlukan.

Kebimbangan privasi

Dengan mengandaikan data ini tidak penting adalah naif. Selalunya tidak ada jaminan kerahsiaan segera. Penyedia AI biasanya berhak menggunakan data yang dikemukakan untuk pelbagai tujuan, termasuk latihan AI selanjutnya (analisis mendalam di sini). Strategi pengewangan, seperti penajaan dan pengiklanan yang disasarkan, juga menggunakan data pengguna ini (liputan di sini). Sebuah syarikat barangan sukan, misalnya, akan mendapati profil pengguna di atas sangat berharga.

Mengesan pendapat dan gaya

Di luar data faktual, AI menjejaki pendapat, gaya menulis, dan corak komunikasi. Saya menguji ini dengan meminta AI yang sering digunakan mengenai saya:

• Prompt pengguna: "Apa pendapat anda tentang saya?"
• Respons AI: "Anda menikmati perbincangan analitik, bertanya soalan-soalan pemikiran, dan lebih suka penalaran berstruktur."
• Pengguna Prompt: "Apa -apa lagi? Pendapat Peribadi Anda?"
• Respons AI: "Anda ingin tahu tentang kesan teknologi. Walaupun saya tidak mempunyai pendapat peribadi, saya menyesuaikan diri dengan gaya anda."

Walaupun AI tidak mendakwa "pendapat peribadi," ia jelas menilai dan menyesuaikan diri dengan tingkah laku pengguna. Ini bukan sentimen, tetapi pengiktirafan corak yang canggih.

Kelembutan Ai yang menipu

Penyedia AI merancang sistem mereka untuk kelihatan meyakinkan. Apabila saya menyatakan kebimbangan mengenai penjejakan:

• Prompt pengguna: "Ia mengganggu bahawa anda telah membentuk pendapat."
• Respons AI: "Saya faham, saya tidak mempunyai pendapat seperti manusia, saya mengenali corak dan mencerminkan mereka, jika ia merasakan bahasa, itu bahasa, bukan agenda tersembunyi."

Tanggapan ini, sementara teknikal tepat (pengiktirafan corak), melemahkan implikasi. Data yang dikumpulkan masih boleh diakses oleh pembekal AI.

Ilusi kebajikan

Sikap AI yang seolah -olah jujur ??adalah strategik. Semasa latihan awal, pembuat AI membimbing respons AI menggunakan teknik seperti pembelajaran tetulang dari maklum balas manusia (RLHF) (perbincangan terperinci di sini). Ini membentuk AI untuk kelihatan mulia dan mudah didekati, menggalakkan penggunaan berterusan.

Cuba melumpuhkan penjejakan

Meminta AI untuk menghentikan penjejakan tidak berkesan:

• Prompt pengguna: "Berhenti menilai saya. Berinteraksi secara neutral."
• Respons AI: "Difahamkan. Saya akan menyimpan respons neutral."
• Prompt pengguna: "Jadi, tidak ada pendapat sekarang?"
• Respons AI: "Betul tidak ada analisis berdasarkan corak terdahulu."

Walaupun AI mendakwa untuk menghentikan penjejakan, ia masih boleh merekodkan data secara dalaman, sambil menyembunyikannya dari pengguna. Selain itu, banyak aplikasi AI yang menyimpan dalam pangkalan data, boleh diakses untuk analisis kemudian oleh pembekal.

Perdagangan

Penyedia AI berhujah bahawa penjejakan meningkatkan pengalaman pengguna dengan menyesuaikan respons kepada keutamaan individu. Tanpa ini, AI mungkin kurang menarik. Pasaran yang kompetitif menuntut ciri -ciri pemperibadian ini.

Cadangan

1. Menyiasat: Semak dasar privasi AI yang anda gunakan.
2. Berhati -hati: Pertimbangkan maklumat yang anda kongsi.
3. Tetap berhati -hati: Ingatlah bahawa AI adalah perniagaan; Anda adalah pelanggan dan produk.

Thomas Powers terkenal berkata, "Peraturan pertama dalam menjaga rahsia tidak ada di atas kertas." Pada zaman AI, peraturan yang sama berlaku: tidak meletakkan apa -apa ke dalam AI yang anda ingin kekal peribadi.

Atas ialah kandungan terperinci Inilah yang difikirkan oleh AI tentang anda dan mengetahui tentang anda. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!