Cerita ini awalnya diterbitkan di Social Media Today. Untuk menerima berita dan wawasan harian, langganan newsletter harian gratis kami di Social Media Today.
Ya, ini sepertinya akan menjadi masalah di masa depan, meskipun mungkin itu dianggap sebagai biaya kemajuan?
Minggu lalu, Common Sense Media menerbitkan laporan baru yang menemukan bahwa 72% remaja AS sudah menggunakan pendamping AI, dengan banyak dari mereka sekarang melakukan interaksi sosial secara teratur dengan teman virtual pilihan mereka.
Studi ini didasarkan pada survei terhadap 1.060 remaja, jadi ini dimaksudkan sebagai ukuran indikatif, bukan sebagai gambaran definitif penggunaan AI. Namun, tren ini menunjukkan beberapa kekhawatiran yang berpotensi signifikan, terutama karena platform sekarang berusaha untuk memperkenalkan bot AI yang juga dapat berfungsi sebagai pasangan romantis dalam kapasitas tertentu.
Pertama-tama, seperti yang dicatat, data menunjukkan bahwa 72% remaja telah mencoba teman AI, dan 52% dari mereka telah menjadi pengguna reguler bot ini.
Yang perlu dicatat di sini adalah bahwa bot AI tidak berada di mana mereka kemungkinan akan berada dalam beberapa tahun ke depan, dengan perusahaan teknologi menginvestasikan miliaran dolar untuk mengembangkan bot AI mereka agar lebih mudah dipahami, lebih percakapan, dan lebih baik meniru keterlibatan manusia yang nyata.
Tapi mereka tidak. Ini adalah bot, yang merespons isyarat percakapan berdasarkan konteks yang mereka miliki, dan sistem penilaian apa pun yang diterapkan oleh masing-masing perusahaan dalam proses belakang mereka. Jadi mereka bukan simulasi yang akurat dari interaksi manusia yang sebenarnya, dan mereka tidak akan pernah bisa, karena koneksi mental dan fisik yang nyata yang diizinkan melalui hal tersebut.
Namun, kita sedang bergerak menuju masa depan di mana ini akan menjadi pengganti yang lebih layak untuk keterlibatan sipil yang sebenarnya. Tapi bagaimana jika sebuah bot diubah, terinfeksi dengan kode berbahaya, diretas, dimatikan, dll.?
Implikasi yang lebih luas dari memungkinkan dan mendorong koneksi semacam itu, belum diketahui, dalam hal dampak kesehatan mental yang mungkin muncul sebagai hasilnya.
Tapi kami tetap maju, dengan data menunjukkan bahwa 33% remaja sudah menggunakan teman AI untuk interaksi sosial dan hubungan.
Tentu saja, beberapa dari ini mungkin akan sangat bermanfaat, dalam berbagai konteks.
Misalnya, kemampuan untuk mengajukan pertanyaan yang mungkin tidak nyaman Anda sampaikan kepada orang lain bisa sangat membantu, dengan data survei menunjukkan bahwa 18% pengguna pendamping AI merujuk pada alat tersebut untuk mendapatkan saran.
Interaksi yang tidak menghakimi memiliki manfaat yang jelas, sementara 39% pengguna teman AI juga telah mentransfer keterampilan sosial yang mereka praktikkan dengan bot ke situasi kehidupan nyata (terutama, 45% wanita telah melakukan ini, dibandingkan dengan 34% pengguna pria).
Cerita Berlanjut Jadi pasti akan ada manfaatnya. Tetapi seperti media sosial sebelumnya, pertanyaannya adalah apakah hal positif tersebut akan mengungguli potensi negatif dari ketergantungan berlebihan pada entitas non-manusia untuk interaksi yang biasanya dilakukan manusia.
31% peserta survei menyatakan bahwa mereka menemukan percakapan dengan teman AI sama memuaskan atau lebih memuaskan daripada dengan teman hidup nyata, sementara 33% telah memilih AI dibandingkan manusia untuk percakapan tertentu.
Seperti yang dicatat, fakta bahwa bot ini dapat condong untuk menjawab berdasarkan garis ideologis adalah suatu kekhawatiran dalam hal ini, begitu pula kecenderungan alat AI untuk "berhalusinasi" dan membuat asumsi yang salah dalam respons mereka, yang kemudian mereka nyatakan sebagai fakta. Hal itu dapat menuntun para remaja ke jalur yang salah, yang kemudian dapat berpotensi membahayakan, sementara sekali lagi, pergeseran ke teman AI sebagai pasangan romantis membuka lebih banyak pertanyaan tentang masa depan hubungan.
Sepertinya tidak terhindarkan bahwa ini akan menjadi penggunaan yang lebih umum untuk alat AI, bahwa hubungan kita yang sedang berkembang dengan simulator manusia akan membuat lebih banyak orang mencari untuk membawa hubungan yang memahami dan tidak menghakimi itu ke tingkat yang lain. Orang nyata tidak akan pernah memahami Anda seperti yang bisa dilakukan bot AI yang selaras dengan algoritma Anda, dan itu sebenarnya bisa memperburuk epidemi kesepian, alih-alih mengatasinya, seperti yang telah disarankan beberapa orang.
Dan jika orang muda mempelajari perilaku hubungan baru ini di tahun-tahun pembentukan mereka, apa yang akan terjadi pada konsep koneksi manusia mereka di masa depan, jika memang mereka merasa membutuhkannya?
Dan mereka memang membutuhkannya. Berabad-abad penelitian telah menekankan pentingnya koneksi manusia dan komunitas, serta kebutuhan untuk memiliki hubungan nyata yang dapat membantu membentuk pemahaman perspektif Anda. Bot AI mungkin dapat mensimulasikan beberapa hal itu, tetapi koneksi fisik yang sebenarnya juga penting, begitu juga kedekatan manusia, partisipasi di dunia nyata, dll.
Kami secara bertahap menjauh dari ini seiring berjalannya waktu, dan Anda bisa berargumen, sudah, bahwa meningkatnya tingkat kesepian yang parah, yang telah dinyatakan oleh WHO sebagai "ancaman kesehatan global yang mendesak," sudah memiliki dampak kesehatan yang besar.
Memang, studi telah menunjukkan bahwa kesepian terkait dengan peningkatan risiko 50% untuk mengembangkan demensia dan peningkatan risiko 30% untuk penyakit arteri koroner atau stroke yang baru terjadi.
Apakah bot AI akan membantu itu? Dan jika tidak, mengapa kita begitu keras mendorongnya? Mengapa setiap aplikasi sekarang mencoba membuat Anda berbicara dengan entitas tidak nyata ini, dan membagikan rahasia terdalam Anda dengan alat AI mereka yang terus berkembang?
Apakah ini lebih menguntungkan bagi masyarakat, atau bagi platform teknologi besar yang membangun model AI ini?
Jika Anda condong pada kesimpulan terakhir, maka kemajuan tampaknya menjadi fokus yang lebih besar, sama seperti ketika media sosial sebelumnya. Penyedia AI sudah mendesak Uni Eropa untuk melonggarkan pembatasan pada pengembangan AI, sementara perlombaan pengembangan AI yang mengancam antara negara-negara juga meningkatkan tekanan pada semua pemerintah untuk melonggarkan kendali, demi mempercepat inovasi.
Tetapi haruskah kita merasa didorong oleh pencarian "superintelligence" Meta, atau khawatir dengan kecepatan di mana alat-alat ini menjadi begitu umum dalam elemen-elemen yang memiliki potensi dampak serius?
Bukan berarti bahwa pengembangan AI itu sendiri buruk, dan ada banyak kasus penggunaan untuk alat AI terbaru yang memang akan meningkatkan efisiensi, inovasi, peluang, dll.
Tetapi sepertinya ada beberapa area di mana kita sebaiknya lebih berhati-hati, karena risiko ketergantungan yang berlebihan, dan dampaknya secara luas.
Itu tampaknya tidak akan terjadi, tetapi dalam sepuluh tahun ke depan, kita akan menilai ini dari perspektif yang sama sekali berbeda.
Anda dapat melihat laporan "Bicara, Percaya, dan Kompromi" dari Common Sense Media di sini.
Lihat Komentar
Lihat Asli
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
Studi Baru Menunjukkan Remaja Semakin Mengandalkan AI Chatbots untuk Interaksi Sosial
Cerita ini awalnya diterbitkan di Social Media Today. Untuk menerima berita dan wawasan harian, langganan newsletter harian gratis kami di Social Media Today.
Ya, ini sepertinya akan menjadi masalah di masa depan, meskipun mungkin itu dianggap sebagai biaya kemajuan?
Minggu lalu, Common Sense Media menerbitkan laporan baru yang menemukan bahwa 72% remaja AS sudah menggunakan pendamping AI, dengan banyak dari mereka sekarang melakukan interaksi sosial secara teratur dengan teman virtual pilihan mereka.
Studi ini didasarkan pada survei terhadap 1.060 remaja, jadi ini dimaksudkan sebagai ukuran indikatif, bukan sebagai gambaran definitif penggunaan AI. Namun, tren ini menunjukkan beberapa kekhawatiran yang berpotensi signifikan, terutama karena platform sekarang berusaha untuk memperkenalkan bot AI yang juga dapat berfungsi sebagai pasangan romantis dalam kapasitas tertentu.
Pertama-tama, seperti yang dicatat, data menunjukkan bahwa 72% remaja telah mencoba teman AI, dan 52% dari mereka telah menjadi pengguna reguler bot ini.
Yang perlu dicatat di sini adalah bahwa bot AI tidak berada di mana mereka kemungkinan akan berada dalam beberapa tahun ke depan, dengan perusahaan teknologi menginvestasikan miliaran dolar untuk mengembangkan bot AI mereka agar lebih mudah dipahami, lebih percakapan, dan lebih baik meniru keterlibatan manusia yang nyata.
Tapi mereka tidak. Ini adalah bot, yang merespons isyarat percakapan berdasarkan konteks yang mereka miliki, dan sistem penilaian apa pun yang diterapkan oleh masing-masing perusahaan dalam proses belakang mereka. Jadi mereka bukan simulasi yang akurat dari interaksi manusia yang sebenarnya, dan mereka tidak akan pernah bisa, karena koneksi mental dan fisik yang nyata yang diizinkan melalui hal tersebut.
Namun, kita sedang bergerak menuju masa depan di mana ini akan menjadi pengganti yang lebih layak untuk keterlibatan sipil yang sebenarnya. Tapi bagaimana jika sebuah bot diubah, terinfeksi dengan kode berbahaya, diretas, dimatikan, dll.?
Implikasi yang lebih luas dari memungkinkan dan mendorong koneksi semacam itu, belum diketahui, dalam hal dampak kesehatan mental yang mungkin muncul sebagai hasilnya.
Tapi kami tetap maju, dengan data menunjukkan bahwa 33% remaja sudah menggunakan teman AI untuk interaksi sosial dan hubungan.
Tentu saja, beberapa dari ini mungkin akan sangat bermanfaat, dalam berbagai konteks.
Misalnya, kemampuan untuk mengajukan pertanyaan yang mungkin tidak nyaman Anda sampaikan kepada orang lain bisa sangat membantu, dengan data survei menunjukkan bahwa 18% pengguna pendamping AI merujuk pada alat tersebut untuk mendapatkan saran.
Interaksi yang tidak menghakimi memiliki manfaat yang jelas, sementara 39% pengguna teman AI juga telah mentransfer keterampilan sosial yang mereka praktikkan dengan bot ke situasi kehidupan nyata (terutama, 45% wanita telah melakukan ini, dibandingkan dengan 34% pengguna pria).
Cerita Berlanjut Jadi pasti akan ada manfaatnya. Tetapi seperti media sosial sebelumnya, pertanyaannya adalah apakah hal positif tersebut akan mengungguli potensi negatif dari ketergantungan berlebihan pada entitas non-manusia untuk interaksi yang biasanya dilakukan manusia.
31% peserta survei menyatakan bahwa mereka menemukan percakapan dengan teman AI sama memuaskan atau lebih memuaskan daripada dengan teman hidup nyata, sementara 33% telah memilih AI dibandingkan manusia untuk percakapan tertentu.
Seperti yang dicatat, fakta bahwa bot ini dapat condong untuk menjawab berdasarkan garis ideologis adalah suatu kekhawatiran dalam hal ini, begitu pula kecenderungan alat AI untuk "berhalusinasi" dan membuat asumsi yang salah dalam respons mereka, yang kemudian mereka nyatakan sebagai fakta. Hal itu dapat menuntun para remaja ke jalur yang salah, yang kemudian dapat berpotensi membahayakan, sementara sekali lagi, pergeseran ke teman AI sebagai pasangan romantis membuka lebih banyak pertanyaan tentang masa depan hubungan.
Sepertinya tidak terhindarkan bahwa ini akan menjadi penggunaan yang lebih umum untuk alat AI, bahwa hubungan kita yang sedang berkembang dengan simulator manusia akan membuat lebih banyak orang mencari untuk membawa hubungan yang memahami dan tidak menghakimi itu ke tingkat yang lain. Orang nyata tidak akan pernah memahami Anda seperti yang bisa dilakukan bot AI yang selaras dengan algoritma Anda, dan itu sebenarnya bisa memperburuk epidemi kesepian, alih-alih mengatasinya, seperti yang telah disarankan beberapa orang.
Dan jika orang muda mempelajari perilaku hubungan baru ini di tahun-tahun pembentukan mereka, apa yang akan terjadi pada konsep koneksi manusia mereka di masa depan, jika memang mereka merasa membutuhkannya?
Dan mereka memang membutuhkannya. Berabad-abad penelitian telah menekankan pentingnya koneksi manusia dan komunitas, serta kebutuhan untuk memiliki hubungan nyata yang dapat membantu membentuk pemahaman perspektif Anda. Bot AI mungkin dapat mensimulasikan beberapa hal itu, tetapi koneksi fisik yang sebenarnya juga penting, begitu juga kedekatan manusia, partisipasi di dunia nyata, dll.
Kami secara bertahap menjauh dari ini seiring berjalannya waktu, dan Anda bisa berargumen, sudah, bahwa meningkatnya tingkat kesepian yang parah, yang telah dinyatakan oleh WHO sebagai "ancaman kesehatan global yang mendesak," sudah memiliki dampak kesehatan yang besar.
Memang, studi telah menunjukkan bahwa kesepian terkait dengan peningkatan risiko 50% untuk mengembangkan demensia dan peningkatan risiko 30% untuk penyakit arteri koroner atau stroke yang baru terjadi.
Apakah bot AI akan membantu itu? Dan jika tidak, mengapa kita begitu keras mendorongnya? Mengapa setiap aplikasi sekarang mencoba membuat Anda berbicara dengan entitas tidak nyata ini, dan membagikan rahasia terdalam Anda dengan alat AI mereka yang terus berkembang?
Apakah ini lebih menguntungkan bagi masyarakat, atau bagi platform teknologi besar yang membangun model AI ini?
Jika Anda condong pada kesimpulan terakhir, maka kemajuan tampaknya menjadi fokus yang lebih besar, sama seperti ketika media sosial sebelumnya. Penyedia AI sudah mendesak Uni Eropa untuk melonggarkan pembatasan pada pengembangan AI, sementara perlombaan pengembangan AI yang mengancam antara negara-negara juga meningkatkan tekanan pada semua pemerintah untuk melonggarkan kendali, demi mempercepat inovasi.
Tetapi haruskah kita merasa didorong oleh pencarian "superintelligence" Meta, atau khawatir dengan kecepatan di mana alat-alat ini menjadi begitu umum dalam elemen-elemen yang memiliki potensi dampak serius?
Bukan berarti bahwa pengembangan AI itu sendiri buruk, dan ada banyak kasus penggunaan untuk alat AI terbaru yang memang akan meningkatkan efisiensi, inovasi, peluang, dll.
Tetapi sepertinya ada beberapa area di mana kita sebaiknya lebih berhati-hati, karena risiko ketergantungan yang berlebihan, dan dampaknya secara luas.
Itu tampaknya tidak akan terjadi, tetapi dalam sepuluh tahun ke depan, kita akan menilai ini dari perspektif yang sama sekali berbeda.
Anda dapat melihat laporan "Bicara, Percaya, dan Kompromi" dari Common Sense Media di sini.
Lihat Komentar