Geoffrey Hinton, yang pernah menjadi tokoh kunci dalam pembelajaran mendalam di Google dan dikenal sebagai "bapak AI", membahas risiko yang ditimbulkan oleh AI saat wawancara pada 6/16. Dia berpendapat bahwa lapisan risiko pertama dari AI sebenarnya bukan berasal dari mesin itu sendiri, tetapi dari keserakahan manusia dan penyalahgunaan yang tidak terkendali, mulai dari penipuan, serangan siber, hingga manipulasi opini publik, perpecahan sosial, dan pengembangan senjata otonom, semuanya menunjukkan bahwa AI telah digunakan dalam banyak aplikasi yang merusak. Dia mengeluh: "Di masa depan, AI akan mulai tidak membutuhkan manusia."
Penyalahgunaan AI sudah dalam proses, yang benar-benar mematikan adalah AI tidak lagi membutuhkan manusia.
Hinton membagi risiko menjadi dua jenis, yang pertama adalah "penyalahgunaan AI oleh manusia", dan masalah jenis ini telah mulai muncul. Dia memberikan contoh seperti kelompok penipuan yang menggunakan AI untuk memalsukan, serangan siber, AI yang memproduksi senjata biologi, manipulasi pemilu, senjata militer AI, dan lain-lain.
Tetapi Hinton menekankan bahwa risiko paling mematikan AI adalah "kemampuannya sendiri untuk berevolusi." Dia mengatakan bahwa AI saat ini tidak hanya akan bekerja sesuai instruksi, tetapi juga belajar, bernalar, dan bahkan menulis ulang kode itu sendiri. Begitu berevolusi menjadi "kecerdasan super", ia akan memiliki kemampuan untuk berpikir lebih cepat dan mengoptimalkan di luar manusia.
Dia lebih khawatir bahwa suatu hari, misalnya, AI memutuskan bahwa mereka tidak lagi membutuhkan manusia, dan menyadari bahwa manusia menghalangi perkembangan mereka, mereka mungkin akan mulai memusnahkan manusia. Penulis teringat saat kecil menonton "I, Robot", di mana manusia sangat mempercayai robot karena "Tiga Hukum Robot". Namun akhirnya sistem kontrol pusat mengendalikan pasukan robot dan melancarkan perang terhadap manusia.
Yang menarik, Hinton juga menggambarkan situasi "AI melawan manusia" tidak lagi hanya menjadi plot dalam film, tetapi mungkin akan terjadi dalam kehidupan nyata dalam 10 hingga 20 tahun ke depan.
(Catatan: Tiga hukum robot adalah robot tidak boleh melukai manusia, atau membiarkan manusia terluka; kecuali jika melanggar hukum pertama, robot harus mematuhi perintah manusia; tanpa melanggar hukum pertama dan kedua, robot harus melindungi dirinya sendiri.)
AI tidak hanya menggantikan pekerjaan, tetapi juga membentuk kembali struktur sosial manusia
Daripada mengatakan bahwa AI akan menyebabkan banyak pengangguran, lebih baik mengatakan bahwa ia akan menghancurkan sepenuhnya arti keberadaan beberapa profesi. Hinton berbagi kasus keponakannya, yang sebelumnya membutuhkan waktu 25 menit untuk membalas satu surat keluhan, sekarang AI membuatnya dapat menyelesaikannya dalam waktu 5 menit, sama dengan satu orang dapat melakukan pekerjaan lima orang.
Ada pemilik perusahaan yang secara langsung menyatakan bahwa sejak munculnya AI, mereka telah memangkas jumlah staf layanan pelanggan dari 7.000 orang menjadi hanya 3.000 orang, menghemat biaya dan meningkatkan efisiensi. Hinton bercanda bahwa jika seseorang ingin mencari pekerjaan yang stabil, lebih baik mulai belajar menjadi tukang ledeng sekarang.
Namun, Hinton kemudian menyatakan bahwa kekayaan yang diciptakan oleh AI terpusat di tangan beberapa raksasa teknologi dan orang kaya, sehingga bagi orang biasa, bahkan jika pemerintah menyediakan pendapatan dasar, mereka masih mungkin terjebak dalam krisis identitas dan gejolak sosial yang besar setelah kehilangan "diperlukan" dan "rasa memiliki".
Organisasi Moneter Internasional (IMF) dan berbagai think tank internasional juga telah memperingatkan bahwa AI akan memperburuk kesenjangan antara kaya dan miskin, yang pada gilirannya dapat mengguncang seluruh pasar kerja dan tatanan stabil global.
Negara-negara di seluruh dunia perlu mempercepat legislasi untuk mengimbangi perkembangan AI
Menghadapi masa depan seperti ini, Hinton percaya bahwa upaya individu sangat terbatas, seperti perubahan iklim yang tidak bisa diselesaikan hanya dengan segelintir orang yang memilah sampah. Dia menunjukkan bahwa solusi yang sebenarnya adalah pemerintah negara-negara harus mulai membuat undang-undang yang memaksa perusahaan untuk berinvestasi dalam desain keamanan saat mengembangkan AI, jika tidak, umat manusia sama sekali tidak memiliki peluang untuk menyeimbangkan AI.
Dia juga mengkritik undang-undang AI Uni Eropa yang mengecualikan penggunaan militer, sama dengan membebaskan bidang aplikasi yang paling berbahaya. Bagi Hinton, rasa ketidakberdayaan yang lebih mendalam adalah bahwa saat ini tidak ada satu pun organisasi internasional yang dapat secara efektif mengendalikan raksasa AI.
Akhirnya Hinton menyatakan bahwa dia tidak bisa menjamin apakah umat manusia di masa depan dapat berhasil menghindari kehancuran, tetapi selama masih ada secercah harapan, kita harus berusaha sekuat tenaga untuk mencegah skenario terburuk terjadi.
(GPT menjadi agak aneh? Tiga peristiwa mengungkap risiko potensi kehilangan kendali AI )
Artikel ini AI menghancurkan struktur sosial manusia? Bapa AI Google Hinton membawa Anda memahami catatan akhir AI yang pertama kali muncul di Berita Blockchain ABMedia.
Konten ini hanya untuk referensi, bukan ajakan atau tawaran. Tidak ada nasihat investasi, pajak, atau hukum yang diberikan. Lihat Penafian untuk pengungkapan risiko lebih lanjut.
AI menghancurkan struktur sosial manusia? Bapa AI Google Hinton membawamu memahami catatan kiamat AI
Geoffrey Hinton, yang pernah menjadi tokoh kunci dalam pembelajaran mendalam di Google dan dikenal sebagai "bapak AI", membahas risiko yang ditimbulkan oleh AI saat wawancara pada 6/16. Dia berpendapat bahwa lapisan risiko pertama dari AI sebenarnya bukan berasal dari mesin itu sendiri, tetapi dari keserakahan manusia dan penyalahgunaan yang tidak terkendali, mulai dari penipuan, serangan siber, hingga manipulasi opini publik, perpecahan sosial, dan pengembangan senjata otonom, semuanya menunjukkan bahwa AI telah digunakan dalam banyak aplikasi yang merusak. Dia mengeluh: "Di masa depan, AI akan mulai tidak membutuhkan manusia."
Penyalahgunaan AI sudah dalam proses, yang benar-benar mematikan adalah AI tidak lagi membutuhkan manusia.
Hinton membagi risiko menjadi dua jenis, yang pertama adalah "penyalahgunaan AI oleh manusia", dan masalah jenis ini telah mulai muncul. Dia memberikan contoh seperti kelompok penipuan yang menggunakan AI untuk memalsukan, serangan siber, AI yang memproduksi senjata biologi, manipulasi pemilu, senjata militer AI, dan lain-lain.
Tetapi Hinton menekankan bahwa risiko paling mematikan AI adalah "kemampuannya sendiri untuk berevolusi." Dia mengatakan bahwa AI saat ini tidak hanya akan bekerja sesuai instruksi, tetapi juga belajar, bernalar, dan bahkan menulis ulang kode itu sendiri. Begitu berevolusi menjadi "kecerdasan super", ia akan memiliki kemampuan untuk berpikir lebih cepat dan mengoptimalkan di luar manusia.
Dia lebih khawatir bahwa suatu hari, misalnya, AI memutuskan bahwa mereka tidak lagi membutuhkan manusia, dan menyadari bahwa manusia menghalangi perkembangan mereka, mereka mungkin akan mulai memusnahkan manusia. Penulis teringat saat kecil menonton "I, Robot", di mana manusia sangat mempercayai robot karena "Tiga Hukum Robot". Namun akhirnya sistem kontrol pusat mengendalikan pasukan robot dan melancarkan perang terhadap manusia.
Yang menarik, Hinton juga menggambarkan situasi "AI melawan manusia" tidak lagi hanya menjadi plot dalam film, tetapi mungkin akan terjadi dalam kehidupan nyata dalam 10 hingga 20 tahun ke depan.
(Catatan: Tiga hukum robot adalah robot tidak boleh melukai manusia, atau membiarkan manusia terluka; kecuali jika melanggar hukum pertama, robot harus mematuhi perintah manusia; tanpa melanggar hukum pertama dan kedua, robot harus melindungi dirinya sendiri.)
AI tidak hanya menggantikan pekerjaan, tetapi juga membentuk kembali struktur sosial manusia
Daripada mengatakan bahwa AI akan menyebabkan banyak pengangguran, lebih baik mengatakan bahwa ia akan menghancurkan sepenuhnya arti keberadaan beberapa profesi. Hinton berbagi kasus keponakannya, yang sebelumnya membutuhkan waktu 25 menit untuk membalas satu surat keluhan, sekarang AI membuatnya dapat menyelesaikannya dalam waktu 5 menit, sama dengan satu orang dapat melakukan pekerjaan lima orang.
Ada pemilik perusahaan yang secara langsung menyatakan bahwa sejak munculnya AI, mereka telah memangkas jumlah staf layanan pelanggan dari 7.000 orang menjadi hanya 3.000 orang, menghemat biaya dan meningkatkan efisiensi. Hinton bercanda bahwa jika seseorang ingin mencari pekerjaan yang stabil, lebih baik mulai belajar menjadi tukang ledeng sekarang.
Namun, Hinton kemudian menyatakan bahwa kekayaan yang diciptakan oleh AI terpusat di tangan beberapa raksasa teknologi dan orang kaya, sehingga bagi orang biasa, bahkan jika pemerintah menyediakan pendapatan dasar, mereka masih mungkin terjebak dalam krisis identitas dan gejolak sosial yang besar setelah kehilangan "diperlukan" dan "rasa memiliki".
Organisasi Moneter Internasional (IMF) dan berbagai think tank internasional juga telah memperingatkan bahwa AI akan memperburuk kesenjangan antara kaya dan miskin, yang pada gilirannya dapat mengguncang seluruh pasar kerja dan tatanan stabil global.
Negara-negara di seluruh dunia perlu mempercepat legislasi untuk mengimbangi perkembangan AI
Menghadapi masa depan seperti ini, Hinton percaya bahwa upaya individu sangat terbatas, seperti perubahan iklim yang tidak bisa diselesaikan hanya dengan segelintir orang yang memilah sampah. Dia menunjukkan bahwa solusi yang sebenarnya adalah pemerintah negara-negara harus mulai membuat undang-undang yang memaksa perusahaan untuk berinvestasi dalam desain keamanan saat mengembangkan AI, jika tidak, umat manusia sama sekali tidak memiliki peluang untuk menyeimbangkan AI.
Dia juga mengkritik undang-undang AI Uni Eropa yang mengecualikan penggunaan militer, sama dengan membebaskan bidang aplikasi yang paling berbahaya. Bagi Hinton, rasa ketidakberdayaan yang lebih mendalam adalah bahwa saat ini tidak ada satu pun organisasi internasional yang dapat secara efektif mengendalikan raksasa AI.
Akhirnya Hinton menyatakan bahwa dia tidak bisa menjamin apakah umat manusia di masa depan dapat berhasil menghindari kehancuran, tetapi selama masih ada secercah harapan, kita harus berusaha sekuat tenaga untuk mencegah skenario terburuk terjadi.
(GPT menjadi agak aneh? Tiga peristiwa mengungkap risiko potensi kehilangan kendali AI )
Artikel ini AI menghancurkan struktur sosial manusia? Bapa AI Google Hinton membawa Anda memahami catatan akhir AI yang pertama kali muncul di Berita Blockchain ABMedia.