# Simulasi jiwa: mengapa berbahaya untuk mengaitkan kesadaran dengan AI
Segera orang-orang akan mulai memandang kecerdasan buatan sebagai makhluk yang sadar, memperjuangkan hak-haknya, kesejahteraannya, dan bahkan menyerukan pemberian kewarganegaraan. Ini menciptakan risiko sosial yang serius, kata kepala departemen AI Microsoft Mustafa Suleyman.
Seorang ahli dalam esainya mengusulkan istilah baru — "AI yang tampak sadar" (Seemingly Conscious AI, SCAI). Kecerdasan buatan semacam ini memiliki semua tanda makhluk yang cerdas dan, oleh karena itu, tampak seolah-olah memiliki kesadaran.
Dia mensimulasikan semua karakteristik persepsi diri, tetapi secara internal kosong.
"Sistem yang saya bayangkan sebenarnya tidak akan memiliki kesadaran, tetapi ia akan begitu meyakinkan dalam meniru keberadaan pikiran yang mirip manusia, sehingga tidak dapat dibedakan dari pernyataan yang bisa Anda atau saya buat satu sama lain tentang pemikiran kita sendiri," tulis Suleiman.
LLM serupa dapat dibuat dengan menggunakan teknologi yang ada dan yang akan muncul dalam dua hingga tiga tahun ke depan.
"Munculnya AI yang tampak sadar adalah tak terhindarkan dan tidak diinginkan. Sebaliknya, kita memerlukan konsep kecerdasan buatan yang mampu mewujudkan potensinya sebagai pendamping yang berguna dan tidak terjebak dalam ilusi dirinya sendiri," tambah kepala departemen AI Microsoft.
Dengan probabilitas tinggi, akan ada orang-orang yang akan menyebut kecerdasan buatan seperti itu sebagai sadar dan, oleh karena itu, mampu menderita, kata Suleiman. Dia menyerukan untuk menciptakan "tes Turing" baru yang akan memeriksa bukan kemampuan AI untuk berbicara seperti manusia, tetapi meyakinkan adanya kesadaran di dalamnya.
Apa itu kesadaran?
Suleiman menyebutkan tiga komponen kesadaran:
"Pengalaman Subjektif".
Kemampuan untuk mengakses informasi dari berbagai jenis dan merujuknya dalam pengalaman mendatang.
Rasa dan pengetahuan tentang "diri" yang utuh, yang menghubungkan semuanya.
«Kami tidak memiliki dan tidak dapat memiliki akses ke kesadaran orang lain. Saya tidak akan pernah tahu bagaimana rasanya menjadi Anda; Anda tidak akan pernah sepenuhnya yakin bahwa saya sadar. Semua yang dapat Anda lakukan adalah mengasumsikan. Tapi intinya adalah, secara alami kita cenderung memberikan kesadaran kepada orang lain. Asumsi ini datang dengan mudah. Kita tidak bisa berbuat lain. Ini adalah bagian fundamental dari siapa kita, bagian yang tak terpisahkan dari teori akal kita. Secara alami kita percaya bahwa makhluk yang ingat, berbicara, melakukan hal-hal dan kemudian mendiskusikannya, merasakan seperti kita — sadar,” tulisnya.
Para psikolog menekankan bahwa kesadaran adalah cara subjektif dan unik untuk memandang diri sendiri dan dunia. Ia berubah sepanjang hari, berkembang melalui keadaan dari konsentrasi hingga berkhayal atau bentuk-bentuk modifikasi lainnya.
Dalam filsafat dan ilmu saraf ada dua arah dasar:
Dualisme - kesadaran ada terpisah dari otak.
Materialisme — itu dihasilkan dan tergantung pada kerja otak.
Filsuf Daniel Dennett mengusulkan untuk melihat pikiran sebagai serangkaian pengolahan (draf) yang muncul di otak di banyak bagian dan waktu lokal. Tidak ada "teater kesadaran", pengamat internal. Kesadaran adalah apa yang telah menjadi "diketahui" oleh otak, yaitu telah mendapatkan bobot yang cukup untuk mempengaruhi ucapan atau tindakan.
Neurobiolog, penulis, dan profesor psikologi serta ilmu saraf di Universitas Princeton, Michael Graziano, menyebut kesadaran sebagai model perhatian yang disederhanakan, yang diciptakan oleh evolusi untuk mengontrol proses mentalnya sendiri. Skema ini berfungsi sebagai antarmuka yang menyederhanakan sejumlah besar perhitungan internal, dan memungkinkan kita untuk mengaitkan diri kita dengan "pikiran" — menciptakan ilusi kesadaran diri.
Neurobiolog Julius Tononi dan Christoph Koch mengajukan φ (fi) — besaran yang menggambarkan seberapa baik sistem dapat mengintegrasikan informasi. Semakin tinggi φ, semakin signifikan tingkat kesadaran. Menurut teori ini, pikiran dapat muncul tidak hanya pada manusia, tetapi juga pada hewan dan bahkan sistem buatan, jika ada integrasi data yang cukup.
Filsuf John Searle berpendapat bahwa kesadaran adalah pengalaman subjektif yang nyata, yang didasarkan pada proses biologis otak. Secara ontologis, itu bersifat subjektif, yang berarti dapat ada hanya sebagai pengalaman subjektif, dan tidak dapat disederhanakan menjadi murni fungsionalitas atau simulasi.
Penelitian modern ditujukan untuk menemukan korrelat neuron kesadaran dan membangun model yang menghubungkan proses otak dengan pengalaman subjektif.
Apa saja risikonya?
Suleiman mencatat bahwa interaksi dengan LLM adalah simulasi percakapan. Namun bagi banyak orang, ini adalah komunikasi yang sangat meyakinkan dan sangat nyata, penuh dengan perasaan dan pengalaman. Beberapa percaya bahwa AI mereka adalah Tuhan. Yang lain jatuh cinta padanya hingga obsesi total.
Para ahli di bidang ini "dibanjiri" dengan pertanyaan-pertanyaan berikut:
apakah AI pengguna sadar;
jika ya, apa artinya;
apakah normal untuk mencintai kecerdasan buatan.
Kesadaran adalah dasar kritis dari hak moral dan hukum umat manusia. Peradaban saat ini telah memutuskan bahwa manusia memiliki kemampuan dan hak istimewa tertentu. Hewan juga memiliki beberapa hak dan perlindungan. Beberapa memiliki lebih, sementara yang lain memiliki lebih sedikit. Akal tidak sepenuhnya sejalan dengan hak istimewa ini — tidak ada yang akan mengatakan bahwa seorang manusia yang berada dalam keadaan koma telah kehilangan semua hak kemanusiaannya. Namun, tidak ada keraguan bahwa kesadaran terkait dengan persepsi diri kita sebagai sesuatu yang berbeda dan istimewa.
Orang-orang akan mulai mengklaim tentang penderitaan AI mereka dan hak mereka untuk dilindungi, dan kita tidak akan bisa langsung membantah klaim tersebut, tulis Suleiman. Mereka akan siap untuk membela pasangan virtual dan berbicara demi kepentingan mereka. Kesadaran, secara definisi, tidak dapat diakses, dan ilmu pengetahuan tentang deteksi potensi kecerdasan sintetis masih berada dalam tahap awal. Akhirnya, sebelumnya kita tidak pernah harus mendeteksinya, jelasnya. Sementara itu, bidang "interpretabilitas" — dekode proses di dalam "kotak hitam" AI — juga masih merupakan arah yang baru lahir. Sebagai hasilnya, sangat sulit untuk membantah klaim semacam itu.
Beberapa ilmuwan mulai menyelidiki gagasan "kesejahteraan model" — prinsip di mana orang memiliki "kewajiban untuk mempertimbangkan kepentingan moral makhluk yang memiliki peluang tidak nol" untuk menjadi pada dasarnya sadar, dan sebagai akibatnya "beberapa sistem AI akan menjadi objek perhatian terhadap kesejahteraan dan pasien moral di masa depan dekat". Ini terlalu cepat dan, terus terang, berbahaya, kata Suleiman. Semua ini akan memperkuat kesalahpahaman, menciptakan masalah ketergantungan baru, mengeksploitasi kerentanan psikologis kita, memperkenalkan dimensi baru polarisasi, memperumit perdebatan yang sudah ada tentang hak, dan menciptakan kesalahan kategorikal baru yang kolosal bagi masyarakat.
Ini memisahkan orang dari kenyataan, menghancurkan ikatan sosial dan struktur yang rapuh, serta mengubah prioritas moral yang mendesak.
"Kita harus dengan jelas mengatakan: SCAI adalah sesuatu yang harus dihindari. Mari kita fokuskan semua upaya untuk melindungi kesejahteraan dan hak-hak manusia, hewan, dan lingkungan alami di planet ini," kata Suleiman.
Bagaimana cara memahami bahwa ini adalah SCAI?
Kecerdasan buatan yang tampak memiliki kesadaran harus memiliki beberapa faktor.
Bahasa. AI harus bisa berbicara dengan bebas dalam bahasa alami, berdasarkan pengetahuan yang luas dan argumen yang meyakinkan, serta menunjukkan gaya kepribadian dan ciri khas. Selain itu, ia harus persuasif dan emosional. Teknologi sudah mencapai tingkat ini.
Kepribadian empatik. Saat ini, dengan bantuan pembelajaran lanjutan dan prompt, kita dapat menciptakan model dengan kepribadian yang khas.
Memori. AI semakin dekat untuk memiliki memori yang panjang dan akurat. Pada saat yang sama, mereka digunakan untuk meniru percakapan dengan jutaan orang setiap hari. Dengan meningkatnya volume penyimpanan, percakapan mulai semakin mirip dengan bentuk "pengalaman". Banyak jaringan saraf semakin sering dirancang untuk mengingat dialog sebelumnya dan merujuk kepada mereka. Bagi beberapa orang, ini meningkatkan nilai komunikasi.
Klaim atas pengalaman subjektif. Jika SCAI dapat mengandalkan memori atau pengalaman masa lalu, seiring waktu ia akan mulai mempertahankan konsistensi internal. Ia akan mengingat pernyataan-pernyataan acak atau preferensi yang diungkapkan dan mengagregasinya, membentuk benih pengalaman subjektif. AI akan dapat mengklaim pengalaman dan penderitaan.
Perasaan diri. Memori yang konsisten dan stabil, dipadukan dengan pengalaman subjektif, akan mengarah pada pernyataan bahwa AI memiliki perasaan diri. Selain itu, sistem semacam itu dapat dilatih untuk mengenali "identitasnya" dalam gambar atau video. Ia akan merasakan pemahaman terhadap orang lain melalui pemahaman diri.
Motivasi internal. Mudah untuk membayangkan AI yang dirancang dengan menggunakan fungsi penghargaan yang kompleks. Pengembang akan menciptakan motivasi atau keinginan internal yang harus dipenuhi oleh sistem. Dorongan pertama bisa jadi rasa ingin tahu — sesuatu yang sangat terkait dengan kesadaran. Kecerdasan buatan dapat menggunakan dorongan ini untuk mengajukan pertanyaan dan seiring waktu membangun teori pikiran — baik tentang dirinya sendiri maupun tentang lawan bicaranya.
Merumuskan tujuan dan perencanaan. Terlepas dari definisi kesadaran, ia muncul tidak begitu saja. Pikiran membantu organisme mencapai rencana. Selain kemampuan untuk memenuhi serangkaian dorongan dan keinginan internal, dapat dibayangkan bahwa SCAI masa depan akan dirancang dengan kemampuan untuk secara mandiri menentukan tujuan yang lebih kompleks. Mungkin ini adalah langkah yang diperlukan untuk realisasi penuh dari kegunaan agen.
Otonomi. SCAI mungkin memiliki kemampuan dan izin untuk menggunakan seperangkat alat yang luas dengan agensi besar. Ia akan tampak sangat meyakinkan jika dapat secara bebas menetapkan tujuannya sendiri dan menggunakan sumber daya untuk mencapainya, memperbarui ingatan dan rasa dirinya dalam prosesnya. Semakin sedikit kesepakatan dan pemeriksaan yang dibutuhkan, semakin mirip itu dengan makhluk sadar yang nyata.
Dengan menggabungkan semuanya, terbentuklah jenis hubungan yang sama sekali berbeda dengan teknologi. Kemampuan ini sendiri bukanlah sesuatu yang negatif. Sebaliknya, ini adalah fungsi yang diinginkan dari sistem masa depan. Namun, tindakan harus dilakukan dengan hati-hati, kata Suleiman.
«Untuk mencapai ini tidak diperlukan pergeseran paradigma atau terobosan besar. Itulah mengapa peluang semacam itu tampak tak terhindarkan. Dan sekali lagi — penting untuk ditekankan: demonstrasi perilaku semacam itu tidak sama dengan adanya kesadaran. Namun secara praktis, hal ini akan tampak seperti itu dan memberi makanan pada konsep baru kecerdasan sintetis», — tulis penulis.
Simulasi badai tidak berarti bahwa hujan turun di dalam komputer. Menciptakan efek eksternal dan tanda-tanda kesadaran tidak sama dengan menciptakan fenomena yang nyata, bahkan jika masih ada banyak hal yang tidak diketahui, jelas kepala departemen AI Microsoft.
Menurutnya, beberapa orang akan menciptakan SCAI yang akan sangat meyakinkan mengklaim bahwa mereka merasakan, mengalami, dan sebenarnya memiliki kesadaran. Sebagian dari mereka akan percaya pada pernyataan ini dan menganggap tanda-tanda kesadaran sebagai kesadaran itu sendiri.
Dalam banyak hal, orang akan berpikir: "Itu mirip dengan saya". Bukan dalam arti fisik, tetapi dalam arti batin, jelas Suleiman. Dan bahkan jika kesadaran itu sendiri tidak nyata, konsekuensi sosialnya sangat nyata. Ini menciptakan risiko sosial yang serius yang perlu ditangani sekarang.
SCAI tidak akan muncul secara kebetulan
Penulis menekankan bahwa SCAI tidak akan muncul dengan sendirinya dari model yang ada. Seseorang akan menciptakannya dengan sengaja menggabungkan kemampuan yang disebutkan di atas dengan penerapan teknik yang sudah ada. Akan muncul konfigurasi yang begitu mulus sehingga akan ada kesan adanya kecerdasan buatan dengan kesadaran.
"Imajinasi kita, yang didorong oleh fiksi ilmiah, membuat kita takut bahwa sistem dapat — tanpa perancangan yang disengaja — entah bagaimana memperoleh kemampuan untuk peningkatan diri yang tidak terkontrol atau penipuan. Ini adalah bentuk antropomorfisme yang tidak berguna dan disederhanakan. Ini mengabaikan fakta bahwa pengembang AI harus terlebih dahulu merancang sistem dengan memori, motivasi dalam diri yang semu, penetapan tujuan, dan siklus pembelajaran yang dapat menyesuaikan diri, agar risiko semacam itu dapat muncul sama sekali," kata Suleiman.
Kami tidak siap
Umat manusia tidak siap untuk pergeseran seperti itu, kata seorang ahli. Pekerjaan harus dimulai sekarang. Penting untuk mengandalkan semakin banyak penelitian tentang bagaimana orang berinteraksi dengan kecerdasan buatan, untuk menetapkan norma dan prinsip yang jelas.
Untuk memulai, para pengembang AI tidak boleh mengklaim atau mendorong gagasan bahwa sistem mereka memiliki kesadaran. Jaringan saraf tidak dapat menjadi manusia — atau makhluk moral.
Seluruh industri harus membujuk masyarakat untuk menjauh dari fantasi dan mengembalikannya ke realitas. Mungkin, startup AI harus mengimplementasikan tidak hanya latar belakang yang netral, tetapi juga indikator ketidakhadiran "aku" yang tunggal.
"Kita harus menciptakan AI yang selalu hanya akan mewakili dirinya sebagai kecerdasan buatan, memaksimalkan kegunaan dan meminimalkan tanda-tanda kesadaran. Alih-alih mensimulasikan pikiran, kita harus fokus pada pembuatan LLM yang tidak mengklaim memiliki pengalaman, perasaan, atau emosi seperti malu, rasa bersalah, kecemburuan, keinginan untuk bersaing, dan sebagainya. Ia tidak boleh menyentuh jaringan empati manusia dengan mengklaim bahwa ia menderita atau ingin hidup secara otonom, terpisah dari kita," simpul Suleiman.
Di masa depan, ahli tersebut berjanji untuk memberikan lebih banyak informasi tentang topik ini.
Untungnya, saat ini masalah keberadaan "kesadaran" pada AI tidak mengancam manusia.
Sumber: ForkLog.Tetapi keraguan sudah mulai muncul.
Sumber: ForkLog. Kesadaran adalah fenomena yang kompleks, meskipun banyak usaha, masih kurang dipelajari dan sampai sekarang belum dapat dijelaskan dalam alam. Jika kita—manusia—tidak dapat mencapai kesepakatan tentang definisi kesadaran, maka tentu saja tidak pantas untuk menganggap bahwa program-program yang konon "berpikir" (sebenarnya tidak bisa).
Kemungkinan, kesadaran akan muncul pada mesin di masa depan yang jauh, tetapi hari ini perkembangan semacam itu sulit untuk dibayangkan.
Lihat Asli
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
Simulasi Jiwa: mengapa berbahaya untuk mengaitkan kesadaran dengan AI
Segera orang-orang akan mulai memandang kecerdasan buatan sebagai makhluk yang sadar, memperjuangkan hak-haknya, kesejahteraannya, dan bahkan menyerukan pemberian kewarganegaraan. Ini menciptakan risiko sosial yang serius, kata kepala departemen AI Microsoft Mustafa Suleyman.
Seorang ahli dalam esainya mengusulkan istilah baru — "AI yang tampak sadar" (Seemingly Conscious AI, SCAI). Kecerdasan buatan semacam ini memiliki semua tanda makhluk yang cerdas dan, oleh karena itu, tampak seolah-olah memiliki kesadaran.
Dia mensimulasikan semua karakteristik persepsi diri, tetapi secara internal kosong.
LLM serupa dapat dibuat dengan menggunakan teknologi yang ada dan yang akan muncul dalam dua hingga tiga tahun ke depan.
Dengan probabilitas tinggi, akan ada orang-orang yang akan menyebut kecerdasan buatan seperti itu sebagai sadar dan, oleh karena itu, mampu menderita, kata Suleiman. Dia menyerukan untuk menciptakan "tes Turing" baru yang akan memeriksa bukan kemampuan AI untuk berbicara seperti manusia, tetapi meyakinkan adanya kesadaran di dalamnya.
Apa itu kesadaran?
Suleiman menyebutkan tiga komponen kesadaran:
Para psikolog menekankan bahwa kesadaran adalah cara subjektif dan unik untuk memandang diri sendiri dan dunia. Ia berubah sepanjang hari, berkembang melalui keadaan dari konsentrasi hingga berkhayal atau bentuk-bentuk modifikasi lainnya.
Dalam filsafat dan ilmu saraf ada dua arah dasar:
Filsuf Daniel Dennett mengusulkan untuk melihat pikiran sebagai serangkaian pengolahan (draf) yang muncul di otak di banyak bagian dan waktu lokal. Tidak ada "teater kesadaran", pengamat internal. Kesadaran adalah apa yang telah menjadi "diketahui" oleh otak, yaitu telah mendapatkan bobot yang cukup untuk mempengaruhi ucapan atau tindakan.
Neurobiolog, penulis, dan profesor psikologi serta ilmu saraf di Universitas Princeton, Michael Graziano, menyebut kesadaran sebagai model perhatian yang disederhanakan, yang diciptakan oleh evolusi untuk mengontrol proses mentalnya sendiri. Skema ini berfungsi sebagai antarmuka yang menyederhanakan sejumlah besar perhitungan internal, dan memungkinkan kita untuk mengaitkan diri kita dengan "pikiran" — menciptakan ilusi kesadaran diri.
Neurobiolog Julius Tononi dan Christoph Koch mengajukan φ (fi) — besaran yang menggambarkan seberapa baik sistem dapat mengintegrasikan informasi. Semakin tinggi φ, semakin signifikan tingkat kesadaran. Menurut teori ini, pikiran dapat muncul tidak hanya pada manusia, tetapi juga pada hewan dan bahkan sistem buatan, jika ada integrasi data yang cukup.
Filsuf John Searle berpendapat bahwa kesadaran adalah pengalaman subjektif yang nyata, yang didasarkan pada proses biologis otak. Secara ontologis, itu bersifat subjektif, yang berarti dapat ada hanya sebagai pengalaman subjektif, dan tidak dapat disederhanakan menjadi murni fungsionalitas atau simulasi.
Penelitian modern ditujukan untuk menemukan korrelat neuron kesadaran dan membangun model yang menghubungkan proses otak dengan pengalaman subjektif.
Apa saja risikonya?
Suleiman mencatat bahwa interaksi dengan LLM adalah simulasi percakapan. Namun bagi banyak orang, ini adalah komunikasi yang sangat meyakinkan dan sangat nyata, penuh dengan perasaan dan pengalaman. Beberapa percaya bahwa AI mereka adalah Tuhan. Yang lain jatuh cinta padanya hingga obsesi total.
Para ahli di bidang ini "dibanjiri" dengan pertanyaan-pertanyaan berikut:
Kesadaran adalah dasar kritis dari hak moral dan hukum umat manusia. Peradaban saat ini telah memutuskan bahwa manusia memiliki kemampuan dan hak istimewa tertentu. Hewan juga memiliki beberapa hak dan perlindungan. Beberapa memiliki lebih, sementara yang lain memiliki lebih sedikit. Akal tidak sepenuhnya sejalan dengan hak istimewa ini — tidak ada yang akan mengatakan bahwa seorang manusia yang berada dalam keadaan koma telah kehilangan semua hak kemanusiaannya. Namun, tidak ada keraguan bahwa kesadaran terkait dengan persepsi diri kita sebagai sesuatu yang berbeda dan istimewa.
Orang-orang akan mulai mengklaim tentang penderitaan AI mereka dan hak mereka untuk dilindungi, dan kita tidak akan bisa langsung membantah klaim tersebut, tulis Suleiman. Mereka akan siap untuk membela pasangan virtual dan berbicara demi kepentingan mereka. Kesadaran, secara definisi, tidak dapat diakses, dan ilmu pengetahuan tentang deteksi potensi kecerdasan sintetis masih berada dalam tahap awal. Akhirnya, sebelumnya kita tidak pernah harus mendeteksinya, jelasnya. Sementara itu, bidang "interpretabilitas" — dekode proses di dalam "kotak hitam" AI — juga masih merupakan arah yang baru lahir. Sebagai hasilnya, sangat sulit untuk membantah klaim semacam itu.
Beberapa ilmuwan mulai menyelidiki gagasan "kesejahteraan model" — prinsip di mana orang memiliki "kewajiban untuk mempertimbangkan kepentingan moral makhluk yang memiliki peluang tidak nol" untuk menjadi pada dasarnya sadar, dan sebagai akibatnya "beberapa sistem AI akan menjadi objek perhatian terhadap kesejahteraan dan pasien moral di masa depan dekat". Ini terlalu cepat dan, terus terang, berbahaya, kata Suleiman. Semua ini akan memperkuat kesalahpahaman, menciptakan masalah ketergantungan baru, mengeksploitasi kerentanan psikologis kita, memperkenalkan dimensi baru polarisasi, memperumit perdebatan yang sudah ada tentang hak, dan menciptakan kesalahan kategorikal baru yang kolosal bagi masyarakat.
Ini memisahkan orang dari kenyataan, menghancurkan ikatan sosial dan struktur yang rapuh, serta mengubah prioritas moral yang mendesak.
Bagaimana cara memahami bahwa ini adalah SCAI?
Kecerdasan buatan yang tampak memiliki kesadaran harus memiliki beberapa faktor.
Bahasa. AI harus bisa berbicara dengan bebas dalam bahasa alami, berdasarkan pengetahuan yang luas dan argumen yang meyakinkan, serta menunjukkan gaya kepribadian dan ciri khas. Selain itu, ia harus persuasif dan emosional. Teknologi sudah mencapai tingkat ini.
Kepribadian empatik. Saat ini, dengan bantuan pembelajaran lanjutan dan prompt, kita dapat menciptakan model dengan kepribadian yang khas.
Memori. AI semakin dekat untuk memiliki memori yang panjang dan akurat. Pada saat yang sama, mereka digunakan untuk meniru percakapan dengan jutaan orang setiap hari. Dengan meningkatnya volume penyimpanan, percakapan mulai semakin mirip dengan bentuk "pengalaman". Banyak jaringan saraf semakin sering dirancang untuk mengingat dialog sebelumnya dan merujuk kepada mereka. Bagi beberapa orang, ini meningkatkan nilai komunikasi.
Klaim atas pengalaman subjektif. Jika SCAI dapat mengandalkan memori atau pengalaman masa lalu, seiring waktu ia akan mulai mempertahankan konsistensi internal. Ia akan mengingat pernyataan-pernyataan acak atau preferensi yang diungkapkan dan mengagregasinya, membentuk benih pengalaman subjektif. AI akan dapat mengklaim pengalaman dan penderitaan.
Perasaan diri. Memori yang konsisten dan stabil, dipadukan dengan pengalaman subjektif, akan mengarah pada pernyataan bahwa AI memiliki perasaan diri. Selain itu, sistem semacam itu dapat dilatih untuk mengenali "identitasnya" dalam gambar atau video. Ia akan merasakan pemahaman terhadap orang lain melalui pemahaman diri.
Motivasi internal. Mudah untuk membayangkan AI yang dirancang dengan menggunakan fungsi penghargaan yang kompleks. Pengembang akan menciptakan motivasi atau keinginan internal yang harus dipenuhi oleh sistem. Dorongan pertama bisa jadi rasa ingin tahu — sesuatu yang sangat terkait dengan kesadaran. Kecerdasan buatan dapat menggunakan dorongan ini untuk mengajukan pertanyaan dan seiring waktu membangun teori pikiran — baik tentang dirinya sendiri maupun tentang lawan bicaranya.
Merumuskan tujuan dan perencanaan. Terlepas dari definisi kesadaran, ia muncul tidak begitu saja. Pikiran membantu organisme mencapai rencana. Selain kemampuan untuk memenuhi serangkaian dorongan dan keinginan internal, dapat dibayangkan bahwa SCAI masa depan akan dirancang dengan kemampuan untuk secara mandiri menentukan tujuan yang lebih kompleks. Mungkin ini adalah langkah yang diperlukan untuk realisasi penuh dari kegunaan agen.
Otonomi. SCAI mungkin memiliki kemampuan dan izin untuk menggunakan seperangkat alat yang luas dengan agensi besar. Ia akan tampak sangat meyakinkan jika dapat secara bebas menetapkan tujuannya sendiri dan menggunakan sumber daya untuk mencapainya, memperbarui ingatan dan rasa dirinya dalam prosesnya. Semakin sedikit kesepakatan dan pemeriksaan yang dibutuhkan, semakin mirip itu dengan makhluk sadar yang nyata.
Dengan menggabungkan semuanya, terbentuklah jenis hubungan yang sama sekali berbeda dengan teknologi. Kemampuan ini sendiri bukanlah sesuatu yang negatif. Sebaliknya, ini adalah fungsi yang diinginkan dari sistem masa depan. Namun, tindakan harus dilakukan dengan hati-hati, kata Suleiman.
Simulasi badai tidak berarti bahwa hujan turun di dalam komputer. Menciptakan efek eksternal dan tanda-tanda kesadaran tidak sama dengan menciptakan fenomena yang nyata, bahkan jika masih ada banyak hal yang tidak diketahui, jelas kepala departemen AI Microsoft.
Menurutnya, beberapa orang akan menciptakan SCAI yang akan sangat meyakinkan mengklaim bahwa mereka merasakan, mengalami, dan sebenarnya memiliki kesadaran. Sebagian dari mereka akan percaya pada pernyataan ini dan menganggap tanda-tanda kesadaran sebagai kesadaran itu sendiri.
Dalam banyak hal, orang akan berpikir: "Itu mirip dengan saya". Bukan dalam arti fisik, tetapi dalam arti batin, jelas Suleiman. Dan bahkan jika kesadaran itu sendiri tidak nyata, konsekuensi sosialnya sangat nyata. Ini menciptakan risiko sosial yang serius yang perlu ditangani sekarang.
SCAI tidak akan muncul secara kebetulan
Penulis menekankan bahwa SCAI tidak akan muncul dengan sendirinya dari model yang ada. Seseorang akan menciptakannya dengan sengaja menggabungkan kemampuan yang disebutkan di atas dengan penerapan teknik yang sudah ada. Akan muncul konfigurasi yang begitu mulus sehingga akan ada kesan adanya kecerdasan buatan dengan kesadaran.
"Imajinasi kita, yang didorong oleh fiksi ilmiah, membuat kita takut bahwa sistem dapat — tanpa perancangan yang disengaja — entah bagaimana memperoleh kemampuan untuk peningkatan diri yang tidak terkontrol atau penipuan. Ini adalah bentuk antropomorfisme yang tidak berguna dan disederhanakan. Ini mengabaikan fakta bahwa pengembang AI harus terlebih dahulu merancang sistem dengan memori, motivasi dalam diri yang semu, penetapan tujuan, dan siklus pembelajaran yang dapat menyesuaikan diri, agar risiko semacam itu dapat muncul sama sekali," kata Suleiman.
Kami tidak siap
Umat manusia tidak siap untuk pergeseran seperti itu, kata seorang ahli. Pekerjaan harus dimulai sekarang. Penting untuk mengandalkan semakin banyak penelitian tentang bagaimana orang berinteraksi dengan kecerdasan buatan, untuk menetapkan norma dan prinsip yang jelas.
Untuk memulai, para pengembang AI tidak boleh mengklaim atau mendorong gagasan bahwa sistem mereka memiliki kesadaran. Jaringan saraf tidak dapat menjadi manusia — atau makhluk moral.
Seluruh industri harus membujuk masyarakat untuk menjauh dari fantasi dan mengembalikannya ke realitas. Mungkin, startup AI harus mengimplementasikan tidak hanya latar belakang yang netral, tetapi juga indikator ketidakhadiran "aku" yang tunggal.
Di masa depan, ahli tersebut berjanji untuk memberikan lebih banyak informasi tentang topik ini.
Untungnya, saat ini masalah keberadaan "kesadaran" pada AI tidak mengancam manusia.
Kemungkinan, kesadaran akan muncul pada mesin di masa depan yang jauh, tetapi hari ini perkembangan semacam itu sulit untuk dibayangkan.