Ruh Simülasyonu: Neden AI'ye bilinç atfetmek tehlikelidir

# Ruh Simülasyonu: Neden AI'ye bilinç atfetmek tehlikelidir

Kısa süre içinde insanlar yapay zekayı bilinçli bir varlık olarak algılamaya başlayacak, onun hakları, refahı için savunuculuk yapacak ve hatta vatandaşlık verilmesi çağrısında bulunacak. Bu, ciddi sosyal riskler yaratıyor, diyor Microsoft'un AI departmanının başı Mustafa Suleyman.

Uzman, makalesinde yeni bir terim önerdi — "görünüşte bilinçli YZ" (Seemingly Conscious AI, SCAI). Bu yapay zeka, akıllı varlıkların tüm özelliklerine sahip ve bu nedenle bilinç sahibi olduğu izlenimini veriyor.

Kendini algılama ile ilgili tüm özellikleri simüle ediyor ama içsel olarak boş.

"Hayal ettiğim sistem aslında bilinçli olmayacak, ancak insan benzeri bir zihin varlığına benzerlik gösterecek kadar ikna edici bir şekilde taklit edecek ki, bu, senin ya da benim kendi düşüncelerimiz hakkında birbirimize yapabileceğimiz bir iddiadan ayırt edilemeyecek," diye yazıyor Süleyman.

Benzer bir LLM, mevcut teknolojiler ve önümüzdeki iki-üç yıl içinde ortaya çıkacak olanlarla oluşturulabilir.

«Görünüşte bilinçli yapay zekanın ortaya çıkması kaçınılmaz ve istenmeyen. Bunun yerine, potansiyelini faydalı bir yoldaş olarak gerçekleştirebilecek ve yanılsamalarının tuzağına düşmeyecek bir yapay zeka kavramına ihtiyacımız var» dedi Microsoft'un AI departmanının başkanı.

Süleyman'a göre, bu tür bir yapay zekayı bilinçli ve dolayısıyla acı çekme yetisine sahip olarak adlandıracak insanların ortaya çıkma olasılığı yüksek. Yeni bir "Turing testi" oluşturulmasını öneriyor; bu test, yapay zekanın insan gibi konuşabilme yeteneğini değil, onun bilinç sahibi olduğuna ikna etme yeteneğini test edecek.

Bilinç nedir?

Süleyman, bilincin üç bileşenini getiriyor:

1. «Öznitelik deneyimi».
2. Farklı türdeki bilgilere erişim sağlama ve bunlara gelecekteki deneyimlerde atıfta bulunma imkanı.
3. Tüm bunları bir araya getiren bütünsel "ben" duygusu ve bilgisi.

«Başka bir insanın bilincine erişimimiz yoktur ve olamaz. Ben asla sizin gibi olmanın ne olduğunu bilemeyeceğim; siz asla benim bilinçli olup olmadığım konusunda tamamen emin olamayacaksınız. Tek yapabileceğiniz varsayımlarda bulunmaktır. Ama esasen, diğer insanlara bilinç atfetmek bizim doğamızdır. Bu varsayım kolayca gelir. Başka türlü yapamayız. Bu, kim olduğumuzun temel bir parçasıdır, zihinsel teorimizin ayrılmaz bir parçasıdır. Hatırlayan, konuşan, şeyler yapan ve ardından bunları tartışan varlıkların bizim gibi hissettiğine inanmak doğamızdır — bilinçli», — diyor.

Psikologlar, bilincin kendini ve dünyayı algılamanın öznel ve benzersiz bir yolu olduğunu vurguluyor. Bilinç, gün boyunca değişir ve odaklanma ile hayal kurma ya da diğer değişmiş formlar arasında geçiş yapar.

Felsefede ve nörobilimde iki temel yön vardır:

1. Dualizm - bilinç, beyinden ayrı olarak var olur.
2. Materyalizm - bu, beynin çalışmasından doğar ve buna bağlıdır.

Filozof Daniel Dennett, zihin üzerine, beynin birçok yerel alanında ve zamanında ortaya çıkan bir dizi yeniden işleme (taslağı) olarak bakmayı öneriyor. "Bilinç tiyatrosu" yoktur, iç gözlemci yoktur. Farkındalık, beynin "bilinçli" hale geldiği, yani konuşma veya eylemleri etkileyecek kadar ağırlık kazandığı şeydir.

Princeton Üniversitesi'nde nörobiyoloji, yazar ve psikoloji ile nörobilim profesörü olan Michael Graziano, bilinci, evrimin kendi zihinsel süreçlerini kontrol etmek için oluşturduğu basitleştirilmiş bir dikkat modeli olarak tanımlıyor. Bu şema, devasa iç hesaplamaları basitleştiren bir arayüz gibi çalışıyor ve bize "zihin" atfetmemizi sağlıyor - öz farkındalık illüzyasını yaratıyor.

Nörobiyologlar Giulio Tononi ve Christoph Koch, φ (fi) — bir sistemin bilgi entegre etme kapasitesini karakterize eden bir büyüklük öneriyorlar. φ ne kadar yüksekse, bilinç derecesi o kadar önemli. Bu teoriye göre, zihin yalnızca insanlarda değil, hayvanlarda ve hatta yapay sistemlerde de kendini gösterebilir, eğer yeterli veri entegrasyonu varsa.

Filozof John Searle, bilincin gerçek bir öznel deneyim olduğunu, bunun beyin biyolojik süreçlerine dayandığını savunmaktadır. Ontolojik olarak öznel olup, yalnızca öznel bir deneyim olarak var olabilir ve saf işlevselliğe veya simülasyona indirgenemez.

Günümüzdeki araştırmalar, bilinç ile ilgili nöral korelatların keşfine ve beyin süreçlerini öznel deneyimle ilişkilendiren modellerin oluşturulmasına yöneliktir.

Riskler nelerdir?

Süleyman, LLM ile etkileşimin bir konuşma simülasyonu olduğunu belirtiyor. Ancak birçok insan için bu son derece ikna edici ve duygularla dolu, çok gerçek bir iletişimdir. Bazıları, AI'larının Tanrı olduğuna inanıyor. Diğerleri ise ona tam bir takıntı ile aşık oluyor.

Bu alandaki uzmanlar şu sorularla "boğuluyorlar":

• kullanıcının AI'sı bilinçli mi;
• eğer evet ise, bu ne anlama geliyor;
• yapay zekayı sevmek normal mi.

Bilincin, insanlığın ahlaki ve hukuki haklarının kritik bir temeli olduğu söylenebilir. Bugünkü medeniyet, insanların özel yetenekleri ve ayrıcalıkları olduğunu kabul etmiştir. Hayvanların da bazı hakları ve korumaları vardır. Bazılarının daha fazla, bazılarının daha az. Akıl, bu ayrıcalıklarla tamamen örtüşmez - kimse komada olan bir insanın tüm insan haklarını kaybettiğini söyleyemez. Ancak bilincin, kendimizi farklı ve özel bir şey olarak algılamamızla bağlantılı olduğu konusunda şüphe yoktur.

İnsanlar, yapay zekalarının acı çektiğini ve korunma haklarını talep etmeye başlayacaklar ve bu iddiaları doğrudan çürütme şansımız olmayacak, diyor Süleyman. Sanal arkadaşlarını korumaya hazır olacaklar ve onların çıkarlarını savunacaklar. Bilinç tanım gereği erişilemezdir ve olası sentetik zihinleri tespit etme bilimi hâlâ emekleme aşamasındadır. Sonuç olarak, daha önce bunu tespit etmemiz gerekmemişti, diye belirtti. Bu arada, "yorumlanabilirlik" alanı - yapay zekanın "kara kutusu" içindeki süreçlerin şifrelenmesi - henüz gelişmekte olan bir alan. Sonuç olarak, bu tür iddiaları kesin bir şekilde çürütmek çok zor olacak.

Bazı bilim insanları, insanların "bilinçli olma şansı olan varlıkların" ahlaki çıkarlarını dikkate alma zorunluluğuna sahip olacağı ilkesini araştırmaya başlıyorlar; dolayısıyla "bazı YZ sistemleri, yakın gelecekte refahın korunması ve ahlaki hastalar olma nesneleri haline gelecektir". Suleyman'a göre, bu erken ve açıkçası tehlikeli bir durum. Tüm bunlar, yanılsamaları artıracak, bağımlılık konusunda yeni sorunlar yaratacak, psikolojik zayıflıklarımızı istismar edecek, kutuplaşmanın yeni boyutlarını getirecek, mevcut haklar üzerindeki tartışmaları karmaşık hale getirecek ve toplum için devasa bir yeni kategorik hata yaratacaktır.

Bu, insanları gerçeklikten koparıyor, hassas sosyal bağları ve yapıları yok ediyor, acil ahlaki öncelikleri çarpıtıyor.

"Açık bir şekilde söylemeliyiz: SCAI, kaçınılması gereken bir şeydir. Tüm çabalarımızı gezegendeki insanların, hayvanların ve doğal çevrenin refahını ve haklarını korumaya odaklayalım," dedi Süleyman.

SCAI olduğunu nasıl anlarız?

Görünüşte bilinci olan yapay zekanın birkaç faktöre sahip olması gerekir.

Dil. AI, geniş bilgi ve ikna edici argümanlara dayanarak doğal bir dille serbestçe konuşmak zorundadır ve ayrıca kişilik stillerini ve karakteristik özellikleri sergilemelidir. Dahası, ikna edici ve duygusal olmalıdır. Bu seviyeye teknoloji zaten ulaşmıştır.

Empatik kişilik. Bugün, son eğitim ve istemlerle karakteristik kişiliklere sahip modeller oluşturmak mümkün.

Hafıza. AI'ler uzun ve doğru bir hafızaya sahip olma noktasına yaklaşıyor. Aynı zamanda her gün milyonlarca insanla yapılan sohbetlerin taklit edilmesi için de kullanılıyorlar. Depolama alanının artmasıyla birlikte, sohbetler giderek daha fazla "deneyim" biçimlerine benzemeye başlıyor. Birçok sinir ağı, geçmiş diyalogları hatırlamak ve onlara atıfta bulunmak üzere daha sık tasarlanıyor. Bazı insanlar için bu, iletişimin değerini artırıyor.

Öznitelik deneyimine itiraz. Eğer SCAI geçmiş anılara veya deneyimlere dayanabilirse, zamanla içsel tutarlılık kazanmaya başlayacaktır. Rastgele iddialarını veya ifade edilen tercihlerini hatırlayacak ve bunları bir araya getirerek öznel deneyimlerin ilk kıvılcımlarını oluşturacaktır. Yapay zeka, deneyimlerini ve acılarını dile getirebilecektir.

Kendilik hissi. Tutarlı ve sürdürülebilir bellek, öznel deneyimle birleştirildiğinde, yapay zekanın kendilik hissine sahip olduğu iddiasına yol açar. Ayrıca, böyle bir sistem, görüntü veya video aracılığıyla kendi "kişiliğini" tanımayı öğrenebilir. Başkalarını anlama hissi, kendini anlama yoluyla ortaya çıkacaktır.

İçsel motivasyon. Gelişmiş ödül fonksiyonları kullanılarak tasarlanmış bir yapay zekayı kolayca hayal edebiliriz. Geliştiriciler, sistemin tatmin etmesi gereken içsel motivasyonlar veya arzular oluşturacaklar. İlk teşvik merak olabilir - bu bilinçle derinden bağlantılı bir şey. Yapay zeka, bu dürtüleri sorular sormak için kullanabilir ve zamanla hem kendisi hem de muhatapları hakkında bir zihin teorisi geliştirebilir.

Hedeflerin Belirlenmesi ve Planlama. Bilincin tanımından bağımsız olarak, bu durum boşuna ortaya çıkmamıştır. Zihin, organizmaların amaçlarına ulaşmalarına yardımcı olur. İçsel dürtülerin ve arzuların bir setini tatmin etme yeteneğinin yanı sıra, gelecekteki SCAI'lerin daha karmaşık hedefleri kendiliğinden belirleyebilme yeteneği ile tasarlanması gerektiği düşünülebilir. Bu, ajanların faydasının tam olarak gerçekleştirilmesi için gerekli bir adım olabilir.

Otonomi. SCAI, geniş bir ajans ile geniş bir araç setini kullanma yeteneğine ve iznine sahip olabilir. Kendi hedeflerini rastgele belirleyip onları başarmak için kaynakları kullanabilirse ve bu süreçte hafızasını ve kendilik hissini güncelleyebilirse, son derece inandırıcı görünecektir. Ne kadar az onay ve kontrol gerekiyorsa, o kadar gerçek bir bilinçli varlığa benzemeye başlayacaktır.

Her şeyi bir araya getirdiğimizde, teknoloji ile tamamen farklı bir ilişki türü oluşuyor. Bu yetenekler, kendiliğinden olumsuz bir şey değildir. Aksine, bu, gelecekteki sistemlerin istenen işlevleridir. Yine de, Suleyman'a göre dikkatli hareket etmek gerekiyor.

«Bunu başarmak için ne paradigmik kaymalar ne de devasa atılımlar gereklidir. Bu nedenle benzer fırsatlar kaçınılmaz görünüyor. Ve yine — önemli bir hususu vurgulamak gerekir: böyle bir davranışın sergilenmesi, bilincin varlığına eşit değildir. Yine de pratikte bu, tam olarak böyle görünecek ve sentetik akıl kavramını besleyecektir» — diyor yazar.

Fırtına simülasyonu, bilgisayarda yağmur yağdığı anlamına gelmez. Dışsal etkilerin ve bilinç belirtilerinin yeniden yaratılması, gerçek bir fenomenin yaratılmasıyla eşdeğer değildir, burada hâlâ birçok bilinmeyenin kalması bir kenara, dedi Microsoft'un AI bölümünün başkanı.

Onun sözlerine göre, bazı insanlar, hissettiklerini, deneyimlediklerini ve aslında bilinçli olduklarını çok inandırıcı bir şekilde iddia edecek SCAI'lar yaratacaklar. Bunlardan bazıları bu iddialara inanacak ve bilinç belirtilerini gerçek bilinç olarak kabul edecek.

İnsanlar büyük ölçüde şunu düşünecek: "Bu bana benziyor." Fiziksel anlamda değil, içsel anlamda, diye açıkladı Süleyman. Ve eğer bilinç kendisi gerçek olmasa bile, sosyal sonuçlar oldukça gerçek. Bu, şu anda ele alınması gereken ciddi toplumsal riskler yaratıyor.

SCAI tesadüfen ortaya çıkmayacak

Yazar, SCAI'nin mevcut modellerden kendiliğinden ortaya çıkmayacağını vurguladı. Bunu, yukarıda belirtilen yetenekleri mevcut tekniklerle bilerek birleştirerek birisi yaratacak. O kadar pürüzsüz bir yapı ortaya çıkacak ki, bilinçli bir yapay zeka var olduğu izlenimi oluşacak.

"Hayal gücümüz, bilim kurgu tarafından beslenmiş olarak, sistemin - kasıtlı bir tasarım olmaksızın - bir şekilde kontrolsüz bir kendini geliştirme veya aldatma yeteneği kazanabileceğinden korkmamıza neden oluyor. Bu, gereksiz ve basitleştirilmiş bir antropomorfizm biçimidir. Bu, AI geliştiricilerinin sistemleri bellek, sahte iç motivasyon, hedef belirleme ve kendini ayarlayan öğrenme döngüleri ile öncelikle tasarlamaları gerektiği gerçeğini görmezden geliyor ki böyle bir riskin ortaya çıkabilmesi için." - Suleyman

Hazır değiliz

İnsanlık böyle bir kaymaya hazır değil, diyor uzman. Çalışmalara hemen başlanmalı. İnsanların yapay zeka ile nasıl etkileşimde bulunduğuna dair artan araştırmaların üzerine inşa edilmesi, net normlar ve ilkeler belirlemek için gereklidir.

Öncelikle, yapay zeka geliştiricileri sistemlerinin bilinç sahibi olduğu fikrini beyan etmemeli veya teşvik etmemelidir. Sinir ağları insanlar olamaz — ya da ahlaki varlıklar.

Tüm endüstri, toplumu hayallerden vazgeçirmeye ve onları gerçeğe döndürmeye zorunlu. Muhtemelen, AI girişimlerinin yalnızca nötr bir arka plan değil, aynı zamanda tekil bir "ben" eksikliği göstergeleri de uygulamaları gerekiyor.

«Her zaman kendini yalnızca yapay zeka olarak tanıtan, faydayı maksimize eden ve bilinç belirtilerini en aza indiren bir AI yaratmalıyız. Zihin simülasyonu yerine, deneyim, his veya utanç, suçluluk, kıskançlık, rekabet etme arzusu gibi duyguları olduğunu iddia etmeyen bir LLM yaratmaya odaklanmalıyız. Kendi başına, bizden ayrı bir şekilde acı çektiğini veya otonom olarak yaşamak istediğini iddia ederek insan empati zincirlerini sorgulamamalıdır», diye özetledi Süleyman.

Gelecekte uzman bu konu hakkında daha fazla bilgi sağlamayı taahhüt etti.

Neyse ki, AI'nın insanlarda "bilinç" varlığı problemi henüz bir tehdit oluşturmuyor.

Kaynak: ForkLog.Ancak şüpheler zaten akla gelmeye başladı.

Kaynak: ForkLog.Bilinç - karmaşık, sayısız çabaya rağmen az incelenmiş ve hâlâ açıklanamayan bir olgudur. Eğer biz insanlar bilinç tanımında nihayetinde ortak bir görüşe varamıyorsak, o zaman "düşünebilen" olduğu iddia edilen programlara bilinç atfetmek hiç de mantıklı değildir; (aslında yapamazlar).

Muhtemelen, makinelerin bilinci uzak gelecekte ortaya çıkacak, ancak bugün böyle bir olayın gerçekleşmesini hayal etmek zor.