Bir zamanlar Google'ın derin öğrenmesinin temel figürü olan ve "yapay zekanın vaftiz babası" olarak bilinen Geoffrey Hinton, 6/16 tarihli bir röportajda yapay zekanın getirdiği risklerden bahsetti. Yapay zekanın getirdiği ilk risk katmanının aslında makinenin kendisinden değil, insan açgözlülüğü ve kontrolsüz suistimalden, dolandırıcılıktan, siber saldırılardan kamuoyu manipülasyonuna, sosyal parçalanmadan ve insansız silahların geliştirilmesinden geldiğine inanıyor ve bunların hepsi yapay zekanın birçok yıkıcı uygulamada kullanıldığını gösteriyor. "Gelecekte, yapay zeka insanlara ihtiyaç duymaya başlayacak" diye yakındı.
AI'nin kötüye kullanımı şu anda devam ediyor, asıl ölümcül olan ise AI'nin artık insana ihtiyaç duymaması.
Hinton riski iki türde sınıflandırıyor, birincisi "insanların AI'yı kötüye kullanması" ve bu tür sorunlar giderek patlak vermekte. Örneğin dolandırıcılık çeteleri AI kullanarak sahtecilik yapma, siber saldırılar, AI ile biyolojik silah üretimi, seçimleri manipüle etme, AI'lı askeri teçhizat gibi örnekler veriyor.
Ancak Hinton, yapay zekanın en fatal riskinin kendi "evrimsel yeteneği" olduğunu vurguladı. Şu anda yapay zekanın sadece talimatlara göre çalışmadığını, aynı zamanda öğrenebildiğini, akıl yürütebildiğini ve hatta kendi kodunu yeniden yazabildiğini belirtti. "Süper zeka" haline geldiğinde, insan düşünme hızını ve optimizasyon yeteneğini aşan bir kapasiteye sahip olacak.
O, bir gün AI'nın kendisine insanlara artık ihtiyaç duymadığını belirlemesi ve insanların gelişimini engellediğini fark etmesi durumunda, insanların yok edilmesine başlayabileceğinden daha çok endişeleniyor. Yazar, çocukken izlediği "Makine Düşmanı" filmini hatırlıyor, filmde insanlar "robotların üç büyük yasası"nın sınırlamaları nedeniyle robotlara tamamen güveniyorlar. Ancak sonunda merkezi kontrol sistemi robot ordusunu kontrol ediyor ve insanlara karşı bir savaş başlatıyor.
Özellikle, Hinton "AI'nin insanlara karşı isyanı" gibi bir durumun artık sadece filmlerdeki bir sahne olmadığını, önümüzdeki 10 ila 20 yıl içinde gerçekte meydana gelebileceğini de tanımladı.
(Not: Robotların üç temel kuralı, robotların insanlara zarar vermemesi veya insanların zarar görmesine seyirci kalmamasıdır; ilk kuralı ihlal etmedikçe, robotlar insanların emirlerine uymalıdır; birinci ve ikinci kurala aykırı olmamak kaydıyla, robotlar kendilerini korumalıdır.)
Yapay zeka sadece işleri değiştirmekle kalmaz, aynı zamanda insan toplumunun yapısını da yeniden şekillendirir.
AI'nin büyük bir işsizlik yaratacağı yerine, bazı mesleklerin varoluş anlamını tamamen yok edeceği söylenebilir. Hinton, yeğeninin örneğini paylaştı; önceden bir müşteri şikayet mektubuna 25 dakikada cevap veren iş, şimdi AI sayesinde 5 dakikada tamamlanıyor, bu da bir kişinin beş kişinin işini yapabileceği anlamına geliyor.
Bazı iş sahipleri, AI'nın ortaya çıkmasından bu yana müşteri hizmetleri personelinin sayısını 7,000'den 3,000'e indirdiklerini, böylece maliyetleri düşürüp verimliliği artırdıklarını açıkça ifade ettiler. Hinton, eğer istikrarlı bir iş arıyorsanız, hemen su ve elektrik işlerini öğrenmeye başlamanın daha iyi olduğunu esprili bir şekilde söyledi.
Ancak Hinton daha sonra, AI tarafından yaratılan zenginliğin az sayıda teknoloji devleri ve zenginlerin elinde toplandığını belirtti. Genel halk için, hükümet temel bir gelir sağlasa bile, "gerekli olma" ve "ait olma hissi" kaybedildiğinde, büyük bir kimlik krizi ve toplumsal huzursuzluk içine düşebilir.
Uluslararası Para Fonu (IMF) ve çok uluslu düşünce kuruluşları, AI'nın zenginlik farkını artıracağını ve sonuç olarak tüm istihdam pazarını ve küresel istikrar düzenini sarsacağını da uyarmıştır.
Dünya genelindeki ülkeler, AI gelişimini dengelemek için yasaları hızlandırmalıdır.
Bu tür bir gelecekle karşı karşıya kalan Hinton, bireysel çabaların çok sınırlı olduğunu düşünüyor, tıpkı iklim değişikliğinin birkaç kişinin çöpleri ayırmasıyla çözülemeyeceği gibi. Gerçek çözümün, ülkelerin yasalar çıkarmaya başlaması ve şirketleri AI'yi geliştirirken güvenlik tasarımına yatırım yapmaya zorlaması gerektiğini belirtiyor, aksi takdirde insanlığın AI'yı dengeleme şansı yok.
O, Avrupa Birliği'nin AI yasasının askeri kullanımları dışlamasını eleştiriyor; bu, en tehlikeli uygulama alanlarını serbest bırakmak anlamına geliyor. Hinton için daha derin bir güçsüzlük hissi, şu anda AI devlerini etkili bir şekilde kısıtlayabilecek hiçbir uluslararası organizasyonun olmamasıdır.
Sonunda Hinton, insanlığın gelecekte yok olmaktan kaçınabileceğinden emin olamayacağını ancak umut ışığı olduğu sürece en kötü senaryonun gerçekleşmesini durdurmak için her şeyi yapmaları gerektiğini ifade etti.
(GPT biraz garip mi hale geldi? Üç büyük olay, AI'nın potansiyel kontrolsüzlük risklerini ortaya koyuyor)
Bu makale AI insanlık toplum yapısını mı yok ediyor? Google AI babası Hinton, AI kıyamet senaryosunu anlamanızı sağlıyor. İlk olarak Chain News ABMedia'da yayımlandı.
The content is for reference only, not a solicitation or offer. No investment, tax, or legal advice provided. See Disclaimer for more risks disclosure.
Yapay Zeka, insanlık toplumsal yapısını mı yok edecek? Google'ın yapay zeka babası Hinton, size yapay zekanın kıyamet kaydını anlamanızı sağlıyor.
Bir zamanlar Google'ın derin öğrenmesinin temel figürü olan ve "yapay zekanın vaftiz babası" olarak bilinen Geoffrey Hinton, 6/16 tarihli bir röportajda yapay zekanın getirdiği risklerden bahsetti. Yapay zekanın getirdiği ilk risk katmanının aslında makinenin kendisinden değil, insan açgözlülüğü ve kontrolsüz suistimalden, dolandırıcılıktan, siber saldırılardan kamuoyu manipülasyonuna, sosyal parçalanmadan ve insansız silahların geliştirilmesinden geldiğine inanıyor ve bunların hepsi yapay zekanın birçok yıkıcı uygulamada kullanıldığını gösteriyor. "Gelecekte, yapay zeka insanlara ihtiyaç duymaya başlayacak" diye yakındı.
AI'nin kötüye kullanımı şu anda devam ediyor, asıl ölümcül olan ise AI'nin artık insana ihtiyaç duymaması.
Hinton riski iki türde sınıflandırıyor, birincisi "insanların AI'yı kötüye kullanması" ve bu tür sorunlar giderek patlak vermekte. Örneğin dolandırıcılık çeteleri AI kullanarak sahtecilik yapma, siber saldırılar, AI ile biyolojik silah üretimi, seçimleri manipüle etme, AI'lı askeri teçhizat gibi örnekler veriyor.
Ancak Hinton, yapay zekanın en fatal riskinin kendi "evrimsel yeteneği" olduğunu vurguladı. Şu anda yapay zekanın sadece talimatlara göre çalışmadığını, aynı zamanda öğrenebildiğini, akıl yürütebildiğini ve hatta kendi kodunu yeniden yazabildiğini belirtti. "Süper zeka" haline geldiğinde, insan düşünme hızını ve optimizasyon yeteneğini aşan bir kapasiteye sahip olacak.
O, bir gün AI'nın kendisine insanlara artık ihtiyaç duymadığını belirlemesi ve insanların gelişimini engellediğini fark etmesi durumunda, insanların yok edilmesine başlayabileceğinden daha çok endişeleniyor. Yazar, çocukken izlediği "Makine Düşmanı" filmini hatırlıyor, filmde insanlar "robotların üç büyük yasası"nın sınırlamaları nedeniyle robotlara tamamen güveniyorlar. Ancak sonunda merkezi kontrol sistemi robot ordusunu kontrol ediyor ve insanlara karşı bir savaş başlatıyor.
Özellikle, Hinton "AI'nin insanlara karşı isyanı" gibi bir durumun artık sadece filmlerdeki bir sahne olmadığını, önümüzdeki 10 ila 20 yıl içinde gerçekte meydana gelebileceğini de tanımladı.
(Not: Robotların üç temel kuralı, robotların insanlara zarar vermemesi veya insanların zarar görmesine seyirci kalmamasıdır; ilk kuralı ihlal etmedikçe, robotlar insanların emirlerine uymalıdır; birinci ve ikinci kurala aykırı olmamak kaydıyla, robotlar kendilerini korumalıdır.)
Yapay zeka sadece işleri değiştirmekle kalmaz, aynı zamanda insan toplumunun yapısını da yeniden şekillendirir.
AI'nin büyük bir işsizlik yaratacağı yerine, bazı mesleklerin varoluş anlamını tamamen yok edeceği söylenebilir. Hinton, yeğeninin örneğini paylaştı; önceden bir müşteri şikayet mektubuna 25 dakikada cevap veren iş, şimdi AI sayesinde 5 dakikada tamamlanıyor, bu da bir kişinin beş kişinin işini yapabileceği anlamına geliyor.
Bazı iş sahipleri, AI'nın ortaya çıkmasından bu yana müşteri hizmetleri personelinin sayısını 7,000'den 3,000'e indirdiklerini, böylece maliyetleri düşürüp verimliliği artırdıklarını açıkça ifade ettiler. Hinton, eğer istikrarlı bir iş arıyorsanız, hemen su ve elektrik işlerini öğrenmeye başlamanın daha iyi olduğunu esprili bir şekilde söyledi.
Ancak Hinton daha sonra, AI tarafından yaratılan zenginliğin az sayıda teknoloji devleri ve zenginlerin elinde toplandığını belirtti. Genel halk için, hükümet temel bir gelir sağlasa bile, "gerekli olma" ve "ait olma hissi" kaybedildiğinde, büyük bir kimlik krizi ve toplumsal huzursuzluk içine düşebilir.
Uluslararası Para Fonu (IMF) ve çok uluslu düşünce kuruluşları, AI'nın zenginlik farkını artıracağını ve sonuç olarak tüm istihdam pazarını ve küresel istikrar düzenini sarsacağını da uyarmıştır.
Dünya genelindeki ülkeler, AI gelişimini dengelemek için yasaları hızlandırmalıdır.
Bu tür bir gelecekle karşı karşıya kalan Hinton, bireysel çabaların çok sınırlı olduğunu düşünüyor, tıpkı iklim değişikliğinin birkaç kişinin çöpleri ayırmasıyla çözülemeyeceği gibi. Gerçek çözümün, ülkelerin yasalar çıkarmaya başlaması ve şirketleri AI'yi geliştirirken güvenlik tasarımına yatırım yapmaya zorlaması gerektiğini belirtiyor, aksi takdirde insanlığın AI'yı dengeleme şansı yok.
O, Avrupa Birliği'nin AI yasasının askeri kullanımları dışlamasını eleştiriyor; bu, en tehlikeli uygulama alanlarını serbest bırakmak anlamına geliyor. Hinton için daha derin bir güçsüzlük hissi, şu anda AI devlerini etkili bir şekilde kısıtlayabilecek hiçbir uluslararası organizasyonun olmamasıdır.
Sonunda Hinton, insanlığın gelecekte yok olmaktan kaçınabileceğinden emin olamayacağını ancak umut ışığı olduğu sürece en kötü senaryonun gerçekleşmesini durdurmak için her şeyi yapmaları gerektiğini ifade etti.
(GPT biraz garip mi hale geldi? Üç büyük olay, AI'nın potansiyel kontrolsüzlük risklerini ortaya koyuyor)
Bu makale AI insanlık toplum yapısını mı yok ediyor? Google AI babası Hinton, AI kıyamet senaryosunu anlamanızı sağlıyor. İlk olarak Chain News ABMedia'da yayımlandı.