Anasayfa / Bilim-Teknoloji / Ondan ‘korunmak’ için 10 milyon dolar bağış

Ondan ‘korunmak’ için 10 milyon dolar bağış

ABD’li milyarder girişimci Elon Musk, yapay zeka konusundaki ilerlemelerin insanlığa “faydalı” bir çizgide tutulabilmesi için bir sivil toplum kuruluşuna 10 milyon dolar bağışladı.

Hayatın Geleceği Enstitüsü (The Future of Life Institute) kendilerine bağışlanan apranın 37 ayrı projede kullanılacağını söylüyor.
PayPal’ın ve SpaceX’in kurucusu olan Elon Musk, kuruma bağışı Ocak ayında yaptı.

Musk “Yapay zeka güvenliğinin önemli olduğunu söyleyen önde gelen yapay zeka araştırmacıları işte burada” diyen Musk, “Onlara katılıyorum, bu yüzden yapa zekayı insan yararına bir çizgide tutmak için 10 milyon dolar bağışlıyorum” şeklinde konuşuyor.

Bu projelerin arasında bütçesi 136 bin dolar olan ve yapay zeka silahlarını “anlamlı insan kontrolünde” tutmak için araştırma yapılmasını öngören bir çalışma da var.
Yapay zeka araştırma merkezi için de kenara ayrılan 1.5 milyon dolar bulunuyor.

Potansiyel riskler
Bu ek fonun kaynağı ise Açık Yardımseverlik Projesi (Open Philanthropy Project).
Yapay zeka merkezi Birleşik Krallık’ta Oxford ve Cambridge üniversiteleri tarafından yönetilecek.
Hayatın Geleceği Enstitüsü şu ana kadar tüm dünyadan konu hakkında 300 fon başvurusu aldıklarını söylüyor.

Robotlar giderek daha zeki hale gelip insanların yönetiminden daha bağımsız hale gelmeye başladığından bu yana, Microsoft’un kurucusu Bill Gates ve bilim insanı Stephen Hawking yapay zekanın potansiyel riskleri hakkında uyarılarda bulunan tanınmış isimlerden.
Enstitünün başkanı Max Tegmark, Terminatör gibi Hollywood filmlerinde resmedilen kabus senaryolarıyla ilgilenmediklerini söyleyerek şöyle bir uyarıda bulunuyor:
“Terminatör filminin senaryosundaki tehlike bunun bir gün gerçek olabileceği değil, yapay zekanın geleceğinin önümüze getirdiklerini görmemize engel olması.”
“Biz odağımızı kaybetmiyoruz ve bugünkü fonlarla desteklene 37 ekip gerçek konuları çözmeye yardımcı olacak.”

haberin_çizgisi

İLGİLİ HABERLER

Yazılım devi Microsoft'un kurucusu Bill Gates, insanların yapay zekanın yarattığı tehditten kaygı duyması gerektiğini söyledi.

Yazılım devi Microsoft’un kurucusu Bill Gates, insanların yapay zekanın yarattığı tehditten kaygı duyması gerektiğini söyledi.

Gates yapay zekanın kontrol edilemeyecek kadar büyümesinden endişe etmeyen insanları anlayamadığını belirtti.
Bill Gates bu sözleriyle, Microsoft Research’un yöneticilerinden Eric Horvitz’e ters düşmüş oldu.
Horvitz yapay zekayı temel bir tehdit olarak görmediğini ve ekibinin dörtte birinin yapay zeka üzerine çalıştığını söylemişti.

Sosyal paylaşım sitesi Reddit’te soruları yanıtlayan Gates “Ben yapay zekadan kaygı duyanlar grubundayım. Önce makineler bizim için çok iş yapacak ve süper zeki olmayacak. Bunu iyi yönetebilirsek çok olumlu olacak. Ancak sonraki yıllarda zeka endişe yaratacak kadar güçlenecek. İnsanların neden kaygı duymadığını anlayamayan Elon Musk ve diğerlerine katılıyorum.” dedi.
‘Microsoft başarısız olsaydı, yapay zeka üzerine çalışırdım’

Prof. Hawking, yapay zekaya sahip makinelerin insan ırkının sonunu getirebileceğini söylemişti.
Bill Gates, Reddit’te soruları yanıtlarken çekincelerine rağmen “Microsoft başarısız olsaydı, yapay zeka alanında çalışırdım” diye yazdı.

Gates önümüzdeki 30 yıl içinde şirketinin hiç olmadığı kadar ilerleme kaydedeceğini belirterek, “Hatta önümüzdeki 10 yıl içinde ses ve görüntü algılama ve çeviri çok başarılı olacak” dedi.

Bill Gates bu süre içinde robotların meyve toplama, hastanelerde hastaları taşıma gibi işler yapacağını, makinelerin görme ve hareket kabiliyetleri gerektiren işlerde daha yaygın kullanılacağını kaydetti.

SpaceX İcra Kurulu Başkanı Musk ve Prof. Stephen Hawking de daha önce yapay zekanın kontrol edilemeyecek bir noktaya gelebileceği uyarısında bulunmuştu.

Yapay zeka insanlığın sonunu getirebilir

Dünyanın önde gelen bilim insanlarından Profesör Stephen Hawking yapay zekanın insanlığın sonunu getirebileceği uyarısında bulundu.

Dünyanın önde gelen bilim insanlarından Profesör Stephen Hawking yapay zekanın insanlığın sonunu getirebileceği uyarısında bulundu.

BBC’ye konuşan Hawking, yapay zekanın çok geliştiğini ve faydalı olduğunu ancak insan zekasını geçebilecek bir düzeye gelmesinden endişe duyduğunu söyledi.
Hawking, “Yapay zeka, kendisini geliştirmeyi sürdürebilir ve hatta kendisini yeniden biçimlendirebilir. Son derece yavaş bir biyolojik evrimle sınırlı olan insanlar, bu tür bir güçle yarışamaz” dedi.

ALS (Amyotrofik Lateral Skleroz) hastalığı olan dahi fizikçi de yapay zeka teknolojisi aracılığıyla konuşabiliyor.
Intel’e ait bir akıllı telefon klavye uygulaması olarak çalışan bu teknoloji, Prof. Hawking’in ne düşündüğünü anlayabiliyor ve kullanmak isteyebileceği kelimeleri önerebiliyor.
Herkes karamsar değil
Bununla birlikte, yapay zeka konusunda bilim insanlarının hepsi Hawking kadar karamsar değil.
Nitekim aynı insanlar gibi sohbet edebilen Cleverbot adlı yazılımın yaratıcısı Rollo Carpenter’a göre, insanlar uzunca bir süre daha teknolojinin kontrolüne sahip olacak.

Carpenter'a göre hâlâ tam anlamıyla yapay zeka üretebilmek için gereken algoritmaları geliştirebilmiş değiliz ve bu ancak önümüzdeki birkaç on yılda mümkün olabilecek.

Carpenter’a göre hâlâ tam anlamıyla yapay zeka üretebilmek için gereken algoritmaları geliştirebilmiş değiliz ve bu ancak önümüzdeki birkaç on yılda mümkün olabilecek.

Üstelik Carpenter, “Bir makine gelecekte insan zekasını geçse bile bu bize yardımcı olur mu, biz bunu tamamen göz ardı eder miyiz, yoksa tamamen yok mu ederiz, bunu tam olarak bilemeyiz” diye konuşuyor.
Milyonlarca insan işsiz kalabilir
Yapay zekanın olumlu bir güç olacağı yorumları yapılsa da, makinelerin geleceği hakkında kaygılı olan sadece Stephen Hawking değil.
Kısa vadede, akıllı makinelerin belli işlerde insanların yerini alacağı gibi bir endişe de var.
Uzun vadede ise teknoloji uzmanı Elon Musk’ın uyardığı gibi, “yapay zeka karşımızdaki en büyük varoluşsal tehlike” olabilir.

haberin_çizgisi

İLGİLİ HABER

Yapay zeka insanlığın sonu olacak korkusu gerçekçi mi?

Giderek artan sayıda bilim insanı, mühendis ve sanatçıların söylediklerine inanırsak 'zavallı et ve kemik yığınlarına' yani insanoğluna acımak gerekiyor.

Giderek artan sayıda bilim insanı, mühendis ve sanatçıların söylediklerine inanırsak ‘zavallı et ve kemik yığınlarına’ yani insanoğluna acımak gerekiyor.

Profesör Stephen Hawking de insanoğlu tam anlamıyla zeki bir aygıt ya da yazılım geliştirdikten sonra neler olacağı konusunda endişelenen uzmanlar listesine katıldı.

Hawking’in korkusu, yapay zekânın insanoğlunun sonu anlamına gelebileceği.
Aynı endişeler geçen Ekim’de Tesla firmasının sahibi Elon Musk tarafından da dile getirilmişti.

Musk, kontrol edilmesi güç boyutlara ulaşan yapay zekânın insan nesli için “en büyük tehdit” olduğunu belirtti.
Musk sonumuzun zalim ve hesapçı yapay zekânın ayakları altında mı geleceğini merak ettiğini söylüyor.
Oxford Üniversitesi Profesörü Nick Bostrom da, önümüzdeki yüzyıl içinde yapay zekâ yönetiminde bir kıyamet yaşayabileceğimizi kaydetti.

Google’ın başmühendisi Ray Kurzweil de yapay zekadan kaygılı. Ama başka nedenlerden.
Kurzweil, süper-zekâ yazılımlarını kısıtlayamaya gücü yetecek ahlak kodları yazmanın çok zor olabileceğini söyledi.

Bilim kurgu filmleri gerçek mi oluyor?
Terminatör serisi, 2001 Uzay Macerası, Matrix, Bıçak Sırtı gibi birçok filmde güçsüz insanoğluna karşı yapay zekâyla yönetilen düşmanlar karşı karşıya getirilmişti.

Spike Jonze imzalı ‘Aşk (Her)’ filmi de, insanla işletim sistemi arasında geçen bir aşk hikâyesini, Alex Garland’ın yakında gösterime girecek ‘Ex Machina’ filmi de insanoğlunun yapay zekâyla çekişmesini konu ediyor.

Avengers-Yenilmezler’ serisinin yeni filmi ise insan neslini sona erdirmeyi amaçlayan deha yapay zekâ Ultron’la süper kahramanların savaşını anlatıyor. Ultron Yenilmezler’den Thor ve Demir Adam gibi süper kahramanlar olmasaydı kolaylıkla amacına ulaşabilecekti.

Zavallı İnsanoğlu
Bugün bile insan zekâsı inceliklerinin, bilgisayarların problem çözümünde kullandıkları güç karşısında ne kadar zayıf kalabileceğinin işaretlerini görüyoruz.
Satranç bilgisayarları düzenli olarak en iyi oyuncular dışındaki herkesi yeniyor.

Karışık matematik işlemleri diğer bilgisayarlara nispeten çok daha basit olan cebinizdeki akıllı telefon için bile çocuk oyuncağı.
Bilgisayar devi IBM’in Watson isimli süper-bilgisayarı Türkiye’de “Büyük Risk” adıyla yayımlanan Jeopardy isimli bilgi yarışmasının Amerikan versiyonunda en iyilerle yarıştı ve kazandı.

Bunun dışında birçok alanda bilgisayarların problemlere insanların aklına gelmeyen orijinal ve yaratıcı çözüm ürettikleri çok sayıda örnek var.
Makineler yavaş ama emin şekilde insanlardan daha akıllı hale geliyor, insanların en iyi oldukları uğraşlar ise gün geçtikçe azalıyor.

İnsansız uçaklarla ölüm
Peki, tüm bu tehlikeler gerçek mi?
İnsanların ilk gerçek anlamda akıllı bir bilgisayar programını yazarsa, daha sonra bu programın kendisi daha akıllı sürümlerini geliştirebilir mi? İnsanoğlu için gerçekten böyle bir tehlike işareti var mı?

Kaliforniya’daki Singularity Üniversitesi Yapay Zekâ ve Robotlar Bölümü Başkanı Neil Jacobstein “belki” diyor.
Jacobstein, “Yapay zekânın hiçbir ahlaki bedeli olmadan gelebileceğini sanmıyorum.Şimdi çalışmaya başlarsak kontrolsüz şekilde yükselen yapay zekâ karşısında kurtulma şansımızı önemli derecede gelişebilir” diye konuşuyor.

Jacobstein’a göre “yapmamız gereken, yarattıklarımızın ortaya çıkartabileceği sonuçları göz önüne almak ve toplumlarımızı, kurumlarımızı yaşanabilecek bu büyük değişikliklere hazırlamak”.

BBC’ye konuşan Jacobstein, “Muhtemel riskleri sezmek ve ileriye dönük adımlar atmak için harika bir fırsatımız olduğunu ve bu risklere karşı yedekli ve aşamalı önlemler geliştirmek için elimizden geleni yapmamız gerektiğini düşünüyorum” dedi.
Imperial College Bilişsel Robot Profesörü Murray Shanahan, yapay zekâ üzerinde yoğun olarak çalışanların şimdiye kadar geliştirdikleri yapay zekaya insanları öldürmeye çalışmalarını önleyecek bir güvenlik sistemi kurmadıklarını söyledi.

Shannan “Yapay zekâ üzerinde çalışan herkesin bu endişeleri önemli bulduğunu söyleyemeyiz. Ama toplum böyle düşündüğüne göre, konu daha ciddiye alınmalı. En iyisi iki uç noktanın ortasında durmak. Şu an panik yapmak için bir neden yok. Önümüzdeki 10-20 sene içinde insan düzeyinde bir yapay zekâ geliştireceğimizi düşünmüyorum. Bunun yanı sıra, yapay zekâ üzerinde çalışanların Stephen Hawking ve diğerlerinin endişeleri hakkında düşünmeye başlamaları iyi bir fikir ” diyor.

Murray Shanahan niye henüz panik yapmamamız gerektiğini anlatırken de “Gerçek anlamda akıllı makineler geliştirmek için önümüzdeki en büyük engel, makine temelli zekânın nasıl yaratılacağı ve bu engel henüz aşılmadı. Henüz en iyi yolun insan doğasını kopyalamak mı, yoksa işe sıfırdan başlamak mı olduğunu pek bilmiyoruz ” diye konuşuyor.

Asıl tehlike insanların kendisi
Bilim kurgu yazarı Charles Stross, yapay zekâ sistemlerinin özünde tehlike bulunmadığını düşünüyor. Çünkü bizim yerimize düşünebilmeleri ya da aniden insan efendileri yerine kendilerini memnun etmek istediklerini fark edebilmeleri pek mümkün değil.

Stross, “Hiçkimse, bizim kullanışlı bulduğumuz işleri yapmak yerine, kendi kendine kararlar veren bir yapay zekâ istemez. Çünkü bunun muhtemel sonucu kendine bir kâse cips alıp koltuğa yayılan ve televizyon uydu kumandasını ele geçiren bir yapay zekâ olur” dedi.

İlk bakışta tüm yapay zekâ çalışmaları insanlar için sorun yaratabilecek bağımsızlık ve bilinçten yoksun sistemlere odaklanıyormuş gibi görünüyor.
Stross, “Bana göre şu anda görülen ya da gelecekte görebileceğimiz yapay zekalar tehlikeli olabilir. Ama bunun tek sebebi bu yapay zekanın hizmet ettiği insanlar olur.” diyor.

Charles Stross ayrıca “Pilotsuz uçaklar insanları öldürmez, pilotsuz uçaklara koordinatlar (X,Y) vererek görevlendiren ve insanları öldürmek için Hellfire füzeleri göndertenlerdir insanları öldüren. Asıl bu aygıtları kontrol edenlerin niyetleri sorgulanmalı ” diye konuşuyor.

haberin_çizgisi3

Hakkında Akademi Portal

Akademi Portal

Cevapla