“Medeniyet hakkında sevdiğimiz her şey zekanın bir ürünüdür, bu nedenle insan zekasını yapay zeka ile güçlendirmeyi, teknolojiyi faydalı tutmayı başardığımız sürece, medeniyetin daha önce hiç olmadığı kadar gelişmesine yardımcı olma potansiyeline sahiptir.”

Max Tegmark, Geleceğin Yaşam Enstitüsü Başkanı

AI NEDİR?

SIRI’den sürücüsüz arabalara kadar, yapay zeka (AI) hızla ilerliyor. Bilim kurgu genellikle AI’yı insan benzeri özelliklere sahip robotlar olarak tasvir ederken, AI, Google’ın arama algoritmalarından IBM’in Watson’ına ve otonom silahlara kadar her şeyi kapsayabilir.

Günümüzde yapay zeka, dar bir görevi (örneğin, yalnızca yüz tanıma veya yalnızca internet aramaları veya yalnızca araba kullanmak için) gerçekleştirmek üzere tasarlandığı için dar AI (veya zayıf AI) olarak bilinir. Bununla birlikte, birçok araştırmacının uzun vadeli hedefi, genel AI (YGZ veya güçlü AI) yaratmaktır. Dar AI, satranç oynamak veya denklemleri çözmek gibi belirli görevi ne olursa olsun insanlardan daha iyi performans gösterse de, genel AI neredeyse her bilişsel görevde insanlardan daha iyi performans gösterecektir.

NEDEN AI GÜVENLİĞİ ARAŞTIRMASI?

Yakın vadede, yapay zekanın toplum üzerindeki etkisini faydalı tutma hedefi, ekonomi ve hukuktan doğrulama, geçerlilik, güvenlik ve kontrol gibi teknik konulara kadar birçok alanda araştırmaları motive ediyor. Dizüstü bilgisayarınızın çökmesi veya saldırıya uğraması küçük bir sıkıntıdan biraz daha fazlası olsa da, arabanızı, uçağınızı, kalp pilinizi, otomatik ticaretinizi kontrol ediyorsa, bir AI sisteminin yapmasını istediğiniz şeyi yapması daha da önemli hale gelir sisteminiz veya elektrik şebekeniz için. Bir başka kısa vadeli zorluk, ölümcül otonom silahlarda yıkıcı bir silahlanma yarışını önlemektir.

Uzun vadede, önemli bir soru, güçlü AI arayışı başarılı olursa ve bir AI sistemi tüm bilişsel görevlerde insanlardan daha iyi hale gelirse ne olacağıdır. I.J.’nin belirttiği gibi. 1965’te iyi, daha akıllı AI sistemleri tasarlamanın kendisi bilişsel bir görevdir. Böyle bir sistem, insan zekasını çok geride bırakan bir zeka patlamasını tetikleyerek, potansiyel olarak özyinelemeli bir kendini geliştirmeye maruz kalabilir. Devrim niteliğindeki yeni teknolojiler icat ederek, böyle bir süper zeka savaşı, hastalığı ve yoksulluğu ortadan kaldırmamıza yardımcı olabilir ve bu nedenle güçlü yapay zekanın yaratılması insanlık tarihindeki en büyük olay olabilir. Bununla birlikte, bazı uzmanlar, yapay zekanın süper akıllı hale gelmeden önce hedeflerimizi bizimkilerle aynı hizaya getirmeyi öğrenmedikçe, bunun son olabileceğine dair endişelerini dile getirdiler.

Güçlü yapay zekaya ulaşılıp ulaşılamayacağını sorgulayanlar ve süper akıllı yapay zekanın yaratılmasının faydalı olacağı konusunda ısrar edenler var. FLI’da bu olasılıkların her ikisinin de farkındayız, ancak aynı zamanda bir yapay zeka sisteminin kasıtlı veya kasıtsız olarak büyük zarar verme potansiyelinin de farkındayız. Bugün araştırmaların gelecekte bu tür potansiyel olumsuz sonuçlara daha iyi hazırlanmamıza ve bunları önlememize yardımcı olacağına ve böylece tuzaklardan kaçınırken yapay zekanın faydalarından yararlanacağına inanıyoruz.

AI NASIL TEHLİKELİ OLABİLİR?

Çoğu araştırmacı, süper zeki bir yapay zekanın sevgi veya nefret gibi insani duygular sergilemesinin olası olmadığı ve yapay zekanın kasıtlı olarak iyi niyetli ya da kötü niyetli olmasını beklemek için hiçbir neden olmadığı konusunda hemfikirdir. Bunun yerine, uzmanlar yapay zekanın nasıl bir risk haline gelebileceğini düşünürken büyük olasılıkla iki senaryo düşünüyor:

AI, yıkıcı bir şey yapmak için programlanmıştır: Otonom silahlar, öldürmeye programlanmış yapay zeka sistemleridir. Yanlış kişinin elinde bu silahlar kolaylıkla toplu kayıplara neden olabilir. Ayrıca, bir AI silahlanma yarışı, istemeden, aynı zamanda toplu kayıplarla sonuçlanan bir AI savaşına yol açabilir. Düşman tarafından engellenmekten kaçınmak için, bu silahlar basitçe “kapatılması” son derece zor olacak şekilde tasarlanacaktı, böylece insanlar makul bir şekilde böyle bir durumun kontrolünü kaybedebilirdi. Bu risk, dar AI ile bile mevcut olan ancak AI zekası ve özerklik seviyeleri arttıkça büyüyen bir risktir.

AI faydalı bir şey yapmak için programlanmıştır, ancak amacına ulaşmak için yıkıcı bir yöntem geliştirir: Bu, AI’nın hedeflerini bizimkilerle tam olarak aynı hizaya getirmeyi başaramadığımızda ortaya çıkabilir, ki bu çarpıcı bir şekilde zordur. İtaatkar bir akıllı arabadan sizi havaalanına mümkün olduğunca çabuk götürmesini isterseniz, sizi oraya helikopterler tarafından kovalanıp tam anlamıyla istediğinizi yaparak götürebilir. Süper akıllı bir sistem, iddialı bir jeomühendislik projesiyle görevlendirilirse, ekosistemimize bir yan etki olarak zarar verebilir ve insanların onu durdurma girişimlerini karşılanacak bir tehdit olarak görebilir.

Bu örneklerin gösterdiği gibi, gelişmiş AI ile ilgili endişe kötü niyet değil, yeterliliktir. Süper akıllı bir yapay zeka, hedeflerine ulaşmada son derece iyi olacak ve bu hedefler bizimkilerle uyumlu değilse, bir sorunumuz var. Muhtemelen kötü niyetli bir karınca düşmanı değilsiniz, ancak bir hidroelektrik yeşil enerji projesinden sorumluysanız ve bölgede su basacak bir karınca yuvası varsa, karıncalar için çok kötü.AI güvenlik araştırmasının temel amacı, insanlığı asla bu karıncaların yerine koymamaktır.

AI GÜVENLİĞİNE BU İLGİ NEDEN

Stephen Hawking, Elon Musk, Steve Wozniak, Bill Gates ve bilim ve teknolojideki diğer birçok büyük isim son zamanlarda medyada ve birçok önde gelen AI araştırmacısının katıldığı AI’nın oluşturduğu riskler hakkında açık mektuplar aracılığıyla endişelerini dile getirdiler. Konu neden birdenbire manşetlerde?

Güçlü yapay zeka arayışının eninde sonunda başarılı olacağı fikri, yüzyıllar ya da daha ötede uzun zamandır bilim kurgu olarak düşünülüyordu. Bununla birlikte, son atılımlar sayesinde, uzmanların sadece beş yıl önce on yıllar uzakta olarak gördükleri birçok AI dönüm noktasına şimdi ulaşıldı ve birçok uzmanın yaşamımızdaki süper zeka olasılığını ciddiye almasına neden oldu. Bazı uzmanlar hala insan seviyesindeki yapay zekanın yüzyıllar uzakta olduğunu tahmin ederken, 2015 Porto Riko Konferansı’ndaki çoğu yapay zeka araştırması bunun 2060’tan önce olacağını tahmin ediyordu. Gerekli güvenlik araştırmasını tamamlamak on yıllar alabileceğinden, buna şimdi başlamak ihtiyatlı olur. .

AI herhangi bir insandan daha zeki olma potansiyeline sahip olduğundan, nasıl davranacağını tahmin etmenin kesin bir yolu yok. Geçmişteki teknolojik gelişmeleri bu kadar temel alamayız çünkü bilerek veya bilmeyerek bizi alt etme yeteneğine sahip hiçbir şey yaratmadık. Karşılaşabileceğimizin en iyi örneği kendi evrimimiz olabilir. İnsanlar artık gezegeni en güçlü, en hızlı veya en büyük olduğumuz için değil, en zeki olduğumuz için kontrol ediyor. Artık en zeki değilsek, kontrolün elimizde kalacağından emin miyiz?

FLI’nin konumu, teknolojinin büyüyen gücü ile onu yönetmekte kullandığımız bilgelik arasındaki yarışı kazandığımız sürece medeniyetimizin gelişeceğidir. AI teknolojisi söz konusu olduğunda, FLI’nin konumu, bu yarışı kazanmanın en iyi yolunun, ilkini engellemek değil, AI güvenlik araştırmalarını destekleyerek ikincisini hızlandırmak olduğu yönündedir.

GELİŞMİŞ AI HAKKINDA EN BÜYÜK MİTLER

Yapay zekanın geleceği ve insanlık için ne anlama geleceği veya anlamda olması gerektiği hakkında büyüleyici bir sohbet gerçekleştiriliyor. Dünyanın önde gelen uzmanlarının aynı fikirde olmadığı büyüleyici tartışmalar var, örneğin: AI’nın iş piyasası üzerindeki gelecekteki etkisi; insan seviyesinde yapay zeka geliştirilecekse/ne zaman; bunun bir istihbarat patlamasına yol açıp açmayacağı; ve bunun hoş karşılanmamız veya korkmamız gereken bir şey olup olmadığı. Ancak, insanların yanlış anlamaları ve birbirlerinin arkasından konuşmalarından kaynaklanan sıkıcı sözde tartışmaların birçok örneği de vardır. Yanlış anlaşılmalara değil, ilginç tartışmalara ve açık sorulara odaklanmamıza yardımcı olmak için en yaygın efsanelerden bazılarını açıklığa kavuşturalım.

Mit:2100 yılına kadar süper zeka kaçınılmazdır.

Mit:2100’e kadar süper zeka imkansız.

Gerçek:On yıllar, yüzyıllar sonra olabilir veya asla olabilir: AI uzmanları aynı fikirde değil ve biz de bilmiyoruz.

Mit:Sadece aptallar AI için endişelenir.

Gerçek:Birçok üst düzey yapay zeka araştırmacısı endişeli.

Mit:AI kötülüğe dönüşüyor.

Mit:AI bilinçli hale geliyor .

Gerçek:AI, bizimkilerle farklı hizalanmış hedeflerle yetkin hale geliyor

Mit:Robotlar en büyük endişe.

Gerçek:Asıl mesele yanlış hizalanmış zeka: Bedene ihtiyacı yok, sadece internet bağlantısına ihtiyacı var.

Mit:AI insanları kontrol edemez.

Gerçek:Zeka kontrolü mümkün kılar: Kaplanları daha akıllı olduğumuz için kontrol ederiz.

Mit:Makinelerin hedefleri olamaz.

Gerçek:Isı güdümlü füzenin bir amacı var.

Mit:Süper zeka sadece yıllar uzaklıkta .

Gerçek:En azından onlarca yıl uzakta, ancak güvenli hale getirmek o kadar sürebilir.

ZAMAN ÇİZELGESİ MİTLERİ

İlk efsane zaman çizelgesiyle ilgilidir: Makinelerin insan seviyesindeki zekanın yerini büyük ölçüde alması ne kadar sürer? Yaygın bir yanılgı ise cevabı büyük bir kesinlikle bildiğimizi sanmamızdır.

Popüler bir efsane, bu yüzyılda insan üstü yapay zekaya sahip olacağımızı bilmemizdir. Aslında, tarih teknolojik aşırı abartmalarla doludur. Şimdiye kadar sahip olacağımıza söz verilen füzyon santralleri ve uçan arabalar nerede? AI ayrıca geçmişte, alanın bazı kurucuları tarafından bile defalarca aşırı derecede abartıldı. Örneğin, John McCarthy (“yapay zeka” terimini ortaya atan kişi), Marvin Minsky, Nathaniel Rochester ve Claude Shannon, taş devri bilgisayarlarıyla iki ayda neler yapılabileceğine dair şu aşırı iyimser tahminde bulundular: , 10 kişilik yapay zeka çalışması 1956 yazında Dartmouth Koleji’nde gerçekleştirilecek […] Makinelerin dili nasıl kullanacağını, soyutlamaları ve kavramları nasıl oluşturacağını, şu anda insanlar için ayrılmış türdeki problemleri nasıl çözeceğini ve kendilerini geliştirmek. Dikkatlice seçilmiş bir grup bilim insanı bir yaz boyunca birlikte çalışırsa, bu sorunlardan bir veya daha fazlasında önemli bir ilerleme kaydedilebileceğini düşünüyoruz.”

Öte yandan, popüler bir karşı efsane, bu yüzyılda insa nüstü yapay zeka elde edemeyeceğimizi bildiğimizdir. Araştırmacılar, insan üstü yapay zekadan ne kadar uzakta olduğumuza dair çok çeşitli tahminlerde bulundular, ancak bu tür tekno-şüpheci tahminlerin kasvetli sicili göz önüne alındığında, bu yüzyılda olasılığın sıfır olduğunu kesinlikle söyleyemeyiz. Örneğin, zamanının tartışmasız en büyük nükleer fizikçisi olan Ernest Rutherford, 1933’te -Szilard’ın nükleer zincir reaksiyonunu icadından 24 saatten kısa bir süre önce- nükleer enerjinin “ay ışığı” olduğunu söyledi. Ve Astronom Royal Richard Woolley 1956’da gezegenler arası seyahati “mutlak sintine” olarak adlandırdı. Bu efsanenin en uç şekli, fiziksel olarak imkansız olduğu için insan üstü yapay zekanın asla varmayacağıdır. Ancak fizikçiler, bir beynin güçlü bir bilgisayar olarak hareket edecek şekilde düzenlenmiş kuarklardan ve elektronlardan oluştuğunu ve daha da akıllı kuark blokları oluşturmamızı engelleyen hiçbir fizik yasası olmadığını biliyorlar.

Yapay zeka araştırmacılarına bundan kaç yıl sonra en az %50 olasılıkla insan düzeyinde yapay zekaya sahip olacağımızı düşündüklerini soran bir dizi anket var. Tüm bu anketler aynı sonuca varıyor: dünyanın önde gelen uzmanları aynı fikirde değil, bu yüzden bilmiyoruz. Örneğin, 2015 Porto Riko AI konferansında AI araştırmacılarının böyle bir anketinde, ortalama (medyan) cevabı 2045 yılına kadardı, ancak bazı araştırmacılar yüzlerce yıl veya daha fazla tahminde bulundu.

Ayrıca, yapay zeka hakkında endişelenen insanların sadece birkaç yıl uzakta olduğunu düşündükleri ile ilgili bir efsane var. Aslında, kayıtlardaki çoğu insan, insanüstü yapay zeka hakkında endişeleniyor, bunun hala en az on yıllar uzakta olduğunu tahmin ediyor. Ancak bunun bu yüzyılda olmayacağından %100 emin olmadığımız sürece, olasılığa hazırlanmak için şimdi güvenlik araştırmasına başlamanın akıllıca olduğunu savunuyorlar. İnsan seviyesindeki yapay zeka ile ilgili güvenlik problemlerinin çoğu o kadar zordur ki çözülmesi on yıllar alabilir. Bu nedenle, Red Bull içen bazı programcıların şimdi araştırmaya başlaması ihtiyatlı olur.

TARTIŞMA MİTLERİ

Diğer bir yaygın yanılgı da, yapay zeka hakkında endişeleri olan ve yapay zeka güvenlik araştırmalarını savunanların yalnızca yapay zeka hakkında fazla bir şey bilmeyenler olduğudur. Standart AI ders kitabının yazarı Stuart Russell, Porto Riko konuşması sırasında bundan bahsettiğinde, seyirciler yüksek sesle güldüler. İlgili bir yanlış anlama, AI güvenlik araştırmalarını desteklemenin oldukça tartışmalı olduğudur. Aslında, AI güvenlik araştırmalarına yapılan mütevazı bir yatırımı desteklemek için, insanların risklerin yüksek olduğuna, sadece ihmal edilemez olduğuna ikna olmaları gerekmez – tıpkı ev sigortasına yapılan mütevazı bir yatırımın, ev sigortasının ihmal edilemez bir olasılığı ile haklı çıkması gibi.

Medya, AI güvenlik tartışmasını gerçekte olduğundan daha tartışmalı hale getirmiş olabilir. Ne de olsa korku satar ve yakın kıyameti ilan etmek için bağlam dışı alıntılar kullanan makaleler, incelikli ve dengeli olanlardan daha fazla tıklama üretebilir. Sonuç olarak, yalnızca medya alıntılarından birbirlerinin konumlarını bilen iki kişi, gerçekte olduğundan daha fazla aynı fikirde olmadıklarını düşüneceklerdir. Örneğin, yalnızca bir İngiliz magazin gazetesinde Bill Gates’in konumunu okuyan bir tekno-şüpheci, yanlışlıkla Gates’in süper zekanın yakın olduğuna inandığını düşünebilir. Benzer şekilde, Andrew Ng’nin Mars’taki aşırı nüfusla ilgili alıntısı dışında konumu hakkında hiçbir şey bilmeyen faydalı AI hareketinde bulunan biri, yanlışlıkla AI güvenliğini umursamadığını düşünebilir. İşin püf noktası, Ng’nin zaman çizelgesi tahminleri daha uzun olduğu için, doğal olarak kısa vadeli AI zorluklarına uzun vadeli olanlara göre öncelik verme eğiliminde olmasıdır.

SÜPER İNSAN AI’IN RİSKLERİ HAKKINDA MİTLER

Birçok AI araştırmacısı, şu başlığı görünce gözlerini deviriyor: “Stephen Hawking, robotların yükselişinin insanlık için felaket olabileceği konusunda uyarıyor.” Tipik olarak, bu makalelere silah taşıyan kötü görünümlü bir robot eşlik eder ve bilinçli ve/veya kötü oldukları için ayaklanıp bizi öldüren robotlar konusunda endişelenmemizi önerirler. Daha hafif bir notta, bu tür makaleler aslında oldukça etkileyici, çünkü AI araştırmacılarının endişelenmediği senaryoyu kısa ve öz bir şekilde özetliyorlar. Bu senaryo, üç ayrı yanılgıyı birleştirir: bilinç, kötülük ve robotlar hakkında endişe.

Yolda sürüyorsanız, öznel bir renk, ses vb. deneyiminiz olur. Peki kendi kendini süren bir arabanın öznel bir deneyimi var mı? Kendi kendini süren bir araba olmak bir şey gibi hissettiriyor mu? Bu bilinç gizemi başlı başına ilginç olsa da, yapay zeka riskiyle alakasız. Sürücüsüz bir araba çarparsa, öznel olarak bilinçli hissedip hissetmemesi sizin için fark etmez. Aynı şekilde, biz insanları etkileyecek olan şey, süper akıllı AI’nın öznel olarak nasıl hissettiği değil, ne yaptığıdır.

Kötülüğe dönüşen makinelerin korkusunda asıl endişe kötü niyet değil, yetkinliktir. Süper zeki bir yapay zeka, tanımı gereği, amaçları ne olursa olsun, amaçlarına ulaşmada çok iyidir, bu yüzden onun amaçlarının bizimkilerle uyumlu olduğundan emin olmamız gerekir. İnsanlar genellikle karıncalardan nefret etmezler, ancak biz onlardan daha zekiyiz – yani bir hidroelektrik barajı inşa etmek istiyorsak ve orada bir karınca yuvası varsa, karıncalar için çok kötü. Yararlı AI hareketi, insanlığı bu karıncaların yerine koymaktan kaçınmak istiyor.

Bilinç yanılgısı, makinelerin hedefleri olamayacağı efsanesiyle ilgilidir. Makinelerin dar anlamda, amaca yönelik davranış sergilemek gibi belli amaçları olabilir: ısı güdümlü bir füzenin davranışı, en ekonomik olarak, bir hedefi vurma hedefi olarak açıklanır. Hedefleri sizinkilerle aynı hizada olmayan bir makine tarafından tehdit ediliyorsanız, o zaman sizi rahatsız eden, makinenin bilinçli olup olmadığı ve bir amaç duygusu yaşayıp yaşamadığı değil, tam da bu dar anlamdaki hedefleridir. O ısı güdümlü füze seni kovalıyor olsaydı, muhtemelen “Endişelenmiyorum, çünkü makinelerin hedefleri olamaz!” diye haykırmazdın.

Bazı gazeteciler saplantılı bir şekilde robotlara saplanıp kaldıkları ve makalelerinin çoğunu kırmızı, parlak gözlü, şeytani görünümlü metal canavarlarla süsledikleri için, korku tellallığı yapan magazin dergileri tarafından haksız bir şekilde şeytanlaştırıldığını hisseden Rodney Brooks ve diğer robotik öncülerine sempati duyuyorum. Aslında, faydalı AI hareketinin ana endişesi robotlarla değil, zekanın kendisiyle: özellikle, hedefleri bizimkiyle yanlış hizalanan zeka. Başımıza bela açmak için, bu tür yanlış hizalanmış insanüstü zekanın robotik bir bedene ihtiyacı yoktur, yalnızca bir internet bağlantısına ihtiyaç duyar – bu, finans piyasalarını alt etmeyi, insan araştırmacıları geride bırakmayı, insan liderleri manipüle etmeyi ve anlayamadığımız silahlar geliştirmeyi sağlayabilir. Robotlar inşa etmek fiziksel olarak imkansız olsa bile, süper zeki ve süper zengin bir yapay zeka, birçok insanı farkında olmadan teklifini yapmak için kolayca ödeyebilir veya manipüle edebilir.

Robot yanılgısı, makinelerin insanları kontrol edemediği efsanesiyle ilgilidir. Zeka kontrolü sağlar: insanlar kaplanları daha güçlü olduğumuz için değil, daha akıllı olduğumuz için kontrol eder. Bu, gezegenimizdeki en zeki konumumuzu bırakırsak, kontrolü de bırakmamızın mümkün olduğu anlamına gelir.

İLGİNÇ TARTIŞMALAR

Yukarıda bahsedilen kavram yanılgıları üzerinde zaman kaybetmemek, uzmanların bile aynı fikirde olmadığı gerçek ve ilginç tartışmalara odaklanmamızı sağlar. Nasıl bir gelecek istiyorsun? Ölümcül otonom silahlar geliştirmeli miyiz? İş otomasyonu ile ne olmasını istersiniz? Bugünün çocuklarına nasıl bir kariyer tavsiyesi verirsiniz? Eskilerin yerine yeni işleri mi tercih edersiniz, yoksa herkesin boş zaman ve makine üretimi zenginlikten keyif aldığı bir işsiz toplumu mu tercih edersiniz? Yolun ilerisinde, süper zeki yaşam yaratmamızı ve onu kozmosumuza yaymamızı ister misiniz? Akıllı makineleri biz mi kontrol edeceğiz yoksa onlar mı bizi kontrol edecek? Akıllı makineler bizi değiştirecek mi, bizimle birlikte var olacak mı yoksa bizimle birleşecek mi? Yapay zeka çağında insan olmak ne anlama gelecek? Bunun ne anlama gelmesini istersiniz ve geleceği bu şekilde nasıl yapabiliriz? Lütfen sohbete katılın!