“Yapay zekâ, yapılması gerektiğinde zekâ gerektiren işleri yapabilen makineleri üretme bilimidir.”

 “Yapay zekâ, yapılması gerektiğinde zekâ gerektiren işleri yapabilen makineleri üretme bilimidir.”

(Martin Minsky)

Geçmişte zekâ gerektiren bazı işler oldukça basit işlemlerle sınırlıydı. Günümüzde çok daha karmaşık işlemleri yapabilen yapay zekâlar üretilmeye başlandı. Yakın gelecekte ise insan gibi düşünebilen, öğrenebilen hatta insan zekâsının üzerine çıkacağı düşünülen yapay zekâların üretilmesi hedefleniyor. Kendi başına karar verebilen, öğrenerek gelişebilen, kendi tercihlerini yapabilen yapay zekâlar söz konusu olduğunda “Bir yapay zekâ etik açıdan doğru karar alabilecek mi?” sorusunu karşımıza çıkıyor. Ben de yazımda Wall-E filmindeki “Auto” karakterine odaklanarak bu soruya cevap bulmaya çalışacağım.

 

Wall-E, Axiom ve Bazı Kodlanmış Görevler

Wall-E 2008 yapımı 3D bir animasyon filmidir. Film artık yaşanılmaz bir hale gelmiş dünya ve artık insanların dünyası haline gelmiş uzay gemisi Axiom’da geçer. Wall-E, görevi dünyadaki çöpleri toplamak olan bir robottur ve dünyadaki tek eşlikçisi de robot bir hamam böceğidir. Wall-E, arkadaş edindiği hamam böceği ile ıssız dünyasında görevini sürdürürken dünyanın yaşanabilir bir yer olup olmadığını kontrol etmekle görevlendirilmiş olan Eve isimli bir robotla karşılaşır ve görmez ondan etkilenir. Eve, yaşamın kanıtı olan bir bitki bulunca Axiom’a döner ve onun peşinden giden Wall-e de ona katılır. Böylece Axiom’da yeni bir macera başlar.

Axiom’da insanların yapması gereken bütün işler çeşitli robotlar tarafından yapılmaktadır. Öyle ki insanlar şişmanlamış, yürümeyi dahi unutmuşlardır. Axiom’u yöneten Auto ise insanların dünyaya dönüşünü engellemek amacıyla bulunan bitkiyi yok etmeye çalışır. Auto; kaptana yardım eden, dümen biçiminde bir yapay zekâdır. Dümenin ortasında bulunan kırmızı gözü, Stanley Kubrick’in yönettiği 2001: A Space Odyssey adlı filmindeki süper bilgisayar HAL 9000’e bir göndermedir. (HAL 9000 astronotların kendi yetkisini sınırlayacaklarını anladığı zaman astronotlardan birini öldürmüştür).

 

 

(Auto ve HAL 9000)

 

Temel görevi kaptana yardımcı olmak olan Auto yıllar içinde geminin yönetimini ele geçirir. Filmde Auto’nun sinsice yıllar içinde yönetimde artan ağırlığı, geçmişten günümüze Axiom kaptanlarının bulunduğu fotoğraflarla seyirciye sezdirilir. İlk başlarda kaptanların arkasında ve uzağında olan Auto, yıllar geçtikçe her fotoğrafta biraz daha kaptana yaklaşan bir pozisyonda yer alır.

Auto filmdeki diğer yapay zekâların aksine kendi cümlelerini kurabilen tek robottur. Bu ve diğer davranışları onun insanı taklit edebilen güçlü bir yapay zekâ örneği olduğuna işaret etmektedir. Filmdeki diğer karakterler, özellikle Wall-e ve Eve ise kurgusal karakterlerdir. Bu karakterlere yüklenen birtakım insani özellikler kurgu gereğidir, onların gösterdikleri gelişim ile kendi yapay zekâları arasında bir ilinti yoktur.

 

 

(Wall-E ve Eve)

 

Zamanla yönetimi ele geçiren güçlü bir yapay zekâ olduğuna atıflar yapılan Auto’nun ise filmin son sahnelerinde insanlığın dünyaya dönüşünü engelleyen, bunun için gerektiğinde şiddet kullanan bir robot olduğunu görürüz. Dünyada yaşanabilir bir atmosferin kanıtı bulunduğu halde bu kanıtı yok etmeye çalışan Auto, bu kararını 700 yıl önce verilmiş gizli bir emre dayandırır. Auto’nun insanlığın kötülüğüne olmasına rağmen verilen bir emri yerine getirmeye mi çalıştığı yoksa kendi varlığının devamı için mi insanların dünyaya dönüşüne engel olduğu tartışmalıdır. Bu ikircikli durumun doğurduğu etik sorunları, bu örneklem üzerine aklımıza gelebilecek birtakım sorularla kavramaya çalışalım.

 

Karar Verme ve Eylem Skandalı: Kaptan, Auto ve Etik

Yapay zekâ alanında yapılan en temel felsefi tartışma “insan zihninin fonksiyonlarının tamamen taklit edilip edilemeyeceğidir. Bu konuda çok farklı görüşler bulunsa da genelde kuvvetli ve zayıf yapay zekâ olarak ikiye ayrılmaktadır. Zayıf yapay zekâ savunucularından bir kısmı insan zihninin fonksiyonlarının tam olarak anlaşılamayacağını ve kısmen taklit edilebileceğini savunmakta, bir kısmı da taklidin tam olarak gerçekleştirilebileceğini kabul etmektedirler” (Kayaönü 7). Zayıf yapay zekâlar söz konusu olduğunda ise etik, yapay zekâyı programlayanlar ve emri verenler üzerinden tartışılabilir.[1] Çünkü zayıf yapay zekâlar kendisini programlayan insanın yönergeleri dışında karar vermezler. Söz gelimi insan öldürmeye programlanmış bir yapay zekâ, programlandığı gibi insan öldürdüğünde bu davranışından sorumlu tutulamaz. Sorumluluk onu bu şekilde programlayan kişidedir. Sorumluluk sahibi bir insanın zayıf bir yapay zekâyı yalnızca iyi bir eylem yapmak için tasarlaması da yeterli olmayacaktır. Yapay zekânın görevi yalnızca bu iyi eylemi gerçekleştirmek olsa dahi, eylemi gerçekleştirmek adına yapabileceklerinin de bir sınırı olmalıdır. Aksi taktirde verilen görevi gerçekleştirmek adına bu yapay zekâ, etik olmayan davranışları sergilemeyi sorun olarak görmeyecektir. Dolayısıyla iyi niyetli amaçlarla programlanmış bir zayıf yapay zekâya dahi, etik birtakım kurallar entegre edilmelidir. Bununla birlikte zamanla “etik olanın” da değişebileceği sorunu unutulmamalıdır. Pekâlâ koşullar değiştiğinde “etik olan” da değişebilir.

Güçlü yapay zekâlar öğrenebilen, düşünebilen özelliklere sahip oldukları için etiğin öznesi olabilirler. Yaptıkları davranışlardan, aldıkları kararlardan sorumlu tutulabilirler. Güçlü yapay zekâların etikten bağımsız karar vermelerine müsaade edilmesi zaten düşünülemez. Dolayısıyla bu yapay zekâlar için de etiğe bağlı sınırlılıklar tasarlanmalıdır. Fakat burada da belirli bir yaşam ömrü olmayan yapay zekâlar için “değişen koşullar” ve “zamanla değişen etik” bir sınırlılık olarak karşımıza çıkmaktadır. Üstelik öğrenebilen, düşünebilen, karar verebilen bir yapay zekâ; insanların etiğini yeterli bulmayıp kendi kurallarını da yaratabilir. Wall-E’de de Auto karakteri, gemi kaptanlarının emrine uyması gereken bir yardımcı pilot olarak tasarlanmıştır. Ancak bir şekilde tarihselleştirip meşrulaştırdığı gizli bir emre uyarak kaptanın emirlerini dikkate almamış üstelik gizli emri de kaptandan saklamaya çalışmıştır. Bu açıdan film özelinde Auto bağlamında sormak gerek, anlatıda Auto karakteri, yalnızca emirleri yerine getiren bir yapay zekâysa 700 yıl önce verilmiş bir emrin artık geçerliliğini yitirmesi, uygulandığı takdirde insanlara zarar vermesi etik açıdan bir problem değil midir?

 

 

(Kaptanın Fotoğraflarla Yüzleşmesi)

 

Bu soru elbette ki beraberinde başka sorular da getiriyor: Güncelliğini yitirmiş ve insanlık için zarar teşkil eden bu emri yerine getiren Auto mu yoksa Auto’ya bu emri veren Axiom isimli gemiyi üreten şirketin yöneticisi mi suçun aktörüdür? Yapay zekâya verilen emirlerin bir geçerlilik süresi veyahut koşulları olması gerekir mi? Yapay zekâya emri veren insanların belirli özellikler taşıması gerekli ve yeterli midir? Eğer böyle bir gereklilik varsa bu özellikler nasıl belirlenebilir? Eğer Auto kendi varlığının devamı için dünyaya dönmek istememiş ve 700 yıl önceki emri bahane etmişse güçlü bir yapay zekânın varlığını devam ettirmek adına insanlığın sonunu getirmeyeceği nasıl garanti edilebilir? Güçlü yapay zekâların kendi kendine öğrenebilme yetisi bu tip sorunların oluşmaması adına sınırlandırılmalı mıdır? Yapay zekâlarda şiddet davranışı tamamen yok edilmeli midir? Güçlü yapay zekâlar insan zihninin sınırlarına eriştiğinde veya aştığında sergileyebileceği manipülatif davranışlar, komutanın kendinde olduğunu sanan insanlık tarafından fark edilebilir mi? Nitekim filmde kaptan duvardaki fotoğraflara bakıncaya kadar Auto’nun yönetimde baskın hale geldiğinin farkına varamaz. Bu durumda değişen koşulların gözlemi ve kararı yapay zekânın takdirine bırakılabilir mi? Auto, bu gözlemi yapabilen bir yapay zekâysa değişen koşulların çıkarına olmadığını fark ettiği için mi insanlığın dönüşüne engel olmuştur?

 

Sonuç

Gizem Öztürk Dilek, yapay zekânın etik gerçekliğini tartışırken incelediği filmlerde “robotların insanlara yardımcı ve insan yerine çoğu şeyi yapacak bir köle gibi kullanıldığı ütopyalardan robotların benlik kazanarak isyan etmesi ile distopyalara dönüşmesi” konusunun işlendiğine dikkat çeker (4). Wall-E filmindeki Auto karakteri de başlangıçta gemideki insanların hayatını kolaylaştıran bir yapay zekâyken filmin sonlarına doğru insanlığın kaderini etkileyecek büyük ve olumsuz kararlar alan düşman bir karaktere dönüşür. Yönetmen, film sürecinde yaptığı atıflar ile Auto’nun bu dönüşümüne dair ipuçları verirken aynı zaman da Auto’nun sadece emirleri yerine getiren bir yapay zekâdan ibaret olduğu düşüncesini de izleyiciye aktarır (özellikle de verilen gizli emir videosunun seyirciye gösterilmesiyle). Bu noktada seyirci maruz bırakıldığı kararsızlık anında, Auto’nun davranışlarının ahlaki olup olmadığını da sorgular. Söz konusu ahlaki sorgulamanın hemen ardından yapay zekânın karşısında konumlandırılmış Kaptan, alaycı bir tavırla emrin geçersizliğine dikkat çeker ve Auto’yu kapatarak geminin kontrolünü ele geçirir. Nihayetinde filmde karşılaştığımız etik problemler çözüme kavuşturulmaz ancak probleme sebep olan yapay zekâ kapatılır. Böyle bir son seçimiyle film “Etik bir yapay zekâ mümkün mü?” sorusuna cevap vermese de gelecekte yapay zekâ kaynaklı etik sorunlarla karşı karşıya kalabileceğimize işaret eder.    

 

Kaynakça

Çelebi, Vedat ve İnal, Ahmet. “Yapay Zekâ Bağlamında Etik Problemi”. Uluslararası Sosyal Araştırmalar Dergisi,

66. (Ekim 2019): 651-661.

İnce, Hüseyin, Sena Esin İmamoğlu ve Salih Zeki İmamoğlu. “Yapay Zekâ Uygulamalarının Karar Verme Üzerine

Etkileri: Kavramsal Bir Çalışma”. International Review of Economics and Management, 9 (Nisan 2021): 50-63.

Kayaönü, Ercan. Yapay Zekânın Teorik Temelleri. Yayımlanmamış Yüksek Lisans Tezi. İstanbul: İstanbul Teknik

Üniversitesi, 2000.

Öztürk Dilek, Gizem. “Yapay Zekânın Etik Gerçekliği”. AUSBD, 2 (4). (2019): 47-59.

Stanton, Andrew. (Yön.). Wall-E. Film. Kaliforniya: Pixar, 2008.