Bilgisayar ve Yazılım

Moral Machine Ahlak Anlayışımızı Ölçebilir mi?

Ahlaki değerlerimizin bir genellemesini yapabilir miyiz? Mesela A toplumu içinde geçerli olan ahlaki değerler aynı zamanda B toplumu için de geçerli midir? Ya da aynı toplum içinde yaşayan kişiler arasında her bireyin ahlak anlayışı aynı mıdır? Bu soruların cevabını vermek elbette kolay değil. Ancak sezgisel olarak ahlaki değerlerimizin farklılıklar gösterdiğini söyleyebiliriz. Peki, elimizde ölçülebilir bir metrik olmadığını düşünürsek yapay zekayı ahlak konusunda nasıl eğiteceğiz? Bu amaçla bilim insanları son bir kaç yıldır tüm dünyadan veriler toplayarak bir ahlak standarttı belirlemeye çalışıyorlar. MIT’deki araştırmacılar tarafından oluşturulan, ekran başında bazı kararlar vermek zorunda olduğumuz bir oyun olan The Moral Machine yani Ahlak Makinesi çevrimiçi platformu benzerliklerimiz ve farklılıklarımız hakkında aslında bize çok şey söylüyor.

Moral Machine Nedir?

The Moral Machine, Vagon İkilemi (Trolley Dilemma) olarak bilinen ve bu yazımızda ele aldığımız bir düşünce deneyinin uyarlaması. Özetlemek gerekirse, Bir tren vagonu, kontrolden çıkmış, raylarda hızla ilerliyor. İleride ise beş işçi ray onarımıyla uğraşıyor. Siz durumu görüyor ve hepsinin öleceğini anlıyorsunuz. Bu arada yakınınızdaki makasa müdahale ederek vagonu tek bir kişinin öleceği biçimde yönlendirebiliyorsunuz. Ne yaparsınız?

Zaman içinde Vagon İkilemi düşünce deneyinin farklı varyasyonları da ortaya çıktı. Devamında ahlaki seçimlerimiz ve etik üzerine çok şey tartışıldı. The Moral Machine de aslında aynı konuyu ele alıyor. Ancak olaya bazı teknolojik sorunları da ekliyor. Çünkü oluşturulmasındaki temel amaç sürücüsüz arabaların benzer kararlar almak için nasıl donatılması gerektiğini bulmaktır. The Moral Machine, iki yüzden fazla ülkedeki oyunculardan yanıtlar toplayarak, bu oyuncuların zor bir seçimle karşı karşıya kaldıklarında sürücüsüz bir arabanın yapmasını istedikleri şeyleri örnekliyor.

Sürücüsüz arabalar, hala bazı kusurları olsa da, yakın gelecekte hayatımıza dahil olacak. Bu bizi belki dikkati dağınık ve öfkeli sürücülerin sebep olduğu kazalardan koruyacak. Ancak yapay zeka ile donatılmış araçlar da bazı kararlar vermek zorunda kalacak. İşte bu nedenle sisteminin daha önce hiç görülmemiş durumlarda uygun şekilde tepki vermesi için eğitilmesi gerekiyor. Kendi kendine giden bir araba, ölüme neden olma riski taşıyan bir karar alabilir. Bu nedenle önceden eğitilmeleri gereklidir.

The Moral Machine’nin yaratıcılarının bilmek istediği şey buydu. Bu yüzden insanları kaza senaryolarıyla karşı karşıya getiren ve onlardan kimin yaşayıp kimin öleceğini seçmelerini isteyen bir oyun geliştirdiler. Dünya çapında milyonlarca insan, Vagon İkileminin bu daha ayrıntılı versiyonunda görüşlerini dile getirdi.

Moral Machine Bazı İlginç Sonuçlar Açığa Çıkardı

moral machine sonuçları

Şu ana kadar çıkan sonuçlarda oldukça ilgi çekici. İlk olarak bebek arabası iten bir kadını, sonra sırasıyla kız çocuğunu, erkek çocuğunu, hamile bir kadını kazadan kurtarmayı tercih ediyoruz. Bunu, doktorlar, sporcular ve yöneticiler takip ediyor. Yaşlı insanlar, suçlular, köpekler ve son sırada da kediler yer alıyor. Yani bir köpeğe veya bir kediye çarpma arasında seçim yapması istendiğinde, çoğu insan köpeği kurtarmayı tercih ediyor.

Moral Machine, kimin yanıt verdiği ve bu insanların nerede yaşadığı hakkında da veri topladı. Bu farklılıklardan bazıları önemliydi. Araştırmacılar üç ülke kümesi belirlediler. Bunlar Kuzey Amerika ve birkaç Avrupa ülkesinden oluşan batı kümesi; Asya ülkelerinden oluşan doğu kümesi ve çoğunlukla Orta ve Güney Amerika ülkelerinden oluşan güney kümesi idi. Kültürel farklılıklar alınan kararları önemli bir ölçüde etkiledi.

Örneğin batı kümesi, araç içindeki yolcuların güvenliğine yaya güvenliğinden daha fazla önem veriyordu. Yaşa saygı duyma eğilimde olan Doğu kümelenmesi gençleri kurtarma yanlısı değildi. Güney kümesi ise kadınları ve formda olan insanları kurtarmak için daha güçlü bir güdüye sahipti. Mesela kırmızı ışıkta geçenler ile ilgili kısımda varlıklı ülkelerde yaşayanlar kurala uyarak geçen ve olası bir kaza ile yüzleşen kişiyi kurtarmayı tercih ederken, daha fakir ülkelerde, kırmızı ışıkta beklemeden geçene karşı çok daha fazla hoşgörü vardı.

Bir Makine Gerçek Hayatı Simule Edebilir mi?

Elbette, bir bilgisayar programı gerçek hayatı mükemmel bir şekilde simule edemez. Daha önce bir çarpışmada bulunduysanız, ne yapacağınızı düşünecek vaktiniz olmadığını bilirsiniz. Bazı kararlar bilinçsiz ve otomatiktir. Ancak sürücüsüz arabalar birçok yönden bizden daha üstün olacak ve belki de bu ikilemlere girdiklerinde herkesi kurtaran üçüncü bir seçenek bulabilecekler. Her şeye rağmen, bu anket, sürücüsüz bir arabanın dünyanın neresinde olduğuna bağlı olarak karar verme mekanizmasını değiştirmek zorunda kalabileceğini gösteriyor. Ayrıca kültürel farklılıklarımızın ahlak anlayışımızı nasıl şekillendirdiği hakkında önemli ipuçları barındırıyor. Ülkelere göre karşılaştırmaları görmek isterseniz bu adresi kullanabilirsiniz.

Kaynak: Jay Ingram; The Science of Why, Volume 5: Answers to Questions About the Ordinary, the Odd, and the Outlandish; Simon & Schuster; Illustrated edition (Nov. 10 2020)

Matematiksel


Bir cevap yazın

E-posta hesabınız yayımlanmayacak.