Bilimkurgu yazarı Isaac Asimov, 1942’de yayımlanan Runaround öyküsünde Üç Robot Yasası’nı ortaya koyduğunda, insanlarla bir arada yaşayacak ve onlara hizmet edecek gelişmiş robotları hayal ediyordu. Bu robotların insanlara zarar vermesini önlemek için de davranışlarını sınırlayan bir dizi kurala ihtiyaç olduğunu düşünmüştü.
Aradan 84 yıl geçti. Bu süre içinde teknoloji büyük bir hızla değişti; robotların nasıl görüneceğine ve onlarla nasıl etkileşim kuracağımıza ilişkin düşüncelerimiz de değişti. Bugün “robot” dediğimizde yalnızca insan biçimli makineleri değil, otonom sistemleri ve giderek daha fazla yapay zekâ tarafından yönlendirilen teknolojileri de düşünüyoruz.
Bu değişim, Asimov’un yaklaşık bir asır önce ortaya attığı soruyu yeniden gündeme getiriyor. Akıllı makinelerin insanlara zarar vermemesini birkaç temel kuralla gerçekten garanti edebilir miyiz?
Üç Robot Yasası Nedir?
Asimov, Üç Robot Yasası’nı ilk kez 1942’de Astounding Science Fiction dergisinde yayımlanan “Runaround” adlı kısa öyküsünde birlikte ve açık biçimde sıraladı. Bu yasalar, robotların insanlarla ilişkisini düzenleyen temel kurallardı:
- Bir robot, bir insana zarar veremez ya da hareketsiz kalarak bir insanın zarar görmesine izin veremez.
- Bir robot, Birinci Yasa ile çelişmediği sürece insanların verdiği emirlere uymak zorundadır.
- Bir robot, Birinci ve İkinci Yasa ile çelişmediği sürece kendi varlığını korumak zorundadır.
Bu üç kural, Asimov’un robot öykülerinin temelini oluşturdu. Ancak yazarın asıl ilgisini çeken, yasaların kusursuz biçimde işlemesi değil, farklı durumlarda nasıl beklenmedik sonuçlara yol açabileceğiydi. Öykülerindeki pek çok çatışma da robotların bu kuralları yorumlama biçiminden doğar.
Asimov ilerleyen yıllarda meseleyi daha da ileri götürdü ve üç yasanın önüne Sıfırıncı Yasa adını verdiği yeni bir kural ekledi:
0. Bir robot, insanlığa zarar veremez ya da hareketsiz kalarak insanlığın zarar görmesine izin veremez.
Bu ekleme önemli bir sorunu da beraberinde getiriyordu. Bir insanın çıkarı ile bütün insanlığın çıkarı çatıştığında robot hangisini seçmeliydi? Asimov’un öykülerinde basit görünen üç kuralın giderek daha karmaşık etik sorunlara dönüşmesinin nedeni de tam olarak buydu.
Peki Bu Yasalar Gerçek Dünyada İşe Yarar mı?
Asimov’un Üç Robot Yasası basit ve ikna edici görünür. Ancak bunları gerçek dünyaya uygulamak oldukça güçtür. Çünkü yasaların dayandığı kavramlar sandığımız kadar açık değildir.
Örneğin bir robotun “insana zarar vermemesi” gerektiğini söylemek kolaydır. Peki zarar tam olarak nedir? Fiziksel zarar mı, psikolojik zarar mı, ekonomik kayıp mı? Bir kişiyi korumak başka bir kişinin zarar görmesine yol açarsa robot hangisini seçmelidir?
Araştırmacılar bu sorunu yalnızca teorik düzeyde tartışmadı. Asimov’un yasalarına benzeyen etik kuralları gerçek robotlarda sınayan deneyler de yapıldı.
Dieter Vanderelst ve Alan Winfield böyle bir sistem geliştirdi. Robot, olası hareketlerinin sonuçlarını önceden değerlendiriyordu. Ardından insanın zarar görmesini engelleyecek seçeneği tercih ediyordu. Sistem kontrollü deneylerde başarılı sonuçlar verdi. Ancak gerçek dünya laboratuvar ortamından çok daha karmaşıktır. Bu nedenle birkaç kuralın her durumda doğru sonucu vereceğini söylemek mümkün değildir.
Robotik araştırmacıları Robin Murphy ve David Woods da 2009’da soruna farklı bir açıdan yaklaştı. Onlara göre sorumluluğu yalnızca robota yüklemek doğru değildir. Robotu tasarlayan, programlayan ve kullanan insanlar da bu sorumluluğun bir parçasıdır.
Böylece temel soru “Robot hangi kurala uymalı?” olmaktan çıkar ve yerini başka sorulara bırakır: Bu sistemi kim tasarladı? Kim denetliyor? Verdiği kararların sonuçlarından kim sorumlu?
Günümüzde yapay zekâ güvenliği de birkaç değişmez kurala dayanmaz. Olası riskleri önceden belirlemek ve sistemleri sürekli denetlemek daha önemlidir. Amaç yalnızca doğrudan zararı önlemek değildir. Hatalı kararlar, ayrımcılık, yanlış bilgi ve mahremiyet ihlalleri de dikkate alınır. Bu nedenle şeffaflık, insan denetimi, hesap verebilirlik ve güvenlik testleri öne çıkar.
Bu yaklaşım artık yalnızca araştırma laboratuvarlarıyla sınırlı değil. Avrupa Birliği’nin Yapay Zekâ Yasası da sistemleri oluşturdukları risk düzeyine göre ele alıyor. Yüksek risk taşıyan sistemlerde insan denetimi ve güvenlik önlemleri büyük önem taşıyor.
Yasa şeffaflığa da özel önem veriyor. Bazı yapay zekâ sistemleri, insanlarla doğrudan etkileşim kurduklarında yapay zekâ olduklarını açıkça belirtmek zorunda. Yapay zekâyla üretilen ya da değiştirilen bazı içeriklerin de ayırt edilebilir olması gerekiyor.
Sonuç Olarak
Dolayısıyla Asimov’un yasaları bugün hâlâ değerli. Ancak bir kullanım kılavuzundan çok, yaklaşık bir asır önce başlayan güçlü bir tartışmayı temsil ediyor: Akıllı makinelerin davranışlarından aslında kim sorumlu olmalı?
Kaynaklar ve ileri okumalar
- Murphy, Robin & Woods, David. (2009). Beyond Asimov: The Three Laws of Responsible Robotics. IEEE Intelligent Systems. 24. 14-20. 10.1109/MIS.2009.69.
- Vanderelst, Dieter & Winfield, Alan. (2017). An architecture for ethical robots inspired by the simulation theory of cognition. Cognitive Systems Research. 48. 10.1016/j.cogsys.2017.04.002.
- Vanderelst, Dieter & Winfield, Alan. (2016). The Dark Side of Ethical Robots. 10.48550/arXiv.1606.02583.
- 3 rules for robots from Isaac Asimov — and one crucial rule he missed. Yayınlanma tarihi: 9 Nisan 2023; Bağlantı: https://bigthink.com/
Size Bir Mesajımız Var!
Matematiksel, matematiğe karşı duyulan önyargıyı azaltmak ve ilgiyi arttırmak amacıyla kurulmuş bir platformdur. Sitemizde, öncelikli olarak matematik ile ilgili yazılar yer almaktadır. Ancak bilimin bütünsel yapısı itibari ile diğer bilim dalları ile ilgili konular da ilerleyen yıllarda sitemize dahil edilmiştir. Bu sitenin tek kazancı sizlere göstermek zorunda kaldığımız reklamlardır. Yüksek okunurluk düzeyine sahip bir web sitesi barındırmak ne yazık ki günümüzde oldukça masraflıdır. Bu konuda bizi anlayacağınızı umuyoruz. Ayrıca yazımızı paylaşarak da büyümemize destek olabilirsiniz. Matematik ile kalalım, bilim ile kalalım.
Matematiksel
