Bilgisayar ve Yazılım

Asimov’un Üç Robot Yasası İnsanların Güvenliğini Sağlayabilecek mi?

Isaac Asimov 1942’de “Runaround” adlı kısa öyküsünde gelişmiş robotlarla bir arada yaşayan insan kavramını tanıttı. İnsanların yardımcıları tarafından yok edilmemesini veya köleleştirilmemesini sağlamak için de bir güvenlik önlemi olarak tüm robotların beyinlerine programlanacak bir dizi “Yasa” ortaya koydu. Günümüzde bu yasa üç robot yasası olarak bilinmekte. Bu yasalar aslında sadece teknoloji, sağlık ya da güvenlik ile ilgili yasalar değil. Yasalar aynı zamanda dünyada neden kötülük olduğunu ve bir kişinin buna engel olması için hangi adımları atması gerektiğini de ortaya koyuyordu. Asimov’un orijinal üç robot yasası, termodinamiğin üç yasasına göre modellenmişti.

Üç Robot Yasası Nelerdir?

Kaynak: https://www.deviantart.com
  • 1-Bir robot hiçbir şekilde insana zarar veremez; veya pasif kalmak suretiyle zarar görmesine izin veremez.
  • 2-Kendisine insanlar tarafından verilen komutlara 1. kuralla çelişmediği sürece itaat etmek zorundadır.
  • 3-Bir robot 1. ve 2. kurallarla çelişmediği sürece kendi varlığını korumak zorundadır.

Daha sonra Asimov, Termodinamikte olduğu gibi, Birinci Yasanın önüne bir de “Sıfırıncı Yasa” ekledi: “Hiç bir robot, insanlığa zarar veremez ya da hareketsiz kalarak insanlığın zarar görmesine izin veremez.” Bu son yasayı neden eklediğini anlamak aslında zor değil. Bir kişinin dünyayı yok edebilecek bir nükleer güce sahip olduğunu ve bu gücün kullanımının bir robot tarafından engellenebileceğini düşünün. Birinci Yasa normalde robotun insanlığı kurtarmak için harekete geçmesini engelleyecektir. Ya da robotunuz ve sizin ıssız bir adaya düştüğünüzü ve geçirdiğiniz gemi kazasında da ayağınızın geri dönüşü olmayacak biçimde yaralandığını düşünelim. Robotunuz Birinci Yasayı aşıp onu kesebilecek mi?

Sıfırıncı Yasa İle İlgili Bazı Sorunlarımız da Olabilir!

Robotlar gerçekten beyinlerine programlanmış bu dört yasayla çok sayıda üretilseler güvende hisseder miydik? Pek değil. Sıfırıncı Yasanın Birinciye göre önce olması olası gelecekte bazılarımız için sorun yaratabilir. Örneğin gazlı bir araba kullandığınızı veya plastik şişelerinizi geri dönüştürmediğini düşünelim. Bu nedenlerden dolayı robotunuz sizi öldürebilir. Çünkü bu davranışınız devam ederse, tutumumuzu insanlığı bir tehdit olarak algılayabilir. Robotlardan insanlığın iyiliği için hareket etmelerini istemek tehlikeli bir istek. Çünkü bu onları tam tanımı olmayan bir şeyi yapmaya zorlar. “İnsanlık için ne faydalıdır?” sorusunun tek bir cevabı yoktur. Hiçbir program bize iyiyi ve kötüyü söyleyemez.

Sıfırıncı Yasa olmadan kendinizi daha güvende hissedebilirsiniz. Yine de, Birinci, İkinci ve Üçüncü Yasaların bizi korumak için tasarlandığı tüm zararlı doğrudan eylemlerden dolayı sizi riske atabilecek başka bir endişe verici düşünceler var. Gelişmiş robotlar, cansız nesnelerin yanı sıra kendileri ve bizler hakkında karmaşık düşüncelere sahip olabilir. Tıpkı insanlarda olduğu gibi, bu onların anlaşılmasını zorlaştırabilir. Bir robot kendini bir insanla eş değerde görebilir. Bu durumda artık istediği şeyi yapabilir, çünkü uyması gereken yasaların kendisi için olduğunu düşünmez. O halde Üçüncü Yasa ne olacak? Korunması gereken robotik varoluş nedir?

Bunun gibi sorular sormaya devam edebilirsiniz, ancak yapay zekanın sonuçlarını, programlamasına kısıtlamalar ve kurallar koyarak engellemenin kolay olmadığı er geç karşımıza çıkacaktır. Bilinç” dediğimiz bu “şey” ortaya çıktığında, bunun sonuçları öngörülemez.

Üç Robot Yasası

Robot Sözcüğünün Tarihçesi

Robot sözcüğü sanılanın aksine hayatımıza yeni girmedi, üstelik bu sözcüğü ilk kullanan bir bilim insanı değil bir oyun yazarıydı. Bu kelime ilk olarak Çekoslovak tiyatro yazarı Karel Çapek’in 1920 yılında yazdığı “RUR”, “Rossum’s Universal Robots” (Rossum’un Evrensel Robotları) adlı yapıtında yer aldı. Karel, insan yapısı, insan benzeri “mekanik işçi” anlamında kökeni eski Slav dillerinde kölelik demek olan “Rabota”ya uzanan robot sözcüğünü böylece hayatımıza girmiş oldu. Bu oyun 1927 yılında Türkçe’ye “Alemşümul Suni Adamlar Fabrikası” adıyla çevrildi. Çok geçmeden edebiyattan sonra sinema da robotları keşfetti. Robotlara adı konulmadan ilk yer veren film sinemanın babası George Melies’in 1897’deki “Gugusse et L’Automate“ti. Robotlar ilk kez beyazperdede Fritz Lang’ın 1926’da çektiği “Metropolis” filminde görüldü. Robot sözcüğünden önce kendinden iradeli şey” anlamına gelen “otomat sözcüğü kullanılıyordu. Gerçek anlamda robotun öncüsü de Cezeri olarak kabul edilmektedir.

Kaynak: John D. Barrow; 100 Essential Things You Didn’t Know You Didn’t Know: Math Explains Your World

Matematiksel

Sibel Çağlar

7 yıl Kadıköy Anadolu Lisesinin devamında lisans eğitimimi Marmara Üniversitesi İng. Matematik öğretmenliği üzerine tamamladım. Devamında 20 yıl çeşitli özel eğitim kurumlarında matematik öğretmenliği ve eğitim koordinatörlüğü yaptım. 2015 yılında matematiksel.org web sitesini kurdum. Amacım bilime ilgiyi arttırmak, bilimin özellikle matematiğin zihin açıcı yönünü açığa koymaktı. Yolumuz daha uzun ve zorlu ancak en azından deniyoruz.

Bir cevap yazın

E-posta hesabınız yayımlanmayacak.