Sürücüsüz Araçlar ve Etik

Sürücüsüz araçların ilk örnekleri yavaş yavaş trafiğe katılmaya başladı ve 2020’de satışlarına başlanması planlanıyor. Bu otonom araçların giderek popülerleşmesi, haklarındaki tartışmaları da alevlendirdi. Bu teknolojinin karşımıza çıkardığı sorunlar arasında yalnızca konuyla ilgili mühendisleri ilgilendiren teknik sorunlar değil; halkın tüm kesimini ilgilendiren ve evet-hayır veya doğru-yanlış gibi basit cevaplar verilemeyecek etik sorunlar da mevcut.

Bunların başında bu araçların günlük yaşamımızın birer parçası olmasının doğuracağı sosyal değişimler ve üzerinde düşünülmesi gereken etik ikilemler var. Bu soru ve sorunlar henüz kesin birer cevaba sahip değiller ve üzerinde uzun süre düşünülmesini gerektiriyor. Ancak gelin, bu otonom araçlara ve bizi karşı karşıya bıraktıkları sorulara daha yakından bakalım.

 Son yıllarda cep telefonumuzdan evimize kadar etrafımızdaki her cihaza “akıllı” sıfatını yakıştırır olduk. Basit bir cep telefonuyla akıllı telefon arasındaki fark da elbette içinde barındırdığı yazılımın niteliği. İş arabaya geldiğinde de aynı mantık geçerli; eğer bir araca bir insanın sürüşünü taklit edebilen bir yazılım yüklerseniz artık sürücüye ihtiyaç duymayan bir araç elde etmiş olursunuz. Elbette bir insan şoförün araç kullanma işleminin birkaç ayağı vardır: ortam algısı, değişen ortam koşullarına zamanında reaksiyon, yön tayini, mekan tespiti, yoldaki işaretlerin analizi… Bir yazılıma bunları işleme yeteneği kazandırabilmeniz için aynı işleri yapabilen sensör sistemleri kurabilirsiniz: GPS, harita, hız sensörü, nesne tanıma sistemleri, radar sistemleri…

Tüm bu verileri topladıktan sonra da bunları birleştirip anlamlı bir karar verip aracın motor sistemlerini de bu karar doğrultusunda harekete geçirebilen yazılımı eklediniz mi sürücüye ihtiyaç duymadan çalışan otonom bir araç elde ettiniz demektir. İşin özü bu olsa da takdir edersiniz ki bu kadar kolay değil.

Bir yazılımın tüm bu veri akışını yönetip akıllı bir karar vermesini sağlamak, aldığı kararların doğruluğu ve yanlışlığından ders çıkarıp karar mekanizmasını iyileştirmek ve aynı hataları tekrar etmemesini sağlamak ve bu yazımızın asıl konusu olan etik ikilemler karşısında nasıl hareket etmesi gerektiğini öğretmek hiç de kolay değil.

Zira biz böyle durumlarda makinenin bir insan gibi düşünüp bir karara varmasını bekliyoruz ama “Makineler Düşünebilir mi?” isimli yazıda da belirttiğimiz gibi bu, onlarca yıldır her kesimden bilimciyi düşündüren ve mümkünlüğü kanıtlanmamış bir sorun. Sürücüsüz araçlarla birlikte çok sık anılan etik problemlerden biri “Vagon Açmazı(Trolley Problem)”. Bu dilemma felsefede zaten var olan bir ikilemdi ancak sürücüsüz araçlar bu problemin farklı versiyonlarla tekrar gündeme gelmesine sebep oldu. Problemin yeni versiyonu şöyle:

“Sürücüsüz bir araç yolda yüksek bir süratle seyretmektedir. Yolun ortasına aniden bir grup insan çıkar. Araç bu gruba çarpmadan duramayacak kadar hızlıdır. Eğer araç hemen bir hamle yapmazsa gruptaki tüm insanlara çarpıp öldürecektir. Ancak araba yan taraftaki kaldırıma çıkarak insan grubuna çarpmayı önleyebilir fakat bu sefer de kaldırımda olayla hiç ilgisi olmadan yürüyen bir yayayı öldürecektir. Araç ne yapmalıdır? Problemin şu versiyonları da mevcut: Kaldırımdaki yaya yerine bir beton duvar olup, çarpma sonucunda aracın içindeki yolcuyu öldürmesi; olaya karışan insanların, yolcunun ve yayanın özelliklerinin değişmesi: yaşlı, çocuk, ölmek üzere olan bir hasta, zorba bir diktatör…”

Bu durumla karşılaştıklarında insanlara ne yapacakları sorulduğunda cevapları düşünce tarzlarına, hayat felsefelerine, bağlı oldukları kültüre göre değişiyor ve bunlar bir yazılımın kendiliğinden sahip olacağı değerler değil. Yazılımın bu durumla karşılaştığında ne yapacağı ya önceden bütün hatlarıyla kendisine yüklenmeli ya da bazı genel fikirler yüklenip bunlar çerçevesinde davranması beklenmeli; mesela çoğunluğun menfaati, çocukların her şartta korunması vb. Bu zamana kadar üretilen prototipler henüz böyle ikilemlerle karşılaşmış değiller o nedenle piyasaya sürülecek olan otonom araçların bu durumlarda nasıl bir yol izleyeceği halen tartışılan bir konu.

Sürücüsüz araç üreticilerinin çözmesi gereken yalnızca vagon açmazına hepimizin razı olacağı bir cevap bulmak değil. Bunun yanında aracın teknik özelliklerinin doğuracağı etik problemleri birkaç başlık altında toplayabiliriz:

Emniyet: Önceden de bahsettiğimiz gibi araç yazılımını besleyen birçok sensör bu teknolojinin esas elemanı. Ancak sensörlerin (GPS, harita, radar, yakınlık sensörleri vb) kalitesi ve verdiği doğru sonuçların oranı fiyatıyla doğru orantılı. Aracın doğru karar verip güvenle yol alması da bu sensörlerin yüksek kalitesine bağlı olduğundan, insan hayatı, üreticilerin pek hoşuna gitmeyen pahalı cihazlara bağlı. Dolayısıyla son teknolojiye sahip olmayan, görece ucuz sistem elemanlarının kullanımı, insan hayatını tehlikeye soktuğundan etik dışı sayılabilir. Bu durumda halkın karşılayabileceği bir fiyata mal etmek ile halkın emniyetini maksimum seviyede tutmak arasındaki denge nasıl sağlanabilir?

Sistem Güvenliği: Aracın sahip olduğu yazılım, evvelden de bahsettiğimiz gibi, hatalarından bir anlamda ders alarak, geliştirdiği modeli güncelleyip en iyi modele ulaşmaya çalışma sistemi üzerine kurulu. Ancak her araç bu verileri toplasa ve bir havuzda birleştirse verinin kapsamı genişler ve kısa sürede verimli öğrenme gerçekleşmiş olur. Bunun dışında araç kat ettiği yol boyunca kendi dışındaki cihazlarla sinyalizayson sağlayıp iletişimde olursa daha stabil ve güvenli bir sürüş sağlayabilecektir. Bu da sahip olduğu sistemin dışarısı ile veri transferine açık olacağı anlamına gelir. Bu açıklık daha kaliteli bir sistemi sağlarken aynı zamanda güvenlik açığı da yaratacaktır. Bir yandan en güvenli sistemler kapalı sistemlerdir, diğer yandan bu, aracı diğer araçlardan elde edilen yeni veriler doğrultusunda oluşturulan yazılımdan yoksun bırakmak anlamına gelir ve bu insan güvenliğini tehlikeye atabilir. Bu durumda araçlar toplu ağa bağlı mı olmalıdır, yoksa münferit sistemler şeklinde mi tasarlanmalıdır?

İtimat: Bu araçlarda yolcunun konforunu arttırmak ve sisteme müdahalesini azaltmak için araç binen yolcunun nereye gitmek istediğinin bilgisini alınır ve rota oluşturulur. Rotanın en güvenilir, en kısa, en konforlu ve en doğru yol olduğuna nasıl emin olunabilir? (Örneğin sistemin sizi reklam panolarının en yoğun olduğu yoldan veya alışveriş merkezlerinin ortasından götürmesi sizde bir alışveriş dürtüsü oluşturabilir.)

Sorumluluk ve Mesuliyet: Sürücünün hiçbir şekilde müdahil olmadığı sürücüsüz araçlarda kazaya karışma durumunda sorumlu kim kabul edilir? Sürücüye isteği doğrultusunda müdahale hakkı verilmeli midir? Verilirse ve sürücü kaza durumunda müdahale etmemeyi tercih ederse sorumlu kabul edilir mi? Polisin kural ihlallerine müdahale etme hakkı olacak mıdır? Olası durumda ceza araç sahibine mi üretici firmaya mı kesilir?

Tüm bu etik konuların haricinde işin sosyal yaşamda yaratacağı değişiklikler de var. Örneğin taksicilik, toplu taşıma araçları şoförlüğü tarihe karışabilir, kaza oranlarının düşeceğinin öngörüsü doğrultusunda sigorta şirketleri önemini yitirebilir. Bunun yanında tüketici olarak satın alacağımız araçlarda aradığımız özellikler tamamen değişecek gibi görünüyor. Alacağımız aracın yolcusuna sunduğu hizmetleri önemseyeceğiz, vagon açmazı ile karşılaştığında sürücüsünü feda etme oranına bakacağız veya hangisinin açmazlarla karşılaştığında vereceği karar bizim felsefemizle örtüşüyorsa onu tercih edeceğiz.

Sürücüsüz araçların yollara çıkıp hayatımızın birer parçası olmalarına daha vakit varmış gibi görünüyor. Bu süre zarfında eminim hepimizin aklını aynı soru kurcalayacak: Sayısı milyarlara ulaşmışken hayatımızın bu kadar içinde olan bu makinelere gönül rahatlığıyla otonomi verebilecek miyiz?

Kaynakça: “Ethical and Social Aspects of Self-Driving Cars” Tobias Holstein, Gordana Dodig-Crnkovic, Patrizio Pelliccione/ Şubat 2018

Bağlantı: https://arxiv.org/pdf/1802.04103.pdf

Matematiksel

Paylaşmak İsterseniz

Yazıyı Hazırlayan: Rumeysa Aslıhan Ertürk

Vefa Lisesi 143. dönem mezunu, İTÜ Bilgisayar Mühendisliği anadal, Fizik yandal öğrencisi. Küçük yaşlarda bilimin büyülü dünyası başını döndürmüş olacak ki tüm hayallerini onun peşinden koşmak üzerine kurdu ancak saçlarının beyazlamaya başladığı döneme denk gelen zamanlarda, bir taşı bile dünyalara bedel olsa da bu memlekette bilim yapmanın mümkün olmadığını anladı. Mevcut sistemin güçlü bir girdap olduğu hayat ırmağında ters yöne yüzmeye çalışsa da sonunun ne olacağının farkında. Her şeye rağmen bilmek ve bildirmek onu mutlu ediyor. Okuyucusuna keyifli dakikalar dilerken kendilerinin olumlu veya olumsuz görüşlerini de dört gözle bekliyor.

Bunlara da Göz Atın

Origami Modern Teknolojiye Nasıl İlham Veriyor?

3B yazıcılar yokken, hatta onlardan bir hayli zaman önce, dümdüz bir materyalden üç boyutlu bir …

Bir cevap yazın

E-posta hesabınız yayımlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir

This site uses Akismet to reduce spam. Learn how your comment data is processed.

ga('send', 'pageview');