Yapay Zeka Kıyametinden Kaçınmak İçin 23 İlke

Bilim kurgu kitap ve filmlerde karşımıza çıkan robotlar bir gün, bizi alt üst ederler mi? Uzmanlar bir yapay zeka kıyametinden kaçınmak için 23 maddelik ilkelerde birleşti.

Stephan Hawking, SpaceX Ceo’su Elon Musk ve Sabancı Üniversitesi Öğretim Görevlisi Esra Erdem’in de içinde bulunduğu yüz kişiden daha fazla uzmanında onayladığı Yapay Zeka araştırmalarında geleceğe rehberlik edecek 23 ilke ortaya koydular. Akademisyenler, mühendisler ve Google kurucu ortağı Larry Page ‘inde yer aldığı teknoloji şirketlerinin temsilcilerinin bulunduğu konferansta en az yüzde doksanın ilkeleri kabul etmesiyle maddeler oluşturuldu.

Kaliforniya’da Asilomar kıyısında, “Asilomar Yapay Zeka İlkeleri” olarak adlandırılan toplantıda araştırma konuları, etik ve değerler, uzun dönemli konular, ölümcül silahların nasıl kullanılacağından, bilim insanlarının hükümetlerle nasıl çalışacağına varana kadar birçok konu ele alındı.

İlkeler aynı zamanda spesifik terimlerle ilgili belirli bir görüş birliğine dayanıyor, örneğin insanoğluna yararlı olanlar ve neyin olmaması gibi. Onlar bizim aramızda yaşarken, bu süper zeki robotların hangi haklara sahip olduğuna karar vermeye ihtiyacımız da var. Fakat listenin ardındaki uzmanlar için bu, Yapay Zeka araştırmasının erken aşamasında bir şeyleri kayıt altına alma meselesi. (2016 da Oxford Üniversitesinden bir bilim insanı onların da İnsan Hakları ile korunabileceğini ifade etmişti.)

Konferansa katılan Santa Cruz Kaliforniya Üniversitesi’nden Anthony Aguirre şunları söylüyor. “Eğer, en zeki insanlardan daha zeki Yapay Zeka olursa, dünyanın temelinden değişmeyeceğine inanmak, tamamen saflık olur.”

“Yapay Zekanın sadece insanların verdiği kararları otomatikleştirdiğini düşünmek, elektriğin sadece mumun yerini aldığını düşünmek gibidir.” George Dvorsky

İlkeler, Yaşamın Geleceği Enstitüsü tarafından yayınlandı. Tam metni https://futureoflife.org/ sitesinden inceleyebilirsiniz.

ARAŞTIRMA KONULARI

1. Amaç: Yapılan Yapay Zeka çalışmalarının amacı yönlendirilemeyen zeka oluşturmak değil, faydalı zeka oluşturmak olmalıdır.

2. Araştırma Fonu: Yapay Zeka çalışmalarına yapılan yatırımlar sosyal araştırmalar, etik, hukuk, ekonomi, bilgisayar biliminde karşılaşılan sorunların çözümüne dönük olanlar için fon sağlanarak yürütülmelidir. Örneğin;

• Gelecekteki Yapay Zeka sistemlerini, bozulmadan veya saldırıya uğramadan istediklerimizi yapmaları için nasıl yüksek oranda sağlam yapabiliriz?

• İnsanların imkân ve olanaklarını devam ederken, otomasyon üzerinden refahımızı nasıl sağlayabiliriz?

• Yasal sistemlerimizi daha adil ve kullanışlı olması için, Yapay Zeka ile ilişkili riskleri yönetmek için nasıl yenileyebiliriz?

• Yapay Zeka hangi değerlerle uyumlu olmalı, hangi yasal ve etik statüye sahip olmalıdır?

3. Bilim-Politika İlişkisi: Yapay Zeka araştırmacıları ve hükumetler arasında yapıcı ve sağlıklı bir etkileşim olmalıdır.

4. Araştırma Kültürü: Yapay Zeka araştırmacıları ve geliştiricileri arasında işbirliği, güven ve şeffaflık kültürü geliştirilmelidir.

5. Yarıştan Kaçınmak: Yapay Zeka sistemlerini geliştiren takımlar, güvenlik standartlarında işin kolayına kaçmaktan kaçınarak etkin bir şekilde işbirliği yapmalıdırlar.

6. Güvenlik: Yapay Zeka sistemleri kullanım süreleri boyunca emniyetli ve güvenilebilir olmalıdırlar.

7. Başarısızlık Şeffaflığı: Eğer bir Yapay Zeka sistemi bir zarara sebep olursa, sebebini öğrenmek mümkün olmalıdır.

8. Hukuki Şeffaflık: Herhangi bir otonom sistem, adlî karar vermeye dahil olursa, uzman ve yetkili insan tarafından denetlenebilen bir yorumlama da sağlamalıdır.

9. Sorumluluk: Yapay Zeka sistemlerinin tasarımcıları ve kurucuları hatalı kullanımlarının ve eylemlerinin ahlaki sonuçları konusunda ilgili kimselerdir ve sonuçları şekillendirme görevi ve fırsatları vardır.

10. Değerler: Yapay Zeka sistemleri, amaçları, davranışları ve işlevleri açısından insani değerlerle uyuşacak şekilde tasarlanmalıdır.

11. İnsani Değerler: Yapay Zeka sistemleri insanlık onuru, hak, özgürlük ve kültürel çeşitlilik ile uyumlu olacak şekilde tasarlanmalı ve işletilmelidir.

12. Kişisel Mahremiyet: İnsanlar Yapay Zeka tarafından üretilen verilere erişme, bunları yönetme ve kontrol etme hakkına sahip olmalıdırlar.

13. Özgürlük ve Mahremiyet: Kişisel verilerin Yapay Zekaya aktarılması insanların gerçek özgürlüklerini kısıtlamamalıdır.

14. Ortak Fayda: Yapay Zeka teknolojileri, mümkün olduğu kadar fazla insana fayda ve güç sağlamalıdır.

15. Ortak Refah: Yapay Zeka tarafından oluşturulan ekonomik refah, tüm insanlığa fayda sağlayacak şekilde geniş ölçüde paylaşılmalıdır.

16. İnsan Kontrolü: İnsanlar hedeflerini gerçekleştirmek için kullandıkları Yapay Zekanın onlar adına hangi kararı, ne şekilde alacağını seçebilmelidirler.

17. Yıkmama: Gelişmiş sistemlerinin kontrolü ile sağlanan güç, toplum sağlığının dayandığı sosyal ve sivil süreçleri yıkmaktan çok iyileştirmelidir.

18.Silahlanma Yarışı: Ölümcül otonom silahlarda yapılacak bir silahlanma yarışından kaçınılmalıdır.

19. Yetenek: Gelecekteki Yapay Zeka sistemlerinin yetenekleri ile ilgili güçlü varsayımlardan kaçınmak gerekiyor.

20. Önem: Gelişmiş Yapay Zeka, Dünya üzerindeki yaşamın tarihinde derin bir değişimi temsil edebilir, bu yüzden dikkatli planlanmalı ve yönetilmelidir.

21. Riskler: Yapay Zeka sistemleri tarafından oluşturulabilecek varoluşsal risklerin azaltması yönünde planlama ve çalışmalar yapılmalıdır.

22. Kendini Yenileme ve Geliştirme: Hızla artan nitelik ve ya niceliğe yol açabilecek şekilde kendini yenileme ve geliştirmek üzere tasarlanan Yapay Zeka sistemleri sıkı güvenlik ve kontrole tabi tutulmalıdır.

23. Ortak Fayda: Yapay Zeka ancak yaygın olarak paylaşılan etik ideallerin hizmetinde ve bir devlet veya kuruluştan ziyade insanlığın yararına geliştirilmelidir.

KAYNAKÇA
www.sciencealert.com/artificial-intelligence-should-be-protected-by-human-rights-says-oxford-mathematician
www.gizmodo.com/these-23-principles-could-help-us-avoid-an-ai-apocalyps-1791920321
www.futureoflife.org/ai-principles/

Matematiksel

Yazıyı Hazırlayan: Nurgul Kendirlioglu

Selçuk Üniversitesinde Matematik Lisansımı bitirdikten sonra Kocaeli Üniversitesinde Yüksek lisansımı tamamlayıp, Anadolu Üniversitesi Sosyoloji bölümünü bitirdim. Aslında nereli ve nereleri bitirdiğimiz çok da önemli değil… Matematiğe, bilime ve insanlığa dair farkındalık kazandırabilirsek, sanki var olduğumuz dünya daha yaşanılabilir olacak. Zira doğum ve ölüm arasında kalan zamanda, işe gitmek,fatura ödemek, tv izlemekten daha başka şeyler yapmak için dünyada olduğumuzu düşünüyorum.Okumayı, dinlemeyi, izlemeyi, yeni ve insanlığa faydalı güzel şeyleri keşfetmeyi ve paylaşmayı seviyorum… Keyifli okumalar dilerim. :)

Bunlara da Göz Atın

Asu Özdağlar, MIT’nin bölüm başkanı oldu

Massachusetts Institute of Technology (MIT) Joseph F. & Nancy P. Keithley’de profesör olarak görev yapan …

Bir Cevap Yazın

E-posta hesabınız yayımlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir

ga('send', 'pageview');