20. yüzyılın büyük mühendisleri arasında yer alıp, 21. yüzyıl teknolojilerimize en çok katkı sağlayan kimdir? Bir çok aday olsa da Claude Shannon aralarından bir adım öne çıkar. Shannon en çok bilgi teorisi alanını oluşturmasıyla tanınır. Yani kendisi bilgiyi matematiksel olarak ifade eden ilk kişidir.
Claude Shannon, 1937’de MIT’de yüksek lisans öğrencisi iken, tüm zamanların en etkileyici yüksek lisans tezi sayılan çalışmasını teslim etti. Kendisi bu makalesinde, bilginin ne olduğunu matematiksel terimlerle tanımlamıştı. Bu sayede birbirinden farklı iletişim biçimleri olarak görülen telgraf, telefon, radyo ve televizyon tek bir çerçevede birleşti. Bu zamandan sonra da kendisi “Bilgi çağının Magna Carta’sı” olarak tanınmaya başladı. Bilgi teorisi hakkında detaylara geçmeden önce kısaca Claude Shannon’ı tanımanız lazım.
Kısaca Claude Shannon
Claude Shannon, Michigan’ın küçük bir şehrinde model uçaklar ve telsizler yaparak büyüdü. Daha sonrasında da Michigan Üniversitesi’nde elektrik mühendisliği ve matematik okudu. Mezuniyetinin devamında Vannevar Bush ile çalışmak için MIT’ye girdi. 1937 yazında da MIT’deki çalışmalarına ara verip Bell Labs’te çalışmaya başladı.
Shannon, Bell Labs’te telefon sistemi devrelerinin gücüne yakından şahit oldu. Aramaları yönlendirmek ve yükü dengelemek için elektrik anahtarları kullanılıyordu. Shannon bu devrelerin çalışma şeklini, zihninde başka bir şeyle bağdaştırdı. Bu şey, matematikçi George Boole tarafından geliştirilen Boole cebiri idi.
Boole cebrinde doğru ifadelere 1, yanlış ifadelere 0 değeri verilir. Böylece “ve, veya, değil, eğer, öyleyse” gibi temel birtakım mantıksal işlemler sanki matematik denklemiymiş gibi yazılır. Shannon elektrik devrelerinin bu mantıksal işlemleri anahtarlarla gerçekleştirebileceğini fark etti.
Örneğin, ve işlevini gerçekleştirmek için iki anahtar art arda yerleştirilebilirdi. Böylece akımın geçmesi için ikisinin de açık olması gerekirdi. Veya işlevini gerçekleştirmek için anahtarlar paralel yerleştirilebilirdi. Böylece ikisinden biri açıksa akım geçecekti.
Bu fikir, Shannon’ın 1938 yılında “Röle ve Anahtarlama Devrelerinin Sembolik Bir Analizi” ( A Symbolic Analysis of Relay and Switching Circuits) başlıklı yüksek lisans tezine yol açtı. ( Röle, elektriği açıp kapatılabilen bir anahtardır.)
Claude Shannon bu tezinde Boole cebirinin pek çok fonksiyonunun nasıl uygulanabileceğini gösterdi. Son cümlesinde, “Karmaşık matematik işlemlerini röle devreleriyle uygulamak mümkündür,” diye yazdı. Bu, tüm dijital bilgisayarların altında yatan temel fikri oluşturacaktı.
Claude Shannon’ın Alan Turing ile nasıl bir ilişkisi vardı?
Shannon’ın fikirleri Alan Turing’in de ilgisini çekti, çünkü basit talimatlar ve ikilik sistemdeki kodlamalarla sadece matematiksel değil, mantıksal problemleri de çözen “evrensel bilgisayar” anlayışıyla bağlantılıydı. Ayrıca mantık insan zihninin işleyişiyle bağlantılı olduğundan, mantıksal görevleri uygulayabilen bir makine insan zihnini de taklit edebilirdi.
1943’ün başlarında Turing, Claude Shannon’la tanıştı. Uzun sohbetlerin ardında ikisi de tezlerinin ortak bir yönü olduğunu fark ettiler. Bu, basit ve ikilik talimatlarla çalışan bir makinenin sadece matematik problemleriyle değil, mantıkla da nasıl başa çıkabileceği idi. Devamında Turing “Shannon makineye sadece veri değil, kültürel şeyler de yüklemek istiyor!” diyecekti.
Enformasyon – Bilgi Teorisi Nedir?
Shannon’un bir sonraki hedefi daha büyüktü. İletişim insanın en temel ihtiyaçlarından biridir. Bu nedenle tarih boyunca insanlar her zaman daha uzaktakilerle, daha hızlı ve daha güvenilir iletişim kurmalarını sağlayacak yöntemler aradılar. Ancak iletişim sistemlerinin mühendisliği her zaman belirli kaynağa ve fiziksel ortama bağlıydı.
Bir gün Shannon “İletişim için büyük bir birleşik teori var mı?” diye düşündü. Bu konu üzerine on yıl kadar düşündükten sonra nihayet başyapıtını 1948’de yayınladı. Bu İletişimin Matematiksel Teorisi (The Mathematical Theory of Communication) adlı bir makaleydi. Shannon bu makalesinde Bilgi Teorisi kavramını tanıttı. Bu arada hatırlatalım. Shannon tüm bunları dünyada 10’dan az bilgisayarın olduğu bir dönemde yaptı.
Birçok kitabın editörlüğünü yapan ve bazılarına da katkıda bulunan Shannon kendi adına hiç kitap yazmadı. Sonraki yıllardan kalmış yayınlanmamış çalışma taslakları bulunsa da elli yaşını geride bıraktığı 1967’de yayınlarına son verdi. Ancak yaşamının hiçbir döneminde çalışmaktan geri kalmadı.
Shannon’ın dehası, iletişimin anahtarının belirsizlik olduğu gözleminde yatar. Bu tek gözlem, iletişim problemini fizikselden soyuta kaydırdı ve Shannon’ın belirsizliği olasılık kullanarak modellemesine izin verdi. Bu belirsizlik ve olasılık çerçevesi göz önüne alındığında, Shannon çığır açan makalesinde iletişimin temel sınırını sistematik olarak belirlemek için yola çıktı. Shannon tarafından belirsizliğin temel birimi olarak “bit” kullanıldı. Bir bit sadece 0 ya da 1 değerini alsa da yeterli sayıda bit kullanılarak her türlü sayı, ses, görüntü oluşturmak mümkündü.
Bilgi Teorisi Nasıl Çalışır?
İlk olarak, Shannon bilgiyi temsil etmek için saniyedeki minimum bit sayısı için aşağıdaki formülü buldu. Bu sayıya entropi oranı, H adını verdi. Bu sayı, kaynağın hangi mesajı üreteceğini belirlemede yer alan belirsizliği ölçer.
Entropi oranı ne kadar düşükse, belirsizlik o kadar az olur ve dolayısıyla mesajı da sıkıştırmak o kadar kolay olur. Örneğin, dakikada 100 İngilizce harf hızında mesajlaşma, her dakika 26100 olası mesajdan birinin gönderilmesi anlamına gelir. Tüm bu olasılıklar 470 bit olarak kodlanabilir. Bunun nedeni 26100 ile 2470 in birbirine yakın olmasıdır.
Shannon sonrasında kaynaktan gelen bilginin güvenilir bir şekilde iletilmesinin ancak ve ancak H < C olması durumunda mümkün olduğunu gösterdi. Burada C olarak tanımlanan şey, sistem kapasitesi olarak tanımladığı şeydi. Bu, alıcının mesajın belirsizliğini çözebileceği maksimum hızdır ve onu iletişim için hız sınırı yapar. Diğer bir deyişle, herhangi bir güvenilirlik derecesini korurken, hızlı bir şekilde iletişim kurabilme hızı sınırı C’dir. Tüm bunlar bir bilginin nasıl üretildiğine ve aktarıldığına dair bir teoriydi. Bu nedenle bir bilgi teorisi dendi.
Sonuç Olarak;
Shannon’ın teorisinin en beklenmeyen sonucu bilginin doğası ne olursa olsun – ister Shakespeare sonesi, Beethoven’ın Beşinci Senfonisi’nin bir kaydı veya bir Kurosawa filmi – onu bitlere kodlamanın her zaman en mümkün olduğuydu.
Bu şaşırtıcı sonuç, bitin evrensel bilgi para birimi olarak hüküm sürdüğü modern dijital bilgi çağının temel taşıdır. Günümüzdeki tüm sayısal iletişim teknolojileri; uydu iletişimleri, cep telefonu şebekeleri, internet, hepsi, Shannon’un bilgi teorisine dayanarak geliştirilmişlerdir.
Yazının devamında göz atmak isterseniz: Claude Shannon’ın 6 Basamaklı Problem Çözme Tekniği İle İşlerinizi Kolaylaştırın
Kaynaklar ve İleri Okumalar:
- Claude E. Shannon: Founder of Information Theory; Yayınlandığı Yer: Scientificamerican. Bağlantı: https://www.scientificamerican.com
- Information Theory: What relationship did Claude Shannon have with Alan Turing? Bağlantı: https://www.quora.com/
- How Claude Shannon Invented the Future. Yayınlanma tarihi: 22 Kasım 2020.; Yayınlandığı Yer: Quantamagazine.; Bağlantı: https://www.quantamagazine.org/
- Giannini, Tula & Bowen, Jonathan. (2017). Life in Code and Digits: When Shannon Met Turing. 10.14236/ewic/EVA2017.9.
Matematiksel
