Bilgisayar bilimci Joseph Weizenbaum, yapay zekânın doğuşuna tanıklık eden öncülerdendi. Buna karşın, bilgisayarlarla insanlar arasındaki sınırın bulanıklaştırılmasına en sert şekilde karşı çıkan isimlerden biri oldu.
Yazar olmayı hedefleyen biri için dili anlamak büyük önem taşır. Peki, makineler bunu ne ölçüde başarır? Bir makine, bir insanla sohbet ederken, yanıtlarıyla karşısındakini bir insanla konuştuğuna ikna edecek kadar başarılı olabilir mi?
Turing, bu soruya bir cevap ararken, dönemin popüler salon oyunlarından esinlenerek “Taklit Oyunu” adını verdiği bir deney tasarladı. Bugün bu fikir, “Turing Testi” olarak bilinmektedir. Bu testi geçmek için, doğal dilin tüm belirsizliklerini girdi olarak alıp, insan benzeri yanıtlar üretebilen bir algoritmaya ihtiyaç vardır.
Turing’in ortaya koyduğu bu meydan okumaya verilen ilk dikkat çekici yanıt, 1966 yılında geliştirilen ELIZA adlı programdı. Joseph Weizenbaum’un liderliğinde geliştirilen bu yazılım, son derece basit ama son derece zekice bir fikre dayanıyordu. Daha önce, az çok tutarlı metinler üretebilen bazı ilkel dijital dil üreteçleri vardı. Ancak Weizenbaum’un programı, insanlarla etkileşim kurmak üzere bilinçli biçimde tasarlanan ilk sistemdi.
Psikanaliz ve Yapay Zekanın Kesiştiği Nokta: Eliza
Weizenbaum, geliştirdiği programa George Bernard Shaw’un Pygmalion adlı oyunundaki Eliza Doolittle karakterinden esinle “Eliza” adını verdi. Eliza Doolittle, işçi sınıfından gelip üst sınıfa özgü bir konuşma biçimini öğrenen bir karakterdi.
Program, Weizenbaum’un geliştirdiği MAD-SLIP adlı programlama dili kullanılarak, erken dönem transistörlü ana bilgisayarlardan biri olan 36 bitlik IBM 7094 üzerinde yazıldı.
Eliza zaman paylaşımlı bir sistem üzerinden çalışıyordu. Kullanıcı, programla elektrikli bir daktilo ve yazıcı aracılığıyla uzaktan etkileşim kuruyordu. Bir cümle yazıp enter tuşuna bastığında, mesaj ana bilgisayara gönderiliyordu. Eliza ise bu mesajı tarayarak bir anahtar sözcük arıyor ve bu sözcüğü yeni bir cümle içinde kullanarak yanıt oluşturuyordu.
Carl Rogers, 20. yüzyılın en etkili psikologlarından biriydi. Rogers’ın terapi yaklaşımında terapist öğüt vermez, yönlendirmez ya da çözüm önermez. Bunun yerine, danışanın söylediklerini ona geri yansıtarak, kişinin kendi düşüncelerini daha derinlemesine keşfetmesine olanak tanır. ELIZA’nın yaptığı da tam olarak buydu. Ancak tek bir fark vardı: Bu kez terapist bir insan değil, bir bilgisayar programıydı.
Weizenbaum, eğitimli terapistlerin seanslardaki tepkilerinin belirli kalıplara indirgenebileceğini fark etmişti. Sürekli bir diyalogu teşvik etmek amacıyla Eliza’yı, Rogerian bir psikanalistin konuşma tarzını taklit edecek şekilde tasarladı. Program, kullanıcının söylediklerini alıyor ve onları bir soruya dönüştürerek geri yansıtıyordu. Açılış cümlesi ise şuydu: “Lütfen sorununuzu anlatın.”
Joseph Weizenbaum Neden Yapay Zeka Muhalifi Oldu?
Eliza’nın karşısındaki kişiyi ne ölçüde etkileyebildiğini görmek isteyen Weizenbaum, öğrencilerini ve meslektaşlarını ofisine davet etti. Onların makineyle sohbet etmesine izin verdi ve süreci dikkatle izledi. Kısa süreli etkileşimlerde bile birçok kullanıcının algoritmaya duygusal bağlar kurduğunu fark etti. İnsanlar, makineye içlerini döküyor, yaşamlarındaki ve ilişkilerindeki sorunları ona itiraf ediyordu.
Daha da şaşırtıcı olan, bu yakınlık duygusunun Weizenbaum’un bilgisayarın nasıl çalıştığını ayrıntılarıyla açıkladıktan sonra da devam etmesiydi. Bilgisayarın söylenenleri gerçekten anlamadığını açıkça belirtmişti. Ancak bu bilgi bile kullanıcıların yaklaşımını değiştirmedi.
Weizenbaum’u en çok sarsan an ise, aylar boyunca programı geliştirirken onu izleyen sekreterinin, Eliza’yla baş başa konuşmak için odadan çıkmasını istemesiydi.
Weizenbaum, insanların basit bir yazılımla bu kadar güçlü bir bağ kurmasından derin bir rahatsızlık duydu. Ona göre hiçbir makine insanla gerçek bir diyalog kuramaz, hele onu anlayamazdı. Ancak kullanıcılar bunun tam tersini yaptı. Chatbot’la kısa sürede yakınlık geliştirdiler, saatlerce baş başa kalıp mahremiyet içeren sohbetler gerçekleştirdiler.
Eliza Etkisi Nedir?
Eliza şunu ortaya koydu. İnsan ile makine arasında ikna edici bir iletişim, anlamanın yalnızca tek yönde işlemesi durumunda bile gerçekleşebiliyordu. Zekânın kendisi değil, yalnızca zekâ simülasyonu insanları kandırmaya yetiyordu. Weizenbaum, bu durumu Eliza etkisi olarak adlandırdı.
Ona göre bu etki, dijital çağda insanlığın topluca maruz kalacağı bir tür sanrılı düşünme biçiminin habercisiydi. Bu farkındalık, Weizenbaum için sarsıcıydı ve sonraki on yıl boyunca entelektüel yönelimini derinden etkiledi.
1976’da yayımladığı Computing Power and Human Reason: From Judgment to Calculation adlı kitabında, insanların neden basit bir makinenin karmaşık duyguları anlayabileceğine inanmak istediğini uzun uzun sorguladı.
Bu kitapta Eliza etkisini, “modern insanı” etkileyen daha geniş bir patolojinin belirtisi olarak yorumladı. Bilim, teknoloji ve kapitalizmin egemen olduğu bir dünyada, insanlar kendilerini büyük ve kayıtsız bir makinenin izole parçaları gibi görmeye alışmıştı.
Böylesine yoksullaşmış bir toplumsal ortamda, Weizenbaum’a göre insanlar bağlantı kurma arzusuyla akıl ve yargılarını askıya alıyor, bir bilgisayar programının sorunlarını önemseyebileceğine inanıyordu.
Sonuç Olarak
Weizenbaum, yaşamının geri kalanını yapay zekâ ve dijital teknolojiye yönelik bu insancıl eleştiriyi derinleştirmeye adadı. Amacı, makinelerin söylendiği kadar zeki olmadığını sürekli hatırlatmaktı. Konuşuyor gibi görünseler bile, aslında asla dinlemediklerini ve anlayamadıklarını vurgulamak istiyordu.
İnsani özellikler atfetme eğilimi, insanın dünyayla ilişki kurma biçiminin doğal bir parçasıdır. Ancak günümüzde pek çok yapay zekâ sisteminin tasarımı ve sunumu, bu eğilimi özellikle körükler.
Bu durum, insanın makinelerle olan ilişkisini sorgulamayı zorunlu kılar. Weizenbaum’un uyarısı hâlâ geçerliliğini korur: Bir makine, insana benzer davranışlar sergileyebilir, ama bu onu insan kılmaz. Gerçek anlamda anlayış ve empati, yalnızca insanlar arasında gelişen derin bir paylaşımdan doğar. Bu da bir simülasyonun sunamayacağı bir şeydir.
Kaynaklar ve İleri Okumalar
- Weizenbaum’s nightmares: how the inventor of the first chatbot turned against AI. Bağlantı: Weizenbaum’s nightmares. how the inventor of the first chatbot turned against AI | Artificial intelligence (AI). Yayınlanma tarihi: 25 Temmuz 2023
- Natale, Simone. (2019). If software is narrative: Joseph Weizenbaum, artificial intelligence and the biographies of ELIZA. New Media & Society. 21. 712-728. 10.1177/1461444818804980.
Size Bir Mesajımız Var!
Matematiksel, matematiğe karşı duyulan önyargıyı azaltmak ve ilgiyi arttırmak amacıyla kurulmuş bir platformdur. Sitemizde, öncelikli olarak matematik ile ilgili yazılar yer almaktadır. Ancak bilimin bütünsel yapısı itibari ile diğer bilim dalları ile ilgili konular da ilerleyen yıllarda sitemize dahil edilmiştir. Bu sitenin tek kazancı sizlere göstermek zorunda kaldığımız reklamlardır. Yüksek okunurluk düzeyine sahip bir web sitesi barındırmak ne yazık ki günümüzde oldukça masraflıdır. Bu konuda bizi anlayacağınızı umuyoruz. Ayrıca yazımızı paylaşarak da büyümemize destek olabilirsiniz. Matematik ile kalalım, bilim ile kalalım.
Matematiksel
