Mühendislik ve Teknoloji

Yapay Zekâ ve Dezenformasyon: Yanlış Bilgilendirme, Sahte Haber Tespiti

Artan veri depolama ve işleme imkânları ile birlikte yapay zekâ, görüntü işleme, doğal dil işleme, büyük veri, nesnelerin interneti gibi birçok teknolojiyi kullanarak ortaya çıkan yeni iş modelleri, geleneksel iş modellerini dikkate değer düzeyde değiştirdikleri için yıkıcı teknolojiler olarak adlandırılmaktadır.

Söz konusu yıkıcı teknolojilerden özellikle yapay zekâ, organizasyonlara sağladığı çeşitli yararlar sebebiyle sağlık, tarım, havacılık, enerji gibi birçok sektörde kullanılmaktadır. Buna ek olarak yapay zekâ; akıllı telefon kameraları, sosyal medya platformları ve Netflix, Spotify gibi akış hizmeti sunan firmalar aracılığıyla bireylerin gündelik yaşamında da hatırı sayılır ölçüde yer edinmiştir. Yazının devamında bireylerin
yapay zekâ ile iletişim kurarken veya etkileşim halindeyken motivasyonu, amacı ve bakış açısı akademik çalışmalar kapsamında değerlendirilecektir.

Yapay Zeka Ve Sosyal Medya ilişkisi

Yapay zekâ ve iletişimin kesiştiği alanlardan biri sosyal medya platformları veya haber sitelerindeki yanlış bilgilendirme (misinformation), dezenformasyon, sahte haber, sahte video, söylenti gibi içeriklerin tespitidir. Güvenilir olmayan içeriklerin paylaşımı belli bir siyasi karar, beşinci kol faaliyeti, manipülasyon gibi motivasyonlar ile kasten (disinformation) veya değil (misinformation) bireyler, organizasyonlar ve devletler için maddi, manevi birçok kaybı beraberinde getirir.

Kullanımı artan akıllı cihazlar ve tüketicilerin aynı zamanda içerik üretici olarak yer aldığı Twitter, Facebook gibi yeni medya platformları, birçok güvenilir olmayan içeriğin yayıldığı ve hacminden dolayı insanlar tarafından takip edilemeyecek boyuttadır. Teknoloji, bu boyut ve hacimdeki verinin üretilmesinden, güvenilir olmayan içeriğin tespiti ve takibini zorlaştırmadan sorumluyken aynı zamanda panzehirdir. Teknolojinin sunduğu çok boyutlu ve yüksek hacimli gerçek zamanlı veri işleme, makine öğrenmesi, doğal dil işleme teknikleri güvenilmeyen içeriğin tespitinde kullanılmaktadır.

Chatbot ve İnsan İlişkileri

Yapay zekâ teknolojilerinin arasında en çok yankı bulan uygulamalardan biri olan deepfake, manipülasyon ve yanlış bilgi yayma amaçlı kullanılabilen derin öğrenme metotlarıyla değiştirilmiş, üretilmiş sentetik medya anlamına gelmektedir.

Appel ve Prietzel (2022) gerçekleştirdikleri çalışmada, sıradan vatandaşlara izletilen Barack Obama ve Boris Johnson deep fake videolarının gerçek olup olmadığına dair tespitinin, bireylerin analitik düşünme ve politikaya ilgisi ile ilişkili olup olmadığını incelemiştir. Deney sonucunda, analitik düşünme yeteneği ve politik ilgisi yüksek bireylerin deep fake videolarını ve gerçek olmayan haber metinlerini tespitte daha başarılı bulunduğunu belirtmektedir.

Yapay Zekâ – Sosyal Medya Kullanıcısı İlişkisi

Instagram, Twitter, TikTok gibi sosyal medya platformları, kullanıcılara içerik keşfetme, öne çıkarma, sıralama gibi birçok hizmet sağlamak için yapay zekâ destekli algoritmalar kullanır. Bu algoritmalar, her kullanıcıya özel ve ilgi alanlarına hitap eden içerik sunmayı amaçlar. Sonucunda kullanıcının uygulama içerisinde daha fazla vakit geçirmesini, daha çok içerik üretmesini ve dolayısıyla platformun reklam gelirlerini arttırmayı hedefler.

Kang ve Lou (2022), TikTok kullanıcılarının yapay zekâ algoritmaları ile nasıl işbirliği yaptığını ve kendi kullanıcı etkileşimini nasıl şekillendirdiğini inceledikleri çalışmada, TikTok kullanıcılarının yapay zekâ destekli kişiselleştirilmiş kullanıcı deneyimlerine yüksek ölçüde açık olduğunu belirtmektedir.

Çalışma sonucunda, kullanıcıların kendi ilgi alanları ile uyuşan içeriğe erişmek için algoritmaları eğitmeye çalıştığını, yapay zekâ algoritmalarının firmalara doğru içerik ve ağ oluşturmada nasıl yardım ettiğini ve kullanıcı-yapay zekâ etkileşiminin arkasındaki insan ve organizasyon perspektifini vurgulaması açısından önemlidir.

Duygu İfşasında Chatbot ve İnsan İlişkisi

Chatbot; mesajlaşarak bilgi alan, veren veya işlem gerçekleştiren sıklıkla bankacılık, alışveriş, rezervasyon, müşteri hizmetleri, çağrı merkezlerinde kullanılan sohbet robotlarıdır. Sohbet robotlarının yapay zekâ teknolojileri ile daha akıllı hale getirilmesiyle mesajları daha iyi anlayabilen ve cevaplayabilen sohbet robotları, insanların yalnızlık hissini azaltmayı hedefleyen kullanım senaryolarına doğru evrilmektedir.

Ho, Hancock ve Miner (2018) gerçekleştirdikleri çalışmada, bireylerin duygularını sohbet robotuna veya insana açıklarken yaşadığı duygusal etkileri inceledi. Deney sonucunda, bireylerin sohbet robotlarına duygularını anlatırken yaşadığı etkilerin, muhattabın bir robot veya insan olmasından etkilenmediği, duygu ifşasının yarattığı etkilerin teknolojiye göre değişmediği belirtilmektedir.

Forumlardaki Zararlı İçeriklerin Yapay Zekâ ile Sınıflandırılmasındaki Problem

Sosyal medya forumlarında, nefret söylemi ve intihar düşünceleri gibi zararlı içeriklerin tespiti ve yayılmasını önlemek için geleneksel yöntem, insanların moderatör görevini yürütmesidir. Ayrıca artan akıllı telefon kullanımı ve üretici yeni medya kullanıcısı, moderatörlerin zararlı içerik tespitini ve yayılımını önlemekte yetersiz kalmasına sebep olmaktadır.

Sonucunda, birçok forum sitesi bu sorunu aşabilmek ve gerçek zamanlı içerik üretimine yetişebilmek için yapay zekâyı kullanmaya başlamıştır. Yapay zekâ ve insanın moderatör olarak değerlendirme kriterleri aynı olmasına rağmen birçok insan yapay zekânın sınıflandırma sonuçlarına güvenmemektedir.

Molina ve Sundar (2022), insanların güvenini arttırma yolları olarak; forum kullanıcılarını göreve dahil etmek ya da sınıflandırma hakkında geri bildirim sağlamasına izin vermek olduğunu belirtmektedir. Bu görüşü test etmek için oluşturdukları deneyde, katılımcılara içeriğin bir yapay zekâ, bir insan veya her ikisinin çalışmasıyla sınıflandırıldığı belirtildi.

Bu gruplara ek olarak, tanımlanan kuralların bir listesi bazılarına kurallar hakkında geri dönüş verme imkanı sağlanmış, üçüncü gruba ise hiçbir kural paylaşımı gerçekleştirilmemiştir. Deneyler sonucunda yapay zekâya güvenin, kişinin algısına bağlı olduğu ve bu güvenin kullanıcıların kendilerine sağlanan kurallara geri dönüş vermesiyle arttırılabileceği çalışmada belirtilmektedir.



KAYNAKÇA

  1. Appel, M. ve Prietzel, F. (2022). The detection of political deepfakes. Journal of
    Computer-Mediated Communication, 27(4), zmac008. doi:10.1093/jcmc/zmac008
  2. Ho, A., Hancock, J. ve Miner, A. S. (2018). Psychological, Relational, and Emotional
    Effects of Self-Disclosure After Conversations With a Chatbot. Journal of
    Communication, 68(4), 712-733. doi:10.1093/joc/jqy026
  3. Kang, H. ve Lou, C. (2022). AI agency vs. human agency: Understanding human–AI
    interactions on TikTok and their implications for user engagement. Journal of
    Computer-Mediated Communication, 27(5), zmac014. doi:10.1093/jcmc/zmac014
  4. Li, J., Ye, Z. ve Xiao, L. (2019). Detection of Propaganda Using Logistic Regression.
    Proceedings of the Second Workshop on Natural Language Processing for Internet
    Freedom: Censorship, Disinformation, and Propaganda içinde (ss. 119-124). Hong
    Kong, China: Association for Computational Linguistics. doi:10.18653/v1/D19-5017
  5. Molina, M. D. ve Sundar, S. S. (2022). When AI moderates online content: Effects of
    human collaboration and interactive transparency on user trust. Journal of Computer-
    Mediated Communication, 27(4), zmac010. doi:10.1093/jcmc/zmac010
  6. Rastogi, S. ve Bansal, D. (2022). Disinformation detection on social media: An
    integrated approach. Multimedia Tools and Applications, 81(28), 40675-40707.
    doi:10.1007/s11042-022-13129-y

Matematiksel

Ahmet Okan Arık

Işık Üniversitesi Yönetim Bilişim Sistemleri bölümü lisans ve Enformasyon Teknolojileri yüksek lisans programını tam burslu okuyup onur ve bölüm birinciliği derecesiyle mezun oldum. İstanbul Üniversitesi Enformatik programında doktora öğrencisiyim. Yeditepe Üniversitesi Yönetim Bilişim Sistemleri bölümünde araştırma görevlisi olarak çalışmaktayım. Bilgisayar teknolojileri ağırlıklı kişisel meraklarımı giderirken aynı soruları soran herkese ulaşabilmek amacıyla buradayım.

Bir yanıt yazın

E-posta adresiniz yayınlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir

Başa dön tuşu