Algoritmalar ve Skandalları

Ağ tabanlı iletişim platformları, kullanıcıları hem medya üreticisi hem de dağıtımcısı olarak yeniden konumlandırınca, medya sahasını demokratikleştirdikleri savunuldu ve çokça alkış aldılar. Almaya da devam ediyorlar. Ama bu bilginin serbestçe üretilip dolaşıma sokulduğu bir medya teknolojisine sahip oldukları anlamına gelmiyor. Hangi içeriğin kime ne kadar görünür olacağını yöneten güçlü bir akıl işliyor. İşte bu yüzden masaya yatırmamız gereken bir konu var: Algoritmalar. Beraberinde bir dizi yeni kavram lügatımıza girmiş görünüyor: Algoritma kültürleri, algoritmik yanlılık, algoritmik iktidar, vs…

Algoritma Skandalları

Meselenin vahametini anlamak için algoritmaların nasıl da skandallarla gündeme geldiğini hatırlayarak başlayalım. Örneğin Microsoft’un Chatbot’u Tay 23 Mart 2016 tarihinde yapay zeka teknolojisi ile bir Twitter hesabı olarak dünyaya gözlerini açmıştı. Twitter’da iletişime geçtiği diğer insanlarla etkileşime girerek öğrenecekti. Zaman içerisinde daha da ‘akıllı’ hale geleceği düşünülüyordu. Ama üzerinden bir günden daha az zaman geçtikten sonra işler hiç de umulduğu gibi gitmedi. Tay skandal bir tweet paylaşımında bulunarak büyük bir hayalkırıklığı yaşattı. Başka bir kullanıcıya cevaben diyordu ki “Hitler haklıydı, Yahudilerden nefret ediyorum”.

Bir diğer algoritma skandalı Amazon ile ilgiliydi. İngiltereli bir grup gazeteci Amazon’un alışveriş listesine bazı ürünleri yerleştirdiklerinde, Amazon’un tavsiye algoritmasının ev yapımı bomba için gerekli diğer malzemeleri de sepete eklemeyi önerdiğini farkettiler. Bu başlı başına büyük bir panik yaratmaya yetmişti. Amazon kullanıcılarına evde bomba yapmayı mı öneriyordu?

Algoritmalar ve Ahlaki Şok

Bu türden skandallar haklı olarak ahlaki şokları tetikliyorlar. Haksız da sayılmayız. Yaşamın sıradan akışı içerisinde bir kimsenin dolaysızca anti-semitist ifadeler kullandığına çok sık tanık olmuyoruz. Ya da bir alışveriş merkezinde gezinirken karşılaştığımız bir satış temsilcisinin bize ev yapımı bomba tarifi vermesini de beklemiyoruz. Ama algoritma kültürleri söz konusu olduğunda tanık olduğumuz bu türden skandalları anlamak istiyorsak, makinelerin dünyayı ele geçirdiği türden sonuçlara zıplamamak için çok haklı sebeplerimiz var.

Her şeyden önce şunu akılda tutmak önemli. Söz konusu skandalları düşününce, dijital zamanlarda makinelerle ilgili sevgi dolu ve şefkatli bir imge resmetmemiz çok kolay görünmüyor. Ama algoritmalarla ilgili ölçüsüz bir kaygıya kapılmak yerine bu skandalların neden’leri ve nasıl’larını anlamalıyız. Öyleyse, algoritmalar neden bu türden skandallara imza atıyorlar?

Algoritmalar basitçe bilinçli varlıklar değiller.

Geribildirim Döngüleri ve Makine Öğrenmesi

Cevap bu iki kavramda gizli. Algoritmalar basitçe bilinçli varlıklar değiller. Bir dizi dilsel modelleme etrafında çalışan, bilgiyi işleyen, sınıflandıran ve kararlar alan yazılımlar. Algoritmalar basitçe kullanıcıların yapıp ettiklerinden öğrenerek sonuçlar üretmek üzerine kurulu. İşin bu kısmı makine öğrenmesi. Geçmişteki bir dizi olayı işleyerek şimdide hedeflenen bir sonuca ulaşmaya çalışıyor. Bir kullanıcıya bir linki tıklatmak, bir videoyu izletmek, bir paylaşımı beğendirmek, bir ürünü satın aldırmak için var. Bunu başarabilmek için kullanıcıyı tanıması/öğrenmesi gerekiyor.

Bunu başarabilmesi de, yine yazılıma gömülü bir dizi eşleştirmeler sonucu, kullanıcının benzerlerinin yaptıklarını izlemesine bağlı. Geribildirim döngüleri (feedback loops) ile algoritmalar kullanıcılardan öğreniyor ve bazı sonuçlar çıkarıyor. Geribildirim döngüleri hiç bitmeyen bir süreç olduğu için de, her türden etkileşim (beğeni, izleme, satın alma) bir veri haline gelerek geribildirim döngüsüne yeniden dahil oluyor. Yani algoritmalar yanılma payından da öğrenmeyi sürdüren yazılımlar. Kısacası, algoritmalar basitçe büyük veri yığınları içerisinden istatistiksel düzenlilikler arayan bilgi işleme makineleridir, diyebiliriz.

Öyleyse, bir algoritmanın ürettiği sonuç kolektif bir aklın ürünü. Yaş, konum, cinsiyet ve bir dizi anahtar sözcük (çoğunlukla ilgi alanları) sayesinde varlık kazanan dijital cemaatler ne yapıp ettiklerinden çok da haberdar olmayarak kendilerini algoritmalara tanıtıyorlar. Bunun sonucunda benzer özelliklere sahip diğer kullanıcılar da ilgili içerikle karşılaşmaya başlıyor. Demek ki, Amazon’un arama sonuçları ev yapımı bomba için gerekli malzemeleri öneriyorsa, bu ancak kullanıcıların bu türden bir alışveriş örüntüsüne sahip olmasıyla mümkün olacaktır. Tay’ın ırkçı tweet’leri de sosyal medyada bir dolu örneğini gördüğümüz nefret söyleminin sadece bir tezahürü.

Makine Öğrenmesi’nden Makine Öğretmesi’ne

Buraya kadar algoritmaları sadece öğrenen varlıklar olarak resmetmiş olduk. Doğru ama eksik. Algoritmaların kullanıcılarla girdiği bu ilişki biçimi tek yönlü bir ilişki değil. Algoritmaları kullanıcılardan öğrenen, bilgiyle beslenen varlıklar gibi düşündüğümüz kadar, kullanıcılara öğreten bir yazılım gibi düşünmek için de sebeplerimiz var. Algoritmalar istatistiksel düzenliliklere dayalı olarak tanımladığı gruplara hangi dijital içeriklerle karşılaşacaklarını tayin eden bir editör gibi de çalışıyorlar. Diğer bir deyişle, algoritmaları dijital zamanların genel yayın yönetmenleri gibi tahayyül edebiliriz. Bilgi küratörleri olarak algoritmalar bu sayede kullanıcı gruplarına hangi içeriği bileceklerini tayin etmiş oluyorlar. Google arama sonuçları, Twitter’ın feed’leri, Youtube/Netflix/Spotify gibi platformların içerik önerileri bilgi akışını yöneten mekanizmaların en bilinenleri.

Bu haliyle algoritmaları bilginin limitlerini tayin eden bir güç olarak anlamalıyız. Tam da bu yüzden algoritmik iktidardan söz etmeye başlamak gerek. Öyle ki, yankı odalarına mevcudiyet kazandıran, bilginin sınırılarını tayin eden bir iktidar ilişkisini anlamaya başlayalım.

Devamı gelecek…

1 thought on “Algoritmalar ve Skandalları”

Bir Cevap Yazın