İyi algoritma, kötü algoritma
Algoritmalar yaşamımızda giderek daha belirleyici hale geliyor. Bunların kolaylık mı yoksa tehlike kaynağı mı olduğunu Almanya’nın en önemli enformatik uzmanına sorduk.
Sayın Profesör Zweig, siz sosyo-enformatik alanında çalışıyor ve algoritmaları inceliyorsunuz. Algoritma nedir bize kısaca açıklayabilir misiniz?
Algoritmalar belli bir problemi çözmek üzere tasarlanmış genel işlem direktifleri dizisidir. Yazılı çarpım işlemleri buna iyi bir örnek: Öğretmeniniz size hangi sayıların kullanılacağını ya da bunların ne kadar uzun olacağını söylemeden çarpım işleminin temelde nasıl yapılacağını açıklar. Bu genel geçerlik iyi bir algoritmanın belirleyici özelliğidir.
Algoritmaların kullanımı hangi alanlarda faydalı ve anlamlı?
Bizim bugün “algoritma” derken aslında başka bir şeyi kastediyoruz. Algoritmalar kendi başlarına her zaman faydalı ve kullanışlı çünkü çözüm garantisi sunuyorlar. Bu garanti algoritmanın tanımının bir parçası. Fakat günümüzde “algoritma” deyince genellikle kastedilen, makinenin kendi kendine öğrenmesi. Buradaki işlem, istatistik yardımıyla veri toplamı içerisindeki kalıpları ortaya çıkararak bundan karar vermeye yardımcı kurallar çıkarmaya dayanıyor. Bir örnek: Eğer işe alınma sürecinde başarıya ulaşan adayların çoğu 25 ile 30 yaş aralığındaysa bir sonraki işe alım sürecinde bu özelliğin belirleyici kriterlerden biri haline getirilmesi.
Sorun karar alma sisteminde değil, bu sistemin kullanılma biçiminde.
Algoritmaların kullanımı ne zaman sorunlu hale geliyor?
Çalışma dünyasından verdiğimiz örnekte olduğu gibi belirlenen kural ayrımcılık tehlikesi ortaya çıktığında. Bu süreçlerin kullanımı özellikle devlet hizmet ve yardımlarına erişim ya da çalışma dünyası gibi alanlarda tehlike potansiyeli taşıdığında, veriler aracılığıyla öğrenerek geliştirilmiş karar süreçlerinin olası ayrımcı işlemler bakımından incelenmesi gerek. Bunun için yazılımı bilmeye ve anlamaya da gerek yok. Seçilen kişilerde yaş veya inanç gibi farklı özelliklere bakarak sonuçları değerlendirmek mümkün. Ayrıca sorun ille de karar sisteminin kendisinde değil de bunun kullanılma biçiminde yatıyor da olabilir. Tespit edilen kalıplar eşitsizlikleri dengelemek için de son derece uygun hale getirilebilir.
Kısa süre önce yayınlanan “Algoritmanın Ritim Duygusu Yok” başlıklı kitabınızda sıradan insanlara dijital dünyada “kontrolü elinde tutma” becerisini kazandırmayı amaçlıyorsunuz. Bu gerçekten mümkün mü?
Evet, ben bunu herkesin başarabileceğini düşünüyorum. Çünkü teknolojik uygulamayı biz bilişim uzmanları hayata geçirebilsek de bir algoritmanın hangi veri toplamı içerisinde hangi kalıbı arayacağı ve bunun nasıl optimize edileceğini sorusunu biz cevaplayamayız. Örneğin suç işlemiş birinin yeniden suç işleyip işlemeyeceğini araştıracak bir sistem planlanacaksa, bir toplumun bunu gerçekten isteyip istemediğine karar vermesi gerek. Eğer toplum bunu istiyorsa sistemin önceliğinin ne olacağına karar vermesi gerekiyor: amaç, neredeyse tüm olası mükerrer suçluları bulmak mı, yoksa yeniden topluma kazandırılmış suçluların hatalı bir şekilde şüphe altına girmesini engellemek mi? Bunun için toplumun makinenin öğrenmesinin nasıl işlediğine dair kabaca bir bilgisi olması gerekiyor. Bir de tabii sağduyu gerek. Bu da dünyaya gözünü açarak bakan her insanın sahip olduğu bir şey.
Prof. Dr. Katharina Zweig Kaiserslautern Taknik Üniversitesi “Çizge Teorisi ve Kompleks Ağ Analizi” bölümünün başkanı. Kendisi “sosyo-enformatik” öğrenim programının geliştirilmesinde öncü rol oynadı ve araştırmalarında bilişimin toplum üzerindeki etkisine odaklanıyor.
Röportaj: Martin Orth
You would like to receive regular information about Germany? Subscribe here:
