Bir başvurunun reddedildiğini, kredi limitinin düştüğünü, iş görüşmesine çağrılmadığımızı veya sosyal yardım dosyasının incelemeye alındığını ekrandan öğreniyoruz.
Bir başvurunun reddedildiğini, kredi limitinin düştüğünü, iş görüşmesine çağrılmadığımızı veya sosyal yardım dosyasının incelemeye alındığını ekrandan öğreniyoruz. Kararın arkasında bazen açık bir otomasyon, bazen çalışana öneri veren bir risk puanı, bazen de hangi dosyaya önce bakılacağını belirleyen sıralama sistemi bulunuyor. Kurum “nihai kararı insan verdi” diyebilir; fakat insan yüzlerce dosyada sistemin işaretini izliyorsa bu ayrım kâğıt üzerinde kalabilir. Algoritmik kararın temel sorunu makinenin hata yapması değildir. İnsan da hata yapar. Sorun, kararın hangi ölçütle verildiğini anlayamamak, sorumlu kişiye ulaşamamak ve hatayı düzeltecek etkili yolu bulamamaktır.
Karar nerede başlıyor?
Algoritma yalnız sonuca “evet” veya “hayır” yazdığında karar vermez. Hangi verinin toplanacağı, hedef değişkenin nasıl tanımlanacağı, geçmişteki hangi kayıtların doğru kabul edileceği ve hata maliyetinin kime yükleneceği daha önce verilmiş kararlardır. İşe alım sistemi “başarılı çalışan” örneğini geçmiş terfilerden öğreniyorsa geçmiş ayrımcılığı başarı ölçüsü sanabilir. Dolandırıcılığı azaltmak için çok düşük eşik seçilirse daha fazla masum işlem durdurulur. Teknik ekip doğruluk oranını yükseltirken kurum, yanlış şüphenin insan üzerindeki bedelini hiç ölçmeyebilir.
Bu nedenle hesap verebilirlik model kartı yayımlamakla bitmez. Kararın amacını koyan yönetici, veriyi sağlayan birim, sistemi satan şirket, eşikleri belirleyen uzman ve sonucu uygulayan çalışan arasında görev dağılımı görünür olmalıdır. Herkes yalnız kendi küçük parçasından sorumlu sayılırsa toplam zararın sahibi kalmaz. Tedarik sözleşmesi de kamusal sorumluluğu ortadan kaldıramaz. Devlet veya işveren “sistem dışarıdan alındı” diyerek temel hakka etki eden kararın gerekçesinden kaçamaz.
Açıklama gerçekten neyi açıklamalı?
“Yapay zekâ değerlendirdi” bir açıklama değildir. İnsan, kendi dosyasında belirleyici olan veriyi, hangi genel ölçütlerin uygulandığını ve yanlış kaydı nasıl düzelteceğini bilmelidir. Bunun için her durumda kaynak kodunun tamamını yayımlamak gerekmez; kod tek başına da anlaşılır gerekçe sunmayabilir. İşlevsel açıklama, kararın nedenini itiraza yarayacak düzeyde gösterir. Kredi reddinde gelir kaydının yanlış olmasıyla modelin belirli mahalleyi dolaylı risk işareti sayması farklı sorunlardır ve farklı düzeltme ister.
Ticari sır gerekçesi, açıklama ihtiyacını tümden susturmamalıdır. Bir şirketin model ayrıntısını rakibinden koruması anlaşılabilir; fakat kişinin barınma, çalışma veya sosyal destek hakkı etkileniyorsa asgari gerekçe ve bağımsız denetim öncelik kazanır. Denetçinin gizlilik yükümlülüğüyle sisteme erişmesi, kamuya performans ve ayrımcılık sonuçlarının yayımlanması, kişinin kendi verisini görmesi gibi katmanlı çözümler mümkündür. Şeffaflık ya her şeyi internete koymak ya hiçbir şey söylememek ikiliğine sıkıştırılamaz.
İnsan denetimi dekor olduğunda
Kurallar sık sık “insan döngüde kalsın” der. Fakat çalışanın zamanı, yetkisi ve bilgisi yoksa insan denetimi bir imzadan ibaret olur. Sistem yüksek güven puanı gösterdiğinde itiraz etmek performans hedefini düşürüyor, çalışan modelin sınırlarını bilmiyor veya karar değiştirince ayrıca savunma yazmak zorunda kalıyorsa otomasyon yanlılığı güçlenir. Gerçek insan denetimi, sistemi durdurma ve kararını değiştirme yetkisi; yeterli süre; düzenli eğitim ve misilleme korkusu olmadan hata bildirme imkânı gerektirir.
İnsanın varlığı bazen sorumluluğu daha da bulandırabilir. Kurum hatayı “son kararı veren memura”, memur “sistemin yüksek risk işaretine”, şirket “verilen veriye” bağlar. Bu zinciri kırmak için önceden sorumluluk matrisi kurulmalı, karar kayıtları tutulmalı ve insan müdahalesinin ne kadar etkili olduğu ölçülmelidir. Kaç otomatik öneri değiştirildi, itirazların ne kadarı kabul edildi, hangi gruplarda hata yoğunlaştı? Bu veriler olmadan insan denetimi, sistemin meşruiyetini süsleyen bir etik etiket hâline gelir.
2026’da hukuki eşik
Avrupa Birliği Yapay Zekâ Yasası, yasaklanan uygulamalar ve genel amaçlı model yükümlülükleriyle kademeli biçimde yürürlüğe girdi; Ağustos 2026’da denetim yapısı genişledi. Yüksek riskli kullanım alanlarının bir bölümü için uygulama takvimi 2027 ve 2028’e uzansa da risk yönetimi, veri yönetişimi, kayıt ve insan gözetimi ilkeleri kurumların önünde duruyor. Komisyonun güncel uygulama takvimi, hukukun yetişmeye çalıştığı alanın ne kadar hareketli olduğunu da gösteriyor. Erteleme, etkilenen insanların zararının ertelendiği anlamına gelmemeli.
OECD’nin 2026 Dijital Devlet Görünümü daha somut bir boşluk gösteriyor: incelenen 36 ülkeden yalnız 14’ü uygulama öncesi risk değerlendirmesi, 12’si iç inceleme kurulu şartı getiriyor; yalnız 6’sında açık algoritma sicili bulunuyor. OECD bulguları, etik ilke bolluğunun işleyen denetime dönüşmediğini düşündürüyor. Hesap verebilirlik, kurumun iyi niyet beyanı değil; dışarıdan görülebilen kayıt, yetki ve yaptırım düzenidir.
İtiraz hakkını merkeze almak
Algoritmik kararı adil kılmanın en somut sınaması, yanlış sonucun ne kadar kolay düzeltilebildiğidir. Kişi otomasyon kullanıldığını bilmeli, anlaşılır gerekçe almalı, kendi verisini düzeltebilmeli ve gerçek yetkisi olan bir insana ücretsiz ulaşabilmelidir. Telafisi zor zarar varsa itiraz sürerken kararın uygulanması durdurulabilmelidir. Toplu etkiler için sendikalar, meslek örgütleri ve hak kuruluşları denetim isteme yetkisine sahip olmalıdır; çünkü tek kişinin kendi dosyasından sistematik ayrımcılığı kanıtlaması neredeyse imkânsızdır.
Hesap verebilir algoritma kusursuz algoritma değildir. Hatasını saklamayan, nedenini araştıran, zararı onaran ve gerekirse kullanımdan çekilen sistemdir. Bazen en doğru karar, modeli biraz düzeltmek değil o alanda hiç kullanmamaktır. Bir teknolojinin var olması kullanımını zorunlu kılmaz. “İnsanlardan daha isabetli” iddiası da hangi insan, hangi görev ve hangi zarar ölçüsü sorulmadan anlam taşımaz. Hesap sorabileceğimiz bir adres yoksa yüksek doğruluk oranı hak kaybına uğrayan kişi için teselli değildir.