Kararı Kod Verince Kimse Sorumlu Değil mi?

Bir insanın aldığı kötü kararda en azından kime soru soracağımızı biliriz. Müdür imzalamıştır, doktor değerlendirmiştir, memur işlemi yapmıştır. Karar kod üzerinden geldiğinde ise sorumluluk sislenir. Çalışan “ekran izin vermedi” der, kurum yazılımı işaret eder, yazılım şirketi modeli müşterinin verisiyle kurduğunu söyler, yönetici teknik ayrıntıyı bilmediğini belirtir. Her cümlede bir miktar doğruluk bulunabilir; fakat zarar gören kişi açısından sonuç aynıdır: Karar vardır, karar sahibi yoktur. Kodun özerk bir fail gibi anlatılması, aslında dağılmış insan ve kurum tercihlerinin üstünü örter.

Kod karar vermez, kararları birbirine bağlar

Yazılımın kendi niyeti yoktur; fakat geçmişte verilmiş pek çok kararı hızlı ve geniş ölçekte uygular. Bir formdaki kategori, veri tabanındaki eksik alan, risk eşiği ve puanın nasıl yorumlanacağı insanlar tarafından seçilmiştir. Sonuç otomatik üretildiğinde bu seçimler görünmezleşir. “Bilgisayar böyle hesapladı” sözü, yağmur yağdı demek gibi doğal bir olay anlatır. Oysa sistem başka türlü kurulabilir, bazı veriler hiç kullanılmayabilir, karar alanı otomasyona kapatılabilir veya kişi lehine güvenlik payı konabilir.

Kodun etkisi, tek bir çalışanın kararından daha kalıcı olabilir. Hatalı kural milyonlarca dosyaya aynı hızla uygulanır; kurumun her şubesinde eşitsizliği standartlaştırır. Öte yandan kayıt tutma avantajı sayesinde hata örüntüsü daha kolay da görülebilir. Bu ikili imkân önemlidir: Otomasyon mutlaka karanlık demek değildir, ama denetlenmediğinde hatayı ölçeklendirir. Sorumluluk sistemi, kodun hızına denk bir durdurma ve geri çağırma mekanizması kurmalıdır.

Satın alınan sistem, devredilmeyen görev

Kamu kurumları ve şirketler karar sistemlerini dış tedarikçiden aldığında teknik bağımlılık büyüyor. Sözleşmede performans ölçütü, veri erişimi, güncelleme takvimi ve denetim hakkı açık değilse kurum kendi kullandığı aracı anlayamaz. “Ticari sır” gerekçesiyle modelin sınanamadığı durumda kişi, bilmediği bir şirketin karar mimarisine tabi olur. Ancak tedarik, görevin devri değildir. Bir belediye sosyal yardımı, banka krediyi, işveren işe alımı dış sistemle değerlendiriyorsa sonucun hukuki ve ahlaki sorumluluğunu taşımaya devam eder.

İyi sözleşme yalnız hizmet süresini ve fiyatı düzenlemez. Hatalı karar bildirimi, bağımsız denetçi erişimi, veri silme, model değişikliğini haber verme, ayrımcı sonuçta düzeltme ve sözleşme bitince taşınabilirlik şartlarını içermelidir. Kurumun sistemi kapatma yetkisi yoksa hesap verme sözü zayıftır. Ayrıca tedarikçinin alt yüklenicileri ve genel amaçlı model sağlayıcıları da zincire eklenebilir. Sorumluluk haritası ürün alınmadan önce çizilmezse kriz anında herkes bir sonraki halkayı gösterir.

“İnsan son kararı veriyor” savunması

İnsan onayı, otomatik sistemlerin en yaygın güvence cümlesidir. Fakat çalışan günde yüzlerce öneriyi kontrol ediyor, modelin nasıl yanılabileceğini bilmiyor ve öneriye karşı çıkınca performans kaybı yaşıyorsa karar fiilen otomatikleşmiştir. Ekranın güven puanı, kurumsal otorite gibi çalışır. İnsan, sorumluluğu üzerinde taşırken gerçek yetkiyi kullanamaz. Böyle bir düzen hem makinenin hem insanın en kötü yanını birleştirir: sistemin ölçeği ve çalışanın kişisel günah keçisi hâline gelmesi.

Gerçek denetim için çalışanın gerekçeli biçimde sistemi aşabilmesi, ikinci görüş isteyebilmesi ve hata bildirdiğinde korunması gerekir. Kurum, yalnız kaç dosyanın işlendiğini değil kaç önerinin değiştirildiğini ve değişikliklerin sonucunu izlemelidir. Hiçbir çalışanın modeli reddetmemesi yüksek kalite kanıtı değil, yetkisizlik işareti olabilir. İnsan denetimi bir unvan değil, maddi çalışma koşuludur; zaman, eğitim ve karar gücü olmadan var sayılamaz.

Sorumluluğu tek kişiye yüklememek

Hesap verebilirlik, her hata için bir yazılımcı bulup cezalandırmak değildir. Karmaşık sistemler ekipler, yönetim kararları, veri sağlayıcıları ve hukuk kurallarıyla oluşur. Tek geliştiricinin bütün sonucu öngörmesi beklenemez. Üstelik düşük bütçe, gerçekçi olmayan teslim tarihi ve yönetimin “daha çok otomasyon” baskısı teknik hatanın kurumsal nedenidir. Adil sorumluluk, yetki ve bilgiyle orantılı dağıtılmalı; en az söz sahibi çalışan en kolay hedef hâline getirilmemelidir.

Bunun için karar yaşam döngüsü boyunca görevler kayda bağlanabilir: Kullanım amacını kim onayladı, risk değerlendirmesini kim yaptı, hangi veri sürümü kullanıldı, performans hangi gruplar için ölçüldü, güncelleme neyi değiştirdi, itirazlardan kim öğreniyor? Bu kayıtlar hem zarar sonrası incelemeyi hem önleyici bakımı sağlar. Yönetim kurulu veya kamu yöneticisi, sistemi “teknik konu” diyerek aşağıya itememelidir. Yüksek etkili otomasyon, bütçe ve politika kararıdır; en üst düzeyde sahiplenilmesi gerekir.

Zarar görenin bulabileceği kapı

Sorumluluk tartışmasının anlamı, zarar gören kişinin ulaşacağı çözümde ortaya çıkar. Birden çok kurumun iç koordinasyonunu vatandaş yapmak zorunda kalmamalıdır. Tek başvuru noktası şikâyeti doğru birime taşımak, makul sürede cevap vermek ve gerekirse kararı askıya almakla yükümlü olmalıdır. Gerekçe, yalnız teknik açıklama değil kişinin itirazını kurabileceği sade bilgi sunmalıdır. Yanlış veri düzeltilmeli, benzer dosyalar yeniden incelenmeli ve maddi zarar varsa telafi yolu bulunmalıdır.

Toplu zarar için yalnız bireysel başvuru yetmez. Aynı model binlerce kişiyi etkilediğinde bağımsız kurumların resen inceleme, sivil toplumun toplu şikâyet ve çalışan temsilcilerinin sistem kurulmadan söz söyleme yetkisi gerekir. Avrupa Birliği AI Act’in risk yönetimi ve kayıt yükümlülükleri bu yönde bir zemin sunuyor; fakat gerçek etki uygulama, kaynak ve yaptırıma bağlı. Kod karar zincirine girdiğinde kimse sorumsuzlaşmaz. Tam tersine, daha çok aktörün birbirine karşı açık görev taşıması gerekir. Sisin dağılması, “algoritma yaptı” cümlesini açıklama saymayı bıraktığımız anda başlar.

Bir de sorumluluğun zaman boyutu var. Model ilk kurulduğunda kabul edilebilir görünen performans, toplumun davranışı veya veri dağılımı değişince bozulabilir. Bu nedenle tek seferlik sertifika yeterli değildir; düzenli yeniden sınama, sürüm kaydı ve belirli hata eşiğinde otomatik durdurma gerekir. Kurum, güncellemeyi yalnız sağlayıcının teknik notundan öğrenmemeli, haklara etkisini yeniden değerlendirmelidir. Eski kararlarda sistematik hata bulunursa yalnız geleceği düzeltmek yetmez; geçmiş dosyalar da yeniden açılmalıdır. Sorumluluk, ürünü satın alma anında değil, sistemin bütün ömrü boyunca sürer.