Yapay Zekâ Kamu Adına Karar Verebilir mi?

Bir belediye binlerce başvuruyu önceliklendirmek istiyor. Hastanede yoğun talep var. Müfettişlerin inceleyeceği dosya sayısı insan kapasitesinin çok üzerinde. Kamu çalışanının önüne yapay zekâ destekli bir sistem geliyor: metinleri özetliyor, risk işaretliyor, dosyaları sıralıyor, öneri sunuyor. “Kararı insan veriyor” deniyor.

İlk bakışta rahatlatıcı. Makine yalnız yardımcı, yetki memurda. Fakat insanın gördüğü ilk çerçeveyi kim kuruyor? Sistem bir dosyayı düşük risk diye aşağıya, başka birini yüksek risk diye yukarıya koyduğunda daha ince bir karar çoktan verilmiş olmuyor mu? Yapay zekânın kamusal iktidarla ilişkisi belki “makine karar versin mi?” sorusundan daha erken başlıyor.

Karardan önce dikkat dağıtılıyor

Kamu görevlisi yüzlerce dosya arasından hangisine önce bakacağını seçmek zorunda. Yapay zekâ sıralama yaptığında nihai kararı vermese bile dikkat kaynaklarını dağıtır. Hangi dosya öne gelecek, hangi ayrıntı özette yer alacak, hangi risk kırmızı renkle gösterilecek?

İnsan zihni önüne gelen çerçeveden bağımsız değil. Sistem “şüpheli” diye işaretlediğinde görevli dosyaya başka gözle bakabilir. Özet belirli bilgiyi dışarıda bıraktığında insan o bilginin varlığını hiç fark etmeyebilir.

Bu nedenle “son imza insanda” sözü, karar zincirinin yalnız son saniyesine bakıyor. Oysa iktidar bazen son kararı vermekten çok, karar verene neyin önemli görüneceğini belirlemede ortaya çıkar.

Yapay zekâ yardımcı olabilir; yardımcı da gündemi şekillendirir.

Hızın tarafsız görünmesi

Kamu kurumlarının yavaşlığı gerçek bir sorun. Aylarca bekleyen dosya, saatler süren kuyruk, aynı metni tekrar tekrar okuyan personel kimse için özgürlük değil. Yapay zekâ burada ciddi kolaylık sağlayabilir. Rutin metni özetlemek veya benzer dosyaları gruplayabilmek çalışanı mekanik işten kurtarabilir.

Fakat “daha hızlı” ile “daha adil” aynı ölçü değil. Hatalı bir sistem de çok hızlı olabilir. Üstelik insanın tek tek yaptığı hata sınırlı kalırken otomatik araç aynı yanlış varsayımı binlerce dosyada tekrar edebilir.

Hız başarı göstergesi olduğunda kurum itirazları maliyet gibi görmeye başlayabilir. Sistem yüzde doksan dokuz doğru çalışıyorsa geriye kalan yüzde bir “kabul edilebilir hata” sayılabilir. Ama o yüzde birin içinde hayatı değişen gerçek insanlar vardır. Kamu kararında istatistiksel hata, bir kişinin yardımının kesilmesi, denetime alınması veya hakkının gecikmesi olabilir.

Oran küçüktür; sonuç yaşayan için yüzde yüzdür.

“Model böyle önerdi” yeni bürokrasi mi?

Kamu görevlisi yapay zekânın önerisine karşı çıkabiliyorsa insan denetimi var denebilir. Fakat karşı çıkmak kolay mı? Sistem önerisini değiştiren memur ayrıca gerekçe yazmak zorunda, öneriyi onaylayan tek tuşla ilerliyorsa kurumsal teşvik açıktır.

Zaman baskısı da aynı yönde çalışır. Bir çalışandan günde yüzlerce dosya değerlendirmesi beklenirken modelin her sonucunu bağımsız biçimde incelemesini istemek gerçekçi olmayabilir. İnsan teoride karar verici, pratikte öneriyi onaylayan son halka haline gelir.

Bir süre sonra yapay zekânın önerisi “varsayılan doğru” statüsü kazanabilir. Memur modelden ayrıldığında kendisini açıklamak zorunda hisseder. Teknoloji böylece resmî yetki almadan kurum içi otorite kazanır.

Eski bürokrasinin “mevzuat böyle” cümlesine yeni bir cümle eklenir: “Sistem bunu öneriyor.”

Açıklama kime ait?

Bir yurttaş olumsuz kararla karşılaştığında gerekçe isteme hakkı, kamu iktidarının temel sınırlarından biri. Yapay zekâ kullanıldığında bu zincir karmaşıklaşıyor. Görevli modelin neden belirli öneriyi verdiğini tam bilmiyorsa yurttaşa ne anlatacak?

“Model karar vermedi, yalnız destek oldu” denebilir. Fakat destek sonucu etkilediyse etkisinin ne olduğunu bilmek önem kazanır. Ticari sır, teknik karmaşıklık veya modelin istatistiksel doğası gerekçeyi tamamen kapatırsa kamu kararı karanlık kutuya yaklaşır.

Her teknik ayrıntının herkese açıklanması gerekmeyebilir. Yurttaşın model mimarisini öğrenmesi değil, kendi dosyasında hangi bilginin neden önemli sayıldığını anlayabilmesi daha anlamlı. Yanlış veri kullanıldıysa düzeltebilmek, modelin önerisine karşı yeni bilgi sunabilmek gerekir.

Karar açıklanamıyorsa itiraz da körleşir.

Kimin değerleri modele giriyor?

Yapay zekâ “değer” seçmezmiş gibi görünür; verilen hedefi optimize eder. Ama hedefin kendisi siyasidir. Denetimde “yüksek risk” ne demek? Sosyal yardımda hangi başvuru daha öncelikli? Kamu kaynaklarında verimlilik ile eşitlik çatıştığında hangisi ağır basacak?

Bu sorular kodun dışında alınmış olabilir ama sistem onları görünmez biçimde taşır. Model teknik araç gibi sunulduğunda, arkasındaki değer tercihleri de teknik zorunluluk havası kazanabilir.

Örneğin en çok suistimal yakalamaya odaklanan sistem, masum insanları daha sık incelemeyi kabul edebilir. En hızlı hizmete odaklanan sistem, karmaşık dosyaları geri plana atabilir. Bunlar yalnız doğruluk oranı meselesi değil; hangi hatayı daha kabul edilebilir gördüğümüzle ilgili.

Kamunun bu tercihi bir şirkete veya teknik ekibe sessizce devretmesi, kararın demokratik tarafını teknik tasarıma gömer.

Makineyi reddetmek de kolay cevap değil

Yapay zekâyı kamu kararlarından tamamen dışlamak ilk bakışta güvenli görünebilir. Fakat insan bürokrasisi tarafsız, şeffaf ve hatasız değil. Dosyalar kayboluyor, çalışanlar önyargılı davranabiliyor, yoğunluk yüzünden başvurular yüzeysel incelenebiliyor. Teknoloji bazı eşitsizlikleri azaltabilir, hatayı daha görünür hale getirebilir.

Bu nedenle mesele insan mı makine mi seçimi kadar basit değil. Daha önemli olan, karar gücünün nerede bulunduğu ve sistemin itiraz karşısında nasıl davrandığı. Yapay zekâ kararı desteklediğinde yurttaşın hakları daralıyor mu, yoksa karar daha anlaşılır ve düzeltilebilir mi hale geliyor?

Kamu adına karar vermek yalnız doğru tahmin üretmek değildir. Kararın gerekçesini taşıyabilmek, yanlış olduğunda geri dönebilmek ve kararın bedelini yaşayan kişiyi yalnız veri noktası saymamak da işin parçası.

Yapay zekâ bir gün insanlardan daha isabetli tahminler yapabilir. Yine de “daha iyi biliyor” ile “bizim adımıza hükmetme hakkı var” arasında eski bir mesafe kalacak.

Teknoloji değişiyor. O soru pek değişmiyor: Bilenin sözü neden son söz olsun?