Model geleceği görmez; geçmişte neyin kayda geçtiğini öğrenir. En önemli soru modelin ne kadar akıllı olduğu değil, onun hangi kararı vermesine izin verdiğimizdir.
Tahmine dayalı polislik, geçmiş olay verilerinden gelecekte nerede suç olabileceğini veya kimin risk taşıdığını hesaplamaya çalışır. Kaynakların sınırlı olduğu bir kurum için bu cazip görünür: devriye doğru yere gönderilebilir, tekrar eden zarar erken fark edilebilir. Fakat model geleceği doğrudan görmez; geçmişte neyin kayda geçtiğini öğrenir. Bazı mahalleler daha çok denetlendiği için daha çok küçük ihlal bulunmuşsa sistem bu yoğunluğu gerçek suç dağılımı sanabilir. Yeni devriye yeni kayıt üretir ve model kendini doğrular. Sorun yalnız hatalı yazılım değil, verinin hangi kurumsal bakışla oluştuğudur.
Yer tahmini ile kişi tahmini
Belirli saat ve bölgede hırsızlık artışını hesaplamakla bir kişinin suç işleyeceğini puanlamak aynı müdahale değildir. Yer tahmini yine mahalleyi damgalayabilir, fakat kişi puanı özgürlük ve masumiyet üzerinde daha doğrudan sonuç yaratır. Arkadaşlık, aile, geçmiş mağduriyet veya sosyal hizmet kaydı risk işaretine dönüşebilir. Somut olay olmadan kimliğe dayalı tahmin için çok daha yüksek hukuki sınır gerekir.
Model “karar destek” diye adlandırılsa da görevli puanı göz ardı etmekten çekinebilir. Sonradan olay olursa sisteme uymadığı için suçlanacağını düşünür. Bu otomasyon yanlılığı, öneriyi fiilen emre dönüştürür. Görevli hangi durumda farklı karar verebileceğini bilmeli, sistem çıktısı tek başına durdurma, arama veya tutuklama gerekçesi olmamalıdır.
Veri geçmişin haritasıdır
Polise hiç bildirilmeyen aile içi şiddet düşük, yoğun devriyenin yakaladığı sokak ihlali yüksek görünebilir. Şirket dolandırıcılığı karmaşık soruşturma gerektirdiği için az kayda geçer. Model en çok kaydı en çok zarar sanarsa kaynakları zaten görünür olana verir. Mağdur anketi, sağlık ve bağımsız araştırma gibi farklı kaynaklar kullanılabilir; veri paylaşımında mahremiyet korunmalıdır.
Tutuklama suçluluk değildir, ihbar doğrulanmış olay değildir. Bu farklı kayıtları tek “suç verisi” olarak birleştirmek hatayı büyütür. Veri sözlüğü, eksik alan, dönemsel politika değişikliği ve coğrafi sınır açıklanmalıdır. Kanun değişip bir davranış suç olmaktan çıktığında eski veri modelden temizlenmezse geçmiş politika geleceği yönetmeye devam eder.
Doğruluk adalet anlamına gelir mi?
Bir model toplamda olayların çoğunu doğru sınıflandırabilir, fakat belirli grup için daha fazla yanlış alarm verebilir. Hangi hata daha ağır kabul ediliyor? Ciddi olayı kaçırmakla masum kişiyi sürekli denetlemek arasında değer seçimi vardır. Eşik teknik ekip tarafından sessizce belirlenmemeli; hak etkisi ve kamu amacıyla tartışılmalıdır.
Modelin sonucu polis varlığından etkileniyorsa klasik doğruluk testi yanıltıcıdır. Daha çok devriye daha çok kayıt üretir ve tahmin “doğru” görünür. Gerçek etkiyi görmek için kontrollü pilot, ceza dışı zarar göstergeleri ve bağımsız araştırma gerekir. Sistem devreye girmeseydi ne olacağına dair karşılaştırma olmadan satış sunumundaki başarı oranı yeterli değildir.
Şeffaflık ticari sırda durur mu?
Özel şirket algoritmanın ayrıntısını fikrî mülkiyet diye saklayabilir. Ancak kamu temel hakka etki eden sistemi denetleyemiyorsa satın almamalıdır. Kod tek başına anlaşılır olmayabilir; değişkenler, eğitim verisi, hata testi, sürüm geçmişi ve kullanım talimatı erişilebilir olmalıdır. Savunma ve bağımsız uzman belirli dosyada sonucu sorgulayabilmelidir.
Tedarik sözleşmesi performans iddiasını, ayrımcı etki testini ve sistemden çıkış planını içermelidir. Model güncellendiğinde yeniden değerlendirme yapılmalıdır. Kurum “satıcı önerdi” diyerek sorumluluğu devredemez. Kamu hangi hedefi seçtiyse ve puanı nasıl kullandıysa bunun hesabını verir. Ticari kolaylık anayasal yetkinin yerine geçemez.
Tahminden önce politika
Suç yoğunluğu görülen yerde yanıt yalnız devriye olmayabilir. Kötü aydınlatma, boş bina, ulaşım kopukluğu, gençlerin dışlanması veya belirli işletme uygulaması zararı artırabilir. Model kaynak gösterebilir; politika kök nedeni araştırmalıdır. Sosyal hizmet yatırımıyla karşılaştırılmayan tahmin, polisi varsayılan çözüm yapar.
Topluluk sistem devreye girmeden bilgilendirilmeli ve kullanım amacına itiraz edebilmelidir. Kişisel puan varsa erişim, düzeltme ve silme yolu bulunmalıdır. Genel etki verisi periyodik yayımlanmalı, bağımsız kurum durdurma yetkisine sahip olmalıdır. Süre sonu olmayan pilot, kalıcı gözetimin sessiz yolu olur.
Avrupa Birliği Yapay Zekâ Tüzüğü’nün yalnız profil ve kişilik özellikleri üzerinden bireysel suç riski tahmininin bazı biçimlerini yasaklaması, teknik verimlilik iddiasının temel hak sınırını aşamayacağını gösteriyor. Somut suçla bağlantılı insan değerlendirmesi farklı tutulsa da aynı eleştirel dikkat gerekir. “Yapay zekâ söyledi” yeni bir makul şüphe standardı değildir.
Tahmine dayalı polislik geleceği hesaplamaz; geçmiş kayıtları belirli varsayımla ileri taşır. Bu araç bazı dar alanlarda kaynak planına yardım edebilir, ancak önyargıyı nesnel puan görüntüsüyle güçlendirme riski taşır. En önemli soru modelin ne kadar akıllı olduğu değil, onun hangi kararı vermesine izin verdiğimizdir. Geleceği daha güvenli yapmak, geçmiş eşitsizliği otomatikleştirmemeyi gerektirir.
Kullanımın sona erdirilmesi için de süreç gerekir. Yıllarca üretilen risk listeleri silinmezse yazılım kapatılsa bile sonuçları başka birimlerde yaşamaya devam eder. Kurum veri envanteri çıkarmalı, hangi kararın modelden etkilendiğini belirlemeli ve ciddi hata bulunursa dosyaları kendiliğinden yeniden incelemelidir. İnsanlar varlığını bilmedikleri sistemin yükünü tek tek keşfetmek zorunda bırakılmamalıdır.
Polis sendikaları ve saha çalışanları da tasarımda dinlenmelidir. Anlaşılmayan puan, görevliyi hukuki risk altında bırakır; yanlış alarm kaynak ve güven kaybettirir. Ancak çalışan kabulü temel hak değerlendirmesinin yerine geçmez. Teknik kullanım kolaylığı, hukuki meşruiyet ve saha güvenliği üç ayrı ölçüdür; biri iyi diye diğerleri varsayılamaz.
Tahmin aracının en değerli kullanımı bazen polis kararından uzakta olabilir. Kamu, olay örüntüsünü anonim ve toplu düzeyde görüp aydınlatma, ulaşım veya sosyal hizmet yatırımını planlayabilir. Bireyi işaretlemeden çevresel riski azaltmak, aynı analitik kapasitenin daha az hak maliyetli yönüdür. Araç seçimi kadar çıktıdan kimin ne yapacağı da adalet meselesidir.