Yapay zeka tarafından oluşturulan polis raporlarının kullanımı yeni olduğundan, bunların kullanımına rehberlik eden çok az önlem vardır.
Amerika Birleşik Devletleri'ndeki (ABD) bazı polis departmanlarının, olay yeri raporlarının ilk taslaklarını oluşturmak için yapay zeka (AI-AI) chatbotlarını kullandığı iddia edildi.
ChatGPT ile aynı üretken yapay zeka modeline sahip bir teknoloji olan bu teknoloji, polis vücut kamerasındaki bir mikrofondan ses ve radyo konuşmalarını yakalıyor ve sekiz saniyede bir rapor hazırlayabiliyor.
Oklahoma Şehri Polis Departmanından çavuş Matt Gilmore, “Yazabileceğimden çok daha iyi bir rapordu ve yüzde 100 doğruydu. Daha sorunsuzdu” dedi.
Yeni uygulama, plakaları okuyan, şüphelilerin yüzlerini tanıyan veya silah seslerini tespit eden algoritmalar gibi ABD polisi tarafından halihazırda kullanılan genişleyen bir dizi yapay zeka aracının parçası olabilir.
Yapay zeka raporlarının nasıl kullanılacağına ilişkin çok az kılavuz var
Draft One adlı yapay zeka ürününün arkasındaki şirket olan Axon'un CEO'su ve kurucusu Rick Smith, yapay zekanın polisin yapmak zorunda olduğu evrak işlerini ortadan kaldırarak polisin önemli işler için daha fazla zamana sahip olmasını sağlayabileceğini söyledi.
Ancak polis tarafından kullanılan diğer yapay zeka teknolojileri gibi Smith de endişelerin olduğunu kabul etti.
Kendisi, bu endişelerin çoğunlukla polis memurlarının, bir ceza davasında olay yerinde gördüklerine ilişkin ifade vermek zorunda kalmaları durumunda raporlarında ne olduğunu bilmelerini isteyen bölge savcılarından geldiğini söyledi.
Smith, “Bir polis memurunun tanık kürsüsüne çıkıp 'Bunu yapay zeka yazdı, bunu ben yazmadım' demesini asla istemezler” dedi.
Yapay zeka tarafından oluşturulan polis raporlarının kullanıma sunulması yeni olduğundan, kullanımına rehberlik eden çok az güvenlik önlemi bulunmaktadır.
Oklahoma City'de uygulama, yüksek riskli ceza davalarında kullanılmadan önce dikkatli olunmasını tavsiye eden yerel savcılara gösterildi.
Yapay zekada ırksal önyargıya ilişkin endişeler
Avukat Andrew Ferguson, yürürlüğe girmeden önce bu teknolojinin yararları ve olası zararları hakkında daha fazla kamuoyu tartışması yapılmasını istiyor.
İlk olarak yapay zeka sohbet robotlarının altında yatan büyük dil modellerinin yanlış bilgi aktarma eğiliminde olduğu belirtiliyor. Halüsinasyon olarak bilinen bu sorun, polis raporuna ikna edici ve tespit edilmesi zor yalanlar katabilir.
Gelişmekte olan teknolojinin ilk yasal incelemesi olması beklenen üzerinde çalışan hukuk profesörü Ferguson, “Otomasyon ve teknolojinin kolaylığının polis memurlarının yazı yazarken daha az dikkatli olmasına neden olacağından korkuyorum” dedi.
Ferguson, bir polis memurunun şüphesinin “birinin özgürlüğünün kaybını haklı kılıp kılmadığının” belirlenmesinde olay yeri raporunun önemli olduğunu söyledi. Bu raporlar bazen özellikle küçük suçlarda hakimin gördüğü tek ifade olarak yer alır.
Ferguson, bir polis memurunun hazırladığı raporların da kusurlu olduğunu ancak hangisinin daha güvenilir olduğuna dair net bir cevap verilmediğini söyledi.
REKLAMYapay zeka teknolojisindeki ırksal önyargılar ve toplumsal önyargılarla ilgili endişeler, Oklahoma Şehri topluluk aktivisti Aurelius Francisco tarafından “derinden rahatsız edici” olarak tanımlandı.
“Polislerin işlerini kolaylaştırırken, siyahilerin hayatlarını da zorlaştırıyor” dedi ve bu raporların otomatikleştirilmesinin “polisin topluluk üyelerini taciz etme, gözetleme ve onlara şiddet uygulama yeteneğini kolaylaştıracağını” belirtti.