Detroit Polis Departmanı, departman aleyhine açılan bir davaya göre, yüz tanıma yazılımı kullanılarak yapılan yanlış bir eşleşmeye dayanarak üç çocuk annesi bir kadını yanlışlıkla tutukladı.
Altı Detroit polisi 16 Şubat sabahı erken saatlerde 32 yaşındaki Porcha Woodruff’un evinin kapısına geldi.
32 yaşındaki Bayan Woodruff o sırada sekiz aylık hamileydi ve iki çocuğunun okula hazırlanmasına yardım ediyordu.
Polis, siyahi olan anneye Ocak ayındaki bir araba kaçırma ve soygun olayından dolayı tutuklu olduğunu bildirdi.
YAPAY ZEKA KADINI ARABA HIRSIZLIĞIYLA SUÇLADI
Şaşkına uğrayan hamile kadın “Şaka mı yapıyorsunuz, araba hırsızlığı mı? dedi ve geçen hafta açılan federal bir davaya göre memurlara Sekiz aylık hamile olduğunu görüp görmediklerini sorarak tepkisini ortaya koydu.
Daha sonra polisin, güvenlik görüntülerini departmanın yüz tanıma yazılımından geçirdikten sonra, 2015’te tutuklanan bir kişinin sabıka fotoğrafını, araba hırsızlığı kurbanının Bayan Woodruff’u saldırgan olarak seçtiği bir fotoğraf dizisine koyduktan sonra onu şüpheli olarak tanımladığını öğrendi.
Yetkililer daha sonra davayı geri çekse de, Bayan Woodruff davada, strese, susuzluğa ve stres kaynaklı kasılmalara maruz kalmasına neden olduğu iddia edilen tüm olayın, önyargılı yüz tanıma yazılımının tehlikelerinin bir örneği olduğunu savunuyor.
Şikayette, “Potansiyeline rağmen, kolluk kuvvetlerinin yüz tanımaya güvenmesi, bu olayda da görüldüğü gibi, aşağılanma, utanç ve fiziksel yaralanmalara neden olarak haksız tutuklamalara yol açmıştır” deniliyor.
BU OLAY ALTINCI KEZ GERÇEKLEŞMİŞ OLDU
Amerikan Sivil Özgürlükler Birliği’ne göre bu yanlış tutuklamanın ABD’de bu türden en az altıncı olay olduğuna inanılıyor.
Örgüte göre bunlardan üçü, 2018 yılında yüz tanıma teknolojisini kullanmaya başlayan DPD’de meydana geldi ve ABD genelinde yanlışlıkla tutuklanan altı kişinin tamamı Siyahtı.
25 Yaşındaki siyahi genç ailesinin önünde tutuklanmıştı
2019 yılında, Michael Oliver isimli 25 yaşındaki siyahi bir adam, bir öğretmenin cep telefonunu çalmak ve kırmakla haksız yere suçlandı.
Yüz tanıma yazılımı, görünür dövmeleri ve iddia edilen hırsızlığa karışan kişiden farklı bir vücut tipi, cilt tonu ve saç stili olmasına rağmen, polisi fotoğrafını sıraya koymaya ikna etti.
Ertesi yıl Robert Julian-Borchak, Detroit’teki üst düzey bir Shinola butiğinden hırsızlık yaptığı iddiasıyla ailesinin önünde tutuklandı.
Borchak’ın ismi, bir güvenlik müteahhidinin DPD’ye güvenlik kamerası görüntülerini göndermesi ve DPD’nin de bu görüntüleri Michigan Eyalet Polisi’ne iletmesi ve polisin de yüz tanıma aracı kullanarak Borchak’ın ismini eşleştirmesi üzerine polise verildi.
“BÜTÜN SİYAH ERKEKLERİN BİRBİRİNE BENZEDİĞİNİ Mİ SANIYORSUNUZ?”
Bu tür hataların sadece siyahi vatandaşlar üzerinde meydana gelmesi insanları sinirlendirdi. The New York Times’a göre Robert Julian-Borchak Williams soruşturma sırasında polise “Bu ben değilim, bütün Siyah erkeklerin birbirine benzediğini mi sanıyorsunuz?” dedi.
Yapay zeka ön yargılı insanlar tarafından manipüle edilebilir!
Yüz tanıma araçları, algoritmik önyargı olarak bilinen, önyargılı insanlar tarafından yaratılmaları nedeniyle görünüşte tarafsız teknolojilere yerleştirilen belirli tercihlerden muzdarip olabilir.
Örneğin, yüz tanıma araçları genellikle büyük görüntü veri setleri üzerinde eğitilir ve çeşitlilik içermeyen bir veri setinin kullanılması, renkli insanları doğru bir şekilde tanımlayamayan teknolojilerin ortaya çıkmasına neden olabilir.
