ABD polisinin kullandığı yapay zeka yüz tanıma algoritması masum bir adamı suçlu olarak tespit etti ve tutuklanmasına yol açtı.
Michigan eyaletinin Detroit şehrinde yaşayan siyahi Robert Julian-Borchak Williams, yapay zekanın hatalı tespiti yüzünden tutuklandığı bilinen ilk kişi oldu.
Ocak ayında karakola çağrılan Williams, yüz tanıma algoritması tarafından 2018’deki bir mağaza soygununa ait görüntülerle ilişkilendirildiğini öğrendi.
Dedektiflerden biri, görüntülerin çıktılarını Williams’a gösterdi ve “Bu görüntüdeki sen misin?” diye sordu. Görüntüde siyah giyimli ve kırmızı şapkalı bir adam vardı.
Williams kendisine gösterilen yakın çekim bir fotoğrafı eline aldı. Fotoğraf bulanıktı ama o kişinin Williams olmadığı açıkça görülüyordu.
Fotoğrafı yüzünün yanına koyan Williams, “Hayır bu ben değilim, tüm siyahi erkeklerin birbirine benzediğini mi sanıyorsunuz?” diye sordu.
Tespit hatalı olsa da Williams, polisin yapay zekaya güveni yüzünden 30 saatini nezarethanede geçirmek zorunda kaldı.
The New York Times’ın haberine göre yüz tanıma teknolojisine şüpheyle yaklaşan uzmanlar, yapay zekanın şüphelileri özellikle grenli fotoğraflardan güvenilir bir şekilde tespit edecek kadar gelişmediğini düşünüyor.
fazla oku
Bu bölüm, konuyla ilgili referans noktalarını içerir. (Related Nodes field)
Polisin Williams aleyhindeki tek kanıtı, söz konusu hatalı tespit olsa da teknolojiyi geliştirenler, bunların tutuklama için tek gerekçe olamayacağını söylüyor.
Detroit polisinin kullandığı yazılımda da, “Bu araç, suçlunun kimliğini kesin olarak saptamaz. Soruşturmaya yol gösterir ama tek başına tutuklama nedeni olamaz” ifadeleri yer alıyor.
Georgetown Üniversitesi’nden gizlilik ve teknoloji alanında uzman hukukçu Clare Garvie de hükümetin kullandığı yüz tanıma teknolojileriyle ilgili şüphelerini dile getirdiği bir makale yazmıştı.
Garvie’nin flawedfacedata.com’da yer alan makalesinde şu ifadeler yer almıştı:
Vasat algoritmaların yanında iyi olanlar da var ve polis, sadece iyi olanları kullanmalı. Williams’ın yapay zeka yüzünden işlemediği suçtan tutuklanan ilk kişi olmadığından şüpheleniyorum.
Independent Türkçe, The New York Times
