Hepsi bir arada: Yüz tanıma sistemlerindeki hatalar nelere yol açar?

Uzmanlar, mevcut gelişim aşamasındaki yüz tanıma sistemlerinin masum insanların asılsız suçlamalarına yol açacak hatalar yapabileceği konusunda uyardı. Rusya’da bu tür hatalardan dolayı askerlik hizmetinden muaf tutulan gençler asker kaçakları ve yerleşik kişilerle karıştırıldı Amerika Birleşik Devletleri Kusurlu teknoloji, tutuklamalara ve parmaklıklar ardında cinsel şiddete bile yol açtı. Yüz tanıma sistemlerindeki hataların nelere yol açtığı ve bu tür olaylardan korunmanın mümkün olup olmadığı hakkında detaylı bilgi için İzvestia’nın yazısını okuyabilirsiniz.

Suçluluk duymadan suçlu

Ocak ayı ortasında, 61 yaşındaki ABD’li Harvey Eugene Murphy Jr. bir dava açtı Sunglass Hut güneş gözlüğü mağazaları zincirinin sahibi olan büyük Amerikalı perakendeci Macy’s ve Essilor Luxottica’ya karşı 10 milyon dolar karşılığında. Davanın temeli, Murphy Jr.’ı bir Macy’s mağazasına kurulan Sunglass Hut kioskunun silahlı soygununda yer alan bir şüpheliyle karıştıran bir yüz tanıma hatasıydı.

Silahlı baskın 2022’de gerçekleşti: Daha sonra şüpheli ve suç ortağı güneş gözlüklerini ve birkaç bin doları kaybetti. Suçu araştıran Houston polisi, şüphelinin eski fotoğraflarında Murphy Jr.’la karıştıran yüz tanıma yazılımı kullandı. Aynı zamanda Macy’s çalışanlarından biri de polisin sağladığı potansiyel suçluların fotoğraflarında Garvey’in kimliğini tespit etme hatası yaptı.

Sonuç olarak Murphy Jr., Ulaştırma Bakanlığı’nda ehliyetini yenilerken tutuklandı ve yüksek riskli suçluların bulunduğu aşırı kalabalık, maksimum güvenlikli bir hapishaneye gönderildi. Adam orada sadece birkaç saat parmaklıklar ardında kalmasına rağmen dövüldü ve tecavüze uğradı. Mahkum daha sonra avukatına, baskın sırasında Kaliforniya’da olduğunu söyledi – bunun hemen doğrulanmasının ardından Murphy Jr. tüm suçlamalardan aklandı ve serbest bırakıldı.

Sistem sorunu

Bu arada Rusya’da da yüz tanıma sistemlerindeki hatalar (neyse ki daha az ciddi sonuçlarla) yaşanıyor. Bu yüzden, Eylül 2022’de Moskova iki kez askere alındı isminde yüz tanıma sistemi onu kısmi seferberlik kaçakçısı sandığı için askerlik sicil ve kayıt bürosuna başvurdu. Muskovit’in kendisinin de söylediği gibi, ilk kez kendisini zorunlu askerlikten muaf tutan görme sorunları belgesini sunduktan sonra serbest bırakıldı. Ancak çok geçmeden polis onu tekrar gözaltına aldı ve tarih tekerrür etti.

Bir ay sonra benzer bir durumda olduğu ortaya çıktı Yüz tanıma sistemine bağlı kameralar tarafından seferberliğe tabi olduğu düşünülen, ordudan tecil edilmiş bir Moskova öğrencisi. 9 Ekim 2022’de polis tarafından gözaltına alındı ​​ve askerlik sicil ve kayıt bürosuna götürüldü – orada genç adam daha önce üniversiteden tecil belgesi getirdiğini hatırladı. İki gün sonra durum tekrarlandı; öğrenci farklı bir polis departmanından memurlar tarafından gözaltına alındı.

Onlara hikayesini anlattı ve ardından polis askerlik ve kayıt bürosunu aramaya başladı. İlk tutuklamanın ardından gencin bazı nedenlerden dolayı sistemden çıkarılmadığını ve kameraların onu asker kaçakçısı olarak tanımlamaya devam ettiğini açıkladılar. Tüm koşullar netleştikten sonra tutuklu evine serbest bırakıldı.

Fotoğraf: IZVESTIA/Dmitry Korotaev

Güvenlik Kodu şirketinde ağ tehditleri konusunda uzman olan Konstantin Shulenin’in Izvestia ile yaptığı röportajda söylediği gibi: Günümüzde yüz tanıma teknolojileri, kolluk kuvvetleri için oldukça uygun olması nedeniyle hatalara rağmen hem Rusya’da hem de dünyanın diğer ülkelerinde aktif olarak kullanılmaktadır.

— Yüz tarama ve tanımlama araçları sayesinde şüphelilerin hızlı bir şekilde tespit edilmesi, bir anlamda suçlu arama süreçlerinin otomatize edilmesi ve korunan alanlara erişimin kontrol edilmesi mümkün hale geliyor.uzman açıklıyor.

Tanıma faktörleri

Mirey Robotics’in kurucusu ve CEO’su yapay zeka (AI) uzmanı Andrei Natashkin’e göre, yüz tanıma teknolojisi, hem fotoğraf hem de video içeriğini okumak ve analiz etmekle ilişkili bir yapay zeka alanı olan bilgisayar görüşüyle ​​ilgilidir.

— Uzmanlar yüz tanıma teknolojisinin oldukça etkili olduğunu söylüyor; tanıma yüzdesi %96 ile %98 arasında değişiyor, diyor uzman. “Ancak yüzde birkaç hata olduğu gerçeğini kabul ederek yüzde 100 sonuç vermiyor. Ayrıca bu teknolojideki hatalar ve yine hatalara yol açabilecek sistem arızaları da göz ardı edilemez.

Fotoğraf: RIA Novosti/Evgeniy Biyatov

Gazinformservice’in entegre bilgi güvenliği sistemleri bölümünün baş uzmanı Dmitry Ovchinnikov’un açıkladığı gibi: Yüz tanıma sistemlerinin doğruluğu büyük ölçüde aydınlatma düzeyine, çekim açısına ve karedeki kişilerin şapkalı olup olmamasına bağlıdır. Ancak en uygun tanıma koşulları altında bile hatalar meydana gelebilir.

Andrei Natashkin, Amerikan Sivil Özgürlükler Birliği’nin gerçekleştirdiği bir deneyi hatırlıyor: Bu deney sırasında, yüz tanıma sistemine ABD’den 535 ünlü politikacının fotoğrafları sunuldu ve bunlardan hangisinin tehlikeli suçlular kategorisine ait olduğu sorusu soruldu. Ve bu politikacıların hiçbiri suç işlememiş olsa da, sistem hâlâ bunlardan 28’ini özellikle tehlikeli yasa ihlalcileri olarak kabul ediyordu.

Konstantin Shulenin aynı zamanda yüz tanıma sistemlerinin aktif uygulanmasıyla ilişkili başka bir riskin altını çiziyor – bu Verilerin siber suçlular tarafından ele geçirilmesi riski. Çalınan şifre değiştirilebiliyorsa ve elektronik imza sertifikası iptal edilebiliyor veya yeniden düzenlenebiliyorsa biyometrik veriler her kişi için benzersiz olduğundan değiştirilemez.. Bir siber suçlu biyometrik verileri ele geçirebilirse mağdur ona karşı çok savunmasız hale gelecektir.

Uzman, “Verilerin ele geçirilmesi veya tanınma hataları, dolandırıcılara mağdurların kişisel mali durumlarına ve gizli bilgilerine erişme fırsatı verecek ve aynı zamanda hapis cezası da dahil olmak üzere daha ciddi sonuçlara yol açabilecek” diye özetliyor.

Dijital Perspektifler

Hata risklerine rağmen uzmanlar, yüz tanıma sistemlerinin hem Rusya’da hem de dünyanın diğer ülkelerinde çok geniş bir potansiyele sahip olduğuna inanıyor. Konstantin Shulenin’e göre, Yüz tanıma sistemlerinin suçluların ve şüphelilerin hızlı bir şekilde tespit edilmesine, halka yönelik tehditlerin önlenmesine ve kamu düzeninin iyileştirilmesine yardımcı olabileceği güvenlik sektörü bu konuda öncü bir rol oynamaktadır.

Fotoğraf: IZVESTIA/Pavel Volkov

İzvestia’nın muhatabı, “Ancak bu tür teknolojilerin geleceği yalnızca güvenlikle sınırlı değil” yorumunu yapıyor. — Örneğin, biyometrinin yardımıyla, Moskova metrosunda seyahat için ödeme yapma süreci zaten otomatik hale getirildi: yolcuların doğrulayıcılarla etkileşime girmesine gerek yok, çünkü bireyin başarılı bir şekilde tanımlanmasının ardından ücret otomatik olarak tahsil ediliyor.

Ancak sinir ağları, biyometriyi analiz ederek bir kişiyi tanımlamakla kalmıyor, aynı zamanda onun duygularını ve fiziksel durumunu da okuyabiliyor. Bu sayede günümüzde çeşitli otomobil üreticileri, modellerine bir sürücü yorgunluk sensörü entegre ediyor; bu sensör, dikkat düzeyinin belirlenmesine yardımcı oluyor ve konsantrasyonun azalması ve direksiyon başındaki kişinin dinlenmeye ihtiyacı olması durumunda özel bir sinyalle bildirim veriyor.

Aynı zamanda Konstantin Shulenin’in belirttiği gibi, Yüz tanıma sistemlerinde biyometrik veri sızıntısı olasılığını en aza indirmek için kullanıcıların bu tanımlama yöntemini yalnızca güvenilir hizmetlerde (örneğin, devlet portallarında veya popüler satıcıların resmi uygulamalarında) seçmeleri gerekir.

Uzman, “Tartışmalı durumlar ortaya çıkarsa, biyometrik doğrulamayı derhal devre dışı bırakmalı ve uygulama destek hizmetiyle veya kolluk kuvvetleriyle iletişime geçmelisiniz” diyor.