Sosyal medya algoritmaları 10 yaşındaki kızı ölüme sürükledi

Kullanıcılara şu veya bu içeriği sunan öneri algoritmaları gizli riskler taşıyabilir ve hatta bazen insanların hayatlarını ve sağlıklarını tehdit edebilir; uzmanlar bu konuda uyardı. ABD’de TikTok algoritmaları tarafından oluşturulan bir video, 10 yaşındaki bir kızın trajik ölümüyle sonuçlandı. Detaylar İzvestia yazısında.

Yasal emsal

ABD federal temyiz mahkemesi büyük teknoloji şirketlerinin sorumlu tutulabilir algoritmaları tarafından önerilen içerik için. TikTok’ta görülen tehlikeli bir mücadeleyi kopyalamaya çalışırken ölen 10 yaşındaki bir kızın trajik ölümüyle ilgili karara varıldı.

Benzer davalar daha önce, çevrimiçi platformları kullanıcılar tarafından yayınlanan içerikten dolayı sorumluluktan koruyan İletişim Bütünlüğü Yasası’nın 230. Maddesi kapsamında reddedilmişti. Ancak mahkeme, bir platformun kendi algoritmaları aracılığıyla aktif olarak içerik önerdiğinde artık tarafsız bir aracı olarak kabul edilemeyeceğine ve eylemlerinden sorumlu tutulması gerektiğine karar verdi.

Kararın sosyal medya endüstrisi için önemli etkileri olabilir ve teknoloji devlerine karşı çok sayıda davanın yolunu açabilir. Bazı uzmanlar bunu zaten bir dönüm noktası olarak nitelendirdi ve sosyal ağların ve diğer çevrimiçi platformların çalışmalarında ciddi değişikliklere yol açacağını varsaydı.

Dijital Ekonomi Ligi test laboratuvarı grubunun başkanı Dmitry Sakov, Izvestia ile yaptığı görüşmede, “Öneri sistemleri, kullanıcıların hizmet ve bileşenleriyle olan tercihlerine ve etkileşim geçmişine göre çalışıyor” diyor. — Kullanıcılara ilgi çekici içerik sağlamak için hizmetler, kullanıcıların İnternet’teki eylemleri hakkında bilgi toplar ve kişisel verileri kullanmak için izin ister.

Algoritmaların sırları

Dmitry Sakov’a göre, Asıl sorun, kullanıcı hakkında hangi bilgilerin toplandığının ve bu bilgilerin öneri algoritmaları tarafından nasıl kullanıldığının genellikle tam olarak bilinmemesidir.. Aynı zamanda siber güvenlik açısından da bir takım riskler taşıyorlar.

İzvestia’nın muhatabı, “İlk risk, kullanıcı bilgilerinin depolandığı yere girme tehdidinin yanı sıra, insanlara malzeme sağlarken belirli bir kanaatin oluşmasıdır” diyor. — İlk durumda her şey oldukça basitse – veri toplarken ve saklarken her zaman yetkisiz erişim ve hırsızlık riski mevcutsa, o zaman ikinci riskin uygulanmasının etkisini değerlendirmek zordur.

Fotoğraf: IZVESTIA/Sergey Lantyukhov

Dmitry Sakov’un belirttiği gibi, Dijital alandaki güvenli olmayan içeriğin miktarı, kullanıcının onunla etkileşim sıklığını doğrudan etkiler. Sonuç olarak, öneri algoritmaları aracılığıyla güvenli olmayan ve güvenilmez materyallerin, sahte bilgilerin ve dezenformasyonun yayılması riski de artıyor. Saldırganlar, bilgisayar korsanlığı yöntemlerini sürekli olarak modernleştiriyor ve halihazırda tavsiyeleri kullanabiliyor; örneğin, para çalmak amacıyla kişisel verileri toplamak için kimlik avı sitelerine bağlantılar sunmak.

Positive Technologies bilgi güvenliği iş danışmanı Aleksey Lukatsky, çalışma sonuçlarının veya öneri mekanizmalarının öğrenme sürecinin manipülasyonunun, yanlış tekliflerin verilmesine ve müşteriler tarafından yanlış kararlar alınmasına yol açabileceğini ekliyor.

Uzman, “Örneğin, yanlış tavsiye edilen bir ürün para kaybına neden olabilir, ilaç seçiminde yanlış bir ipucu da sağlık sorunlarına yol açabilir” diye açıklıyor. “Fakat şimdilik bunlar oldukça hayali riskler, çünkü çoğu durumda bu tür sistemler bir kişi adına kararlar vermiyor, yalnızca onlara tavsiyelerde bulunuyor.

Fotoğraf: Global Look Press/Sergey Bulkin

Alexey Lukatsky’nin belirttiği gibi, kullanıcıya yasak bir şey gösterildiğinde içeriğe dayalı önerilerde de benzer bir durum ortaya çıkıyor. Ancak uzman, bu hedefe ulaşmak için hedefli saldırıları henüz pek mantıklı görmüyor.

Tavsiyelerin riskleri

Buna karşılık, Güvenlik Kodu şirketinin bilgi güvenliği departmanı başkanı Alexey Korobchenko, yapay zekanın (AI) kendisi gibi öneri algoritmalarının çok çeşitli teknoloji ve hizmetlerde kullanıldığına dikkat çekiyor. Bunlar yalnızca sosyal ağlarda ilginç ve popüler videoları izlemeye yönelik öneriler değil, aynı zamanda örneğin arabalardaki otomatik park sistemleri veya bilgi güvenliği alanındaki çözümlerdir.

Uzman, “Siber güvenlikten bahsedersek, öneri algoritmalarındaki bir hata, en iyi ihtimalle BT altyapı yöneticisine yanlış veriler sağlanmasına, en kötü ihtimalle ise hedef korumalı sistemin arızalanmasına yol açabilir” diyor. — Sonuçta, herhangi bir üretim işletmesinden söz edersek, bu teknolojik bir kazaya yol açabilir.

Fotoğraf: IZVESTIA/Sergey Lantyukhov

Tavsiye algoritmalarındaki olası hatalar bağlamında, bunlardan tam olarak kimin sorumlu tutulması gerektiği sorusu kaçınılmaz olarak ortaya çıkar. Alexey Korobchenko’ya göre her şey öneri algoritmalarının tam olarak nerede kullanıldığına bağlı. Örneğin, bir sosyal ağda, şu veya bu videoyu öneren algoritmaların sorumluluğunu muhtemelen sosyal ağın kendisi üstlenmelidir. Güvenlik ürünlerinde – bu ürünlerin satıcısı. Ancak ne tür bir sorumluluğun mümkün olduğu, kullanıcılara ve topluma verilen zararın derecesine bağlıdır.

Uzman, bu konunun kapsamlı bir tartışma gerektirdiğini belirtiyor. Örneğin bir videoya otomatik olarak “Tekrarlamayın, hayati tehlike var” etiketi yapıştırılırsa ve kullanıcı bunu tekrarlarsa bu durumda sosyal ağın cezalandırılması gerekip gerekmediği sorusu ortaya çıkıyor.. Alexey Korobchenko, ideal bir sistemin olmadığını ve her zaman hem algoritmaları hem de çeşitli yasakları atlayabilecek kullanıcıların olacağını anlamanın önemli olduğunu vurguluyor.

Koruma Mekanizmaları

Uygunsuz içerikle karşılaşıldığında, eğer hizmet bunu sağlıyorsa rapor göndermeniz önemlidir, Dmitry Sakov diyor. Rapor, vicdansız yazarlarla mücadeleye ve uygunsuz içeriğin akışınızdan kaldırılmasına yardımcı olarak gelecekte benzer materyallerin ortaya çıkmasını en aza indirir. Uygunsuz içeriğin varlığına ilişkin bir rapor alındığında, geliştirme şirketinin bunu ortadan kaldırmak için harekete geçmesi gerekir.

İzvestia’nın muhatabı, “Bazı hizmetlerin, bilgilerin kişiselleştirilmesini ayarlamak için çeşitli seçenekleri var – böyle bir işlevi devre dışı bırakmaktan, algoritmaları ayarlamak ve gelecekte olumsuz içeriğin görünümünü ortadan kaldırmak için “ilginç değil” düğmesine basmaya kadar,” diyor.

Çocukları internette istenmeyen önerilerden korumaktan bahseden Alexey Korobchenko, bazı popüler platformlarda uygunsuz içeriklerin görünmemesi gereken bir çocuk profili oluşturmanın mümkün olduğunu hatırlatıyor. Ayrıca çocuğunuzun izlediği şeyleri denetlemeyi deneyebilirsiniz, ancak Platformun algoritmaları çocukları uygunsuz içerikten korumaya yönelik girişimleri görmezden gelirse işe yarayan tek yol platformu değiştirmektir.

Fotoğraf: IZVESTIA/Eduard Kornienko

Ayrıca, bir çocuğun çevrimiçi ortamda ne kadar özgürlüğü varsa, ebeveynlerinin bilgisi olmadan yaşına uygun olmayan içerikleri izleme olasılığı da o kadar yüksek olur. Bu yüzden Çocuklara siber hijyeni öğretmek, onlara sahte bilgileri tanımayı öğretmek ve onlara, özellikle her türlü hile ve zorluğun yer aldığı internetteki videoların, yaralanmalara yol açabileceği için dikkatle izlenmesi gerektiğini anlatmak önemlidir.

Dmitry Sakov, “Rusya’da, öneri sistemlerini kullanan web sitesi sahiplerinin faaliyetleri, 2023 yılında 149-FZ’de “Bilgi, bilgi teknolojileri ve bilginin korunması hakkında” değişiklik yapıldıktan sonra yasama düzeyinde düzenleniyor. — Böylece vatandaşlar yasa hükümlerini öğrenebilecek ve belirli hizmetlerde ihlallerin tespit edilmesi durumunda Roskomnadzor ile iletişime geçebilecek.

Fotoğraf: IZVESTIA/Zurab Javakhadze

Ancak Alexey Lukatsky’ye göre, tavsiye sistemlerinin otomatik karar almaya geçtikleri anda güvenliğini gerçekten düşünmemiz gerekecek. Uzman, aynı durumun, geliştiricilerin sonuçlarla ilgili sorumluluğu için de geçerli olduğu ve bunların hala oldukça belirsiz olduğu sonucuna varıyor.