Şaka başarısız oldu: Devlet Duması insanları deepfake nedeniyle hapse atmayı önerdi
Rusya’da deepfake kullanarak suç işlemek için cezai yaptırımlar söz konusu olabilir. Bu girişim Devlet Dumasında sunuldu. Sahte görüntü veya ses oluşturmaya yönelik teknolojiler kullanılarak gerçekleştirilen hırsızlık ve iftira nedeniyle cezalandırılacaklar. Yeni norm modern gerçekliklerle ilgilidir, ancak uygulanırken deepfake teknolojilerinin kullanımının kanıtlanmasında zorluklar ortaya çıkabiliruzmanlar buna inanıyor. Saldırganların çoğu yurt dışında bulunuyor; onlar için cezai sorumluluk ciddi bir tehdit oluşturmuyor. İzvestia, saldırganların nasıl cezalandırılacağını öğrendi.
Sahtecilik cezası
Deepfake teknolojisini kullanarak hırsızlık ve iftira suçundan hapse atılmasını önerdiler. Bu girişim Devlet Dumasında sunuldu. Rusya Federasyonu Ceza Kanununda değişiklik yapılmasını öngören yasa tasarısı, mevcut TASS’ın emrindedir.
“İftira”, “Dolandırıcılık”, “Hırsızlık”, “Gaç”, “Bilgisayar bilgileri alanında dolandırıcılık” ve “Aldatma veya güveni kötüye kullanarak mala zarar vermek” maddelerine yeni bir suç unsuru eklemek istiyorlar. Belgeden, mağduru taklit eden sahte fotoğraf, video ve ses dosyaları kullanılarak işlenen iftiranın 1,5 milyon rubleye kadar para cezasına veya iki yıla kadar hapis cezasına tabi olacağı sonucu çıkıyor.
Deepfake kullanan dolandırıcılıkların cezası daha sert olacak: 400 bin rubleye kadar para cezası veya altı yıl hapis.
Tasarının açıklayıcı notunda, bilgisayar teknolojisindeki gelişmelerin, “var olmayan olayları yapay olarak yeniden yaratan” veriler yaratmaya yönelik yeni fırsatların ortaya çıkmasına yol açtığı belirtiliyor. Dolandırıcılar daha önce de fotoğrafların sahtesini yapmıştı ancak bugün araç seti, sinir ağları ve yapay zekayı da ekleyerek önemli ölçüde genişledi. Belgede, deepfake’lerin ve dijital maskelerin yardımıyla, uzman olmayan birinin gerçeklikten ayırt etmesinin neredeyse imkansız olduğu sahteler yaratmanın mümkün olduğu vurgulanıyor.
Fotoğraf: IZVESTIA/Eduard Kornienko
Üstelik bazı durumlarda bir vatandaşın görüntüsü veya sesi biyometrik kişisel veri olarak hareket edebilir ve kimlik tespiti için kullanılabilir.
Bu sırada Rusya Federasyonu hükümeti, modern endüstri mevzuatında kimlik ikame teknolojilerinin kullanımına ilişkin konuların düzenlenmediğini belirtti. Bu durum yanlış kolluk uygulamalarına yol açabilir.Bununla bağlantılı olarak Bakanlar Kurulu belgenin sonuçlandırılmasını tavsiye etti. Gerekli ayarlamalar dikkate alındıktan sonra Devlet Dumasına sunulacak.
Çalışma prensibi
Yapay zeka teknolojisi deepfake (İngilizce deepfake’den), bir veya daha fazla kişiyi yanıltmak, şaka yapmak veya aldatmak için oluşturulan sentezlenmiş bir sesli mesaj veya video görüntüsüdürPositive Technologies bilgi güvenliği iş danışmanı Alexey Lukatsky şöyle açıklıyor: Tipik olarak oluşturulur Potansiyel bir kurbanın toplanmış bir dizi videosuna veya sesli mesajına dayanmaktadır.
Deepfake oluşturmak için üretken rakip ağlar olan makine öğrenimi algoritmaları kullanılır.Solar şirketler grubunun Siber Güvenlik Teknolojileri Merkezi’nin Ar-Ge laboratuvarı başkanı Maxim Buzinov diyor.
Fotoğraf: IZVESTIA/Anna Selina
— Aslında bu, iki sinir ağını temel alan bir algoritmadır. Üretken bir imaj yaratır, rakip ise kişinin imajından farklı olan doğru veya yanlış görselleri belirler. Buna göre, üretken sinir ağının, düşmanın görüntüyü orijinalinden ayırt edemeyeceği şekilde bir deepfake oluşturması gerektiğini belirtiyor.
Kaspersky Lab’ın önde gelen veri bilimcilerinden Dmitry Anikin, sinir ağlarına erişimin genellikle web hizmetleri veya uygulamalar aracılığıyla mümkün olduğunu söylüyor.
“Algoritmalar geliştikçe sonuç giderek daha inandırıcı hale geliyor ve artık onu gerçek malzemelerden ayırmak oldukça zor” diye vurguluyor.
Tehlikeli araç
Alexey Lukatsky, Rusya’da deepfake’lerin popülerlik kazanmaya başladığı konusunda uyarıyor. Sadece şaka amaçlı değil aynı zamanda çeşitli dolandırıcılık saldırılarında da aktif olarak kullanılıyorlar.
– Bu gerçek ve oldukça tanınmış bir yetkilinin sahtekarlık yaptığı video görüşmeleri de dahil olmak üzere, sözde banka güvenlik hizmetlerinden, kolluk kuvvetlerinden ve çeşitli devlet kurumlarından gelen çağrılar“Uzman listeliyor.
Saldırganlar ayrıca ünlü kişiler ve şov dünyasının yıldızları gibi davranabilirler. Örneğin, şüpheli kripto para birimi projelerini tanıtmak için.
Sesli deepfake’ler de popülerlik kazanıyorDmitry Anikin’e dikkat çekiyor. Anlık mesajlaşma programlarında dolandırıcılık amacıyla kullanılırlar.
Fotoğraf: Getty Images/avdyachenko
— Uzman, kullanıcının hesabının çalındığını ve ardından verilerinin, kurbanın bağlantılarını kandırmak ve onlardan fon çalmak amacıyla ses ve bazen de görsel sahtekarlıklar oluşturmak için kullanıldığını belirtiyor.
Ona göre bu durumda Deepfake, mevcut sosyal mühendislik planlarının bir uzantısı olarak hareket ediyor ve bu da kurbanın uyanıklığını daha da azaltmayı mümkün kılıyor.
— Ayrıca son günlerde Rusya-Ukrayna sınırında olup bitenlerle ilgili yetkililerin sahte mesajlarıyla bir plan yayılmaya başladı.. Lukatsky, Telegram kanallarında ve sosyal ağlarda dağıtılan bu tür deepfake’lerin sınır bölgelerinde yaşayanlar için büyük sorun yarattığını ve halk arasında paniğe yol açtığını söylüyor.
Izvestia’nın muhatabı, saldırganlarla mücadelenin etkili bir yolunun, kullanıcının kimlik avı veya dolandırıcılık kaynağına geçmesini engelleyecek güvenlik çözümleri kullanmak olduğuna inanıyor. Dijital okuryazarlığın ve suç planlarına ilişkin farkındalığın arttırılması da faydalı olacaktır.
Önemli teklif
Rusyaev ve Partners şirketinin yönetici ortağı avukat Ilya Rusyaev, modern gerçekliklerde deepfake kullanımına ilişkin cezai sorumluluk getirme girişiminin çok alakalı ve gerekli göründüğüne inanıyor.
— Yapay zeka teknolojilerinin ve sinir ağlarının hızlı gelişimi, ikna edici sahte video ve ses materyallerinin oluşturulmasının neredeyse her kullanıcının kullanımına sunulmasına yol açtı. Bu, başka birinin imajını veya sesini kullanarak suiistimal ve çeşitli yasa dışı eylemlerde bulunmak için geniş fırsatlar yaratıyor” diye itiraf ediyor uzman.
Fotoğraf: Getty Images/Westend61
Moskova Avukatlar Odası’nın avukatı ve Rusya Avukatlar Birliği üyesi Sean Betrozov da bu görüşe katılıyor.
“İftira veya sahtekarlık yaymak için sahte görüntü ve seslerin kullanılması, yalnızca mağdurun itibarına ciddi zarar vermekle kalmaz, aynı zamanda mali kayıplara ve hatta hayati tehlikeye yol açabilir” diye itiraf ediyor.
Delomant Group hukuk firmasının kurucusu Taisiya Veprentseva, Telegram kanallarındaki dolandırıcıların e-posta listelerini ve Chat GPT’yi kullanarak yalnızca kolayca yanıltmakla kalmayıp aynı zamanda hırsızlık, gasp ve mülk hırsızlığı da yaptıklarını kabul ediyor.
“Dolayısıyla hukuk alanının da zamana ayak uydurması ve bu tür eylemleri bastırıp cezalandırması gerekiyor” diye emin.
Fotoğraf: IZVESTIA/Eduard Kornienko
Rusyaev’e göre önerilen önleyici tedbirler, potansiyel hasarın ciddiyeti açısından yeterli sayılabilir.
— 1,5 milyon rubleye kadar para cezası ve altı yıla kadar hapis cezası (Ceza Kanununun özel maddesine bağlı olarak), sahte görüntü ve ses kullanılarak yapılan dolandırıcılık, iftira veya hırsızlık gibi eylemlerin ciddiyetine karşılık gelmektedir.diyor İzvestia’nın muhatabı.
Ancak Veprentseva, önleyici tedbir seçerken yasadışı eylemlerin miktarını dikkate almanın önemli olduğu konusunda uyarıyor. Verilen cezanın, verilen zararla orantılı olması gerekir.
Şeytan ayrıntıda gizlidir
Bunu anlamak önemlidir Bu girişimi uygularken bazı zorluklar ortaya çıkabilirIlya Rusyaev’i uyarıyor. Bunlardan ilki, hükümetin belirttiği gibi “deepfake” kavramının henüz Rusya mevzuatında tanımlanmamış olmasıdır.
— Bu, kolluk kuvvetlerinin uygulamalarını karmaşıklaştırabilir. Avukat, terminolojinin kapsamlı bir hukuki incelemesinin ve ilgili kanunlarda uygun değişikliklerin yapılmasının gerekli olacağına inanıyor.
Deepfake teknolojilerinin suç işlenmesinde kullanıldığının kanıtlanmasında da zorluklar yaşanabilmektedir.Rusyaev diyor.
Fotoğraf: IZVESTIA/Alexander Kazakov
Soruşturma makamlarının ve mahkemelerin üzerindeki yükü artıracak karmaşık teknik incelemelerin yapılması gerekli olacaktır.
Ayrıca deepfake kullanan suçlular sıklıkla yurt dışından faaliyet gösteriyor ve bu da onların adalet önüne çıkarılmasını çok daha zorlaştırıyor.Sean Betrozov dikkat çekiyor.
Avukat, “Bu tür suçlarla etkili bir şekilde mücadele etmek için uluslararası işbirliğini güçlendirmek ve yeni soruşturma yöntemleri geliştirmek gerekli olacaktır” diye ikna oldu.
Maxim Buzinov, Rusya Federasyonu dışında yerleşik suçlular için cezai cezanın, dolandırıcılık işlemlerini engellemede ciddi bir durdurucu faktör olma ihtimalinin düşük olduğunu kabul ediyor.
— Saldırganlar için bir “giriş noktası” haline gelebilecek şirket çalışanlarının ve sosyal ağların ve anlık mesajlaşma programlarının sıradan kullanıcılarının siber okuryazarlığına daha fazla dikkat edilmelidir.
Fotoğraf: IZVESTIA/Dmitry Korotaev
Siyasi figürlerin derin sahtekarlıklarına güvenme olasılığı en yüksek olan yaşlı neslin de özel ilgiye ihtiyacı var” diye ısrar ediyor.
Alexey Lukatsky, bunun birçok açıdan önemli olduğunu, çünkü cezai cezanın deepfake’lerin yayılmasını ancak yaratıcılarının tespit edilmesi halinde etkileyebileceğini belirtiyor. Aynı zamanda genel olarak nüfusun sosyal açıdan korunmasız kesimleri ilk etkilenenler olacak. Örneğin, deepfake’leri nasıl tanıyacağını bilmeyen ve bunları yeniden yayınlayan kullanıcılar.
Rusyaev’e göre yeni normların aşırı geniş yorumlanması, zararsız eğlence içeriği veya parodi yaratıcıları hakkında haksız soruşturmalara yol açabilir.
Entegre yaklaşım
Ilya Rusyaev, olası zorluklara rağmen, deepfake teknolojilerinin kötüye kullanılması durumunda cezai sorumluluğun getirilmesinin önemli ve zamanında atılmış bir adım gibi göründüğünden emin.
“Bu, yeni tür siber suçlarla mücadele etmek için yasal mekanizmalar oluşturacak, vatandaşları dolandırıcılıktan ve görsellerini kullanan iftiralardan koruyacak ve aynı zamanda yapay zeka teknolojilerinin sorumlu bir şekilde kullanılmasına yönelik bir kültürün oluşmasına da katkıda bulunacaktır” diye inanıyor.
Ancak avukat, bu girişimin etkili bir şekilde uygulanması için entegre bir yaklaşımın gerekli olacağını vurguladı.
Fotoğraf: IZVESTIA/Alexander Kazakov
Sadece Ceza Kanununa yeni maddeler eklemek değil, aynı zamanda derin sahtekarlıkları tespit etmek için yöntemler geliştirmek, dijital adli tıp alanında nitelikli uzmanlar yetiştirmek ve kimlik değiştirme teknolojileriyle ilgili tehlikeler hakkında halkı geniş çapta bilgilendirmek gerekiyor.
Girişimin başarılı bir şekilde uygulanması aynı zamanda kolluk kuvvetleri uygulamalarının da önemli ölçüde güçlendirilmesini gerektirecektir.Sean Betrozov, vatandaşları deepfake kullanımıyla ilişkili tehditlerden koruyacak.
Rusyaev, “Yalnızca bu durumda, yeni yasal normlar yüksek teknoloji alanındaki suiistimallere etkili bir şekilde karşı koyabilecek ve dijital çağda vatandaşların haklarını koruyabilecek” diye özetliyor.
