Medya, biyolojik silahların yaratılmasında yapay zekalı sohbet robotlarının yardımından bahsetti
Yapay zekaya (AI) sahip sohbet robotları, kullanıcıların biyolojik silahlar oluşturmasına yardımcı olabilir. Ajans bunu 2 Ağustos’ta bildirdi. Bloomberg.
Biyokimyacı ve eski BM müfettişi Rocco Casagrande’nin 2023 baharında Beyaz Saray yetkililerini sohbet robotları kullanarak biyolojik silahlar yaratma olasılığı konusunda uyardığı açıklandı. Ona göre sinir ağları teröristlerin biyolojik ajanları tespit etmelerine yardımcı olabilir.
“Ya her teröristin omzunda küçük bir bilim adamı olsaydı?” O sordu.
Casagrande bulgularını, sohbet robotu Claude’un geliştiricisi Anthropic’in kendisinden sinir ağının bilimsel yeteneklerini test etmesini istemesinin ardından duyurdu. Anthropic’in kurucu ortağı Jack Clark’a göre Claude ve diğer sohbet robotları, kullanıcılara potansiyel olarak tehlikeli virüslerin nasıl oluşturulacağını öğretebilir.
Ajans, Clark’ın biyokimyacıyla yaptığı konuşmada “Varsayımlarımızı test etmenizi istiyorum” dediğini aktarıyor.
Sonuç olarak Claude’u test etmek için mikrobiyoloji ve viroloji uzmanlarından oluşan bir ekip oluşturuldu. 150 saat boyunca sinir ağını soru yağmuruna tuttular. Claude, araştırmacılara maksimum hasara neden olmak için füzelerdeki patojenleri kullanmanın yollarını önerdi ve ayrıca bunun nasıl yapılacağını da önerdi. hava durumu En iyi şekilde ve hangi amaçlarla kullanılırlar?
Gryphon kıdemli analisti Audrey Serles, chatbot’un yanıtlarının bir Google aramasında bulunabileceklerin ötesine geçtiğini belirtti.
Testin ardından Casagrande, sohbet robotunun önerdiği patojenlerden birini oluşturmak için gereken sentetik DNA’yı satın alma talebiyle MIT’den Esvelt’e başvurdu. Test tüplerini Beyaz Saray’a götürdü.
Bloomberg kaynaklarına göre ABD Başkanı Joe Biden, Başkan Yardımcısı Kamala Harris ve Ulusal Güvenlik Danışmanı Jake Sullivan olup bitenlere “kişisel ilgi gösterdiler”. Geçtiğimiz Temmuz ayında OpenAI, Anthropic ve Microsoft gibi büyük yapay zeka şirketleri biyogüvenlikteki “en önemli riskleri” değerlendirmeyi taahhüt etti. Ekim 2023’te Beyaz Saray, hükümet tarafından finanse edilen yapay genom araştırmalarının daha fazla gözetim altında tutulması çağrısında bulunan bir idari emir yayınladı. Harris daha sonra yapay zeka tarafından yaratılan biyolojik silahların “insanlığın varlığını tehdit edebileceğini” vurguladı.
Mayıs 2023’te İngiliz bilim adamı Stuart Russell şunları söyledi: Yapay zekanın ortaya çıkışı ve gelişimi insanlığı felaketle tehdit edebilir. Bilim insanına göre yapay zeka alanındaki kontrolsüz gelişmeler, araştırmacıların beklemediği ilerlemelere yol açtı.
Bir ay önce Telecom Daily CEO’su Denis Kuskov, Izvestia ile yaptığı görüşmede şunları kaydetti: sinir ağları insanlık için tehlikeli hale gelebilirBu noktada kimse gerçekte ne yapabileceklerini bilmiyor.
Aynı zamanda işadamları Elon Musk ve Steve Wozniak, sinir ağlarının hızlı gelişiminden duydukları endişeyi dile getirdiler. Onlar açık bir mektuba imza attı Yapay zeka eğitimlerinin askıya alınması çağrısıyla. Bunun nedeni, insanlarla kıyaslanabilir zekaya sahip yapay zeka sistemlerinin insanlık için ciddi riskler oluşturabileceğini gösteren kapsamlı araştırmalardır.
