Claude 3 Opus’taki yenilikler – chatbot, popüler ChatGPT’den çok daha akıllı

Makine öğrenimi pazarına yeni giren Claude 3 Opus, bazı eleştirmenlere göre bilgi açısından ChatGPT’yi çoktan geride bıraktı. Program muhakeme, uzmanlık bilgisi ve matematik yeteneği gerektiren problemleri iyi bir şekilde ele almaktadır. Eski OpenAl mühendislerinin yarattığı bu model ailesi, çok çeşitli bilişsel görevlerde yeni endüstri standartlarını belirleyen bir model ailesidir. Bu arada BT uzmanlarına göre, Rus diline odaklanılması nedeniyle mevcut ve paralel olarak geliştirilen Rus yapay zeka hizmetlerinin avantajları devam ediyor. Görüşülen uzmanlar, yerel ağlar için umut verici alanlardan birinin uzman yapay zeka botları olduğunu belirtiyor. Detaylar İzvestia yazısında.

ChatGPT4 katili

Eski OpenAI çalışanları tarafından kurulan Antropik duyuruldu yeni nesil yapay zeka modellerinin oluşturulması hakkında – Claude 3. Teknoloji üç ürünle temsil edilmektedir: Haiku, Sonnet ve Opus. Yetenekler ve parametre sayısı bakımından farklılık gösterirler. En gelişmiş versiyonu Opus’tur. Anthropic’e göre, bir dizi fonksiyonda daha tanınmış rakiplerini geride bırakıyor. Örneğin, lisansüstü düzeyde bilgi gerektiren bir kıyaslamada Claude 3 Opus %50’den fazla doğru yanıt verdi (ChatGPT 4’te bu oran %35,7’ydi).

Yeni yapay zeka botu, düşünme ve matematik becerileri gerektiren görevlerde başarılı. Geliştiriciler, Opus’un “karmaşık görevleri yerine getirirken insana yakın düzeyde anlayış ve hız” gösterdiğini iddia etmekten çekinmiyorlar. Sunulan Claude 3 modelleri, fotoğraflar ve diyagramlar da dahil olmak üzere çok çeşitli görsel formatları işleyebilmektedir.

Kaspersky Lab’deki makine öğrenimi teknolojileri araştırma ve geliştirme grubunun başkanı Vladislav Tushkanov’a göre, Claude 3’ün piyasaya sürülmesinin ardından yapay zeka botlarının daha da geliştirilmesi gerekiyor sohbet robotunun işleyebileceği maksimum metin miktarının artırılmasından oluşacaktır (buna yüklenebilecek belgeler de dahildir). Böylece, Claude-3 Sonnet yaklaşık 140 bin İngilizce kelimeyi işleyebilir (işleme özellikleri nedeniyle daha az Rusça kelime olacaktır), rakipler bu rakama daha mütevazı sahip.

— Ancak Rus hizmetleri, Rus diline odaklandıkları için Rusça metinlerle daha verimli çalışabiliyorTushkanov diyor. “Aynı zamanda, rekabetçi ChatGPT hizmeti, kullanıcılara GPT’ler aracılığıyla harici hizmetlerle çok sayıda entegrasyon sağlıyor ve bu da kullanıcıların daha ilginç sorunları çözmesine olanak tanıyor.

Uzmanlar, yapay zeka botları için olgusal doğruluğun iyileştirilmesinin, gerekli bilgiler eksik olduğunda bir soruyu yanıtlamayı reddetme yeteneğinin ve dış verilerle çalışma yeteneğinin geliştirilmesinin, LLM’ye erişim sağlayan hizmetlerde iyileştirme için önemli alanlar olacağını söylüyor (büyük dil) sohbet robotları modeli – büyük dil modelleri).

Akıllı arama İçeriği Yapay Zeka ürün müdürü Anton Frolov, “Kritik bir husus, bilgilerin düzenli olarak güncellenmesi ve kapsama alanlarının genişletilmesidir” diyor. — Algoritmalara farklı kaynaklardan gerçek zamanlı bilgi toplamayı öğretebilen, onları daha fazla eğitebilen ve hemen üretime aktarabilen şirketler, rekabet yarışında çok öne geçebilecek.

Her şey metin mi?

Uzmanlar, chatbotların biliş felsefesinden yoksun olduğunu söylüyor. Jacques Derrida’nın paradigmasıyla çalışıyorlar: “Her şey metindir.” Bir şey kelimelerle anlatılamıyorsa yoktur. Ancak öte yandan metin sıkıştırılmış bilgidir. İnsanlar tam cümlelerle iletişim kuramaz ve iletişim kurmayacaktır.

Fotoğraf: Global Look Press/IMAGO/Zoonar.com/Kasper Ravlo

Sinir ağının bildiği tek şey “Odaya şapkalı, uzun boylu bir adam girdi”. Çok daha fazlasını biliyoruz çünkü hem odalarla hem de insanlarla gerçek hayatta temasa geçtik. Süreci hızlandırmak için doğru düzeyde soyutlamayla iletişim kurarızFirst Bit’in analitik sistemler ve raporlama departmanı başkanı Petr Ivanov, “diyor.

Bugün şunu savunuyor: Sinir ağlarına dayalı bir sohbet robotu, fiili olarak özel bir şekilde düzenlenmiş bir metin veritabanından ibarettir. Onunla günlük dilde iletişime geçebilir ve talepte bulunabilirsiniz. Aynı zamanda uzmana göre sinir ağı çözümleri hâlâ video üretme konusunda yetersiz kalıyor. Çünkü görsellerin yanı sıra “dramaturjinin kuralları” da olmalı: anlatım, olay örgüsü vb. sonuca kadar devam eder, yani daha geniş bir bağlama ihtiyaç vardır.

Datatech satış iş destek departmanı başkanı Alexander Chulapov, modelleri eğitirken güvenilir kaynakları kullanmanın da önemli olduğunu belirtiyor.

Muhatap, “Halüsinasyonların oluşumunu kontrol etme sorununu çözme yaklaşımlarından biri, cevabın oluşturulduğu kaynakları belirtmek ve ardından sonuçların orijinal kaynağa uygunluğunu kontrol etmektir” dedi.

Fotoğraf: Global Look Press/Piero Nigro

PIX Robotics Teknik Direktörü Kirill Serov şunu vurguluyor: Yapay zeka botları şu anda öğrenebilecekleri daha iyi verilere sahip değil. Bu da önemli bir nokta çünkü verinin kalitesi ile chatbotun yanıtlarının doğruluğu arasında doğrudan bir ilişki var. Doğru bilgileri seçecek ve eğitim modellerinin temelini düzenli olarak zenginleştirecek bir otomatik işlem hattı kurabilirseniz, bu, GPT botlarının geliştirilmesine önemli bir ivme kazandıracaktır.

Directum’da AI ürünlerinin geliştirilmesinden sorumlu proje yöneticisi Ilya Petukhov, bugün kullanımda olduğunu ekliyor İş dünyasındaki yapay zeka botları süreçlere entegrasyondan yoksundur. Artık programlar, ayrı başlatma ve veri girişi gerektiren, kullanıcılarla etkileşim kurmak için ek yazılım veya arayüz işlevi görüyor. Uzman, çoğu kişinin istenen sonucu elde etmek için nereye gideceğini veya hızlı bir talebi nasıl doğru bir şekilde oluşturacağını bile bilmediğini belirtiyor.

InfoWatch Group yenilikçi projeler direktörü Andrey Arefiev, “Rekabetten bahsedersek, GPT modellerinin geliştiricilerinin şu anda ele aldığı iki küresel sorun var” diyor. — Birincisi çok modluluğun gelişmesi, bağlamın genişlemesi ve modelin işleyebildiği nesnelerin sayısıdır. İçeriğin kalitesi doğrudan buna bağlıdır: farklı formatlarda ne kadar çok veri olursa, sonuç o kadar karmaşık ve ilginç olur. İkinci sorun ise GPT modelinin istekleri işlemek için harcadığı kaynakların, özellikle de elektrik miktarının azalmasıdır.

Fotoğraf: IZVESTIA/Dmitry Korotaev

Alexander Chulapov, ana sorunları çözdükten sonra rekabetin farklı bir düzleme geçebileceğini ve yapay zeka botlarının yüz ifadeleri, duyguları ve kendi etkileşim tarzları olan tam teşekküllü avatarlara dönüşeceğini ekledi. Ayrıca uzman yapay zeka botlarının geliştirilmesini, Rus sistemlerinin geliştirilmesi için umut verici alanlardan biri olarak görüyor.

Sinir ağlarına yönelik bir tehdit olarak ilk AI solucanı

Bir AI solucanının deneysel olarak geliştirilmesine ilişkin en son haberler, AI bot pazarındaki alarmı artırdı. İsrail ve Amerika’dan bir grup araştırmacı yaratıldı Üretken yapay zekaya dayalı uygulamalar için tasarlanmış Morris II virüsü. Görevi akıllı e-posta asistanına saldırmaktı.

Türünün ilk kötü niyetli yapay zeka solucanı, bağlantılı, otonom yapay zeka ekosistemlerinde gerçekleştirilebilecek yeni bir siber saldırı türüne işaret ediyor. Deneyler, böyle bir solucanın, ChatGPT ve Gemini sistemlerindeki bazı güvenlik önlemlerini ihlal ederken, e-postalardan veri çalmak ve spam göndermek için yapay zeka tabanlı e-posta asistanlarına saldırmak için nasıl kullanılabileceğini gösteriyor.

Fotoğraf: IZVESTIA/Pavel Volkov

— RAG’a (Alım-Artırılmış Üretim) dayalı bir solucanın yayılmasını önlemenin en kolay yolu, yeni verilere yanıt olarak veritabanını güncellemeyen veya yanıtları/iletilen e-postaları RAG’de depolamaktan kaçınan etkin olmayan bir RAG kullanmaktır.Positive Technologies’in ileri teknolojiler departmanında kıdemli uzman olan Alexey Pekhterev açıkladı. — Ancak bu yaklaşımın doğruluk/pratiklik ile güvenlik arasında bir ödünleşimi temsil ettiği dikkate alınmalıdır çünkü bu önlemin ana dezavantajı, yeni trendlere otomatik olarak uyum sağlayamamasıdır.

Morris II geliştiricileri tarafından yapılan çalışmada, yapay zeka modelini yanıtında yeni bir istek oluşturmaya zorlayan “düşmanca kendini kopyalayan istekler” konusuna özellikle dikkat edildi. Saldırı vektörü olarak iki tür e-posta kullanıldı: metin ve resim dosyası biçiminde. İlk durumda, eklenen kötü niyetli uyaran e-posta asistanının veritabanını “zehirliyor”; bu da GenAI hizmetinin yanıtlarını daha doğru ve güvenilir hale getirmek için GenAI hizmetinin talebi harici kaynaklardan gelen arama sonuçlarıyla desteklemesini gerektiriyor.

“Bilim adamları, aynı zamanda Jailbreaking olarak da adlandırılan Prompt Injection (istek enjeksiyonu) gibi saldırıların otomasyonunu rapor ediyor (“jailbreaking”, bir dizi Apple cihazının dosya sistemine erişmenizi sağlayan bir işlemdir. – Ed.), diye açıklıyor. Güvenlik Vizyonu CEO’su Ruslan Rakhmetov. — Prompt Injection saldırıları, yapay zeka sistemlerinin sınırlamalarını aşmak ve yetkisiz eylemler gerçekleştirmek için kullanılır. Yapay zeka sistemleri geliştiren şirketler artık kullanıcı isteklerinin izlenmesi ve LLM’lerin eğitildiği verilerin doğruluğu konusunda endişe duyuyor.

Fotoğraf: IZVESTIA/Dmitry Korotaev

Uzmana göre kullanıcılar tarafından girilen isteklerin (veri ve komutlar) daha sıkı şekilde doğrulanması, jailbreak saldırılarının riskinin azaltılmasına yardımcı olacak.

Garda şirketler grubunun bilgi güvenliği tehdit analizi departmanı başkanı Alexey Semenychev, “Kötü niyetli bir yapay zeka solucanına ilişkin haberler, yapay zeka botlarının pek de dürüst amaçlara yönelik olmayan şekilde manipüle edilmesi için birçok alan açıyor” diyor. “Şimdilik bunlar daha fazla deney, ancak yapay zekanın böyle bir yenilgisi saldırganlara niyetlerini gerçekleştirmeleri için yeni bir araç sağlayacağından yönün hızla gelişeceğine şüphe yok. Örneğin, eğitim modellerine ulaşmayı ve en temel düzeyde kötü amaçlı yazılım yerleştirmeyi başarırlarsa, sonuçları korkunç olabilir.

Etkilenen yapay zekayı kod yazmak için kullanırsanız, çalışmalarının sonuçları savunmasız olacaktır. Yani, kullanıcı önceden kusurlu bir yazılım alacaktır ve bunun çalışması, veri sızıntısından vatandaşların geçimini destekleyenler de dahil olmak üzere tüm işletmelerin çalışmasının engellenmesine kadar çeşitli sonuçlara yol açabilir.