Claude’u bir sohbet robotu olmaktan çıkartacak

Kaynak:Donanım GünlüğüAnthropic “Claude for Chrome” isimli yeni eklentisini sınırlı sayıda kullanıcıyla test etmeye başladı.ÂHaberin DevamıHaberin DevamıHaberin DevamıHaberin Devamı

Yeni eklenti Claude’u bir sohbet robotu olmaktan çıkarıp, web üzerinde hareket edebilmesini sağlıyor. 

Anthropic de bu özelliği kaçınılmaz bir adım olarak tanımladı. İlk testler Max plan abonelerinden seçilen 1000 kullanıcıyla yürütülüyor. Bekleme listesi ise şimdiden açılmış durumda. Kullanıcılar Chrome Web Mağazası üzerinden eklentiyi indirip, Claude hesaplarıyla giriş yapabiliyor.

Eklentiyle yapılabilecekler listesi de geniş. Takvim yönetmek, toplantı planlamak, e-posta hazırlamak ya da rapor düzenlemek gibi gündelik görevlerde Claude devreye giriyor. Ancak bu yeni güç beraberinde risk de getiriyor. En büyük tehdit “prompt injection†adı verilen yönlendirme saldırıları. Yani web sayfalarına gizlenmiş talimatlarla Claude’un zararlı işlemler yapmaya zorlanması. Anthropic’in testlerinde bu saldırılar başlangıçta %23 oranında başarılı oldu. Şirket izin tabanlı kontrol ve saldırı tespit modelleriyle bu oranı yarı yarıya düşürdüğünü açıkladı.

Haberin DevamıHaberin DevamıHaberin DevamıHaberin Devamı

Güvenlik önlemleri arasında site bazlı izinler, riskli işlemlerde kullanıcı onayı ve hassas kategorilere erişim engeli bulunuyor. Örneğin finansal hizmetlerde Claude’un erişimi kısıtlanıyor. Anthropic gerçek dünya testlerinin kritik olduğunu vurguladı. Çünkü saldırıların farklı şekillerde ortaya çıkabileceğini belirtiyor. Bu yüzden test programı, güvenlik önlemlerini sahada denemek için oldukça önemli. Claude for Chrome yapay zekanın tarayıcıya girmesi açısından büyük bir adım. Fakat güvenlik kaygıları giderilmeden bu teknolojinin geniş kitlelere açılması kolay olmayacak.

 

• Claude
• Sohbet Robotu
• Yapay Zeka

Haber Kaynak : CNNTURK.COM

“Yayınlanan tüm haber ve diğer içerikler ile ilgili olarak yasal bildirimlerinizi bize iletişim sayfası üzerinden iletiniz. En kısa süre içerisinde bildirimlerinize geri dönüş sağlanılacaktır.”