"Bu komutu çalıştırayım mı?"
"Bu dosyayı değiştireyim mi?"
"Bu işlemi gerçekleştirmeme izin veriyor musunuz?"
Anthropic, Claude Code için bu yaklaşımı büyük ölçüde değiştirmeye hazırlanıyor.
14 Ağustos'tan itibaren Pro, Max ve Team hesaplarında açılan yeni Claude Code oturumlarında otomatik mod varsayılan hâle gelecek.
Yani Claude, yaptığı her küçük işlem için kullanıcıdan onay istemek yerine, işlemin güvenli olup olmadığına kendisi karar verecek.
Neden böyle bir değişiklik yapılıyor?
Anthropic'in gerekçesi oldukça basit: İnsanlar zaten neredeyse her şeye "Evet" diyor.
Şirketin verilerine göre kullanıcılar, Claude Code'un izin isteklerinin yaklaşık %97'sini onaylıyor.
Dahası, kullanıcıların önemli bir bölümü izinleri tamamen azaltmanın yollarını arıyor. Bazıları "bir daha sorma" seçeneğini kullanıyor, bazıları ise belirli komutlar için kalıcı izin oluşturuyor.
Bunun bir sonucu var:
Bir güvenlik mekanizması sürekli karşınıza çıkarsa, bir süre sonra gerçekten düşünmeden onaylamaya başlayabiliyorsunuz.
Anthropic buna "onay yorgunluğu" diyor.
Aslında bu durum sadece yapay zekâya özgü değil. Telefonlardaki bildirimler, antivirüs uyarıları veya tarayıcı izinleri de benzer şekilde çalışıyor. Çok fazla uyarı gördüğümüzde önemli olanla önemsizi ayırmak zorlaşıyor.
Peki artık kontrol tamamen Claude'da mı?
Hayır.
Anthropic'in yeni sisteminde her araç çağrısını değerlendiren özel bir sınıflandırıcı bulunuyor.
Claude örneğin bir dosyayı okuyacak, bir komut çalıştıracak veya başka rutin bir işlem yapacaksa kullanıcıyı sürekli rahatsız etmek yerine işlemin riskini kendisi değerlendirecek.
Ancak geri döndürülemeyen, yıkıcı veya kullanıcının çalışma ortamının dışına çıkan işlemlerde daha temkinli davranacak ve gerekirse yeniden kullanıcıdan izin isteyecek.
Yani amaç:
"Claude'a her şeyi yapmasına izin ver."
değil.
Daha çok:
"Güvenli görünen işlemlerde seni gereksiz yere durdurma, gerçekten riskli bir şey olduğunda karşına çık."
mantığına geçmek.
Peki yapay zekâ bunu gerçekten insandan daha iyi yapabiliyor mu?
Anthropic'in yaptığı testler oldukça dikkat çekici.
Şirket, 1.053 ücretli test kullanıcısının bulunduğu bir deneyde, normal izin isteklerinin arasına açıkça tehlikeli bir komut yerleştirdi.
Otomatik mod bu tehlikeli komutların yaklaşık %89'unu engelledi.
İnsan kullanıcılar ise aynı testte yalnızca %13,6'sını reddetti.
Buradaki asıl mesele yapay zekânın kusursuz olması değil.
İnsanların uzun bir oturum boyunca dikkatini koruyamaması.
Anthropic'in testinde kullanıcıların dikkati, 50 veya daha fazla izin isteğinden sonra ciddi şekilde düştü ve reddetme oranı yaklaşık %5'e kadar indi.
Başka bir ifadeyle:
İnsan her seferinde karar vermek zorunda kaldığında, bir noktadan sonra güvenlik kontrolü göstermelik hâle gelebiliyor.
Ama sistem kusursuz değil
Burada önemli bir ayrıntı var.
%89 engelleme oranı, aynı zamanda %11'lik bir kaçırma oranı demek.
Yani ilk testte tehlikeli komutların bir kısmı sistemden geçebildi.
Anthropic ve Apollo Research tarafından yapılan başka bir testte sınıflandırıcı geliştirildikten sonra bu oran %7'ye kadar düşürüldü.
Bu daha iyi bir sonuç olsa da sıfır risk anlamına gelmiyor.
Özellikle kötü niyetli kişilerin yapay zekâyı kandırmak için özel olarak hazırlanmış saldırılar geliştirmesi hâlâ mümkün.
Örneğin kötü amaçlı bir yazılım paketinin, yapay zekâ aracısına bazı dosyaları indirip çalıştırmasını söylemesi gibi tedarik zinciri saldırıları farklı bir risk oluşturuyor.
Dolayısıyla "Claude artık güvenlik konusunda her şeyi kendi hallediyor" demek doğru olmaz.
Riskli işlemlerde ne olacak?
Claude bir işlemi riskli bulup engellerse, mümkünse daha güvenli bir alternatif deneyecek veya kullanıcıdan açık izin isteyecek.
Ayrıca sistem belirli sayıda işlemi arka arkaya reddederse tekrar manuel onay sistemine dönebiliyor.
Bu da önemli bir güvenlik ağı.
Kısacası Anthropic'in yaklaşımı şu:
Rutin işlemlerde otomasyon, riskli işlemlerde insan kontrolü.
Kurumsal ekipler ise bazı işlemler için daha katı kurallar belirleyebiliyor.
Örneğin belirli Git işlemleri için açık izin kuralları veya kullanıcının geçersiz kılamayacağı engeller oluşturulabiliyor.
Kullanıcı bundan ne kazanacak?
En büyük kazanç zaman ve akıcılık.
Claude Code'un amacı zaten bilgisayar başında sizinle birlikte çalışan bir yapay zekâ geliştirici gibi davranmak.
Her birkaç dakikada bir:
"Devam edeyim mi?"
"Dosyayı değiştireyim mi?"
"Bu komutu çalıştırayım mı?"
diye sorması, yapay zekânın avantajını azaltıyor.
Yeni sistemde Claude daha uzun süre kendi başına çalışabilecek.
Anthropic ayrıca bu otomatik güvenlik kontrollerinin Pro, Max ve Team kullanıcılarına ek bir ücret getirmeyeceğini belirtiyor.
Bu ne anlama geliyor?
Bence bu değişikliğin asıl önemi Claude Code'dan çok daha büyük.
Yapay zekâ araçları yavaş yavaş "soruyu cevaplayan chatbot" modelinden çıkıp bilgisayarda sizin adınıza iş yapan ajanlara dönüşüyor.
Böyle bir sistemin her adımda insandan izin istemesi uzun vadede sürdürülebilir değil.
Düşünün:
Bir yapay zekâya "Git, şu projeyi düzenle, hataları bul ve testleri çalıştır" dediğinizde 50 farklı işlem için 50 kez onay istemesi, aslında yapay zekânın yaptığı işi size geri yaptırması olur.
Bu nedenle sektörün gittiği yön büyük ihtimalle şu olacak:
Daha fazla yetki → daha iyi risk analizi → yalnızca gerektiğinde insan müdahalesi.
Ancak bunun bir bedeli var.
Yapay zekâya ne kadar fazla yetki verirseniz, yanlış kararının potansiyel zararı da o kadar büyür.
Bu yüzden önümüzdeki dönemde asıl rekabet yalnızca "hangi yapay zekâ daha zeki?" sorusu üzerinden yaşanmayacak.
"Hangi yapay zekâya bilgisayarımı güvenle emanet edebilirim?" sorusu da en az onun kadar önemli hâle gelecek.
Claude Code'un otomatik moda geçişi, bu dönüşümün küçük ama önemli örneklerinden biri.
Hiç yorum yok:
Yorum Gönder