Bir Yapay Zeka Agent'ının İçinde

Bir sohbet botu bir soruyu cevaplar. Bir agent ise bir görevi tamamlar: Arama yapar, dosya okur, kod çalıştırır ya da form doldurur ve bunu iş bitene kadar adım adım sürdürür. Bu kulağa bambaşka bir yapay zeka gibi geliyor. Ama içindeki model, bu serinin ilk yazısındakiyle aynı türden bir dil modelidir. Metin okur ve metin yazar, her seferinde bir token.

Peki yalnızca metin yazabilen bir model nasıl iş yapar? Etrafındaki basit bir program sayesinde. Model, tool call denen sabit biçimli bir istek yazar. Program bunu okur, aracı çalıştırır ve aracın sonucunu konuşmaya ekler. Sonra model devam eder. Küçük bir görevi adım adım izleyin.

Bütün fikir bu döngü: Model sırada ne yapılacağına karar verir, program bunu yapar ve sonuç modele yeni bir metin olarak geri döner. Bu, model bir tool call daha yazmak yerine son cevabı yazana kadar tekrarlanır. Model takviminize asla kendisi dokunmaz. Yalnızca programın ona gösterdiğini görür.

Konuşmada her şeyin nasıl biriktiğine dikkat edin: görev, her tool call ve her sonuç. Model her adımda bunların hepsini görür. Daha önce ne yaptığını böyle takip eder. Çok uzun görevlerin, bir modelin aynı anda alabileceği metin miktarının sınırına, yani context window'a takılabilmesinin nedeni de budur.

Bir agent'ın hangi araçlara sahip olacağına onu yapanlar karar verir: web araması, hesap makinesi, kod çalıştırıcı, tarayıcı, dosyalarınız. Model doğru aracı seçmek için eğitilmiştir, ama yine de yanlış aracı seçebilir, bir sonucu yanlış okuyabilir ya da bir ayrıntı uydurabilir. Tek bir cevapta bu tek bir hatadır. Uzun bir görevde ise küçük hata ihtimalleri birikir. Deneyin.

Her adım %95 oranında doğru gitse bile, 20 adımlık bir görev ancak yaklaşık üçte bir ihtimalle tek bir hata olmadan biter. İyi agent'ların kendi işlerini kontrol etmesi, bir adım başarısız olunca yeniden denemesi ve emin olmadıklarında bir insana sorması bu yüzdendir. Agent'ların en iyi sonucu, test edilebilen kod gibi hataların kolayca fark edildiği görevlerde vermesi de bu yüzdendir.

Bir tehlike daha var ve döngünün kendisinden kaynaklanıyor. Araç sonuçları da sadece metindir ve model onları sizin talimatlarınızı okuduğu gibi okur. Bir web sayfası ya da e-posta talimat gibi görünecek şekilde yazılmış bir metin içeriyorsa, model ona uyabilir. Buna prompt injection denir. Bir e-postaya mesaj gizleyin ve neler olabileceğini görün.

Modeller buna direnmek için eğitilir, ama hiçbir model her seferinde direnemez. En güvenilir koruma modelde değil, programdadır: Bir agent'a yalnızca ihtiyaç duyduğu araçları verin ve göndermek, ödemek ya da silmek gibi geri alınamayan her şeyden önce size sormasını sağlayın.

Yani bir yapay zeka agent'ı, bir döngü içindeki dil modelidir. Bir tool call yazar, bir program onu çalıştırır, sonuç metin olarak geri gelir ve model sonraki adıma karar verir. Kendine ait bir aklı olan farklı bir yapay zeka türü değildir: Muhakemeyi model, elleri ise program ve araçları sağlar. Bunu bilmek, agent'ların neyde iyi olduğunu ve nerede hala bir insana ihtiyaç duyduğunu görmeyi kolaylaştırır.

@aykutkardas