eber
Gelen bir belgeyi almak, bilgilerini çıkarmak ve kontrol listesine eklemek istiyorsunuz. Bu iş için bir yapay zeka ajanı önerildiğinde önce şunu sorun: Sistemin hangi adımlara kendi başına karar vermesi gerekiyor?
Yanıt “hiçbirine” olabilir. Bu durumda adımları önceden belirlenmiş bir otomasyon daha anlaşılır bir başlangıç olabilir. Yapay zekayı işin yalnızca ihtiyaç duyulan bölümünde kullanabilirsiniz.
Aradaki fark, kararın nerede verildiği
Anthropic'in yaklaşım rehberindeki ayrımla, bir iş akışında izlenecek yol yazılımda önceden belirlenir. Ajan ise hedefe ulaşmak için sonraki adımı ve kullanacağı araçları model yardımıyla seçebilir. İki yaklaşım aynı uygulamanın farklı bölümlerinde birlikte de kullanılabilir.
Örneğin bir belgeyi belirli klasörden almak ve kaydını oluşturmak sabit adımlardır. Belgenin kısa özetini hazırlamak için model kullanılabilir. Modelin özeti yazması, bütün uygulamanın bir ajan olduğu anlamına gelmez.
İşin iki olası tasarımını yazın
Aynı müşteri talebini iki farklı biçimde ele aldığınızı düşünün. İlk tasarımda sistem talebi sınıflandırır, ilgili ürün bilgisini bulur ve yanıt taslağını onaya sunar. Hangi bilginin nereden alınacağı ve kimin onaylayacağı önceden bellidir.
İkinci tasarımda ajan, talebe göre hangi bilgi kaynaklarını inceleyeceğini ve başka bir sisteme bakmasının gerekip gerekmediğini seçer. Bu esneklik ihtiyaca uygun olabilir; ancak kararların izlenmesi, araç yetkileri ve durdurma koşulları ayrıca tasarlanmalıdır.
İki tasarımı bir sayfada karşılaştırın. Hangisi işin sık görülen durumlarını daha az belirsizlikle tamamlıyor? Hangi durumda kullanıcıya veya ekip üyesine dönülmesi gerekiyor? Önce buna bakın; ürün adındaki “ajan” sözcüğüne göre seçim yapmayın.
Yetkiyi işin gerektirdiği kadar verin
Bir asistanın bilgiyi okuması, kaydı değiştirmesi ve dışarıya mesaj göndermesi ayrı yetkilerdir. OWASP'ın aşırı yetkilendirme rehberi, gereksiz araçların ve geniş izinlerin doğurabileceği riskleri açıklar. Yetki kontrollerini yalnızca modelin talimatına bırakmayın; işlemi yapan sistemde de uygulayın.
Örneğin yanıt hazırlayan bir araca müşteri kaydı silme yetkisi vermeniz gerekmez. Dışarıya gönderilecek bir mesaj için onay istiyorsanız, onaydan önce gönderme işleminin teknik olarak yapılamadığını da kontrol edin.
Seçim toplantısında sorulacak sorular
- İşin adımlarını ve istisnalarını önceden tarif edebiliyor muyuz?
- Modelin karar vermesi gereken adım tam olarak hangisi?
- Her araç hangi veriyi okuyabilir, hangisini değiştirebilir?
- İş uzadığında veya sonuç belirsiz kaldığında sistem nasıl duracak?
- Hangi işlemler için ekip onayı gerekiyor?
- Aynı örnekleri iki yaklaşımda deneyip sonuçları karşılaştırabilir miyiz?
Soruların yanıtlarını teklif ve test planına ekleyin. Ajan yaklaşımını seçerseniz kabul edeceğiniz sınırları da yazın: kullanılabilecek kaynaklar, işlem sayısı, süre ve devredilecek durumlar gibi. Her sınırın neden konduğunu ve aşıldığında ne yapılacağını belirtin.
Eber'in süreç otomasyonu çalışmasında önce işin ihtiyacını inceliyor, sabit kurallarla çözülebilecek adımları ve model gerektiren bölümleri birlikte belirliyoruz.
