eber
Bir yapay zeka uygulaması toplantı notlarından özet hazırladığında çalışan metni okuyup kullanabilir. Aynı uygulama müşteriye mesaj gönderiyor veya bir kaydı değiştiriyorsa kontrolün daha erken yapılması gerekebilir. Onayın yeri, işlemin etkisine göre belirlenmeli.
Her adıma aynı onay kutusunu eklemek de iyi bir çözüm değildir. Çalışan neyi onayladığını anlayamıyorsa kontrol yalnızca bir düğmeye basmaktan ibaret kalabilir. Önce uygulamanın yapabileceği işlemleri ve yanlış olduğunda neye yol açacaklarını yazın.
İşlemleri üç grupta inceleyin
Taslak hazırlama: Sistem bir özet, sınıflandırma önerisi veya yanıt taslağı üretir. Sonuç başka bir yerde kullanılmadan önce çalışan tarafından incelenir.
Şirket içi kaydı değiştirme: Uygulama bir müşteri alanını, görev durumunu veya başka bir kaydı günceller. Burada doğru kaydın seçilmesi ve değişikliğin geri alınıp alınamayacağı önemlidir.
Dışarıda sonuç doğuran işlem: Müşteriye mesaj göndermek, bir başvuru yapmak veya başka bir sisteme talep iletmek gibi işlemler bu gruba girebilir. Gerekli onay, içeriğin ve alıcının belli olduğu noktada alınmalıdır.
Bu gruplar başlangıç için bir çalışma aracıdır. Şirketinizdeki her işi, gerçek etkisi ve sorumlulukları üzerinden ayrıca değerlendirin.
Onaydan önce yeterli bilgi gösterin
Bir müşteri kaydı güncellenecekse çalışan mevcut değeri, önerilen değeri ve önerinin hangi bilgiye dayandığını görebilmeli. Mesaj gönderilecekse son metin ve alıcı açık olmalı. Çalışanın onay verdiği içerik sonradan değişirse aynı onayın geçerli sayılıp sayılmayacağı da belirlenmeli.
Kontrol ekranında “onayla” ve “reddet” dışında düzeltme veya ilgili kişiye yönlendirme seçeneği gerekebilir. Eksik bilgi nedeniyle bekleyen işlemlerin nerede tutulacağı ve kimin takip edeceği belli olsun.
Onayı erişim yetkisinin yerine koymayın
OWASP'ın aşırı yetki rehberi, uygulamaların yalnızca gerekli araçlara ve izinlere sahip olması ile önemli işlemlerde insan onayını birlikte ele alır. Onay düğmesinin bulunması, uygulamaya gereksiz kayıtları okuma veya değiştirme hakkı verilmesini gerektirmez.
Örneğin yalnızca müşteri yanıtı hazırlayan ilk sürümün doğrudan gönderme yetkisi olmayabilir. Yeni bir işlem eklendiğinde o işlemin izni, kontrolü ve sorumlusu yeniden değerlendirilebilir. Yetkiler teknik sistemlerde uygulanmalı; yalnızca modele yazılan bir talimata bırakılmamalı.
Akışı bu sorularla deneyin
- Çalışan hangi bilgiye bakarak karar verecek?
- İşlem reddedildiğinde taslak ne olacak?
- Onay beklerken kaynak bilgi değişirse ne yapılacak?
- Aynı işlem yanlışlıkla iki kez onaylanabilir mi?
- İşlem başarısız olursa çalışan neyin tamamlandığını görebilecek mi?
- Kim, hangi sürümü, ne zaman onayladı bilgisi kaydedilecek mi?
İlk denemede yalnızca sorunsuz örnekleri kullanmayın. Eksik bilgi, yanlış müşteri kaydı, değiştirilmiş taslak ve başarısız aktarım gibi durumları da ekipçe inceleyin. Kontrolün gerçekten işe yarayıp yaramadığını bu durumlar gösterir.
Bir otomasyon akışı hazırlarken onayı en sona eklenen bir formalite olarak değil, işin normal adımlarından biri olarak tasarlayın.
