AI ajanın güvenli olması için: insan onayı ve işlem günlüğü

AI ajan, kendi karar veren ve API'ler ile veritabanlarıyla çalışan yazılımdır. Faydası büyük, riski de: ajan yanlış siparişi iptal eder ya da müşteriye yanlış fiyat söylerse kim sorumlu? Cevap mimari. Ajanı güvenli yapan üç şey var.

1. Eylem listesi ve seviyeler

• Ajanın yapabileceği her eylemi yazın: "siparişi gör", "durum değiştir", "para iade et".
• Her birine seviye verin: kendisi (okuma, rapor), onayla (durum, indirim), yasak (para, silme).

2. İnsan onayı

• "Onayla" eylemlerinde ajan durur ve yöneticiye Telegram/CRM üzerinden istek gönderir: ne yapmak istiyor, neden, hangi veriye dayanarak.
• Onay tek tuş; reddedilirse ajan gerekçeyi alır ve başka yol önerir.

3. İşlem günlüğü

• Her adım kaydedilir: girdi, karar, çağrılan API, sonuç, zaman.
• Günlük değiştirilemeyen yerde tutulur ve haftada bir incelenir — ajanın "alışkanlıkları" böyle görünür.

Pratik öneri

İlk ajanı salt okunur yapın: soruları yanıtlasın, rapor üretsin ama hiçbir şeyi değiştirmesin. 2–4 hafta günlüğü izleyin. Hata azsa "onayla" seviyesini açın. "Yasak" eylemler ajana asla verilmez — bu teknik kısıt değil, tasarım kararıdır.