- Ana sayfa
- Yazılar
- AI Agent Manager
- Ajan yönetişimi nasıl kurulur? Önce envanter, sonra politika
Ajan yönetişimi nasıl kurulur? Önce envanter, sonra politika
Yönetişim denince ilk akla gelen bir politika belgesi yazmaktır. İşleyen düzen ise her ajan için beş satırlık bir kayıtla ve ayda bir yapılan kısa bir gözden geçirmeyle kurulur.
Yönetişim neden politika belgesiyle başlamamalı?
Çünkü politika genel konuşur, ajan ise belirli bir iş yapar. “Yapay zekâ sorumlu biçimde kullanılır” cümlesi, pazartesi sabahı rapor hazırlayan ajanın hangi veriye eriştiğini ve hatasını kimin fark edeceğini söylemez.
Politika yazmak zaman alır ve onaydan geçer. O sırada ekipler ajan kurmaya devam eder. Belge imzalandığında şirketin elinde kimsenin tam listesini bilmediği ajanlar olabilir.
Ajan yönetişimi, yani ajanların kim tarafından, hangi kurallarla ve hangi kayıtlarla yönetileceğini belirleyen düzen, aşağıdan kurulduğunda işler: önce her ajanın kaydı, sonra bu kayıtlardan çıkan ortak kurallar.
Standartlar bu konuda ne söylüyor?
Başvurulacak kaynakların başında şunlar geliyor. ABD Ulusal Standartlar ve Teknoloji Enstitüsü (NIST), 26 Ocak 2023’te yayımladığı Yapay Zekâ Risk Yönetimi Çerçevesi’nde dört işlev tanımlıyor: yönet, haritala, ölç, yönlendir (govern, map, measure, manage). Çerçeve, “yönet” işlevini diğer üçünün içine işleyen ortak işlev olarak konumluyor. NIST çerçeveyi güncellediğini belirtiyor; güncel metin için kaynağa bakmak gerekir.
ISO ise Aralık 2023’te ISO/IEC 42001’i yayımladı. Bu, yapay zekâ yönetim sistemleri için hazırlanmış uluslararası standart.
Avrupa Birliği’nin Yapay Zekâ Yasası’nda (2024/1689 sayılı Tüzük) 14. madde insan gözetimini düzenliyor: yüksek riskli sistemler, kullanım sırasında insanlar tarafından gözetilebilecek biçimde tasarlanmalı; gözeten kişi çıktıyı geçersiz kılabilmeli ve sistemi durdurabilmeli.
Bu metinler ajanlara özel değil; genel olarak yapay zekâ sistemleri için yazıldı. Bize göre üçünün ortak noktası şu: sorumluluk bir kişiye bağlanıyor ve gözetim tasarımın parçası sayılıyor. Aşağıdaki düzen bu iki fikrin küçük ölçekli karşılığıdır.
Ajan envanteri nedir, içinde ne bulunur?
Ajan envanteri, şirkette çalışan bütün ajanların tek sayfada göründüğü listedir. Her ajan bir satırdır ve her satır aynı beş soruyu cevaplar.
| Kayıt | Cevapladığı soru | Boşsa ne olur |
|---|---|---|
| Sahip | Sonuçtan hangi kişi sorumlu? | Hata çıktığında kimse üstlenmez. |
| Görev tanımı | Ajan ne yapar, ne yapmaz? | Ajan boşluğu kendi tahminiyle doldurur. |
| Yetkiler | Hangi veriyi okur, nerede değişiklik yapar? | Erişim, işin gerektirdiğinden geniş kalır. |
| Onay adımları | Hangi adım insan onayına bağlı? | Geri alınamayan işlem denetimsiz geçer. |
| Ölçüt | İşin iyi yapıldığı nasıl anlaşılır? | Ajanın yararı “iyi gibi” diye anlatılır. |
Altıncı bir sütun eklemek yeterlidir: son gözden geçirme tarihi. Görev tanımının nasıl yazılacağı şablonlu rehberde, onay adımlarının nasıl seçileceği insan onayı yazısında anlatılıyor.
Aylık gözden geçirmede neye bakılır?
Dört soruya. Toplantı envanter üzerinden yürür ve her ajan için birkaç dakika sürer.
- Ajan geçen ay beklenmeyen bir şey yaptı mı? Yaptıysa görev tanımı güncellendi mi?
- Ölçüt başlangıç değerine göre nerede?
- Yetkilerden kullanılmayan var mı? Varsa kaldırılır.
- Onay adımlarında değişiklik gerekiyor mu: gevşetilecek ya da sıkılaştırılacak bir adım var mı?
Envantere yeni bir ajan da bu toplantıda girer. Kaydı olmayan ajan çalıştırılmaz kuralı, düzenin tamamını ayakta tutan tek kuraldır.
Kim ne yapar?
Yönetişim dört tarafın işidir ve her birinin sorusu farklıdır. Ajanın sahibi “bu iş doğru yapılıyor mu?” diye sorar; görev tanımını ve ölçütü o tutar. AI Agent Manager envanterin bütününe bakar, aylık toplantıyı yürütür ve sahipsiz ajan kalmamasını sağlar.
BT ve güvenlik ekibi yetkileri verir ve geri alır; hangi sistemin hangi ajana açık olduğu onların kaydındadır. Yönetim ise hangi riskin kabul edilebilir olduğuna karar verir. Bu kararı teknik ekibe bırakmak, şirketin risk sınırını kurulumu yapan kişinin belirlemesi anlamına gelir.
Bir ajan hata yaptığında ne olur?
Sıra önceden bellidir ve dört adımdır: ajan durdurulur, ne olduğu kayda geçirilir, neden bulunur, karar verilir. Nedenin aranacağı yerler de bellidir: görev tanımındaki bir boşluk, gereğinden geniş bir yetki ya da eksik bir onay adımı.
Karar seçenekleri önceden yazılıdır: aynı yetkiyle devam, daraltılmış yetkiyle devam ya da durdurma. Kararı ajanın sahibi verir ve envantere not düşer. Hatayı gizlemeyen bir kayıt düzeni, bir sonraki ajanın daha güvenli kurulmasını sağlar.
Değerlendirme
Bize göre yönetişimi olgunlaştıran şey belgenin kalınlığı değil, kaydın güncelliğidir. İki ajanı olan bir şirketin ihtiyacı sertifika süreci değil, o iki ajanın sahibinin ve sınırlarının yazılı olmasıdır. Standartlar bu noktadan sonra yol gösterir.
- Bu hafta şirkette çalışan bütün ajanları ve otomasyonları tek bir tabloya yazın. Listenin tamamını bilen biri yoksa ilk bulgu budur.
- Her satıra bir sahip adı koyun. Adı konamayan ajanı, sahibi bulunana kadar durdurun.
- Eksik sütunları sahiplerine doldurtun; bir ay süre verin.
- İlk gözden geçirme toplantısının tarihini şimdiden takvime koyun.
- Şirket politikasını üçüncü toplantıdan sonra yazın. O zamana kadar hangi kuralların gerçekten gerektiğini envanter gösterecektir.
Kurumunuzun bugün nerede durduğunu sekiz soruluk ajan hazırlık testiyle görebilirsiniz.
Sık sorulan sorular
Ajan yönetişimi için ayrı bir yazılım gerekir mi?
Başlangıçta hayır. Envanter bir tabloya sığdığı sürece tablo yeterlidir. Ajan sayısı arttığında ve kayıtları elle güncel tutmak zorlaştığında araç konuşulur; o noktada neyin izlenmesi gerektiği de zaten bellidir.
Yönetişimi kim yürütür?
Her ajanın kendi sahibi vardır; envanterin bütününe ve aylık gözden geçirmeye ise tek bir kişi bakar. Bu rolün adı AI Agent Manager’dır. BT ve güvenlik ekipleri erişim tarafını, yönetim ise risk kararlarını üstlenir.
AB Yapay Zekâ Yasası her ajan için geçerli mi?
Hayır. Yasanın insan gözetimine ilişkin 14. maddesi yüksek riskli sayılan yapay zekâ sistemleri için yazılmıştır. Belirli bir ajanın bu kapsama girip girmediği kullanım alanına bağlıdır ve hukuki değerlendirme gerektirir.
Kaynaklar
- NIST: NIST Risk Management Framework Aims to Improve Trustworthiness of Artificial Intelligence26 Ocak 2023
- NIST AI Resource Center: AI RMF Core2023
- ISO: ISO/IEC 42001:2023, AI management systemsAralık 2023
- Avrupa Komisyonu AI Act Service Desk: Article 14, Human oversight2024
- EUR-Lex: Regulation (EU) 2024/16892024
Sıradaki yazılar
Tüm yazılarYapay zekâ ajanlarından kim sorumlu? AI Agent Manager rolü
Ajanlar artık cevap vermekle kalmıyor, şirket adına işlem yapıyor. Bu yazı o işlemlerin sahibi olan rolü anlatıyor: neyi üstlenir, neye benzemez ve bir şirket nereden başlar.
Yazıyı oku AI Agent ManagerRol ne zaman gelir? Analiz · 7 dk okumaAI Agent Manager ne zaman gerekir? Ajan sayısı değil, ajanın yetkisi belirler
Şirketler bu rolü çoğu zaman ajan sayısı arttığında düşünür. Oysa belirleyici olan sayı değil, ajanın eline geçen yetkidir. Bu yazı rolün geldiğini gösteren işaretleri ve rolü kimin, hangi ölçekte üstleneceğini anlatıyor.
Yazıyı oku