AI governance
AI yönetişimi ve yapay zekâ risk yönetimi
Durmuş Ali Tamer · Kıdemli BT Proje Uzmanı · İstanbul
Yapay zekâ yönetişimi, kurumda hangi AI sisteminin hangi amaçla ve kimin sorumluluğunda kullanıldığını açıklığa kavuşturur. Bir ekip müşteri verisiyle çalışırken başka bir ekip yalnızca kamuya açık içerikleri özetleyebilir. Bu iki kullanımın onay, erişim ve izleme ihtiyacı aynı değildir.
Kimler için?
Farklı ekiplerin AI kullanımını ortak kurallara bağlamak isteyen yöneticiler, proje ofisleri ve risk ekipleri için. Çalışma, mevcut kurumsal yönetim ve bilgi güvenliği süreçleriyle birlikte yürütülecek şekilde kapsamlandırılır.
Çalışma yaklaşımı
Kullanım envanteriyle başlayıp her senaryonun karar etkisini, verisini ve sorumlusunu belirleriz. Riskleri değerlendirir; yayına alma onayı, çıktı kontrolü ve olay bildirim sürecini tasarlarız. NIST AI RMF'nin Govern, Map, Measure ve Manage işlevleri, bu soruları düzenlemek için yararlı bir başvuru çerçevesidir.
Birlikte belirleyebileceğimiz çıktılar
- Amaç, veri, model ve sorumlu bilgilerini içeren AI envanteri
- Rol ve onay matrisi
- Kullanım senaryosuna göre risk kaydı ve kontrol önerileri
- AI kullanım politikası taslağı ve gözden geçirme takvimi
Uygulamada nasıl görünür?
Örnek çalışma: Yönetim raporu hazırlayan bir asistanın hangi belgelere erişeceği, ürettiği sayıların kim tarafından doğrulanacağı ve raporun kim onaylamadan gönderilemeyeceği açıkça tanımlanır. Model veya veri kaynağı değiştiğinde yeniden değerlendirme ihtiyacı kayda alınır.
Bu çalışma kurumsal süreç ve risk tasarımı kapsamındadır. Hukuki uygunluk görüşü veya ISO belgelendirmesi ayrı uzmanlık ve değerlendirme gerektirir.
İlgili deneyim ve çalışmalar
Bu örnekler, yaklaşımın dayandığı proje, veri ve risk yönetimi deneyimini gösterir. Her biri kendi kapsamıyla değerlendirilmelidir.
- PMO Yaşam Döngüsü Standardizasyonu
BT projelerini standart yönetişim ve görünür bir portföy yaşam döngüsü altında toplamak.
- Risk Yönetim Sistemi (ISO 31000)
Erken tespit ve düzenli izlemeyi destekleyen, standartlarla uyumlu bir risk yönetim sistemi.
Sık sorulan sorular
AI yönetişimi ile AI güvenliği arasındaki fark nedir?
Yönetişim; amaç, sorumluluk, onay ve izleme düzenini belirler. Güvenlik ise veri, erişim, model çıktıları ve araç kullanımından doğan tehditleri ele alır. İki alan birlikte çalışır.
Küçük bir ekip için de yönetişim gerekir mi?
Kapsam ekibin büyüklüğüne ve kullanım riskine göre değişir. Veri paylaşım sınırlarını, yetkileri ve insan onayı gereken işleri belirlemek küçük ekipler için de anlamlı bir başlangıçtır.