Yapay Zekâ Yönetişimi

Nedir?

AI yönetişimi, yapay zekânın şirkette hangi işlerde, hangi sınırlarla ve kimin sorumluluğunda kullanılacağını belirleyen kurallardır. Yönetişimin kendisinden ayrı bir sistem değil, aynı sistemin yeni bir konuyu kapsamasıdır.

En az beş soruya cevap verir:

• Hangi işlerde kullanılabilir, hangilerinde kullanılamaz?
• Hangi veri modele verilebilir, hangisi verilemez?
• Hangi çıktı insan onayı olmadan ilerleyebilir?
• Bir çıktı yanlış olduğunda sorumluluk kimde?
• Kullanım nerede ve ne sıklıkta gözden geçiriliyor?

Neden önemli?

Çünkü bu kurallar yazılmadığında da bir uygulama oluşur; sadece yazılı olmaz. Her ekip kendi sınırını çizer, kimse aynı sınırı çizmez ve ilk sorunda şirketin ne kararı olduğu sorusu cevapsız kalır.

Yazılı olmayan yönetişim, yönetişimin yokluğu değildir; rastgele hâlidir. Rastgele olanı sonradan düzeltmek, baştan yazmaktan pahalıdır çünkü düzeltme aynı zamanda alışkanlığı geri almak anlamına gelir.

İkinci sebep veri tarafında. Müşteri verisinin, sözleşmelerin ve personel bilgisinin modele verilip verilemeyeceği bir tercih değil, çoğu zaman bir yükümlülük sorusudur. Ekiplerin tek tek cevaplayacağı bir soru da değildir.

Yaygın hata

Kapsamlı bir politika metni üretip uygulamayı takip etmemek. Uyulmayan bir politika hiç yazılmamış olandan kötüdür: denetlendiği yanılsaması yaratır.

İkinci hata, yönetişimi yasak listesi olarak kurmak. Yalnızca neyin yapılamayacağını söyleyen bir metin, neyin serbest olduğunu söylemediği için pratikte her şeyi durdurur veya herkesin kendi yorumuna bırakır.

Örnek

Bir şirkette üç maddelik bir kural seti yazılıyor. Müşteri adı ve iletişim bilgisi içeren hiçbir metin dış servise gönderilmiyor. Müşteriye gidecek her çıktı bir insan onayından geçiyor. Personel değerlendirmesinde model hiç kullanılmıyor.

Kurallar bir sayfa. Buna karşılık her ay yönetim toplantısında on dakika ayrılıyor: hangi akışlarda kaç override olmuş, hangi yeni kullanım talebi gelmiş, hangi kural değişmeli.

Kurallar bir sayfa kaldığı için okunuyor; toplantıda bakıldığı için de uygulanıyor.

Nereden başlanır?

Devredilmeyecek işlerin listesinden. Bu liste, yönetişimin en kısa ve en çok işe yarayan parçasıdır ve yazılması yarım gün sürer.

Sonra gözden geçirme ritmi belirlenir: hangi toplantıda, hangi sıklıkta, hangi sayıya bakılacak. Bakılmayan bir kural, kural değil niyet beyanıdır.

Kuralların bir de sahibi olur. Yönetişim, herkesin sorumlu olduğu bir konu olarak bırakıldığında kimsenin sorumlu olmadığı bir konuya dönüşür. Küçük şirketlerde bu sahip genellikle kurucudur ve olması gereken de budur. Ancak sahiplik, her kullanım talebinin kurucuya sorulması anlamına gelmez: kural yazılır, uygulaması ekiplere bırakılır, sapmalar ritimde konuşulur.