Bir şirkette hangi kararlar yapay zekâya devredilebilir?

Bu soru genellikle yanlış yerden sorulur: "Model bu kararı verebilir mi?"

Verebilir. Bugünkü modeller çoğu şirket kararını makul biçimde verebiliyor. Ama bir kararın devredilip devredilmeyeceği, devralanın yetkinliğiyle belirlenmez. Bir yöneticiye karar devrederken de sorduğumuz soru bu değildir.

Sorduğumuz soru şudur: yanlış giderse ne olur, ve yanlış gittiğini ne zaman fark ederiz?

Dört soru

Bir kararın devredilebilirliğini bu dördü belirler. Sırası önemli.

1. Geri alınabilir mi?

Karar yanlış çıktığında geri dönüş mümkün mü, ve maliyeti ne? Bir fiyat teklifi gönderildiyse geri alınamaz. Bir aday ön elemede yanlış elendiyse fark edilirse geri alınabilir. Bir ödeme yapıldıysa duruma bağlı.

2. Hatayı ne zaman fark ederiz?

Bu, ilkinden daha belirleyici. Anında görünen bir hata, geri alınabilir olduğu sürece yönetilebilir. Üç ay sonra ortaya çıkan bir hata, geri alınabilir olsa bile o üç ayın maliyetini geri getirmez.

3. Sonucunu kim üstleniyor?

Karar yanlış çıktığında kimin açıklama yapacağı. Cevap "belli değil" ise karar devredilemez. Devretmeden önce sahipliğin tanımlanması gerekir. Bu, yapay zekâdan bağımsız olarak şirket sistemlerinin ilk işidir.

4. Gerekçesini insan kurabiliyor mu?

Kararı üstlenecek kişi, neden öyle karar verildiğini kendi cümleleriyle anlatabiliyor mu? Anlatamıyorsa elde bir AI destekli karar değil, gerekçesi kimseye ait olmayan bir karar vardır.

Üç kutu

Bu dört soruyu bir şirketin kararlarına uyguladığınızda tablo genellikle üçe ayrılıyor.

Model hazırlar, insan karar verir

Şirket kararlarının büyük çoğunluğu buraya düşer. Model veriyi toplar, seçenekleri çıkarır, gerekçeyi özetler; kararı insan verir.

İşe alım, fiyatlandırma, bütçe kalemleri, müşteri kaybı riski taşıyan durumlar, personel konuları. Hepsinde hazırlık ciddi zaman alır ve hepsinde karar geri alınması pahalı sonuçlar doğurur.

Bu kutunun tasarımı insan-onayli-akis: onay verilmeden akış ilerlemez.

Model yapar, insan izler

Hacmi yüksek, tekil hatanın ucuz olduğu ve hatanın görünür olduğu işler. Ön eleme, sınıflandırma, rutin yanıtlama, taslak üretme, etiketleme.

Burada onay beklemek akışı gereksiz yavaşlatır. Tasarım insan-denetimli-akis olur: insan sonucu izler, eşik aşıldığında müdahale eder.

İki şart aranır: hata raporlanabilir ve geri alınabilir olmalı. Biri yoksa bu kutu kullanılmaz.

Devredilmez

Üçüncü kutu en kısa olanıdır ve çoğu şirkette hiç yazılmaz. Yazılmadığında sınır, o anki kişinin inisiyatifiyle çizilir; bu da sınırın olmaması demektir.

Tipik olarak buraya düşenler: işten çıkarma, ortaklık ve hisse konuları, hukuki beyanlar, şirketin stratejik yönü, kriz iletişimi, bir kişi hakkında kalıcı sonuç doğuran değerlendirmeler.

Ortak özellikleri yapay zekânın bunları yapamıyor olması değil. Bir insanın sonucunu üstlenmesi gereken kararlar olmaları.

Listeyi yazmak neden serbestleştirir?

Devredilmeyecek kararlar yazıldığında geri kalanı denemek kolaylaşır. Sınırı belli olmayan bir yetki kullanılmayan bir yetkidir: ekip, nerede duracağını bilmediği için hiç başlamaz.

Pratikte bu listeyi yazmak yarım gün sürüyor ve çalışmanın en çok işe yarayan çıktılarından biri oluyor, yapay zekâdan bağımsız olarak da. Çünkü aynı soru daha önce hiç net sorulmamıştır: bu kararı bir insana devretseydik, kime devrederdik?

Onay noktaları zamanla daralır

Başlangıçta onay noktalarını geniş tutmak doğrudur. Akış güven kazandıkça daraltılır.

Tersi de yapılabilir, yani geniş yetkiyle başlayıp sorun çıkınca kısıtlamak, ama bunun bedeli ilk hatayla ödenir. İlk hatanın bedeli öngörülemiyorsa bu yol seçilmez.

Daraltma kararı da verilere dayanır: override oranı. Bir akışta insanlar modelin çıktısını sürekli geçersiz kılıyorsa akış yanlış tasarlanmıştır. Hiç geçersiz kılmıyorlarsa, çoğu zaman denetim fiilen yapılmıyordur.

Kaydedilmeyen karar öğretmez

Devredilen kararlarda üç şey kaydedilir: ne önerildi, ne yapıldı, neden.

Üçüncüsü olmadan ilk ikisi sayıdan ibaret kalır. Hangi durumda öneriye uyulduğu ve hangisinde uyulmadığı, modelin nerede işe yaradığını söyleyen ilk gerçek veridir. Bu veri olmadan altı ay sonra yapılan "işe yarıyor mu" tartışması kanaatlerle yürütülür.

Özet

Devredilebilirliği belirleyen şey kararın zorluğu değil.

Geri alınabilir, hatası hızlı görünen ve sahibi belli kararlar devredilebilir. Geri alınamayan, hatası geç görünen ve bir insanın üstlenmesi gereken kararlar devredilmez.

Arada kalan geniş orta alan ise devredilmez, hazırlığı devredilir. Bu ayrım korunduğu sürece şirketin karar sistemi bozulmaz; korunmadığında ise sorumluluk boşta kalır ve boşta kalan sorumluluk kurucuya döner.

Bu ayrımın şirketinizde bugün ne kadar yazılı olduğunu görmek isterseniz Şirket Sistemi Hızlı Kontrolü süreç, yetki ve ölçüm başlıklarını ayrı ayrı puanlıyor.

Bu ayrımın akış tarafındaki karşılığını, yani bir adımı hızlandırmanın şirketin kapasitesine neden yansımadığını AI otomasyonu ile AI operating model arasındaki fark yazısının konusu.