İnsan Onaylı Akış

Nedir?

Human-in-the-loop, modelin çıktısının akışta ilerleyebilmesi için bir insanın onayını zorunlu kılan tasarımdır. Onay verilmeden iş bir sonraki adıma geçmez.

Ayırt edici nokta onayın akışı durduruyor olmasıdır. Bir çıktının sonradan gözden geçirilmesi bu değildir; o insan-denetimli-akis.

Neden önemli?

Çünkü bir kararın geri alınabilirliği, o kararın nasıl tasarlanacağını belirler. Geri alınamayan ya da geri alınması pahalı olan işlerde onay öne alınır; sonradan fark edilen bir hatanın maliyeti, onayın yavaşlattığı süreden büyüktür.

Ölçüt "model bunu yapabilir mi" değil, "yanlış yaparsa ne olur" ve "yanlışı fark etmemiz ne kadar sürer"dir. Fark etme süresi uzunsa onay zorunlu hâle gelir, modelin ne kadar iyi olduğundan bağımsız olarak.

İkinci önemi sorumlulukla ilgili. Onay noktası aynı zamanda sahipliğin kaydedildiği noktadır: çıktı yanlış olduğunda açıklamayı kimin yapacağı, onayı kimin verdiğiyle belirlenir. Onay noktası yoksa sorumluluk boşta kalır ve boşta kalan sorumluluk kurucuya döner.

Yaygın hata

Onayı her adıma koymak. Bu, akışı eski hâlinden daha yavaş hâle getirir ve ekip kısa sürede onayı gözden geçirmeden veren bir refleks geliştirir. Bakılmadan verilen onay, denetim değil denetim görüntüsüdür.

İkinci hata, onay noktasını dar başlatıp sorun çıkınca genişletmek. Doğru sıra tersidir: geniş başlatılır, akış güven kazandıkça daraltılır. Geniş yetkiyle başlayıp sonra kısıtlamak, ilk hatanın bedelini ödedikten sonra öğrenmek demektir.

Örnek

Bir şirkette müşteriye gidecek fiyat teklifleri modelin hazırladığı taslakla üretiliyor.

Standart koşullardaki teklifler temsilcinin onayıyla gidiyor. Vade, indirim veya kapsam standart dışıysa akış duruyor ve satış yöneticisinin onayı aranıyor; teklif o onay gelmeden gönderilemiyor.

Üç ay sonra standart dışı tekliflerdeki onay oranına bakılıyor: yöneticinin neredeyse tamamını değiştirmeden onayladığı bir kategori varsa o kategori standart tarafa alınıyor. Onay noktası veriyle daralıyor.

Nereden başlanır?

Akıştaki kararları geri alınabilirliğine göre sıralamaktan. Geri alınamayan ve hatası geç görünen kararlar onay noktası alır; geri alınabilir ve hatası hemen görünen kararlar almaz.

Sonra onayın maliyeti ölçülür. Onay adımı çevrim süresinin içinde görünür hâle getirilir. Aksi hâlde akışın neden yavaşladığı tartışması kanaatlerle yürütülür.

Son olarak onayın kime ait olduğu yazılır. "Bir yönetici onaylar" yeterli değildir: hangi yöneticinin, yokluğunda kimin, ve onay belirli bir süre içinde gelmezse ne olacağı da tanımlanır. Cevabı olmayan bir bekleme, akışın en sık tıkandığı yerdir. Süre dolduğunda ne olacağı iki seçenekten biridir: akış durur ve eskalasyona gider, ya da varsayılan bir davranışla ilerler. İkincisi seçilecekse bunun bilinçli bir karar olduğu yazılır. Sessizce ilerleyen bir akış, onayın hiç olmadığı bir akıştır.