Human-in-the-loop (döngüde insan), yapay zeka sisteminin belirli kararları uygulamadan önce bir insanın onayını, düzeltmesini veya yönlendirmesini almasını sağlayan tasarım yaklaşımıdır. Otonomi ile kontrol arasındaki dengeyi kuran temel mekanizmadır.
Geri alınamaz veya yüksek maliyetli adımlarda: ödeme, sözleşme, müşteriye giden iletişim, fiyat değişikliği, personel kararları. Ayrıca sistemin güven eşiğinin altında kaldığı durumlarda: düşük benzerlik skoru, çelişkili veri, model belirsizliği.
Onay kapısı sürtünmesiz olmalı; aksi hâlde kullanıcı her şeyi onaylamaya başlar ve kontrol anlamını yitirir. İnsanın düzeltmeleri kayıt altına alınıp sistemin iyileştirilmesinde kullanılır. Pilot aşamasında onay oranı ölçülür; sistem olgunlaştıkça bazı adımlar otomatikleştirilir.
Guardrail, yapay zeka ajanı, explainable AI.
