Yapay zekâ hata verdiğinde işi kim durduracak, nasıl devam edeceksiniz?

Durdurma düğmesi kadar işin devam yolu da gerekir

Bir destek taslağında yanlış belge numarası gördünüz. Ekip ‘şimdilik yapay zekâyı kullanmayalım’ dedi. Fakat iki kişi hazırlanan taslakları incelemeye devam ediyor, başka biri onaylı kuyruğu gönderiyor ve yeni talepler sisteme giriyor. Sözel bir durdurma kararı, farklı aşamalardaki işleri aynı anda durdurmuş olmayabilir. Yöneticinin ihtiyacı, kimin hangi aşamayı hangi kanıtla kapattığını gösteren açık bir düzendir.

Bu yazıda altı işten oluşan sentetik bir destek kuyruğu kullanıyoruz. Bütün kayıtlar ve kararlar eğitim için hazırlanmıştır; gerçek bir olay bildirimi veya gerçek müşteriye gönderim yoktur. Hata, taslaktaki kaynak kimliğinin dayanak belgeyle uyuşmamasıdır. Çalışmanın amacı teknik arızayı çözmekten önce etkilenen işleri kontrol altında tutmak ve hizmeti tanımlı bir elle çalışma yoluyla sürdürmektir.

NIST AI RMF’nin Manage işlevi, risklere müdahale ve kurtarma süreçleriyle gerektiğinde sistemin devre dışı bırakılmasını ele alır. Buradaki olay kartı bu yaklaşımı küçük bir iş akışına uyarlayan özgün örnektir. Belirlediğimiz tek hata eşiği, NIST’in bütün uygulamalar için önerdiği sayısal bir standart veya uygunluk belgesi değildir.Kaynak: NIST AI RMF — Manage işlevi

Durdurma koşulunu olaydan önce belirleyin

Zorunlu kaynak alanında doğrulanmış tek bir yanlış belge eşleşmesi görülürse ilgili AI taslak akışında yeni üretim ve bekleyen gönderim durdurulur.
İlk durdurmayı vardiya destek sorumlusu yapabilir.
Olay sahibi süreç yöneticisidir.
Teknik incelemeyi uygulama sorumlusu, kaynak kontrolünü belge sahibi yürütür.
Yeniden başlama kararı süreç yöneticisinin kayıtlı kabulüyle verilir.

Kuralın kapsamı belirli olmalıdır. Burada bütün kurumun bütün AI kullanımını kapatmıyoruz; yanlış kaynak üreten taslak akışını ele alıyoruz. Hangi sürümün, hangi kaynak kümesiyle ve hangi zaman aralığında çalıştığını kaydedin. Etki alanı henüz kesin değilse bunu açıkça yazıp inceleme kapsamını geniş tutun; bilmediğiniz sınırı kesinmiş gibi sunmayın.

Durdurma yetkisini sadece bir kişinin ulaşılabilirliğine bağlamak gecikme yaratabilir. Yetkili yedeği ve haber verme yolunu ekip kendi çalışma düzenine göre belirlemelidir. Bu alıştırmada vardiya sorumlusu üretim kuyruğunu ve gönderim geçişini durdurur; süreç yöneticisi durumu devralır. Bir ekranın kapatılması arka plandaki sıranın durduğunu göstermez, kuyruk durumunun ayrıca doğrulanması gerekir.

Kuyruktaki her kaydı bir duruma bağlayın

Kontrol toplamı 2 + 3 + 1 = 6 iştir. Durdurmadan sonra da altı kaydın nerede olduğu görünmelidir. Taslakları silmek veya işleri yeni kimliklerle yeniden açmak iz sürmeyi zorlaştırabilir. Özgün iş kimliğini koruyun; olay kaydıyla ilişkilendirin ve eski çıktının kullanılmaması gerektiğini açık durumla gösterin. Elle devam eden işin tekrar AI kuyruğunda çalışmamasını da kontrol edin.

K6 özellikle önemlidir. Bir kez onaylanmış olması, sonradan ortaya çıkan ortak kaynak sorunundan etkilenmediğini kanıtlamaz. Gönderilmediği için durdurma kapsamında yeniden incelemeye alınabilir. Bu örnekte gönderim durumu test kaydıyla doğrulanmıştır. Gerçek olayda gönderimin tamamlanıp tamamlanmadığı belirsizse, yeniden göndermek yerine önce işlem sonucunu araştırın.

Daha önce dışarıya ulaşmış çıktılar varsa ayrı bir etki incelemesi gerekir. Hangi alıcının hangi sürümü gördüğünü yetkili kayıtlarla bulun; düzeltme iletişimini olay sahibi planlasın. Bu altı işlik örneğin ‘henüz gönderilmedi’ varsayımını geçmiş bütün işlere yaymayın. Eldeki kanıt kadar kapsam söylemek, kontrol dışı kayıtların yanlışlıkla temiz sayılmasını önler.

Elle devam yolunu iş yüküyle birlikte tanımlayın

Verilen altı sentetik iş için durdurma sonrası durum tablosu hazırla. Özgün kimlikleri koru; gönderim yapılmış veya tamamlanmış iş icat etme. Her iş için sorumlu rol, sonraki adım ve kapanış kanıtı yaz. K6'nın eski onayını yeni kaynak kontrolü yerine kullanma. Teknik kök nedeni kesinleştirme. Elle çalışma kapasitesini veri yoksa açık soru bırak; otomatik yeniden gönderim veya dış iletişim başlatma.

Olay: O-03 · Taslakta yanlış kaynak kimliği
Kapsam: İlgili akışın altı bekleyen işi; geçmiş çıktı incelemesi ayrıca yapılacak
Durdurma kanıtı: Yeni AI üretimi ve gönderim geçişi kapalı
K1–K2: Belge sahibi dayanağı kontrol eder; destek sorumlusu elle taslağı tamamlar
K3–K5: Destek sorumlusu elle sıraya alır
K6: Kaynak yeniden doğrulanır, güncel taslak yeniden onaylanır
Kapanış: Her işin tek nihai durumu ve inceleyen rolü kayıtlı olur

Elle işlemek ücretsiz bir kapasite değildir. Destek sorumlusu bugün iki işi tamamlayabiliyorsa altı işin tamamını aynı gün bitmiş göstermeyin. Öncelikleri mevcut hizmet kurallarına göre belirleyin, kalan işleri bekleyen olarak tutun. Hata sonrası plan, kullanıcıya yerine getirilemeyecek yeni süre vaatleri üretmemelidir. Gerekli kapasite veya süre bilinmiyorsa tahmin diye etiketleyin ve sorumlu tarafından doğrulatın.

Geri dönüş kararı için koşulları tamamlayın

1. Hatanın oluştuğu sürüm ve dayanak kayıt korunmuş; etki incelemesinin kapsamı açıklanmış olmalı.
2. Düzeltme, yanlış eşleşmenin nedenini ele almalı; yalnızca örnek çıktının metni elle değiştirilmemeli.
3. Hatalı görev ve sabit değerlendirme kümesi yeniden çalıştırılmalı; sonuçlar kabul koşullarına göre okunmalı.
4. Altı işin elle devam veya kapanış durumları kontrol edilmeli; yeniden başlayan kuyruk bunları tekrar almamalı.
5. İlk çalışma diliminin kontrol sıklığı, sorumlusu ve yeniden durdurma koşulu kaydedilmeli.

Önceki sürüme dönmek bir seçenek olabilir; fakat onun da aynı kaynak verisini kullanıp kullanmadığını inceleyin. Sorun ortak belge eşlemesindeyse yalnızca istem sürümünü geri almak yeterli olmayabilir. ‘Son çalışan sürüm’ ifadesi geçmişte gözlenen durumu anlatır; bugünkü veriyle otomatik güvence sağlamaz. Geri dönüşten sonra ilgili görevi ve diğer kabul koşullarını yeniden kontrol edin.

Küçük alıştırma: İnceleme sırasında K6’nın durdurmadan önce gönderildiği doğrulansın. Bu kaydı yeniden gönderilmeyi bekleyenler arasında tutmayın. Beş gönderilmemiş iş ve bir gönderilmiş çıktı incelemesi olarak ayırın; toplam yine altıdır. Beklenen değişiklik, K6’nın kaynak ve alıcı etkisi incelemesine taşınmasıdır. Otomatik düzeltme mesajı üretip göndermek bu kararın parçası değildir.

Bu çalışmanın tamamlanmış çıktısı bir olay kartı, altı kaydın izlenebilir durumları ve yeniden başlama ölçütleridir. Ekibiniz durdurmayı yalnızca teknik düğme olarak görmediğinde, hata giderilirken işlerin sahipsiz kalmasını ve aynı işin iki yoldan tamamlanmasını da önleyebilir. Kararın değeri, kim tarafından ve hangi kanıtla uygulanabildiğinde ortaya çıkar.