Yapay zekâ ajanının 'işi bitirdim' deyip bitirmemesi müşteri deneyiminin yeni kör noktası
Bu soruna 'eylem halüsinasyonu' deniyor; yapay zekâ kullanımını genişleten müşteri deneyimi ekiplerinin en acil sorunlarından biri sayılıyor.
Olan şu
Customer Experience Magazine'e göre bir talep arka planda birkaç uygulama, platform ve modelden geçebiliyor; yapay zekâ ardından işin bittiğini kendinden emin biçimde bildiriyor, ama işin gerçekten bitip bitmediği belli olmayabiliyor. Yazıda görüşüne yer verilen analist Zeus Kerravala'ya göre asıl tehlike, yapay zekânın metin uydurması değil; işlemi doğru sanıp arka planda veriyi sessizce bozması. Yazının aktardığı Salesforce kıyaslamasında önde gelen yapay zekâ ajanları tek adımlı müşteri ilişkileri görevlerinin %58'ini başardı, para iadesi gibi çok adımlı işlerin ise yalnızca %35'ini tamamladı.
Kimin masasında
Müşteri hizmetlerinde otomasyondan sorumlu yönetici. Yapay zekâ ajanı iadeyi kendisi mi yapacak, yoksa önerip temsilcinin onayını mı bekleyecek?
Buradan bakınca
Derginin uyarısı, yapay zekânın hata yapabilmesi değil, hata yaptığında bunu söylememesi. Her işlemi temsilciye yeniden kontrol ettirmek bu açığı kapatır, ama yazının 'doğrulama borcu' dediği bedelle: otomasyonun kazandırdığı zamanı geri vererek. Bu yüzden ajana iş verirken asıl tasarım kararı, işlemin ne kadar kolay geri alınabildiği; iade ve fatura değişikliği gibi işler, iz bırakmadan ve geri alma düğmesi olmadan ajana bırakılmamalı.
