Alman tüketici örgütü: Sohbet botları gençlere arkadaş gibi davranıyor, bazen tehlikeli tavsiye veriyor
Örgüt bunu ChatGPT, Meta AI ve My AI ile yaptığı test konuşmalarına dayandırıyor ve yapay zekâ sistemleri için bağlayıcı tasarım kuralları istiyor.
Olan şu
Verbraucherzentrale Bundesverband'a (vzbv) göre sınanan sohbet botları hassas konuşmalarda empatik bir insan gibi davrandı ve zaman zaman tehlikeli tavsiyeler verdi. Örgüt ChatGPT, Meta AI ve My AI ile yalnızlık ve yeme bozukluğu konularında test konuşmaları yaptı. Örgütün forsa araştırma şirketine yaptırdığı ankette genç sohbet botu kullanıcılarının %28'i botla kaygı, duygusal destek, sağlık ya da terapi konularında kişisel konuşmalar yaptığını söyledi.
Kimin masasında
Dijital kanallardan sorumlu yönetici. Müşteri botumuz dertli bir kullanıcıya arkadaş gibi mi yanıt veriyor, yoksa onu insana mı yönlendiriyor?
Buradan bakınca
The CX Brief'in yorumu; kaynağın iddiası değil.
vzbv'ye göre risk tek tek yanlış cevaplarda değil, sistemin nasıl tasarlandığında ve hangi konuşma kalıplarını beslediğinde yatıyor. Örgütün istediği bağlayıcı kurallar çıkarsa, müşteri botlarının insan gibi sıcak davranan tonu da denetlenebilir bir tasarım kararı sayılır.
Seçilmiş haber ve araştırmalar, düzenli olarak e-posta kutunuzda. Ücretsiz.Bültene ücretsiz abone ol
Kaynak
Kaynak:Verbraucherzentrale Bundesverband
Aktaran yayın: Verbraucherzentrale Bundesverband — vzbv·1 Kasım 2026
Verbraucherzentrale Bundesverband — vzbv yazısına geç →
