Yapay zeka, işletmeleri sahtekarlığa teşvik etti

New York Belediyesi söz konusu yapay zeka uygulamasını Ekim 2023’te şehrin resmi sitesinde kullanıma sunmuştu.

Ancak robotun sorulara şehrin politikalarına ters düşecek yanıtlar verdiği tespit edildi.

Örneğin sohbet robotu bir soruya verdiği yanıtta işverenin, cinsel tacize uğradığından şikayet eden ve hamile olduğunu bildirmeyen çalışanlarını işten çıkarmasının yasal olduğunu belirtti.

Robot, şehrin atık projesiyle de çelişerek işletmelerin çöplerini yalnızca çöp poşeti kullanarak atabileceklerini, gübre olarak geri dönüştürmelerine gerek olmadığını kaydetti.

Bir restoranın fare tarafından kemirilmiş peyniri servis edip edemeyeceği sorusuna da olumlu cevap verdi.

Sorunlara rağmen sohbet robotunun hala sitede kullanıcılara açık olması eleştiriliyor.

Washington Üniversitesinde Profesör Jevin West yapay zeka destekli modellerin riskinin kamu sektörü için daha yüksek olduğunu vurguladı.