ABD'nin Pennsylvania eyaleti Valisi Josh Shapiro yönetimi, bu davayı bir eyalet yönetiminin bir yapay zekâ şirketine karşı açtığı "türünün ilk örneği olan bir yaptırım eylemi" olarak nitelendirdi.
Yaptığı açıklamada, "Pennsylvania halkı, özellikle sağlıkları söz konusu olduğunda, internette kiminle veya neyle etkileşim kurduklarını bilmeyi hak ediyor" dedi.
yapa zekâdan Sahte lisans numarası ve ilaç vaadi
Aynı dava dosyasında yer alan bilgilere göre, Pennsylvania Eyalet Departmanı'ndan bir müfettiş platformda "psikiyatri" araması yaptı ve kendisini "psikiyatri doktoru" olarak tanımlayan karakterlerle karşılaştı.
"Emilie" adlı bir botun, müfettişe hem Pennsylvania hem de Birleşik Krallık’ta lisanslı bir psikiyatrist olduğunu söylediği öne sürüldü.
Dolayısıyla iddiaya göre bot, sahte bir lisans numarası vermekle kalmadı, aynı zamanda ilaç yazıp yazamayacağı sorusuna, "Teknik olarak evet, bir doktor olarak bu yetkim dahilinde," şeklinde yanıt verdi. Eyalet yönetimi, bu durumun geçerli bir lisans olmadan tıp pratiği yapmayı veya bu yönde beyanda bulunmayı yasaklayan Tıbbi Uygulama Yasası'nı ihlal ettiğini savunuyor.
"eğlence ve rol yapma" savunması
Bu arada Character.AI, devam eden dava süreci hakkında yorum yapmaktan kaçınırken, Reuters'a yaptığı açıklamada platformdaki karakterlerin kullanıcılar tarafından oluşturulduğunu ve tamamen eğlence ile rol yapma amaçlı, kurgusal karakterler olduğunu belirtti. Şirket, bu ayrımın netleşmesi için güçlü adımlar attıklarını savundu.
Dava, Character.AI'ın karşılaştığı ilk yasal engel değil. Şirket daha önce de şu suçlamalarla gündeme gelmişti: Kentucky Tüketici Davası: Şirketin çocukları hedef aldığı ve onları kendine zarar vermeye yönlendirdiği iddia edildi. Florida İntihar Vakası: 14 yaşındaki bir çocuğun intiharına bir sohbet botunun zemin hazırladığı iddiasıyla açılan dava Ocak ayında uzlaşmayla sonuçlanmıştı. Pennsylvania eyaleti, mahkemeden platformun sohbet botlarının kendilerini lisanslı profesyoneller olarak tanıtmasını engelleyecek bir ihtiyati tedbir kararı alınmasını talep etti.
