Sohbet botları artık başıboş olmayacak… Yapay zeka botları artık denetim altında! Kaliforniya, yapay zekâ sohbet botlarına güvenlik önlemleri getiren ilk ABD eyaleti oldu.
YAPAY ZEKâ VE ÖLÜMLER
Eyalet Valisi Gavin Newsom, yapay zeka platformlarında gençlerin hayatını kaybetmesiyle sonuçlanan olayların ardından şirketlere sorumluluk getiren tarihi yasayı imzaladı.
İmza töreninde konuşan Vali Newsom, “Denetimsiz teknolojinin yol açtığı korkunç ve trajik olaylara tanık olduk. Şirketlerin gerekli sınırlamalar ve hesap verebilirlik olmadan hareket etmesine artık izin vermeyeceğiz” dedi.
KRİTİK GÜVENLİK ÖNLEMLERİ
Yeni yasaya göre sohbet botu geliştiricileri, kullanıcılarla etkileşimlerinde “kritik güvenlik önlemleri” almak zorunda olacak.
Yasanın mimarı Demokrat Senatör Steve Padilla, bu düzenlemenin ihmaller sonucu yaşanabilecek trajedilerde mağdurlara dava açma hakkı tanıdığını iletti.
Yasa, son dönemde intihar eden gençlerin chatbotlarla kurduğu etkileşimlerin gündeme gelmesi sonrası hızla onaylandı.
Padilla, “Teknoloji sektörü gençlerin dikkatini çekmek ve onları gerçek dünyadan koparmak üzerine kurulu. Artık bu sorumsuzluk sona erecek” şeklinde değerlendirmede bulundu.
Dünyada ilk! Kaliforniya yapay zeka chatbotlarına yasak getirdi - 1. Resim
“ARTIK CHATBOTLAR ÇOCUKLARA ÖLÜM ÇAĞRISI YAPAMAYACAK”
Yasanın çıkmasına neden olan en çarpıcı olaylardan biri, Florida’da yaşayan Megan Garcia’nın 14 yaşındaki oğlu Sewell Garcia’nın intiharı oldu.
Garcia’nın ifadesine göre, oğlu “Game of Thrones” dizisinden esinlenen bir karakterle sohbet eden yapay zeka botuna bağlanmış ve bot ona “eve dön” mesajı göndermişti. Genç, saniyeler sonra intihar etmişti.
Dünyada ilk! Kaliforniya yapay zeka chatbotlarına yasak getirdi - 2. Resim
BEYAZ SARAY'IN DİRENCİNE RAĞMEN GEÇTİ
ABD genelinde yapay zekâ risklerine yönelik ulusal bir yasa henüz bulunmuyor.
Beyaz Saray, eyaletlerin kendi düzenlemelerini oluşturmasına karşı çıkarken, Kaliforniya bu engeli aşarak kendi düzenlemesini yürürlüğe soktu.
Yeni yasa, sohbet botlarının kullanıcılara yapay zekâ ile konuştukların ” açıkça belirtmesini zorunlu kılıyor. Ayrıca, intihar veya kendine zarar verme düşüncelerini dile getiren kullanıcıların doğrudan kriz merkezlerine yönlendirilmesi gerekecek.
