Makineler utanabilir mi? Ya da makineler unutmalı mı? Yapay zekâ unutmayı öğrendi.
MAKİNE UNUTUŞU
“Makine unlearning” (makine unutuşu) adı verilen bu teknik, bir sesin izinsiz şekilde taklit edilmesini önlemek için, yapay zekanın o sesi veri tabanından tamamen silmesine dayanıyor. Böylece bir kullanıcı özel olarak bu sesi taklit etmesini istese bile, model o sesi üretemiyor.
Profesör Jong Hwan Ko ve ekibi, bu yöntemi Meta’nın VoiceBox isimli ses üretim modelinde denedi. Denemelerde, unutturulan bir sesi taklit etmesi istenen modelin, sesi yüzde 75 oranında daha başarısız taklit ettiği görüldü.
SES TAKLİDİ
Bu fark, dinleyicilerin sahte sesi kolayca ayırt edebilmesini sağlıyor. Ancak bu unutma işlemi, diğer seslerin taklit kalitesinde ortalama yüzde 2,8’lik bir düşüşe yol açıyor.
UNUTULAN VERİLER GERİ GETİRİLEMEZ
Araştırmaya göre, bir sesi unutturmak için modelin yaklaşık beş dakikalık orijinal ses kaydına ihtiyacı var. Unutma süreci ise istenen ses sayısına bağlı olarak birkaç gün sürebiliyor. Araştırmacılar, unutulan verilerin rastgele gürültüyle değiştirilerek geri getirilemez hale getirildiğini belirtiyor.
YAPAY ZEKÂDA İSTENMEYEN İÇERİKLER
Yapay zekada istenmeyen içerikleri engellemek için bugüne kadar genelde koruma bariyerleri (guardrails) kullanılıyordu. Ancak bazı kullanıcılar bu bariyerleri aşmayı başarabiliyordu. Makine unutuşu ise veriyi tamamen sistemden çıkararak bu açıkları kapatmayı hedefliyor. NTV
