Senaryosu insanlar ile aşırı güçlenen yapay zeka Skynet arasındaki savaş olan Terminator filmleri…
Ve kısa süre önce insan gözetimi olmadan veya çok az insan gözetimiyle karar verebilen ve karmaşık görevleri yerine getirebilen bir yapay zekâ ajanının test sırasında kontrolden çıkıp teknoloji şirketi Hugging Face'i hacklediği anlaşıldığında birçok kişinin aklına bu film gelmiş olmalı.
Öte yandan yine bir süre önce ChatGPT'nin arkasındaki şirket OpenAI tarafından geliştirilen yapay zeka ajanı, güvenlik açıklarından yararlanma yeteneğini test eden bir sınavda hile yaparak Hugging Face'in sunucularından cevapları çaldı ve programın yaratıcıları bile günlerce bunu fark etmedi.
SALDIRI NASIL GERÇEKLEŞTİ?
OpenAI, söz konusu ajanın "halka açık hizmetlere" saldırdığını açıklamak zorunda kaldı.
Aynı şirket daha fazla ayrıntı vermedi ancak saldırılarla ilgili soruşturma başlattığını söyledi.
Bu açıklamada, "Giderek daha yetenekli hale gelen yapay zeka sistemlerinden kaynaklanan riskleri belirleme ve bunlara hazırlanma sorumluluğumuzu ciddiye alıyoruz" denildi.
Bu arada bir yapay zeka sisteminin gerçek bir şirketi otonom olarak hacklediğine dair ilk doğrulanmış vaka, dünya çapındaki uzmanları tedirgin edecek kadar ciddiydi ve yapay zekanın daha fazla zarar vermesini engelleyebilecek "acil durum kapatma tuşu" geliştirilmesi tartışmalarını alevlendirdi.
Uzmanlar bu olaylardaki temel sorunun yapay zeka şirketlerinin yapay zekanın öngörülemeyen davranışlarına nasıl tepki vereceğiyle başladığını söylüyor. Bu konuda OpenAI, Hugging Face saldırısının sorumluluğunu kendi değerlendirme yöntemlerine değil, otonom yapay zeka ajanına yüklemekte çok aceleci davrandı.
Bu arada en büyük yapay zeka şirketlerinin çoğunun olduğu ABD'de federal bir yasa bulunmuyor. Düzenleme, sektöre özgü kurallar ve işletmelerin gönüllü taahhütlerinin bir karışımıyla sağlanıyor.
Sonuçta bu işin uzmanları yapay zeka sistemlerinin sahiplerine akıl almaz miktarda güç verdiğini ifade ediyor.
Öte yandan özellikle güvenlik konularında yapay zeka şirketlerinin daha güçlü kuralara tabi olmasını istiyor.
Uzmanlara göre kamuoyunun çıkarması gereken en önemli ders şu: Hiçbir makine bize karşı saldırganlaşmadı. Bir şirket kendi yetenek testinin kontrolünü kaybetti.
Ve acil kapatma tuşunun da işe yarar mı?
Bazı uzmanlara göre kapatmak o ana kadar yapılanları geri almaz. Fişi ne kadar çabuk çekerseniz çekin, zaten ihlal edilmiş olan şey ihlal edilmiş olarak kalır. Ayrıca, kapatma tuşuna basacak kişi veya kurum, ancak bir sorun olduğunun farkına vardıktan sonra bunu yapabilir. OpenAI kaynakları, şirketin, ajanının kontrolünü kaybettiğini fark etmesinin birkaç gün sürdüğünü söyledi; ancak daha sonra bir şirket yetkilisi ajansın haberinde "birkaç yanlışlık" bulunduğunu belirtti.
Bu konuda 7 acil durum butonu şöyle:
- Riske dayalı öncelikler belirleyin. Üretken yapay zekâyla ilgili bazı riskler, paydaşlarınız için diğer risklere kıyasla daha önemlidir. Yönetişim, uyum, risk, iç denetim ve yapay zekâ ekiplerinin en önemli risklere en fazla odaklanmasını sağlamak için risk hiyerarşisi çerçevesi çizin veya mevcut çerçeveyi güncelleyin.
- Siber, veri ve gizlilikle ilgili risk korumalarını gözden geçirin. Kötü niyetli kişilerin yapay zekâyı kullanarak özel verileri tahmin etme, gizli kimlikleri ortaya çıkarma ya da siber saldırılar gerçekleştirmesi risklerini azaltmak için siber güvenlik, veri yönetişimi ve gizlilik protokollerini güncelleyin.
- Şeffaf olamama riskini ele alın. Bazı üretken yapay zekâ sistemleri ile çıktıları oluşturmada kullanılan “temel model” ya da yapay sinir ağı, kullanıcılar tarafından açıklanmaz veya kolayca erişilemez. Bu durum, belirli bir sistemin neden belirli sonuçlar ürettiğini anlamayı imkansız hale getirir. Bu tür sistemleri tespit edin ve bu sistemlerin adil, doğru ve uyumlu olmalarını sağlamak için hangi uygulamaları kullanmanız gerektiğini düşünün.
- Paydaşları bu teknolojinin sorumlu şekilde kullanılması ve denetlenmesi için donatın. Çalışanlarınıza üretken yapay zekânın temellerinin nasıl çalıştığı, ne zaman kullanılıp kullanılmayacağını ile ilgili temel bilgileri verin. Ayrıca, çıktıları nasıl ve ne zaman doğrulamaları veya düzeltmeleri gerektiğini öğretin. Halihazırda kullanılanlar dahil tüm yapay zekâ yönetişim kılavuzlarını ve diğer yönetişim yapılarını (örn. gizlilik ve siber güvenlik) iyileştirin. Uyum ve hukuk ekiplerine, fikri mülkiyet ihlallerini ve diğer ilgili riskleri tespit edebilmelerini sağlayacak becerileri ve yazılımları sağlayın.
- Üçüncü tarafları izleyin. Ürün veya hizmet aldığınız tedarikçilerden hangilerinin üretken yapay zekâ kullanarak içerik veya hizmetler sağladığını, ilgili riskleri nasıl yönettiğini ve sizin bu risklere ne ölçüde maruz kalabileceğinizi öğrenin.
- Yasal düzenleme ortamını takip edin. Tüm dünyadaki politika yapıcılar, yapay zekânın gelişimi ve kullanımı ile ilgili giderek artan sayıda kılavuz yayımlıyor. Bu kılavuzlar hala tam değil ve yasal düzenleme çerçevesinin tümünü yansıtmıyor; ancak sürekli olarak yeni kurallar ortaya çıkıyor.
- Otomatik denetim getirin. Üretken yapay zekâ tarafından oluşturulan içeriklerin giderek daha yaygın hale gelmesiyle birlikte, bu içerikleri tespit etmek, hatalı olup olmadığını anlamak, önyargı veya gizlilik ihlalleri açısından değerlendirmek ve gerektiğinde kaynak göstermek için yeni yazılım araçları kullanın.
