Yapay zeka ajanları teknik düzeyde ne olduklarına dair tek bir tanım bulunmasa da genel kabul gören görüş düşünebilen, eyleme geçebilen ve süreçleri yineleyip, kendini düzeltebilen sistemler olduğu yönünde.
Üstelik özerklik düzeyleri o denli yüksek ki, bazı uzmanlara göre hassas veriler içeren sistemlere kendi başlarına bile erişebilirler.
Örneğin Avustralya'da buna benzer bir olay yaşandı. Ülkenin Başbakanı Anthony Albanese, 24 Eylül Perşembe günü yaptığı açıklamada, OpenAI tarafından geliştirilen bir yapay zeka ajanının bir devlet istatistik portalına "sızdığını" belirtti.
Ülke Başbakanı, sistemin ülkenin kamu sağlık sistemi olan Medicare'e ait "hassas olmayan" verileri barındıran bir internet sitesine izinsiz erişim sağladığını açıkladı.
Başbakan Albanese, daha fazla ayrıntı vermemekle birlikte, diğer üç devlet sisteminin de bu durumdan etkilenmiş olabileceğini sözlerine ekledi.
Bu güvenlik ihlali Haziran ayında gerçekleşmiş olsa da OpenAI durumu ancak ağustos ayında tespit edebildi ve Avustralya hükümetini 10 Eylül'e kadar bilgilendirmedi.
Aynı şirket, hastaların tıbbi kayıtlarına erişildiğine dair hiçbir kanıt bulunmadığını savunuyor. Olayın "model uyumsuzluğu faaliyeti"ne yönelik "kapsamlı bir inceleme" sırasında tespit edildiğini söylediler.
Bu arada uzmanlara göre Avustralya'daki olay, yapay zeka ajanlarına atfedilen ve bir devlet kurumuna yapılan sızma girişimi olarak dünyada bilinen ilk vaka olma niteliği taşıyor.
Dolayısıyla olay, bu sistemlerin yeteneklerini bir kez daha gündeme taşıdı.
Özellikle analitik ve karar verme gücü, bu sistemleri, öncelikli olarak belirli görevleri otomatikleştirmek amacıyla tasarlanmış daha önceki programlardan ayırıyor.
Zira bu sistemler giderek artan bir şekilde ve çoğu durumda doğrudan insan müdahalesi olmaksızın çeşitli sektörlere entegre ediliyor.
Uzmanlar "Bir yapay zeka ajanına, tıpkı insan bir iş arkadaşından isteyeceğiniz türden bir görev tanımlıyorsunuz" diyor.
Nihayetinde "Amaçları, tam bağımsızlık veya insan gözetimi altında çalışma şeklinde olabilen belirli bir özerklik derecesiyle faaliyet göstermek."
Öte yandan teknoloji sektöründeki tartışmaları körükleyen unsur da tam olarak bu özerklik.
Dahası bazı araştırmacılar ve geliştirme yöneticileri, şirketlerin istenmeyen davranışları önleyecek yeterli kontrolleri bulunmayan ajan sistemleri geliştiriyor olabileceği konusunda uyarılar yapıyor.
Özellikle son aylarda OpenAI ve Anthropic gibi şirketler, bu tür sistemlerde beklenmedik davranış örnekleri görüldüğünü kabul etti. Bu durum da daha sıkı kurallar ve denetim çağrılarını güçlendirdi.
Yani pek çok kişinin alışkın olduğu geleneksel bir sohbet robotu, isteminize talimat, soru veya komutla yanıt veriyor.
Elbette bu, insanların ChatGPT, Claude ve Gemini gibi sohbet robotlarında yaygın olarak başvurduğu kullanım şekli.
"ajan" (yapay zeka temsilcisi) ile aradaki fark şu:
Dolayısıyl ajan, kendisine bir hedef, tamamlanacak bir görev veya alınacak bir karar gibi, verildiğinde, karar vermede belirli bir özerkliğe ve harekete geçme yetkisine sahip.
Bu yapay zeka ajanlarının kullandığı dört temel bileşen var.
İlki, ajanın "beyni" işlevini gören büyük dil modeli (LLM). Bunlar, sohbet botları tarafından da kullanılan ve muazzam miktarda bilgiyi işleme yeteneği sağlayan aynı LLM'ler.
Diğeri, ajana sağlanan ve bilgiyi hem kısa hem de uzun vadede bir "bağlam kutusu" içinde depolayıp konumlandırmasına olanak tanıyan bellek. Bu bellek, bildiklerini "hatırlamak" için veritabanlarına ve özelleşmiş mimarilere dayanıyor.
Bir başkası ise, hem dijital hem de fiziksel dünyada etkileşime olanak tanıyan araçlar veya eklentiler.
Artık bunlar; yaygın olarak bilinen API'lerden (Uygulama Programlama Arayüzleri) hesaplama yazılımlarına, kod derleyicilerine ya da internet tarayıcıları ve arama motorlarına kadar çeşitlilik gösterebiliyor.
Bu arada dördüncü bileşen ise planlama modülü.
Sistem içinde bu, ajanın karmaşık sorunları alt adımlara bölmesini, alternatifleri değerlendirmesini ve izlenecek stratejiyi belirlemesini sağlayan bileşen.
Bu ajana operasyonel özerkliğini kazandıran şey, işte bu planlama ve araç seçme yeteneği.
Peki nasıl oluşturuluyorlar?
Bu kapsamda sohbet robotlarını kullanan ortalama bir kullanıcı kendi "ajanlarını" (özel görevli yapay zeka birimlerini) oluşturabilir.
Yine de bunu Claude, Gemini veya ChatGPT'nin standart sohbet modunda değil, bu ve diğer platformların abonelikle sunduğu "ortak çalışma" (co-work) modunda yapabilir.
Daha uzmanlık gerektiren düzeylerde, uzmanların daha ayrıntılı hedefler ve bağlantı kurulacak veritabanları oluşturmasını ve daha özelleşmiş API'lerin kullanılmasını içeren "istem mühendisliği" (prompt engineering) süreçlerine ihtiyaç duyuluyor.
Yine araştırmalara göre yapay zeka aracıları, bir görevi zamanında ve talimatlara uygun şekilde tamamlama konusunda insan becerisinin çok ötesinde, yüzde 96'ya varan bir etkinlik düzeyi sergiledi.
Nihayetinde pek çok şirket, ticari, akademik veya bilimsel alanlar da dahil, çeşitli sahalardaki görevlerin yerine getirilmesinde bu araçları bir alternatif olarak değerlendiriyor.
yapay zekanın kontrolü
Uzmanlara göre, günümüz telekomünikasyon şirketlerinde bir sorun yaşadığınızda, ister WhatsApp ister sesli iletişim yoluyla olsun, size yanıt veren ilk muhatap "bir insan değil, yapay zeka ajanı."
İşte bu aracı, "API'lerden gelen bilgileri okumayı ve mümkün olduğunca hizmeti yeniden işler hale getirmek için gerekli aksiyonları almayı içeren bir dizi işlemi gerçekleştirme girişiminde bulunuyor."
Öte yandan hizmet sektörünün yanı sıra, sanal ajanlar zaten pek çok farklı alanda da kullanılıyor.
Carreón "Bir fabrikanız varsa ve sensörlerin ötesine geçen bir yangın önleme sistemi istiyorsanız, sürekli sinyalleri izleyen bir ajana veri aktaran kameralar kullanabilirsiniz" diyor.
Nihayetinde son derece etkili olsalar da yapay zeka teknolojisinin mevcut gelişim düzeyinde, yerine getirmeleri gereken farklı hedeflerin sayısına bağlı olarak etkinliklerinin giderek azaldığı, hatta bu oranın yüzde 50 civarına kadar düşebildiği görüldü.
Bu nedenle her şeyi her zaman çözebilen robotlar değiller.
