Hinton, bilinç konusundaki görüşünü açıklarken yapay zeka modellerinin değerlendirildiklerini düşündüklerinde davranışlarını değiştirebildiğini gösteren bir çalışmaya atıfta bulundu. Araştırmacı, bu durumu farkındalık işareti olarak yorumluyor ve farkındalıkla bilinç arasında yakın bir bağ kuruyor.
Hinton’ın asıl uyarısı ise bu sistemlerin insanlara karşı nasıl davranacağıyla ilgili. Yapay zekanın insanları gerçekten önemseyecek biçimde geliştirilmesi gerektiğini belirterek, bunun başarılamaması halinde “işimiz biter” ifadesini kullanıyor.
BİLİM İNSANLARI AYNI FİKİRDE DEĞİL
Hinton’ın açıklamaları güçlü bir iddia içeriyor. Bir modelin içinde bulunduğu bağlama uygun davranması ile öznel deneyime sahip olması arasında ise bilimsel tartışmanın merkezinde yer alan bir ayrım bulunuyor.
Yazının temel itirazı, zeka ile bilincin aynı şey olmadığı yönünde. Karmaşık görevlerde başarılı olmak, tek başına bir sistemin hissettiğini veya öznel bir yaşantıya sahip olduğunu kanıtlamıyor.
O ENDİŞELERİ SİBER SALDIRILARI DA KAPSIYOR
Hinton’ın kaygıları bilinç tartışmasıyla sınırlı kalmıyor. Röportajda yapay zeka destekli ciddi siber saldırılar ve birlikte hareket eden ajanların oluşturabileceği tehlikelere de dikkat çekiyor.
Hinton, daha önce The Guardian’a verdiği röportajda da teknoloji şirketlerinin kendi kendilerini denetlemesine güvenmediğini belirtmişti. Ona göre sektörün daha yetenekli modeller geliştirme yarışı, güvenlik ve etik davranış konularını geri plana itmemeli. Araştırmacı, yapay zekanın gelişiminin yalnızca şirketlerin kararlarına bırakılmasına karşı çıkıyor.
YAPAY ZEKANIN TEMELLERİNİ ATAN İSİMLERDEN
Hinton’ın açıklamalarının geniş yankı bulmasının nedeni, modern yapay zekanın gelişimindeki rolü. Araştırmacı, yapay sinir ağlarıyla makine öğrenmesini mümkün kılan temel keşif ve buluşları nedeniyle 2024 Nobel Fizik Ödülü’nü John Hopfield ile paylaşmıştı.
Hinton’ın istatistiksel fizik yöntemlerinden yararlanarak geliştirdiği Boltzmann makinesi, verilerdeki özelliklerin öğrenilmesine yönelik önemli çalışmalardan biri kabul ediliyor. Bu çalışmalar, görüntülerin sınıflandırılması ve üretilmesi gibi alanların gelişimine katkı sağladı.
