HTM'nin performansıyla ilgili eleştiriler nelerdir?

Kısa süre önce bu hiyerarşik zamansal belleğin (HTM) varlığını öğrendim . Hiyerarşik Geçici Bellek: Anlamak oldukça kolay görünen Kavramlar, Teori ve Terminoloji (Jeff Hawkins ve Dileep George tarafından) belgesini zaten okudum , ancak kırmızı bir bayrak, belgenin ne hakemli ne de neden gözden geçirilmesi gerektiğini açıklıyor detaylı çalışmak.

Bazı bağımsız kaynakları araştırmaya çalıştım. Performansını başkalarıyla karşılaştıran birkaç makale buldum, ancak hiçbiri neden iyi performans gösterdiğini (ya da yapmadığını) açıklamıyor. Ana uzman tarafından aşağıya bakıldığını iddia eden bazı yorumlar fark ettim, ancak gerçek bir eleştiri bulamadım.

HTM'nin performansıyla ilgili eleştiriler nelerdir? HTM'nin genel olması gerektiği için, alana özgü herhangi bir eleştiri daha temel bir sorunla ilişkili olmalıdır.

Ayrıca, birkaç aylık egzersiz seansı için bile yeterli miktarda çok sayıda egzersiz verisi vardır. Temel olarak, eğitimin boyutu veya uzunluğu ile ilgili herhangi bir eleştiri ilgili değildir.

Jeff Hawkins'e yönelik eleştiriler, http://www.theregister.co.uk/2014/03/29/hawkins_ai_feature/ adresinden alınan aşağıdaki makalede iyi özetlenmiştir.

HTM teorisinin büyük bir potansiyele sahip olduğuna ve gerçek makine zekasının bir temeli olacağına inanıyorum. IBM kısa süre önce HTM teorisini desteklediğini duyurdu ve yüzlerce üyeden oluşan Kortikal Öğrenme Merkezi'ni başlattı.

http://www.technologyreview.com/news/536326/ibm-tests-mobile-computing-pioneers-controversial-brain-algorithms/

Makalede de belirtildiği gibi, Numenta'nın kurucu ortağı olan Dillep George, HTM teorisinin bir potansiyelini ortaya koyan çok miktarda fon çeken Vicarious'u başlattı.

Kaynak: Jeff Hawkins'e , Eleştiriye Karşı Eleştiriler

Medya meraklısı ve kendine güvenen yaklaşımı, diğer akademisyenler arasında Hawkins'in yaygın olarak yayınlamadığını ya da kendi başına pek çok fikir icat etmediğini belirten kötü bir his uyandırıyor gibi görünüyor.

Numenta ayrıca kısmen Hawkins'in beynin nasıl çalıştığı konusundaki kendine özgü görüşünden dolayı sıkıntılar yaşadı.

Örneğin, 2010 yılında Numenta kurucu ortağı Dileep George, AI'nın gelecek vaat eden alanındaki daha düşük asılı meyvelerin bir kısmını seçmek için kendi şirketi Vicarious'u kurdu. Anladığımız kadarıyla, bu dostane ayrılık George'un daha matematiksel bir yaklaşıma ve Hawkins'i daha biyolojik bir yaklaşıma yöneldiği için George ve Hawkins arasındaki görüş farkından kaynaklandı.

Hawkins aynı zamanda entelijansiyandan biraz sarsıldı, NYU psikoloji profesörü Gary Marcus, Numenta'nın Steamrolled by Big Data başlıklı New Yorker makalesinde yaklaşımını reddetti.

Bu makale için görüşülen diğer akademisyenler El Reg'in Hawkins'in girişimci personelle birlikte hakemli makalelerinin eksikliğinin tüm yaklaşımının güvenilirliğini azalttığını düşündüklerinden alıntı yapmak istemiyordu.

Hawkins bu eleştirileri ortadan kaldırıyor ve AI ile entelijansiya arasında bir görüş farkına düştüklerine inanıyor.

"Bunlar, tamamen resmileştirilmesi çok zor olan matematiksel ilkelerle tasarlanmamış karmaşık biyolojik sistemlerdir."

Bir süredir HTM okuyorum. Çok havalı. Bir HTM'nin varsayılan davranışı geçici verileri analiz etmektir. Öte yandan, günümüzde, bir sekanstan sekansa problemi (örn. Bir chatbot) modellemek için "süslü" bir sinir ağına (örn. Tekrarlayan bir sinir ağı) ihtiyacınız vardır. Ancak HTM doğal olarak bu tür problemlere uygulanabilir!

Görsel verilerle gönderilen kontrol verileri ile bir çeşit etkileşimli TV yapmayı planlıyorum, daha sonra görsel verileri kontrol verileriyle sınırlandırıyorum (bu mümkün, ancak aniden yeni video hayal etmesini beklemiyorum, bu gerçekleşmez). Ancak, söylemeliyim ki, en havalı şey, öğrettiğiniz videonun oynatılmaya çıkmayacağı, bunun en tipik versiyonunu gösterecek, bu da onun anlayış biçimi ve aslında gerçekten güzel. Yani bu onun içinden çıkardığın rüya gibi.

Metinle HTM kullanıyorsanız,

1. mektupları depolar,
2. daha sonra hece üretir.
3. o zaman bu heceleri alır ve bunlardan ortaklık yaratır,
4. sonra ortak hecelerden kelimeler oluşturur,
5. o zaman bu kelimeleri alır ve ortak yönlerini belirler,
6. muhtemelen daha büyük kelimeler oluşturur,
7. o zaman kelime grupları oluşturur,
8. o zaman cümle grupları oluşturur

Yani, her seferinde, bir seviye yükselir, sadece grupları daha sıkı bir şekilde içselleştirmek için biraz daha "unutur". Bu daha köklü gruplar, çalmakta olan kayıttan biraz farklı oynatacaklardır. Ve bu oynatma pek çok kişi tarafından görülmedi.

Acaba tamamen kendi cümleleriyle mi ortaya çıkıyor?

Cümlenin biraz daha yavaş, çok daha iyi büyümesini sağlar. Hiçbir şeyi unutmamaktan ve kaydı düz bir şekilde oynatmaktan çok daha zor bir iş. Cümleniz ne kadar yavaş büyürse, o kadar iyi yaptınız, yani tipikliği bulmanın başka bir yolu varsa, bunu yapmalısınız.