Jeff Hawkins'in AI çerçevesindeki kusurlar nelerdir?

2004 yılında avuç içi pilotunun mucidi Jeff Hawkins , On Intelligence adlı çok ilginç bir kitap yayınladı ve burada insan neokorteksinin nasıl çalıştığını bir teori detaylandırdı.

Bu teori, Bellek Tahmin çerçevesi olarak adlandırılır ve örneğin sadece aşağıdan yukarıya (ileriye doğru) değil, aynı zamanda yukarıdan aşağıya bilgi işleme ve aynı zamanda farklı gelecek senaryolarının eşzamanlı, ancak ayrık tahminleri yapabilme (açıklandığı gibi) gibi bazı çarpıcı özelliklere sahiptir. bu makalede ).

Bellek Tahmini çerçevesinin vaadi, gelecekteki olasılıkların istikrarlı yüksek düzeyli temsillerinin denetimsiz olarak üretilmesidir. Muhtemelen bir sürü AI araştırma alanında devrim yaratacak bir şey.

Hawkins bir şirket kurdu ve fikirlerini uygulamaya başladı. Ne yazık ki on yıldan fazla bir süre sonra fikirlerinin vaadi hala yerine getirilmemiştir. Şimdiye kadar uygulama sadece gerçekten yapmak istediğiniz şeyin tam tersi olan anomali tespiti için kullanılmaktadır. Anlayışı çıkarmak yerine, yapay korteksinizin anlamadığı örnekleri çıkarırsınız.

Benim sorum Hawkins'in çerçevesinin ne şekilde eksik olduğu. Teorisinin pratikte çalışmasını engelleyen somut veya kavramsal sorunlar nelerdir?

Kısa cevap, Hawkins'in vizyonunun henüz geniş kapsamlı erişilebilir bir şekilde, özellikle de öngörüyle ilgili vazgeçilmez kısımlarda uygulanmamasıdır.

Uzun cevap, Hawkins'in kitabını birkaç yıl önce okuduğum ve Hiyerarşik Zamansal Bellek (HTM) olasılıkları ile heyecanlandım. Bilincinin, özgür iradenin ve diğer benzeri konuların felsefi temellerinden bazılarına dair çekincelerim olmasına rağmen hala varım. Buradaki bu yanlış yönlendirmeler üzerinde ayrıntılı bir şekilde durmayacağım çünkü HTM ağlarının bugüne kadar beklediği kadar başarılı olamaması için ezici bir neden değiller: Bildiğim kadarıyla, Numenta vizyonunun sadece kesilmiş bir versiyonunu uyguladı. Hawkins teorilerinde böylesine kritik bir rol oynayan tahmin mimarisinin çoğunu dışladılar. Gerod M. Bonhoff'un HTM'ler üzerine mükemmel bir tez 1'e koyduğu gibi,

Numenta'nın benimsediği en önemli tasarım kararı hiyerarşi içindeki geribildirimi ortadan kaldırmak ve bunun yerine bu teorik konsepti sadece ağırlıklandırma için veri toplama algoritmaları kullanarak simüle etmeyi seçmektir. Bu karar derhal şüpheli ve HTM'nin temel kavramlarını ihlal ediyor. Hawkins'in geri bildirimi, kortikal fonksiyon için hayati önem taşır ve teorilerinin merkezinde yer alır. Yine de Numenta, HTM ile ilgili sorunların çoğunun uygulama ve özel havuzlama algoritmaları kullanılarak çözülebileceğini iddia ediyor. "

Hala bu alandaki ipleri öğreniyorum ve Numenta'nın bu yaklaşımı Hawkins'in fikirlerinin, özellikle de tüm önemli tahmin mimarisinin tam olarak uygulanması lehine hurdaya ayırıp çıkartmadığını söyleyemem. Olsalar bile, bu tasarım kararı muhtemelen benimsemeyi uzun yıllar erteledi. Bu kendi başına bir eleştiri değil; belki de tahmin değerlerini takip etmenin ve bunları anında güncellemenin hesaplama maliyetleri, nöral ağları işlemenin olağan maliyetlerinin üstünde, özel havuzları gibi yarım önlemleri denemek dışında başka bir yol bırakmadan, o zaman çok fazla dayanıyordu. mekanizmaları. Bununla birlikte, o zamandan beri konuyla ilgili okuduğum en iyi araştırma makalelerinin tümü, tipik olarak eksik tahmin özellikleri nedeniyle Numenta'nın platformuna güvenmek yerine algoritmaları yeniden uygulamayı seçti.Maltoni'nin Bologna Üniversitesi Biyometrik Sistem Laboratuvarı 2 için teknik raporu . Bununla birlikte, tüm bu durumlarda, değişken HTM'lerini derhal kullanıma (bildiğim kadarıyla) koymak için kolayca erişilebilir bir yazılım yoktur. Tüm bunların özü, GK Chesterton'ın Hıristiyanlıkla ilgili meşhur makamı gibi, "HTM'ler denenmedi ve istemediğini keşfetti; zor bulundu ve denenmemiş kaldı." Numenta tahmin adımlarını bıraktığından, Hawkins'in bir HTM'nin tam vizyonunu kodlamak isteyen herkesi bekleyen ana engeller olacağını varsayıyorum.

1 Bonhoff, Gerod M., 2008, Anormal Ağ Etkinliğini Tespit Etmek için Hiyerarşik Geçici Bellek Kullanma. Mart 2008'de Ohio Hava Kuvvetleri Üssü, Wright-Patterson Hava Kuvvetleri Üssü'nde sunuldu.

2 Maltoni, Davide, 2011, Hiyerarşik Zamansal Bellek ile Örüntü Tanıma. DEIS Teknik Raporu 13 Nisan 2011'de yayınlandı. Bologna Üniversitesi Biyometrik Sistem Laboratuvarı: Bologna, İtalya.

10 yıl üretime hazır mı?

Bunu perspektife koyalım. Algılayıcı 1957'de tanıtıldı. 1986'da PDP kitaplarının yayınlanmasına kadar kullanışlı bir model olarak çiçek açmaya bile başlamadı. Skoru olanlar için: 29 yıl.

PDP kitaplarından, son on yıla kadar kullanılabilir derin ağlar olarak görüldüğünü görmedik. Andrew Ng ve Jeff Dean kedi tanıma görevini 2012 yılına ait derin bir ağ tanımlama etkinliği olarak alırsanız. Muhtemelen üretime hazır olmak için 25 yıldan fazla.

https://en.wikipedia.org/wiki/Timeline_of_machine_learning