Genel bir yapay zeka geliştirmek için ne tür bir benzetim ortamı karmaşıktır?

Bir "genel yapay zeka" oluşturmak için yeterince karmaşık ancak kendimi tanıyan bir yapay zeka olarak tanımladığım ama mümkün olduğunca basit bir sanal ortam yaratmaya çalıştığınızı düşünün. Bu minimal ortam nasıl olurdu?

Yani sadece satranç oyunu olan bir ortam çok basit olurdu. Bir satranç programı genel bir yapay zeka olamaz.

Satranç oynayan ve sonuçlarını birbirleriyle paylaşan çok sayıda ajanın bulunduğu bir ortam. Bu genel bir yapay zeka mı oluşturur? (Gün boyu satranç hakkında düşünen bir satranç büyük ustası 'genel AI' diyebilirseniz, satranç düşüncesinde satranç bilgisayarından farklı mıdır?).

3D benzeri bir dünyaya ne dersiniz? Bu çok karmaşık görünüyor. Sonuçta, 2D bir dünyada neden genel bir yapay zeka var olamaz.

Yapay zeka (lar) ın kendini tanıyabileceği kadar basit olmayan bir ortama örnek ne olabilir?

Bu forumda gördüğüm AGI ile ilgili en iyi sorulardan biri olduğunu düşünüyorum.

"AGI nedir", "simülasyon oyunu" hakkındaki tüm tematikleri atlayacağım, ... Bu konular onlarca yıldır tartışıldı ve günümüzde bunlar çıkmaz sokak.

Böylece, yalnızca kişisel deneyimimle cevap verebilirim:

Sonlu boyutlu bir alanda, zamansal boyut da dahil olmak üzere herhangi bir sayıda boyutun 1D'ye indirgenebileceği hesaplanırken temel bir teoremdir.

Bununla birlikte, pratik örneklerde, 1B gösterimini analiz etmek ve görselleştirmek zorlaşır. 1D ve 2D arasında bir ara olarak görülebilen grafiklerle daha pratik bir çalışmadır. Grafikler, gerekli tüm olgu ve ilişkilerin temsil edilmesini sağlar.

Örneğin, matematik alanında çalışabilecek bir AGI geliştirmeye çalışırsak, herhangi bir ifade (rasyonlarla, aboneliklerle, integrallerle 2D bir sunumda yazdığımız insanlar) 1D olarak ifade edilebilir (bir ifade olarak) ancak bu 1D'nin analiz edilebilen veya yürütülebilir grafiğe ulaşmak için ayrıştırılması gerekir. Böylece, ifadenin ayrıştırılmasından sonra ortaya çıkan grafik en pratik temsildir.

Başka bir örnek, 3D dünyasında seyahat eden bir ajan istiyorsak, bu dünya bazı özelliklere sahip nesnelerle boş bir alan olarak görülebilir. Yine, sahne analizi ve nesne tanımanın (önceki örnekte ayrıştırıcıya eşdeğer) ilk aşamasından sonra bir grafiğe ulaşıyoruz.

Böylece, AGI alanında gerçekten çalışmak için, sahne analizi, nesne tanıma, konuşma tanıma (Dar AI) sorunlarını atlamayı ve doğrudan temsili grafikler üzerinde çalışmanızı öneririm.

Bence en önemli şey, zamanın bir şekilde simüle edilmesi gerektiğidir. Kendini tanıyan chatbot düşün. O zaman "kendini tanıyan" çevre, zaman içinde beslenen ve "ben" ve "öteki" olarak ayırt edilebilen veriler olabilir. Demek istediğim, “ben” direk etkilediği kısımdır ve “diğer” dolaylı olarak etkilenen ya da hiç etkilenmeyen kısımdır. Bunun dışında muhtemelen oldukça soyut ortamlarda yaşayabilir. Zamanın bu kadar önemli olmasının nedeni, onsuz bilişsel algoritmanın sadece bir matematik problemini çözmesidir.

Genel yapay zeka 2B dünyasında kesinlikle var olabilir, sadece bu bağlamda genel bir yapay zeka (burada "bir takım problemler arasında tutarlı güç" olarak tanımlanır) " yapay bir genel zekâdan " farklı bir algoritma bir insanın yapabileceği herhangi bir entelektüel görevi yerine getirmesi. "

Orada bile, AGI'nin tanımı bulanık, çünkü "hangi insan?" (İnsan zekası, bireylerin farklı bağlamlarda farklı derecelerde problem çözme yeteneğine sahip olduğu bir spektrumdur.)

Yapay Bilinç : Maalesef, kişisel farkındalık / bilinç problem çözme yeteneği (istihbarat) ayrı bir ağır metafizik, bir meseledir.

Kesinlikle bakmak istiyorum bir " Çin Odası " ve çürütme.

Muhtemelen holografik prensibe bakmaya değer : "fizikte bir uzayın n-1 boyutlarının bir hologramı olarak kabul edildiği bir kavram." Kesinlikle modeller ve oyunlar bu şekilde yapılandırılabilir.

Keşfedilecek bir başka yer, sonsuz Conway'in Yaşam Oyununda süperintel istihbaratın ortaya çıkış teorileridir . (Kısacası, benim anlayışım, araştırmacılar hücresel otomata içinde herhangi bir sayının nasıl üretileceğini anladıktan sonra, yeterli büyüklükte bir oyun tahtası verildiğinde ortaya çıkan duyarlılık olasılığının en azından teorik olarak sağlam olduğu yönündedir.)

Şimdiye kadar verilen cevaplar arasında @DukeZhou'dan gelen cevap en provokatifti. Örneğin, Çin Odası eleştirisine atıf, Searle'ın bir tür niyetin yapay ortamda desteğe ihtiyaç duyabileceği konusundaki görüşünü gündeme getiriyor. Bu, bir değer sisteminin veya acı-zevk sisteminin gerekliliğini, yani iyi sonuçların "deneyimlenebileceği" veya aktif olarak aranabileceği ve kötü sonuçların önlenebileceği bir şeyi gerektirebilir. Veya bireysel olarak yok olma (ölüm veya fesih) potansiyellerinin tanınması gerekebilir. "Ego ölüm" olasılığıyüksek bir negatif değere sahip olması gerekebilir. Yapay bir dünya, ortaya çıkan ya da öğrenen zeki ajanın gözlemleyebileceği (bir anlamda) ve “üzerinde düşünebileceği”, yani kendi zekasını tanıyabileceği “diğer zihinleri” ya da diğer maddeleri içermesi anlamına gelebilir. Bu anlamda Kartezyen syllogism "Sanırım ben bu yüzden" Ben içine dönüştürülür: Ben (ya da daha ziyade AI olarak ben) başkalarının düşünce kanıtlarını görüyorum ve "gawd tarafından," Ben "de yapabilirim". Bu "diğerleri" ya diğer öğrenme sistemleri (AGI'ler) ya da yapay ortamın aracılık ettiği insanlardan gelen ayrı girdilerle temas olabilir. "Ters Turing testi" hakkında Wikipedia tartışması

Boyutsallıktan bahsetmek, yapay zeka dışında dünyanın “fizik” ini temsil etmek için gereken derinliğin ne olacağı üzerine bir tartışmayı kışkırtmalıdır. Zaman ve mekanın bir miktar temsili gerekli görünmektedir, yani hedefe ulaşmada ilerleme için bazı boyutsal altyapı. Blocks World, çözümü geçen yüzyılın 60 ve 70'lerinde iyimserliği kışkırtan, önemli bir ilerleme kaydedildiği erken bir oyuncak sorunuydu. O dönemin SHRDLU programında herhangi bir acı ya da zevkle programlama çabasının farkında değilim (programın ayak parmaklarına engelleme yok), ancak AI'ların ilginç bilim kurgu temsillerinin "fiziksel" olumsuz sonuçları tanıdığı var gerçek dünyada".

Düzenleme: Ben indüksiyon, tanımlama çabaları için veri girişi olarak "algılanabilir" (AGI ile etkileşim "diğerleri" herhangi biri tarafından) bu ortamda "özellikleri olan varlıklar" için bir ihtiyaç ekleyeceğim ve ilişkilerle ilgili çıkarımlar. Bu, paylaşılan bir "deneyim" için temel oluşturur.

@Pasaba por aqui'nin iyi bir yanıtı olmasına rağmen, @zooby ile bir grafiğin çok basit olabileceğini kabul ediyorum. İnsanlar seçeneklerin boğulduğu bir ortamda olsaydı veya bir tekne inşa etmek için 5000 ilgisiz adım atsaydı, asla denizleri geçemezdik. El ile tasarlanan herhangi bir grafik, ajanı genel AI olarak çağıracak kadar karmaşık olmayacağını düşünüyorum. Dünyanın artık en iyi şekilde bir grafik olarak değil, en azından çok boyutlu bir alan olarak tanımlanmasına yetecek kadar devlete ihtiyacı olacaktır.

Düşünmeniz gereken 2 nokta olduğunu düşünüyorum. "Basit" nedir ve ne zaman "genel yapay zeka" olarak tanırsınız. Kendini tanıyan yapay zekayı tatmin edici bulmuyorum çünkü farkındalık denen hiçbir şeyi ölçemeyiz; yalnızca durumunu ve çevre ile etkileşimini görebiliriz.

1 için. İçinde yaşadığımız dünyanın aslında oldukça basit olduğunu söyleyebilirim. Doğanın 4 gücü, birkaç koruma kanunu ve her şeyin çoğunu açıklayan bir grup parçacık türü vardır. Sadece bu parçacıkların birçoğu var ve bu oldukça karmaşık bir dünyaya yol açtı. Tabii ki, bu simüle etmek pahalıdır, ancak bazı kısayollar alabiliriz. 200 yıl önce insanlar dünyayı açıklamak için tüm kuantum mekaniğine ihtiyaç duymazlardı. Protonları, nötronları ve güçlü kuvveti periyodik tablodaki atomlarla değiştirirsek, çoğunlukla iyi olurduk. Sorun şu ki 3 genel kanunu 100 özel örnekle değiştirdik. Simüle edilen ortamın yeterince karmaşık olması için bu eğilimin devam etmesi gerektiğini düşünüyorum.

Bu da beni 2'ye getiriyor. Bence genel yapay zekâyı ifade eden ajandan, çevreye kasıtlı bir şekilde etkileşimde bulunabildiğimizde, açıkça yararlanırken (bu yüzden yanlışlıkla değil) gerçekten memnun kalacağımızı düşünüyorum. Şimdi bu oldukça zor olabilir veya çok uzun zaman alabilir, bu yüzden daha rahat bir durum, inşa etmesini beklediğimiz araçları inşa etmek ve böylece kendi ortamına hakimiyet göstermek olacaktır. Örneğin, teknelerin kanıtı 100k ile 900k yıl arasında bir yerde bulunmuştur; bu, erken insanların geliştiği zaman ölçeğiyle aynıdır.. Ancak kendimizi zeki olarak görsek de, bir tekne yapım ajanının genel zekâya sahip olduğunu düşündüğümüzden emin değilim, çünkü oldukça basit bir icat gibi görünüyor. Ama bence bu tür birkaç icattan sonra memnun oluruz.

Sanırım dünyaya benzeyen bir Sim'e ihtiyacımız var, bu aslında oyundan çok daha karmaşık. 1000 öğe türü, her öğenin birçok örneği ve her şeyle etkileşim kurmak için yeterli derecede serbestlik. Ayrıca, herhangi bir ajanı zeki olarak kabul etmek için tanıdık görünen bir şeye ihtiyacımız olduğunu düşünüyorum. 3D, karmaşık, minecraft benzeri bir dünya , genel zekanın ortaya çıkışını tanıyacağımız en basit dünya olurdu .

“Yapay Genel Zeka”, bir ortamda akıllıca davranan bir ajandan farklı bir şeydir. Çünkü literatüre göre bu tür ajanlara “Dar AI” denir. Bir AGI sistemi ortamdır. Yani, en son Micromouse meydan okuması Dar AI sistemleri geliştirme amaçlı bir AGI sistemidir.

Bir AGI geliştirmek, bir robotik yarışması geliştirmek için eşittir. Bir kural kitabında resmileştirilmiştir ve yazılımı öğrenmek, programlamak ve sonuçları tartışmak için bir ortam görevi görür. Her durumda, bir AGI sistemi sosyal bir rekabettir, yani takımların yarışmaya katılmaları caziptir. AGI, zekanın nasıl gerçekleştirileceğine cevap vermez, ölçmek için bir testtir. İnsan beyni, bilişsel mimari ve genel problem çözücüler akıllıca hareket etmek için dar bir yapay zeka olarak geliştirilmedi, akıllı bir makine için bir turing testi olarak geliştirildi.

Başka bir bilgisayar programı akıllıysa bilgisayar programı ile nasıl ölçüm yapabiliriz? Bir olasılık insan simülasyon teorisidir. Bu, bilgisayar programının bir insan gibi davranıp davranmadığını ve turing testinin kısa süreli belleği, uzun süreli belleği ve yeni şeyler öğrenme yeteneğini test etme yükümlülüğüne sahip olup olmadığını test ediyoruz. En kolay haliyle, turlama testi, bir insan olarak doldurulması gereken basit bir formla yapılabilir, ancak insanı döngüden çıkarmak ve başka bir bilgisayarın zekasını test etmek için bir bilgisayar kullanmak da mümkündür. . Amaç bu, SOAR, OpenCog ve AIXI geliştirildi.