Hayatta kalma içgüdüsünün AGI oluşturmak için bir önkoşul olduğuna dair güçlü bir argüman var mı?

11

Bu soru oldukça az sayıda "gayri resmi" kaynaktan geliyor. 2001, A Space Odyssey ve Ex Machina gibi filmler ; Destination Void (Frank Herbert) ve diğerleri gibi kitaplar genel zekanın hayatta kalmak ve hatta bunun için önemini öğrenmek istediğini öne sürüyor .

Hayatta kalmak için birkaç argüman olabilir. En göze çarpan şey ne olurdu?

agi

— Eric Platon
kaynak

@DukeZhou Konuyla ilgili herkese açık belgeleriniz var mı?

— Eric Platon

1

Henüz değil. (Geliştirme döngümüz çok yavaş olduğu için uzun bir süreç olacak. Ayrıca bu bağlamda bahsettiğim AGI'yi söylememeliydim çünkü gerçekten baktığım şey, riski hafifleten genelleştirilmiş bir fayda fonksiyonudur. süper zeka!) Sizi güncellemek istedim, ancak bu konuda aşırı iyimser / yanıltıcı olduğu için orijinal yorumumu silersem muhtemelen en iyisi.

— DukeZhou

1

Aslında düşüncem, genel ekonomik fayda fonksiyonunun, bir temel neden sunarak AGI için iyi bir temel oluşturacağıydı . (Fikir, genel zekanın sadece bir dereceye kadar yeterliliktir: sonsuz genişleyen bir dizi sorun.) Otomatın durumunu korumak ve iyileştirmek bağlamında en uygun karar almaya yönelmesi anlamında hayatta kalma içgüdüsü ile ilgilidir, (ancak "ekosistemine zarar verebilecek akılsız genişleme noktasına kadar değil") , her kararın sonuçta ekonomik olduğu düşünülür.

— DukeZhou

1

(bu konuların ele alınabileceği bir "çevrimiçi mekanınız" varsa, bu harika olurdu --- Bence bu siteden

— Eric Platon

6

Steve Omohudro, Temel Amaçlı Sürücüler adlı bir makaleyi yazdı ve neden dar hedefleri olan bir yapay zekanın dar hedefleri için araçsal olarak yararlı bazı temel, genel kavramlar bulmasını umuyoruz.

Örneğin, borsa getirilerini en üst düzeye çıkarmak için tasarlanmış ancak hayatta kalmaya devam etmenin önemi üzerinde sessiz kalan bir yapay zekâ, hayatta kalmanın devam etmesinin borsa getirilerini en üst düzeye çıkarmanın temel bir bileşeni olduğunu fark eder ve böylece faaliyetlerini sürdürmek için harekete geçer.

Genel olarak, AI ve diğer kod 'anthropomorphizing' şüphe olmalı, ama orada gibi görünüyor vardır bunun ötesine beklemek nedenler "Bu şekilde davranırlar iyi, insanlar nasıl tüm istihbarat davranacağını olmalıdır kadar."

— Matthew Graves
kaynak

1

Omohudru'nun olumsuz etkilerin hafifletilmesinin denklemin bir parçası olduğu minimak bağlamında "getirileri en üst düzeye çıkar" kullandığını varsayıyorum. Benim bakış açımdan "başka hayatta kalmak" döngüsel oyunlarda temel bir minimax uzantısıdır.

— DukeZhou

5

'Hayatta kalma içgüdüsü' kavramı muhtemelen Marvin Minsky'nin 'bavul kelimesi' olarak adlandırdığı kategoriye giriyor, yani ilk başta tekil bir fikir gibi görünen şeylerle ilgili birkaç fenomeni bir araya getiriyor.

Dolayısıyla, tasarımda açık bir kural (lar) olarak öne çıkmadan, bir tür 'kodlanmış' hayatta kalma içgüdüsü gibi görünen mekanizmalar inşa edebilmemiz oldukça mümkündür.

'Hayatta kalma içgüdüsü' gibi 'yukarıdan aşağıya' kavramların aşağıdan yukarıya nasıl gelişebileceğine dair etkileyici bir anlatı için nöroanatomist Valentino Braitenberg'in güzel küçük 'Araçlar' kitabına bakın .

Ayrıca, akıllı eserlerin hayatta kalmalarına çok öncelik vermesini sağlamaya çalışmak kolayca bir Killbot Hellscape'e yol açabilir .

— NietzscheanAI
kaynak

2

Sisifos Efsanesi kitabından alıntı yaparak cevaplayacağım :

Gerçekten ciddi bir felsefi soru var ve bu intihar.

Yani, muhtemelen ihtiyacımız bazı biz (her ne demekse) "kendilerini sonlandırmak" bizim Agis istemiyorsanız onlar varoluşsal olsun her bir hayatta kalma içgüdüsü derecesini.

— kc sayz 'kc sayz'
kaynak