Teknolojik tekillik yalnızca süper istihbarat ile meydana gelebilir mi?

Yapay Zeka: Modern Bir Yaklaşım (3. baskı) kitabının 26. bölümünde, ders kitabı "teknolojik tekillik" konusunu tartışıyor. 1965'te yazan IJ Good'dan alıntı yapıyor:

Ultra akıllı bir makinenin, her ne kadar zeki olsa da, herhangi bir insanın tüm entelektüel faaliyetlerini fazlasıyla aşabilecek bir makine olarak tanımlanmasına izin verin. Makinelerin tasarımı bu entelektüel faaliyetlerden biri olduğundan, ultra akıllı bir makine daha iyi makineler tasarlayabilir; o zaman tartışmasız bir "istihbarat patlaması" olacaktı ve insanın zekası çok geride kalacaktı. Bu nedenle, ilk ultra akıllı makine, makinenin bize nasıl kontrol altında tutulacağını söyleyecek kadar uysal olması şartıyla, insanın yapması gereken son buluştur.

Daha sonra ders kitabında şu sorunuz var:

26.7 - IJ Good, zekanın en önemli kalite olduğunu ve akıllı makineler inşa etmenin her şeyi değiştireceğini iddia ediyor. Duygusal bir çita, "Aslında hız daha önemlidir; eğer ultra hızlı makineler üretebilseydik, bu her şeyi değiştirirdi" ve duyarlı bir fil "İkiniz de yanlışsınız; ihtiyacımız olan şey ultrastrong makineleri" diyor. argümanlar?

Öyle görünüyor ki ders kitabı sorusu IJ Good'a karşı örtük bir argüman. İyi, zekayı değerli olarak değerlendiriyor olabilir, çünkü insanın güçlü yönleri "zeka" adı verilen özellikte yatar. Ancak bunun yerine diğer özelliklere eşit değer verilebilir (hız veya güç) ve duyarlı varlıklar, tercih ettikleri özelliklerin bir makine veya başka bir kişi tarafından "maksimize edilmesi" konusunda çılgınca spekülasyon yapabilirler.

Bu, zekayı maksimize etmeyen , ancak başka bir özelliği (her zaman gücünü artıran bir makine veya her zaman hızını artıran bir makine) maksimuma çıkaran makineler yapsaydık tekillik olup olmayacağını merak ediyor . Bu tür makineler aynı derecede dönüştürücü olabilir - ultra hızlı makineler, "kaba kuvvet" nedeniyle sorunları hızlı bir şekilde çözebilir ve ultra küçük makineler ham gücünü çeşitli fiziksel görevler için kullanabilir. Belki de bir ultra-X makinesi başka bir ultra-X makinesi inşa edemez (IJ Good, makinelerin tasarımına entelektüel bir etkinlik olarak muamele ettiğinden), ancak sürekli olarak kendini geliştiren bir makine hala yaratıcılarını geride bırakır ve yaratıcılarını buna bağlı.

Teknolojik tekillikler ultra zekâlarla sınırlı mı? Ya da teknolojik tekilliklere "güçlü AI" olmayan ancak hala "ultra" optimize edici makineler neden olabilir?

Bu, hız veya güç için bir hayır olacaktır, eğer süper güçlü bir varlığınız varsa, ancak yeni materyalleri araştıramazsa, hızlı bir şekilde sınırlandırılacaktır, hız için aynı şey, Temel olarak, onları geliştirmek için alanlarından bir şeye ihtiyacınız var, bu da kaçak bir iyileşme imkansız.

Zaten süper güçlü ve süper hızlı makinelerimiz var, bunlar arabalar, kamyonlar, hidrolik presler, endüstriyel dış iskeletler vb. ... Ancak, eskilerini kullanarak daha iyi olanları inşa etsek de, hala bir şeyler araştırmamız gerekiyor eskileri tarafından geliştirilemez.

Tekillik için ihtiyacımız olan şey, içindeki bir gelişmenin daha fazla gelişmeyi kolaylaştırdığı bir alandır. Ve bunun zeka içermediği bir alan bilmiyorum. Eğer varsa, orada istihbarat odaklı olmayan bir tekilliğe sahip olmak mümkün olabilir.

"Monte Carlo" şu anda algoritmik yaratıcılık için en iyi yöntem gibi görünüyor. (yani makine rastgele seçimler yapar ve faydalı bir şeye yol açıp açmadığını görür.)

Yaratıcı bağlantıları üzerinden oluşmuş aşikardır görünürken anlayışı makinesi yeterince hızlı ise, saf "kaba kuvvet" tarafından kazanmak mümkün olmalıdır, rasgele olanlar üstündür.

yani evrim, insan rehberliğinden önce zekaya dayanmamıştır. * Aksine, evrim ya faydalı ya da zararlı rastgele mutasyonlara dayanmaktadır.

* Uyarı, algoritmalar oluşturan ve genleri (bir laboratuvarda veya hayvancılık ve bahçecilik yoluyla) değiştiren insanların, aslında insan zekası ve arzusuna dayanan yeni bir evrim biçimi içerdiği söylenebilir.

Bu aradığınız şey olmayabilir, ancak teknik olarak evet. Hız ve Güç için olmasa da. Ancak rastgele yeni matematiksel / fiziksel / kimyasal çözümlerin rastgele tahminlerde daha verimli hale gelmesini tahmin edebilirsiniz (temelde makinenin daha hızlı hesaplamasını ve belki de bu bulguların etkisini simüle etmesini sağlayan herhangi bir şey) böylece teknik olarak tekilliğe benzer bir şeyi elde etmeden elde edebilirsiniz. sadece (ya da sadece insan seviyesinde) herhangi bir Zekâya sahip olmak için, çünkü sadece kaba kuvvet uygulayabilirsiniz.

Bu etkili mi? Hayır, herhangi bir şekilde mümkün olmaya bile yakın değil. Çalışıyor mu? Teknik olarak, Evet.

Kendini sürekli olarak geliştirdiğinden, ancak kendi zekasını geliştirmesi gerekmeyeceğinden, bu tür bir tekillik olacaktır.

Tabii ki, bazı bulgular daha zeki olmayı mümkün kılabilir, ancak bunun bu bulguları kendine uygulamadığını varsayalım.