Yapay zeka bağlamında, tekillik, teknolojik tekillik elde edildikten kısa bir süre sonra sınırları bilinmeyen yapay süper istihbaratın (ASI) hızla ortaya çıkmasına neden olan, özyinelemeli kendini geliştirme yeteneğine sahip yapay bir genel zekanın ortaya çıkmasını ifade eder. . Bu nedenle, bu süper sorumluluklar muhtemelen çözemediğimiz sorunları çözebilir.

Yapay zekanın gelecekteki ilerlemesinde bildirilen bir ankete göre : Bir uzman görüşü anketi (2014)

Katılımcıların ortanca tahmini, 2040-2050 civarında yüksek seviyeli makine zekasının geliştirileceği iki şanstan biriydi.

ki bu çok uzakta değil.

AI'nın birçok sorunu çözerek bize fayda sağlayabileceği göz önüne alındığında her şeyi bilme yeteneğine sahip olacağı fikri yanlış mı?

Ben sizin bakış açınızdan oldukça hoşlanıyorum ve çok sayıda başka soruda kapsanan "tekillik" in nasıl etkilenebileceği ya da bilinç ve "her şeyi bilme" nin nasıl yürürlüğe girdiği ayrıntılarına girmeden bilinç ve her şeyi bilme gereklilikler değilim sizi iki kilit filozofa yönlendirir:

• Phillip K. Dick, 1968'deki ünlü AI kitabında ana tema empati. (Eğer okumadıysanız, bir spoiler yayınlamıyorum, ancak arsanın sadece 5 yıl sonra resmileştirilen Evrimsel Oyun Teorisi kavramı tarafından yönlendirildiğini söyleyeceğim .)

• John Nash ve özellikle Nash Dengesi kavramı . (Nash'in matematiksel olarak bir "duş çantası" olmanın optimal bir strateji olmadığını gösterdiği söylenebilir. Onun kanıtı , Von Neumann'ın beklentisine karşı olan nükleer détente'nin neden gerçekten çalıştığını açıklamak için kullanılabilir .)

Bu yüzden insanlar delirdiğinde, makinelerin bizi yok etmek için yükseldiği " Skynet " mitosuna odaklandıklarında, sadece Nash kadar akıllı ya da Dick kadar derin olup olmadıklarını merak etmeliyim. " Elektrikli Koyun " paradigması denilebilir .

Soru iyi ve birçok insanın kafasında. Düşünme çizgisinde dikkate alınması gereken birkaç yanlış anlama vardır.

• İnsanlar dışındaki zeki varlıkların üstünlüğü medeniyeti tehdit ediyor - Bu tehdidin hayal edilmesi mantıklı mı? İnsan zekasının bugün biyosferdeki en tehditkar biyolojik fenomen olduğu zaman rasyonel bir sonuç mu? Böceklerin zekası daha sürdürülebilir olabilir. Karıncaların ve termitlerin uygarlıkları kesinlikle daha işbirlikçi. Dünya savaşları ve soykırım insanlık tarihinin temel özelliklerinden biridir.
• Yapay zeka insanlardan daha akıllı hale geliyor - Yapay zeka bazı açılardan insanlardan daha akıllı, bu yüzden hesap makineleri, operatörler yerine iletişim sinyallerinin otomatik geçişi ve otomatik posta sıralayıcıları kullanıyoruz. Başka şekillerde AI, insan zekasını yaklaşık olarak tahmin etmeye başlamak için astronomik mesafeleri aşmak zorundadır. İnsanların akıl yürütme, yaratıcılık veya merhamet kapasitelerini simüle edebilecek veya çoğaltabilecek bir ipucu bile gösteren hiçbir şeyimiz yok.
• Tekillik 2040'larda tahmin ediliyor - Bu tahminlerde bir düzineden fazla gerçekçi olmayan varsayım var. Arkalarındaki argümanlardan herhangi birine eleştirel bir gözle bakın ve gözü kapalı 757'yi uçurabileceğiniz delikler olacak.
• Bilginin üstel büyümesi - Bilginin üstel büyümesi vardır, ancak meşru olarak gözden geçirilen bu bilgilerin oranı yanlış bilgi, vahşi varsayım ve sahte haberler arttıkça azalır. Benim inancım dünyadaki bilgi miktarının n (nüfus) olduğu log (n) ile tahmin edilebilir. Eğer bu ilişkiyi takip edersem, ortalama bireyin bilgi değeri log (n) / n olur ve bu popülasyon büyüdükçe azalır.
• AI her şeyi bilme yeteneğine sahip olacaktır - Her şeyi bilme her soruyu cevaplamaktan daha fazlasıdır. Her şeyi bilme, cevaplamanın% 100 güvenilir ve% 100 doğru olmasını gerektirecektir, bu da evrende olduğundan daha fazla silikon gerektirebilir. Gleick'ın Oku Kaos neden anlamak istiyorsanız. Ayrıca her şeyi bilen bir varlığın komuta üzerine soruları yanıtlamayacağı da iddia edilebilir.

İnsan zekası tarafından kontrol edilen bir dünyadan daha iyi bir dünya istiyorsanız, o zaman alınacak bir yön, bizi köpeklerle yaptığımız gibi evcilleştirip evcilleştirebilecek daha gelişmiş barışçıl medeniyet anlayışı ile yeni bir türün geliştirilmesidir. kediler.

Daha kolay yol sadece hepimizin ölmesi içindir. Biz gelmeden ve her şeyi ve birbirimizi öldürmeye başlamadan önce biyosfer daha uygar olmuş olabilir. Ama bu benim umudum değil.

Benim tavsiyem NI (istihbarat dışı) çalışmamız ve aptal olanı insan davranışı ve jeopolitik etkileşimden nasıl kurtaracağımızı keşfetmemiz. Bu, dünyayı dikkat dağıtıcı ve büyük ölçüde alakasız makine öğrenimi gadget'ları ve uygulamalarından çok daha fazla geliştirecektir.

İşte maymun zihnimin ortaya çıkardığı bazı problemler.

1.Akıllı! = Her şeyi bilen

AI kendini geliştirme patlaması onu daha akıllı ve daha akıllı hale getirir. Daha akıllı olmak daha fazla gerçek bilmek demek değildir. Sanırım bu oldukça seçici bir argüman, ama düşünmeye değer.

Geçmişinizi bilmeyen çok akıllı bir doktor, daha iyi verilere sahip daha az akıllı olandan daha kötü bir seçim yapabilir.

2. Hepsi insanlar için mi? Bütün insanlar için mi?

Daha yüksek bir seviyeye ulaşan ASI, refahımızla ilgilenemedi.

Kontrollü bir ASI hala sadece birkaç kişinin yararına çalışabilir, eğer bu az sayıda kişi yanlış hedeflere karar verirse geriye doğru gidebiliriz.

3 Sert ASI

Bilimsel bir zihin mutlaka sempati veya empati ile dolu değildir.

4. Akıllı olmak ve zeki olmamak

Büyük akıllar hala hatalar yapar: * hedeflerini belirlerken ve * buna ulaşmak için planın yürütülmesinde.

Geat zekası, atılganlık eksikliğini veya kör nokta eksikliğini garanti etmez.

5. Sınırlar

Varoluş sınırları varsa (ışık tipi sınırlarının hızı) AI da bunlara bağlı olacaktır. Bu, ASI'nin bile 'elde edemeyeceği' şeyler olduğu anlamına gelebilir. Ayrıca, zihnimizin yapısına bağlı olarak sınırları olabileceğinden, bir sonraki AI da sınırlara sahip olabilir - ve uppn iyileştirse bile, 'çok aptal' olduğu için çözüm bulamadığı sınırlara ulaşabilir.

6. Biz elde edemeyiz

ASI'nin dünyanın bazı yönlerini anlaması çoğu insan için iletişimsel olmayabilir. Sadece anlayamayız (her şeyi anlayabilsek bile, bu anlayacağımız anlamına gelmez).

7. nasıl kullanılır?

Kendimizi ve yapay zekayı inşa etmemize yardımcı olan teknoloji ile yok edebiliriz. Bomba olmasına gerek yok. Jeomühendislik veya harika ilaçlar olabilir.

Bu özellikle ASI zaten güçlü ancak olumsuz sonuçları görecek kadar güçlü olmadığında yoğundur (ya da yine de görmezden geleceğiz).