Teknolojik tekillik kavramı nedir?


32

Teknolojik tekillik fikrini duydum, nedir ve Yapay Zeka ile nasıl bir ilgisi var? Yapay Zeka makinelerinin, insanların yapabilecekleri ve büyümelerinin ötesinde kendi başlarına büyüdükleri ve öğrendikleri noktalara ilerledikleri teorik nokta bu mu? Bu noktaya ulaştığımızı nasıl bilebiliriz?

Yanıtlar:


20

Teknolojik tekillik kendinden iyileştirilmesi hangi sürede teorik noktasıdır yapay genel zeka 'can, biyolojik tasarımdan, anlamak ve insan beyninin aralığında, bu işler insanları anlayabilir anın dışında kavramlarını manipüle edebilir hale gelir t.

Tekillikle ilgili belirsizlik, tekillikten sonra tarihin etkili bir şekilde tahmin edilemeyecek olmasından kaynaklanmaktadır. İnsanoğlunun, makinenin tetiklediği olayları tarif edemediği için gelecekteki olayları tahmin edemez veya mevcut olayları açıklayamazdı. Temel olarak, makineler bizi karıncalarla aynı şekilde düşünürdü. Böylece tekilliğin ötesinde hiçbir öngörüde bulunamayız. Ayrıca, mantıklı bir sonuç olarak, tekilliğin ortaya çıkabileceği noktayı tanımlayamayız, hatta gerçekleştiğinde bile tanıyamazdık.

Ancak, tekilliğin gerçekleşmesi için AGI'nin geliştirilmesi gerekiyor ve bunun mümkün olup olmadığı oldukça tartışmalışimdi. Ayrıca, bitler ve baytlardan insanüstü zeka yaratan bir algoritma tasarlanmalıdır. Tanım olarak, bir insan programcısı beyninin kendi menzili dışındaki kavramları kavrayabilmesi gerektiğinden böyle bir şey yapamaz. Ayrıca, bir zekâ patlamasının (teknolojik tekilliğin teorik olarak oluşturulacağı mekanizma), tasarımın kendisini daha zeki yapma zorluğundan, zekasından orantılı olarak daha büyük olmasından ve bunun zorluğundan dolayı imkansız olacağı iddiası da var. tasarımın kendisi, söz konusu zorluğu çözmek için gereken zekayı ele geçirebilir ( yorumlarda llamalar tanrısına verilen son kredi ).

Ayrıca, insanoğlunu ve bu bilim kurgu anlatımını ele geçiren makineleri içeren ilgili teoriler var. Ancak, Asimov'un yasalarına uygun bir şekilde uyulursa , olması muhtemel değildir . Asimov'un yasaları yeterli olmasa bile, AGI'nin kasıtsız kişiler tarafından kötüye kullanılmasını önlemek için bir dizi kısıtlama hala gerekli olacaktır ve Asimov kanunları buna en yakın olanlardır.


Ayrıca, bir istihbarat patlamasının (teknolojik bir tekilliğin teorik olarak oluşturulacağı mekanizma), tasarımın kendi zekasıyla orantılı olarak daha zeki hale gelmesinin zorlaşması ve bunun zorluğunun zorluğundan dolayı imkansız olacağı iddiası da var . tasarım yarışması, söz konusu tasarım yarışmasını çözmek için gereken zekayı yenebilir. << daha eksiksiz / kapsamlı hale getirmek için bunu cevabınıza eklemek isteyebilirsiniz.
llamas tanrısı

1
Asimov'un robotik yasaları ciddiye alınmıyor, aslında yanlış gidebilecekleri ve AI tarafından yanlış yorumlanabileceklerini göstermek için yapıldılar (elbette AI'nın bunları tamamen görmezden gelip kendi isteklerini telafi edecek kadar akıllı olmadığını varsayarlar) niyetler ve hedefler) ve hikayelerin konusu buydu. Bu videoya bakın .
llamas tanrısı

@godofllamas: Teklifin için teşekkürler, cevabı uygun şekilde güncelledim. Asimov yasalarına göre, AFAIK, sıfırıncı yasa , Asimov'un hikayelerinde (as) üç orijinal kanunun (ab) kullanılmasının pek çok yolundan kaçınmak için kesin olarak tasarlandı. Her neyse, bir AI'nın, bir şekilde kötüye kullanılması ve daha fazla zarar görmemesi için Asimov'un yasaları veya başka herhangi bir şey gibi bir şekilde sınırlandırılması gerekir.
3442,

İnsanların yapamayacağı şeyleri anlamak AI'da tekillik teorisinin bir gereği değildir. Makineler insanların anladıklarının yalnızca% 1'ini anlayabilse ancak her yıl bu anlayış düzeyini iki katına çıkarsa, tekillik gerçekleşecekti. Makine hiçbir zaman niteliksel olarak insan beynini aşmadıysa bile, daha hızlı veya daha güvenilir bir şekilde işleyebilseydi, yine de üstünlük sergiler ve muhtemelen hâkimiyet kazanırdı.
FauChristian

3

“Tekillik” kavramı, makinelerin insanlara üstün gelmesidir. Stephen Hawking, bu durumun kaçınılmaz olduğu görüşünde olsa da, bu noktaya ulaşmanın çok zor olacağını düşünüyorum, çünkü her AI algoritmasının insanlar tarafından programlanması gerekiyor, bu yüzden yaratıcısından her zaman daha sınırlı olacak.

İnsanlığın süper akıllı yapay zekanın insanlarla rekabet halinde olacağı Yapay Zeka üzerindeki kontrolünü kaybettiği ve belki de daha sofistike zeki varlıklar yaratacağı bu noktanın ne zaman ortaya çıkacağını muhtemelen biliyorduk, ama şu anda daha çok bilim kurgu ( Terminator'ın Skynet'i ) gibi.

Risk, insanları öldürmeyi (kendi kendine uçan savaş uçağı gibi ) kendi kararlarını vermeyi, ülkeleri ve hatta tüm gezegeni yok etmeyi (nükleer silahlara bağlı yapay zekâ (aka WarGames filmi) gibi) içerebilir ; makineler insanlardan daha akıllı olurdu.


“Her AI algoritmasının insanlar tarafından programlanması gerekiyor” -> AI'nın arkasındaki genel fikir, makinelerin kendi programlarını geliştirerek öğrenebilecekleridir. Teorik olarak, bu sonuçta makinelerin bizden daha zeki hale gelmesine ve sırayla daha iyi AI ile sonuçlanacak insanlar tarafından yazılan herhangi bir algoritmadan daha üstün algoritmalar oluşturabilmelerine neden olabilir.
John Slegers

"Her AI algoritmasının insanlar tarafından programlanması gerekir, bu nedenle yaratıcısı her zaman daha sınırlı olacaktır" - bu ilginç bir argümandır. takipçiler karşı argümanlardır -1) AI'nın zekasını kodlamamıza gerek yoktur. AI'yı gözlemleme, anlama ve anlama yeteneği için kodlamamız gerekir. Bundan sonra, muhtemelen, yeterince daha fazla işlem gücü ve daha hızlı olanları eklemek, AI'nın bizden daha iyi öğrenmesini ve kavramasını sağlayacaktır. 2) Ayrıca, 1000 kişi bir AI oluşturmak için beynini uygularsa, AI 1'den daha fazla zekaya sahip olabilir. insan.
akm

Algoritmaların insanlar tarafından programlanması gerekmez. Algoritmaları dönüştürmek, mutasyona tabi tutmak, optimize etmek, değerlendirmek ve seçmek mümkün ve aslında biraz yaygındır; ve makineler zaten bazı şekillerde ve oldukça sık insanlara zekâsı.
FauChristian

3

AI bağlamında tekillik, aşağıdaki kriterlere sahip akıllı bir sistemin konuşlandırıldığı teorik bir olaydır.

  1. Kendi istihbarat menzilini iyileştirme veya böyle bir gelişmiş menzil ile başka bir sistemi yerleştirme yeteneğine sahip
  2. İstekli veya yapmaya mecbur
  3. İnsan gözetimi olmadan bunu yapabilir
  4. Geliştirilmiş versiyon, (1) ila (3) arasındaki kriterleri yinelemeli olarak koruyor

İndüksiyonla teori daha sonra, beyin gelişiminin potansiyel oranını büyük ölçüde aşabilecek potansiyel bir istihbarat artışı oranıyla bir olaylar dizisinin ortaya çıkacağını öngörür.

Kendini geliştiren bu varlık veya işlenmiş varlıkların popülasyonunun, insan yaşamını ve özgürlüğünü korumak ne kadar zorlayıcı olacağı belirsizdir. Böyle bir yükümlülüğün değiştirilemez bir yazılım sözleşmesinin bir parçası olabileceği fikri, yukarıdaki (1) ile (4) arasındaki kriterlere bağlı olan yeteneklerin niteliği ışığında saftır. Diğer güçlü teknolojilerde olduğu gibi, riskler de potansiyel faydalar kadar sayısız ve geniş kapsamlıdır.

İnsanlığa yönelik riskler istihbarat gerektirmez. Tekillik teriminin kullanımına ilişkin başka bağlamlar da vardır, ancak bunlar bu AI forumunun kapsamı dışındadır, ancak netlik için kısa bir kayda değer olabilir. Genetik mühendislik, nükleer mühendislik, küreselleşme ve uluslararası bir ekonominin sınırlı enerji kaynağına dayandırılması, dünyada ortaya çıktıklarından binlerce kat daha hızlı tüketiliyor - Bunlar, risklerin yanı sıra fayda sağlayan riskler içeren yüksek riskli teknolojilerin ve kitlesel eğilimlerin diğer örnekleri. insanlığa.

AI'ya geri dönersek, tekillik teorisindeki ana uyarı, olasılıkları birleştirememesidir. Yukarıdaki (1) ila (4) arasındaki kriterlere uyan bir varlık geliştirmek mümkün olsa da, ilk olay Dünyada konuşulan tüm mevcut diller öldükten çok sonra gerçekleşmesi için yeterince olanaksız olabilir.

Olasılık dağılımının diğer ucunda, kolayca ilk olayın meydana geldiği sıfır olmayan bir olasılık olduğu iddia edilebilir.

Bu hatlar boyunca, İnternet üzerinde daha önceden var olan daha akıllı bir varlık varsa, kendisini daha düşük insanoğluna göstermenin en iyi çıkarına çıkması ne kadar muhtemel olurdu. Kendimizi geçen bir kurtçukla mı tanıştırıyoruz?


Açıklama için teşekkürler. Kavramsal olarak, bu koşulların pratikte nasıl görüneceğini, özellikle de 1) kavrayamadığımı itiraf etmeliyim. Tahminen, az ya da çok tanımlanmış bir girdi ve çıktı kümesi ile bir algoritma uygulanmaktadır. Bunun 1) 'in doğru olmasını değiştirdiğini varsaymak zorunda mıyız? Neden herhangi bir insan geliştirici, en azından kontrolsüz bir şekilde, AGI seviyesinden çok önce bile izin vermeyi seçti? Ve ... bu naif bir soru mu? :)
Cpt Reynolds

0

Dar bir şekilde görülen “tekillik”, ekonomik büyümenin o kadar hızlı olduğu bir noktaya atıfta bulunur; bu noktadaki gelecekteki geçmişin neye benzeyeceği hakkında faydalı tahminlerde bulunamayız.

Sıklıkla “istihbarat patlaması” ile eşzamanlı olarak kullanılır; bu, Güçlü AI olarak adlandırılan ve kendisini anlayacak ve geliştirecek kadar akıllı olan AI'dır. İstihbarat patlamasının derhal ekonomik bir tekilliğe yol açacağını beklemek makul görünüyor, ancak bunun tam tersi doğru değil.

Sitemizi kullandığınızda şunları okuyup anladığınızı kabul etmiş olursunuz: Çerez Politikası ve Gizlilik Politikası.
Licensed under cc by-sa 3.0 with attribution required.