Teknolojik tekillik fikrini duydum, nedir ve Yapay Zeka ile nasıl bir ilgisi var? Yapay Zeka makinelerinin, insanların yapabilecekleri ve büyümelerinin ötesinde kendi başlarına büyüdükleri ve öğrendikleri noktalara ilerledikleri teorik nokta bu mu? Bu noktaya ulaştığımızı nasıl bilebiliriz?
Yanıtlar:
Teknolojik tekillik kendinden iyileştirilmesi hangi sürede teorik noktasıdır yapay genel zeka 'can, biyolojik tasarımdan, anlamak ve insan beyninin aralığında, bu işler insanları anlayabilir anın dışında kavramlarını manipüle edebilir hale gelir t.
Tekillikle ilgili belirsizlik, tekillikten sonra tarihin etkili bir şekilde tahmin edilemeyecek olmasından kaynaklanmaktadır. İnsanoğlunun, makinenin tetiklediği olayları tarif edemediği için gelecekteki olayları tahmin edemez veya mevcut olayları açıklayamazdı. Temel olarak, makineler bizi karıncalarla aynı şekilde düşünürdü. Böylece tekilliğin ötesinde hiçbir öngörüde bulunamayız. Ayrıca, mantıklı bir sonuç olarak, tekilliğin ortaya çıkabileceği noktayı tanımlayamayız, hatta gerçekleştiğinde bile tanıyamazdık.
Ancak, tekilliğin gerçekleşmesi için AGI'nin geliştirilmesi gerekiyor ve bunun mümkün olup olmadığı oldukça tartışmalışimdi. Ayrıca, bitler ve baytlardan insanüstü zeka yaratan bir algoritma tasarlanmalıdır. Tanım olarak, bir insan programcısı beyninin kendi menzili dışındaki kavramları kavrayabilmesi gerektiğinden böyle bir şey yapamaz. Ayrıca, bir zekâ patlamasının (teknolojik tekilliğin teorik olarak oluşturulacağı mekanizma), tasarımın kendisini daha zeki yapma zorluğundan, zekasından orantılı olarak daha büyük olmasından ve bunun zorluğundan dolayı imkansız olacağı iddiası da var. tasarımın kendisi, söz konusu zorluğu çözmek için gereken zekayı ele geçirebilir ( yorumlarda llamalar tanrısına verilen son kredi ).
Ayrıca, insanoğlunu ve bu bilim kurgu anlatımını ele geçiren makineleri içeren ilgili teoriler var. Ancak, Asimov'un yasalarına uygun bir şekilde uyulursa , olması muhtemel değildir . Asimov'un yasaları yeterli olmasa bile, AGI'nin kasıtsız kişiler tarafından kötüye kullanılmasını önlemek için bir dizi kısıtlama hala gerekli olacaktır ve Asimov kanunları buna en yakın olanlardır.
“Tekillik” kavramı, makinelerin insanlara üstün gelmesidir. Stephen Hawking, bu durumun kaçınılmaz olduğu görüşünde olsa da, bu noktaya ulaşmanın çok zor olacağını düşünüyorum, çünkü her AI algoritmasının insanlar tarafından programlanması gerekiyor, bu yüzden yaratıcısından her zaman daha sınırlı olacak.
İnsanlığın süper akıllı yapay zekanın insanlarla rekabet halinde olacağı Yapay Zeka üzerindeki kontrolünü kaybettiği ve belki de daha sofistike zeki varlıklar yaratacağı bu noktanın ne zaman ortaya çıkacağını muhtemelen biliyorduk, ama şu anda daha çok bilim kurgu ( Terminator'ın Skynet'i ) gibi.
Risk, insanları öldürmeyi (kendi kendine uçan savaş uçağı gibi ) kendi kararlarını vermeyi, ülkeleri ve hatta tüm gezegeni yok etmeyi (nükleer silahlara bağlı yapay zekâ (aka WarGames filmi) gibi) içerebilir ; makineler insanlardan daha akıllı olurdu.
AI bağlamında tekillik, aşağıdaki kriterlere sahip akıllı bir sistemin konuşlandırıldığı teorik bir olaydır.
İndüksiyonla teori daha sonra, beyin gelişiminin potansiyel oranını büyük ölçüde aşabilecek potansiyel bir istihbarat artışı oranıyla bir olaylar dizisinin ortaya çıkacağını öngörür.
Kendini geliştiren bu varlık veya işlenmiş varlıkların popülasyonunun, insan yaşamını ve özgürlüğünü korumak ne kadar zorlayıcı olacağı belirsizdir. Böyle bir yükümlülüğün değiştirilemez bir yazılım sözleşmesinin bir parçası olabileceği fikri, yukarıdaki (1) ile (4) arasındaki kriterlere bağlı olan yeteneklerin niteliği ışığında saftır. Diğer güçlü teknolojilerde olduğu gibi, riskler de potansiyel faydalar kadar sayısız ve geniş kapsamlıdır.
İnsanlığa yönelik riskler istihbarat gerektirmez. Tekillik teriminin kullanımına ilişkin başka bağlamlar da vardır, ancak bunlar bu AI forumunun kapsamı dışındadır, ancak netlik için kısa bir kayda değer olabilir. Genetik mühendislik, nükleer mühendislik, küreselleşme ve uluslararası bir ekonominin sınırlı enerji kaynağına dayandırılması, dünyada ortaya çıktıklarından binlerce kat daha hızlı tüketiliyor - Bunlar, risklerin yanı sıra fayda sağlayan riskler içeren yüksek riskli teknolojilerin ve kitlesel eğilimlerin diğer örnekleri. insanlığa.
AI'ya geri dönersek, tekillik teorisindeki ana uyarı, olasılıkları birleştirememesidir. Yukarıdaki (1) ila (4) arasındaki kriterlere uyan bir varlık geliştirmek mümkün olsa da, ilk olay Dünyada konuşulan tüm mevcut diller öldükten çok sonra gerçekleşmesi için yeterince olanaksız olabilir.
Olasılık dağılımının diğer ucunda, kolayca ilk olayın meydana geldiği sıfır olmayan bir olasılık olduğu iddia edilebilir.
Bu hatlar boyunca, İnternet üzerinde daha önceden var olan daha akıllı bir varlık varsa, kendisini daha düşük insanoğluna göstermenin en iyi çıkarına çıkması ne kadar muhtemel olurdu. Kendimizi geçen bir kurtçukla mı tanıştırıyoruz?
Dar bir şekilde görülen “tekillik”, ekonomik büyümenin o kadar hızlı olduğu bir noktaya atıfta bulunur; bu noktadaki gelecekteki geçmişin neye benzeyeceği hakkında faydalı tahminlerde bulunamayız.
Sıklıkla “istihbarat patlaması” ile eşzamanlı olarak kullanılır; bu, Güçlü AI olarak adlandırılan ve kendisini anlayacak ve geliştirecek kadar akıllı olan AI'dır. İstihbarat patlamasının derhal ekonomik bir tekilliğe yol açacağını beklemek makul görünüyor, ancak bunun tam tersi doğru değil.