Turing makineleri için kanıtlanmış durma problemi göz önüne alındığında, güçlü Yapay Zeka yeteneğine sınırlar getirebilir miyiz?
Turing makineleri için kanıtlanmış durma problemi göz önüne alındığında, güçlü Yapay Zeka yeteneğine sınırlar getirebilir miyiz?
Yanıtlar:
Durma sorunu insanın bilişinde herhangi bir sınırlama içeriyor mu?
Evet, kesinlikle - bir insanın bakabileceği kod parçaları var ve sonlu zamanda durup durmayacağından emin değilim. (Kesinlikle bir insanın kesinlikle "evet" ya da "hayır" diyebileceği ve söyleyebileceği kod parçaları vardır, ancak analiz edilmesi gerçekten zor olanlardan bahsediyoruz.)
Durma problemi, hiçbir bilgisayarın yapamayacağı kod analizi türleri olduğu anlamına gelir, çünkü matematik olarak imkansızdır. Ancak olasılık alanı hala güçlü yapay zekaya izin verecek kadar büyüktür (kendini geliştirecek kadar iyi anlayabilen kod anlamında).
Durma problemi, Kararsızlık olarak bilinen genel bir fenomenin bir örneğidir , bu da Turing makinesinin sınırlı bir sürede çözemediği problemler olduğunu gösterir. Bir Turing Makinesinin Rice teoremi adı verilen önemsiz olmayan bazı P özelliklerini karşılayıp karşılamadığının genelleştirilemeyeceğini düşünelim .
İlk olarak durma sorununun yalnızca Turing makinesi keyfi olarak uzun girdi alırsa geçerli olduğunu unutmayın. Giriş sınırlanmışsa, olası tüm durumları numaralandırmak mümkündür ve sorun artık çözülemez. Bunu hesaplamak hala yetersiz olabilir, ancak daha sonra ayrı bir soru olması gereken karmaşıklık teorisine yöneliyoruz.
Rice'ın teoremi, bir zekanın (bir insan), başka bir zekanın (AGI gibi) dostluk gibi belirli bir mülke sahip olup olmadığını belirleyemeyeceğini ima eder . Bu, Dostu bir AGI tasarlayamayacağımız anlamına gelmez, ancak keyfi bir AGI'nin dostu olup olmadığını kontrol edemeyeceğimiz anlamına gelir. Bu nedenle, dostça olması garanti edilen bir AI oluşturabilirken, BT'nin düşmanca olmayan başka bir AI oluşturamamasını da sağlamalıyız.