Asimov Yasaları tasarım gereği kusurlu mu, yoksa pratikte uygulanabilir mi?

Isaac Asimov'un ünlü Üç Robotik Yasası , Asimov'un bilim kurgu öyküleri bağlamında ortaya çıktı. Bu hikayelerde, üç yasa zamansız veya manipüle edilmiş durumların tahribattan patlamasını önlemek için bir güvenlik önlemi olarak hizmet eder.

Daha sık olmamakla birlikte, Asimov'un anlatıları onları kırmanın bir yolunu bulacak ve yazarı yasaların kendisinde birkaç değişiklik yapmaya yönlendirecekti. Örneğin, onun hikayeleri bazılarında, o Birinci Kanunu değiştirilmiş , dördüncü (veya sıfırıncı) Kanun eklendi , hatta tamamen tüm Yasalar çıkarıldı .

Bununla birlikte, popüler kültürde ve hatta AI araştırması alanında bile, Robotik Yasalarının oldukça ciddiye alındığını iddia etmek kolaydır. Yasaların farklı, sübjektif ve karşılıklı olarak münhasır yorumlarının yan sorununu göz ardı ederek, yasaların tasarımları ile özünde kusurlu olduğunu kanıtlayan veya alternatif olarak, gerçekte kullanmak için yeterince güçlü herhangi bir argüman var mı? Benzer şekilde, daha iyi, daha sıkı bir güvenlik buluşsal yöntemi de bu amaç için tasarlanmış mı?

Asimov yasaları uygulamada kullanılacak kadar güçlü değildir. Güç, İngilizce kelimelerle yazıldıkları için, öncelikle herhangi bir anlam ifade etmek için öznel olarak yorumlanmaları gerektiği düşünülürken bile dikkate alınmaz. Burada iyi bir tartışma bulabilirsiniz .

Bir alıntıyı yazmak için:

Bunları nasıl tanımlıyorsunuz? Neredeyse her konuda bir tavır almak zorunda kalmadan "insan" ı nasıl tanımlarsınız? Ve eğer "insan" yeterince zor olmasaydı, o zaman "zarar" tanımlamanız gerekir ve aynı sorunu tekrar yaşarsınız. İnsan sezgisine dayanmayan bu kelimeler için verdiğiniz neredeyse kesin ve kesin tanımlar, felsefenin tuhaf tuhaflıklarıyla sonuçlanır ve AI'nızın gerçekten yapmak istemediğiniz bir şey yapmasına yol açar.

Asimov'un bunu bilecek kadar akıllı olduğunu ve hikaye yazma ile gerçek dünyadaki AI kontrol protokollerini tasarlamaktan daha fazla ilgilendiğini kolayca hayal edebilirsiniz.

Neuromancer romanında , AI'ların muhtemelen birbirlerine karşı kontrol görevi görebilecekleri önerildi. Ray Kurzweil'in yaklaşmakta olan Tekillik ya da hiper-akıllı AGI'lerin olasılığı, insanların AI'ları kontrol etme olasılıklarının çoğunu bırakmayabilir ve akran düzenlemeyi tek mümkün olasılık olarak bırakır.

Eliezer Yudkowsky ve diğerlerinin, Yudkowsky'nin konuşma yeteneğine sahip süper akıllı bir AI rolü oynadığı, ancak kilitli bir kutunun dışında başka bir bağlantı olmadığı bir deney yaptığını belirtmek gerekir . Meydan okuyanlar, AI'yı her ne pahasına olursa olsun kutuda tutmakla görevlendirildi. Yudkowsky iki kere kaçtı.

Asimov, üç yasayı , ilk başta ne kadar makul görünse de, hiçbir üç kanunun yeterli olmadığını kanıtlamak için özel olarak yaptı . Adamı tanıyan bir adam tanıyorum ve bunu doğruladı.

Asimov'un ilk robotik yasasını düşünün:

Bir robot bir insana zarar vermeyebilir veya eylemsizlik yoluyla bir insanın zarar görmesine izin vermeyebilir.

Kendi kendini süren arabalar dikkate alındığında bu yasa zaten sorunludur.

Buradaki sorun ne? Eh, muhtemelen arabası problemi olarak bilinen etik klasik düşünce deneyine aşina olacaksınız . Sorunun genel şekli şudur:

Araba onlar için düz başlı. Bir avlunun yanında, tren kolunda biraz uzakta duruyorsunuz. Bu kolu çekerseniz, araba farklı bir ray setine geçecektir. Ancak, yan yolda bir kişi olduğunu fark ettiniz. İki seçeneğiniz vardır: (1) Hiçbir şey yapmayın ve araba ana yoldaki beş kişiyi öldürür. (2) Arabayı bir kişiyi öldüreceği yan yola yönlendirerek kolu çekin. Hangisi doğru seçim?

Kaynak: Wikipedia

Kendi kendini süren otomobillerin gerçekte tramvay problemine gerçek hayattaki varyasyonları uygulaması gerekir, bu da temel olarak kendi kendini süren otomobillerin insanları öldürmek için programlanması gerektiği anlamına gelir .

Tabii ki bu, TÜM robotların öldürmek için programlanması gerektiği anlamına gelmez, ancak kendi kendine giden arabalar, yapacak bir robot türüne iyi bir örnektir.