Yapay zekada neden sağduyuya ihtiyacımız var?

Bu örneği ele alalım:

John'un doğum günü, hadi ona uçurtma alalım.

Biz insanlar büyük ihtimalle uçurtmanın neden satın alındığı sorulursa bir doğum günü hediyesi olduğunu söyleyebiliriz; ve bu akıl yürütmeye sağduyu diyoruz .

Neden yapay zekalı ajanlarda buna ihtiyacımız var? İnsan hatalarımızın çoğuna bu belirsiz varsayımlardan kaynaklandığından, bunun birçok soruna neden olabileceğini düşünüyorum.

Bir yapay zekanın belirli şeyleri yapmayı görmezden geldiğini düşünün, çünkü onun ortak aklını kullanarak başka biri (veya başka bir AI) tarafından zaten yapıldığını varsayar.

Bu yapay zeka sistemlerine insani hatalar getirmez mi?

Sağduyu bilgisi , belirli bir bağlamda (dolayısıyla sağduyu bilgisinin bağlamın bir işlevi olabileceği) herkesin verdiği varsayımların toplanmasıdır. Yapay zeka sağduyu bilgisine sahip olmasaydı, insan ve yapay zeka arasında çok fazla yanlış iletişim olurdu. Bu nedenle, sağduyu bilgisi insan-AI etkileşimi için esastır .

Ayrıca her insanın ülkeden, kültürden veya genel olarak bağlamdan bağımsız olarak aldığı varsayımlar da vardır. Örneğin, her insanın (neredeyse doğumundan beri) uzay, zaman ve fiziksel etkileşimler gibi saf fizik hakkında akıl yürütme mekanizması vardır. Bir yapay zeka bu bilgiye sahip değilse, bu bilgiyi gerektiren görevleri yerine getiremez.

Bir makinenin sağduyu bilgisine ( ortalama bir insanın) sahip olmasını gerektiren herhangi bir görevin AI-tamamlanmış olduğuna inanılır , yani insan düzeyinde (veya genel) zeka gerektirir. Christian Andrich, Leo Novosel ve Bojan Hrnkas'ın Common Sense Knowledge (2009) makalesinin 3. bölümüne bakın .

Tabii ki, insanlar farklı varsayımlar veya binalar nedeniyle iletişim kurarken ortaya çıkan sorunlar, insanlar ve AI'lar (sağduyu bilgisine sahip) arasında da ortaya çıkabilir.

Bilgisayarları almak istiyorsak, bu tür sağduyu bilgisine ihtiyacımız var. insan dilini anlamasını . Bir bilgisayar programının verdiğiniz örneğin gramer yapısını analiz etmesi kolaydır, ancak anlamını anlamak için burada "sağduyu" olarak adlandırdığınız olası bağlamları bilmemiz gerekir.

Bu Roger Schank ve ark. Bilgisayarın hikayeleri anlama üzerine çalışması ve bilgi temsili, senaryolar, planlar, hedefler hakkında birçok araştırmaya yol açar. Schank'ın çalışmalarından bir örnek Mary'nin aç olduğudur . Bir Michelin Rehberi aldı. - bu sıralı olmayan bir şey gibi görünüyor: açsanız, neden bir kitap almalısınız? Bir restoran rehberi olduğunu ve Mary'nin muhtemelen yemek için bir restorana gitmeyi planladığını anlayana kadar. Bir restorana gitmenin aç olma sorununa potansiyel bir çözüm olduğunu biliyorsanız, bu hikaye parçasını anlamakta sorun yaşamazsınız.

Herhangi bir hikayenin anlaşılması için sağduyuya ihtiyaç vardır, çünkü hiçbir hikaye tamamen açık değildir. Ortak şeyler "anlaşılır" ve açıkça belirtilmez. Hikayeler insan deneyimi ile ilgilidir ve her şeyi açık bir hikaye muhtemelen bir bilgisayar programı gibi okunur. Ayrıca, bir öyküdeki karakterlerin nasıl davrandığını ve neler olduğundan nasıl etkilendiğini anlamak için sağduyulu olmanız gerekir. Yine, bu çok öznel, ama gerekli. Bazı sağduyu genel olarak uygulanabilir, diğer yönleri olmayacaktır. Bu karmaşık bir konudur, bu yüzden araştırmacılar en az yarım yüzyıl AI araştırmaları için onunla mücadele ettiler.

Tabii ki bu bir AI sistemine "insan hataları" getirecektir. Bütün bunlar çok öznel ve kültüre özgüdür. ABD'de bir restorana gitmek, Fransa'da bir restorana gitmekten farklıdır - bu yüzden yurtdışına çıkmak zor olabilir. Ve bir hikaye okumam muhtemelen sizinkinden farklı olacak. Ama eğer insan zekasını simüle etmek istiyorsanız, bunu potansiyel insan "hataları" olmadan yapamazsınız.

Bu soruya birkaç kısım cevap vereceğim:

AGI sistemlerinin neden sağduyulu olması gerekir?

İnsanlar vahşi nedenlerle ve sağduyu kullanarak katı mantıkla iletişim kurduklarından daha fazla iletişim kurarlar, bunu birisinin duygularına mantıktan daha kolay hitap etmenin daha kolay olduğunu belirterek görebilirsiniz. Dolayısıyla, insan bilişini (AGI'de olduğu gibi) tekrarlamaya çalışan herhangi bir sistem de sağduyu kullanma eğilimini tekrarlamalıdır.

Daha basit bir ifadeyle, AGI sistemimizin bizimle sağduyu dilinde konuşabilmesini diliyoruz, çünkü en iyi anladığımız şey budur (aksi takdirde dost AGI'mizi anlayamazdık?). Geniş teori ve katı mantık teknik olarak doğru olabilir, ancak anlayışımıza hitap etmiyor.

AGI'nin hedefi en bilişsel olarak ilerleyen sistemi yaratmak değil midir? "En mükemmel" AGI sisteminin neden bu anlamda kusurlar ve yanlışlık ile genel anlamda mevcut olması gerekir?

Birincisi, sadece olabilir görünür sağduyu mantığı "irrasyonel" olduğunu durum olması. Belki de sağduyu modellemenin tutarlı bir matematiksel yolu vardır, böylece sağduyu tüm incelikleri katı bir şekilde temsil edilir.

İkincisi, Yapay Zekanın ilk çalışması, araştırmacıların "aklın algoritmalarını" veya daha doğrusu: insan düşüncesini kopyalayan karar verilebilir prosedürleri kopyalamaya çalıştığı bilişsel bilim çalışmasında başladı. O zamana kadar, AI çalışması “en yüce bilişsel ajanı” yaratmak değil, yalnızca insan düşüncesini / davranışını çoğaltmaktır. İnsan davranışını tekrarlayabildiğimizde, ona daha fazla hesaplama gücü vererek süper insan bir şey yaratmaya çalışabiliriz, ancak bu garanti edilmez.

AGI sistemlerinde neden sağduyunun gerekli olduğunu hala anlamıyorum. AGI en akıllı ve güçlü hesaplama sistemi olmakla ilgili değil mi? Neden sağduyu gerektiren insan anlayışının sınırlarına uymalı veya uymalı?

Belki de o zaman AGI'nin neyi gerektirdiğine dair biraz yanlış hizalanmış bir anlayışınız vardır. AGI sınırsız hesaplama gücü ( Bremermann'ın sınırı gibi hesaplama üzerindeki fiziksel kısıtlamalar nedeniyle fiziksel olarak imkansız ) veya sınırsız zeka (belki de önceki kısıtlama nedeniyle belki de fiziksel olarak imkansız) anlamına gelmez . Genellikle sadece yapay "genel zeka" anlamına gelir, genel anlamı geniş ve yaygındır.

Sınırsız aracılarla ilgili hususlar, kuramsal bilgisayar bilimi (inandığım tip teorisi), karar teorisi ve hatta belki de sınırsız hesaplama gücüne sahip aracılar hakkında sorular ortaya koyabileceğimiz set teorisi gibi alanlarda daha ayrıntılı olarak incelenmiştir. Sınırsız güce sahip bir AGI sisteminin bile Durdurma Sorunu nedeniyle cevaplayamadığı soruları olduğunu söyleyebiliriz , ancak sadece bu alanlardaki varsayımlar verilen AGI'nin yapısına eşleşiyorsa, bu doğru olmayabilir.

AGI'nin neyi gerektirebileceğini ve hedeflerini daha iyi anlamak için iki kitap önerebilirim: Yapay Zeka: John Haugeland'ın daha pragmatik bir yaklaşım için Çok Fikir (AI-felsefesinin pragmatik olabileceği ve Nesnelerin Kökeni Brian Cantwell Smith daha felsefi eğimli bir yaklaşım için.

Eğlenceli bir kenara, Zen koan'ın koleksiyonu: Gateless Gate, aşağıdaki pasajı içerir: ( wikipedia'dan alıntı ve düzenleme )

Bir keşiş Çinli Zen ustası Zhaozhou'ya "Bir köpek Buda doğası var mı değil mi?" Diye sordu. Zhaozhou yanıtladı, "Wú"

Wú (無), "hayır", "dokunmatik olmayan" veya "hiçbir şey" anlamına gelir; bu, evet veya hayır yanıtı vermekten kaçınmak için yorumlanabilir. Bu aydınlanmış birey her soruyu kesin olarak cevaplamaya değil, sadece mantıklı bir şekilde cevap vermeye çalışır. Köpeğin Buda-doğasına sahip olup olmadığı (Buda-doğası ne anlama gelirse gelsin) gerçekten önemli değildir, bu yüzden usta, sorunu çözmek yerine soruyu ortadan kaldırmak için varsayılan olarak kullanılır.

Belki de sağduyu olmadan neyin yanlış gidebileceğine dair bir örnek vermek yardımcı olacaktır: Ay'da bir inşaat amiri olan James Hogan'ın "Yarının İki Yüzü" romanının başlangıcında, otomatik bir sistemle bir talepte bulunuyor ve bunu soruyor. belirli bir büyük inşaat ekipmanı en kısa sürede sahasına teslim edilir. Sistem yirmi dakika içinde ulaşacağını söylüyor. Yirmi dakika sonra ekipman şantiyeye çarptığında amir öldürülür. Sistem, ekipmanı o bölgeye ulaştırmanın en hızlı yolunun, bir toplu sürücüye monte edip sahada çalıştırmak olduğunu belirlemişti. Söz konusu sistem sağduyulu olsaydı, sorguda 'ekipman sağlam olmalıdır', gibi sorgulanmamış ek kısıtlamalar çıkarırdı. ekipmanın gelmesi hasara veya can kaybına neden olmamalıdır 'vb. (romanın geri kalanı sağduyulu yeni bir sistem üretmek için tasarlanmış bir deneyi açıklar)

Bu sağduyu mu, yoksa bu doğal dil anlayışı mı?

Doğal dil anlayışının en zor yapay zeka görevlerinden biri olduğu söylenir. Bu, bunun nedenini gösteren örneklerden biridir. Cümlenin ilk kısmı, cümlelerin nasıl çalıştığı ikinci kısım ile ilgilidir.

Şimdi ilgili soru nasıl iki parça ilişkilidir. Karşılaştığımız birkaç standart ilişki vardır, örneğin geçici bir düzen. Bu spesifik örnekte, ilişkinin doğası bir sebep ve sonuca daha yakındır.

Bu ilişkiyi açık hale getirmek için bir kelime eklediğimizde bu etkiyi görürsünüz:

John'un doğum günü, bu yüzden ona bir uçurtma alalım. ya da John'a bir uçurtma alalım, çünkü onun doğum günü.

Bu, insanların bu örtülü ilişkileri açık hale getirmesi için bir tekniktir.

Şimdi, curiousdannii'nin belirttiği gibi, doğum günlerinin bir hediye için nasıl bir sebep olabileceğini anlamak için kültürel bilgiye de ihtiyacınız var. Hiçbir sağduyu buna yardımcı olmaz.