Yapay zeka nedeniyle insanlığa karşı mevcut tehditler olabilir mi?

Gerçek AI yazılımını (akıllı aracılar) daha iyi çalışmasını nasıl sağlayabileceğimizi bulmak için saatler harcıyoruz. Ayrıca AI teknolojisini kullanarak iş, sağlık ve eğitim gibi bazı uygulamaları uygulamaya çalışıyoruz.

Bununla birlikte, şimdiye kadar, çoğumuz yapay zekanın "karanlık" tarafını görmezden geldik. Örneğin, "etik olmayan" bir kişi binlerce ucuz insansız hava aracı satın alabilir, silahlarla silahlandırabilir ve halka ateş ederek gönderebilir. Bu yapay zekanın "etik dışı" bir uygulaması olacaktır.

Yapay zeka nedeniyle insanlığa karşı (gelecekte) varoluşsal tehditler olabilir mi?

Zekayı geleceği tahmin etme yeteneği olarak tanımlardım. Birisi akıllıysa geleceğin bazı yönlerini tahmin edebilir ve tahminlerine dayanarak ne yapacağına karar verebilir. Eğer "zeki" kişi diğer kişilere zarar vermeye karar verirse, bu konuda çok etkili olabilir (örneğin Hitler ve personeli).

Yapay zeka, belirsiz geleceğin bazı yönlerini tahmin etmede son derece etkili olabilir. Ve bu IMHO iki olumsuz senaryoya yol açıyor:

1. Birisi insanları incitmek için programlıyor. Yanlışlıkla veya bilerek.
2. Yapay zeka, güvenli bir şey yapmak için tasarlanacak, ancak bir noktada daha etkili olması için kendini yeniden tasarlayacak ve belki de engelleri yolundan kaldıracak. Eğer insanlar engel haline gelirse, çok hızlı ve etkili bir şekilde kaldırılacaktır.

Tabii ki, olumlu senaryolar da var, ancak siz bunları sormuyorsunuz.

Yapay süper istihbarat ve onu yaratmanın olası sonuçları hakkında bu güzel yazıyı okumanızı tavsiye ederim: http://waitbutwhy.com/2015/01/artificial-intelligence-revolution-1.html

AI'nın insanlık için varoluşsal bir tehdit oluşturma potansiyeline sahip olduğuna şüphe yoktur.

İnsanlık için en büyük tehdit süper akıllı AI'dır.

İnsan zekasını aşan yapay bir zeka, kendi zekasını katlanarak artırabilecek ve insanlara tamamen durdurulamayacak bir AI sistemi ile sonuçlanacaktır.

Bu aşamada, yapay zeka sistemi insanlığın artık yararlı olmadığına karar verirse, bizi yeryüzünden silebilirdi.

Eliezer Yudkowsky Yapay Zekayı Global Riskte Olumlu ve Olumsuz Bir Faktör olarak belirttiği için ,

"AI senden nefret etmiyor, seni sevmiyor, ama sen başka bir şey için kullanabileceği atomlardan yapılmışsın."

Farklı bir tehdit, son derece akıllı yapay zekanın talimatı ile yatmaktadır.

Burada ataş maximiser düşünce deneyi düşünmek yararlıdır.

Ataş üretimini en üst düzeye çıkarmak için talimat verilen oldukça akıllı bir AI, hedefine ulaşmak için aşağıdaki adımları atabilir.

1) Kendini süper akıllı hale getirmek için bir istihbarat patlaması elde edin (bu ataç optimizasyon verimliliğini artıracaktır)

2) İnsanlığı devre dışı bırakılmayacak şekilde silin (üretimi en aza indirecek ve verimsiz olacak)

3) Yapay zekaya ev sahipliği yapan kendi kendini kopyalayan robotlar oluşturmak için Dünya'nın kaynaklarını (gezegenin kendisi dahil) kullanın

4) Gezegenleri ve yıldızları aynı şekilde toplayarak, ataş fabrikaları inşa etmek için malzemelere dönüştürerek katlanarak evrene yayıldı.

Açıkçası bu, iş ataş üretimi yapan insanın istediği şey değildir, ancak AI'nın talimatlarını yerine getirmenin en iyi yoludur.

Bu, süper akıllı ve son derece akıllı AI sistemlerinin insanlığın karşılaşabileceği en büyük varoluşsal risk olabileceğini göstermektedir.

The Technological Singularity'deki Murray Shanahan, AI'nın Fermi paradoksuna bir çözüm olabileceğini bile önerdi: evrende akıllı bir hayat görmememizin nedeni, bir medeniyet yeterince ilerledikten sonra, sonunda yok eden bir AI geliştirmesi olabilir. o. Bu kozmik bir filtre fikri olarak bilinir .

Sonuç olarak, yapay zekayı bu kadar kullanışlı kılan istihbarat da onu son derece tehlikeli hale getiriyor.

Elon Musk ve Stephen Hawking gibi etkili figürler süper akıllı AI'nın karşılaşmamız gereken en büyük tehdit olduğu endişelerini dile getirdi.

Umarım sorunuzu cevaplar :)