Etik neden mevcut AI sistemlerine daha entegre değildir?

Bilgisayar bilimlerinde doktora öğrencisiyim ve şu anda Machine Ethics'te (açık bir etik program veya ajan yaratmaya bakan felsefe ve yapay zekayı birleştiren multidisipliner bir alan) son teknoloji ürünü bir genel bakış oluşturuyorum. Alanın çoğunlukla teorik argümanlar içerdiği ve alanda teknik geçmişi olan birçok insan olmasına rağmen nispeten az uygulama olduğu görülmektedir.

Etiğin dahil olduğu için, temel bir gerçek olmadığı ve felsefenin bir parçası olduğu için, hangi tür etiğin uygulanması gerektiğini ve bunun en iyi nasıl yapılabileceğini tartışmaktan kaybolabileceğinizi anlıyorum. Ancak, bilgisayar biliminde, yaklaşımınızın olasılıklarını veya sınırlamalarını göstermek için basit bir uygulamayı denemek normaldir.

Yapay zekada etiğin açıkça uygulanmasında ve onunla denenmesinde çok az şey yapılmasının olası nedenleri nelerdir?

Bu mutlaka üst düzey bir cevaptır ve oldukça spekülatiftir, ancak bu soruyu düşünüyorum ve işte düşüncelerim:

• Etik algoritmalar uygulamak felsefe için matematiksel bir temel gerektirir çünkü bilgisayarlar fark motorlarıdır

Russell & Whitehead'in ünlü başarısızlığı ve Gödel'in eksiklik teoreminden sonra, bu sorunlu görünmektedir.

• Yapay zeka, özellikle bugün derin öğrenmenin sürekli olarak doğrulanması için oldukça uygulanmış bir alandır ve hiçbir şirket,

Böylece, kendi kendini süren otomobillerde görüyorsunuz çünkü mühendislerin problemle uğraşmaktan başka seçeneği yok. Buna karşılık, işin Pareto etkinliği olduğu , finansal spekülasyonun etik veya sosyal etkileri hakkında endişe duyduğu birçok algoritmik hisse senedi ticaret şirketi göreceğinizi sanmıyorum . ("Flash çökmelerine" çözüm, yüksek frekanslı algoritmik ticaretin sosyal değerini ele almak yerine geçici ticaretin askıya alınması için kurallar gibi görünüyor.) Daha açık bir örnek, aşırı miktarda bilgi kötüye kullanımını (dezenformasyon) göz ardı eden sosyal medya şirketleri. ve yanlış bilgilendirme) sitelerinde yayınlanmakta, bilginin kötüye kullanılmasıyla oluşturulan etkinliğin alt satırlarını olumlu etkilemesinden şüphelenen cehalet yalvarmaktadır.

• Uygulanan alanlar ağırlıklı olarak kârla yönlendirilme eğilimindedir

Şirketlerin ana direktifi yatırımcılara kâr getirmektir. Para cezalarının ve cezaların yasadışı faaliyetlerden elde edilen kârdan daha az olması bekleniyorsa şirketlerin yasayı çiğnemesi nadir değildir. (İş dünyasında etik kavramı vardır, ancak kültür genel olarak insanları ve şirketleri, araçlardan bağımsız olarak ne kadar para kazandıklarına göre değerlendiriyor gibi görünmektedir.)

• Makine etiğinin uygulanması, ürünü satmak için gerekli oldukları alanlarda araştırılmaktadır, ancak başka yerlerde hala büyük ölçüde varsayımsaldır.

Süper anlaşmazlıklar gelişir ve insanlığı silerse (üstün matematik becerilerine sahip bazı akıllı insanlar bizi uyarıyorsa), benim düşüncem, bu algoritmaların sınırsız evriminin hiper odaklanan ekonomik sürücülerden kaynaklandığı doğanın bir işlevi olacağıdır. finansal spekülasyon ve otonom savaş gibi sektörlerde partili otomata. Esasen, etkileri ne olursa olsun, her ne pahasına olursa olsun kâr peşinde koşmak.

AI / ML teknolojilerinin etik uygulamalarında neden çok az şey olduğu konusundaki sorunun bir kısmını hissediyorum, bunun nedeni teorik çerçevelerin gereği veya doğru uygulanmasına gerek olmamasıdır.

Bununla demek istediğim, bu anlayışı anlamlı bir şekilde etkileşime giremeyen algoritmalara ve modellere uygulayabileceğimiz önemli bir yol yoktur. Yapay zeka güvenliği / ahlak konusunda böyle geniş bir teorik çerçevemiz var, çünkü bu son derece önemlidir. Güçlü AI oluşturulmadan önce uygulanması için güvenli yönergeler bulmamız gerekir .

Çok odaklanmış bazı makaleler etik / güvenli AI sistemleri oluşturma konusundaki sorunları daraltmaya başlamıştır. AI Güvenliğinde Somut Sorunlar konusuna bakın

Taklit yöntemiyle, en uygun davranış yapay zekaya entegre edilebilir. Yapay zeka, etik konum değiştiğinde yeniden şekillendirilebilir. İdeolojik amaç veya bilgi toplamak için kullanılır. Robotun ne olduğu belli değil.

Hata modelini muhasebeciye alabiliriz. Sinir ağları altındaki performans arasındaki sapma ve varyansı tanımak ilk adım olabilir. Ve sonra böyle bir performansa izin verilip verilmediğini tartışabiliriz. Bildiğimiz kadarıyla, etnik bilimi uygulamak ampirik ve alan araştırması gerektirir. öğrenilen makinelerin yaptıklarının yanlış olup olmadığını belirlemek için mantıklı ve kağıt denemeler yapamayız. Ayrıca kazalar, hatalar ve hatta geliştiricilerin yarattığı hatalara ayrılabilir.

Sezgisel olarak, AI etiğinin uygulanması konusunda çok az araştırma olduğu için öyle görünüyor çünkü:

1. Toplum bir bütün olarak, makine istihbaratının mevcut durumunun, bilinçli ya da duyarlı olarak kabul edilebilecek kadar güçlü olmadığını rahatlıkla kabul ediyor gibi görünmektedir. Dolayısıyla etik haklar vermemize gerek yok (henüz).

2. Etik davranışın bir programa uygulanması, bilgisayarların henüz nasıl yapacağımızı bilmediğimiz "anlamı" yorumlayabilmeleri için bir yöntem gerektirir.