Bir poset üzerinden monotonik bir yüklem öğrenmek için en kötü soru sayısı


15

n öğe (X,)üzerinde sonlu bir postayı düşünün ve P , X üzerinde bilinmeyen bir monotonik yüklem (yani herhangi bir x , y X , eğer P ( x ) ve x y sonra P ( y ) ise ). P'yi bir x x X düğümü sağlayarak ve P ( x ) 'in tutup tutmadığını bularak değerlendirebilirim . Amacım x düğümü setini tam olarak belirlemeknPXxyXP(x)xyP(y)PxXP(x)xX , öyle kiP(x) birkaç değerlendirmeler olarak kullanılarak, tutanP mümkün. (Sorgularımı önceki tüm sorguların cevabına bağlı olarak seçebilirim, tüm sorguları önceden planlamam gerekli değildir.)

Bir strateji S üzerinde (X,) herhangi yüklem üzerinde şimdiye kadar koştum sorgular ve bunların cevapları, düğüm sorguya ve teminat altın bir fonksiyonu olarak, bana söyler bir fonksiyondur P , strateji izleyerek, Tüm düğümlerde değerini bildiğim bir duruma ulaşacağım P. İşletim süresi r(S,P) ve S mesnet üzerinde P sorgu sayısı değerini bilmek için gerekli olan P tüm düğümlerde. En kötü çalışma süresi S olduğu wr(S)=maxPr(S,P) . Optimal bir stratejiS ,şekildedirwr(S)=minSwr(S) .

Sorum şu: giriş girişi olarak verildiğinde (X,), en uygun stratejilerin en kötü çalışma süresini nasıl belirleyebilirim?

[Boş bir poşet için açıktır n sorgular ihtiyaç olacaktır (biz tek tek her düğüm hakkında sormak gerekir) ve bir toplam sipariş etrafında söz konusu log2n sorguları ihtiyaç olacaktır (sınır bulmak için ikili arama yapıyor ). Daha genel bir sonuç aşağıdaki bilgiler-teorik alt sınırı: yüklem için olası seçim sayısı P sayısı NX ait antichains arasında (X,) monoton önermeler arasında bire-bir eşleme vardır, çünkü ( antichains maksimal olarak elementler şeklinde yorumlanabilir PHer sorgu bize bir bit bilgiyi verir çünkü), bu yüzden, biz en azından gerekir önceki iki vaka subsuming, sorgular. Bu sıkı mı, yoksa yapısı asimptotik olarak antikasit sayısından daha fazla sorgu gerektirebilecek şekildedir mi?]log2NX


2
Bu konu hakkındaki önceki sorunuzdan farkı nedir? cstheory.stackexchange.com/questions/14772/…
Suresh Venkat

1
Anlaşıldı, benzer, ancak burada tam kafes gibi görünmeyen küçük genişlikteki posterler de dahil olmak üzere genel pozlarla ilgileniyorum. Ayrıca, art arda karmaşıklığı veya bu türden herhangi bir şeyi umursamıyorum, sadece postanın seçiminin bir fonksiyonu olarak gerekli olan sorguların sayısında. Bu ayarda boolean fonksiyon yorumlaması uygulanamaz ve cevap bir şekilde postanın "yapısına" bağlıdır (belki de önerdiğim gibi antiklinal sayısı). Umarım bu ayrı bir soru gerektirir, eğer yanılmışsam lütfen kapatın.
a3nm

1
FYI, karmaşıklık literatüründe, tanımladığınız stratejilere tipik olarak "karar ağaçları" denir ve standart bir yükseklik (ilgilendiğiniz ölçü) ve büyüklük kavramına sahiptirler.
Joshua Grochow

Teşekkürler Joshua! Bunun az ya da çok farkındayım, sadece oyun teorisinden kelime dağarcığını kullanmanın daha basit olduğunu düşündüm, ama evet, stratejinin bir ağaç olarak görülebileceğinin farkındayım.
a3nm

1
(Sorun değil. Bu arada, sadece bir ağaç olarak görülebileceğine işaret etmiyordum. Tanımladığınız yol gerçekten çok açık ve net, ama size bir anahtar kelime / sanat terimi sunuyordum Bu siteyi sıkça ziyaret eden birçok kişiye hemen tanıdık gelen bir terime ek olarak arama yapabilmek. Şerefe!)
Joshua Grochow

Yanıtlar:


7

Bu tam bir cevap değil, ama yorum yapmak için çok uzun.

I bağlı olan bir örnek bulduk sıkı değildir.log2NX

Aşağıdaki postayı düşünün. Zemin dizi ve bir ı daha küçük olan B j tüm i , j { 1 , 2 } . Diğer çiftler kıyaslanamaz. (Hasse diyagramı 4- devirdir).X={a1,a2,b1,b2}aibji,j{1,2}4

Monoton özellikleri, postanın rahatsızlıklarıyla tanımlayayım. Bu postanın yedi üzümü vardır: , { b 1 } , { b 2 } , { b 1 , b 2 } , { a 1 , b 1 , b 2 } , { a 2 , b 1 , b 2 } , { a 1 , bir 2 , b 1 ,{b1}{b2}{b1,b2}{a1,b1,b2}{a2,b1,b2}{a1,a2,b1,b2}, and this poset has seven antichains since the antichains are in one-to-one correspondence with the upsets. So, log2NX=log27=3 for this poset.

Now, by adversary argument I'll show that any strategy needs at least four queries (so needs to query all elements). Let's fix an arbitrary strategy.

Strateji ilk sorgularsa , daha sonra düşman cevaplar " P ( a 1 ) tutmaz." Sonra beş olasılıkımız kalıyor : , { b 1 } , { b 2 } , { b 1 , b 2 } , { a 2 , b 1 , b 2 } . Böylece, olduğu belirlemek için biz, en azından mi log 2 5 = 3a1P(a1){b1}{b2}{b1,b2}{a2,b1,b2}log25=3daha fazla sorgu. Toplamda dört sorguya ihtiyacımız var. İlk sorgu ise aynı argüman geçerli .a2

If the strategy first queries b1, then the adversary answers "P(b1) holds." Then, we are left with five possibilities: {b1}, {b1,b2}, {a1,b1,b2}, {a2,b1,b2}, {a1,a2,b1,b2}. Therefore, we need at least three more queries as before. In total, we need four queries. The same argument applies when the first query is b2.

If we take k parallel copies of this poset, then it has 7k antichains, and thus the proposed bound is log27k=3k. But, since each of the copies needs four queries, we need at least 4k queries.

Probably, there is a larger poset with larger gap. But this argument can only improve the coefficient.

Here, the problem looks to be a situation where no query partitions the search space evenly. In such a case, the adversary can force the larger half to remain.


1
Ah, interesting. Generalizing your example to X={a1,...,an,b1,...,bn}, it's clear that if the answer is i,¬P(ai) and i,P(bi) then we won't know it for sure until all 2n nodes are queried. However, there are 2n+11 antichains (2n1 non-empty subsets of ai's, idem for bi's, and the empty set), so the bound is not tight by a factor of 2. Thanks for this example. However, I don't really see how/if the gap could be more than a multiplicative factor, or if a non-trivial upper bound can be found, let alone an algorithm for an exact answer.
a3nm

7

In their paper Every Poset Has a Central Element, Linial and Saks show (Theorem 1) that the number of queries required to solve the ideal identification problem in a poset X is at most K0log2i(X), where K0=1/(2log2(1+log25)) and i(X) is the number of ideals of X. What they call an "ideal" is actually a lower set and there is an obvious one to one correspondance between monotonic predicates and the lower set of the points at which they don't hold, besides their "identification problem" is to identify by querying nodes just like in my setting, so I think they are dealing with the problem I'm interested in and that i(X)=NX.

NXlog2NXK0log2NX.

Linial and Saks quote a personal communication by Shearer to say that there are known orders for which we can prove a lower bound of K1log2NX for some K1 which is just slightly less than K0 (this is in the spirit of Yoshio Okamoto's answer who tried this approach for a smaller value of K1).

This does not fully answer my question of computing the number of questions required from X, however, since computing NX from X is #P-complete, I have a feeling that there is little hope. (Comments about this point are welcome.) Still, this result by Linial and Saks is enlightening.


5

For the Boolean n-cube ({0,1}n,) (or, equivalently, for the poset (2S,) of all subsets of an n-element set), the answer is given by Korobkov and Hansel's theorems (from 1963 and 1966, respectively). Hansel's theorem [1] states that an unknown monotone Boolean function (i.e., an unknown monotone predicate on this poset) can be learned by a deterministic algorithm making at most ϕ(n)=(nn/2)+(nn/2+1) queries (that is, asking ϕ(n) questions in the worst case). This algorithm matches the lower bound of Korobkov's theorem [2], which says that ϕ(n)1 queries do not suffice. (So Hansel's algorithm is optimal in the worst-case setting.) An algorithm in both statements is understood as a deterministic decision tree.

The logarithm of the number of antichains in ({0,1}n,) is asymptotically equal to (nn/2)2n/πn/2, so there is a constant-factor gap between logNX and the optimal algorithm performance ϕ(n)2(nn/2) for this poset.

Unfortunately, I have not been able to find a good treatment of Hansel's algorithm in English available on the web. It is based on a lemma that partitions the n-cube into ϕ(n) chains with special properties. Some description can be found in [3]. For the lower bound, I don't know any reference to a description in English.

Since I am familiar with these results, I can post a description on arXiv, if the treatment in Kovalerchuk's paper does not suffice.

If am not much mistaken, there have been attempts to generalize Hansel's approach, at least to the poset (Ekn,), where (Ek,) is a chain 0<1<<k1, although I cannot give any reference straight away. For the Boolean case, people have also investigated notions of complexity other than worst-case for this problem.

[1] G. Hansel, Sur le nombre des fonctions booléennes monotones de n variables. C. R. Acad. Sci. Paris, 262(20), 1088-1090 (1966)

[2] V. K. Korobkov. Estimation of the number of monotonic functions of the algebra of logic and of the complexity of the algorithm for finding the resolvent set for an arbitrary monotonic function of the algebra of logic. Soviet Math. Doklady 4, 753-756 (1963) (translation from Russian)

[3] B. Kovalerchuk, E. Triantaphyllou, A. S. Deshpande, E. Vityaev. Interactive learning of monotone Boolean functions. Information Sciences 94(1), 87-118 (1996) (link)


Thanks a lot for this detailed answer! For the Boolean n-cube, cf <cstheory.stackexchange.com/q/14772>. I can read French but couldn't find Hansel's paper (should have been available on Gallica but this issue seems to be missing), I found relevant info in Sokolov, N.A. (1982), "On the Optimal Evaluation of Monotonic Boolean Functions", USSR Comput Math Math Phys, Vol 22, No 2, 207-220 (English translation exists). I'm interested about generalizations to other DAGs if you can find refs. Don't hesitate to reply by email (a3nm AT a3nm DOT net) if length limit is a problem. Thanks again!
a3nm

You are welcome! Unfortunately, I do not know how to bound the algorithm running time in terms of output size. Korobkov's proof of the lower bound, for instance, does not give an answer to that question. However, I feel there may be a reference that is slightly relevant. I'll try to find some time time over the weekend and look for generalizations as well. At the same time, I'm not sure whether a closed English description of the Boolean case (these two theorems) is worth writing...
dd1

@a3nm maybe the DAG case hasnt been considered in the literature? could it be harder than the boolean n-cube ordered by inclusion?
vzn

@vzn I guess that at least some of the questions here are bound to be open. Even for a chain, it is not immediately clear how to generalize Hansel's algorithm.
dd1

@a3nm it all seems to be similar to finding lower bounds/minimal monotone circuits (sizes) but havent seen it clearly linked so far...
vzn

0

[NOTE: The following argument doesn't seem to work, but I'm leaving it here so others don't make the same mistake / in case someone can fix it. The issue is that an exponential lower bound on learning/identifying a monotone function, as below, does not necessarily contradict an incrementally polynomial algorithm for the problem. And it is the latter which is equivalent to checking the mutual duality of two monotone functions in poly time.]

I believe your conjecture on logNX is false in general. If it is indeed the case that logNX queries are needed, that implies quite a strong lower bound on learning monotone functions using membership queries. In particular, let the poset X be the Boolean cube with the usual ordering (if you like, X is the powerset of {1,...,n} with as its partial order). The number M of maximal antichains in X satisfies logM=(1+o(1))(n1n/2) [1]. If your idea on logNX is correct, then there is some monotone predicate on X that requires essentially (n1n/2)2n queries. In particular, this implies a lower bound of essentially 2n for the complexity of any algorithm solving this problem.

However, if I've understood correctly [which I now know I hadn't], your problem is equivalent to checking the mutual duality of two monotone functions, which can be done in quasi-polynomial time (see the intro of this paper by Bioch and Ibaraki, which cites Fredman and Khachiyan), contradicting anything close to a 2n lower bound.

[1] Liviu Ilinca and Jeff Kahn. Counting maximal antichains and independent sets. arXiv:1202.4427


Josh, I don't see a problem with the logNX argument. my understanding is that it is open whether a monotone function can be learned in time polynomial in n and the number of minimal elements. the Bioch-Ibaraki paper is about incrementally polynomial algorithm
Sasho Nikolov

Ah, okay. I wasn't aware of that. (Like I said, I'm not an expert in this area - my answer was just based on looking up a few things and putting them together.) I'll leave it here so other people can see it and at least not make the same mistake / at best turn it into something useful.
Joshua Grochow
Sitemizi kullandığınızda şunları okuyup anladığınızı kabul etmiş olursunuz: Çerez Politikası ve Gizlilik Politikası.
Licensed under cc by-sa 3.0 with attribution required.