İş parçacıkları için temel kural, bilgisayarda bulunan her bir "yürütme birimi" için en az bir "etkin" (komutlarının hemen CPU çalıştırılabilmesini sağlayan) çalışan iş parçacığı olmasını istediğinizdir. Bir "yürütme birimi" bir mantıksal komut işlemcisidir, bu nedenle dört çipli, dört çekirdekli Xeon hiper iş parçacıklı sunucunun 32 AB'si vardır (her bir çip için 4 çip, 4 çekirdek, her bir hiper iş parçacığı). Ortalama Core i7'niz 8 olacaktır.
AB başına bir iş parçacığı, iş parçacıklarının her zaman çalışır durumda olması şartıyla CPU'nun gücünü en iyi şekilde kullanır; iş parçacıklarının önbelleğe alınmamış belleğe, sabit diske, ağ bağlantı noktalarına vb. erişmeleri gerektiğinden ve işlem yapmak için etkin CPU dikkatine gerek duymadığından bu neredeyse hiç olmaz. Böylece, daha fazla iş parçacığı kuyruğa alındı ve gittikçe daha fazla ilerledikçe genel verimliliği daha da artırabilirsiniz. Bunun bir bedeli vardır; CPU bir iş parçacığını değiştirdiğinde, iş parçacığının kayıtlarını, yürütme işaretçisini ve normalde bir AB'nin en içteki işlerinde tutulan ve çok hızlı bir şekilde erişilen diğer bilgi işlemlerini önbelleğe almalı ve bu CPU çipindeki diğer AB'lerin onu almasına izin vermelidir. Ayrıca hangi iş parçacığına geçilmesi gerektiğine karar vermek için OS'deki iş parçacıklarını gerektirir. Son olarak, bir AB iş parçacıklarını değiştirdiğinde, çoğu işlemci mimarisinin kullandığı boru hattının performans kazançlarını kaybeder; dişleri değiştirmeden önce boru hattını yıkamalıdır. Ancak, tüm bunlar hala sabit sürücünün veya RAM'in bilgi ile geri gelmesini beklemekten ortalama olarak çok daha az zaman aldığından, maliyete değer.
Ancak, genel olarak, AB olarak "aktif" iş parçacıklarının sayısının iki katını aştığınızda, OS, AB'nin zaman çizelgesi iş parçacıklarından daha fazla harcamaya başlar ve AB'ler, gerçek iş parçacığı çalıştırmak için harcadıklarından daha fazla zaman harcar programları. Ölçek ölçek ekonomilerinin noktası budur; bu noktada fazladan bir iş parçacığı ekleyecekseniz, çok iş parçacıklı bir algoritmanın çalışması daha uzun sürer.
Bu nedenle, genel olarak, programınızda bilgisayarınızda AB'leriniz olduğu kadar çok sayıda iş parçacığı tutmak istiyorsunuz, ancak beklemeyen veya uyumayan bu sayının iki katından daha fazlasına sahip olmaktan kaçınmak istiyorsunuz.