Ben benzer sorunları baktım ve veri üzerinde tek bir geçiş yapar bir pencere fonksiyonu çözümü bulmak mümkün olmadım. Bunun mümkün olduğunu düşünmüyorum. Pencere işlevlerinin bir sütundaki tüm değerlere uygulanabilmesi gerekir. Bunun gibi sıfırlama hesaplamaları çok zorlaşır, çünkü bir sıfırlama aşağıdaki değerlerin tümünün değerini değiştirir.
Sorunu düşünmenin bir yolu, doğru toplam satırını doğru önceki satırdan çıkarabildiğiniz sürece temel bir koşu toplamını hesaplarsanız istediğiniz sonucu elde edebilmenizdir. Örneğin, örnek verilerinizde id
4 değeri running total of row 4 - the running total of row 3
. Değeri id
6 olan running total of row 6 - the running total of row 3
bir sıfırlama henüz olmadı çünkü. id
7 değeri running total of row 7 - the running total of row 6
vb.
Bu bir döngüde T-SQL ile yaklaşacaktı. Biraz taşındım ve tam bir çözüm bulduğumu düşünüyorum. 3 milyon satır ve 500 grup için kod masaüstümde 24 saniye içinde tamamlandı. 6 vCPU ile SQL Server 2016 Developer sürümü ile test ediyorum. Paralel ekler ve genel olarak paralel yürütme avantajlarından yararlanıyorum, bu nedenle eski bir sürümdeyseniz veya DOP sınırlamalarınız varsa kodu değiştirmeniz gerekebilir.
Verileri oluşturmak için kullandığım kodun altında. Aralıklar VAL
ve RESET_VAL
örnek verilerinize benzer olmalıdır.
drop table if exists reset_runn_total;
create table reset_runn_total
(
id int identity(1,1),
val int,
reset_val int,
grp int
);
DECLARE
@group_num INT,
@row_num INT;
BEGIN
SET NOCOUNT ON;
BEGIN TRANSACTION;
SET @group_num = 1;
WHILE @group_num <= 50000
BEGIN
SET @row_num = 1;
WHILE @row_num <= 60
BEGIN
INSERT INTO reset_runn_total WITH (TABLOCK)
SELECT 1 + ABS(CHECKSUM(NewId())) % 10, 8 + ABS(CHECKSUM(NewId())) % 8, @group_num;
SET @row_num = @row_num + 1;
END;
SET @group_num = @group_num + 1;
END;
COMMIT TRANSACTION;
END;
Algoritma aşağıdaki gibidir:
1) Standart bir toplamı olan tüm satırları geçici bir tabloya ekleyerek başlayın.
2) Döngüde:
2a) Her grup için, ilk satırı tabloda kalan reset_value değerinin üzerinde olacak şekilde hesaplayın ve kimliği, çok büyük olan toplam toplamı ve geçici tabloda çok büyük olan bir önceki toplam toplamı saklayın.
2b) İlk geçici tablodaki satırları , ikinci geçici tabloda ID
eşit veya daha küçük bir sonuç geçici tablosuna silin ID
. Hareketli toplamı gerektiği gibi ayarlamak için diğer sütunları kullanın.
3) Silme işleminden sonra artık satırlar DELETE OUTPUT
sonuç tablosuna bir ek çalıştırır . Bu, grubun sonundaki sıfırlama değerini asla aşmayan satırlar içindir.
Yukarıdaki algoritmanın bir uygulamasını T-SQL'de adım adım izleyeceğim.
Birkaç geçici tablo oluşturarak başlayın. #initial_results
standart veri toplamı ile orijinal verileri tutar, #group_bookkeeping
her bir döngüye hangi satırların hareket ettirilebileceğini anlayacak şekilde güncellenir ve #final_results
sıfırlama için ayarlanan toplam çalışma toplamıyla sonuçları içerir.
CREATE TABLE #initial_results (
id int,
val int,
reset_val int,
grp int,
initial_running_total int
);
CREATE TABLE #group_bookkeeping (
grp int,
max_id_to_move int,
running_total_to_subtract_this_loop int,
running_total_to_subtract_next_loop int,
grp_done bit,
PRIMARY KEY (grp)
);
CREATE TABLE #final_results (
id int,
val int,
reset_val int,
grp int,
running_total int
);
INSERT INTO #initial_results WITH (TABLOCK)
SELECT ID, VAL, RESET_VAL, GRP, SUM(VAL) OVER (PARTITION BY GRP ORDER BY ID) RUNNING_TOTAL
FROM reset_runn_total;
CREATE CLUSTERED INDEX i1 ON #initial_results (grp, id);
INSERT INTO #group_bookkeeping WITH (TABLOCK)
SELECT DISTINCT GRP, 0, 0, 0, 0
FROM reset_runn_total;
Sonra ekleme ve dizin oluşturma paralel olarak yapılabilir geçici tabloda kümelenmiş dizin oluşturun. Makinemde büyük bir fark yarattı ama seninkinde olmayabilir. Kaynak tabloda bir dizin oluşturmak yardımcı görünmüyordu, ancak bu makinenizde yardımcı olabilir.
Aşağıdaki kod döngüde çalışır ve defter tutma tablosunu günceller. Her grup için, ID
sonuçlar tablosuna taşınması gereken maksimum değeri bulmamız gerekir. İlk satırdaki toplamdan çıkarabilmemiz için bu satırdan toplama ihtiyacımız var. A grp_done
için yapılacak başka iş olmadığında sütun 1 olarak ayarlanır grp
.
WITH UPD_CTE AS (
SELECT
#grp_bookkeeping.GRP
, MIN(CASE WHEN initial_running_total - #group_bookkeeping.running_total_to_subtract_next_loop > RESET_VAL THEN ID ELSE NULL END) max_id_to_update
, MIN(#group_bookkeeping.running_total_to_subtract_next_loop) running_total_to_subtract_this_loop
, MIN(CASE WHEN initial_running_total - #group_bookkeeping.running_total_to_subtract_next_loop > RESET_VAL THEN initial_running_total ELSE NULL END) additional_value_next_loop
, CASE WHEN MIN(CASE WHEN initial_running_total - #group_bookkeeping.running_total_to_subtract_next_loop > RESET_VAL THEN ID ELSE NULL END) IS NULL THEN 1 ELSE 0 END grp_done
FROM #group_bookkeeping
INNER JOIN #initial_results IR ON #group_bookkeeping.grp = ir.grp
WHERE #group_bookkeeping.grp_done = 0
GROUP BY #group_bookkeeping.GRP
)
UPDATE #group_bookkeeping
SET #group_bookkeeping.max_id_to_move = uv.max_id_to_update
, #group_bookkeeping.running_total_to_subtract_this_loop = uv.running_total_to_subtract_this_loop
, #group_bookkeeping.running_total_to_subtract_next_loop = uv.additional_value_next_loop
, #group_bookkeeping.grp_done = uv.grp_done
FROM UPD_CTE uv
WHERE uv.GRP = #group_bookkeeping.grp
OPTION (LOOP JOIN);
Gerçekten LOOP JOIN
genel olarak ipucu hayranı değil , ama bu basit bir sorgu ve istediğimi elde etmenin en hızlı yoluydu. Yanıt süresini gerçekten optimize etmek için DOP 1 birleştirme birleşimleri yerine paralel iç içe döngü birleşimleri istedim.
Aşağıdaki kod döngüde çalışır ve verileri ilk tablodan son sonuçlar tablosuna taşır. İlk çalışan toplam ayarına dikkat edin.
DELETE ir
OUTPUT DELETED.id,
DELETED.VAL,
DELETED.RESET_VAL,
DELETED.GRP ,
DELETED.initial_running_total - tb.running_total_to_subtract_this_loop
INTO #final_results
FROM #initial_results ir
INNER JOIN #group_bookkeeping tb ON ir.GRP = tb.GRP AND ir.ID <= tb.max_id_to_move
WHERE tb.grp_done = 0;
Size kolaylık sağlamak için tam kod aşağıdadır:
DECLARE @RC INT;
BEGIN
SET NOCOUNT ON;
CREATE TABLE #initial_results (
id int,
val int,
reset_val int,
grp int,
initial_running_total int
);
CREATE TABLE #group_bookkeeping (
grp int,
max_id_to_move int,
running_total_to_subtract_this_loop int,
running_total_to_subtract_next_loop int,
grp_done bit,
PRIMARY KEY (grp)
);
CREATE TABLE #final_results (
id int,
val int,
reset_val int,
grp int,
running_total int
);
INSERT INTO #initial_results WITH (TABLOCK)
SELECT ID, VAL, RESET_VAL, GRP, SUM(VAL) OVER (PARTITION BY GRP ORDER BY ID) RUNNING_TOTAL
FROM reset_runn_total;
CREATE CLUSTERED INDEX i1 ON #initial_results (grp, id);
INSERT INTO #group_bookkeeping WITH (TABLOCK)
SELECT DISTINCT GRP, 0, 0, 0, 0
FROM reset_runn_total;
SET @RC = 1;
WHILE @RC > 0
BEGIN
WITH UPD_CTE AS (
SELECT
#group_bookkeeping.GRP
, MIN(CASE WHEN initial_running_total - #group_bookkeeping.running_total_to_subtract_next_loop > RESET_VAL THEN ID ELSE NULL END) max_id_to_move
, MIN(#group_bookkeeping.running_total_to_subtract_next_loop) running_total_to_subtract_this_loop
, MIN(CASE WHEN initial_running_total - #group_bookkeeping.running_total_to_subtract_next_loop > RESET_VAL THEN initial_running_total ELSE NULL END) additional_value_next_loop
, CASE WHEN MIN(CASE WHEN initial_running_total - #group_bookkeeping.running_total_to_subtract_next_loop > RESET_VAL THEN ID ELSE NULL END) IS NULL THEN 1 ELSE 0 END grp_done
FROM #group_bookkeeping
CROSS APPLY (SELECT ID, RESET_VAL, initial_running_total FROM #initial_results ir WHERE #group_bookkeeping.grp = ir.grp ) ir
WHERE #group_bookkeeping.grp_done = 0
GROUP BY #group_bookkeeping.GRP
)
UPDATE #group_bookkeeping
SET #group_bookkeeping.max_id_to_move = uv.max_id_to_move
, #group_bookkeeping.running_total_to_subtract_this_loop = uv.running_total_to_subtract_this_loop
, #group_bookkeeping.running_total_to_subtract_next_loop = uv.additional_value_next_loop
, #group_bookkeeping.grp_done = uv.grp_done
FROM UPD_CTE uv
WHERE uv.GRP = #group_bookkeeping.grp
OPTION (LOOP JOIN);
DELETE ir
OUTPUT DELETED.id,
DELETED.VAL,
DELETED.RESET_VAL,
DELETED.GRP ,
DELETED.initial_running_total - tb.running_total_to_subtract_this_loop
INTO #final_results
FROM #initial_results ir
INNER JOIN #group_bookkeeping tb ON ir.GRP = tb.GRP AND ir.ID <= tb.max_id_to_move
WHERE tb.grp_done = 0;
SET @RC = @@ROWCOUNT;
END;
DELETE ir
OUTPUT DELETED.id,
DELETED.VAL,
DELETED.RESET_VAL,
DELETED.GRP ,
DELETED.initial_running_total - tb.running_total_to_subtract_this_loop
INTO #final_results
FROM #initial_results ir
INNER JOIN #group_bookkeeping tb ON ir.GRP = tb.GRP;
CREATE CLUSTERED INDEX f1 ON #final_results (grp, id);
/* -- do something with the data
SELECT *
FROM #final_results
ORDER BY grp, id;
*/
DROP TABLE #final_results;
DROP TABLE #initial_results;
DROP TABLE #group_bookkeeping;
END;