SQL, Pomocnicza tablica liczb
W przypadku niektórych typów zapytań sql bardzo przydatna może być pomocnicza tabela liczb. Może być utworzona jako tabela zawierająca tyle wierszy, ile potrzebujesz do konkretnego zadania lub jako funkcja zdefiniowana przez użytkownika, która zwraca liczbę wierszy wymaganych w każdym zapytaniu.
Jaki jest optymalny sposób tworzenia takiej funkcji?
7 answers
Heh... przepraszam, że tak późno odpowiadam na stary post. I tak, musiałem odpowiedzieć, ponieważ najpopularniejszą odpowiedzią (w tym czasie rekurencyjna odpowiedź CTE z linkiem do 14 różnych metod) w tym wątku jest, hmmm... wydajność w najlepszym razie kwestionowana.
Po pierwsze, artykuł z 14 różnymi rozwiązaniami jest w porządku, aby zobaczyć różne metody tworzenia tabeli liczb/Tally w locie, ale jak wskazano w artykule i w cytowanym wątku, jest bardzo Ważne cytat...
"sugestie dotyczące efektywności i wyniki są często subiektywne. Niezależnie od tego, jak zapytanie jest używane, fizyczna realizacja określa skuteczność zapytania. Dlatego zamiast polegać na stronnicze wytyczne, konieczne jest że testujesz zapytanie i ustalasz który z nich jest lepszy."
Jak na ironię, sam artykuł zawiera wiele subiektywnych stwierdzeń i "stronniczych wytycznych", takich jak "rekurencyjny CTE potrafi skutecznie wygenerować listę liczb " i "jest to efektywna metoda użycia pętli WHILE z grupy dyskusyjnej wysłanej przez Itzika Ben-Gena" (którą jestem pewien, że opublikował tylko dla celów porównawczych). Chodźcie ludzie... Samo wspominanie o dobrym imieniu Itzika może doprowadzić jakiegoś biedaka do użycia tej okropnej metody. Autor powinien ćwiczyć to ,co (s)głosi i powinien zrobić małe testy wydajności przed dokonaniem tak absurdalnie błędne wypowiedzi zwłaszcza w obliczu skalowalności.
Z myślą o zrobieniu testów przed subiektywnym stwierdzeniem, co robi każdy kod lub co ktoś "lubi", oto kod, z którym możesz zrobić własne testy. Skonfiguruj profiler dla SPIDA, z którego uruchamiasz test i sprawdź sam... po prostu wykonaj "Szukaj miejsca" liczby 1000000 dla swojego "ulubionego" numeru i zobacz...
--===== Test for 1000000 rows ==================================
GO
--===== Traditional RECURSIVE CTE method
WITH Tally (N) AS
(
SELECT 1 UNION ALL
SELECT 1 + N FROM Tally WHERE N < 1000000
)
SELECT N
INTO #Tally1
FROM Tally
OPTION (MAXRECURSION 0);
GO
--===== Traditional WHILE LOOP method
CREATE TABLE #Tally2 (N INT);
SET NOCOUNT ON;
DECLARE @Index INT;
SET @Index = 1;
WHILE @Index <= 1000000
BEGIN
INSERT #Tally2 (N)
VALUES (@Index);
SET @Index = @Index + 1;
END;
GO
--===== Traditional CROSS JOIN table method
SELECT TOP (1000000)
ROW_NUMBER() OVER (ORDER BY (SELECT 1)) AS N
INTO #Tally3
FROM Master.sys.All_Columns ac1
CROSS JOIN Master.sys.ALL_Columns ac2;
GO
--===== Itzik's CROSS JOINED CTE method
WITH E00(N) AS (SELECT 1 UNION ALL SELECT 1),
E02(N) AS (SELECT 1 FROM E00 a, E00 b),
E04(N) AS (SELECT 1 FROM E02 a, E02 b),
E08(N) AS (SELECT 1 FROM E04 a, E04 b),
E16(N) AS (SELECT 1 FROM E08 a, E08 b),
E32(N) AS (SELECT 1 FROM E16 a, E16 b),
cteTally(N) AS (SELECT ROW_NUMBER() OVER (ORDER BY N) FROM E32)
SELECT N
INTO #Tally4
FROM cteTally
WHERE N <= 1000000;
GO
--===== Housekeeping
DROP TABLE #Tally1, #Tally2, #Tally3, #Tally4;
GO
Skoro już o tym mowa, oto liczby, które otrzymuję od SQL Profiler dla wartości 100, 1000, 10000, 100000 i 1000000...
SPID TextData Dur(ms) CPU Reads Writes
---- ---------------------------------------- ------- ----- ------- ------
51 --===== Test for 100 rows ============== 8 0 0 0
51 --===== Traditional RECURSIVE CTE method 16 0 868 0
51 --===== Traditional WHILE LOOP method CR 73 16 175 2
51 --===== Traditional CROSS JOIN table met 11 0 80 0
51 --===== Itzik's CROSS JOINED CTE method 6 0 63 0
51 --===== Housekeeping DROP TABLE #Tally 35 31 401 0
51 --===== Test for 1000 rows ============= 0 0 0 0
51 --===== Traditional RECURSIVE CTE method 47 47 8074 0
51 --===== Traditional WHILE LOOP method CR 80 78 1085 0
51 --===== Traditional CROSS JOIN table met 5 0 98 0
51 --===== Itzik's CROSS JOINED CTE method 2 0 83 0
51 --===== Housekeeping DROP TABLE #Tally 6 15 426 0
51 --===== Test for 10000 rows ============ 0 0 0 0
51 --===== Traditional RECURSIVE CTE method 434 344 80230 10
51 --===== Traditional WHILE LOOP method CR 671 563 10240 9
51 --===== Traditional CROSS JOIN table met 25 31 302 15
51 --===== Itzik's CROSS JOINED CTE method 24 0 192 15
51 --===== Housekeeping DROP TABLE #Tally 7 15 531 0
51 --===== Test for 100000 rows =========== 0 0 0 0
51 --===== Traditional RECURSIVE CTE method 4143 3813 800260 154
51 --===== Traditional WHILE LOOP method CR 5820 5547 101380 161
51 --===== Traditional CROSS JOIN table met 160 140 479 211
51 --===== Itzik's CROSS JOINED CTE method 153 141 276 204
51 --===== Housekeeping DROP TABLE #Tally 10 15 761 0
51 --===== Test for 1000000 rows ========== 0 0 0 0
51 --===== Traditional RECURSIVE CTE method 41349 37437 8001048 1601
51 --===== Traditional WHILE LOOP method CR 59138 56141 1012785 1682
51 --===== Traditional CROSS JOIN table met 1224 1219 2429 2101
51 --===== Itzik's CROSS JOINED CTE method 1448 1328 1217 2095
51 --===== Housekeeping DROP TABLE #Tally 8 0 415 0
Jak widać, rekurencyjna metoda CTE jest drugą najgorszą po pętli While dla czasu trwania i procesora i ma 8 razy większe ciśnienie pamięci w postaci logicznych odczytów niż pętla While. Jest to RBAR na sterydach i należy go unikać, za wszelką cenę, w przypadku obliczeń pojedynczych wierszy, podobnie jak należy unikać pętli While. są miejsca, gdzie rekurencja jest dość cenna, ale nie jest to jeden z nich .
Jako barek boczny, Pan Denny jest na miejscu... prawidłowe wielkości stałych liczb lub tabeli Tally jest sposób, aby przejść do większości rzeczy. Co oznacza prawidłowy rozmiar? Cóż, większość ludzi używa tabeli Tally do generowania dat lub robienia podziałów na VARCHAR (8000). Jeśli utworzysz tabelę 11 000 wierszy z poprawnym klastrowym indeksem na "N", będziesz miał wystarczająco dużo wierszy, aby utworzyć daty warte więcej niż 30 lat (pracuję z hipotekami uczciwie, więc 30 lat jest kluczową liczbą dla mnie) i na pewno wystarczy, aby obsłużyć split VARCHAR (8000). Dlaczego "właściwy rozmiar" jest tak ważny? Jeśli tablica Tally jest często używana, łatwo mieści się w pamięci podręcznej, co sprawia, że jest niesamowicie szybka, bez większego nacisku na pamięć.Ostatni, ale nie mniej ważny, każdy wie, że jeśli stworzysz stałą tabelę Tally, nie ma znaczenia, której metody użyjesz do jej zbudowania, ponieważ 1) zostanie ona wykonana tylko raz i 2) jeśli jest to coś w rodzaju tabeli 11 000 wierszy, wszystkie metody będą aby uruchomić "wystarczająco dobry". więc po co ta cała indyginacja z mojej strony o jakiej metodzie użyć???
Odpowiedź jest taka, że jakiś biedny facet / dziewczyna, który nie zna się lepiej i po prostu musi wykonać swoją pracę, może zobaczyć coś w rodzaju rekurencyjnej metody CTE i zdecydować się użyć jej do czegoś znacznie większego i znacznie częściej używanego niż budowanie stałej tabeli Tally i staram się chronić tych ludzi, serwery, na których działa ich kod, i firmę, która jest właścicielem danych. na tych serwerach . Tak... to wielka sprawa. To powinno być również dla wszystkich innych. Naucz właściwego sposobu robienia rzeczy zamiast "wystarczająco dobrego". Zrób kilka testów przed opublikowaniem lub użyciem czegoś z postu lub książki... życie, które uratujesz, może być twoim własnym, zwłaszcza jeśli uważasz, że rekurencyjny CTE jest drogą do czegoś takiego. ;-)
Dzięki za wysłuchanie...Warning: date(): Invalid date.timezone value 'Europe/Kyiv', we selected the timezone 'UTC' for now. in /var/www/agent_stack/data/www/doraprojects.net/template/agent.layouts/content.php on line 54
2010-04-18 17:53:56
Najbardziej optymalną funkcją byłoby użycie tabeli zamiast funkcji. Użycie funkcji powoduje dodatkowe obciążenie procesora do tworzenia wartości zwracanych danych, zwłaszcza jeśli zwracane wartości obejmują bardzo duży zakres.
Warning: date(): Invalid date.timezone value 'Europe/Kyiv', we selected the timezone 'UTC' for now. in /var/www/agent_stack/data/www/doraprojects.net/template/agent.layouts/content.php on line 54
2008-09-02 09:48:19
Ten artykuł podaje 14 różnych możliwych rozwiązań z omówieniem każdego z nich. Ważne jest to, że:
Sugestie dotyczące efektywności i wyniki są często subiektywne. Niezależnie od tego, jak zapytanie jest używane, fizyczna realizacja określa skuteczność zapytania. Dlatego zamiast polegać na stronnicze wytyczne, konieczne jest że testujesz zapytanie i ustalasz który z nich jest lepszy.
I osobiście lubiany:
WITH Nbrs ( n ) AS (
SELECT 1 UNION ALL
SELECT 1 + n FROM Nbrs WHERE n < 500 )
SELECT n FROM Nbrs
OPTION ( MAXRECURSION 500 )
Warning: date(): Invalid date.timezone value 'Europe/Kyiv', we selected the timezone 'UTC' for now. in /var/www/agent_stack/data/www/doraprojects.net/template/agent.layouts/content.php on line 54
2009-09-25 19:50:34
Ten widok jest super szybki i zawiera wszystkie pozytywne int
wartości.
CREATE VIEW dbo.Numbers
WITH SCHEMABINDING
AS
WITH Int1(z) AS (SELECT 0 UNION ALL SELECT 0)
, Int2(z) AS (SELECT 0 FROM Int1 a CROSS JOIN Int1 b)
, Int4(z) AS (SELECT 0 FROM Int2 a CROSS JOIN Int2 b)
, Int8(z) AS (SELECT 0 FROM Int4 a CROSS JOIN Int4 b)
, Int16(z) AS (SELECT 0 FROM Int8 a CROSS JOIN Int8 b)
, Int32(z) AS (SELECT TOP 2147483647 0 FROM Int16 a CROSS JOIN Int16 b)
SELECT ROW_NUMBER() OVER (ORDER BY z) AS n
FROM Int32
GO
Warning: date(): Invalid date.timezone value 'Europe/Kyiv', we selected the timezone 'UTC' for now. in /var/www/agent_stack/data/www/doraprojects.net/template/agent.layouts/content.php on line 54
2011-07-04 12:24:12
Używając SQL Server 2016+
do wygenerowania tabeli liczb można użyć OPENJSON
:
-- range from 0 to @max - 1
DECLARE @max INT = 40000;
SELECT rn = CAST([key] AS INT)
FROM OPENJSON(CONCAT('[1', REPLICATE(CAST(',1' AS VARCHAR(MAX)),@max-1),']'));
Pomysł zaczerpnięty z Jak możemy użyć OPENJSON do generowania serii liczb?
Warning: date(): Invalid date.timezone value 'Europe/Kyiv', we selected the timezone 'UTC' for now. in /var/www/agent_stack/data/www/doraprojects.net/template/agent.layouts/content.php on line 54
2016-05-02 18:10:40
Edit: zobacz komentarz Conrada poniżej.
Odpowiedź Jeffa Modena jest świetna ... ale na Postgresie znajduję, że metoda Itzika zawodzi, chyba że usuniesz wiersz E32.Nieco szybciej na postgres (40ms vs 100ms) to kolejna metoda, którą znalazłem na tutaj dostosowana do postgres:
WITH
E00 (N) AS (
SELECT 1 UNION ALL SELECT 1 UNION ALL SELECT 1 UNION ALL SELECT 1 UNION ALL SELECT 1 UNION ALL
SELECT 1 UNION ALL SELECT 1 UNION ALL SELECT 1 UNION ALL SELECT 1 UNION ALL SELECT 1 ),
E01 (N) AS (SELECT a.N FROM E00 a CROSS JOIN E00 b),
E02 (N) AS (SELECT a.N FROM E01 a CROSS JOIN E01 b ),
E03 (N) AS (SELECT a.N FROM E02 a CROSS JOIN E02 b
LIMIT 11000 -- end record 11,000 good for 30 yrs dates
), -- max is 100,000,000, starts slowing e.g. 1 million 1.5 secs, 2 mil 2.5 secs, 3 mill 4 secs
Tally (N) as (SELECT row_number() OVER (ORDER BY a.N) FROM E03 a)
SELECT N
FROM Tally
Ponieważ przenoszę się z SQL Server do Postgres world, mogłem przegapić lepszy sposób na robienie tabel tally na tej platformie ... INTEGER ()? Sekwencja ()?
Warning: date(): Invalid date.timezone value 'Europe/Kyiv', we selected the timezone 'UTC' for now. in /var/www/agent_stack/data/www/doraprojects.net/template/agent.layouts/content.php on line 54
2013-06-24 14:55:46
Jeszcze dużo później chciałbym dodać nieco inny "tradycyjny" CTE (nie dotyka tabel bazowych, aby uzyskać objętość wierszy):
--===== Hans CROSS JOINED CTE method
WITH Numbers_CTE (Digit)
AS
(SELECT 0 UNION ALL SELECT 1 UNION ALL SELECT 2 UNION ALL SELECT 3 UNION ALL SELECT 4 UNION ALL SELECT 5 UNION ALL SELECT 6 UNION ALL SELECT 7 UNION ALL SELECT 8 UNION ALL SELECT 9)
SELECT HundredThousand.Digit * 100000 + TenThousand.Digit * 10000 + Thousand.Digit * 1000 + Hundred.Digit * 100 + Ten.Digit * 10 + One.Digit AS Number
INTO #Tally5
FROM Numbers_CTE AS One CROSS JOIN Numbers_CTE AS Ten CROSS JOIN Numbers_CTE AS Hundred CROSS JOIN Numbers_CTE AS Thousand CROSS JOIN Numbers_CTE AS TenThousand CROSS JOIN Numbers_CTE AS HundredThousand
To CTE wykonuje więcej odczytów niż CTE Itzika, ale mniej niż tradycyjne CTE. jednak konsekwentnie wykonuje mniej zapisów niż inne zapytania. Jak wiadomo, pisanie jest konsekwentnie dużo droższe niż czytanie.
Czas trwania zależy w dużej mierze od liczby rdzeni (MAXDOP), ale na moim 8core wykonuje konsekwentnie szybszy (krótszy czas trwania w ms) niż inne zapytania.
Używam:
Microsoft SQL Server 2012 - 11.0.5058.0 (X64)
May 14 2014 18:34:29
Copyright (c) Microsoft Corporation
Enterprise Edition (64-bit) on Windows NT 6.3 <X64> (Build 9600: )
Na Windows Server 2012 R2, 32 GB, Xeon X3450 @ 2.67 Ghz, 4 rdzenie HT włączone.
Warning: date(): Invalid date.timezone value 'Europe/Kyiv', we selected the timezone 'UTC' for now. in /var/www/agent_stack/data/www/doraprojects.net/template/agent.layouts/content.php on line 54
2014-10-22 10:06:40