Blog (1)
Komentarze (32)
Recenzje (0)

MSSQL i LIMIT z mySQL'a

@pcgyverMSSQL i LIMIT z mySQL'a22.06.2011 16:09

Mój pierwsyz post :-) Wybaczcie niedociągnięcia.

Dzisiaj przyszło mi się zmierzyć z tematem: Implementing Virtual Mode with Just-In-Time Data Loading in the Window...

W pewnym momencie kodu znajduje się polecenie budujące zapytanie SQL:


         command.CommandText = "Select Top " + rowsPerPage + " " +
            CommaSeparatedListOfColumnNames + " From " + tableName +
            " WHERE " + columnToSortBy + " NOT IN (SELECT TOP " +
            lowerPageBoundary + " " + columnToSortBy + " From " +
            tableName + " Order By " + columnToSortBy +
            ") Order By " + columnToSortBy;
        adapter.SelectCommand = command;

Pomyślałem sobie wtedy: "ale by się przydała klauzula LIMIT z mySQL’a." Zrobiłem test na jednej z tabel w mojej bazie danych


CREATE TABLE [dbo].[Expedition](
	[ID_Expedition] [int] IDENTITY(1,1) NOT NULL PRIMARY KEY,
	[ID_Receiver] [int] NOT NULL,  -- klucz obcy
	[ExpeditionDate] [datetime] NULL,
	[ExpeditionNumber] [varchar](16) NOT NULL
)

Są w niej 8192 rekordy. Postanowiłem sprawdzić jak wydajnościowo będzie się miało to zapytanie SQL. Utworzyłem kod SQL który wyciąga po 10 kolejnych wierszy z tabeli, wrzuca do tabeli tymczasowej żeby ich nie wyświetlało w SSMS:


DECLARE @FIRST INT, @COUNT INT, @CNT INT
SET @COUNT=10
SET @FIRST=0
SET @CNT=(SELECT COUNT(*) FROM Expedition)

PRINT 'START ' + CONVERT(CHAR(28), GETDATE(), 121)
WHILE @FIRST<@CNT
BEGIN

   SELECT * INTO #tmp FROM (
    SELECT TOP (@COUNT) *
     FROM Expedition
     WHERE ID_Expedition NOT IN 
     (
      SELECT TOP (@FIRST) ID_Expedition
       FROM Expedition
       ORDER BY ID_Expedition ASC
    )
    ORDER BY ID_Expedition ASC
   ) AS A
   DROP TABLE #tmp
   SET @FIRST=@FIRST+10
END
PRINT 'END ' + CONVERT(CHAR(28), GETDATE(), 121)
GO

Czas realizacji: 3.627 sec START 2011-06-22 13:12:49.310 END 2011-06-22 13:12:52.937

Hmmm… zacząłem się zastanawiać czy da się szybciej. Pogrzebałem i znalazłem najbardziej powtarzające się zapytanie z podwójnym TOP i sortowaniem. Sprawdziłem:


DECLARE @FIRST INT, @COUNT INT, @CNT INT
SET @COUNT=10
SET @FIRST=0
SET @CNT=(SELECT COUNT(*) FROM Expedition)

PRINT 'START ' + CONVERT(CHAR(28), GETDATE(), 121)
WHILE @FIRST<@CNT
BEGIN

   SELECT * INTO #tmp FROM (
    SELECT TOP (@COUNT) * FROM (
     SELECT TOP (@COUNT+@FIRST) *
      FROM Expedition
      ORDER BY ID_Expedition ASC
     ) AS D ORDER BY ID_Expedition DESC
    ) AS A ORDER BY ID_Expedition ASC

   DROP TABLE #tmp

   SET @FIRST=@FIRST+10

END
PRINT 'END ' + CONVERT(CHAR(28), GETDATE(), 121)
GO

Czas realizacji: 7.140 sec START 2011-06-22 12:54:54.467 END 2011-06-22 12:55:01.607

Hmmm…. Dwa razy dłużej. Odpada.

Pomyślałem sobie: „Zaraz zaraz. Tabela ma przecież kolumnę ID_Expedition typu IDENTITY. Zakładając, że ma kolejne ID od 1 co 1 ….”. No to sprawdziłem:


DECLARE @FIRST INT, @COUNT INT, @CNT INT
SET @COUNT=10
SET @FIRST=1
SET @CNT=(SELECT COUNT(*) FROM Expedition)

PRINT 'START ' + CONVERT(CHAR(28), GETDATE(), 121)
WHILE @FIRST<@CNT
BEGIN

   SELECT TOP (@COUNT) * INTO #Tmp
    FROM Expedition
    WHERE ID_Expedition>=@FIRST
    ORDER BY ID_Expedition ASC

   DROP TABLE #tmp

   SET @FIRST=@FIRST+10
END
PRINT 'END ' + CONVERT(CHAR(28), GETDATE(), 121)
GO

Czas realizacji: 0.757 sec START 2011-06-22 12:55:01.623 END 2011-06-22 12:55:02.390

No rewelacja. Nieporównywalnie szybciej niż pierwsze rozwiązanie.

No tak ale co będzie jak pokasuję rekordy albo będę miał jako klucz więcej niż jedną kolumnę np. przy złączeniach tabel. Tutaj postanowiłem sprawdzić jak będzie się miało w tym przypadku wydajność z ROW_NUMBER().


DECLARE @FIRST INT, @COUNT INT, @CNT INT
SET @COUNT=10
SET @FIRST=1
SET @CNT=(SELECT COUNT(*) FROM Expedition)

PRINT 'START ' + CONVERT(CHAR(28), GETDATE(), 121)
WHILE @FIRST<=@CNT
BEGIN

   SELECT TOP (@COUNT) * INTO #Tmp FROM (
    SELECT ROW_NUMBER() OVER (ORDER BY ID_Expedition ASC) AS RowNumber, *
     FROM Expedition
   ) AS a WHERE RowNumber >= @First
   ORDER BY RowNumber

   DROP TABLE #tmp

   SET @FIRST=@FIRST+10
END
PRINT 'END ' + CONVERT(CHAR(28), GETDATE(), 121)
GO

Czas realizacji: 2.560 sec START 2011-06-22 12:55:02.390 END 2011-06-22 12:55:04.950

No to i tak o sekundę lepiej niż rozwiązanie na stronach Microsoftu. Ponadto w klauzuli OVER (ORDER BY ID_Expedition ASC) można umiwścić wiecej kolumn wg, których to ma być posortowane np.: OVER (ORDER BY ID_Receiver ASC, ExpeditionDate ASC).

Tak tylko chciałem sie z Wami podzielić wnioskami. :-)

Pozdrawiam.

P.S. Przydała by sie mozliwość wspawiania pustych spacji szczególnie w kodzie.

Szanowna Użytkowniczko! Szanowny Użytkowniku!
×
Aby dalej móc dostarczać coraz lepsze materiały redakcyjne i udostępniać coraz lepsze usługi, potrzebujemy zgody na dopasowanie treści marketingowych do Twojego zachowania. Twoje dane są u nas bezpieczne, a zgodę możesz wycofać w każdej chwili na podstronie polityka prywatności.

Kliknij "PRZECHODZĘ DO SERWISU" lub na symbol "X" w górnym rogu tej planszy, jeżeli zgadzasz się na przetwarzanie przez Wirtualną Polskę i naszych Zaufanych Partnerów Twoich danych osobowych, zbieranych w ramach korzystania przez Ciebie z usług, portali i serwisów internetowych Wirtualnej Polski (w tym danych zapisywanych w plikach cookies) w celach marketingowych realizowanych na zlecenie naszych Zaufanych Partnerów. Jeśli nie zgadzasz się na przetwarzanie Twoich danych osobowych skorzystaj z ustawień w polityce prywatności. Zgoda jest dobrowolna i możesz ją w dowolnym momencie wycofać zmieniając ustawienia w polityce prywatności (w której znajdziesz odpowiedzi na wszystkie pytania związane z przetwarzaniem Twoich danych osobowych).

Od 25 maja 2018 roku obowiązuje Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2016/679 (określane jako "RODO"). W związku z tym chcielibyśmy poinformować o przetwarzaniu Twoich danych oraz zasadach, na jakich odbywa się to po dniu 25 maja 2018 roku.

Kto będzie administratorem Twoich danych?

Administratorami Twoich danych będzie Wirtualna Polska Media Spółka Akcyjna z siedzibą w Warszawie, oraz pozostałe spółki z grupy Wirtualna Polska, jak również nasi Zaufani Partnerzy, z którymi stale współpracujemy. Szczegółowe informacje dotyczące administratorów znajdują się w polityce prywatności.

O jakich danych mówimy?

Chodzi o dane osobowe, które są zbierane w ramach korzystania przez Ciebie z naszych usług, portali i serwisów internetowych udostępnianych przez Wirtualną Polskę, w tym zapisywanych w plikach cookies, które są instalowane na naszych stronach przez Wirtualną Polskę oraz naszych Zaufanych Partnerów.

Dlaczego chcemy przetwarzać Twoje dane?

Przetwarzamy je dostarczać coraz lepsze materiały redakcyjne, dopasować ich tematykę do Twoich zainteresowań, tworzyć portale i serwisy internetowe, z których będziesz korzystać z przyjemnością, zapewniać większe bezpieczeństwo usług, udoskonalać nasze usługi i maksymalnie dopasować je do Twoich zainteresowań, pokazywać reklamy dopasowane do Twoich potrzeb. Szczegółowe informacje dotyczące celów przetwarzania Twoich danych znajdują się w polityce prywatności.

Komu możemy przekazać dane?

Twoje dane możemy przekazywać podmiotom przetwarzającym je na nasze zlecenie oraz podmiotom uprawnionym do uzyskania danych na podstawie obowiązującego prawa – oczywiście tylko, gdy wystąpią z żądaniem w oparciu o stosowną podstawę prawną.

Jakie masz prawa w stosunku do Twoich danych?

Masz prawo żądania dostępu, sprostowania, usunięcia lub ograniczenia przetwarzania danych. Możesz wycofać zgodę na przetwarzanie, zgłosić sprzeciw oraz skorzystać z innych praw wymienionych szczegółowo w polityce prywatności.

Jakie są podstawy prawne przetwarzania Twoich danych?

Podstawą prawną przetwarzania Twoich danych w celu świadczenia usług jest niezbędność do wykonania umów o ich świadczenie (tymi umowami są zazwyczaj regulaminy). Podstawą prawną przetwarzania danych w celu pomiarów statystycznych i marketingu własnego administratorów jest tzw. uzasadniony interes administratora. Przetwarzanie Twoich danych w celach marketingowych realizowanych przez Wirtualną Polskę na zlecenie Zaufanych Partnerów i bezpośrednio przez Zaufanych Partnerów będzie odbywać się na podstawie Twojej dobrowolnej zgody.