Blog (14)
Komentarze (46)
Recenzje (0)

#4 IT @ Służba Zdrowia - Automatyzacja backupu bazy Oracle

@kleksiq#4 IT @ Służba Zdrowia - Automatyzacja backupu bazy Oracle16.05.2014 11:07

Przez długi czas prosty skrypt bat robił codziennie w nocy pełny export do dmp i pakował do zip'a.

Przez długi czas działało. Ale jak to zwykle bywa do czasu. Paker Pkzipw.exe ma małe ograniczenie pakowanego pliku do 4gb. I tak przez kilka lat jedyny backup odbywał się przez kopiowanie całego katalogu z bazą. Który okazał się i tak bezskuteczny.

Przygotowanie

Kleksiq ułatwił wam sprawę i przygotował małą paczkę na dropboxie dla was :). Link

Wystarczy wypakować, zmienić parę zmiennych i dodać do dziennego harmonogramu. Czasowo 22GB baza + kompresja do 7zip wychodzi ok 2h30min. Wysyłka zależy od waszego transferu, lecz nic nie stoi na przeszkodzie aby wysyłać to po sieci lokalnej do jakiegoś serwerka NAS.

Opis skryptu

Skrypt jest dość prosty ( powiedzmy ) w budowie lecz skuteczny :).

@echo off & setlocal enableextensions
echo>dzien.vbs WScript.Echo WeekDayName(Weekday(Date),true)
for /f %%d in ('cscript //nologo dzien.vbs') do set wd_=%%d
echo Dzien Tygodnia wd_=%wd_%

Tworzymy plik vbs i z niego ściągamy dzisiejszy dzień w formacie Pn, Wt, Śr, Cz itd.

cd c:\backup\
set ORA_SRV=SERWER

Działamy w lokalizacji c:\backup\ lecz nic nie stoi na przeszkodzie by działać np na dysku iscsi. set ORA_SRV ustawia nam nazwę naszego serwera oracle, nazwę znajdziemy w pliku tnsnames.ora. U mnie znajduje się on przykładowo w lokalizacji x:\oracle\ora10g\network\admin\tnsnames.ora

REM Ustawienia FTP
SET FTP_IP=
SET FTP_LOGIN=
SET FTP_PASS=
SET FTP_CD=
SET FTP_LOG=

Ustawienia FTP, w CD wklepujemy scieżkę w formacie /folder/folder/, natomiast log jest to miejsce zapisu logu ftp, nic nie stoi na przeszkodzie by nadać mu nazwę

logftp%wd_%.log

Następnie cała magia następuje :)

REM Jezeli dump + log file istnieje usuwamy
IF EXIST %ORA_SRV%_ora_full_%wd_%.dmp DEL %ORA_SRV%_ora_full_%wd_%.dmp > NUL
IF EXIST %ORA_SRV%_ora_full_%wd_%.log DEL %ORA_SRV%_ora_full_%wd_%.log > NUL

REM Export
EXP parfile=full.txt file=%ORA_SRV%_ora_full_%wd_%.dmp log=%ORA_SRV%_ora_full_%wd_%.log
del dzien.vbs

Kasujemy stare pliki dmp oraz log, a następnie eksportujemy bazę do nowego pliku. Wszystkie opcje są w pliku full.txt

userid=system/system
buffer=1000000
rows=y
compress=n
consistent=y
feedback=100000
full=y

Ustawienia mam od dość dawna, można by jedynie pobawić się z opcją buffer, jeżeli jest ktoś bardziej obyty z oraclem niech pisze to coś poprawimy :). Do zmiany oczywiście są dane userid.

REM Jezeli plik zip istnieje usuwamy
IF EXIST %ORA_SRV%_FULL_EXP_%wd_%.7z DEL %ORA_SRV%_FULL_EXP_%wd_%.7z > NUL

REM Usuwamy stary hash file
IF EXIST %ORA_SRV%_hash_%wd_%.xml DEL %ORA_SRV%_hash_%wd_%.xml > NUL

REM Liczymy hashe
fciv.exe -add %ORA_SRV%_ora_full_%wd_%.dmp %ORA_SRV%_ora_full_%wd_%.log -both -xml %ORA_SRV%_hash_%wd_%.xml

REM Dodajemy plik bat ktory sprawdzi nam nasz plik dmp
echo> %ORA_SRV%_ora_full_%wd_%_weryfikacja_sha1md5.bat fciv -v %ORA_SRV%_ora_full_%wd_%.dmp -both -xml %ORA_SRV%_hash_%wd_%.xml

Usuwamy istniejący plik 7z, stary plik z hashami a następnie liczmy nowy dla pliku dmp oraz log i zapisujemy go do formatu xml. Plik wynikowy wygląda tak :

  <?xml version="1.0" encoding="utf-8" ?>
- <FCIV>
- <FILE_ENTRY>
<name>baza_ora_full_pt.dmp</name>
<MD5>0nNvJ8j1tDXeh75CGNli7g==</MD5>
<SHA1>WsGo5gfeT+4Wh7e+pdU+WRNAlJE=</SHA1>
</FILE_ENTRY>
</FCIV>

I przy okazji tworzymy sobie plik bat który nam automatycznie porówna plik dmp z wyliczonym hashem.

REM Pakujemy do formatu 7z
7za a %ORA_SRV%_FULL_EXP_%wd_%.7z %ORA_SRV%_ora_full_%wd_%.dmp %ORA_SRV%_ora_full_%wd_%.log %ORA_SRV%_hash_%wd_%.xml %ORA_SRV%_ora_full_%wd_%_weryfikacja_sha1md5.bat fciv.exe -t7z -mx2

Tego chyba nie muszę tłumaczyć :). Tworzmy sobie całą paczkę która umożliwi nam bezbolesne wgranie na nowy serwer i jest w pewnym sensie samowystarczalna.


REM Usuwamy niepotrzebne pliki
IF EXIST %ORA_SRV%_ora_full_%wd_%.dmp DEL %ORA_SRV%_ora_full_%wd_%.dmp > NUL
IF EXIST %ORA_SRV%_ora_full_%wd_%.log DEL %ORA_SRV%_ora_full_%wd_%.log > NUL
IF EXIST %ORA_SRV%_ora_full_%wd_%_weryfikacja_sha1md5.bat DEL %ORA_SRV%_ora_full_%wd_%_weryfikacja_sha1md5.bat > NUL
IF EXIST %FTP_LOG% DEL %FTP_LOG% > NUL

REM Wysylamy na ftp, sciezki sa dane "pelne", nalezy sprawdzac plik log aby nie bylo zadnych bledow
REM Plik 1.5 gb na wolnego nas'a patriot valkyre kopiuje się 3 min.
cd /CoreFTP/
coreftp.exe -u c:\backup\%ORA_SRV%_FULL_EXP_%wd_%.7z ftp://%FTP_LOGIN%:%FTP_PASS%@%FTP_IP%%FTP_CD% -log %FTP_LOG%

Usuwamy starocie, i wysyłamy plik po ftp, może być to lokalny nas bądź zdalny, wszystko zależy od naszego łącza. Celowo w linii coreftp.exe jest dana pełna ścieżka do pliku, nie jestem pewien czy format ../ zadziałałby prawidłowo. Jeżeli macie jakieś poprawki, uwagi, wpisujcie je w komentarze, postaram się poprawiać skrypt na bieżąco.

PS

Po kilku dniach pracy z GPO zaczynam mieć bezsenne noce ale za to pulpit dla 30 klientów rdp wygląda tak samo :). Teraz jeszcze to samo z userami szpitalnymi ....

PPS

Tak wiem miała być recenzja serwerowa lecz z braku czasu tekst istnieje jedynie w przygotowaniu. Po przenosinach serwera postaram się udostępnić go. Jedyne co mogę powiedzieć to że na starym serwerze szukanie pacjentów od roku 2000 do dziś trwało i trwało i końca nie było widać, trzeba było wylogowywać klienta aby mógł normalnie pracować. Aktualnie gdy baza stoi na osobnej dedykowanej maszynie trwa to ok 15 sekund :).

Szanowna Użytkowniczko! Szanowny Użytkowniku!
×
Aby dalej móc dostarczać coraz lepsze materiały redakcyjne i udostępniać coraz lepsze usługi, potrzebujemy zgody na dopasowanie treści marketingowych do Twojego zachowania. Twoje dane są u nas bezpieczne, a zgodę możesz wycofać w każdej chwili na podstronie polityka prywatności.

Kliknij "PRZECHODZĘ DO SERWISU" lub na symbol "X" w górnym rogu tej planszy, jeżeli zgadzasz się na przetwarzanie przez Wirtualną Polskę i naszych Zaufanych Partnerów Twoich danych osobowych, zbieranych w ramach korzystania przez Ciebie z usług, portali i serwisów internetowych Wirtualnej Polski (w tym danych zapisywanych w plikach cookies) w celach marketingowych realizowanych na zlecenie naszych Zaufanych Partnerów. Jeśli nie zgadzasz się na przetwarzanie Twoich danych osobowych skorzystaj z ustawień w polityce prywatności. Zgoda jest dobrowolna i możesz ją w dowolnym momencie wycofać zmieniając ustawienia w polityce prywatności (w której znajdziesz odpowiedzi na wszystkie pytania związane z przetwarzaniem Twoich danych osobowych).

Od 25 maja 2018 roku obowiązuje Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2016/679 (określane jako "RODO"). W związku z tym chcielibyśmy poinformować o przetwarzaniu Twoich danych oraz zasadach, na jakich odbywa się to po dniu 25 maja 2018 roku.

Kto będzie administratorem Twoich danych?

Administratorami Twoich danych będzie Wirtualna Polska Media Spółka Akcyjna z siedzibą w Warszawie, oraz pozostałe spółki z grupy Wirtualna Polska, jak również nasi Zaufani Partnerzy, z którymi stale współpracujemy. Szczegółowe informacje dotyczące administratorów znajdują się w polityce prywatności.

O jakich danych mówimy?

Chodzi o dane osobowe, które są zbierane w ramach korzystania przez Ciebie z naszych usług, portali i serwisów internetowych udostępnianych przez Wirtualną Polskę, w tym zapisywanych w plikach cookies, które są instalowane na naszych stronach przez Wirtualną Polskę oraz naszych Zaufanych Partnerów.

Dlaczego chcemy przetwarzać Twoje dane?

Przetwarzamy je dostarczać coraz lepsze materiały redakcyjne, dopasować ich tematykę do Twoich zainteresowań, tworzyć portale i serwisy internetowe, z których będziesz korzystać z przyjemnością, zapewniać większe bezpieczeństwo usług, udoskonalać nasze usługi i maksymalnie dopasować je do Twoich zainteresowań, pokazywać reklamy dopasowane do Twoich potrzeb. Szczegółowe informacje dotyczące celów przetwarzania Twoich danych znajdują się w polityce prywatności.

Komu możemy przekazać dane?

Twoje dane możemy przekazywać podmiotom przetwarzającym je na nasze zlecenie oraz podmiotom uprawnionym do uzyskania danych na podstawie obowiązującego prawa – oczywiście tylko, gdy wystąpią z żądaniem w oparciu o stosowną podstawę prawną.

Jakie masz prawa w stosunku do Twoich danych?

Masz prawo żądania dostępu, sprostowania, usunięcia lub ograniczenia przetwarzania danych. Możesz wycofać zgodę na przetwarzanie, zgłosić sprzeciw oraz skorzystać z innych praw wymienionych szczegółowo w polityce prywatności.

Jakie są podstawy prawne przetwarzania Twoich danych?

Podstawą prawną przetwarzania Twoich danych w celu świadczenia usług jest niezbędność do wykonania umów o ich świadczenie (tymi umowami są zazwyczaj regulaminy). Podstawą prawną przetwarzania danych w celu pomiarów statystycznych i marketingu własnego administratorów jest tzw. uzasadniony interes administratora. Przetwarzanie Twoich danych w celach marketingowych realizowanych przez Wirtualną Polskę na zlecenie Zaufanych Partnerów i bezpośrednio przez Zaufanych Partnerów będzie odbywać się na podstawie Twojej dobrowolnej zgody.