Blog (107)
Komentarze (2.3k)
Recenzje (0)

[Narzędzia] logdetect - monitorowanie logów w czasie rzeczywistym

@webnull[Narzędzia] logdetect - monitorowanie logów w czasie rzeczywistym13.09.2011 23:07

Witam.

W ramach zdobywania doświadczenia i poszerzania swojej wiedzy z zakresu programowania rozwijam różne swoje projekty, o tym już pisałem jakiś czas temu. Tak więc tym razem przedstawiam Wam projekt logdetect napisany w języku Python. Aktualna wersja jest w fazie alpha więc nie radzę używać tego na serwerze produkcyjnym ;-)

Strona projektu: https://github.com/webnull/logdetect Paczki: (obecnie niedostępne)

Jak działa logdetect

Głównym zadaniem aplikacji jest monitorowanie zmian w plikach i przepuszczanie ich przez filtr który zależnie od wyniku dopasowania podejmie określone działanie.

Poprzez podjęcie działania można rozumieć dowolną czynność, a przykładowo może to być zbanowanie użytkownika, powiadomienie administratora, wyłączenie serwera, czy po prostu uruchomienie programu X.

Logdetect od środka

Działanie programu to główna pętla w której mamy ustalony w konfiguracji odstęp czasowy pomiędzy sprawdzaniem zdarzeń, może to być 500 ms, 1 sec, 60 minut, różnie - po prostu częstotliwość sprawdzania samej daty modyfikacji wszystkich plików.

Jeśli data modyfikacji różni się od poprzedniego sprawdzenia to znaczy, że plik został zmieniony - w takim razie trzeba ruszać na przód, tutaj jest kolejny krok.

Skoro zaszły jakieś zmiany to trzeba sprawdzić co dokładnie - a możliwe jest to do wykonania poprzez zapisywanie swojej pozycji w pliku, a następnie wracanie do niej przy następnym sprawdzaniu.

Kolejnym etapem jest parsowanie każdej linii przez wtyczkę do tego przeznaczoną, używa ona odpowiednich filtrów które pozwolą wyodrębnić interesujące nas dane.

W zależności od dopasowania może zostać podjęta akcja, ale z tym nie należy się śpieszyć, bo najpierw można przyznać użytkownikowi punkty ostrzeżeń. Dopiero po przekroczeniu ustalonego limitu punktów może zostać podjęta akcja. Można także zrezygnować z tej funkcji ustawiając wymaganą ilość punktów na "immediately".

Czyż to nie wynajdowywanie koła od nowa?

Pisanie tego typu aplikacji w wolnym czasie to dla mnie spore doświadczenie, lubię to robić oraz udostępniać. Myślę, że warto mieć pod ręką tą trzecią alternatywę, kto wie - być może akurat moja aplikacja będzie komuś bardziej pasować od tych popularnych, powszechnie stosowanych. Myślę, że na razie musi tylko wyjść z faz testowych, ale to nie tak prędko nastanie.

Ozdabianie koła

Staram się tak jak to możliwe implementować funkcje które są niedostępne w alternatywnych aplikacjach tego typu dlatego myślę, że jedną z takich funkcji jest obsługa FTP. Możliwe jest zdalne sprawdzanie logów od serwera do którego mamy przykładowo dostęp tylko przez FTP, bo SSH na tanich hostingach WWW przecież nie udostępniają, a serwery logi generują :-)

A skoro mowa o funkcjach, to myślę, że przy okazji wymienię je w dużym skrócie:


+ Monitoring w czasie rzeczywistym
+ Możliwość zdalnego monitorowania przez FTP
+ Kompatybilność z Pythonem 2 i Pythonem 3, bardzo małe zależności
+ Rozszerzalne przez wtyczki i filtry
+ Prosta konfiguracja przez pliki "INI"
+ Własne poziomy ostrzeżeń
Szanowna Użytkowniczko! Szanowny Użytkowniku!
×
Aby dalej móc dostarczać coraz lepsze materiały redakcyjne i udostępniać coraz lepsze usługi, potrzebujemy zgody na dopasowanie treści marketingowych do Twojego zachowania. Twoje dane są u nas bezpieczne, a zgodę możesz wycofać w każdej chwili na podstronie polityka prywatności.

Kliknij "PRZECHODZĘ DO SERWISU" lub na symbol "X" w górnym rogu tej planszy, jeżeli zgadzasz się na przetwarzanie przez Wirtualną Polskę i naszych Zaufanych Partnerów Twoich danych osobowych, zbieranych w ramach korzystania przez Ciebie z usług, portali i serwisów internetowych Wirtualnej Polski (w tym danych zapisywanych w plikach cookies) w celach marketingowych realizowanych na zlecenie naszych Zaufanych Partnerów. Jeśli nie zgadzasz się na przetwarzanie Twoich danych osobowych skorzystaj z ustawień w polityce prywatności. Zgoda jest dobrowolna i możesz ją w dowolnym momencie wycofać zmieniając ustawienia w polityce prywatności (w której znajdziesz odpowiedzi na wszystkie pytania związane z przetwarzaniem Twoich danych osobowych).

Od 25 maja 2018 roku obowiązuje Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2016/679 (określane jako "RODO"). W związku z tym chcielibyśmy poinformować o przetwarzaniu Twoich danych oraz zasadach, na jakich odbywa się to po dniu 25 maja 2018 roku.

Kto będzie administratorem Twoich danych?

Administratorami Twoich danych będzie Wirtualna Polska Media Spółka Akcyjna z siedzibą w Warszawie, oraz pozostałe spółki z grupy Wirtualna Polska, jak również nasi Zaufani Partnerzy, z którymi stale współpracujemy. Szczegółowe informacje dotyczące administratorów znajdują się w polityce prywatności.

O jakich danych mówimy?

Chodzi o dane osobowe, które są zbierane w ramach korzystania przez Ciebie z naszych usług, portali i serwisów internetowych udostępnianych przez Wirtualną Polskę, w tym zapisywanych w plikach cookies, które są instalowane na naszych stronach przez Wirtualną Polskę oraz naszych Zaufanych Partnerów.

Dlaczego chcemy przetwarzać Twoje dane?

Przetwarzamy je dostarczać coraz lepsze materiały redakcyjne, dopasować ich tematykę do Twoich zainteresowań, tworzyć portale i serwisy internetowe, z których będziesz korzystać z przyjemnością, zapewniać większe bezpieczeństwo usług, udoskonalać nasze usługi i maksymalnie dopasować je do Twoich zainteresowań, pokazywać reklamy dopasowane do Twoich potrzeb. Szczegółowe informacje dotyczące celów przetwarzania Twoich danych znajdują się w polityce prywatności.

Komu możemy przekazać dane?

Twoje dane możemy przekazywać podmiotom przetwarzającym je na nasze zlecenie oraz podmiotom uprawnionym do uzyskania danych na podstawie obowiązującego prawa – oczywiście tylko, gdy wystąpią z żądaniem w oparciu o stosowną podstawę prawną.

Jakie masz prawa w stosunku do Twoich danych?

Masz prawo żądania dostępu, sprostowania, usunięcia lub ograniczenia przetwarzania danych. Możesz wycofać zgodę na przetwarzanie, zgłosić sprzeciw oraz skorzystać z innych praw wymienionych szczegółowo w polityce prywatności.

Jakie są podstawy prawne przetwarzania Twoich danych?

Podstawą prawną przetwarzania Twoich danych w celu świadczenia usług jest niezbędność do wykonania umów o ich świadczenie (tymi umowami są zazwyczaj regulaminy). Podstawą prawną przetwarzania danych w celu pomiarów statystycznych i marketingu własnego administratorów jest tzw. uzasadniony interes administratora. Przetwarzanie Twoich danych w celach marketingowych realizowanych przez Wirtualną Polskę na zlecenie Zaufanych Partnerów i bezpośrednio przez Zaufanych Partnerów będzie odbywać się na podstawie Twojej dobrowolnej zgody.