IBM Tivoli Data Protection to jedeno z rozwiązań ciągle używanych do wykonywania kopii zapasowej baz danych SQL. Narzędzie ma swoje wady i zalety, ale robi to co ma robić i chwała mu za to.

Dokumentacja produktu jest stworzona w dość typowy dla IBM pokrętny sposób. Niby wszystko tam jest, ale znalezienie sensownej informacji – to już jest najwyraźniej „out-of-scope” największej korporacji.

Tym razem zmierzyłem się z odtwarzaniem bazy danych master na serwerze SQL. Jak należało się spodziewać, wszelkie udogodnienia stworzone dla administratora w tym momencie przestają działać: przystawka mmc dedykowana dla Tivoli, owszem łączy sie do systemu backupowego i do serwera, ale po uruchomieniu odtworzenia operacja kończy się błędem.

Przystawka wykorzystuje „pod spodem” komendy powershella, które szczęśliwie wyświetla użytkownikowi, dzięki temu można przyjrzeć się parametrom, jakie udało się wyklikać w GUI. Jeśli jednak ktoś liczy na to, że uruchomienie powershella i owej komendy załatwi sprawę podczas odtwarzania, to się myli.

Podczas odtwarzania bazy danych, serwer SQL pracuje w trybie Single User Mode. Oznacza to, że jest możliwe TYLKO jedno aktywne połącznie. Polecenie Powershellowe najwyraźniej otwiera sobie tych połączeń więcej, więc samo się blokuje. Czemu tak to zostało zrobione? Bo IBM miał taki kaprys 🙂

Ale jest metoda! Należy skopiować polecenie powershell i przejrzeć jego argumenty. Następnie te argumenty należy przełożyć na argumenty polecenia tdpsqlc.exe. Kończymy uruchamiając polecenie tdpsqlc.exe z tak skonstruowanymi parametrami, np.:

Polecenie Powershell:

Restore-DpSqlBackup  master -Full -BackupDestination TSM -BackupMethod legacy 
-Replace -SqlServer "SERVER_NAME,SERVER_PORT" -SQLAUTHentication INTegrated 
-Stripes 1 -FromSqlServer SERVER_NAME -ObjectNames 20221025133439\000014B8 
-QueryNode DP -MountWait Yes -ConfigFile C:\......\tdpsql.cfg 
-TsmOptFile C:\.......\TDPSql\dsm.opt

zamieni się na:

tdpsqlc restore master full /BACKUPDESTination=TSM /BACKUPMETHod=LEGACY /REPlace 
/SQLSERVer=SERVER_NAME,SERVER_PORT /SQLAUTHentication=INTegrated 
/STRIPes=1 /FROMSQLSERVer=SERVER_NAME /OBJect=20221025133439\000014B8 
/QUERYNode=DP /MOUNTWait=Yes  /CONFIGfile=C:\.....\tdpsql.cfg 
/TSMOPTFile=C:\......\TDPSql\dsm.opt

Podsumowując, do poprawnego odtworzenia bazy danych master można:
0. Jeśli trzeba – odbudować uszkodzoną bazę master
1. Wyklikać operację odtworzenia bazy danych master, ale nie uruchamiać, tylko skopiować polecenie powershell i przerobić je na wersję tdpsqlc.exe
2. Uruchomić SQL Server w trybie single user (przełącznik -m dla programu sqlsrv.exe uruchamianego z katalogu binn w instancji)
3. Uruchomić przygotowane polecenie tdpsqlc.exe

Linki do dokumentacji IBM:
https://www.ibm.com/docs/en/tsmfd/7.1.1?topic=files-restoring-master-database
https://www.ibm.com/support/pages/apar/IC97413

Any one using Tivoli, TDP from IBM????

https://www.ibm.com/docs/en/tsmfd/7.1.3?topic=command-restore-syntax

Powiedzmy, że aplikacja ma tabelę służącą do przechowywania uprawnień o następującej strukturze:

CREATE TABLE RolePermission
(RoleId INT,
 PermissionId INT,
 OnSite INT,
 OffSite INT);
 
ALTER TABLE RolePermission ADD PRIMARY KEY (RoleId, PermissionId);

Kolumna RoleId to identyfikator użytkownika (liczba, która wskazuje na nazwę użytkownika przechowywaną prawdopodobnie w innej tabeli).

Kolumna PermissionId to identyfikator uprawnienia (również liczba, która wskazuje na nazwę uprawnienia przechowywaną w innej tabeli).

Chodzi o skopiowanie uprawnień jednego użytkownika, a ponieważ pracujemy na tabelach, to należałoby powiedzieć skopiowanie wybranych rekordów z tej tabeli do tej samej tabeli ale podmieniając wartość w kolumnie RoleId.

Załóżmy, że w tabeli mamy takie oto dane: Czytaj dalej »

W DevOps próbujemy zrobić rzecz niemożliwą. Chcemy mieć zespół technicznych ludzi, którzy znają sie na wszystkim: począwszy od programowania, zarządzania kodem, administrowania systemem, chmury, automatyzacji, a kończąc na aplikacji. Dodajmy do tego jeszcze znajomość procedur obowiązujących w organizacji, raportowania statusu projektu i dojdziemy do wniosku, że cała sprawa jest nie do opanowania i dlatego… wprowadzamy model wspólnej odpowiedzialności za wszystko. Trochę to utopia, ale… jeśli takiego celu nie da się osiągnąć, to może chociaż można się do niego zbliżyć?

Każda implementacja DevOps jest trochę inna, ale można zaobserwować kilka trendów budowy takich zespołów.

Komandosi – Zróbmy jeden zespół zajmujący się DevOpsem

Ten model najmniej narusza istniejącą już w organizacji strukturę wyspecjalizowanych działów. Tworzymy po prostu jeden nowy dział i dajemy mu zadanie pracy nad automatyzowaniem budowy rozwiązania IT. Taki zespół będzie pewnie mniej znał szczegóły samej aplikacji, programowania, systemów operacyjnych, ale wyspecjalizuje się w budowie PipeLine budującego i testującego aplikację. Zespół osiągnie sprawność w zakresie specyficznych narzędzi i technologii, które są przez wykorzystywane przez budowaną aplikację.

Niestety, będzie to kolejny silos w organizacji i rozpocznie się na nowo… przepisywanie tematów z zespołu do zespołu. Żeby zrobić krok dalej, trzeba będzie uzyskać zgody i uprawnienia od innych zespołów. Sam zespół DevOps też może tworzyć blokady dla innych zespołów. Dlaczego niby mamy coś zautomatyzować, jeśli zadanie można przepisać do zespołu DevOps, który będzie przeciążony?

Desant – Dodajmy do każdego zespołu inżyniera DevOps

Jeśli w istniejącym zespole zaproponujemy zbudowanie automatyzacji opartej o DevOps, to spowoduje to oczywisty problem przeciążenia zespołu. Przecież do tej pory, każdy miał już swoje zadania i poświęcał na nie czas. Rozwiazaniem tego problemu może być dodanie do zespołu nowego człowieka, który dostanie zadanie automatyzacji – proste co? Na dodatek szukając takiego specjalisty można znaleźć kogoś, kto rzeczywiście dobrze orientuje się w specyfice DevOps. Na pewno cały zespół się ucieszy, bo oto jest „kozioł ofiarny”, któremu można oddelegować zadania związane z samym budowaniem aplikacji, a samemu skupić się na dalszym programowaniu.

Niestety i tu jest problem. Kiedy z jakiegoś powodu tego człowieka zabraknie, albo jeśli zatrzyma się on na jakimś problemie, to praca utknie w miejscu. Ma sie to nijak do modelu wspólnej odpowiedzialności za projekt. Mimo wszystko wydaje się, że może to być przynajmniej dobry początek. Trzeba tylko zadbać o dobry przepływ wiedzy, a takie „desantowe” podejście może się udać.

Przegrupowanie – połączmy dev i ops w jeden zespół

DevOps wymaga intensywnej współpracy między dev i ops. Jeśli do tej pory nad rozwojem 3 aplikacji pracowało 9 programistów i  6 administratorów, to można by podzielić zespół nie ze względu na specjalności ale ze względu na tworzoną aplikacje. Będziemy mieć (matematycznie ujmując) 3 zespoły i w każdym z nich 3 developerów i 2 administratorów. W tych nowych zespołach developerzy musią zacząć rozumieć adminów, a admini developerów. Każdy może się uczyć na błędach innych, korzystać z doświadczeń kolegów.

Jednak i tu jest problem. Czy na prawdę chcemy, aby developer uczył się administracji zamiast pogłębiać wiedzę programistyczną? Czy chcemy, aby adminstrator uczył się pisać koślawy kod zamiast rozwijać się w zakresie administracji systemami? Niestety, wyglada na to że tak, a to jednak mimo wszystko trochę zwariowany pomysł, ale… w tym kierunku idziemy.

Jest jeszcze jedna bolączka. Łatwiej się rozwijać np. w temacie programowania pracując w zespole z wieloma innymi doświadczonymi programistami niż w zespole, gdzie tylko kilku kolegów zna się na programowaniu, a reszta to admini. Właśnie takie wzajemne podciąganie się w poznawaniu technologii było i jest plusem pracy w „silosach”.

DevOps to szerokie pojęcie, ale kilka reguł odnajdzie się w każdej implementacji tej metody.

Shared responsibility / Shared ownership

To chyba jeden z ważniejszych punktów. Zespół musi się dzielić odpowiedzialnościa, a co za tym idzie, nawzajem się wspierać. Nie ma tak, że to Project Manager zwany często Scrum Masterem albo może Product Ownerem odpowiada za wszystko. Budowa nowoczesnego oprogramowania jest tak trudna, że obarczenie jednej osoby takim zadaniem jest nierozsądne. Tutaj każdy raczej bierze dla siebie zadania z puli zadań (backlog), niż przerzuca zadanie do kogoś innego!

Automatyzacja

Automatyzacja to w sumie drugie imię DevOpsa. W tej automatyzacji chodzi bardziej o automatyzację budowy aplikacji. W DevOps nie automatyzujemy np. produkcji raportów o capacity (no chyba, że to jest cel aplikacji, jaką tworzymy). W procesie produkcji oprogramowania chcemy często budować i testować oprogramowanie, a to dość pracochłonne zadania. Stąd ta automatyzacja.

Feedback

Po co wykonujemy częsty build i test tworzonej aplikacji? Głównie po to, aby szybko dowiadywać się co nie działa, albo lepiej – że coś działa! A to właśnie jest feedback. Feedback to również np. raport dotyczący wydajności aplikacji po wykonaniu zmian. Jeśli coś jest nie tak – trzeba bedzie dokonać odpowiednich zmian

Wiedza technologiczna

Tak! Ta wiedza jest krytyczna! Na dodatek tak DevOps tak został zbudowany, że nie wystarczy mieć dużo wiedzy w jednym temacie. Trzeba znać system operacyjny, chmurę, języki programowania, języki skryptowe, git-a, bazy danych, wirtualizację i konteneryzację… trzeba wiedzieć może nie „wszystko”, ale „o wszystkim” i ciagle się uczyć. Na początek wystarcza dość podstawowa wiedza aby „nie utonąć”. W miare pracy nad konkretnym zadaniem, tą początkową ogólna wiedza musi być pogłębiana. Do wykonania jest więc w zasadzie zadanie niewykonywalne. Wiedza którą lata temu podzielono między specjalistów poszczególnych technologii, teraz musi zostać opanowana przez jednego człowieka, a tak się raczej nie da – jeśli ta wiedza miała by być na tym najgłębszym poziomie. Stąd to ograniczenie – na początku trzeba znać wszystko, ale dość ogólnie. Na szczegóły przyjdzie czas.

DevOps to znajomość wielu technologii na raz!

Nie. DevOps składa się jeszcze z określonego stylu pracy (często Agile), uproszczonych procesów, kontroli pracy przez stosowanie odpowiednich narzędzi (np. Jira) oraz przede wszystkim – odpowiedniego zespołu, dobranego jako mix umiejętności, gdzie nikt nie zamyka się w swoim technologicznym kąciku, każdy pomaga każdemu i każdy bierze odpowiedzialność za sukces całego projektu.

DevOps to stosowanie odpowiednich narzędzi!

Nie. To że organizujesz sobie pracę przeklejając karteczki między TODO, WORKING i DONE nie oznacza, że jesteś DevOps. To oznacza tylko, że… lubisz przeklejać karteczki. DevOps to jeszcze odpowiednie nastawienie do pracy, model pracy i szeroki zakres wiedzy technologicznej

Jedyny cel DevOpsa to szybkie dostarczanie oprogramowania

Nie. Oczywiście po to, ta metoda została wymyślona, ale to nie jedyny cel. Chodzi również o to aby oprogramowanie miało dobrą, potwierdzoną częstymi testami jakość, było skalowalne, możliwe do przeniesienia z jednego środowiska do innego , stabilne, ciągle rozwijane. Cała ta praca ma być wykonywana przez otwarty zespół dzielący się doświadczeniami, pomagający sobie wzajemnie, tak aby praca była nie tylko efektywna ale jeszcze mało stresująca i dająca satysfakcję.

DevOps to Agile

Nie. Agile to częsty element DevOpsa, ale nie jego baza. Mamy jeszcze inne metody jak np. Lean, Extreme Programming, które z powodzeniem mogą być wykrzystywane w DevOps. Agile skupia się na szybkiej produkcji oprogramowania, ale w duzej mierze pomija kwestie współpracy w zespole, na dodatek Agile może być śmiało implementowany w zespole zorganizowanym w osobne wyspecjalizowane działy, zwany często silosami.

Jest ścisła definicja tego, jak ma wyglądać DevOps

Nie. Co kraj, to obyczaj. DevOps jest budowany przez ludzi, a ludzie są różni. DevOps może wyglądać inaczej w zależności od tego kto trafił do zespołu, jakie ma umiejętności, charakter, w jakim kraju ten zespół pracuje, albo czy jest międzynarodowy! Na dodatek każda firma, ma nieco inne plany i zasady pracy, dlatego DevOps, to raczej zbiór zaleceń niż ścisłych reguł.

DevOps to popularna metoda na organizację pracy związanej z produkcją oprogramowania. Pojęcie DevOps bywa różnie rozumiane i już właściwie z tym pierwszym zdaniem jest pewien problem. Niektórzy traktują DevOps bardziej jako filozofię lub „mindset” charakteryzujący ludzi współpracujących nad projektem, inni z kolei skupiają się na szerokim zakresie technologii, który musi zostać opanowany przez inżyniera DevOps, jeszcze inni kojarzą DevOps z narzędziami pracy jak np. Jira, PipeLines albo procesami build & deployment.

I rzeczywiście najlepiej jest traktować DevOps jako zbiór: zachowań i kultury współpracujących programistów i inżynierów, procesów, w ramach których oni pracują oraz technologii i narzędzi z jakich korzystają. W zależności od firmy, większa waga będzie przyłożona do tego lub innego elementu składowego, ale każdy z nich w jakimś stopniu musi występować.

Gdyby nikt nie wymyślił pojęcia DevOps, to pewnie nazwalibyśmy go ekstremalną automatyzacją w programowaniu, bo przecież celem pracy programisty i inżyniera jest szybkie tworzenie kodu, testowanie go i dostarczanie do klienta. Ma być nie tylko szybko, ale jeszcze dobrze pod względem jakości, a co poniekąd z tego wynika – może nie tanio, ale ekonomicznie, a przyjęło się sądzić, że to niemożliwe żeby było szybko, dobrze i tanio. Jak to jest osiągane?

• Programista, jak to programista – zamienia kofeinę i pizzę w kod. Tak jak zwykle to robił, wysyła swój kod do repozytorium kodu (GitHub, GitLab, etc). I tu zaczyna się akcja. Programista chciałby prędko swój kod zobaczyć w akcji i przetestować go. Dlatego…
• Po przesłaniu kodu uruchamia się proces, który automatycznie buduje rozwiązanie, np. w zależności od potrzeb kompiluje go, umieszcza gdzie trzeba…
• Wykonuje serię automatycznych testów, które potwierdzają, czy kod jest dobry czy wadliwy. Jeśli wszystko się udało, to…
• Dostarcza go do docelowego środowiska – tam testom podlega już nie pojedynczy komponent, ale cała aplikacja. Jeśli wszystko poszło dobrze – programista dostaje łyk coli

Sęk w tym, że ten automatyczny proces trzeba umieć zbudować. Dlatego może i mniej programista, ale bardziej inżynier musi zbudować ów potok zdarzeń, utrzymać go, zrozumieć aplikację i jej wymogi. A wymogi aplikacji są różne.

Mamy setki języków programowania, baz danych, metod uwierzytelnienia, mechanizmów zabezpieczających itp. Z tego wynika konieczność znajomości wielu różnych technologii. Nie wystarczy już świetnie znać system operacyjny. Trzeba umieć poskładać całą aplikację! Nie zapominajmy  przy tym, że obecnie aplikacja, to coraz rzadziej jeden plik exe, który gdzieś należy wgrać. Aplikacja zwykle korzysta z kilku serwerów, baz, interfejsów łączących tą aplikację z innymi systemami itp. Dlatego w DevOps triumfują również języki pozwalające budować tą wymaganą infrastrukturę, jak np. Terraform.

A jeśli do tego dodamy, że praca jest skomplikowana i wymaga rozwiązywania pojawiających się problemów zespołowo, to okaże się, że konieczne jest użycie narzędzi pozwalających na sprawną organizację pracy. Na szczęście w DevOps nie stosuje się typowego gigantycznego narzędzia do dokumentowania pracy. Zamiast tego wybiera się bardziej intuicyjne metody jak Kanban, czy Jira Boards. Łatwiej przecież zamknąć sprawę przekładając karteczkę z części „Working on” do części „Done”, niż zamknąć ticket wypełniając dziesiątki nikomu do niczego niepotrzebnych pól.

Nie ma co ukrywać – żadne narzędzie nie ogarnie pracy, jeśli ludzie nie chcą współpracować, a żaden Project Manager zwany tu często Scrum Masterem nie zrozumie o co w tym chodzi, jeśli sam nie jest doświadczonym DevOps inżynierem. Dlatego koniec końców cała odpowiedzialność i tak spada na specjalistów technicznych, którym mówi się, że pracują w modelu „shared responsibility”. I coś w tym jest! Zespoły DevOpsowe z założenia mają być bardziej otwarte i komunikatywne. Błąd jest po prostu naturalnym krokiem w kierunku zdobywania doświadczenia, dlatego , mimo konieczności ciągłej nauki, poznawania nieznanych technologii, pracy w intensywnie zmieniającym się środowisku, DevOps daje poczucie pracy w całkiem innej kulturze. Kulturze wzajemnego zrozumienia, otwartości, komunikacji – a to ważne elementy redukujące charakteryzujące dobre stanowisko pracy.

Azure Monitor pozwala na konfigurację alertów, które zostaną wyzwolone w przypadku zwiększonego wykorzystania zasobów wybranego obiektu infrastruktury, np. przeciążonego CPU, dysku sieci, ale także w oparciu o przekroczenie licznika pewnych zdarzeń, jak np. liczba nieudanych logowań w określonym czasie. Poniżej możesz zobaczyć, jak stworzyć taki alert przy pomocy powershella.

Na początek należy się zalogować do Azure i w razie potrzeby wybrać subskrypcję:

Connect-AZAccount
$subscription_name = 'XXX enter subscription name here XXX'
Select-AzSubscription -SubscriptionName "$subscription_name" | Out-Null

$action_group_name =  'DBAADMIN' # limit 12 characters
$emails = ('one@example.com', 'two@example.com')
$description = "Please have a look at this issue!"

$metric_alerts = @()
$condition = @{
    'metric_name' = 'CPU Credits Consumed';
    'threshold'   = 80;
    'window_size' = New-TimeSpan -Minutes 5;
    'frequency'   = New-TimeSpan -Minutes 1;
    'aggregation' = 'Average';
    'severity'    = 3
}
$metric_alerts += $condition

$condition = @{
    'metric_name' = 'CPU Credits Consumed';
    'threshold'   = 90;
    'window_size' = New-TimeSpan -Minutes 5;
    'aggregation' = 'Average';    
    'frequency'   = New-TimeSpan -Minutes 1;
    'severity'    = 3
}
$metric_alerts += $condition

Czytaj dalej »