niedziela, 18 listopada 2012

Korelacja

Korelacja

Korelacja jest to miara współwystępowania dwóch zmiennych. Mimo, iż stwierdzenie „miara związku między zmiennymi” brzmi bardzo naukowo i poważnie, tak naprawdę z korelacją w naszym codziennym życiu mamy do czynienia częściej niż nam się wydaje. Któż z nas bowiem, nie słyszał narzekań typu: „kiedy wychodzi się z domu bez parasola, to zaraz zaczyna padać deszcz”? Takie współwystępowanie dwóch zmiennych: brak parasola- opad deszczu to właśnie jest korelacja. Innym książkowym przykładem obrazującym współczynnik korelacji jest stwierdzenie: „im ktoś jest wyższy, tym więcej waży”. Oczywiście, już na pierwszy rzut oka, można zauważyć, iż w obu przywołanych przykładach mamy do czynienia z odmienną skalą pomiarową, na której są mierzone zmienne. W pierwszym przypadku (brak parasola- opad deszczu) odwołujemy się do zmiennych nominalnych, w przypadku wagi i wzrostu zmienne są mierzone na skali ilościowej. Dobór współczynnika korelacji zależy właśnie od tego na jakiej skali pomiarowej mierzone są analizowane zmienne.

Korelacja liniowa prosta (r Pearsona)
Współczynnik korelacji liniowej Pearsona (dalej nazywany po prostu współczynnikiem korelacji), wymaga, aby dwie zmienne zostały zmierzone co najmniej na skali przedziałowej. Określa on stopień "proporcjonalnych" powiązań wartości dwóch zmiennych. Wartość korelacji (współczynnik korelacji) nie zależy od jednostek miary, w jakich wyrażamy badane zmienne, np. korelacja pomiędzy wzrostem i ciężarem będzie taka sama bez względu na to, w jakich jednostkach (cale i funty czy centymetry i kilogramy) wyrazimy badane wielkości. Określenie proporcjonalne znaczy zależne liniowo, to znaczy, że korelacja jest silna, jeśli może być "opisana" przy pomocy linii prostej (nachylonej do góry lub na dół).

Nieliniowe powiązania pomiędzy zmiennymi
Innym potencjalnym źródłem problemów w przypadku stosowania korelacji liniowej (r Pearsona) jest kształt zależności. Odstępstwa od liniowości spowodują wzrost sumy kwadratów odchyleń od linii regresji, nawet jeśli reprezentują one "prawdziwy" i ścisły związek dwóch zmiennych. Okoliczność ta powoduje, że analizowanie wykresu rozrzutu jest niezbędnym elementem analizy przy obliczaniu korelacji.

Korelacje pozorne
Chociaż w oparciu o wartości współczynników korelacji nie można dowieść istnienia związku przyczynowego , to jednak można zidentyfikować tzw. korelacje pozorne; to znaczy korelacje, które powstają głównie w wyniku wpływu "innych" zmiennych. Na przykład nietrudno się domyślić, że istnieje korelacja pomiędzy wielkością strat związanych z pożarem a liczbą strażaków biorących udział w gaszeniu. Jednakże nie można z tego wyciągnąć wniosku, że jeśli wezwiemy mniej strażaków, to straty będą mniejsze. Decydujący wpływ ma tu trzecia zmienna (mianowicie wielkość pożaru), która ma decydujący wpływ zarówno na straty, jak i na liczbę strażaków. Jeślibyśmy byli w stanie "kontrolować" tę zmienną (to znaczy rozpatrywać jedynie pożary o ustalonej wielkości), wówczas korelacja wspomniana na wstępie albo w ogóle zniknie albo nawet może zmienić znak. Główny problem z korelacjami pozornymi jest taki, że w zasadzie nigdy nie wiemy, co jest tym "ukrytym" czynnikiem. Jeśli jednak znamy przyczynę, to wtedy możemy obliczyć korelacje cząstkowe, które uwzględniają (usuwają) wpływ określonych zmiennych.

Jak określić istotność różnic pomiędzy dwoma współczynnikami korelacji
Dostępny jest test sprawdzający istotność różnic pomiędzy dwoma współczynnikami korelacji w dwóch próbkach. Wynik tego testu zależy nie tylko od bezwzględnej wielkości różnicy tych współczynników, ale także od wielkości próbek, jak również od samych wartości tych współczynników. Zgodnie z wcześniej omawianą zasadą, im większa liczność próbki, tym mniejsze efekty można na jej podstawie wykryć. W ogólności, z powodu faktu, że wiarygodność współczynnika korelacji rośnie wraz z jego bezwzględną wartością to relatywnie małe różnice pomiędzy dużymi współczynnikami korelacji mogą być istotne. Na przykład różnica równa 0,10 może okazać się nieistotna w przypadku dwóch współczynników równych 0,15 i 0,25, a w takich samych próbkach będzie ona wysoce istotna, jeśli współczynniki są równe 0,80 i 0,90.

Korelacja Spearmana
pozwala sprawdzić czy pomiędzy dwiema zmiennymi istnieje związek (współzależność). Korelacja Spearmana należy do grupy testów nieparametrycznych, jej parametrycznym odpowiednikiem jest korelacja Pearsona. stosujemy ją najczęściej wtedy gdy nasze zmienne nie spełniają założeń testów parametrycznych takich jak normalność rozkładu oraz ilościowy charakter testowanych zmiennych.

Metody Iteracji

Metody Iteracji

Metody Iteracji służą do przybliżonego rozwiązywania układów równań. Rozwiązanie otrzymuje się w wyniku pewnego postępowania sekwencyjnego, przy czym w każdym jego kroku uzyskuje się przybliżenie szukanego rozwiązania. Punktem wyjścia jest odgadnięte pierwsze przybliżenie niewiadomych H, np.

…

które można zapisać jako wektor «H«(⁰). Pierwszy krok algorytmu prowadzi do nowego wektora «H»(¹).Po k krokach otrzymuje się wektor «H»(^k) i następny krok prowadzi do «H»(^k+1). Aby iteracja miała sens, proces musi być zbieżny, to znaczy kolejne wyrazy ciągu «H»(^k) muszą zdążać do ścisłego rozwiązania wyjściowego układu równań, gdy k zdąża do nieskończoności. Do m.i. należą: → schemat jawny, → schemat uwikłany, → Cranka-Nicholsona schemat, → Jacobiego metoda, → Gaussa-Seidela metoda, → metoda zmiennych kierunków.

Przykłady

Metoda Gaussa-Seidla
jest metodą relaksacyjną, w której poszukiwanie rozwiązania rozpoczyna się od dowolnie wybranego rozwiązania próbnego $\ x_0$ , po czym w kolejnych krokach, zwanych iteracjami, za pomocą prostego algorytmu zmienia się kolejno jego składowe, tak by coraz lepiej odpowiadały rzeczywistemu rozwiązaniu. Metoda Gaussa-Seidla bazuje na metodzie Jacobiego, w której krok iteracyjny zmieniono w ten sposób, by każda modyfikacja rozwiązania próbnego korzystała ze wszystkich aktualnie dostępnych przybliżonych składowych rozwiązania. Pozwala to zaoszczędzić połowę pamięci operacyjnej i w większości zastosowań praktycznych zmniejsza ok. dwukrotnie liczbę obliczeń niezbędnych do osiągnięcia zadanej dokładności rozwiązania.

Metoda Warda - Hale’a
jest metodą iteracyjną, umożliwiającą rozwiązanie równań sieci elektroenergetycznej w oparciu o układ równań nieliniowych wiążących ze sobą $P,Q,U$ i $O$ w każdym węźle. Odpowiednio zależnie od rodzaju węzła wybiera się także zmienne niezależne i zależne oraz przyjmuje część wielkości za znane. Podstawą rozpoczęcia procesu rozwiązywania równań jest przyjęcie rozwiązania wyjściowego (przybliżenie zerowe), z którego wyznacza się rozwiązania po pierwszym kroku iteracyjnym. Rozwiązanie to jest rozwiązaniem wyjściowym drugiego kroku iteracyjnego itd. Jeżeli proces iteracyjny jest zbieżny to kolejne rozwiązania są coraz dokładniejsze, proces przerywa się, gdy różnica między kolejnymi krokami iteracyjnymi jest dostatecznie mała.

Funkcje statystyczne w excelu

Funkcje statystyczne w excelu

MIN - Zwraca minimalną wartość listy argumentów.

LICZ.JEŻELI - Zwraca liczbę komórek wewnątrz zakresu, które spełniają podane kryteria.

ODCH.ŚREDNIE - Zwraca średnią wartość odchyleń absolutnych punktów danych od ich wartości średniej.

KURTOZA - Zwraca kurtozę zbioru danych.

ODCH.STANDARDOWE - Szacuje odchylenie standardowe na podstawie próbki.

ODCH.KWADRATOWE - Zwraca sumę kwadratów odchyleń.

MAX - Zwraca maksymalną wartość listy argumentów.

WYST.NAJCZĘŚCIEJ - Zwraca wartość najczęściej występującą w zbiorze danych.

ILE.LICZB - Zlicza liczby znajdujące się na liście argumentów.

MEDIANA - Zwraca medianę podanych liczb.

poniedziałek, 22 października 2012

METODY NUMERYCZNE I PROBABILISTYCZNE

Uniwersytet Technologiczno Humanistyczny w Radomiu

Metody numeryczne

Metody Numeryczne zajmują się szukaniem i udoskonalaniem sposobów rozwiązywania zadań matematyki za pomocą skończonej liczby działań arytmetycznych i logicznych. Praktyczne wykorzystanie metod numerycznych już od lat wiąże się z maszynami cyfrowymi. Współczesne metody numeryczne są konstruowane z myślą o ich realizacji na maszynach cyfrowych. Wykonanie obliczeń numerycznych na komputerach tworzy nową klasę problemów. Wynikają one między innymi ze stosowanej arytmetyki. Każda liczba w pamięci komputera jest reprezentowana przez swoje skończone rozwinięcie. W każdym działaniu arytmetycznym powstaje błąd, ponieważ wynik jest również skończonym rozwinięciem. Dlatego nie wolno nam przyjmować ich bezkrytycznie, i uważać je za poprawne tylko dlatego, że obliczone zostały przez komputer

Metody probabilistyczne i statystyka

Metody probabilistyczne polegają na zastosowaniu rachunku prawdopodobieństwa do rozwiązywania problemów kombinatorycznych. Na przykład zamiast konstruować explicite jakiś obiekt o żądanych własnościach (kolorowanie grafu, strategię wygrywającą w grze, kod do przesyłania wiadomości itp.) pokazujemy, że losowy wybrany obiekt posiada taką własność z niezerowym prawdopodobieństwem. Tego typu niekonstruktywne techniki, wprowadzone po raz pierwszy przez Paula Erdösa, okazały się niezwykle skuteczne zarówno w czystej matematyce (m. in. w kombinatoryce, grafach losowych, geometrii), jak i w informatyce teoretycznej i algorytmice (np. w teorii złożoności czy algorytmach randomizowanych). Obecnie rachunek prawdopodobieństwa to podstawowe narzędzie z przybornika każdego szanującego się kombinatoryka (i nie tylko).

Metody probabilistyczne i statystyka - test sprawdzający wiedzę

index.htm

Metody probabilistyczne i statystyka - rozwiązania testów

Test nr 1 - 100%

Test nr 2 - 100%

Test nr 3 - 100%

Test nr 4 - 100%

Test nr 5 - 100%

Test nr 6 - 100%

Test nr 7 - 100%

Test nr 8 - 100%

Test nr 9 - 100%

Test nr 10 - 100%

Przykładowe metody numeryczne:

Interpolacja liniowa szczególny przypadek interpolacji za pomocą funkcji liniowej. Jeśli $x$ określa wartość z przedziału $x_0 < x < x_1$ , a $y_0 = f(x_0)$ i $y_1 = f(x_1)$ tablicę wartości danej funkcji, oraz $h = x_1 - x_0$ odstęp pomiędzy argumentami, wówczas liniową interpolację wartości $L(x)$ funkcji $f$ otrzymujemy jako:

$L(x) = y_0 + \frac{y_1 - y_0}{h}(x-x_0).$

Metoda Monte Carlo (MC) jest stosowana do modelowania matematycznego procesów zbyt złożonych (obliczania całek, łańcuchów procesów statystycznych), aby można było przewidzieć ich wyniki za pomocą podejścia analitycznego. Istotną rolę w metodzie MC odgrywa losowanie (wybór przypadkowy) wielkości charakteryzujących proces, przy czym losowanie dokonywane jest zgodnie z rozkładem, który musi być znany.

Typowym przykładem może być modelowanie wyniku zderzenia cząstki o wysokiej energii z jądrem złożonym, gdzie każdy akt zderzenia elementarnego (z pojedynczym nukleonem jądra) modelowany jest oddzielnie poprzez losowanie liczby, rodzaju, kąta emisji, energii itp. cząstek wtórnych emitowanych w wyniku takiego zderzenia. Następnym etapem jest modelowanie losu każdej z cząstek wtórnych (w wyniku kolejnego losowania prawdopodobieństwa oddziaływania lub wyjścia z jądra). Kontynuując taką procedurę można otrzymać pełny opis "sztucznie generowanego" procesu złożonego. Po zebraniu dostatecznie dużej liczby takich informacji można zestawić ich charakterystyki z obserwowanymi wynikami doświadczalnymi, potwierdzając lub negując słuszność poczynionych w całej procedurze założeń.

Metoda została opracowana i pierwszy raz zastosowana przez Stanisława Ulama.

Interpolacja wielomianowa, nazywana też interpolacją Lagrange'a, od nazwiska pioniera badań nad interpolacją Josepha Lagrange'a, lub po prostu interpolacją jest metodą numeryczną przybliżania funkcji tzw. wielomianem Lagrange'a stopnia n, przyjmującym w n+1 punktach, zwanych węzłami interpolacji wartości takie same jak przybliżana funkcja.

Interpolacja jest często stosowana w naukach doświadczalnych, gdzie dysponuje się zazwyczaj skończoną liczbą danych do określenia zależności między wielkościami.

Zgodnie z twierdzeniem Weierstrassa dowolną funkcję y=f(x) ciągłą na przedziale domkniętym można dowolnie przybliżyć za pomocą wielomianu odpowiednio wysokiego stopnia.

Szybka transformacja Fouriera (ang. FFT od Fast Fourier Transform) to algorytm liczenia dyskretnej transformaty Fouriera oraz transformaty do niej odwrotnej.

Czasem używana jest też forma szybka transformata Fouriera w odniesieniu do tej metody. Ściśle jednak transformacja jest przekształceniem, a transformata wynikiem tego przekształcenia.

Niech x₀, ...., x_N-1 będą liczbami zespolonymi, wtedy dyskretna transformata Fouriera jest określona wzorem

$X_k = \sum_{n=0}^{N-1} x_n e^{-{2\pi i \over N} nk } \qquad k = 0,\dots,N-1.$

Obliczanie tych sum za pomocą powyższego wzoru zajęłoby O(N²) operacji.

Algorytmy (jak algorytm Cooleya-Tukeya) obliczające szybką transformację Fouriera bazują na metodzie dziel i zwyciężaj rekurencyjnie dzieląc transformatę wielkości N = N₁N₂ na transformaty wielkości N₁ i N₂ z wykorzystaniem O(N) operacji mnożenia.

Całkowanie metodą Simpsona – jedna z metod przybliżania wartości całki oznaczonej funkcji rzeczywistej.

Metoda ma zastosowanie do funkcji stablicowanych w nieparzystej liczbie równo odległych punktów (wliczając końce przedziału całkowania). Metoda opiera się na przybliżaniu funkcji całkowanej przez interpolację wielomianem drugiego stopnia.

Znając wartości $y_0,\ y_1,\ y_2$ funkcji $f(x)$ w 3 punktach $x_0,\ x_1,\ x_2$ (przy czym $x_2-x_1 = x_1-x_0 = h\;$ ), przybliża się funkcję wielomianem Lagrange'a i, całkując w przedziale $[x_0,x_2]$ , otrzymuje przybliżoną wartość całki:

$\int\limits_{x_0}^{x_2}f(x)dx\approx \frac h 3 (y_0+4y_1+y_2)$

Błąd, który przy tym popełniamy, jest równy: $R = \frac{1}{90} h^5 |f^{(4)}(c)|$ , gdzie:

$c \in [x_0; x_2]$ .

Nie znamy położenia punktu c, więc posługujemy się poniższym szacowaniem, mającym zastosowanie w obliczeniach numerycznych:

$R \leqslant \frac{1}{90} h^5 \max_{x \in [x_0; x_2]} |f^{(4)}(x)|$ .

Kwadraturami Gaussa nazywamy metody całkowania numerycznego polegające na takim wyborze wag $w_1, w_2, \ldots, w_n$ i węzłów interpolacji $t_1, t_2, \ldots, t_n \in [a,b]$ aby wyrażenie

$\sum_{i=1}^n w_i f(t_i)$

najlepiej przybliżało całkę

$I(f) = \int\limits_a^b w(x) f(x) dx$

gdzie $f$ jest dowolną funkcją określoną na odcinku $[a,b]$ , a $w$ jest tzw. funkcją wagową spełniającą warunki

$w(x)\ge 0$ ,
$\forall_{k\in \mathbb{N}} \int\limits_a^b x^k w(x) dx$ jest skończona,
Jeżeli $p$ jest wielomianem takim, że $\forall_{x\in [a,b]}\;p(x)\ge 0$ , to jeśli $\int\limits_a^b w(x) p(x) dx=0$ , mamy wtedy $p\equiv0$ .