MichaKowalczykiewicz

1、Micha KowalczykiewiczTime series forecasting using a hybrid ARIMA and neural network model(na podstawie pracy z Neurocomputing 50 (2003) 159 175, autorstwa G. Peter Zhang) 1Szereg czasowySzereg czasowy to proces stochastyczny, ktrego dziedzin jest czas; to zbir informacji uporzdkowanych w czasie, kt

2、rych pomiary wykonywane s z pewnym krokiem czasowymAnaliza szeregw czasowych ma dwa gwne cele: wykrywanie natury zjawiska reprezentowanego przez sekwencj obserwacji prognozowanie (przewidywanie przyszych wartoci szeregu czasowego)2Analiza szeregwModele pure autoregressive (AR) pure moving avarage (M

3、A) autoregressive integrated moving average (ARIMA) bilinear model threshold autoregressive (TAR) autoregressive conditional heteroscedastic (ARCH) artificial neural network (ANN)3Analiza szeregwModele pure autoregressive (AR) pure moving avarage (MA) autoregressive integrated moving average (ARIMA)

4、 bilinear model threshold autoregressive (TAR) autoregressive conditional heteroscedastic (ARCH) artificial neural network (ANN)4ARIMAJest metod statystyczn suc do analizowania szeregw czasowych, o liniowych zalenociach midzy danymi.Autorzy Box i Jenkins, 19765ARIMAModel:yt = 0 + 1yt-1 + 2yt-2 . . .

5、 + pyt-p + t - 1t-1 - 2t-2 - . . . - qt-qyt - warto w czasie tt - losowy bd w czasie ti (i = 1, 2, . . ., p), i (j = 0, 1, . . ., q) - parametry modelup, q - porzdek modelu t - niezalene, ze redni zero i sta wariancj 26ARIMABudowanie modelu za pomoc metody Boy - Jenkinsa (1976)AlgorytmFAZA 1 : ident

6、yfikacja modeluFAZA 2 : estymacja parametrwFAZA 3 : walidacja 7ARIMA - identyfikacja modelu W tej fazie naley ustali (zidentyfikowa) liczb i typ parametrw modelu ARIMA, czyli okreli wartoci parametrw p i q. 8ARIMA - identyfikacja modelu W tej fazie naley ustali (zidentyfikowa) liczb i typ parametrw

7、modelu ARIMA, czyli okreli wartoci parametrw p i q. Korzysta si z:autokorelogramu (ACF)autokorelogramu czstkowego (PACF)9ARIMA - uwagiWymaga si, by wejciowy szereg dla tej fazy by stacjonarny, to znaczy, powinien on mie sta w czasie redni, wariancj i autokorelacj. Dlatego zazwyczaj szereg wymaga rni

8、cowania a do osignicia stacjonarnocirnicowanie: yt = yt - yt-110ARIMA - estymacja parametrwPolega na wyznaczeniu wartoci parametrw i (i = 1, 2, . . ., p), i (j = 0, 1, . . ., q) dla ktrych otrzymujemy maksymaln wiarygodno (prawdopodobiestwo) otrzymania wanie obserwowanego szeregu. Aby mierzony bd by

9、 minimalny11ARIMA - estymacja parametrwPolega na wyznaczeniu wartoci parametrw i (i = 1, 2, . . ., p), i (j = 0, 1, . . ., q) dla ktrych otrzymujemy maksymaln wiarygodno (prawdopodobiestwo) otrzymania wanie obserwowanego szeregu. Aby mierzony bd by minimalny W praktyce wymaga to obliczenia (warunkow

10、ych) sum kwadratw reszt przy zadanych parametrach12ARIMA - walidacja W ostatniej fazie oceniamy trafno naszego modelu. Jeli model zawiera wiele parametrw ilub wyniki nas nie zadowalaj 13ARIMA - walidacja W ostatniej fazie oceniamy trafno naszego modelu. Jeli model zawiera wiele parametrw ilub wyniki

11、 nas nie zadowalaj moemy prbowa powtrnie z innymi wartociami pocztkowymi parametrw (czyli wracamy do FAZA 1).14ANNJest oglnym modelem potraficym wykrywa nieliniowe zalenociach midzy danymi, w szeregw czasowych15ANNNajczciej uywan sieci w tym zagadnieniu jest a sie GLM zaleno midzy wyjciem yt , a wej

12、ciam (yt-1, yt-2, . . ., yt-p), jest nastpujca: yt = 0 + j=q jg( i=p ijyt-i) + t j (j = 0, 1, . . ., q), ij (i = 0, 1, . . ., p; j = 1, 2, . . ., q) - wagip - liczba wejq - liczba neuronw w warstwie ukrytej16ANNJako funkcj aktywacji rodkowej warstwy przyjmuj si funkcje logistic:g(x) = 1 / (1 + exp(-

13、x)liczba wej sieci (p) i liczba neuronw wewntrznych (q) s dobierane eksperymentalnie.17HybridDla danych o ktrych nie wiemy, czy s zwizki w nich wystpujce s liniowe czy, te nie adna z wymienionych metoda nie jest odpowiednia.Metoda ARIMA nie wykrywa nieliniowoci w danychSieci neuronowe daj rednie wyn

14、iki dla danych w ktrych wystpuj zarwno liniowe jak i nieliniowe zwizki18HybridDla danych o ktrych nie wiemy, czy s zwizki w nich wystpujce s liniowe czy, te nie adna z wymienionych metoda nie jest odpowiednia.Metoda ARIMA nie wykrywa nieliniowoci w danychSieci neuronowe daj rednie wyniki dla danych

15、w ktrych wystpuj zarwno liniowe jak i nieliniowe zwizkiPotrzebujemy uniwersalnego modelu, odpowiedniego dla wszystkich rodzajw danych19HybridModel: yt = Lt + NtLt - liniowy komponentNt - nieliniowy komponentTe dwa parametry musz zosta wyznaczone z danych20Hybrid - Liniowy komponentLiniowy komponentW

16、pierw metod ARIMA modelujemy liniowy komponent ().Jeli tylko L (czyli zawiera wszystkie liniowe relacje w danych) to residua powstae z liniowego modelu bd zawieray tylko nieliniowe zwizki.21Hybrid - Nieliniowy komponentNieliniowy komponentNiech et bdzie reszt z dopasowanego liniowego modelu w czasie t.Wtedy: et = yt - tTe wartoci moemy zamodelowa za pomoc si