W ostatnich latach byliśmy świadkami ogromnego postępu technik sztucznej inteligencji, uczenia maszynowego oraz uczenia głębokiego. Konsekwencje tego błyskawicznego rozwoju są odczuwalne w niemal każdej dziedzinie. Wydaje się, że to jedna z tych technologii, które powinny być dostępne dla jak najszerszej grupy ludzi. Dopiero wtedy uczenie głębokie wykorzysta w pełni swój potencjał i stanie się prawdziwym impulsem rozwoju naszej cywilizacji. Co prawda na pierwszy rzut oka ta niesamowita technologia może wydawać się wyjątkowo skomplikowana i trudna do zrozumienia, warto jednak wykorzystać dostępne narzędzia, takie jak biblioteka Keras i język R, aby implementować mechanizmy uczenia głębokiego wszędzie tam, gdzie okażą się przydatne.

Ta książka jest znakomitym przewodnikiem po technikach uczenia głębokiego. Poza wyczerpująco przedstawionymi podstawami znajdziesz tu zasady implementacji tych technik z wykorzystaniem języka R i biblioteki Keras. Dzięki przystępnym wyjaśnieniom i praktycznym przykładom szybko zrozumiesz nawet bardziej skomplikowane zagadnienia uczenia głębokiego. Poznasz koncepcje i dobre praktyki związane z tworzeniem mechanizmów analizy obrazu, przetwarzania języka naturalnego i modeli generatywnych. Przeanalizujesz ponad 30 przykładów kodu uzupełnionego dokładnymi komentarzami. W efekcie szybko przygotujesz się do korzystania z uczenia głębokiego w rozwiązywaniu konkretnych problemów.

W tej książce między innymi:

• podstawowe koncepcje sztucznej inteligencji, uczenia maszynowego i uczenia głębokiego
• wprowadzenie do budowy i trenowania sieci neuronowych
• uczenie głębokie w przetwarzaniu obrazów
• modele generatywne tworzące obrazy i tekst
• perspektywy i ograniczenia uczenia głębokiego

Uczenie głębokie: zafascynuj się i zaimplementuj!

Rozdziały:

Przedmowa 9

Podziękowania 11

O książce 13

O autorach 17

CZĘŚĆ I. PODSTAWY UCZENIA GŁĘBOKIEGO 19

Rozdział 1. Czym jest uczenie głębokie? 21

• 1.1. Sztuczna inteligencja, uczenie maszynowe i uczenie głębokie 22
  • 1.1.1. Sztuczna inteligencja 22
  • 1.1.2. Uczenie maszynowe 22
  • 1.1.3. Formy danych umożliwiające uczenie 24
  • 1.1.4. "Głębia" uczenia głębokiego 26
  • 1.1.5. Działanie uczenia głębokiego przedstawione na trzech rysunkach 27
  • 1.1.6. Co dotychczas osiągnięto za pomocą uczenia głębokiego? 29
  • 1.1.7. Nie wierz w tymczasową popularność 30
  • 1.1.8. Nadzieje na powstanie sztucznej inteligencji 31
• 1.2. Zanim pojawiło się uczenie głębokie: krótka historia uczenia maszynowego 32
  • 1.2.1. Modelowanie probabilistyczne 32
  • 1.2.2. Wczesne sieci neuronowe 33
  • 1.2.3. Metody jądrowe 33
  • 1.2.4. Drzewa decyzyjne, lasy losowe i gradientowe wzmacnianie maszyn 35
  • 1.2.5. Powrót do sieci neuronowych 35
  • 1.2.6. Co wyróżnia uczenie głębokie? 36
  • 1.2.7. Współczesne uczenie maszynowe 37
• 1.3. Dlaczego uczenie głębokie? Dlaczego teraz? 38
  • 1.3.1. Sprzęt 38
  • 1.3.2. Dane 39
  • 1.3.3. Algorytmy 40
  • 1.3.4. Nowa fala inwestycji 40
  • 1.3.5. Demokratyzacja uczenia głębokiego 41
  • 1.3.6. Co dalej? 41

Rozdział 2. Matematyczne podstawy sieci neuronowych 43

• 2.1. Pierwszy przykład sieci neuronowej 44
• 2.2. Reprezentacja danych sieci neuronowych 47
  • 2.2.1. Skalary (tensory zerowymiarowe) 48
  • 2.2.2. Wektory (tensory jednowymiarowe) 48
  • 2.2.3. Macierze (tensory dwuwymiarowe) 48
  • 2.2.4. Trójwymiarowe tensory i tensory o większej liczbie wymiarów 49
  • 2.2.5. Główne atrybuty 49
  • 2.2.6. Obsługa tensorów R 50
  • 2.2.7. Wsad danych 50
  • 2.2.8. Prawdziwe przykłady tensorów danych 51
  • 2.2.9. Dane wektorowe 51
  • 2.2.10. Dane szeregu czasowego i dane sekwencyjne 52
  • 2.2.11. Dane w postaci obrazów 52
  • 2.2.12. Materiały wideo 53
• 2.3. Koła zębate sieci neuronowych: operacje na tensorach 53
  • 2.3.1. Operacje wykonywane element po elemencie 54
  • 2.3.2. Operacje na tensorach o różnych wymiarach 55
  • 2.3.3. Iloczyn tensorowy 55
  • 2.3.4. Zmiana kształtu tensora 57
  • 2.3.5. Geometryczna interpretacja operacji tensorowych 58
  • 2.3.6. Interpretacja geometryczna uczenia głębokiego 59
• 2.4. Silnik sieci neuronowych: optymalizacja gradientowa 60
  • 2.4.1. Czym jest pochodna? 61
  • 2.4.2. Pochodna operacji tensorowej: gradient 62
  • 2.4.3. Stochastyczny spadek wzdłuż gradientu 63
  • 2.4.4. Łączenie pochodnych: algorytm propagacji wstecznej 66
• 2.5. Ponowna analiza pierwszego przykładu 67
• 2.6. Podsumowanie rozdziału 68

Rozdział 3. Rozpoczynamy korzystanie z sieci neuronowych 71

• 3.1. Anatomia sieci neuronowej 72
  • 3.1.1. Warstwy: podstawowe bloki konstrukcyjne uczenia głębokiego 72
  • 3.1.2. Modele: sieci warstw 73
  • 3.1.3. Funkcja straty i optymalizatory: najważniejsze elementy konfiguracji procesu uczenia 74
• 3.2. Wprowadzenie do pakietu Keras 75
  • 3.2.1. Keras, TensorFlow, Theano i CNTK 76
  • 3.2.2. Instalowanie pakietu Keras 77
  • 3.2.3. Praca z pakietem Keras: krótkie wprowadzenie 77
• 3.3. Przygotowanie stacji roboczej do uczenia głębokiego 79
  • 3.3.1. Dwie opcje uruchamiania pakietu Keras 79
  • 3.3.2. Wady i zalety uruchamiania uczenia głębokiego w chmurze 80
  • 3.3.3. Jaki procesor graficzny najlepiej nadaje się do uczenia głębokiego? 80
• 3.4. Przykład klasyfikacji binarnej: klasyfikacja recenzji filmów 81
  • 3.4.1. Zbiór danych IMDB 81
  • 3.4.2. Przygotowywanie danych 82
  • 3.4.3. Budowa sieci neuronowej 83
  • 3.4.4. Walidacja modelu 87
  • 3.4.5. Używanie wytrenowanej sieci do generowania przewidywań dotyczących nowych danych 90
  • 3.4.6. Dalsze eksperymenty 90
  • 3.4.7. Wnioski 91
• 3.5. Przykład klasyfikacji wieloklasowej: klasyfikacja krótkich artykułów prasowych 91
  • 3.5.1. Zbiór danych Agencji Reutera 91
  • 3.5.2. Przygotowywanie danych 93
  • 3.5.3. Budowanie sieci 93
  • 3.5.4. Walidacja modelu 94
  • 3.5.5. Generowanie przewidywań dotyczących nowych danych 96
  • 3.5.6. Inne sposoby obsługi etykiet i funkcji straty 97
  • 3.5.7. Dlaczego warto tworzyć odpowiednio duże warstwy pośrednie? 97
  • 3.5.8. Dalsze eksperymenty 98
  • 3.5.9. Wnioski 98
• 3.6. Przykład regresji: przewidywanie cen mieszkań 99
  • 3.6.1. Zbiór cen mieszkań w Bostonie 99
  • 3.6.2. Przygotowywanie danych 100
  • 3.6.3. Budowanie sieci 100
  • 3.6.4. K-składowa walidacja krzyżowa 101
  • 3.6.5. Wnioski 105
• 3.7. Podsumowanie rozdziału 105

Rozdział 4. Podstawy uczenia maszynowego 107

• 4.1. Cztery rodzaje uczenia maszynowego 108
  • 4.1.1. Uczenie nadzorowane 108
  • 4.1.2. Uczenie nienadzorowane 108
  • 4.1.3. Uczenie częściowo nadzorowane 109
  • 4.1.4. Uczenie przez wzmacnianie 109
• 4.2. Ocena modeli uczenia maszynowego 109
  • 4.2.1. Zbiory treningowe, walidacyjne i testowe 111
  • 4.2.2. Rzeczy, o których warto pamiętać 114
• 4.3. Wstępna obróbka danych, przetwarzanie cech i uczenie cech 114
  • 4.3.1. Przygotowywanie danych do przetwarzania przez sieci neuronowe 115
  • 4.3.2. Przetwarzanie cech 116
• 4.4. Nadmierne dopasowanie i zbyt słabe dopasowanie 118
  • 4.4.1. Redukcja rozmiaru sieci 119
  • 4.4.2. Dodawanie regularyzacji wag 121
  • 4.4.3. Porzucanie - technika dropout 123
• 4.5. Uniwersalny przepływ roboczy uczenia maszynowego 125
  • 4.5.1. Definiowanie problemu i przygotowywanie zbioru danych 125
  • 4.5.2. Wybór miary sukcesu 126
  • 4.5.3. Określanie techniki oceny wydajności modelu 127
  • 4.5.4. Przygotowywanie danych 127
  • 4.5.5. Tworzenie modeli lepszych od linii bazowej 128
  • 4.5.6. Skalowanie w górę: tworzenie modelu, który ulega nadmiernemu dopasowaniu 129
  • 4.5.7. Regularyzacja modelu i dostrajanie jego hiperparametrów 129
• 4.6. Podsumowanie rozdziału 130

CZĘŚĆ II. UCZENIE GŁĘBOKIE W PRAKTYCE 131

Rozdział 5. Uczenie głębokie i przetwarzanie obrazu 133

• 5.1. Wprowadzenie do konwolucyjnych sieci neuronowych 134
  • 5.1.1. Działanie sieci konwolucyjnej 136
  • 5.1.2. Operacja max-pooling 141
• 5.2. Trenowanie konwolucyjnej sieci neuronowej na małym zbiorze danych 143
  • 5.2.1. Stosowanie uczenia głębokiego w problemach małych zbiorów danych 144
  • 5.2.2. Pobieranie danych 144
  • 5.2.3. Budowa sieci neuronowej 147
  • 5.2.4. Wstępna obróbka danych 148
  • 5.2.5. Stosowanie techniki augmentacji danych 151
• 5.3. Korzystanie z wcześniej wytrenowanej konwolucyjnej sieci neuronowej 155
  • 5.3.1. Ekstrakcja cech 155
  • 5.3.2. Dostrajanie 163
  • 5.3.3. Wnioski 167
• 5.4. Wizualizacja efektów uczenia konwolucyjnych sieci neuronowych 168
  • 5.4.1. Wizualizacja pośrednich aktywacji 169
  • 5.4.2. Wizualizacja filtrów konwolucyjnych sieci neuronowych 175
  • 5.4.3. Wizualizacja map ciepła aktywacji klas 181
• 5.5. Podsumowanie rozdziału 185

Rozdział 6. Uczenie głębokie w przetwarzaniu tekstu i sekwencji 187

• 6.1. Praca z danymi tekstowymi 188
  • 6.1.1. Kodowanie słów i znaków metodą gorącej jedynki 189
  • 6.1.2. Osadzanie słów 192
  • 6.1.3. Łączenie wszystkich technik: od surowego tekstu do osadzenia słów 197
  • 6.1.4. Wnioski 203
• 6.2. Rekurencyjne sieci neuronowe 203
  • 6.2.1. Warstwa rekurencyjna w pakiecie Keras 206
  • 6.2.2. Warstwy LSTM i GRU 209
  • 6.2.3. Przykład warstwy LSTM zaimplementowanej w pakiecie Keras 212
  • 6.2.4. Wnioski 213
• 6.3. Zaawansowane zastosowania rekurencyjnych sieci neuronowych 214
  • 6.3.1. Problem prognozowania temperatury 214
  • 6.3.2. Przygotowywanie danych 217
  • 6.3.3. Punkt odniesienia w postaci zdrowego rozsądku 220
  • 6.3.4. Podstawowe rozwiązanie problemu przy użyciu techniki uczenia maszynowego 221
  • 6.3.5. Punkt odniesienia w postaci pierwszego modelu rekurencyjnego 223
  • 6.3.6. Stosowanie rekurencyjnego porzucania w celu zmniejszenia nadmiernego dopasowania 225
  • 6.3.7. Tworzenie stosów warstw rekurencyjnych 226
  • 6.3.8. Korzystanie z dwukierunkowych rekurencyjnych sieci neuronowych 228
  • 6.3.9. Kolejne rozwiązania 232
  • 6.3.10. Wnioski 233
• 6.4. Konwolucyjne sieci neuronowe i przetwarzanie sekwencji 234
  • 6.4.1. Przetwarzanie sekwencji za pomocą jednowymiarowej sieci konwolucyjnej 234
  • 6.4.2. Jednowymiarowe łączenie danych sekwencyjnych 235
  • 6.4.3. Implementacja jednowymiarowej sieci konwolucyjnej 235
  • 6.4.4. Łączenie sieci konwolucyjnych i rekurencyjnych w celu przetworzenia długich sekwencji 237
  • 6.4.5. Wnioski 241
• 6.5. Podsumowanie rozdziału 242

Rozdział 7. Najlepsze zaawansowane praktyki uczenia głębokiego 245

• 7.1. Funkcjonalny interfejs programistyczny pakietu Keras: wykraczanie poza model sekwencyjny 246
  • 7.1.1. Wprowadzenie do funkcjonalnego interfejsu API 247
  • 7.1.2. Modele z wieloma wejściami 249
  • 7.1.3. Modele z wieloma wyjściami 251
  • 7.1.4. Skierowane acykliczne grafy warstw 254
  • 7.1.5. Udostępnianie wag warstwy 258
  • 7.1.6. Modele pełniące funkcję warstw 259
  • 7.1.7. Wnioski 260
• 7.2. Monitorowanie modeli uczenia głębokiego przy użyciu wywołań zwrotnych pakietu Keras i narzędzia TensorBoard 260
  • 7.2.1. Używanie wywołań zwrotnych w celu sterowania procesem trenowania modelu 260
  • 7.2.2. Wprowadzenie do TensorBoard - platformy wizualizacji danych pakietu TensorFlow 264
  • 7.2.3. Wnioski 268
• 7.3. Korzystanie z pełni możliwości modeli 268
  • 7.3.1. Konstrukcja zaawansowanych architektur 269
  • 7.3.2. Optymalizacja hiperparametru 272
  • 7.3.3. Składanie modeli 274
  • 7.3.4. Wnioski 276
• 7.4. Podsumowanie rozdziału 276

Rozdział 8. Stosowanie uczenia głębokiego w celu generowania danych 279

• 8.1. Generowanie tekstu za pomocą sieci LSTM 281
  • 8.1.1. Krótka historia generatywnych sieci rekurencyjnych 281
  • 8.1.2. Generowanie danych sekwencyjnych 282
  • 8.1.3. Dlaczego strategia próbkowania jest ważna? 282
  • 8.1.4. Implementacja algorytmu LSTM generującego tekst na poziomie liter 285
  • 8.1.5. Wnioski 289
• 8.2. DeepDream 290
  • 8.2.1. Implementacja algorytmu DeepDream w pakiecie Keras 291
  • 8.2.2. Wnioski 296
• 8.3. Neuronowy transfer stylu 297
  • 8.3.1. Strata treści 298
  • 8.3.2. Strata stylu 298
  • 8.3.3. Implementacja neuronowego transferu stylu przy użyciu pakietu Keras 299
  • 8.3.4. Wnioski 304
• 8.4. Generowanie obrazów przy użyciu wariacyjnych autoenkoderów 306
  • 8.4.1. Próbkowanie z niejawnej przestrzeni obrazów 306
  • 8.4.2. Wektory koncepcyjne używane podczas edycji obrazu 307
  • 8.4.3. Wariacyjne autoenkodery 308
  • 8.4.4. Wnioski 314
• 8.5. Wprowadzenie do generatywnych sieci z przeciwnikiem 315
  • 8.5.1. Schematyczna implementacja sieci GAN 316
  • 8.5.2. Zbiór przydatnych rozwiązań 317
  • 8.5.3. Generator 318
  • 8.5.4. Dyskryminator 319
  • 8.5.5. Sieć z przeciwnikiem 320
  • 8.5.6. Trenowanie sieci DCGAN 320
  • 8.5.7. Wnioski 322
• 8.6. Podsumowanie rozdziału 323

Rozdział 9. Wnioski 325

• 9.1. Przypomnienie najważniejszych koncepcji 326
  • 9.1.1. Sztuczna inteligencja 326
  • 9.1.2. Co sprawia, że uczenie głębokie to wyjątkowa dziedzina uczenia maszynowego? 326
  • 9.1.3. Jak należy traktować uczenie głębokie? 327
  • 9.1.4. Najważniejsze technologie 328
  • 9.1.5. Uniwersalny przepływ roboczy uczenia maszynowego 329
  • 9.1.6. Najważniejsze architektury sieci 330
  • 9.1.7. Przestrzeń możliwości 334
• 9.2. Ograniczenia uczenia głębokiego 336
  • 9.2.1. Ryzyko antropomorfizacji modeli uczenia maszynowego 337
  • 9.2.2. Lokalne uogólnianie a ekstremalne uogólnianie 339
  • 9.2.3. Wnioski 340
• 9.3. Przyszłość uczenia głębokiego 341
  • 9.3.1. Modele jako programy 342
  • 9.3.2. Wykraczanie poza algorytm propagacji wstecznej i warstwy różniczkowalne 343
  • 9.3.3. Zautomatyzowane uczenie maszynowe 344
  • 9.3.4. Nieustanne uczenie się i wielokrotne używanie modułowych procedur składowych 345
  • 9.3.5. Przewidywania dotyczące dalekiej przyszłości 346
• 9.4. Bycie na bieżąco z nowościami związanymi z szybko rozwijającą się dziedziną 348
  • 9.4.1. Zdobywaj wiedzę praktyczną, pracując z prawdziwymi problemami przedstawianymi w serwisie Kaggle 348
  • 9.4.2. Czytaj o nowych rozwiązaniach w serwisie arXiv 348
  • 9.4.3. Eksploruj ekosystem związany z pakietem Keras 349
• 9.5. Ostatnie słowa 349

DODATKI 351

Dodatek A. Instalowanie pakietu Keras i innych bibliotek niezbędnych do jego działania w systemie Ubuntu 353

Dodatek B. Uruchamianie kodu w środowisku RStudio Server przy użyciu zdalnej instancji procesora graficznego EC2 359