Trendy 2021 w uczeniu maszynowym

Cyfrowa transformacja się opłaca, a firmy z sektora IT oferują dziś elastyczne modele współpracy w odpowiedzi na zwiększone zapotrzebowanie na kompetencje specjalistów IT. Poniżej przedstawiamy kluczowe tegoroczne trendy w uczeniu maszynowym.

MLOps

Obecnie już prawie każda firma oferuje rozwiązanie MLOps i łatwo jest zrozumieć dlaczego. Ponieważ procesy uczenia maszynowego (ML) stają się coraz bardziej złożone, praktycy przyjmują DevOps i najlepsze praktyki inżynierii danych, aby zbudować przepływy pracy i procesy MLOps. Jest to szczególnie prawdziwe, gdy statyczne systemy ustępują miejsca adaptowalnym systemom uczenia maszynowego, które dynamicznie dostosowują się do zmian danych i innych czynników środowiskowych. Kubernetes, kubeflow i MLFlow to modne platformy, a przepływy we frameworkach takich jak scikit-learn i TensorFlow (TFX) również zyskują na popularności. Tematy związane z uczeniem maszynowym, takie jak ciągła integracja i ciągłe dostarczanie modeli są kluczowe dla MLOps. Bardziej zaawansowane tematy, takie jak ciągłe szkolenie, gdzie nowo wyszkolony model jest serwowany na końcu procesu, oraz ciągłe monitorowanie produkcji w celu zapewnienia, że modele działają w warunkach naturalnych, są również obecnie wykorzystywane.

Uczenie maszynowe w czasie rzeczywistym

Modele uczenia maszynowego w czasie rzeczywistym to kluczowy trend dla uczenia maszynowego na rok 2021. Bardziej zaawansowane operacje uczenia maszynowego (MLOps) i dane w czasie rzeczywistym to potężna kombinacja, która pozwala na otrzymywanie uczenia maszynowego w czasie rzeczywistym. Tradycyjnie, modele uczenia maszynowego są trenowane na partiach danych historycznych. Szkolenie modeli ML poprzez zasilanie ich danymi w czasie rzeczywistym, aby stale ulepszać model, jest znaczącym postępem. Budowanie systemu ML, który dokonuje przewidywań w czasie rzeczywistym, będzie nadal ważnym trendem w 2021 roku

Meta-uczenie dla uczenia maszynowego

Poszukiwanie bardziej uogólnionych modeli uczenia maszynowego, które mogą być trenowane do więcej niż jednego zadania, jest kontynuowane, gdy rozważa się trendy w temacie uczenia maszynowego. Meta-uczenie, czyli „Learning to Learn” pozwala algorytmom uczenia maszynowego uczyć się od innych algorytmów i łączyć te algorytmy w celu zbudowania ulepszonych modeli. Ogólnie rzecz biorąc, modele uczenia maszynowego „uczą się” wzorców na podstawie dostarczonych cech wejściowych. W przeciwieństwie do tego, modele meta-uczenia uczą się na podstawie danych wyjściowych i meta-danych innych modeli, które służą jako dane wejściowe. Oprócz uczenia maszynowego, meta-uczenie może być stosowane w głębokim uczeniu, uczeniu wzmacniającym i NLP. Dlaczego to jest trendy? Oprócz tego, że jest silną siłą napędową AutoML, pomaga rozwiązać niektóre z wąskich gardeł uczenia maszynowego, takie jak dokładniejsze przewidywania, szybsze szkolenie (mniej danych) i bardziej uogólnione modele.

Prywatność danych w nauczaniu skojarzonym

Podwójne zapotrzebowanie na ogromne ilości prywatnych danych do trenowania algorytmów ML i obawy o prywatność danych nadal stanowią problem dla inżynierów ML. Uczenie skojarzone oferuje jedno z możliwych rozwiązań, pozwalając na anonimowy trening. W anonimowe szkolenie zaangażowane są różne techniki, takie jak szyfrowanie homomorficzne i prywatność różnicowa. Secure Multiparty Computation (SMC) jest prawdopodobnie jedną z najbardziej interesujących technik. Pozwala ona wielu organizacjom na wspólne trenowanie uzgodnionego algorytmu bez wyciekania prywatnych danych wejściowych danej organizacji, co ostatecznie prowadzi do powstania wspólnego modelu. Oczekuje się, że więcej narzędzi open source, takich jak TensorFlow Federated (TFF), będzie się rozwijać w kolejnych latach.

NLP i NLU

Precyzyjne dostosowywanie wstępnie wytrenowanych modeli przekształcających nadal oferuje szybki zwrot z zainwestowanego czasu i ma wiele zastosowań biznesowych. Zaawansowane modele takie jak GPT-2 i GPT-3, które demonstrują zdolność do uczenia się przez transfer (uczenie się nowego zadania poprzez transfer wiedzy z podobnego nauczonego zadania) będą przedmiotem zainteresowania w kolejnych latach. Nowe techniki precyzyjnego dostosowywania się będą nadal znajdować interesujące zastosowania, takie jak adaptacyjne dostosowywanie, behawioralne dostosowywanie i przekształcanie tekstu w tekst.

Bezpieczeństwo cybernetyczne spotyka się z uczeniem maszynowym

Dziedziny cyberbezpieczeństwa, cyfrowej kryminalistyki, bezpieczeństwa sieciowego i analizy zagrożeń mogą wykorzystać uczenie maszynowe do zwiększenia swoich możliwości. Uczenie maszynowe może pomóc zespołom ds. bezpieczeństwa w przeczesywaniu ogromnej ilości danych związanych z tymi obszarami w celu lepszego wykrywania naruszeń, przewidywania ataków i prognozowania punktów włamania. Zautomatyzowane wykrywanie oszustw, modelowanie zagrożeń i modelowanie podatności to tylko niektóre z technik, które obecnie wykorzystują modelowanie uczenia maszynowego. Z drugiej strony, istnieją również zagrożenia bezpieczeństwa związane z głębokim uczeniem i modelami uczenia maszynowego. Modele te są podatne na ataki przeciwników za pośrednictwem błędnie reprezentowanych lub złośliwych danych (ataki typu white box) lub ekstrakcji modelu (ataki typu black box). Obrona systemów uczenia maszynowego i głębokiego uczenia przed atakami adwersarzy jest rosnącym obszarem zainteresowania.