Razumevanje MLOps: Ključni Principi i Prednosti
Izgradnja jednog modela mašinskog učenja može delovati kao jednostavan zadatak, ali stvaranje i upravljanje stotinama ili čak hiljadama modela, uz istovremeno iteriranje na postojećim, predstavlja ozbiljan izazov.
U takvim situacijama, lako je izgubiti se u haosu. Ovaj problem se dodatno komplikuje kada radite u timu, jer je tada neophodno pratiti doprinos svakog člana. Uvođenje reda u ovu složenost zahteva da ceo tim dosledno sledi proces i detaljno dokumentuje svoje aktivnosti. Upravo ovo je suština MLOps-a.
Šta je MLOps?
Prema definiciji sa ml-ops.org, Mašinsko Učenje Operacionalizacija (MLOps) teži uspostavljanju kompletnog procesa razvoja mašinskog učenja. Cilj je dizajnirati, izgraditi i upravljati ponovljivim, testiranim i prilagodljivim softverom koji pokreće ML inicijative. Ukratko, MLOps predstavlja primenu DevOps principa u kontekstu mašinskog učenja.
Slično DevOps-u, ključna ideja MLOps-a je automatizacija, s ciljem smanjenja manuelnih koraka i povećanja efikasnosti. Kao i DevOps, MLOps uključuje kontinuiranu integraciju (CI) i kontinuiranu isporuku (CD). Dodatno, uvodi i kontinuiranu obuku (CT), koja podrazumeva preobučavanje modela sa novim podacima i njihovo ponovno postavljanje.
Stoga, MLOps predstavlja inženjersku kulturu koja podstiče metodičan pristup razvoju modela mašinskog učenja i automatizaciju različitih koraka u tom procesu. Ovaj proces obično uključuje ekstrakciju, analizu, pripremu podataka, obuku modela, evaluaciju, postavljanje modela u upotrebu i njihovo praćenje.
Prednosti MLOps-a
Uopšteno, prednosti implementacije MLOps principa slične su prednostima standardnih operativnih procedura. Neke od ključnih prednosti uključuju:
- Dobro definisan proces pruža jasan putokaz koji vodi kroz sve ključne korake u razvoju modela. Ovo osigurava da nijedan važan korak ne bude zanemaren.
- Koraci procesa koji se mogu automatizovati se jasno identifikuju i automatizuju. Ovo smanjuje količinu ponavljajućeg rada i ubrzava razvoj. Takođe se smanjuje mogućnost ljudske greške i obim posla.
- Postaje lakše pratiti napredak u razvoju modela, jer je jasno u kojoj se fazi procesa model trenutno nalazi.
- Timovi lakše komuniciraju zahvaljujući zajedničkom rečniku za opisivanje koraka u razvoju.
- Proces se može primeniti više puta na razvoj mnogih modela, pružajući strukturu za upravljanje složenim projektima.
Ukratko, uloga MLOps-a u mašinskom učenju je da obezbedi sistematičan pristup razvoju modela, uz maksimalnu moguću automatizaciju.
Platforme za Izgradnju MLOps Okruženja
Da biste uspešno implementirali MLOps principe u vaše radne procese, možete koristiti jednu od mnogih dostupnih platformi. Iako se pojedinačne karakteristike mogu razlikovati, sve ove platforme u suštini vam pomažu da:
- Čuvate sve modele zajedno sa njihovim metapodacima – uključujući konfiguracije, kod, preciznost i eksperimente, kao i različite verzije modela za kontrolu.
- Čuvate metapodatke setova podataka, uključujući podatke koji su korišćeni za obuku modela.
- Pratite modele u proizvodnji kako biste detektovali probleme kao što je promena distribucije podataka (model drift).
- Postavite modele u proizvodno okruženje.
- Izgradite modele u okruženjima sa malo koda ili bez koda.
U nastavku ćemo istražiti neke od najboljih MLOps platformi.
MLflow
MLflow je jedna od najpopularnijih platformi za upravljanje životnim ciklusom mašinskog učenja. Radi se o besplatnoj platformi otvorenog koda, koja nudi sledeće funkcije:
- Praćenje eksperimenata: beleženje eksperimenata, koda, podataka, konfiguracija i rezultata.
- Projekte: pakovanje koda u format koji je lako reprodukovati.
- Implementaciju: omogućavanje postavljanja mašinskog učenja u proizvodnju.
- Registar: čuvanje svih modela u centralnom spremištu.
MLflow se lako integriše sa popularnim bibliotekama kao što su TensorFlow i PyTorch. Takođe podržava integraciju sa platformama poput Apache Spark, H2O.ai, Google Cloud, Amazon SageMaker, Azure Machine Learning i Databricks. Dodatno, radi sa različitim provajderima cloud usluga, uključujući AWS, Google Cloud i Microsoft Azure.
Azure Machine Learning
Azure Machine Learning je sveobuhvatna platforma za mašinsko učenje. Upravlja različitim aktivnostima u životnom ciklusu mašinskog učenja u vašem MLOps okruženju, uključujući pripremu podataka, izgradnju i obuku modela, validaciju, postavljanje i praćenje modela u upotrebi.
Azure Machine Learning vam omogućava da kreirate modele koristeći željeno integrisano razvojno okruženje (IDE) i framework, poput PyTorch ili TensorFlow.
Takođe, integrisan je sa ONNX Runtime i DeepSpeed za optimizaciju obuke i zaključivanja, čime se poboljšavaju performanse. Koristi AI infrastrukturu na Microsoft Azure-u koja kombinuje NVIDIA GPU-ove i Mellanox mrežu kako bi vam pomogla da kreirate klastere za mašinsko učenje. Pomoću AML-a možete stvoriti centralni registar za skladištenje i deljenje modela i setova podataka.
Azure Machine Learning se integriše sa Git i GitHub Actions za izgradnju radnih tokova, a podržava i hibridno i multi-cloud okruženje. Takođe se može integrisati sa drugim Azure uslugama kao što su Synapse Analytics, Data Lake, Databricks i Security Center.
Google Vertex AI
Google Vertex AI je ujedinjena platforma za podatke i AI koja pruža alate potrebne za izradu prilagođenih i unapred obučenih modela. Takođe služi kao sveobuhvatno rešenje za implementaciju MLOps-a. Radi lakšeg korišćenja, integriše se sa BigQuery, Dataproc i Spark, omogućavajući besprekoran pristup podacima tokom obuke.
Pored API-ja, Google Vertex AI nudi okruženje sa alatima koji zahtevaju malo ili nimalo koda, pa je pristupačan i za one koji nisu programeri, kao što su poslovni analitičari, analitičari podataka i inženjeri. API omogućava programerima da ga integrišu sa postojećim sistemima.
Google Vertex AI vam omogućava i da kreirate generativne AI aplikacije koristeći Generative AI Studio, što čini postavljanje i upravljanje infrastrukturom lakim i brzim. Idealna primena Google Vertex AI obuhvata osiguranje spremnosti podataka, inženjering karakteristika, obuku i podešavanje hiperparametara, postavljanje modela, praćenje performansi modela, te upravljanje modelima.
Databricks
Databricks je platforma za analizu podataka koja vam omogućava pripremu i obradu podataka. Sa Databricks-om možete upravljati celokupnim životnim ciklusom mašinskog učenja, od eksperimentisanja do proizvodnje.
U osnovi, Databricks pruža upravljani MLflow, koji nudi funkcije kao što su verzije modela, beleženje podataka, praćenje eksperimenata, prikaz modela, registar modela i praćenje metrike. Registar modela omogućava skladištenje modela radi ponovljivosti, a takođe pomaže u praćenju verzija i faze životnog ciklusa svakog modela.
Postavljanje modela u upotrebu pomoću Databricks-a je jednostavno, uz REST API endpointe koje možete koristiti za predviđanja. Takođe, dobro se integriše sa postojećim unapred obučenim generativnim modelima, kao što su oni iz biblioteke Transformers.
Databricks pruža kolaborativne Databricks Notebook-e koji podržavaju Python, R, SQL i Scala. Osim toga, pojednostavljuje upravljanje infrastrukturom obezbeđujući unapred konfigurisane klastere optimizovane za zadatke mašinskog učenja.
AWS SageMaker
AWS SageMaker je cloud servis koji vam pruža alate potrebne za razvoj, obuku i postavljanje modela mašinskog učenja. Osnovni cilj SageMaker-a je automatizacija napornog i repetitivnog manuelnog rada koji je uključen u izgradnju modela mašinskog učenja.
Kao rezultat, dobijate alate za izgradnju proizvodnog okruženja za vaše modele mašinskog učenja koristeći različite AWS usluge, kao što su Amazon EC2 instance i Amazon S3 skladište.
SageMaker radi sa Jupyter notebook računarima instaliranim na EC2 instancama, zajedno sa svim uobičajenim paketima i bibliotekama potrebnim za kodiranje modela mašinskog učenja. Za podatke, SageMaker može da povlači podatke iz Amazon Simple Storage Service.
Podrazumevano dobijate implementacije uobičajenih algoritama mašinskog učenja, kao što su linearna regresija i klasifikacija slika. SageMaker takođe dolazi sa monitorom modela koji omogućava kontinuirano i automatsko podešavanje kako bi se pronašao skup parametara koji pruža najbolje performanse za vaše modele. Postavljanje u upotrebu je takođe pojednostavljeno, jer možete lako da primenite svoj model na AWS kao siguran HTTP endpoint koji možete da nadgledate pomoću CloudWatch-a.
DataRobot
DataRobot je popularna MLOps platforma koja omogućava upravljanje različitim fazama životnog ciklusa mašinskog učenja, kao što su priprema podataka, ML eksperimentisanje, validacija i upravljanje modelima.
Sadrži alate za automatizaciju izvođenja eksperimenata sa različitim izvorima podataka, testiranje hiljada modela i procenu najboljih za implementaciju u proizvodnju. Podržava modele za izgradnju različitih tipova AI modela za rešavanje problema u vremenskim serijama, obradi prirodnog jezika i računarskom vidu.
Sa DataRobot-om možete da gradite koristeći gotove modele, tako da ne morate da pišete kod. Alternativno, možete se odlučiti za pristup “od nule” i implementirati modele koristeći prilagođeni kod.
DataRobot dolazi sa notebook-ovima za pisanje i uređivanje koda. Takođe, možete koristiti API tako da možete razvijati modele u IDE-u po vašem izboru. Koristeći GUI, možete pratiti eksperimente svojih modela.
Run:ai
Run:ai nastoji da reši problem nedovoljne iskorišćenosti AI infrastrukture, posebno GPU-a. Rešava ovaj problem tako što promoviše vidljivost celokupne infrastrukture i osigurava da se ona koristi tokom treninga.
Da bi ovo postigao, Run:ai se nalazi između vašeg MLOps softvera i hardvera kompanije. Dok zauzima ovaj sloj, svi poslovi treninga se pokreću pomoću Run:ai. Platforma, zauzvrat, planira kada će se svaki od ovih poslova pokrenuti.
Ne postoji ograničenje da li hardver mora da bude zasnovan na cloud-u, kao što su AWS i Google Cloud, lokalno ili hibridno rešenje. Ona obezbeđuje sloj apstrakcije timovima za mašinsko učenje tako što funkcioniše kao platforma za virtuelizaciju GPU-a. Možete da pokrećete zadatke iz Jupyter notebook-a, bash terminala ili udaljenog PyCharm-a.
H2O.ai
H2O je distribuirana platforma otvorenog koda za mašinsko učenje. Omogućava timovima da sarađuju i kreiraju centralno skladište za modele, gde naučnici za podatke mogu da eksperimentišu i upoređuju različite modele.
Kao MLOps platforma, H2O nudi niz ključnih karakteristika. Prvo, H2O takođe pojednostavljuje primenu modela na serveru kao REST endpoint. Pruža različite strategije za primenu, kao što su A/B testiranje, Champion-Challenger modeli i jednostavna primena jednog modela.
Tokom obuke, on čuva i upravlja podacima, artefaktima, eksperimentima, modelima i primenama, što čini modele ponovljivim. Takođe omogućava upravljanje dozvolama na nivou grupe i korisnika za upravljanje modelima i podacima. Dok model radi, H2O takođe obezbeđuje praćenje u realnom vremenu za promenu modela i druge operativne metrike.
Paperspace Gradient
Gradient pomaže programerima u svim fazama razvojnog ciklusa mašinskog učenja. Obezbeđuje notebook-ove bazirane na Jupyter-u otvorenog koda za razvoj modela i obuku u cloud-u koristeći moćne GPU. Ovo vam omogućava da brzo istražujete i kreirate prototipe modela.
Okruženje za implementaciju se može automatizovati kreiranjem radnih tokova. Ovi radni tokovi su definisani opisom zadataka u YAML-u. Korišćenje radnih tokova čini kreiranje implementacija i služenje modela lakim za reprodukciju i, stoga, skalabilnim.
Sve u svemu, Gradient obezbeđuje kontejnere, mašine, podatke, modele, metrike, logove i tajne kako bi vam pomogao da upravljate različitim fazama procesa razvoja modela mašinskog učenja. Vaši radni procesi se odvijaju na Gradient klasterima, koji se mogu nalaziti na Paperspace Cloud-u, AWS-u, GCP-u, Azure-u ili bilo kom drugom serveru. Možete komunicirati sa Gradient-om koristeći CLI ili SDK programski.
Završne reči
MLOps je moćan i svestran pristup izgradnji, primeni i upravljanju modelima mašinskog učenja na velikom nivou. MLOps je jednostavan za korišćenje, skalabilan i bezbedan, što ga čini dobrim izborom za organizacije svih veličina.
U ovom članku smo pokrili MLOps-ove, zašto je važno da ih primenimo, šta je uključeno i različite popularne MLOps platforme.
Sledeće, možda ćete želeti da pročitate naše poređenje Databricks-a i Snowflake-a.