Промена парадигме у вештачкој интелигенцији и машинском учењу

Федератед представља прекид од традиционалног начина прикупљања података и обуке модела машинског учења.

Уз удружено учење, развој машинског учења има користи од јефтиније обуке која поштује приватност података. Овај чланак води шта је удружено учење, како функционише, апликације и оквире.

Шта је федерално учење?

Извор: Википедиа

Федеративно учење је промена у начину на који се обучавају модели машинског учења. У већини модела машинског учења, подаци се прикупљају у централно спремиште од неколико клијената. Из овог централног складишта, модели машинског учења се обучавају и затим користе за предвиђање. Федерално учење ради супротно. Уместо слања података у централно складиште, клијенти обучавају моделе на својим подацима. Ово им помаже да своје приватне податке чувају приватним.

Такође прочитајте: Објашњени врхунски модели машинског учења

Како функционише федерално учење?

Учење у федералном учењу се састоји од низа атомских корака који производе модел. Ови кораци се називају рунди учења. Типична поставка учења пролази кроз ове рунде, побољшавајући модел у сваком кораку. Сваки круг учења укључује следеће кораке.

Типична рунда учења

Прво, сервер бира модел за обуку и хиперпараметре као што су број рунди, клијентски чворови које ће користити и удео чворова који се користе у сваком чвору. У овом тренутку, модел се такође иницијализује са почетним параметрима да би се формирао основни модел.

Затим, клијенти добијају копије основног модела за обуку. Ови клијенти могу бити мобилни уређаји, лични рачунари или сервери. Они обучавају модел на својим локалним подацима, избегавајући на тај начин дељење осетљивих података са серверима.

Када клијенти обуче модел на својим локалним подацима, шаљу га назад на сервер као ажурирање. Када сервер прими, ажурирање се усредсређује заједно са ажурирањима од других клијената како би се креирао нови основни модел. Пошто клијенти могу бити непоуздани, у овом тренутку неки клијенти можда неће слати своја ажурирања. У овом тренутку, сервер ће обрадити све грешке.

Пре него што се основни модел може поново распоредити, мора се тестирати. Међутим, сервер не чува податке. Стога, ради тестирања модела, он се шаље назад клијентима, где се тестира у односу на њихове локалне податке. Ако је бољи од претходног основног модела, он се усваја и користи уместо њега.

Ево а користан водич о томе како функционише удружено учење од тима за федерално учење у Гоогле АИ.

Централизовано наспрам федералног наспрам хетерогеног

У овој поставци постоји централни сервер одговоран за контролу учења. Ова врста подешавања је позната као централизовано федерално учење.

Супротно централизованом учењу било би децентрализовано федерално учење, у коме се клијенти међусобно координирају.

Друга поставка се зове Хетерогено учење. У овој поставци, клијенти не морају нужно имати исту архитектуру глобалног модела.

Предности федералног учења

• Највећа предност коришћења федералног учења је та што помаже да приватни подаци остану приватни. Клијенти деле резултате обуке, а не податке који се користе у обуци. Протоколи се такође могу успоставити за агрегирање резултата тако да се не могу повезати са одређеним клијентом.
• Такође смањује пропусни опсег мреже јер се никакви подаци не деле између клијента и сервера. Уместо тога, модели се размењују између клијента и сервера.
• Такође смањује трошкове модела за обуку, јер нема потребе за куповином скупог хардвера за обуку. Уместо тога, програмери користе хардвер клијента за обуку модела. Због мало података који су укључени, то не оптерећује уређај клијента.

Недостаци федералног учења

• Овај модел зависи од учешћа много различитих чворова. Неки од њих нису под контролом програмера. Стога, њихова доступност није загарантована. Ово чини хардвер за обуку непоузданим.
• Клијенти на којима су модели обучени нису баш моћни ГПУ-ови. Уместо тога, то су нормални уређаји као што су телефони. Ови уређаји, чак и укупно, можда неће бити довољно моћни у поређењу са ГПУ кластерима.
• Федеративно учење такође претпоставља да су сви клијентски чворови поуздани и да раде за опште добро. Међутим, неки можда неће и могу издати лоша ажурирања да изазову померање модела.

Примене федералног учења

Федеративно учење омогућава учење уз очување приватности. Ово је корисно у многим ситуацијама, као што су:

• Предвиђања следеће речи на тастатури паметног телефона.
• ИоТ уређаји који могу локално да обучавају моделе према специфичним захтевима ситуације у којој се налазе.
• Фармацеутска и здравствена индустрија.
• Одбрамбене индустрије би такође имале користи од модела обуке без дељења осетљивих података.

Оквири за федерално учење

Постоји много оквира за примену образаца федералног учења. Неки од најбољих укључују НВФларе, ФАТЕ, Фловер и ПиСфт. Прочитајте овај водич за детаљно поређење различитих оквира које можете да користите.

Закључак

Овај чланак је био увод у федерално учење, како оно функционише, као и предности и недостатке његове примене. Поред тога, покрио сам и популарне апликације и оквире који се користе за имплементацију федералног учења у продукцији.

Затим прочитајте чланак о најбољим МЛОпс платформама да бисте обучили своје моделе машинског учења.