Чет-ботови постоје већ годинама, али успон великих језичких модела, као што су ЦхатГПТ и Гоогле Бард, дао је индустрији цхатбот-а нови живот.
Милиони људи сада користе АИ цхат ботове широм света, али постоје неки важни ризици и бриге за приватност које треба имати на уму ако желите да испробате један од ових алата.
Преглед садржаја
1. Прикупљање података
Већина људи не користи цхат ботове само да би се поздравили. Модерни цхат ботови су дизајнирани да обрађују и одговарају на сложена питања и захтеве, при чему корисници често укључују много информација у своје упите. Чак и ако постављате само једноставно питање, не желите да оно иде даље од вашег разговора.
Према ОпенАИ одељак за подршку, можете да избришете ЦхатГПТ евиденције ћаскања кад год пожелите, а ти дневники ће тада бити трајно избрисани из ОпенАИ система након 30 дана. Међутим, компанија ће задржати и прегледати одређене евиденције ћаскања ако су означени због штетног или неприкладног садржаја.
Још један популарни АИ цхатбот, Цлауде, такође прати ваше претходне разговоре. Антхропиц-ов центар за подршку наводи да Клод прати „ваше упите и излазе у производу како би вам обезбедио доследно искуство производа током времена у складу са вашим контролама.“ Можете да избришете своје разговоре са Клодом, тако да заборави о чему сте причали, али то не значи да ће Антхропиц одмах избрисати ваше евиденције из својих система.
Ово, наравно, поставља питање: да ли се моји подаци чувају или не? Да ли ЦхатГПТ или други цхат ботови користе моје податке?
Али бриге не престају овде.
Како ЦхатГПТ учи?
Да би се пружиле информације, велики језички модели се обучавају са огромним количинама података. Према Научни фокус, само ЦхатГПТ-4 је добио 300 милијарди речи информација током периода обуке. Ово није преузето директно из неколико енциклопедија. Уместо тога, програмери цхатбот-а користе масу информација са интернета за обуку својих модела. Ово може укључивати податке из књига, филмова, чланака, уноса на Википедији, постова на блоговима, коментара, па чак и са сајтова за рецензије.
Имајте на уму да, у зависности од политике приватности програмера цхатбот-а, неки од горе наведених извора можда неће бити коришћени у обуци.
Многи су критиковали ЦхатГПТ, тврдећи да је то нешто као ноћна мора у погледу приватности, да се ЦхатГПТ-у не може веровати. Па, зашто је то случај?
Овде ствари постају мало мутне. Ако директно питате ЦхатГПТ-3.5 да ли има приступ рецензијама производа или коментарима на чланак, добићете чврст негатив. Као што можете видети на слици испод, ГПТ-3.5 наводи да му није дат приступ коментарима на чланке корисника или рецензијама производа током обуке.
Уместо тога, обучавано је коришћењем „различитих текстова са интернета, укључујући веб локације, књиге, чланке и други јавно доступан писани материјал до септембра 2021.
Али да ли је исти случај и са ГПТ-4?
Када смо питали ГПТ-4, речено нам је да „ОпенАИ није користио специфичне корисничке рецензије, личне податке или коментаре чланака“ у периоду обуке четбота. Поред тога, ГПТ-4 нам је рекао да се његови одговори генеришу из „обрасци у подацима [it] је обучен, који се првенствено састоји од књига, чланака и других текстова са интернета.”
Када смо даље истраживали, ГПТ-4 је тврдио да одређени садржај друштвених медија може, заиста, бити укључен у његове податке о обуци, али ће креатори увек остати анонимни. ГПТ-4 је посебно навео да „Чак и ако је садржај са платформи као што је Реддит био део података о обуци, [it doesn’t] имају приступ одређеним коментарима, објавама или било којим подацима који се могу повезати са појединачним корисником.”
Још један значајан део одговора ГПТ-4 је следећи: „ОпенАИ није експлицитно навео сваки извор података који се користи.“ Наравно, било би тешко за ОпенАИ да наведе изворе вредне 300 милијарди речи, али ово оставља простор за спекулације.
У ан Арс Тецхница чланак, наведено је да ЦхатГПТ прикупља „личне податке добијене без пристанка“. У истом чланку се помиње контекстуални интегритет, концепт који се односи на коришћење нечије информације само у контексту у којем је првобитно коришћен. Ако ЦхатГПТ наруши овај контекстуални интегритет, подаци људи могу бити угрожени.
Још једна ствар која изазива забринутост је усклађеност ОпенАИ са Општом уредбом о заштити података (ГДПР). Ово је пропис који спроводи Европска унија у циљу заштите података грађана. Различите европске земље, укључујући Италију и Пољску, покренуле су истраге о ЦхатГПТ-у због забринутости око његове усклађености са ГДПР-ом. За кратко време, ЦхатГПТ је чак био забрањен у Италији због бриге о приватности.
ОпенАИ је у прошлости претио да ће се повући из ЕУ због планираних АИ прописа, али је то од тада повучено.
ЦхатГПТ је можда највећи АИ цхатбот данас, али проблеми приватности цхатбот-а не почињу и не завршавају се код овог провајдера. Ако користите сумњивог цхат бота са нејасном политиком приватности, ваши разговори могу бити злоупотребљени или се могу користити веома осетљиве информације у подацима о обуци.
2. Крађа података
Као и сваки онлајн алат или платформа, цхат ботови су рањиви на сајбер криминал. Чак и ако је цхатбот учинио све што је могао да заштити кориснике и њихове податке, увек постоји шанса да ће паметан хакер успети да се инфилтрира у његове унутрашње системе.
Ако је дата услуга цхатбот-а чувала ваше осетљиве информације, као што су детаљи о плаћању за вашу премиум претплату, контакт подаци или слично, то би могло бити украдено и искоришћено ако би дошло до сајбер напада.
Ово је посебно тачно ако користите мање безбедни цхат бот чији програмери нису уложили у адекватну безбедносну заштиту. Не само да би интерни системи компаније могли бити хаковани, већ и ваш налог има шансу да буде компромитован ако нема упозорења за пријаву или слој за аутентификацију.
Сада када су АИ цхатботови толико популарни, сајбер криминалци су природно почели да користе ову индустрију за своје преваре. Лажне ЦхатГПТ веб странице и додаци су велики проблем откако је ОпенАИ-јев цхат бот постао популаран крајем 2022. године, када су људи падали на преваре и одавали личне податке под маском легитимитета и поверења.
У марту 2023., МУО је пријавио лажну ЦхатГПТ Цхроме екстензију која краде Фацебоок пријаве. Додатак би могао да искористи бацкдоор Фацебоок-а за хаковање налога високог профила и крађу корисничких колачића. Ово је само један пример бројних лажних ЦхатГПТ услуга дизајнираних да преваре непознате жртве.
3. Инфекција злонамерним софтвером
Ако користите сумњиви цхат бот, а да тога нисте свесни, можда ћете пронаћи бот за ћаскање који вам пружа везе до злонамерних веб локација. Можда вас је цхатбот упозорио на примамљиву наградну игру или дао извор за једну од својих изјава. Ако оператери услуге имају недозвољене намере, цела поента платформе може бити у ширењу злонамерног софтвера и превара путем злонамерних веза.
Алтернативно, хакери могу угрозити легитимну услугу цхатбот и користити је за ширење злонамерног софтвера. Ако се деси да је овај цхатбот веома људи, онда ће хиљаде, или чак милиони корисника бити изложени овом малверу. Лажне ЦхатГПТ апликације су се чак налазиле и у Аппле Апп Сторе-у, тако да је најбоље поступати пажљиво.
Уопштено говорећи, никада не би требало да кликнете на било коју везу коју чет-бот пружа пре него што је покренете преко веб локације за проверу веза. Ово може изгледати иритантно, али увек је најбоље да се уверите да сајт на који вас води нема злонамерни дизајн.
Поред тога, никада не би требало да инсталирате никакве додатке и екстензије за цхат бот а да претходно не проверите њихову легитимност. Урадите мало истраживање око апликације да видите да ли је добро прегледана, а такође покрените претрагу програмера апликације да бисте видели да ли сте пронашли нешто нејасно.
Цхатботови нису отпорни на проблеме приватности
Као и већина данашњих онлајн алата, цхат ботови су више пута критиковани због могућих замки у погледу безбедности и приватности. Без обзира да ли се ради о провајдеру чет-ботова који секу углове када је у питању безбедност корисника, или о сталним ризицима од сајбер напада и превара, кључно је да знате шта ваша услуга за ћаскање прикупља од вас и да ли користи адекватне мере безбедности.