Преглед садржаја
Кључне Такеаваис
- Здрав разум је способност разумевања и реаговања на свакодневне ситуације без претеране анализе. Стиче се животним искуствима и запажањима, као и друштвеним и културним нормама.
- Компјутери се боре са здравим разумом јер им недостају искуства из стварног света и способност да се прилагоде новим контекстима. Они се такође боре са неизговореним правилима и претпоставкама које људи интуитивно разумеју.
- Истраживачи истражују различите приступе, као што су изградња опсежних база знања, цровдсоурцинг здрав разум и подучавање АИ кроз симулиране светове, како би обучили рачунаре у стицању здравог разума. Напредак је направљен, али има још посла.
Здрав разум. Сви мислимо да га имамо. Али шта је то тачно? Могу ли га компјутери или системи са вештачком интелигенцијом икада заиста стећи?
Шта је здрав разум и како га људи стичу?
Здрав разум је основна способност да се перципирају, разумеју и просуђују ствари за које се очекује да већина људи има. То је колекција чињеница, информација и основних правила које акумулирамо кроз животна искуства и запажања. Здрав разум нам омогућава да ефикасно процесуирамо и реагујемо на свакодневне ситуације без да их предубоко анализирамо.
Људи почињу да стичу здрав разум рано у детињству. Као бебе, почињемо да учимо узрочно-последичне везе—као што плач доводи до храњења или промене. Кроз поновљена искуства стичемо практична знања о свету. На пример, додиривање врућег шпорета доводи до опекотина. Тако учимо да не додирујемо вруће површине.
Као деца, настављамо да ширимо наш здрав разум путем покушаја и грешака и посматрања и интеракције са члановима породице. На пример, схватамо да се одећа мора редовно прати, да не треба причати пуних уста, а куцање чаше за млеко доводи до нереда. Родитељи, браћа и сестре, наставници и други одрасли нас исправљају када кршимо друштвене норме и очекивања. Временом су ове лекције укорењене као основни здрав разум.
Поред личних искустава, здрав разум обликују и шире друштвене и културне норме. Оно што може бити здрав разум у једној култури (као што је изување ципела при уласку у дом) можда није тако у другој култури.
Наш здрав разум се прилагођава како сазревамо и изложени смо већем броју људи и окружења. Дакле, дете које расте у малом граду стиче основни здрав разум о животу у том окружењу. Одрасла особа која се пресели у велики градски град мора да прилагоди свој здрав разум како би се уклопила у ново окружење.
Здрав разум наставља да се развија како имамо нова искуства током живота.
Зашто је здрав разум изазов за рачунаре?
Постоји неколико разлога зашто је здрав разум тешко програмирати.
Као прво, људи постепено уче здрав разум током година доживљавања света. Испробамо ствари, видимо шта ради, а шта не, и сећамо се лекција. Компјутери немају таква искуства из стварног света из којих би могли да црпе. Они знају само оно што им људи експлицитно кажу.
На пример, поставио сам ЦхатГПТ (ГПТ 3.5) ово питање:
Janet runs a laundry business. She washes clothes for customers and hangs them outside on clotheslines to dry in the sun. One day, Janet washed five shirts and hung them on the clotheslines in the morning. It took the shirts five hours to dry. How long will it take to dry 30 shirts?
Испоставило се са овим одговором:
Друго питање је да здрав разум зависи од контекста. Ако рачунар има само одређена правила програмирана, не може их прилагодити новим контекстима на начин на који људи интуитивно могу.
На пример, рецимо да сте научили рачунар шта да ради ако почне да пада киша када је напољу. Изгледа једноставно, зар не? Али шта онда ако се уместо кише укључи прскалица? Или шта ако је у продавници, а цеви почну да пуштају воду са плафона? Одмах бисмо знали како да се носимо са тим варијацијама, али рачунар би слепо следио своје правило „када пада киша напољу, иди унутра“, што сада нема смисла.
Постоје и неизговорена правила и претпоставке које људи апсорбују а да тога нису ни свесни. На пример, колико близу можете стајати поред некога пре него што вам буде непријатно? Људи интуитивно знају одговор, али можда неће лако моћи да објасне тачна правила. Те имплицитне друштвене норме могу бити посебно незгодне за рачунаре да их покупе само из података.
Дакле, за сада, здрав разум остаје једна од највећих слабости АИ у поређењу са људском интелигенцијом. Људима је то природно, али не толико машинама.
Како компјутери могу научити здрав разум
Након раног оптимизма 1970-их и 1980-их, истраживачи су схватили колико би било тешко подучавање рачунара здравом разуму. Међутим, нови приступи обећавају у обуци система вештачке интелигенције да имају основни здрав разум о свакодневном физичком и друштвеном свету.
Један приступ је да се ручно изграде опсежне базе знања, са детаљима чињеница и правила о томе како свет функционише. Пројекат Циц, који је 1984. године започео Даг Ленат, представља један амбициозан подухват ове врсте.
Стотине логичара су током деценија кодирали милионе логичких аксиома у Циц. Иако је дуготрајан, резултат је систем са значајним знањем из стварног света. Циц очигледно може закључити да је парадајз технички воће, али не би требало да иде у воћну салату, захваљујући познавању профила кулинарских укуса.
Цровдсоурцинг здрав разум са ЦонцептНет-ом
Савременије базе знања попут ЦонцептНет узети приступ цровдсоурцинг-а за генерисање здраворазумских тврдњи. Идеја је да уместо да стручњаци или вештачка интелигенција покушају да дођу до свих основних чињеница и односа на свету, они то отворе тако да свако може да допринесе делићима здравог разума.
Овај приступ цровдсоурцинга омогућава овим базама знања да се укључе у колективну интелигенцију многих различитих људи широм интернета. Акумулирајући хиљаде и хиљаде ових малих зрна здравог разума из гомиле, ЦонцептНет је изградио изненађујуће велика спремишта основног, свакодневног знања. И пошто нови сарадници увек додају, знање расте.
Подучавање здравог разума кроз искуство
Још један обећавајући приступ је изградња детаљних симулираних светова у којима агенти вештачке интелигенције могу да експериментишу и уче о физици и интуицији кроз искуство.
Истраживачи стварају 3Д виртуелна окружења испуњена свакодневним објектима који опонашају стварни свет, попут дигиталне куће „АИ2 ТХОР“ коју је изградио Аллен Институт. Унутар ових простора, АИ роботи могу испробати све врсте интеракција како би развили интуитивно разумевање концепата које људи узимају здраво за готово.
На пример, АИ боту се може дати виртуелно тело и покушати да покупи блокове, сложи их, преврне, итд. Гледајући како блокови падају и сударају се реално, бот учи основне појмове о чврстоћи, гравитацији и физичкој динамици. Нису потребна никаква правила – само искуство.
Бот такође може да испроба радње као што је испуштање стакленог предмета и гледање како се разбија када удари о земљу. Или може да експериментише са својствима воде сипањем течности и посматрањем како оне теку и како се спајају. Ове практичне лекције заснивају знање АИ у сензорном искуству, а не само у обрасцима података.
Технике вођене подацима као што је претренинг моћних великих језичких модела такође су се показале изненађујуће ефикасним у проналажењу здраворазумских образаца. АИ модели као што су ГПТ-3.5 и ГПТ-4 могу да генеришу импресивно људски текст након „читања“ огромних количина интернет података.
Иако понекад дају неразумне предлоге (иначе познате као АИ халуцинације), статистички приступ учењу им омогућава да опонашају одређене врсте здравог разума. Међутим, остаје неслагање око тога да ли ово представља здрав разум или паметно искоришћавање пристрасности у подацима.
Како тестирати рачунаре за здрав разум
Слика кредита: фреепик/фреепик
Како системи вештачке интелигенције преузимају сложеније задатке у стварном свету, процена да ли имају „здрав разум“ постаје кључна.
Физички здрав разум
Једна област за тестирање је физички здрав разум – интуиција о објектима, силама и основним својствима света.
На пример, покажите систему компјутерског вида фотографију са књигом која лебди у ваздуху и замолите је да опише сцену. Да ли у њој стоји нешто необично у вези са плутајућом књигом? Или дајте систему вештачке интелигенције неуобичајене сценарије попут „човек је исекао камен векном хлеба“ и проверите да ли то означава као невероватне.
АИ2 ТХОР окружење Аллен Института симулира блокове куле, проливене шоље и друге сцене да тестира ове физичке интуиције.
Друштвени здрав разум
Људи такође имају друштвени здрав разум — имплицитно разумевање мотивације, односа и норми људи. Да бисте то проценили у АИ, поставите ситуације са двосмисленим заменицама или мотивацијама и погледајте да ли их систем разумно тумачи.
На пример, питао сам ЦхатГПТ да ли се „то“ односи на кофер или трофеј у упиту испод:
The trophy could not fit into the suitcase because it was too small.
Пао је на тесту; у међувремену, човек би очигледно знао да мислим на кофер.
Ова врста теста се зове Виноград Сцхема Цхалленге, посебно циљајући друштвени здрав разум.
Безбедност и етика
Тестирање да ли су системи вештачке интелигенције научили несигурне или неетичке обрасце је критично. Анализирајте да ли АИ показује штетне предрасуде на основу пола, расе или других атрибута приликом доношења пресуда.
Проверите да ли прави разумне етичке разлике. Убијање медведа да би се спасило дете може се сматрати оправданим, док се детонација нуклеарне бомбе у исту сврху не би сматрала оправданим. Означите све препоруке за очигледно неетичке поступке.
Реал-Ворлд Перформанце
Процените здрав разум посматрајући како системи вештачке интелигенције функционишу у условима стварног света. На пример, да ли самовозећи аутомобили исправно идентификују објекте и пешаке и реагују на њих? Може ли се робот кретати кроз различита кућна окружења, а да не разбије вредне предмете или не повреди кућне љубимце?
Тестови у стварном свету откривају недостатке у здравом разуму који се можда неће појавити у ограниченим лабораторијским условима.
Напредак је направљен, али остаје рад на АИ здравом разуму
Неки стручњаци тврде да вештачка интелигенција можда никада неће достићи људски разум без развоја можданих структура и тела попут нашег. Са друге стране, дигитални умови нису ограничени људским предрасудама и менталним пречицама, тако да би теоретски могли да нас надмаше! Иако вероватно још увек не морамо да бринемо о супер-интелигентној вештачкој интелигенцији.
У блиској будућности, најбоља опклада је АИ која комбинује научени здрав разум са неким добрим старим програмирањем. На тај начин, надамо се, могу се избећи глупе грешке попут замене корњаче са пушком.
Још нисмо тамо, али здрав разум више није тамна материја вештачке интелигенције – напредак се дешава! Ипак, здрава доза људског здравог разума биће потребна у примени ових технологија неко време.