У технолошкој индустрији, једва да можете да разговарате а да неко не помене закључивање, вештачку интелигенцију (АИ) и машинско учење (МЛ). Међутим, важно је напоменути да иако су сви ови појмови међусобно повезани, они се такође значајно разликују.
У овом чланку ћемо објаснити основне разлике и истаћи важност употребе технологије АИ засноване на обради тензора -на рубу, посебно у ивичним и уграђеним системима. У поређењу са решењима заснованим на графичким процесорским јединицама (ГПУ), тензорске процесорске јединице (ТПУ) нуде ефикасније и исплативије перформансе{2}. Такође ћемо дати неке примере случајева коришћења који илуструју где бисте могли да наиђете на ивична АИ решења у будућности.
Основе МЛ и закључивања
МЛ се односи на методологију модела обуке који користе репрезентативне податке како би омогућили машинама да науче како да извршавају задатке. Овај процес може бити веома рачунарски интензиван, генеришући трилионе операција по новој тачки података за обуку. Итеративни карактер процеса обуке, у комбинацији са огромним скуповима података за обуку потребним за постизање високе прецизности, покреће захтев за изузетно високим-перформансама у покретном зарезу-обрадом. Обука МЛ је најбоље имплементирана као инфраструктура центра података, где се високи капитални и оперативни трошкови могу оправдати амортизацијом међу бројним клијентима.
Закључак укључује коришћење обучених модела за генерисање потенцијалних подударања за нове податке релевантне за репрезентативне податке на основу којих је модел обучен. Закључак има за циљ да пружи брзе одговоре у року од милисекунди. Примери закључивања обухватају препознавање говора,-превођење језика у реалном времену, машински вид и одлуке о оптимизацији уметања реклама. Иако закључивање захтева само делић процесорске снаге потребне за обуку, оно и даље далеко превазилази оно што традиционални системи засновани на централној процесорској јединици (ЦПУ){4}}могу да испоруче, посебно за апликације рачунарског вида. Због тога се толико компанија окреће решењима за убрзање заснованим на тензору{6}}{7}}било као ИП на СоЦ-овима или као у-системским акцелераторима-да би се постигло мање од{10}}другог времена одзива потребног на ивици. Реалност је да трошење чак минута или неколико секунди на обраду слика у систему визије није од велике користи. Системи индустријске визије траже брзину обраде{13}}на нивоу милисекунди.
Раздвајање обуке и закључивања
Примена истог хардвера који се користи за обуку за руковање радним оптерећењем закључивања може да доведе до прекомерног{0}}обезбеђивања машина за закључивање са акцелераторима и ЦПУ хардвером. Решења ГПУ-а развијена за МЛ током протекле деценије нису нужно оптималан избор за-примену технологија закључивања МЛ у великим размерама. Дијаграм испод савршено илуструје поређење између ТПУ акцелератора и ГПУ акцелератора. То јасно показује да ТПУ акцелератори испоручују нижу потрошњу енергије, смањене трошкове и већу ефикасност у поређењу са АГКС решењима заснованим на ГПУ{5}}у, док и даље пружају убедљиве нивое перформанси за апликације закључивања.
Још једно критично разматрање када се приступа МЛ обуци и решењима за закључивање је софтверско окружење. Данас се користе бројне популарне библиотеке, као што су ЦУДА за НВИДИА ГПУ, МЛ оквири као што су ТенсорФлов и ПиТорцх, оптимизоване библиотеке модела на више платформи као што је Керас и још много тога. Ови комплети алата су од суштинског значаја за развој и обуку МЛ модела, али апликације за закључивање захтевају другачији, мањи скуп софтверских алата.
Комплети алата за закључивање се фокусирају на покретање модела на циљним платформама. Они подржавају пренос обучених модела на платформе, што може укључивати неке трансформације оператера, квантизацију и услуге интеграције хоста. Међутим, ово представља релативно једноставан скуп функционалности у поређењу са онима потребним за развој модела и обуку.
Алати за закључивање имају користи од почињања са стандардизованим представљањем модела. Опен Неурал Нетворк Екцханге (ОННКС) је стандардни формат за представљање МЛ модела. Као што назив имплицира, то је отворени стандард којим се управља као пројекат Линук фондације. Технологије као што је ОННКС омогућавају раздвајање система обуке и закључивања, дајући програмерима слободу да изаберу различите оптимизоване платформе за сваку од њих.
Примери визуелних апликација
Како МЛ и технологије процесора закључивања настављају да напредују и еволуирају, апликације се шире. Испод је само неколико места на којима бисте се могли сусрести са овом технологијом у будућности.
Едге сервери у предузећима као што су фабрике, болнице, малопродајне продавнице и финансијске институције. На пример, у индустријским окружењима, АИ може помоћи у управљању залихама, откривању кварова, па чак и предиктивном одржавању пре него што се појаве проблеми. У малопродаји, омогућава функције као што је процена позе, коришћење компјутерског вида за откривање и анализу људског држања. Подаци из ове анализе помажу малим-и-продавцима да боље разумеју људско понашање и саобраћај у својим продавницама, омогућавајући им да оптимизују изглед продавница за максималну продају и задовољство купаца.
Високо{0}}прецизно/високо{1}}обликовање за апликације укључујући роботику, индустријску аутоматизацију/инспекцију, медицинско снимање, научно снимање, камере за надзор и препознавање објеката и фотонику. На пример, методе машинског учења су показале способност откривања рака обрадом дигиталних Кс{3}} зрака. Овај процес укључује развој МЛ модела дизајнираног за обраду Кс- слика, обично користећи обучене алгоритме семантичке сегментације за идентификацију канцерозних лезија. Током тренинга, слике рака које идентификују радиолози се користе за учење мреже шта није рак, шта је рак и како се појављују различите врсте рака. Што је модел МЛ више обучен, то постаје бољи у максимизирању тачних дијагноза и минимизирању погрешних дијагноза. То значи да се машинско учење не ослања само на интелигентни дизајн модела, већ и на огромне количине (десетине хиљада до милиона) пажљиво одабраних примера података где је рак стручно идентификован.
Паметна колица за куповину-Неколико компанија развија и примењује интелигентне системе за куповину који производе не препознају по УПЦ бар кодовима, већ по визуелном изгледу самог паковања. Ова функција омогућава купцима да једноставно ставе артикле у корпу или на систем за наплату без потребе да лоцирају УПЦ код и скенирају га УПЦ ласерским скенером. Ова технологија чини процес куповине прецизнијим, бржим и практичнијим.
Доношење праве одлуке
Компаније морају да процене сва доступна решења данас и да изаберу оптимално на основу свог специфичног случаја употребе. Они такође не могу једноставно претпоставити да су сва АИ решења најбоље имплементирана на ГПУ уређајима, пошто решења заснована на ТПУ{1}}у нуде већу ефикасност обраде и ниже коришћење силицијума, чиме се смањују потрошња енергије и трошкови.