
Apache Hive: Design, Query, and Optimize Big Data Course
Jua Apache Hive tangu mwanzo — kubuni schemu, kuandika maswali madhubuti ya HiveQL, na kuboresha utendaji kwenye hifadhidata kubwa. Kozi hii inashughulikia kila kitu kuanzia misingi ya HDFS na miamala ya ACID hadi usambazaji wingu, usalama, na uratibu wa mtiririko wa kazi. Iwe unajenga mifumo ya bomba la data ya biashara au unaboresha nyumba ya ziwa la data, utapata ujuzi wa vitendo unaohitajika katika mazingira ya uzalishaji.
Utakachojifunza:
Sanifu jedwali za Hive zinazosimamiwa na za nje kwa kutumia ugawaji, kuweka kwenye ndoo, na umbizo la uhifadhi wa safuwima.
Andika maswali ya juu ya HiveQL kwa kutumia vitendaji vya dirisha, CTE, maswali tanzu, na uunganisho wa jedwali nyingi.
Boresha utekelezaji wa maswali kwa kutumia upunguzaji wa vipashio, uvekta, na marekebisho ya kiboreshaji cha gharama.
Tekeleza usalama wa Hive kwa kutumia uthibitishaji wa Kerberos, sera za Apache Ranger, na ufichaji wa data unaobadilika.
Unganisha Hive na Apache Spark, hifadhi ya vitu wingu, na umbizo wazi za jedwali kama Apache Iceberg.
Ota mifumo ya bomba la data kwa Apache Airflow na Oozie, ikijumuisha upakiaji wa nyongeza na ukaguzi wa ubora.
Jinsi unavyosoma kwa vitendo Apache Hive: Design, Query, and Optimize Big Data Course
Jinsi unavyofanya mazoezi Apache Hive: Design, Query, and Optimize Big Data Course
Kwa ajili yako ambaye ni kampuni na unataka kufundisha timu yako
Katika Dedika kwa ajili ya kampuni, kozi inakuja na mazoezi na mifano inayohusiana na biashara yako na jinsi kampuni yako inavyohitaji.
Maudhui ya kozi
8 Suras • 37 MasomoMuda kati ya 4 na 360 masaa (wewe unachagua)
Sura 1FichaFicha maelezoTazama maelezoUtangulizi wa Data Kubwa na Hive
Utangulizi wa Data Kubwa na Hive
Somo 1 • Usanifu na Vipengele vya Hive
Anaeleza vipengele vya msingi vya Hive: hifadhi ya metadata, dereva, mkusanyaji, na injini ya utekelezaji. Inaunganisha usanifu na uelewa wa mzunguko wa maisha ya hoja.
Somo 2 • Misingi ya Data Kubwa na Changamoto Zake
Inashughulikia changamoto za ujazo, kasi, na aina mbalimbali zinazoendesha upitishaji wa data kubwa. Inaweka mazingira ya kwa nini zana za usindikaji uliosambazwa kama Hive zipo.
Somo 3 • Kusanidi Mazingira ya Hive
Inaongoza usakinishaji na usanidi wa mazingira ya ndani au mazingira ya majaribio ya Hive. Inatoa utayari wa vitendo kwa sura zote zinazofuata.
Somo 4 • Hive dhidi ya Hifadhidata za Jadi
Inalinganisha mtindo wa schema-on-read wa Hive na mtindo wa schema-on-write wa RDBMS. Wanafunzi wanaelewa ni wakati gani Hive inafaa dhidi ya mbadala za uhusiano.
Sura 2FichaFicha maelezoTazama maelezoMisingi ya HiveQL na Aina za Data
Misingi ya HiveQL na Aina za Data
Somo 1 • Aina za Data za Msingi na Changamano
Inashughulikia aina za msingi za namba, mfuatano, boolean, na tarehe pamoja na aina changamano za ARRAY, MAP, na STRUCT. Uchaguzi sahihi wa aina huathiri uhifadhi na usahihi wa hoja.
Somo 2 • Sarufi ya HiveQL na Muundo wa Hoja
Inatanguliza HiveQL kama lahaja ya SQL yenye viendelezo maalum vya Hive. Inashughulikia vifungu vya SELECT, FROM, WHERE, na ORDER BY kama misingi.
Somo 3 • Ujumlishaji na Upangaji
Inafundisha GROUP BY, HAVING, na utendakazi wa ujumlishaji kwa muhtasari wa seti za data. Ujumlishaji ni msingi wa mifumo ya hoja za uchambuzi zinazotumika katika kozi nzima.
Somo 4 • Subqueries na Expressions za Jedwali la Kawaida
Inatanguliza maoni ya ndani, subqueries, na vifungu vya WITH CTE kwa muundo wa hoja unaoweza kugawanywa. Mifumo hii inaonekana katika hoja tata za uchambuzi katika sura za baadaye.
Somo 5 • Utendakazi uliojengewa Ndani na Waendeshaji
Inachunguza utendakazi uliojengewa ndani wa mfuatano, hesabu, tarehe, na masharti. Wanafunzi wanatumia utendakazi kubadilisha na kutathmini data ndani ya hoja.
Sura 3FichaFicha maelezoTazama maelezoUsanifu wa Hifadhidata na Jedwali katika Hive
Usanifu wa Hifadhidata na Jedwali katika Hive
Somo 1 • Kugawanya Majedwali
Inafundisha ugawaji tuli na unaobadilika ili kupunguza uchanganuzi kamili wa jedwali. Ugawaji ndio mbinu kuu ya kuboresha utendaji wa hoja kwenye majedwali makubwa.
Somo 2 • Kuunda na Kusimamia Hifadhidata
Inashughulikia CREATE DATABASE, DROP DATABASE, na sifa za hifadhidata. Upangaji sahihi wa hifadhidata unaunga mkono usimamizi wa data wa timu nyingi.
Somo 3 • Miundo ya Uhifadhi ya Jedwali
Inalinganisha miundo ya uhifadhi ya TextFile, SequenceFile, ORC, na Parquet. Uchaguzi wa muundo huathiri moja kwa moja kasi ya hoja na ufanisi wa uhifadhi.
Somo 4 • Majedwali Yanayosimamiwa dhidi ya Nje
Inatofautisha majedwali yanayosimamiwa (data inayomilikiwa na Hive) kutoka kwa majedwali ya nje (data inayomilikiwa na mtumiaji). Kuchagua kwa usahihi kunazuia upotevu wa data usiotarajiwa.
Somo 5 • Kupanga Katika Vikapu na Kuweka katika Vikundi
Inatanguliza kupanga katika vikapu kama nyongeza ya ugawaji kwa usambazaji sawa wa data. Majedwali yaliyopangwa katika vikapu yanawezesha sampuli bora na uboreshaji wa uunganishaji.
Sura 4FichaFicha maelezoTazama maelezoKupakia, Kuingiza, na Kusimamia Data
Kupakia, Kuingiza, na Kusimamia Data
Somo 1 • Kupakia Data kutoka kwa Faili
Inashughulikia LOAD DATA LOCAL na LOAD DATA kutoka kwa njia za HDFS. Upakiaji kulingana na faili ndio mfumo wa kawaida wa uingizaji wa awali katika utiririsho wa kazi wa Hive.
Somo 2 • Miamala ya ACID na Shughuli za CRUD
Inaelezea usaidizi wa ACID wa Hive unaowezesha UPDATE na DELETE kwenye majedwali ya ORC. Shughuli za ACID zinahitaji usanidi maalum na sifa za jedwali.
Somo 3 • Mifumo ya INSERT na INSERT OVERWRITE
Inafundisha INSERT INTO na INSERT OVERWRITE kwa ujazaji wa data unaoendeshwa na hoja. Mifumo hii inasaidia mifereji ya ETL iliyojengwa kabisa ndani ya HiveQL.
Somo 4 • Kusafirisha na Kuhifadhi Kumbukumbu za Data
Inashughulikia amri za INSERT OVERWRITE DIRECTORY na EXPORT/IMPORT. Usafirishaji wa data unasaidia matumizi ya mwisho na uhamishaji kati ya nguzo.
Sura 5FichaFicha maelezoTazama maelezoUunganishaji, Muungano, na Uhojaji wa Juu
Uunganishaji, Muungano, na Uhojaji wa Juu
Somo 1 • Uunganishaji wa Mgeuko na Kushughulikia Mgeuko wa Data
Inashughulikia mgeuko wa uunganishaji unaosababishwa na thamani za funguo za mzunguko wa juu zinazozidisha vipunguzi. Uboreshaji wa uunganishaji wa mgeuko husambaza funguo moto katika kazi nyingi.
Somo 2 • Aina za Uunganishaji na Sarufi
Inashughulikia uunganishaji wa INNER, LEFT, RIGHT, FULL OUTER, na CROSS kwa sarufi ya HiveQL. Kuelewa semantiki za uunganishaji kunazuia seti za matokeo zisizo sahihi.
Somo 3 • UNION, INTERSECT, na EXCEPT
Inafundisha shughuli za seti za kuchanganya na kulinganisha seti za matokeo kwenye hoja. Shughuli hizi zinasaidia mifumo ya kuondoa nakala na uchambuzi wa tofauti.
Somo 4 • Uunganishaji wa Upande wa Ramani na Matangazo
Inaelezea uunganishaji wa upande wa ramani kwa kutumia kidokezo cha MAPJOIN kwa uboreshaji wa jedwali dogo. Uunganishaji wa matangazo huondoa mzigo wa kuchanganya katika uunganishaji wa jedwali kubwa hadi dogo.
Somo 5 • Utendakazi wa Dirisha na Uchambuzi
Inatanguliza OVER, PARTITION BY, na ORDER BY kwa cheo na ujumlishaji unaoendelea. Utendakazi wa dirisha huwezesha uchambuzi wa hali ya juu bila kuporomoka usahihi wa safu.
Sura 6FichaFicha maelezoTazama maelezoMbinu za Uboreshaji wa Hoja
Mbinu za Uboreshaji wa Hoja
Somo 1 • Kuelewa Mpango wa Utekelezaji wa Hoja
Inatumia EXPLAIN na EXPLAIN EXTENDED kutafsiri mipango ya utekelezaji ya MapReduce na Tez. Kusoma mipango ni ujuzi wa sharti kwa maamuzi yote ya uboreshaji.
Somo 2 • Urekebishaji wa Injini ya Utekelezaji ya Tez
Inasanidi utekelezaji wa DAG ya Tez kwa muda wa kuchelewa uliopunguzwa ikilinganishwa na MapReduce. Tez ndiyo injini inayopendekezwa kwa mizigo ya kazi ya mwingiliano na ya kurudiarudia ya Hive.
Somo 3 • Uchoraji wa Ugawaji na Kusukumwa kwa Kihusishi
Inahakikisha hoja zinachanganua tu ugawaji unaofaa na kusukuma vichujio mapema iwezekanavyo. Mbinu hizi hupunguza I/O, ambayo ndio gharama kubwa katika hoja za Hive.
Somo 4 • Uboreshaji wa Muundo wa Faili na Ukandamizaji
Huchagua ORC na Parquet kwa misimbo inayofaa ya ukandamizaji ili kupunguza muda wa uchanganuzi. Ukandamizaji hupunguza gharama ya uhifadhi na I/O ya mtandao wakati wa utekelezaji wa hoja.
Somo 5 • Utekelezaji wa Vekta na Kiboreshaji cha Gharama
Inawezesha utekelezaji wa hoja ulio na vekta na kiboreshaji cha gharama kwa uboreshaji wa mpango kiotomatiki. Zote mbili zinahitaji ukusanyaji wa takwimu ili kufanya kazi kwa usahihi.
Sura 7FichaFicha maelezoTazama maelezoUtendakazi Unaofafanuliwa na Mtumiaji na Upanuzi
Utendakazi Unaofafanuliwa na Mtumiaji na Upanuzi
Somo 1 • Utendakazi wa Jedwali Unaofafanuliwa na Mtumiaji
Hujenga UDTF zinazotoa safu nyingi kutoka kwa safu moja ya ingizo kwa kutumia kiolesura cha UDTF. UDTF zinasaidia kupasua miundo tata na uundaji wa safu maalum.
Somo 2 • Utendakazi wa Ujumlishaji Unaofafanuliwa na Mtumiaji
Inatekeleza UDAF kwa kutumia violesura vya UDAF na GenericUDAF kwa ujumlishaji maalum. UDAF hufanya kazi katika vikundi vya vipunguzi na zinahitaji usimamizi wa bafa.
Somo 3 • Misingi ya Uendelezaji wa UDF
Inashughulikia darasa la msingi la UDF, mbinu ya evaluate, na upakiaji wa JAR kwa utendakazi rahisi wa scalar. UDF hujaza mapengo ambapo utendakazi uliojengewa ndani hautoshi.
Somo 4 • Mabadiliko ya Python na Hati
Inatumia TRANSFORM na hati za utiririshaji kutumia mantiki ya Python au shell ndani ya HiveQL. Mabadiliko ya hati huwezesha uundaji wa mfano wa haraka bila ukusanyaji wa Java.
Sura 8FichaFicha maelezoTazama maelezoHive katika Uzalishaji: Usalama na Utawala
Hive katika Uzalishaji: Usalama na Utawala
Somo 1 • Usimamizi wa Hifadhi ya Metadata na Upatikanaji wa Juu
Inasanidi hifadhi ya metadata ya mbali yenye utendaji wa uhusiano na usanidi wa upatikanaji wa juu. Kuegemea kwa hifadhi ya metadata ni muhimu kwa huduma isiyokatizwa ya Hive katika uzalishaji.
Somo 2 • Miundo ya Idhini: Viwango vya SQL na Ranger
Inalinganisha idhini ya kiwango cha SQL cha Hive na udhibiti unaozingatia sera wa Apache Ranger. Idhini ya kina inatekeleza ufikiaji wa upendeleo mdogo katika kiwango cha safu wima.
Somo 3 • Uthibitishaji na Ushirikiano wa Kerberos
Inasanidi uthibitishaji unaozingatia Kerberos kwa HiveServer2 na miunganisho ya mteja. Uthibitishaji unazuia ufikiaji usioidhinishwa wa nyenzo nyeti za data.
Somo 4 • Ufunikaji wa Data na Usimbaji Fiche
Inatumia sera za ufunikaji wa data unaobadilika na kanda za usimbaji fiche za HDFS kulinda safu wima nyeti. Ufunikaji huwezesha uchambuzi kwenye data nyeti bila kufichua thamani halisi.
Somo 5 • Ukaguzi na Kurekodi Kumbukumbu za Uzingatiaji
Inawezesha kumbukumbu za ukaguzi wa hoja kupitia HiveServer2 na nyayo za ukaguzi za Apache Ranger. Kumbukumbu za ukaguzi zinakidhi mahitaji ya udhibiti wa uzingatiaji kwa ufuatiliaji wa ufikiaji wa data.
Cheti chako halali cha kumaliza
Kozi hii ni kwa ajili yako:
Wachambuzi wa data walio tayari kuongeza ujuzi wao zaidi ya lahajedwali na SQL.
Wahandisi wa programu wanaohamia kwenye majukumu ya data kubwa na mifumo iliyosambazwa.
Waendelezaji wa ETL wanaotaka kuboresha mstari wa kazi kwa kutumia zana za msingi wa Hadoop.
Wasimamizi wa hifadhidata wanaochunguza uhifadhi wa safu na urekebishaji wa maswali kwa kiwango kikubwa.
Wataalamu wa biashara wenye akili ambao seti zao za data zimezidi uwezo wa hifadhidata za uhusiano.
Wahandisi wa wingu la kompyuta walio na jukumu la kujenga au kuhamisha miundombinu ya ghala la data.
Kile ambacho wanafunzi wetu wanasema
Masomo yenu ni mazuri sana. Nilinunua kifurushi cha mwaka mmoja na, hatimaye, nina fursa ya kufuata mada mbalimbali za maslahi yangu bila kuhitaji kubadilisha jukwaa... ninashukuru kwa kila kitu mnachofanya, nimeshawapendekeza kwa watu wengine...

Ninapenda jinsi masomo yanavyo moja kwa moja na jinsi ninavyoweza kubadilisha sura na kuruka maudhui ambayo sihitaji.

Ninapenda maudhui na njia ya uwasilishaji na uandishi wa video, ambayo inaharakisha mchakato!

Jukwaa ni la haraka, rahisi kutumia. Utofauti wa maudhui na video za ziada zinasaidia sana katika kujifunza.

Mafunzo muhimu
Maswali Yanayoulizwa Mara kwa Mara
Dedika ni nani?
Je, cheti kinatumika nchini Tanzania?
Kozi ni bure?
Mzigo wa masomo wa kozi ni upi?
Kozi zikoje?
Kozi zinafanyaje kazi?
Kozi hudumu kwa muda gani?
Gharama au bei ya kozi ni ipi?
Kozi ya EAD au mtandaoni ni nini na inafanyaje kazi?
Kozi ya PDF




















