Chagua lugha yako
Kozi ya Python kwa Data Engineers
Zaidi ya wanafunzi milioni 2 duniani kote

Kozi ya Python kwa Data Engineers

Boresha ujuzi wa Python ambao wahandisi wa data hutumia kila siku — kuanzia kujenga mstari wa ETL na kuunganisha kwenye hifadhidata hadi kuratibu mtiririko wa kazi na kusambaza msimbo ulio tayari kwa uzalishaji. Kozi hii inakupeleka kutoka misingi ya Python hadi mifumo ya juu ya uhandisi wa data inayotumika kwa kiwango kikubwa.

Dedika kwa biashara

Utakachojifunza:

Utajifunza kuandika hati za Python zinazotoa data kutoka kwa API, faili, na hifadhidata, kisha kuzibadilisha na kuzipakia kwenye hifadhidata za uhusiano, ghala za data, na hifadhi ya wingu. Utafanya kazi na Pandas kwa udhibiti wa data, SQLAlchemy kwa muunganisho wa hifadhidata, na Apache Airflow kwa uratibu wa mstari wa usindikaji. Kozi inashughulikia uthibitishaji wa ubora wa data, uboreshaji wa utendaji, usindikaji sambamba, na mazoea ya CI/CD kwa usambazaji wa mstari. Pia utachunguza PySpark kwa usindikaji uliosambazwa, Kafka kwa mstari wa mtiririko, na mbinu bora za usalama kwa kulinda data nyeti katika mazingira ya uzalishaji.

Jinsi unavyosoma kwa vitendo Kozi ya Python kwa Data Engineers

Jinsi unavyofanya mazoezi Kozi ya Python kwa Data Engineers

Kwa ajili yako ambaye ni kampuni na unataka kufundisha timu yako

Katika Dedika kwa ajili ya kampuni, kozi inakuja na mazoezi na mifano inayohusiana na biashara yako na jinsi kampuni yako inavyohitaji.

Bofya hapa

Maudhui ya kozi

8 Suras • 37 MasomoMuda kati ya 4 na 360 masaa (wewe unachagua)

Sura 1Tazama maelezo

Misingi ya Python kwa Wahandisi wa Data

  • Somo 1 • Udhibiti wa Mtiririko na Uratibibu

    Tumia vifungamanishi, vitanzi, na uelewekaji mafupi kuchakata mfuatano wa rekodi za data. Hii inalingana moja kwa moja na mantiki ya mabadiliko ya kiwango cha safu inayotumika katika mistari ya ETL.

  • Somo 2 • Vitendakazi na Ushughulikiaji wa Makosa

    Fafanua vitendakazi vinavyotumika tena kwa hoja, viwango chaguo-msingi, na thamani za kurudi, kisha ushughulikie vighairi kwa ustadi. Huwezesha msimbo wa mstari unaobadilika na usio na hitilafu.

  • Somo 3 • Sintaksia ya Msingi ya Python na Aina za Data

    Fafanua vigeu, viendeshaji, na aina zilizojengewa ndani ikijumuisha mifuatano, nambari kamili, nambari za sehemu, na thamani za mantiki. Hutoa msingi wa sintaksia wa kuandika mantiki yoyote ya mstari wa data.

  • Somo 4 • Mikusanyiko: Orodha, Tupu, Kamusi, Seti

    Chunguza aina za mkusanyiko zinazobadilika na zisizobadilika na maelewano yao ya utendaji. Miundo hii inashikilia uendeshaji wa data kwenye kumbukumbu katika kozi nzima.

  • Somo 5 • Kusanidi Mazingira ya Python

    Sakinisha Python, sanidi mazingira pepe, na uchague IDE inayofaa kwa kazi ya data. Huanzisha eneo kazi linaloweza kuzalishwa tena ambalo sura zote zinazofuata zinategemea.

Sura 2Tazama maelezo

Kuingiza/Kutoa Faili na Usanifishaji wa Data

  • Somo 1 • Miundo ya Binary: Parquet na Avro

    Soma na uandike faili za Parquet za kiwima na Avro zenye misingi ya safu kwa kutumia maktaba za Python. Miundo hii ni ya kawaida katika usanifu wa kisasa wa ziwa la data.

  • Somo 2 • Kufanya Kazi na Faili za Maandishi na CSV

    Fungua, soma, na uandike faili za maandishi kwa kutumia wasimamizi wa muktadha, kisha uchanganue CSV kwa maktaba ya kawaida. Inashughulikia umbizo la kawaida la data ghafi katika mistari ya kundi.

  • Somo 3 • Uendeshaji wa Mfumo wa Faili na Njia

    Tembelea saraka, panga faili kwa mwelekeo, na simamia njia kwa kutumia moduli za pathlib na os. Huotomatisha hatua za ugunduzi wa faili zinazojulikana katika utiririshaji wa kuingiza kundi.

  • Somo 4 • Miundo ya Data ya JSON na XML

    Changanua na sanifisha mizigo ya JSON na tembelea miti ya XML kwa usindikaji wa API na faili za usanidi. Inaunganisha na uingizaji halisi wa majibu ya REST API.

Sura 3Tazama maelezo

Uendeshaji wa Data kwa Pandas

  • Somo 1 • Misingi ya DataFrames na Series

    Unda DataFrames kutoka kwa kamusi, CSV, na JSON, kisha kagua muundo na aina za data. Huunda msingi wa kazi zote za mabadiliko zenye msingi wa Pandas.

  • Somo 2 • Kuchuja, Kupanga, na Kuchagua

    Tumia vinyago vya mantiki, viteuzi vya loc/iloc, na uendeshaji wa kupanga kutenga sehemu ndogo za data husika. Inasaidia moja kwa moja uchujaji wa ubora wa data katika hatua za mstari.

  • Somo 3 • Ujumlishaji, Upangaji kwa Vikundi, na Uyumbaishaji

    Fupisha data kwa groupby, agg, na uendeshaji wa pivot kutoa matokeo ya uchambuzi. Huwezesha ukokotoaji wa vipimo na kuripoti ndani ya utiririshaji wa mstari.

  • Somo 4 • Usafishaji Data na Ubadilishaji Aina kwa Lazima

    Shughulikia thamani zinazokosekana, nakala, na aina zisizo sahihi kutoa seti za data safi na thabiti. Usafishaji ndio hatua inayotumia muda mwingi katika mistari halisi ya data.

  • Somo 5 • Kuunganisha na Kujiunga na DataFrames

    Changanya seti za data kwa kutumia merge, join, na concat ili kuiga mantiki ya uhusiano ya mtindo wa SQL. Muhimu kwa kuondoa hali ya kawaida ya data kabla ya kupakia kwenye hifadhi za uchambuzi.

Sura 4Tazama maelezo

Muunganisho wa Hifadhidata na Ushirikishwaji wa SQL

  • Somo 1 • Kufanya Kazi na Hifadhidata Zisizo za SQL

    Unganisha kwenye hifadhi za hati na funguo-thamani, fanya shughuli za CRUD, na uweke ramani matokeo kwa vitu vya Python. Inapanua muunganisho wa mstari zaidi ya mifumo ya uhusiano.

  • Somo 2 • Hifadhidata za Uhusiano kwa SQLAlchemy

    Anzisha miunganisho, akisi schema, na tekeleza SQL ghafi kwa kutumia API ya msingi ya SQLAlchemy. Hutoa safu ya ufikiaji isiyotegemea hifadhidata kwa msimbo wa mstari.

  • Somo 3 • Uunganishaji wa Bwawa na Mbinu Bora

    Sanidi bwawa la miunganisho, simamia hati za kuingia kwa usalama, na epuka mikakati mbaya ya kawaida. Inahakikisha uaminifu na usalama wa kiwango cha uzalishaji katika msimbo wa ufikiaji wa hifadhidata.

  • Somo 4 • Kuandika na Kuingiza/Sasisha Data

    Ingiza, sasisha, na ingiza/sasisha rekodi kwa njia ya programu kwa kutumia SQLAlchemy na to_sql ya Pandas. Inashughulikia njia ya kuandika inayohitajika kwa kupakia matokeo ya mstari kwenye hifadhidata.

Sura 5Tazama maelezo

Kujenga Mistari ya ETL katika Python

  • Somo 1 • Kurekodi na Kuonekana kwa Mstari

    Weka ala za mstari kwa kurekodi kwa muundo, vipimo, na tahadhari ili kuwezesha ufuatiliaji wa kazi. Hubadilisha hati kuwa michakato inayoonekana na tayari kwa uzalishaji.

  • Somo 2 • Mantiki ya Mabadiliko na Kanuni za Biashara

    Tekeleza ramani za sehemu, safu wima zinazotokana, na kanuni za uthibitishaji kama vitendakazi safi vya Python. Hufunga mantiki ya biashara katika vitengo vya mabadiliko vinavyojaribika na kutumika tena.

  • Somo 3 • Kupakia Data kwenye Mifumo Lengwa

    Andika data iliyobadilishwa kwenye hifadhidata, ghala za data, na hifadhi ya vitu kwa kutumia viunganishi vya Python. Inakamilisha mstari kwa kuwasilisha data safi kwenye lengwa lake.

  • Somo 4 • Usanifu wa ETL na Mifumo ya Usanifu

    Elewa hatua za mstari, mtiririko wa data, na mifumo ya kawaida ya usanifu kama ELT na usanifu wa medali. Huweka mfumo wa dhana kwa kazi yote ya utekelezaji wa mstari.

  • Somo 5 • Kutoa Data kutoka kwa API

    Leta data kutoka kwa API za REST kwa kutumia maktaba ya requests, shughulikia kurasa, na simamia vikomo vya kasi. Inashughulikia chanzo cha kawaida cha data ya kisasa kwa mistari ya kuingiza.

Sura 6Tazama maelezo

Kufanya Kazi na Hifadhi na Huduma za Wingu

  • Somo 1 • Miundombinu Kama Msimbo kwa Mistari ya Data

    Fafanua rasilimali za wingu kwa njia ya programu kwa kutumia zana za IaC zenye msingi wa Python ili kuotomatisha usanidi wa mazingira. Inapunguza usanidi wa mikono na kuhakikisha miundombinu ya mstari inayoweza kuzalishwa tena.

  • Somo 2 • Uingizaji Unaotokana na Matukio kwa Foleni za Ujumbe

    Toa na utumie ujumbe kutoka kwa foleni na mada za utiririshaji ili kuanzisha utekelezaji wa mstari. Inaunganisha mistari ya Python kwenye usanifu wa data unaotokana na matukio na wa wakati halisi.

  • Somo 3 • Kushirikiana na Ghala za Data Zinazosimamiwa

    Unganisha kwenye ghala za data wingu kwa viunganishi vya Python, tekeleza maswali, na upakie data kwa ufanisi. Huwezesha mistari ya Python kuhudumia mizigo ya uchambuzi kwa kiwango kikubwa.

  • Somo 4 • Hifadhi ya Vitu Wingu kwa SDK za Python

    Panda, pakua, orodhesha, na ufute vitu kwenye ndoo za hifadhi wingu kwa kutumia SDK za watoa huduma. Hifadhi ya vitu ndio eneo kuu la kutua kwa data ghafi katika mistari ya wingu.

Sura 7Tazama maelezo

Uratibibu wa Mstari na Upangaji Ratiba

  • Somo 1 • Ushughulikiaji wa Makosa na Mikakati ya Kurudia

    Sanidi kurudia, muda wa kuisha, na tahadhari za SLA ili kufanya mistari iliyoratibiwa iwe imara dhidi ya kushindwa kwa muda. Hupunguza moja kwa moja uingiliaji wa mikono katika mazingira ya uzalishaji.

  • Somo 2 • DAG Inayobadilika na Ubadilishaji Vigezo

    Unda DAG kwa njia ya programu na upitishe vigezo vya wakati wa utekelezaji kwa kazi kwa utekelezaji wa mstari unaobadilika. Huwezesha uratibibu unaoweza kupanuliwa wa vibadala vingi vya mstari sawa.

  • Somo 3 • Dhana za Uratibibu na Mazingira ya Zana

    Elewa DAG, utegemezi wa kazi, na jukumu la waratibu katika uhandisi wa data. Hutoa msingi wa dhana kabla ya kutekeleza msimbo wa uratibibu.

  • Somo 4 • Kujenga DAG kwa Apache Airflow

    Fafanua DAG, viendeshaji, na utegemezi wa kazi katika Airflow kwa kutumia Python kupanga utekelezaji wa mstari. Airflow ndio mratibu aliyeenea zaidi katika uhandisi wa data.

  • Somo 5 • Ufuatiliaji na Utahadharishaji katika Uratibibu

    Tumia UI za mratibu, kumbukumbu, na ujumuishaji wa tahadhari za nje kufuatilia afya ya mstari. Hufunga mzunguko wa uonekanaji kwa uendeshaji wa mstari kutoka mwanzo hadi mwisho.

Sura 8Tazama maelezo

Utendaji, Upimaji, na Utayari wa Uzalishaji

  • Somo 1 • Ubora wa Msimbo na Ufungaji

    Tekeleza mtindo kwa vikagua, angalia aina kwa mypy, na ufunge msimbo wa mstari kama moduli za Python zinazoweza kusakinishwa. Huinua udumishaji wa msimbo kwa viwango vya kitaaluma vya uhandisi wa programu.

  • Somo 2 • Upimaji wa Kitengo na Ushirikishwaji kwa Mistari

    Andika majaribio ya kitengo yenye msingi wa pytest kwa vitendakazi vya mabadiliko na majaribio ya ushirikishwaji kwa mwingiliano wa hifadhidata. Upimaji huzuia kurudi nyuma kwa msimbo na kuthibitisha usahihi wa mstari.

  • Somo 3 • Usindikaji Sambamba na Uliokadiriwa

    Tumia mifumo ya multiprocessing, threading, na async kuendana na kazi za I/O-bound na CPU-bound katika mstari. Hupunguza muda wa utekelezaji wa mstari kutoka mwanzo hadi mwisho kwa kiasi kikubwa.

  • Somo 4 • Kuchambua na Kuboresha Msimbo wa Python

    Tambua vikwazo kwa kutumia zana za kuchambua na tumia veectorisation, upangaji katika vipande, na akiba kuboresha kiwango cha uwasilishaji wa data. Uboreshaji wa utendaji ni muhimu kwa mistari ya data ya kiwango kikubwa.

  • Somo 5 • CI/CD kwa Usambazaji wa Mstari wa Data

    Otomatisha upimaji, ukaguaji, na usambazaji wa msimbo wa mstari kwa kutumia mistari ya CI/CD inayoanzishwa na matukio ya udhibiti wa toleo. Huwezesha matoleo salama na yanayoweza kurudiwa ya uzalishaji.

Uthibitisho

Cheti chako halali cha kumaliza

Kozi hii ni kwa ajili yako:

  • Mchambuzi wa data mwanzoni: tayari kufanya kazi za kurudiarudia za data kiotomatiki kwa kutumia Python.

  • Mwanasistemi wa SQL: anayeitaka kupanua ujuzi wake katika ujenzi wa mfumo wa programu.

  • Msanidi programu: kuelekea katika uhandisi wa data kutoka kwa historia ya jumla ya upangaji programu.

  • Mhandisi wa akili ya biashara: anayetaka kumiliki mfumo mzima wa data kuanzia mwanzo hadi mwisho.

  • Mhitimu wa hivi karibuni wa sayansi ya kompyuta: anatafuta uzoefu wa vitendo na tayari kwa kazi wa uhandisi wa data.

  • Mwenyekujifundisha programu: mwenye shauku kuhusu data na nia ya kupata nafasi ya uhandisi.

Kile ambacho wanafunzi wetu wanasema

Masomo yenu ni mazuri sana. Nilinunua kifurushi cha mwaka mmoja na, hatimaye, nina fursa ya kufuata mada mbalimbali za maslahi yangu bila kuhitaji kubadilisha jukwaa... ninashukuru kwa kila kitu mnachofanya, nimeshawapendekeza kwa watu wengine...
Giulio Carlo
Giulio CarloMwanafunzi wa Masoko ya Kidijitali
Ninapenda jinsi masomo yanavyo moja kwa moja na jinsi ninavyoweza kubadilisha sura na kuruka maudhui ambayo sihitaji.
Mariana Ferres
Mariana FerresMwanafunzi wa Upigaji Picha
Ninapenda maudhui na njia ya uwasilishaji na uandishi wa video, ambayo inaharakisha mchakato!
Luciana Alvarenga
Luciana AlvarengaMwanafunzi wa Muundo wa Makucha
Jukwaa ni la haraka, rahisi kutumia. Utofauti wa maudhui na video za ziada zinasaidia sana katika kujifunza.
André Felipe
André FelipeMwanafunzi wa Uhandisi wa Prompt

Mafunzo muhimu

Maswali Yanayoulizwa Mara kwa Mara

Dedika ni nani?

Je, cheti kinatumika nchini Tanzania?

Kozi ni bure?

Mzigo wa masomo wa kozi ni upi?

Kozi zikoje?

Kozi zinafanyaje kazi?

Kozi hudumu kwa muda gani?

Gharama au bei ya kozi ni ipi?

Kozi ya EAD au mtandaoni ni nini na inafanyaje kazi?

Kozi ya PDF