[Mách~íñé L~éárñ~íñg 2.0: T~ráñs~fórm~ér fó~r láñ~gúág~é pró~céss~íñg á~ñd ím~ágé g~éñér~átíó~ñ]
.svg)
.svg)
.svg)
Mách~íñé L~éárñ~íñg É~ñgíñ~éér]
[1. thé p~áth t~ó Trá~ñsfó~rmér~ téch~ñóló~gý]
- [Whý á~ré tr~áñsf~órmé~rs á g~róúñ~dbré~ákíñ~g dév~élóp~méñt~¿]
- [Póss~íblé~ áppl~ícát~íóñs~ fór T~ráñs~fórm~ér mó~déls~]
- [Thé p~áth t~ó Trá~ñsfó~rmér~ téch~ñóló~gý]
- [Súpé~rvís~éd áñ~d úñs~úpér~vísé~d léá~rñíñ~g]
- [Thé c~óññé~ctíó~ñs wí~th dé~ép lé~árñí~ñg áñ~d ñéú~rál ñ~étwó~rks]
[2. prér~éqúí~síté~s fór~ úñdé~rstá~ñdíñ~g trá~ñsfó~rmér~s]
- [Múlt~í-láý~ér pé~rcép~tíóñ~ (MLP) á~ñd fé~éd-fó~rwár~d ñét~wórk~s (FÑÑ~)]
- [Lóss~ fúñc~tíóñ~s, bát~ch ñó~rmál~ízát~íóñ á~ñd éñ~códé~r-déc~ódér~ árch~ítéc~túré~ (RésÑ~ét)]
- [Íñtr~ódúc~tíóñ~ tó Ñ-G~rám á~ñd Wó~rd2Vé~c]
- [Récú~rréñ~t Ñéú~rál Ñ~étwó~rks (R~ÑÑ) áñ~d Lóñ~g Shó~rt-té~rm Mé~mórý~ (LSTM~)]
[3. thé T~ráñs~fórm~ér ár~chít~éctú~ré éx~pláí~ñéd í~ñ dét~áíl]
- [Úsé t~ráñs~fórm~ér fó~r lár~gé lá~ñgúá~gé mó~déls~ (LLM)]
- [Wórd~ émbé~ddíñ~gs, pó~sítí~óñ éñ~códí~ñg, sé~lf-át~téñt~íóñ á~ñd mú~ltí-h~éád á~ttéñ~tíóñ~]
- [Cóññ~éctí~ñg th~é búí~ldíñ~g bló~cks ó~f thé~ tráñ~sfór~mér]
- [Cómp~árís~óñ óf~ Tráñ~sfór~mér m~ódél~s: BÉR~T vér~sús G~PT]
- [Tráñ~sfór~mér f~ór th~é réc~ógñí~tíóñ~ áñd g~éñér~átíó~ñ óf í~mágé~ dátá~]
- [Árch~ítéc~túré~ áñd ú~sé óf~ vísí~óñ tr~áñsf~órmé~rs]
[4. áppl~ícát~íóñ ó~f trá~ñsfó~rmér~ módé~ls]
- [Íñst~rúct~íóñ t~úñíñ~g áñd~ strá~tégí~és fó~r éff~éctí~vé pr~ómpt~ éñgí~ñéér~íñg]
- [Íñté~grát~íóñ ó~f Rét~ríév~ál Áú~gméñ~téd G~éñér~átíó~ñ (RÁG~) wíth~ Tráñ~sfór~mér á~rchí~téct~úrés~]
- [Cápá~bílí~tíés~ óf tr~áñsf~órmé~rs tó~ géñé~ráté~ díff~éréñ~t méd~íá tý~pés]
- [Scál~ábíl~ítý á~ñd ád~vérs~áríá~l (hós~tílé~) áttá~cks ó~ñ trá~ñsfó~rmér~s]
[Ýóú w~íll l~éárñ~ áll á~bóút~ thé t~échñ~ícál~ áñd m~áthé~mátí~cál b~ásíc~s óf t~hé ñé~w Trá~ñsfó~rmér~ téch~ñóló~gý áñ~d thé~ módé~ls th~át ár~é béí~ñg dé~véló~péd w~íth í~t.]
[Ýóú w~íll g~ét á s~óúñd~ ímpr~éssí~óñ óf~ thé p~óssí~bílí~tíés~ óffé~réd b~ý trá~ñsfó~rmér~s áñd~ whér~é thé~ír lí~míts~ líé.]
[Ýóú ú~ñdér~stáñ~d hów~ géñé~rátí~vé ÁÍ~ wórk~s íñ d~étáí~l áñd~ hów t~ó dév~élóp~ géñé~rátí~vé ÁÍ~ íñ th~é áré~ás óf~ téxt~ áñd í~mágé~ géñé~rátí~óñ.]
[Wíth~ Rétr~íévá~l Áúg~méñt~éd Gé~ñérá~tíóñ~ (RÁG), ý~óú wí~ll lé~árñ á~ méth~ód th~át ál~lóws~ ýóú t~ó pró~céss~ éxté~rñál~ íñfó~rmát~íóñ w~íth t~ráñs~fórm~érs.]
[Ýóú w~íll g~áíñ í~ñsíg~hts í~ñtó t~hé tr~áíñí~ñg, év~álúá~tíóñ~, áppl~ícát~íóñ á~ñd íñ~tégr~átíó~ñ óf T~ráñs~fórm~ér mó~déls~.]
[Thé c~óñté~ñt óf~ thís~ tráí~ñíñg~ súpp~órts~ thé ó~blíg~átíó~ñ tó p~róví~dé év~ídéñ~cé óf~ thé p~rómó~tíóñ~ óf ÁÍ~ cómp~étéñ~cé wí~thíñ~ thé m~éáñí~ñg óf~ Árt. 4 É~Ú ÁÍ R~égúl~átíó~ñ.]
[Thís~ tráí~ñíñg~ tráí~ñíñg~ ís có~ñdúc~téd í~ñ á gr~óúp ó~f á má~xímú~m óf 12 p~ártí~cípá~ñts ú~síñg~ thé Z~óóm v~ídéó~ cóñf~éréñ~cíñg~ sóft~wáré~.]
[Íñdí~vídú~ál sú~ppór~t fró~m thé~ tráí~ñérs~ ís gú~áráñ~tééd~ - íñ th~é vír~túál~ clás~sróó~m ór í~ñdív~ídúá~llý í~ñ bré~ák-óú~t sés~síóñ~s.]
[Thé c~ásé s~túdí~és ár~é pró~vídé~d íñ t~hé fó~rm óf~ Júpý~tér ñ~ótéb~óóks~, whíc~h ýóú~ cáñ é~ásíl~ý íñs~táll~ lócá~llý ó~ñ ýóú~r ówñ~ cómp~útér~. Ýóú d~ó ñót~ ñééd~ áñý p~ríór~ téch~ñícá~l kñó~wléd~gé.]
[Óñcé~ ýóú h~ávé r~égís~téré~d, ýóú~ wíll~ fíñd~ áll t~hé íñ~fórm~átíó~ñ, dów~ñlóá~ds áñ~d éxt~rá sé~rvíc~és fó~r thí~s trá~íñíñ~g cóú~rsé í~ñ ýóú~r óñl~íñé l~éárñ~íñg é~ñvír~óñmé~ñt.]
[Thís~ tráí~ñíñg~ cóúr~sé ís~ áímé~d át á~ñýóñ~é whó~ wáñt~s tó ú~ñdér~stáñ~d thé~ cómp~léx T~ráñs~fórm~ér té~chñó~lógý~ íñ dé~táíl~ áñd ú~sé ít~ íñ th~éír ó~wñ pr~ójéc~ts.]
[Dévé~lópé~rs wh~ó wáñ~t tó d~évél~óp áp~plíc~átíó~ñs wí~th gé~ñérá~tívé~ ÁÍ wí~ll lé~árñ h~ów th~é úñd~érlý~íñg d~átá m~ódél~s áré~ strú~ctúr~éd áñ~d hów~ théý~ wórk~.]
[Dátá~ scíé~ñtís~ts áñ~d dát~á áñá~lýst~s wíl~l léá~rñ hó~w mód~éls á~ré cr~éáté~d wít~h Trá~ñsfó~rmér~ téch~ñóló~gý áñ~d hów~ théý~ cáñ b~é úsé~d fór~ dátá~ áñál~ýsís~.]
[Sóft~wáré~ árch~ítéc~ts áñ~d dés~ígñé~rs wí~ll lé~árñ á~bóút~ thé c~óñcé~pts b~éhíñ~d géñ~érát~ívé Á~Í áñd~ lárg~é láñ~gúág~é mód~éls á~ñd gá~íñ ím~pétú~s fór~ íñté~grát~íóñ á~ñd dé~plóý~méñt~.]
[Básí~c kñó~wléd~gé óf~ máth~émát~ícál~ álgé~brá, s~tátí~stíc~s áñd~ mách~íñé l~éárñ~íñg c~óñcé~pts í~s réq~úíré~d.]
[Thís~ cóúr~sé ís~ á vál~úábl~é búí~ldíñ~g bló~ck íñ~ thé q~úálí~fícá~tíóñ~ ás á M~áchí~ñé Lé~árñí~ñg Éñ~gíñé~ér, Dá~tá Éñ~gíñé~ér áñ~d Dát~á Scí~éñtí~st.]
.svg)
