Neural Network: erinevus redaktsioonide vahel
Allikas: Imre kasutab arvutit
Mine navigeerimisribaleMine otsikasti
Resümee puudub |
|||
| (ei näidata sama kasutaja 4 vahepealset redaktsiooni) | |||
| 6. rida: | 6. rida: | ||
TODO |
TODO |
||
| + | |||
| + | Väited |
||
| + | |||
| + | * neuron - funktsioon, millel on väärtus |
||
| + | * weight |
||
| + | * base |
||
| + | * activation |
||
| + | * forward pass |
||
| + | * backpropagation |
||
| + | * quantization |
||
| + | |||
| + | LLM mudeli omadused |
||
| + | |||
| + | * number of parameters - nt 8b (billion - 10^9) |
||
| + | * token |
||
| + | * context lenght - mudelil on max context pikkuse piir (alla selle saab kasutada ja seda otsustab llm-klient, nt 128k) |
||
===Misc=== |
===Misc=== |
||
| 13. rida: | 29. rida: | ||
* neural network ja selle juurde kuuluv tehnoloogia aastal 2026 on pigem empiiriline kui täppisteadus |
* neural network ja selle juurde kuuluv tehnoloogia aastal 2026 on pigem empiiriline kui täppisteadus |
||
* neural network on sarnane atmosfäärifüüsikaga - molekuli tasemel on asjad väga selged, aga tohutu mastaap toob kaasa uue kvaliteediga nähtusi - neid nähtusi käsitletakse järgmise abstraktsiooni taseme tööriistadega - fluid dynamics |
* neural network on sarnane atmosfäärifüüsikaga - molekuli tasemel on asjad väga selged, aga tohutu mastaap toob kaasa uue kvaliteediga nähtusi - neid nähtusi käsitletakse järgmise abstraktsiooni taseme tööriistadega - fluid dynamics |
||
| + | * emergent capabilities - neural network nähtusele on iseloomulik, et teatud nö horisondi ületamisel ilmuvad uued võimed (ootamatult) |
||
===Kasulikud lisamaterjalid=== |
===Kasulikud lisamaterjalid=== |
||
| 19. rida: | 36. rida: | ||
* https://web.htk.tlu.ee/digitaru/tarkvara2/chapter/narvivorgud-ja-pytorch/ |
* https://web.htk.tlu.ee/digitaru/tarkvara2/chapter/narvivorgud-ja-pytorch/ |
||
* https://courses.cs.ut.ee/2020/Tehisintellekti_algkursus/spring/Main/PARTIIIVorgud |
* https://courses.cs.ut.ee/2020/Tehisintellekti_algkursus/spring/Main/PARTIIIVorgud |
||
| + | * https://tartunlp.ai/ |
||
Viimane redaktsioon: 30. juuli 2026, kell 02:11
Sissejuhatus
- TODO
Tööpõhimõte
TODO
Väited
- neuron - funktsioon, millel on väärtus
- weight
- base
- activation
- forward pass
- backpropagation
- quantization
LLM mudeli omadused
- number of parameters - nt 8b (billion - 10^9)
- token
- context lenght - mudelil on max context pikkuse piir (alla selle saab kasutada ja seda otsustab llm-klient, nt 128k)
Misc
Väited
- neural network ja selle juurde kuuluv tehnoloogia aastal 2026 on pigem empiiriline kui täppisteadus
- neural network on sarnane atmosfäärifüüsikaga - molekuli tasemel on asjad väga selged, aga tohutu mastaap toob kaasa uue kvaliteediga nähtusi - neid nähtusi käsitletakse järgmise abstraktsiooni taseme tööriistadega - fluid dynamics
- emergent capabilities - neural network nähtusele on iseloomulik, et teatud nö horisondi ületamisel ilmuvad uued võimed (ootamatult)
