Neural Network: erinevus redaktsioonide vahel
Allikas: Imre kasutab arvutit
Mine navigeerimisribaleMine otsikasti
| (ei näidata sama kasutaja üht vahepealset redaktsiooni) | |||
| 16. rida: | 16. rida: | ||
* backpropagation |
* backpropagation |
||
* quantization |
* quantization |
||
| + | |||
| + | LLM mudeli omadused |
||
| + | |||
| + | * number of parameters - nt 8b (billion - 10^9) |
||
| + | * token |
||
| + | * context lenght - mudelil on max context pikkuse piir (alla selle saab kasutada ja seda otsustab llm-klient, nt 128k) |
||
===Misc=== |
===Misc=== |
||
| 30. rida: | 36. rida: | ||
* https://web.htk.tlu.ee/digitaru/tarkvara2/chapter/narvivorgud-ja-pytorch/ |
* https://web.htk.tlu.ee/digitaru/tarkvara2/chapter/narvivorgud-ja-pytorch/ |
||
* https://courses.cs.ut.ee/2020/Tehisintellekti_algkursus/spring/Main/PARTIIIVorgud |
* https://courses.cs.ut.ee/2020/Tehisintellekti_algkursus/spring/Main/PARTIIIVorgud |
||
| + | * https://tartunlp.ai/ |
||
Viimane redaktsioon: 30. juuli 2026, kell 02:11
Sissejuhatus
- TODO
Tööpõhimõte
TODO
Väited
- neuron - funktsioon, millel on väärtus
- weight
- base
- activation
- forward pass
- backpropagation
- quantization
LLM mudeli omadused
- number of parameters - nt 8b (billion - 10^9)
- token
- context lenght - mudelil on max context pikkuse piir (alla selle saab kasutada ja seda otsustab llm-klient, nt 128k)
Misc
Väited
- neural network ja selle juurde kuuluv tehnoloogia aastal 2026 on pigem empiiriline kui täppisteadus
- neural network on sarnane atmosfäärifüüsikaga - molekuli tasemel on asjad väga selged, aga tohutu mastaap toob kaasa uue kvaliteediga nähtusi - neid nähtusi käsitletakse järgmise abstraktsiooni taseme tööriistadega - fluid dynamics
- emergent capabilities - neural network nähtusele on iseloomulik, et teatud nö horisondi ületamisel ilmuvad uued võimed (ootamatult)
