Neural Network: erinevus redaktsioonide vahel
Allikas: Imre kasutab arvutit
Mine navigeerimisribaleMine otsikasti
Resümee puudub |
|||
| 16. rida: | 16. rida: | ||
* backpropagation |
* backpropagation |
||
* quantization |
* quantization |
||
| + | |||
| + | LLM mudeli omadused |
||
| + | |||
| + | * number of parameters - nt 8b (billion - 10^9) |
||
| + | * token |
||
| + | * context lenght - mudelil on max context pikkuse piir (alla selle saab kasutada ja seda otsustab llm-klient, nt 128k) |
||
===Misc=== |
===Misc=== |
||
Redaktsioon: 28. juuli 2026, kell 22:52
Sissejuhatus
- TODO
Tööpõhimõte
TODO
Väited
- neuron - funktsioon, millel on väärtus
- weight
- base
- activation
- forward pass
- backpropagation
- quantization
LLM mudeli omadused
- number of parameters - nt 8b (billion - 10^9)
- token
- context lenght - mudelil on max context pikkuse piir (alla selle saab kasutada ja seda otsustab llm-klient, nt 128k)
Misc
Väited
- neural network ja selle juurde kuuluv tehnoloogia aastal 2026 on pigem empiiriline kui täppisteadus
- neural network on sarnane atmosfäärifüüsikaga - molekuli tasemel on asjad väga selged, aga tohutu mastaap toob kaasa uue kvaliteediga nähtusi - neid nähtusi käsitletakse järgmise abstraktsiooni taseme tööriistadega - fluid dynamics
- emergent capabilities - neural network nähtusele on iseloomulik, et teatud nö horisondi ületamisel ilmuvad uued võimed (ootamatult)
