ceos/unsloth
1
0
Fork 0
Code Issues Pull requests Projects Releases Packages Wiki Activity Actions
586 commits 391 branches 58 tags 304 MiB
Commit graph

586 commits

This branch
This branch
All branches
Author SHA1 Message Date
Daniel Han-Chen
b30d2502cc Update llama.py 2024-02-23 02:12:02 +11:00
Daniel Han-Chen
11233cb3d4 model_type 2024-02-23 02:10:11 +11:00
Daniel Han-Chen
76de9c1fe3 FastGemmaModel 2024-02-23 02:05:31 +11:00
Daniel Han-Chen
c0d32de795 Update fast_lora.py 2024-02-23 02:02:39 +11:00
Daniel Han-Chen
bd2fa264c9 Update mapper.py 2024-02-23 01:57:34 +11:00
Daniel Han-Chen
9a1b28d691 Update pyproject.toml 2024-02-23 01:55:25 +11:00
Daniel Han-Chen
0beaf18908 Gemma 2024-02-23 01:50:51 +11:00
Daniel Han-Chen
0659d90d95 Merge branch 'main' into nightly 2024-02-21 17:49:57 +11:00
Daniel Han
3e4c5a323c
 		Feb 2024 Release (#187) 
* Fast inference repatch

* Update llama.py

* Update utils.py

* Update utils.py

* Update utils.py

* Update mistral.py

* Update __init__.py

* Fix inference

* Update mistral.py

* fast lm_head

* Remove fast path

* Update rope_embedding.py

* Update loader.py

* LlamaAttention_fast_forward_inference

* if past_key_value is not None and q_len == 1:

* revert inference

* Update loader.py

* past_key_value

* Update llama.py

* Update llama.py

* Fix SDPA

* Update llama.py

* padding

* Inference

* Update llama.py

* Revert

* Update mistral.py

* faster inference

* inference

* Update llama.py

* Update llama.py

* Update llama.py

* Update llama.py

* Update llama.py

* Update llama.py

* Update llama.py

* Update llama.py

* inference

* Update llama.py

* Update utils.py

* faster inference

* Update llama.py

* revert

* lm_head

* Update llama.py

* inference

* Update llama.py

* Update llama.py

* Update llama.py

* Update llama.py

* Update llama.py

* Update llama.py

* Update llama.py

* Update llama.py

* Update llama.py

* Update llama.py

* Update mistral.py

* Update llama.py

* faster inference

* Update llama.py

* fast inference

* Update llama.py

* Update llama.py

* Update mistral.py

* Update llama.py

* Update llama.py

* Update llama.py

* Update llama.py

* torch compile

* past_key_values

* Update llama.py

* Update llama.py

* Update llama.py

* Update llama.py

* Update llama.py

* Update llama.py

* Update llama.py

* Update llama.py

* Update llama.py

* Update llama.py

* Update llama.py

* Update llama.py

* Update llama.py

* Update llama.py

* Update llama.py

* Update utils.py

* Update utils.py

* Update utils.py

* Update utils.py

* Update llama.py

* fast inference + saving config.json

* Update llama.py

* Update llama.py

* Update llama.py

* Update llama.py

* Update llama.py

* Update mistral.py

* fast inference again

* more temp matrices

* Update llama.py

* Update llama.py

* Update llama.py

* Update llama.py

* Update llama.py

* fast inference

* Update mistral.py

* Update llama.py

* SDPA

* attention_mask

* New version

* Update llama.py

* Update llama.py

* Update llama.py

* Update llama.py

* Update llama.py

* Update llama.py

* Update llama.py

* Update llama.py

* Update llama.py

* Update llama.py

* Update llama.py

* Update llama.py

* Update llama.py

* Update llama.py

* Update llama.py

* Update llama.py

* Update llama.py

* Update llama.py

* Update llama.py

* Update llama.py

* Update utils.py

* Update utils.py

* Update save.py

* Update save.py

* Torch 2.2.0

* Update save.py

* mistral swa

* Update save.py

* Update save.py

* Update save.py

* Update save.py

* Update save.py

* Fix SWA inference

* Fix llm_int8_skip_modules

* SWA inference

* Update save.py

* Update save.py

* Update pyproject.toml

* __version__

* __version__

* Update save.py

* Update save.py

* Update mistral.py

* Update llama.py

* Update llama.py

* Update llama.py

* Update llama.py

* Update llama.py

* Update llama.py

* Update llama.py

* Update llama.py

* Update llama.py

* Update llama.py

* Update llama.py

* Update llama.py

* Update llama.py

* Update llama.py

* Chat Templates

* Update chat_templates.py

* Update chat_templates.py

* Update chat_templates.py

* Update chat_templates.py

* patch tokenizer

* Update chat_templates.py

* Saving, LlamaRotaryEmbedding issues

* Update llama.py

* Update mistral.py

* Update mapper.py

* Fix RoPE precision issues

* Bugs

* saving bugs

* Update llama.py

* readme

* spaces

* spaces

* globals

* slash

* slashes

* spaces

* apache

* Update save.py

* Update save.py

* Update loader.py

* Update save.py

* Update save.py

* Update save.py

* Update save.py

* Update save.py

* Update save.py

* trainer

* Update save.py

* Update pyproject.toml

* install

* Update save.py

* Update save.py

* Update save.py

* Update save.py

* PeftModel token + saving

* Update save.py

* Update save.py

* Update save.py

* Update save.py

* Update save.py

* linking

* llama.cpp bugs

* Update save.py

* Update save.py

* saving

* Update save.py

* Update save.py

* Update save.py

* Update save.py

* Update save.py

* Update save.py

* Update save.py

* Update save.py

* Update save.py

* Update save.py

* Update save.py

* Update save.py

* Update save.py

* Update __init__.py

* Update save.py

* Update save.py

* Update save.py

* save

* trainer

* spaces

* original
 2024-02-21 03:58:59 +11:00
Daniel Han-Chen
7372768d14 original 2024-02-21 03:29:49 +11:00
Daniel Han-Chen
10d9d56434 spaces 2024-02-21 03:25:46 +11:00
Daniel Han-Chen
edd03f66fb trainer 2024-02-21 03:14:27 +11:00
Daniel Han-Chen
028ee5ca06 save 2024-02-21 02:05:33 +11:00
Daniel Han-Chen
917f791ab7 Update save.py 2024-02-21 00:53:17 +11:00
Daniel Han-Chen
bf3e10b26e Update save.py 2024-02-21 00:48:18 +11:00
Daniel Han-Chen
d266332141 Update save.py 2024-02-20 23:28:37 +11:00
Daniel Han-Chen
4d1e575047 Update __init__.py 2024-02-20 20:01:33 +11:00
Daniel Han-Chen
6aac6c4be8 Update save.py 2024-02-20 19:50:29 +11:00
Daniel Han-Chen
83d906a2c0 Update save.py 2024-02-20 18:35:11 +11:00
Daniel Han-Chen
5d88ffefd5 Update save.py 2024-02-20 18:00:51 +11:00
Daniel Han-Chen
4c9be6d057 Update save.py 2024-02-20 17:12:18 +11:00
Daniel Han-Chen
d3eac595a1 Update save.py 2024-02-20 17:11:33 +11:00
Daniel Han-Chen
632705b9b0 Update save.py 2024-02-20 17:00:19 +11:00
Daniel Han-Chen
8f60bf57be Update save.py 2024-02-20 15:59:38 +11:00
Daniel Han-Chen
164fa807fe Update save.py 2024-02-20 04:44:17 +11:00
Daniel Han-Chen
11e04a7057 Update save.py 2024-02-20 04:42:47 +11:00
Daniel Han-Chen
d2e76580ae Update save.py 2024-02-20 04:41:40 +11:00
Daniel Han-Chen
3e3dc37640 Update save.py 2024-02-20 04:41:34 +11:00
Daniel Han-Chen
d9751e6553 Update save.py 2024-02-20 04:35:07 +11:00
Daniel Han-Chen
44659a05a3 Update save.py 2024-02-20 04:13:58 +11:00
Daniel Han-Chen
34998914ac saving 2024-02-20 03:35:19 +11:00
Daniel Han-Chen
3728b8e876 Update save.py 2024-02-20 02:19:36 +11:00
Daniel Han-Chen
c20bb30710 Update save.py 2024-02-20 02:07:01 +11:00
Daniel Han-Chen
2c207b4989 llama.cpp bugs 2024-02-20 00:10:04 +11:00
Daniel Han-Chen
0ffd7b46f3 linking 2024-02-19 19:39:47 +11:00
Daniel Han-Chen
ad0c2bcd87 Update save.py 2024-02-19 13:08:03 +11:00
Daniel Han-Chen
0c1b71ac63 Update save.py 2024-02-19 12:51:25 +11:00
Daniel Han-Chen
14db89f4fc Update save.py 2024-02-19 04:13:40 +11:00
Daniel Han-Chen
e31071f368 Update save.py 2024-02-19 04:01:27 +11:00
Daniel Han-Chen
aa45208f5a Update save.py 2024-02-19 03:39:09 +11:00
Daniel Han-Chen
28de27dd8d PeftModel token + saving 2024-02-19 03:22:21 +11:00
Daniel Han-Chen
99cdf0bd5a Update save.py 2024-02-19 02:45:54 +11:00
Daniel Han-Chen
71555c7678 Update save.py 2024-02-19 02:37:43 +11:00
Daniel Han-Chen
89d2418cd7 Update save.py 2024-02-18 23:35:18 +11:00
Daniel Han-Chen
3e89d4e7ec Update save.py 2024-02-18 23:31:24 +11:00
Daniel Han-Chen
457c044473 install 2024-02-18 23:25:36 +11:00
Daniel Han-Chen
22378e95cc Update pyproject.toml 2024-02-18 23:12:37 +11:00
Daniel Han-Chen
3d789cb09e Update save.py 2024-02-18 22:59:37 +11:00
Daniel Han-Chen
31a62c52d3 trainer 2024-02-18 22:54:38 +11:00
Daniel Han-Chen
870edf3534 Update save.py 2024-02-18 22:52:51 +11:00