Commit graph

337 commits

Author SHA1 Message Date
Daniel Han
ef42e61d68 Update llama.py 2024-07-25 00:19:32 -07:00
Daniel Han
f20bc23e84 Fix PEFT 2024-07-25 00:17:19 -07:00
Daniel Han
fcf92c54ca Patch PEFT 2024-07-24 23:45:39 -07:00
Daniel Han
e9ab1ad5bc Mistral 2024-07-24 14:05:31 -07:00
Daniel Han
41bad372af Merge branch 'main' into nightly 2024-07-24 12:37:12 -07:00
Daniel Han
27b23a9bd4 Update README.md 2024-07-23 15:08:09 -07:00
Daniel Han
8ca886825c Create Run.png 2024-07-23 13:14:21 -07:00
Daniel Han
2217e8d86c Update llama.py 2024-07-23 12:28:12 -07:00
Daniel Han
92b3752cad Update llama.py 2024-07-23 12:27:46 -07:00
Daniel Han
affa585b3f Update _utils.py 2024-07-23 12:25:24 -07:00
Daniel Han
da93a2237a Update loader.py 2024-07-23 12:12:29 -07:00
Daniel Han
dd781e0c60 Update README.md 2024-07-23 12:07:27 -07:00
Daniel Han
faa36e853a Update README.md 2024-07-23 11:51:08 -07:00
Daniel Han
56cbd06f1f Llama 3.1 (#797)
* Llama 3.1

* Update _utils.py

* Llama 3.1

* Update _utils.py

* Update llama.py

* Update llama.py

* hack for rotary

* patch RoPE

* refix rope

* Update _utils.py

* Update llama.py

* Llama 3.1 check

* Update llama.py

* Update llama.py

* Update llama.py

* Update llama.py

* Update llama.py

* Update llama.py

* Update llama.py

* Update llama.py

* Update llama.py

* Update llama.py

* Update llama.py
2024-07-23 11:40:49 -07:00
Daniel Han
9d415882bf Update llama.py 2024-07-23 11:24:58 -07:00
Daniel Han
eb03e4111a Update llama.py 2024-07-23 11:23:18 -07:00
Daniel Han
7fb8015c88 Update llama.py 2024-07-23 11:23:00 -07:00
Daniel Han
565d2ce6f1 Update llama.py 2024-07-23 11:22:27 -07:00
Daniel Han
a654779617 Update llama.py 2024-07-23 11:21:29 -07:00
Daniel Han
fdce7bff90 Update llama.py 2024-07-23 11:18:12 -07:00
Daniel Han
04096dcff8 Update llama.py 2024-07-23 11:16:40 -07:00
Daniel Han
e89ab65b02 Update llama.py 2024-07-23 11:16:31 -07:00
Daniel Han
122025ed58 Update llama.py 2024-07-23 11:15:35 -07:00
Daniel Han
3b266ebc7b Update llama.py 2024-07-23 11:13:15 -07:00
Daniel Han
e2ef589460 Update llama.py 2024-07-23 11:12:58 -07:00
Daniel Han
a2403852b4 Llama 3.1 check 2024-07-23 11:09:24 -07:00
Daniel Han
a9d6c731ee Update llama.py 2024-07-23 10:58:31 -07:00
Daniel Han
4eca9215a2 Update _utils.py 2024-07-23 10:54:54 -07:00
Daniel Han
c4dc08309e refix rope 2024-07-23 10:53:31 -07:00
Daniel Han
f285c33046 patch RoPE 2024-07-23 10:48:45 -07:00
Daniel Han
d587ce218d hack for rotary 2024-07-23 10:43:36 -07:00
Daniel Han
c17e8ca33d Update llama.py 2024-07-23 10:36:06 -07:00
Daniel Han
9a18fee63f Update llama.py 2024-07-23 10:35:03 -07:00
Daniel Han
19cf853157 Update _utils.py 2024-07-23 10:33:07 -07:00
Daniel Han
5efbd701ba Llama 3.1 2024-07-23 10:27:36 -07:00
Daniel Han
daa4d13564 Update _utils.py 2024-07-22 23:01:18 -07:00
Daniel Han
eda2343056 Llama 3.1 2024-07-22 22:58:02 -07:00
Daniel Han
0690914c62 Update tokenizer_utils.py 2024-07-20 13:25:59 -07:00
Daniel Han
71c4aed1be Update tokenizer_utils.py 2024-07-20 13:22:36 -07:00
Daniel Han
50c51e6ec1 Update llama.py 2024-07-20 12:47:36 -07:00
Daniel Han
07228828a0 Update llama.py 2024-07-20 11:53:32 -07:00
Daniel Han
11dcf38761 Merge branch 'main' into nightly 2024-07-20 09:47:22 -07:00
Daniel Han
32466f7bc4 Update mistral.py 2024-07-19 09:32:27 -07:00
Daniel Han
bffc936663 Fix Gemma 2024-07-19 09:27:18 -07:00
Daniel Han
256b55fcdd Update README.md 2024-07-19 03:05:15 -07:00
Daniel Han
b8e6560b8d Update README.md 2024-07-19 03:03:50 -07:00
Daniel Han
100ac9c052 Nightly (#784)
* Update __init__.py

* dynamic RoPE

* Update mistral.py

* Update llama.py

* Update tokenizer_utils.py

* Update mistral.py

* Update llama.py

* Update __init__.py

* Update flex_attention.py

* Update llama.py

* Update llama.py

* Mistral Nemo

* Update tokenizer_utils.py

* Update tokenizer_utils.py

* Update tokenizer_utils.py
2024-07-19 01:39:08 -07:00
Daniel Han
e6002b1b32 Merge branch 'main' into nightly 2024-07-19 01:38:47 -07:00
Daniel Han
8ae30938d3 Update tokenizer_utils.py 2024-07-19 01:29:52 -07:00
Daniel Han
f6d47c99df Nightly (#783)
* Update __init__.py

* dynamic RoPE

* Update mistral.py

* Update llama.py

* Update tokenizer_utils.py

* Update mistral.py

* Update llama.py

* Update __init__.py

* Update flex_attention.py

* Update llama.py

* Update llama.py

* Mistral Nemo

* Update tokenizer_utils.py

* Update tokenizer_utils.py
2024-07-19 01:24:46 -07:00