Commit graph

4,672 commits

Author SHA1 Message Date
Daniel Han
5f2990df0d Update gemma2.py 2024-07-30 23:11:35 -07:00
Daniel Han
a82d18d41b Update gemma2.py 2024-07-30 23:11:23 -07:00
Daniel Han
5c403cd0db Update gemma2.py 2024-07-30 23:07:47 -07:00
Daniel Han
04a9f4da74 Update gemma2.py 2024-07-30 23:04:00 -07:00
Daniel Han
282d8a5794 flash-attn softcapping 2024-07-30 22:48:53 -07:00
Daniel Han
b7bdb18552 Update _utils.py 2024-07-30 19:57:53 -07:00
Daniel Han
c0abd06a06 bugs 2024-07-30 19:56:36 -07:00
Daniel Han
9953839b92 Update llama.py 2024-07-30 10:29:54 -07:00
Daniel Han
34838216cc Update loader.py 2024-07-30 10:18:51 -07:00
XiaoYang
fd904b4e97 fix UnboundLocalError (#834)
* When an exception has been assigned using as target, it is cleared at the end of the except clause.(https://docs.python.org/3/reference/compound_stmts.html#the-try-statement)

* Update loader.py

---------

Co-authored-by: xiaoyang <xiaoyang@youzan.com>
Co-authored-by: Daniel Han <danielhanchen@gmail.com>
2024-07-30 10:15:09 -07:00
Daniel Han
7c68bab3d9 Merge branch 'main' into nightly 2024-07-30 10:01:11 -07:00
Daniel Han
1cb2412d85 Better debugging (#826)
* Update __init__.py

* Edits

* Checks

* Update _utils.py

* Update _utils.py

* Update loader.py

* Update _utils.py

* Update mapper.py

* Update loader.py

* Update loader.py

* Update _utils.py

* Update loader.py

* Update loader.py

* Update loader.py

* Update loader.py

* Update loader.py

* Update loader.py

* Update mapper.py

* Update loader.py
2024-07-28 00:10:02 -07:00
Daniel Han
7a096afec9 Update loader.py 2024-07-27 23:04:23 -07:00
Daniel Han
2b63faeff7 Update mapper.py 2024-07-27 23:03:29 -07:00
Daniel Han
8788703ae3 Update loader.py 2024-07-27 23:03:13 -07:00
Daniel Han
f679e03a06 Update loader.py 2024-07-27 23:02:10 -07:00
Daniel Han
f1f1f7a8c9 Update loader.py 2024-07-27 23:00:47 -07:00
Daniel Han
6195a308af Update loader.py 2024-07-27 22:59:47 -07:00
Daniel Han
961e78fb5e Update loader.py 2024-07-27 22:59:16 -07:00
Daniel Han
1bbf268de1 Update loader.py 2024-07-27 22:58:15 -07:00
Daniel Han
fc5d565e35 Update _utils.py 2024-07-27 22:56:59 -07:00
Daniel Han
e34d92635d Update loader.py 2024-07-27 22:54:49 -07:00
Daniel Han
25025801c0 Update loader.py 2024-07-27 22:52:06 -07:00
Daniel Han
031f552743 Update mapper.py 2024-07-27 22:50:38 -07:00
Daniel Han
971ab6485a Update _utils.py 2024-07-27 22:48:52 -07:00
Daniel Han
28b3c211e4 Update loader.py 2024-07-27 22:35:24 -07:00
Daniel Han
61aba43554 Update _utils.py 2024-07-27 22:32:39 -07:00
Daniel Han
c53b4394dc Update _utils.py 2024-07-27 22:30:48 -07:00
Daniel Han
e6159e0279 Checks 2024-07-27 22:16:33 -07:00
Daniel Han
d28527ce62 Edits 2024-07-27 20:30:32 -07:00
Daniel Han
e0748c93dd Update __init__.py 2024-07-26 16:31:40 -07:00
Daniel Han
9852fdb642 Update llama.py 2024-07-25 08:53:21 -07:00
Daniel Han
393549fa48 Update _utils.py 2024-07-25 00:33:38 -07:00
Daniel Han
1ab912d528 Update _utils.py 2024-07-25 00:29:12 -07:00
Daniel Han
dc39485ec3 Update loader.py 2024-07-25 00:28:20 -07:00
Daniel Han
ef42e61d68 Update llama.py 2024-07-25 00:19:32 -07:00
Daniel Han
f20bc23e84 Fix PEFT 2024-07-25 00:17:19 -07:00
Daniel Han
fcf92c54ca Patch PEFT 2024-07-24 23:45:39 -07:00
Daniel Han
e9ab1ad5bc Mistral 2024-07-24 14:05:31 -07:00
Daniel Han
41bad372af Merge branch 'main' into nightly 2024-07-24 12:37:12 -07:00
Daniel Han
27b23a9bd4 Update README.md 2024-07-23 15:08:09 -07:00
Daniel Han
8ca886825c Create Run.png 2024-07-23 13:14:21 -07:00
Daniel Han
2217e8d86c Update llama.py 2024-07-23 12:28:12 -07:00
Daniel Han
92b3752cad Update llama.py 2024-07-23 12:27:46 -07:00
Daniel Han
affa585b3f Update _utils.py 2024-07-23 12:25:24 -07:00
Daniel Han
da93a2237a Update loader.py 2024-07-23 12:12:29 -07:00
Daniel Han
dd781e0c60 Update README.md 2024-07-23 12:07:27 -07:00
Daniel Han
faa36e853a Update README.md 2024-07-23 11:51:08 -07:00
Daniel Han
56cbd06f1f Llama 3.1 (#797)
* Llama 3.1

* Update _utils.py

* Llama 3.1

* Update _utils.py

* Update llama.py

* Update llama.py

* hack for rotary

* patch RoPE

* refix rope

* Update _utils.py

* Update llama.py

* Llama 3.1 check

* Update llama.py

* Update llama.py

* Update llama.py

* Update llama.py

* Update llama.py

* Update llama.py

* Update llama.py

* Update llama.py

* Update llama.py

* Update llama.py

* Update llama.py
2024-07-23 11:40:49 -07:00
Daniel Han
9d415882bf Update llama.py 2024-07-23 11:24:58 -07:00