ceos/unsloth
1
0
Fork 0
Code Issues Pull requests Projects Releases Packages Wiki Activity Actions
1,506 commits 391 branches 58 tags 304 MiB
Commit graph

1,506 commits

This branch
This branch
All branches
Author SHA1 Message Date
Daniel Han
47a85eba5a Update rl.py 2025-02-17 20:08:15 -08:00
Daniel Han
d80be70ac4 Update rl.py 2025-02-17 20:04:26 -08:00
Daniel Han
5f5cca406f Update rl_replacements.py 2025-02-17 20:04:14 -08:00
Daniel Han
15e014043a Update rl.py 2025-02-17 20:00:04 -08:00
Daniel Han
f0078de7b9 Update rl.py 2025-02-17 19:58:17 -08:00
Daniel Han
ba48495675 Update rl_replacements.py 2025-02-17 19:53:49 -08:00
Daniel Han
8025cfeefb Update rl_replacements.py 2025-02-17 19:45:07 -08:00
Daniel Han
2e07623857 Update rl_replacements.py 2025-02-17 19:44:43 -08:00
Daniel Han
5c6f5866be Update llama.py 2025-02-17 19:16:41 -08:00
Daniel Han
cf2720d181 Update llama.py 2025-02-17 00:49:35 -08:00
Daniel Han
a07a9e3c1d Update rl_replacements.py 2025-02-17 00:43:11 -08:00
Daniel Han
e14107523c Update rl_replacements.py 2025-02-17 00:05:32 -08:00
Daniel Han
204cd7a38a Update rl_replacements.py 2025-02-16 23:49:20 -08:00
Daniel Han
0827067906 Update llama.py 2025-02-16 21:22:35 -08:00
Daniel Han
b68dce6b76 Update rl_replacements.py 2025-02-16 21:06:47 -08:00
Daniel Han
f0ee4f5c91 Update rl_replacements.py 2025-02-16 20:55:26 -08:00
Daniel Han
38a1885bf6 Update rl_replacements.py 2025-02-16 20:55:11 -08:00
Daniel Han
1e42bad4ad Update rl_replacements.py 2025-02-16 20:20:01 -08:00
Daniel Han
429ba6d57d Update rl_replacements.py 2025-02-16 19:47:39 -08:00
Daniel Han
93d3f162f0 Update rl_replacements.py 2025-02-16 18:34:45 -08:00
Daniel Han
ed84307d46 Update rl_replacements.py 2025-02-16 18:27:04 -08:00
Daniel Han
c46b544c8c Update rl_replacements.py 2025-02-16 18:09:03 -08:00
Daniel Han
89a1d035ae Update rl_replacements.py 2025-02-16 17:13:24 -08:00
Daniel Han
103cff459a Update rl_replacements.py 2025-02-16 16:14:21 -08:00
Gennadii Manzhos
222b1e7eff
 		llama-quantize on WINDOWS WSL error fix - edit save.py (gguf saving breaks) (#1649) 
* edit save.py to fix gguf saving breaks.

* add check for .exe or not exe file extension for linux and windows
 2025-02-16 02:04:08 -08:00
Daniel Han
6f1beb01a1 Update rl_replacements.py 2025-02-16 01:49:29 -08:00
Daniel Han
eeac4f301b Update rl_replacements.py 2025-02-15 20:04:35 -08:00
Daniel Han
a856085a89 Update rl.py 2025-02-15 18:35:07 -08:00
Daniel Han
18036583ec Update rl.py 2025-02-15 18:34:25 -08:00
Daniel Han
0d75afdffe Update rl_replacements.py 2025-02-15 18:06:12 -08:00
Daniel Han
ba1c93e485 Update rl.py 2025-02-15 18:03:57 -08:00
Daniel Han
86dabcfeef Update rl.py 2025-02-15 18:00:08 -08:00
Daniel Han
09cb804c78 Update rl.py 2025-02-15 17:57:47 -08:00
Daniel Han
9254243f4d Update rl.py 2025-02-15 17:48:52 -08:00
Daniel Han
80be827ba7 Remove docs 2025-02-15 17:36:18 -08:00
Daniel Han
1fcad323e2 Update rl.py 2025-02-15 16:45:57 -08:00
Daniel Han
c14faee9fd No compile 2025-02-15 16:45:25 -08:00
Daniel Han
b8aca94b61 Merge branch 'main' into nightly 2025-02-15 03:12:52 -08:00
Daniel Han
d1d15f1d14 Fix weird tokenizer issue 2025-02-15 03:12:43 -08:00
Daniel Han
a54690f640 Update mapper.py 2025-02-15 02:48:36 -08:00
Daniel Han
1c96619135
 		Add GRPO metrics (#1718) 
* Update llama.py

* Update llama.py

* Faster inference?

* Update llama.py

* Update llama.py

* Update utils.py

* Update llama.py

* Update llama.py

* Update utils.py

* Update utils.py

* Update utils.py

* Update utils.py

* Update utils.py

* Update utils.py

* Update utils.py

* Update utils.py

* Update utils.py

* Update utils.py

* Update utils.py

* Update utils.py

* Update utils.py

* Update mapper.py

* Fast Inference via vLLM

* Update llama.py

* Update llama.py

* Update utils.py

* Create rl.py

* PatchRL

* Update rl.py

* Update rl.py

* Update rl.py

* PatchRLStatistics

* Update rl.py

* Update rl.py

* Update rl.py

* Update utils.py

* Update utils.py

* Update rl.py

* Update rl.py

* Update rl.py

* Update rl.py

* Update rl.py

* Update rl.py

* Update rl.py

* Update rl.py

* Update rl.py

* Update rl.py

* Update rl.py

* Update rl.py

* Update rl.py

* Update rl.py

* Update rl.py

* RL metrics

* Update rl.py

* RL metrics

* Update __init__.py

* Update rl.py

* Update rl.py

* Update rl.py

* Update chat_templates.py

* Update mapper.py

* Fp8 cache

* Update llama.py

* Update llama.py

* Update rl.py

* Update rl.py

* Update rl.py

* Update rl.py

* Update rl.py

* Update rl.py

* Update rl.py

* Update rl.py

* Update rl.py

* Update rl.py

* Update rl.py

* Update rl.py

* Update rl.py

* Update rl.py

* Update rl.py

* Update rl.py

* Update rl.py

* Update __init__.py

* Update loader.py

* Update rl.py

* Update rl.py

* Update _utils.py

* Update tokenizer_utils.py

* Update tokenizer_utils.py

* Better TRL handling

* Update rl.py

* Update tokenizer_utils.py

* Auto patching

* Update tokenizer_utils.py

* Update tokenizer_utils.py

* Update tokenizer_utils.py

* Update rl.py

* Update tokenizer_utils.py

* Update rl.py

* Update tokenizer_utils.py

* Update tokenizer_utils.py

* Update tokenizer_utils.py

* Update tokenizer_utils.py

* Update tokenizer_utils.py

* Update tokenizer_utils.py

* Update tokenizer_utils.py

* Update tokenizer_utils.py

* Update rl.py

* Update rl.py

* Update rl.py

* Update rl.py

* Update rl.py

* Update rl.py

* Update rl.py

* Update rl.py

* Update rl.py

* Update tokenizer_utils.py

* Update rl.py

* Update rl.py

* Update rl.py

* max seq length

* Update rl.py

* Update rl.py

* Patching

* Update rl.py

* Update rl.py

* Update rl.py

* Update rl.py

* Update rl.py

* NEFTune

* Update rl.py

* Update rl.py

* Update rl.py

* Update rl.py

* Update rl.py

* Update rl.py

* Update rl.py

* Extra replacements

* Update rl_replacements.py

* Update rl.py

* extra RL replacements

* Update rl_replacements.py

* Update rl_replacements.py

* Update rl_replacements.py

* Update rl_replacements.py

* Update rl_replacements.py

* Update rl_replacements.py

* Update llama.py

* Update rl_replacements.py

* Update _utils.py

* Update loader_utils.py

* Update rl.py

* Update rl_replacements.py

* Update rl_replacements.py

* Update rl.py

* Update llama.py

* Update llama.py

* Update llama.py

* Update llama.py

* autocast

* Update rl_replacements.py

* Update llama.py

* Update rl_replacements.py

* Update rl_replacements.py

* Update rl_replacements.py

* Update rl_replacements.py

* Update llama.py

* Update rl_replacements.py

* Update llama.py

* Update llama.py

* Update llama.py

* Update llama.py

* Update llama.py

* Update rl_replacements.py

* Update llama.py

* Update llama.py

* Update llama.py

* Update llama.py

* Update pyproject.toml

* Update llama.py

* Update llama.py

* Update llama.py

* Update llama.py

* Update llama.py

* Update llama.py

* Update llama.py

* Update rl_replacements.py

* Update rl_replacements.py

* Update rl_replacements.py

* Update rl_replacements.py

* Update llama.py

* Update rl_replacements.py

* Update rl_replacements.py

* Update rl_replacements.py

* Update rl_replacements.py

* Update rl_replacements.py

* Update rl_replacements.py

* Update rl_replacements.py

* Update rl_replacements.py

* Update llama.py

* Update _utils.py

* Update llama.py

* Update _utils.py

* Update rl_replacements.py

* Update rl.py

* Update rl.py

* Update rl.py

* Update rl.py

* Update rl.py

* Update llama.py

* Update llama.py

* Update llama.py

* Update llama.py

* Update rl_replacements.py

* Update llama.py

* Update llama.py

* Update llama.py

* Update llama.py

* GRPO optimized

* Update rl.py

* Update rl_replacements.py

* Update rl_replacements.py

* Update rl.py

* Update rl.py

* Update rl.py

* Update rl.py

* Update rl_replacements.py

* Update rl_replacements.py

* Update rl_replacements.py

* Selective Log softmax

* Fix GRPO bsz

* Update rl.py

* Update rl_replacements.py

* Update rl_replacements.py

* Update rl_replacements.py

* Update rl_replacements.py

* Fix TRL

* Metrics GRPO

* Update rl_replacements.py

* Update rl_replacements.py
 2025-02-15 02:24:01 -08:00
Daniel Han
12c497a64e Update rl_replacements.py 2025-02-15 02:17:26 -08:00
Daniel Han
46462f1de0 Update rl_replacements.py 2025-02-15 02:12:49 -08:00
Daniel Han
fa560ce4e7 Metrics GRPO 2025-02-15 02:08:33 -08:00
Daniel Han
c6d6e6b40c Merge branch 'main' into nightly 2025-02-15 01:56:40 -08:00
Daniel Han
f6003b000f
 		Memory efficient GRPO, DPO etc (#1716) 
* Update llama.py

* Update llama.py

* Update llama.py

* Update llama.py

* Update llama.py

* Update llama.py

* Faster inference?

* Update llama.py

* Update llama.py

* Update utils.py

* Update llama.py

* Update llama.py

* Update utils.py

* Update utils.py

* Update utils.py

* Update utils.py

* Update utils.py

* Update utils.py

* Update utils.py

* Update utils.py

* Update utils.py

* Update utils.py

* Update utils.py

* Update utils.py

* Update utils.py

* Update mapper.py

* Fast Inference via vLLM

* Update llama.py

* Update llama.py

* Update utils.py

* Create rl.py

* PatchRL

* Update rl.py

* Update rl.py

* Update rl.py

* PatchRLStatistics

* Update rl.py

* Update rl.py

* Update rl.py

* Update utils.py

* Update utils.py

* Update rl.py

* Update rl.py

* Update rl.py

* Update rl.py

* Update rl.py

* Update rl.py

* Update rl.py

* Update rl.py

* Update rl.py

* Update rl.py

* Update rl.py

* Update rl.py

* Update rl.py

* Update rl.py

* Update rl.py

* RL metrics

* Update rl.py

* RL metrics

* Update __init__.py

* Update rl.py

* Update rl.py

* Update rl.py

* Update chat_templates.py

* Update mapper.py

* Fp8 cache

* Update llama.py

* Update llama.py

* Update rl.py

* Update rl.py

* Update rl.py

* Update rl.py

* Update rl.py

* Update rl.py

* Update rl.py

* Update rl.py

* Update rl.py

* Update rl.py

* Update rl.py

* Update rl.py

* Update rl.py

* Update rl.py

* Update rl.py

* Update rl.py

* Update rl.py

* Update __init__.py

* Update loader.py

* Update rl.py

* Update rl.py

* Update _utils.py

* Update tokenizer_utils.py

* Update tokenizer_utils.py

* Better TRL handling

* Update rl.py

* Update tokenizer_utils.py

* Auto patching

* Update tokenizer_utils.py

* Update tokenizer_utils.py

* Update tokenizer_utils.py

* Update rl.py

* Update tokenizer_utils.py

* Update rl.py

* Update tokenizer_utils.py

* Update tokenizer_utils.py

* Update tokenizer_utils.py

* Update tokenizer_utils.py

* Update tokenizer_utils.py

* Update tokenizer_utils.py

* Update tokenizer_utils.py

* Update tokenizer_utils.py

* Update rl.py

* Update rl.py

* Update rl.py

* Update rl.py

* Update rl.py

* Update rl.py

* Update rl.py

* Update rl.py

* Update rl.py

* Update tokenizer_utils.py

* Update rl.py

* Update rl.py

* Update rl.py

* max seq length

* Update rl.py

* Update rl.py

* Patching

* Update rl.py

* Update rl.py

* Update rl.py

* Update rl.py

* Update rl.py

* NEFTune

* Update rl.py

* Update rl.py

* Update rl.py

* Update rl.py

* Update rl.py

* Update rl.py

* Update rl.py

* Extra replacements

* Update rl_replacements.py

* Update rl.py

* extra RL replacements

* Update rl_replacements.py

* Update rl_replacements.py

* Update rl_replacements.py

* Update rl_replacements.py

* Update rl_replacements.py

* Update rl_replacements.py

* Update llama.py

* Update rl_replacements.py

* Update _utils.py

* Update loader_utils.py

* Update rl.py

* Update rl_replacements.py

* Update rl_replacements.py

* Update rl.py

* Update llama.py

* Update llama.py

* Update llama.py

* Update llama.py

* autocast

* Update rl_replacements.py

* Update llama.py

* Update rl_replacements.py

* Update rl_replacements.py

* Update rl_replacements.py

* Update rl_replacements.py

* Update llama.py

* Update rl_replacements.py

* Update llama.py

* Update llama.py

* Update llama.py

* Update llama.py

* Update llama.py

* Update rl_replacements.py

* Update llama.py

* Update llama.py

* Update llama.py

* Update llama.py

* Update pyproject.toml

* Update llama.py

* Update llama.py

* Update llama.py

* Update llama.py

* Update llama.py

* Update llama.py

* Update llama.py

* Update rl_replacements.py

* Update rl_replacements.py

* Update rl_replacements.py

* Update rl_replacements.py

* Update llama.py

* Update rl_replacements.py

* Update rl_replacements.py

* Update rl_replacements.py

* Update rl_replacements.py

* Update rl_replacements.py

* Update rl_replacements.py

* Update rl_replacements.py

* Update rl_replacements.py

* Update llama.py

* Update _utils.py

* Update llama.py

* Update _utils.py

* Update rl_replacements.py

* Update rl.py

* Update rl.py

* Update rl.py

* Update rl.py

* Update rl.py

* Update llama.py

* Update llama.py

* Update llama.py

* Update llama.py

* Update rl_replacements.py

* Update llama.py

* Update llama.py

* Update llama.py

* Update llama.py

* GRPO optimized

* Update rl.py

* Update rl_replacements.py

* Update rl_replacements.py

* Update rl.py

* Update rl.py

* Update rl.py

* Update rl.py

* Update rl_replacements.py

* Update rl_replacements.py

* Update rl_replacements.py

* Selective Log softmax

* Fix GRPO bsz

* Update rl.py

* Update rl_replacements.py

* Update rl_replacements.py

* Update rl_replacements.py

* Update rl_replacements.py

* Fix TRL
 2025-02-15 01:19:39 -08:00
Daniel Han
54bd827433 Fix TRL 2025-02-15 01:13:41 -08:00
Daniel Han
d588665d98 Update rl_replacements.py 2025-02-14 16:08:49 -08:00
Daniel Han
1b43e1de8d Update rl_replacements.py 2025-02-14 16:03:13 -08:00
Daniel Han
0a7c56d7bd Update rl_replacements.py 2025-02-14 16:01:29 -08:00