v0.2.3
版本发布时间: 2024-09-29 19:04:44
turboderp/exllamav2最新发布版本:v0.2.3(2024-09-29 19:04:44)
- No longer use safetensors for loading weights (fix virtual memory issues on Windows especially)
- Disable fasttensors option (now redundant)
- Prioritize HF Tokenizers model when both HF and SPM models available
- Add XTC sampler
- Add YaRN support
- Various fixes and QoL improvements
Full Changelog: https://github.com/turboderp/exllamav2/compare/v0.2.2...v0.2.3
1、 exllamav2-0.2.3+cu117.torch2.0.1-cp310-cp310-linux_x86_64.whl 98.27MB
2、 exllamav2-0.2.3+cu117.torch2.0.1-cp310-cp310-win_amd64.whl 98.25MB
3、 exllamav2-0.2.3+cu117.torch2.0.1-cp311-cp311-linux_x86_64.whl 98.27MB
4、 exllamav2-0.2.3+cu117.torch2.0.1-cp311-cp311-win_amd64.whl 98.25MB
5、 exllamav2-0.2.3+cu117.torch2.0.1-cp38-cp38-linux_x86_64.whl 98.27MB
6、 exllamav2-0.2.3+cu117.torch2.0.1-cp38-cp38-win_amd64.whl 98.25MB
7、 exllamav2-0.2.3+cu117.torch2.0.1-cp39-cp39-linux_x86_64.whl 98.27MB
8、 exllamav2-0.2.3+cu117.torch2.0.1-cp39-cp39-win_amd64.whl 98.24MB
9、 exllamav2-0.2.3+cu118.torch2.2.0-cp310-cp310-win_amd64.whl 129.08MB
10、 exllamav2-0.2.3+cu118.torch2.2.0-cp311-cp311-win_amd64.whl 129.08MB
11、 exllamav2-0.2.3+cu118.torch2.2.0-cp312-cp312-win_amd64.whl 129.08MB
12、 exllamav2-0.2.3+cu118.torch2.2.0-cp38-cp38-win_amd64.whl 129.08MB
13、 exllamav2-0.2.3+cu118.torch2.2.0-cp39-cp39-win_amd64.whl 129.07MB
14、 exllamav2-0.2.3+cu118.torch2.3.1-cp310-cp310-linux_x86_64.whl 129.12MB
15、 exllamav2-0.2.3+cu118.torch2.3.1-cp310-cp310-win_amd64.whl 129.08MB
16、 exllamav2-0.2.3+cu118.torch2.3.1-cp311-cp311-linux_x86_64.whl 129.12MB
17、 exllamav2-0.2.3+cu118.torch2.3.1-cp311-cp311-win_amd64.whl 129.08MB
18、 exllamav2-0.2.3+cu118.torch2.3.1-cp312-cp312-linux_x86_64.whl 129.13MB
19、 exllamav2-0.2.3+cu118.torch2.3.1-cp312-cp312-win_amd64.whl 129.08MB
20、 exllamav2-0.2.3+cu118.torch2.3.1-cp38-cp38-linux_x86_64.whl 129.12MB
21、 exllamav2-0.2.3+cu118.torch2.3.1-cp38-cp38-win_amd64.whl 129.08MB
22、 exllamav2-0.2.3+cu118.torch2.3.1-cp39-cp39-linux_x86_64.whl 129.12MB
23、 exllamav2-0.2.3+cu118.torch2.3.1-cp39-cp39-win_amd64.whl 129.07MB
24、 exllamav2-0.2.3+cu118.torch2.4.0-cp310-cp310-linux_x86_64.whl 129.12MB
25、 exllamav2-0.2.3+cu118.torch2.4.0-cp310-cp310-win_amd64.whl 129.08MB
26、 exllamav2-0.2.3+cu118.torch2.4.0-cp311-cp311-linux_x86_64.whl 129.13MB
27、 exllamav2-0.2.3+cu118.torch2.4.0-cp311-cp311-win_amd64.whl 129.08MB
28、 exllamav2-0.2.3+cu118.torch2.4.0-cp312-cp312-linux_x86_64.whl 129.13MB
29、 exllamav2-0.2.3+cu118.torch2.4.0-cp312-cp312-win_amd64.whl 129.08MB
30、 exllamav2-0.2.3+cu118.torch2.4.0-cp38-cp38-linux_x86_64.whl 129.12MB
31、 exllamav2-0.2.3+cu118.torch2.4.0-cp38-cp38-win_amd64.whl 129.08MB
32、 exllamav2-0.2.3+cu118.torch2.4.0-cp39-cp39-linux_x86_64.whl 129.12MB
33、 exllamav2-0.2.3+cu118.torch2.4.0-cp39-cp39-win_amd64.whl 129.07MB
34、 exllamav2-0.2.3+cu121.torch2.2.0-cp310-cp310-win_amd64.whl 130.73MB
35、 exllamav2-0.2.3+cu121.torch2.2.0-cp311-cp311-win_amd64.whl 130.74MB
36、 exllamav2-0.2.3+cu121.torch2.2.0-cp312-cp312-win_amd64.whl 130.73MB
37、 exllamav2-0.2.3+cu121.torch2.2.0-cp38-cp38-win_amd64.whl 130.73MB
38、 exllamav2-0.2.3+cu121.torch2.2.0-cp39-cp39-win_amd64.whl 130.73MB
39、 exllamav2-0.2.3+cu121.torch2.2.2-cp310-cp310-linux_x86_64.whl 130.76MB
40、 exllamav2-0.2.3+cu121.torch2.3.1-cp310-cp310-linux_x86_64.whl 130.77MB
41、 exllamav2-0.2.3+cu121.torch2.3.1-cp310-cp310-win_amd64.whl 130.73MB
42、 exllamav2-0.2.3+cu121.torch2.3.1-cp311-cp311-linux_x86_64.whl 130.77MB
43、 exllamav2-0.2.3+cu121.torch2.3.1-cp311-cp311-win_amd64.whl 130.73MB
44、 exllamav2-0.2.3+cu121.torch2.3.1-cp312-cp312-linux_x86_64.whl 130.77MB
45、 exllamav2-0.2.3+cu121.torch2.3.1-cp312-cp312-win_amd64.whl 130.74MB
46、 exllamav2-0.2.3+cu121.torch2.3.1-cp38-cp38-linux_x86_64.whl 130.77MB
47、 exllamav2-0.2.3+cu121.torch2.3.1-cp38-cp38-win_amd64.whl 130.73MB
48、 exllamav2-0.2.3+cu121.torch2.3.1-cp39-cp39-linux_x86_64.whl 130.77MB
49、 exllamav2-0.2.3+cu121.torch2.3.1-cp39-cp39-win_amd64.whl 130.73MB
50、 exllamav2-0.2.3+cu121.torch2.4.0-cp310-cp310-linux_x86_64.whl 130.77MB
51、 exllamav2-0.2.3+cu121.torch2.4.0-cp310-cp310-win_amd64.whl 130.73MB
52、 exllamav2-0.2.3+cu121.torch2.4.0-cp311-cp311-linux_x86_64.whl 130.77MB
53、 exllamav2-0.2.3+cu121.torch2.4.0-cp311-cp311-win_amd64.whl 130.73MB
54、 exllamav2-0.2.3+cu121.torch2.4.0-cp312-cp312-linux_x86_64.whl 130.77MB
55、 exllamav2-0.2.3+cu121.torch2.4.0-cp312-cp312-win_amd64.whl 130.74MB
56、 exllamav2-0.2.3+cu121.torch2.4.0-cp38-cp38-linux_x86_64.whl 130.77MB
57、 exllamav2-0.2.3+cu121.torch2.4.0-cp38-cp38-win_amd64.whl 130.73MB
58、 exllamav2-0.2.3+cu121.torch2.4.0-cp39-cp39-linux_x86_64.whl 130.77MB
59、 exllamav2-0.2.3+cu121.torch2.4.0-cp39-cp39-win_amd64.whl 130.73MB
60、 exllamav2-0.2.3+rocm5.6.torch2.2.2-cp310-cp310-linux_x86_64.whl 39.09MB
61、 exllamav2-0.2.3+rocm5.6.torch2.2.2-cp311-cp311-linux_x86_64.whl 39.15MB
62、 exllamav2-0.2.3+rocm6.0.torch2.3.1-cp310-cp310-linux_x86_64.whl 40.44MB
63、 exllamav2-0.2.3+rocm6.0.torch2.3.1-cp311-cp311-linux_x86_64.whl 40.52MB
64、 exllamav2-0.2.3+rocm6.0.torch2.3.1-cp312-cp312-linux_x86_64.whl 40.63MB
65、 exllamav2-0.2.3+rocm6.1.torch2.4.0-cp310-cp310-linux_x86_64.whl 41.82MB
66、 exllamav2-0.2.3+rocm6.1.torch2.4.0-cp311-cp311-linux_x86_64.whl 41.89MB
67、 exllamav2-0.2.3+rocm6.1.torch2.4.0-cp312-cp312-linux_x86_64.whl 42.02MB
68、 exllamav2-0.2.3-py3-none-any.whl 1.42MB