v0.2.2
版本发布时间: 2024-09-15 03:20:57
turboderp/exllamav2最新发布版本:v0.2.3(2024-09-29 19:04:44)
- small fixes related to LMFE
- allow SDPA during normal inference with custom bias
Full Changelog: https://github.com/turboderp/exllamav2/compare/v0.2.1...v0.2.2
1、 exllamav2-0.2.2+cu117.torch2.0.1-cp310-cp310-linux_x86_64.whl 98.27MB
2、 exllamav2-0.2.2+cu117.torch2.0.1-cp310-cp310-win_amd64.whl 98.24MB
3、 exllamav2-0.2.2+cu117.torch2.0.1-cp311-cp311-linux_x86_64.whl 98.27MB
4、 exllamav2-0.2.2+cu117.torch2.0.1-cp311-cp311-win_amd64.whl 98.24MB
5、 exllamav2-0.2.2+cu117.torch2.0.1-cp38-cp38-linux_x86_64.whl 98.27MB
6、 exllamav2-0.2.2+cu117.torch2.0.1-cp38-cp38-win_amd64.whl 98.24MB
7、 exllamav2-0.2.2+cu117.torch2.0.1-cp39-cp39-linux_x86_64.whl 98.27MB
8、 exllamav2-0.2.2+cu117.torch2.0.1-cp39-cp39-win_amd64.whl 98.24MB
9、 exllamav2-0.2.2+cu118.torch2.2.0-cp310-cp310-win_amd64.whl 129.06MB
10、 exllamav2-0.2.2+cu118.torch2.2.0-cp311-cp311-win_amd64.whl 129.06MB
11、 exllamav2-0.2.2+cu118.torch2.2.0-cp312-cp312-win_amd64.whl 129.06MB
12、 exllamav2-0.2.2+cu118.torch2.2.0-cp38-cp38-win_amd64.whl 129.06MB
13、 exllamav2-0.2.2+cu118.torch2.2.0-cp39-cp39-win_amd64.whl 129.06MB
14、 exllamav2-0.2.2+cu118.torch2.3.1-cp310-cp310-linux_x86_64.whl 129.11MB
15、 exllamav2-0.2.2+cu118.torch2.3.1-cp310-cp310-win_amd64.whl 129.06MB
16、 exllamav2-0.2.2+cu118.torch2.3.1-cp311-cp311-linux_x86_64.whl 129.11MB
17、 exllamav2-0.2.2+cu118.torch2.3.1-cp311-cp311-win_amd64.whl 129.06MB
18、 exllamav2-0.2.2+cu118.torch2.3.1-cp312-cp312-linux_x86_64.whl 129.12MB
19、 exllamav2-0.2.2+cu118.torch2.3.1-cp312-cp312-win_amd64.whl 129.06MB
20、 exllamav2-0.2.2+cu118.torch2.3.1-cp38-cp38-linux_x86_64.whl 129.11MB
21、 exllamav2-0.2.2+cu118.torch2.3.1-cp38-cp38-win_amd64.whl 129.06MB
22、 exllamav2-0.2.2+cu118.torch2.3.1-cp39-cp39-linux_x86_64.whl 129.11MB
23、 exllamav2-0.2.2+cu118.torch2.3.1-cp39-cp39-win_amd64.whl 129.05MB
24、 exllamav2-0.2.2+cu118.torch2.4.0-cp310-cp310-linux_x86_64.whl 129.11MB
25、 exllamav2-0.2.2+cu118.torch2.4.0-cp311-cp311-linux_x86_64.whl 129.12MB
26、 exllamav2-0.2.2+cu118.torch2.4.0-cp311-cp311-win_amd64.whl 129.06MB
27、 exllamav2-0.2.2+cu118.torch2.4.0-cp312-cp312-linux_x86_64.whl 129.12MB
28、 exllamav2-0.2.2+cu118.torch2.4.0-cp312-cp312-win_amd64.whl 129.06MB
29、 exllamav2-0.2.2+cu118.torch2.4.0-cp38-cp38-linux_x86_64.whl 129.11MB
30、 exllamav2-0.2.2+cu118.torch2.4.0-cp38-cp38-win_amd64.whl 129.06MB
31、 exllamav2-0.2.2+cu118.torch2.4.0-cp39-cp39-linux_x86_64.whl 129.11MB
32、 exllamav2-0.2.2+cu118.torch2.4.0-cp39-cp39-win_amd64.whl 129.06MB
33、 exllamav2-0.2.2+cu121.torch2.2.0-cp310-cp310-win_amd64.whl 130.73MB
34、 exllamav2-0.2.2+cu121.torch2.2.0-cp311-cp311-win_amd64.whl 130.73MB
35、 exllamav2-0.2.2+cu121.torch2.2.0-cp312-cp312-win_amd64.whl 130.73MB
36、 exllamav2-0.2.2+cu121.torch2.2.0-cp38-cp38-win_amd64.whl 130.73MB
37、 exllamav2-0.2.2+cu121.torch2.2.0-cp39-cp39-win_amd64.whl 130.72MB
38、 exllamav2-0.2.2+cu121.torch2.2.2-cp310-cp310-linux_x86_64.whl 130.76MB
39、 exllamav2-0.2.2+cu121.torch2.3.1-cp310-cp310-linux_x86_64.whl 130.76MB
40、 exllamav2-0.2.2+cu121.torch2.3.1-cp310-cp310-win_amd64.whl 130.73MB
41、 exllamav2-0.2.2+cu121.torch2.3.1-cp311-cp311-linux_x86_64.whl 130.76MB
42、 exllamav2-0.2.2+cu121.torch2.3.1-cp311-cp311-win_amd64.whl 130.73MB
43、 exllamav2-0.2.2+cu121.torch2.3.1-cp312-cp312-linux_x86_64.whl 130.76MB
44、 exllamav2-0.2.2+cu121.torch2.3.1-cp312-cp312-win_amd64.whl 130.73MB
45、 exllamav2-0.2.2+cu121.torch2.3.1-cp38-cp38-linux_x86_64.whl 130.76MB
46、 exllamav2-0.2.2+cu121.torch2.3.1-cp38-cp38-win_amd64.whl 130.73MB
47、 exllamav2-0.2.2+cu121.torch2.3.1-cp39-cp39-linux_x86_64.whl 130.76MB
48、 exllamav2-0.2.2+cu121.torch2.3.1-cp39-cp39-win_amd64.whl 130.72MB
49、 exllamav2-0.2.2+cu121.torch2.4.0-cp310-cp310-linux_x86_64.whl 130.76MB
50、 exllamav2-0.2.2+cu121.torch2.4.0-cp310-cp310-win_amd64.whl 130.73MB
51、 exllamav2-0.2.2+cu121.torch2.4.0-cp311-cp311-linux_x86_64.whl 130.76MB
52、 exllamav2-0.2.2+cu121.torch2.4.0-cp311-cp311-win_amd64.whl 130.73MB
53、 exllamav2-0.2.2+cu121.torch2.4.0-cp312-cp312-linux_x86_64.whl 130.76MB
54、 exllamav2-0.2.2+cu121.torch2.4.0-cp312-cp312-win_amd64.whl 130.73MB
55、 exllamav2-0.2.2+cu121.torch2.4.0-cp38-cp38-linux_x86_64.whl 130.76MB
56、 exllamav2-0.2.2+cu121.torch2.4.0-cp38-cp38-win_amd64.whl 130.73MB
57、 exllamav2-0.2.2+cu121.torch2.4.0-cp39-cp39-linux_x86_64.whl 130.76MB
58、 exllamav2-0.2.2+cu121.torch2.4.0-cp39-cp39-win_amd64.whl 130.72MB
59、 exllamav2-0.2.2+rocm5.6.torch2.2.2-cp310-cp310-linux_x86_64.whl 40.73MB
60、 exllamav2-0.2.2+rocm5.6.torch2.2.2-cp311-cp311-linux_x86_64.whl 40.78MB
61、 exllamav2-0.2.2+rocm6.0.torch2.3.1-cp310-cp310-linux_x86_64.whl 42.09MB
62、 exllamav2-0.2.2+rocm6.0.torch2.3.1-cp311-cp311-linux_x86_64.whl 42.17MB
63、 exllamav2-0.2.2+rocm6.0.torch2.3.1-cp312-cp312-linux_x86_64.whl 42.3MB
64、 exllamav2-0.2.2+rocm6.1.torch2.4.0-cp310-cp310-linux_x86_64.whl 43.54MB
65、 exllamav2-0.2.2+rocm6.1.torch2.4.0-cp311-cp311-linux_x86_64.whl 43.64MB
66、 exllamav2-0.2.2+rocm6.1.torch2.4.0-cp312-cp312-linux_x86_64.whl 43.76MB
67、 exllamav2-0.2.2-py3-none-any.whl 1.42MB