v0.4.11
版本发布时间: 2023-11-17 23:04:06
bentoml/OpenLLM最新发布版本:v0.6.13(2024-10-17 21:17:35)
Installation
pip install openllm==0.4.11
To upgrade from a previous version, use the following command:
pip install --upgrade openllm==0.4.11
Usage
All available models: openllm models
To start a LLM: python -m openllm start opt
To run OpenLLM within a container environment (requires GPUs): docker run --gpus all -it -P ghcr.io/bentoml/openllm:0.4.11 start opt
To run OpenLLM Clojure UI (community-maintained): docker run -p 8420:80 ghcr.io/bentoml/openllm-ui-clojure:0.4.11
Find more information about this release in the CHANGELOG.md
What's Changed
- infra: update cbfmt options by @aarnphm in https://github.com/bentoml/OpenLLM/pull/676
- fix(examples): add support for streaming feature by @aarnphm in https://github.com/bentoml/OpenLLM/pull/677
- fix: correct set item for attrs >23.1 by @aarnphm in https://github.com/bentoml/OpenLLM/pull/678
- fix(build): correctly parse default env for container by @aarnphm in https://github.com/bentoml/OpenLLM/pull/679
- fix(env): correct format environment on docker by @aarnphm in https://github.com/bentoml/OpenLLM/pull/680
Full Changelog: https://github.com/bentoml/OpenLLM/compare/v0.4.10...v0.4.11
1、 openllm-0.4.11-aarch64-apple-darwin.tar.gz 1.91MB
2、 openllm-0.4.11-aarch64-unknown-linux-gnu.tar.gz 1.96MB
3、 openllm-0.4.11-i686-unknown-linux-gnu.tar.gz 2.02MB
4、 openllm-0.4.11-powerpc64le-unknown-linux-gnu.tar.gz 2.23MB
5、 openllm-0.4.11-py3-none-any.whl 122.66KB
6、 openllm-0.4.11-x86_64-apple-darwin.tar.gz 1.99MB
7、 openllm-0.4.11-x86_64-unknown-linux-gnu.tar.gz 2.17MB
8、 openllm-0.4.11-x86_64-unknown-linux-musl.tar.gz 2.2MB
9、 openllm-0.4.11.tar.gz 114.67KB
10、 openllm-build-base-container-0.4.11-aarch64-apple-darwin.tar.gz 1.91MB
11、 openllm-build-base-container-0.4.11-aarch64-unknown-linux-gnu.tar.gz 1.97MB
12、 openllm-build-base-container-0.4.11-i686-unknown-linux-gnu.tar.gz 2.02MB
13、 openllm-build-base-container-0.4.11-powerpc64le-unknown-linux-gnu.tar.gz 2.23MB
14、 openllm-build-base-container-0.4.11-x86_64-apple-darwin.tar.gz 1.99MB
15、 openllm-build-base-container-0.4.11-x86_64-unknown-linux-gnu.tar.gz 2.17MB
16、 openllm-build-base-container-0.4.11-x86_64-unknown-linux-musl.tar.gz 2.2MB
17、 openllm-dive-bentos-0.4.11-aarch64-apple-darwin.tar.gz 1.91MB
18、 openllm-dive-bentos-0.4.11-aarch64-unknown-linux-gnu.tar.gz 1.96MB
19、 openllm-dive-bentos-0.4.11-i686-unknown-linux-gnu.tar.gz 2.02MB
20、 openllm-dive-bentos-0.4.11-powerpc64le-unknown-linux-gnu.tar.gz 2.23MB
21、 openllm-dive-bentos-0.4.11-x86_64-apple-darwin.tar.gz 1.99MB
22、 openllm-dive-bentos-0.4.11-x86_64-unknown-linux-gnu.tar.gz 2.17MB
23、 openllm-dive-bentos-0.4.11-x86_64-unknown-linux-musl.tar.gz 2.2MB
24、 openllm-get-containerfile-0.4.11-aarch64-apple-darwin.tar.gz 1.91MB
25、 openllm-get-containerfile-0.4.11-aarch64-unknown-linux-gnu.tar.gz 1.97MB
26、 openllm-get-containerfile-0.4.11-i686-unknown-linux-gnu.tar.gz 2.02MB
27、 openllm-get-containerfile-0.4.11-powerpc64le-unknown-linux-gnu.tar.gz 2.23MB
28、 openllm-get-containerfile-0.4.11-x86_64-apple-darwin.tar.gz 1.99MB
29、 openllm-get-containerfile-0.4.11-x86_64-unknown-linux-gnu.tar.gz 2.17MB
30、 openllm-get-containerfile-0.4.11-x86_64-unknown-linux-musl.tar.gz 2.2MB
31、 openllm-get-prompt-0.4.11-aarch64-apple-darwin.tar.gz 1.91MB
32、 openllm-get-prompt-0.4.11-aarch64-unknown-linux-gnu.tar.gz 1.96MB
33、 openllm-get-prompt-0.4.11-i686-unknown-linux-gnu.tar.gz 2.02MB
34、 openllm-get-prompt-0.4.11-powerpc64le-unknown-linux-gnu.tar.gz 2.23MB
35、 openllm-get-prompt-0.4.11-x86_64-apple-darwin.tar.gz 1.99MB
36、 openllm-get-prompt-0.4.11-x86_64-unknown-linux-gnu.tar.gz 2.17MB
37、 openllm-get-prompt-0.4.11-x86_64-unknown-linux-musl.tar.gz 2.2MB
38、 openllm-list-bentos-0.4.11-aarch64-apple-darwin.tar.gz 1.91MB
39、 openllm-list-bentos-0.4.11-aarch64-unknown-linux-gnu.tar.gz 1.96MB
40、 openllm-list-bentos-0.4.11-i686-unknown-linux-gnu.tar.gz 2.02MB
41、 openllm-list-bentos-0.4.11-powerpc64le-unknown-linux-gnu.tar.gz 2.23MB
42、 openllm-list-bentos-0.4.11-x86_64-apple-darwin.tar.gz 1.99MB
43、 openllm-list-bentos-0.4.11-x86_64-unknown-linux-gnu.tar.gz 2.17MB
44、 openllm-list-bentos-0.4.11-x86_64-unknown-linux-musl.tar.gz 2.2MB
45、 openllm-list-models-0.4.11-aarch64-apple-darwin.tar.gz 1.91MB
46、 openllm-list-models-0.4.11-aarch64-unknown-linux-gnu.tar.gz 1.96MB
47、 openllm-list-models-0.4.11-i686-unknown-linux-gnu.tar.gz 2.02MB
48、 openllm-list-models-0.4.11-powerpc64le-unknown-linux-gnu.tar.gz 2.23MB
49、 openllm-list-models-0.4.11-x86_64-apple-darwin.tar.gz 1.99MB
50、 openllm-list-models-0.4.11-x86_64-unknown-linux-gnu.tar.gz 2.17MB
51、 openllm-list-models-0.4.11-x86_64-unknown-linux-musl.tar.gz 2.2MB
52、 openllm-playground-0.4.11-aarch64-apple-darwin.tar.gz 1.91MB
53、 openllm-playground-0.4.11-aarch64-unknown-linux-gnu.tar.gz 1.96MB
54、 openllm-playground-0.4.11-i686-unknown-linux-gnu.tar.gz 2.02MB
55、 openllm-playground-0.4.11-powerpc64le-unknown-linux-gnu.tar.gz 2.23MB
56、 openllm-playground-0.4.11-x86_64-apple-darwin.tar.gz 1.99MB
57、 openllm-playground-0.4.11-x86_64-unknown-linux-gnu.tar.gz 2.17MB
58、 openllm-playground-0.4.11-x86_64-unknown-linux-musl.tar.gz 2.2MB
59、 openllm_client-0.4.11-py3-none-any.whl 18.79KB
60、 openllm_client-0.4.11.tar.gz 20.56KB
61、 openllm_core-0.4.11-py3-none-any.whl 77.7KB
62、 openllm_core-0.4.11.tar.gz 61.16KB