v0.4.34

版本发布时间: 2023-11-30 20:28:47

bentoml/OpenLLM最新发布版本:v0.5.0-alpha.1(2024-03-21 09:46:20)

Installation

pip install openllm==0.4.34

To upgrade from a previous version, use the following command:

pip install --upgrade openllm==0.4.34

Usage

All available models: openllm models

To start a LLM: python -m openllm start HuggingFaceH4/zephyr-7b-beta

To run OpenLLM within a container environment (requires GPUs): docker run --gpus all -it -P -v $PWD/data:$HOME/.cache/huggingface/ ghcr.io/bentoml/openllm:0.4.34 start HuggingFaceH4/zephyr-7b-beta

Find more information about this release in the CHANGELOG.md

What's Changed

feat(models): Support qwen by @yansheng105 in https://github.com/bentoml/OpenLLM/pull/742

New Contributors

@yansheng105 made their first contribution in https://github.com/bentoml/OpenLLM/pull/742

Full Changelog: https://github.com/bentoml/OpenLLM/compare/v0.4.33...v0.4.34

相关地址：原始地址下载(tar) 下载(zip)

1、 openllm-0.4.34-aarch64-apple-darwin.tar.gz 1.9MB

2、 openllm-0.4.34-aarch64-unknown-linux-gnu.tar.gz 1.96MB

3、 openllm-0.4.34-i686-unknown-linux-gnu.tar.gz 2.02MB

4、 openllm-0.4.34-powerpc64le-unknown-linux-gnu.tar.gz 2.23MB

5、 openllm-0.4.34-py3-none-any.whl 119.82KB

6、 openllm-0.4.34-x86_64-apple-darwin.tar.gz 1.99MB

7、 openllm-0.4.34-x86_64-unknown-linux-gnu.tar.gz 2.17MB

8、 openllm-0.4.34-x86_64-unknown-linux-musl.tar.gz 2.19MB

9、 openllm-0.4.34.tar.gz 112.88KB

10、 openllm-dive-bentos-0.4.34-aarch64-apple-darwin.tar.gz 1.9MB

11、 openllm-dive-bentos-0.4.34-aarch64-unknown-linux-gnu.tar.gz 1.96MB

12、 openllm-dive-bentos-0.4.34-i686-unknown-linux-gnu.tar.gz 2.02MB

13、 openllm-dive-bentos-0.4.34-powerpc64le-unknown-linux-gnu.tar.gz 2.23MB

14、 openllm-dive-bentos-0.4.34-x86_64-apple-darwin.tar.gz 1.99MB

15、 openllm-dive-bentos-0.4.34-x86_64-unknown-linux-gnu.tar.gz 2.17MB

16、 openllm-dive-bentos-0.4.34-x86_64-unknown-linux-musl.tar.gz 2.19MB

17、 openllm-get-containerfile-0.4.34-aarch64-apple-darwin.tar.gz 1.9MB

18、 openllm-get-containerfile-0.4.34-aarch64-unknown-linux-gnu.tar.gz 1.96MB

19、 openllm-get-containerfile-0.4.34-i686-unknown-linux-gnu.tar.gz 2.02MB

20、 openllm-get-containerfile-0.4.34-powerpc64le-unknown-linux-gnu.tar.gz 2.23MB

21、 openllm-get-containerfile-0.4.34-x86_64-apple-darwin.tar.gz 1.99MB

22、 openllm-get-containerfile-0.4.34-x86_64-unknown-linux-gnu.tar.gz 2.17MB

23、 openllm-get-containerfile-0.4.34-x86_64-unknown-linux-musl.tar.gz 2.19MB

24、 openllm-get-prompt-0.4.34-aarch64-apple-darwin.tar.gz 1.9MB

25、 openllm-get-prompt-0.4.34-aarch64-unknown-linux-gnu.tar.gz 1.96MB

26、 openllm-get-prompt-0.4.34-i686-unknown-linux-gnu.tar.gz 2.02MB

27、 openllm-get-prompt-0.4.34-powerpc64le-unknown-linux-gnu.tar.gz 2.23MB

28、 openllm-get-prompt-0.4.34-x86_64-apple-darwin.tar.gz 1.99MB

29、 openllm-get-prompt-0.4.34-x86_64-unknown-linux-gnu.tar.gz 2.17MB

30、 openllm-get-prompt-0.4.34-x86_64-unknown-linux-musl.tar.gz 2.19MB

31、 openllm-list-bentos-0.4.34-aarch64-apple-darwin.tar.gz 1.9MB

32、 openllm-list-bentos-0.4.34-aarch64-unknown-linux-gnu.tar.gz 1.96MB

33、 openllm-list-bentos-0.4.34-i686-unknown-linux-gnu.tar.gz 2.02MB

34、 openllm-list-bentos-0.4.34-powerpc64le-unknown-linux-gnu.tar.gz 2.23MB

35、 openllm-list-bentos-0.4.34-x86_64-apple-darwin.tar.gz 1.99MB

36、 openllm-list-bentos-0.4.34-x86_64-unknown-linux-gnu.tar.gz 2.17MB

37、 openllm-list-bentos-0.4.34-x86_64-unknown-linux-musl.tar.gz 2.19MB

38、 openllm-list-models-0.4.34-aarch64-apple-darwin.tar.gz 1.9MB

39、 openllm-list-models-0.4.34-aarch64-unknown-linux-gnu.tar.gz 1.96MB

40、 openllm-list-models-0.4.34-i686-unknown-linux-gnu.tar.gz 2.02MB

41、 openllm-list-models-0.4.34-powerpc64le-unknown-linux-gnu.tar.gz 2.23MB

42、 openllm-list-models-0.4.34-x86_64-apple-darwin.tar.gz 1.99MB

43、 openllm-list-models-0.4.34-x86_64-unknown-linux-gnu.tar.gz 2.17MB

44、 openllm-list-models-0.4.34-x86_64-unknown-linux-musl.tar.gz 2.19MB

45、 openllm-playground-0.4.34-aarch64-apple-darwin.tar.gz 1.9MB

46、 openllm-playground-0.4.34-aarch64-unknown-linux-gnu.tar.gz 1.96MB

47、 openllm-playground-0.4.34-i686-unknown-linux-gnu.tar.gz 2.02MB

48、 openllm-playground-0.4.34-powerpc64le-unknown-linux-gnu.tar.gz 2.23MB

49、 openllm-playground-0.4.34-x86_64-apple-darwin.tar.gz 1.99MB

50、 openllm-playground-0.4.34-x86_64-unknown-linux-gnu.tar.gz 2.17MB

51、 openllm-playground-0.4.34-x86_64-unknown-linux-musl.tar.gz 2.19MB

52、 openllm_client-0.4.34-py3-none-any.whl 18.83KB

53、 openllm_client-0.4.34.tar.gz 20.61KB

54、 openllm_core-0.4.34-py3-none-any.whl 71.52KB

55、 openllm_core-0.4.34.tar.gz 58.64KB

查看：2023-11-30发行的版本