磚13.0運行時機器學習

磚13.0運行時機器學習為機器學習和數據提供了一個準備好了環境科學的基礎上磚13.0運行時。磚運行時毫升含有許多流行的機器學習庫,包括TensorFlow PyTorch, XGBoost。磚運行時毫升包括AutoML,一個工具來自動訓練機器學習管道。磚運行時毫升也支持使用Horovod分布深度學習培訓。

更多信息,包括指令創建磚集群運行時毫升、明白了介紹磚運行時機器學習。

請注意

這些版本注釋可能包括引用功能不可用這個版本的穀歌雲。

新特性和改進

磚磚的運行時13.0毫升之上13.0運行時。有什麼新信息的磚13.0運行時,包括Apache火花MLlib和SparkR,看到磚13.0運行時發行說明。

增強磚特色商店

團結Catalog-enabled工作區集群上運行磚運行時的13.0毫升以上,你可以發布工作空間和宇宙統一目錄功能表數據庫在線商店。

磚特性存儲更多信息,請參閱磚特性的商店。

係統環境

磚的係統環境運行時13.0毫升不同於磚運行時的13.0如下:

磚運行時13.0毫升包括XGBoost 1.7.2,不支持GPU集群計算能力5.2甚至更低。

miniconda包已被刪除從磚運行時的13.0毫升。

庫

下麵的章節列表庫包含在磚運行時的13.0毫升,不同於那些包含在磚13.0運行時。

Python庫

磚運行時13.0毫升使用Virtualenv Python包管理,包括許多流行毫升包。

以下介紹了Python庫與磚運行時13.0 ML:

  • 加速

  • 數據集

  • 評估

  • ydata-profiling

除了指定的包在下麵幾節中,磚運行時13.0毫升的還包括以下方案:

  • hyperopt 0.2.7 + db4

  • sparkdl 3.0.0_db1

  • automl 1.17.0

複製的磚在本地Python運行時毫升Python環境的虛擬環境,下載requirements-13.0.txt文件和運行皮普安裝- rrequirements-13.0.txt。這個命令安裝所有的磚運行時毫升使用開源庫,但沒有安裝庫由磚等databricks-automl,databricks-feature-store,或磚叉hyperopt。

Python庫對CPU集群

圖書館

版本

圖書館

版本

圖書館

版本

absl-py

1.0.0

加速

0.16.0

aiohttp

3.8.4

aiosignal

1.3.1

appdirs

1.4.4

argon2-cffi

21.3.0

argon2-cffi-bindings

21.2.0

阿斯特

0.8.1

asttokens

2.2.1

astunparse

1.6.3

async-timeout

4.0.2

attrs

21.4.0

azure-core

1.26.3

azure-cosmos

4.3.1b1

backcall

0.2.0

bcrypt

3.2.0

beautifulsoup4

4.11.1

黑色的

22.6.0

漂白劑

4.1.0

信號燈

1.4

bli

0.7.9

boto3

1.24.28

botocore

1.27.28

cachetools

4.2.4

目錄

2.0.8

category-encoders

2.6.0

certifi

2022.9.14

cffi

1.15.1

chardet

4.0.0

charset-normalizer

2.0.4

點擊

8.0.4

cloudpickle

2.0.0

cmdstanpy

1.1.0

糖果

0.0.4

configparser

5.2.0

convertdate

測試盒框

密碼學

37.0.1

周期計

0.11.0

cymem

2.0.7

Cython

0.29.32

databricks-automl-runtime

0.2.16

databricks-cli

0.17.4

databricks-feature-store

0.11.0

數據集

2.10.0

dbl-tempo

0.1.12

dbus-python

1.2.18

debugpy

1.5.1

裝飾

5.1.1

defusedxml

是0.7.1

蒔蘿

0.3.4

diskcache

5.4.0

distlib

0.3.6

docstring-to-markdown

0.11

entrypoints

0.4

ephem

4.1.4

評估

0.4.0

執行

1.2.0

facets-overview

1.0.2中

fastjsonschema

2.16.3

fasttext

0.9.2

filelock

3.6.0

瓶

1.1.2

flatbuffers

23.3.3

fonttools

4.25.0

frozenlist

1.3.3

fsspec

2022.7.1

未來

0.18.2

使驚訝

0.4.0

gitdb

4.0.10

GitPython

3.1.27

google-auth

1.33.0

google-auth-oauthlib

0.4.6

google-pasta

0.2.0

googleapis-common-protos

1.56.4

grpcio

1.48.1

grpcio-status

1.48.1

gunicorn

20.1.0

gviz-api

1.10.0

h5py

3.7.0

hijri-converter

2.2.4

假期

0.19

horovod

0.27.0

htmlmin

0.1.12

httplib2

0.20.2

huggingface-hub

0.13.2

idna

3.3

ImageHash

4.3.1

imbalanced-learn

0.8.1

importlib-metadata

4.11.3

ipykernel

6.17.1

ipython

8.10.0

ipython-genutils

0.2.0

ipywidgets

7.7.2

isodate

0.6.1

itsdangerous

2.0.1

絕地武士

0.18.1

吉普車

是0.7.1

Jinja2

14

jmespath

0.10.0

joblib

1.2.0

joblibspark

0.5.1

jsonschema

4.16.0

jupyter-client

7.3.4

jupyter_core

4.11.2

jupyterlab-pygments

0.1.2

jupyterlab-widgets

1.0.0

keras

2.11.0

密匙環

23.5.0

kiwisolver

1.4.2

korean-lunar-calendar

0.3.1

langcodes

3.3.0

launchpadlib

1.10.16

lazr.restfulclient

0.14.4

lazr.uri

1.0.6

libclang

15.0.6.1

lightgbm

3.3.5

llvmlite

0.38.0

LunarCalendar

0.0.9

尖吻鯖鯊

1.2.0

減價

3.3.4

MarkupSafe

2.0.1

matplotlib

3.5.2

matplotlib-inline

0.1.6

麥凱布

0.7.0

使走調

0.8.4

mleap

0.20.0

mlflow-skinny

2.2.1

more-itertools

8.10.0

multidict

6.0.4

多重方法

1.9.1

多進程

0.70.12.2

murmurhash

1.0.9

mypy-extensions

0.4.3

nbclient

0.5.13

nbconvert

6.4.4

nbformat

發送的

nest-asyncio

1.5.5

networkx

2.8.4

nltk

3.7

nodeenv

1.7.0

筆記本

6.4.12

numba

0.55.1

numpy

1.21.5

oauthlib

3.2.0

opt-einsum

3.3.0

包裝

21.3

熊貓

1.4.4

pandas-profiling

3.6.6

pandocfilters

1.5.0

paramiko

2.9.2

parso

0.8.3

pathspec

0.9.0

表“感覺”

0.10.1

容易受騙的人

0.5.2

petastorm

0.12.1

pexpect

4.8.0

phik

0.12.3

pickleshare

0.7.5

枕頭

9.2.0

皮普

22.2.2

Beplay体育安卓版本platformdirs

2.5.2

情節

5.9.0

pluggy

1.0.0

pmdarima

2.0.2

棒

3.0.8

prometheus-client

0.14.1

prompt-toolkit

3.0.36

先知

1.1.2

protobuf

3.19.4

psutil

5.9.0

psycopg2

2.9.3

ptyprocess

0.7.0

pure-eval

0.2.2

pyarrow

7.0.0

pyasn1

0.4.8

pyasn1-modules

0.2.8

pybind11

2.10.3

pycparser

2.21

pydantic

1.10.6

pyflakes

3.0.1

Pygments

2.11.2

PyGObject

3.42.1

PyJWT

tripwire

PyMeeus

0.5.12

PyNaCl

1.5.0

pyodbc

4.0.32

pyparsing

3.0.9

pyright

1.1.294

pyrsistent

0.18.0

python-dateutil

2.8.2

python編輯器

1.0.4

python-lsp-jsonrpc

1.0.0

python-lsp-server

1.7.1上

pytoolconfig

1.2.2

pytz

2022.1

PyWavelets

1.3.0

PyYAML

6.0

pyzmq

23.2.0

正則表達式

2022.7.9

請求

2.28.1

requests-oauthlib

1.3.1

反應

0.18.0

繩子

1.7.0

rsa

4.9

s3transfer

0.6.0

scikit-learn

1.1.1

scipy

1.9.1

seaborn

0.11.2

SecretStorage

3.3.1

Send2Trash

1.8.0

setuptools

63.4.1

世鵬科技電子

0.41.0

simplejson

3.17.6

六個

1.16.0

切片機

0.0.7

smart-open

5.2.1

smmap

5.0.0

soupsieve

2.3.1

寬大的

3.5.0

spacy-legacy

3.0.12

spacy-loggers

1.0.4

spark-tensorflow-distributor

1.0.0

sqlparse

0.4.2

srs

2.4.6

ssh-import-id

5.11

堆棧數據

0.6.2

statsmodels

0.13.2

彙總

0.8.10

tangled-up-in-unicode

0.2.0

韌性

8.0.1

tensorboard

2.11.0

tensorboard-data-server

0.6.1

tensorboard-plugin-profile

2.11.1

tensorboard-plugin-wit

1.8.1

tensorflow-cpu

2.11.0

tensorflow-estimator

2.11.0

tensorflow-io-gcs-filesystem

0.31.0

termcolor

2.2.0

terminado

0.13.1

testpath

0.6.0

thinc

8.1.9

threadpoolctl

2.2.0

tokenize-rt

4.2.1

分詞器

0.13.2

tomli

2.0.1

火炬

1.13.1 + cpu

torchvision

0.14.1 + cpu

龍卷風

6.1

tqdm

4.64.1

traitlets

5.1.1

變形金剛

4.26.1

typeguard

2.13.3

打字機

0.7.0

typing_extensions

4.3.0

ujson

5.4.0

unattended-upgrades

0.1

urllib3

1.26.11

virtualenv

20.16.3

願景

0.7.5

wadllib

1.3.6

芥末醬

1.1.1

wcwidth

0.2.5

webencodings

0.5.1

websocket-client

0.58.0

Werkzeug

2.0.3

whatthepatch

1.0.2中

輪

0.37.1

widgetsnbextension

3.6.1

打包

1.14.1

xgboost

1.7.4

xxhash

3.2.0

yapf

0.31.0

yarl

1.8.2

ydata-profiling

4.1.0

氧化鋅碘仿糊

3.8.0

Python庫在GPU集群

圖書館

版本

圖書館

版本

圖書館

版本

absl-py

1.0.0

加速

0.16.0

aiohttp

3.8.4

aiosignal

1.3.1

appdirs

1.4.4

argon2-cffi

21.3.0

argon2-cffi-bindings

21.2.0

阿斯特

0.8.1

asttokens

2.2.1

astunparse

1.6.3

async-timeout

4.0.2

attrs

21.4.0

azure-core

1.26.3

azure-cosmos

4.3.1b1

backcall

0.2.0

bcrypt

3.2.0

beautifulsoup4

4.11.1

黑色的

22.6.0

漂白劑

4.1.0

信號燈

1.4

bli

0.7.9

boto3

1.24.28

botocore

1.27.28

cachetools

4.2.4

目錄

2.0.8

category-encoders

2.6.0

certifi

2022.9.14

cffi

1.15.1

chardet

4.0.0

charset-normalizer

2.0.4

點擊

8.0.4

cloudpickle

2.0.0

cmdstanpy

1.1.0

糖果

0.0.4

configparser

5.2.0

convertdate

測試盒框

密碼學

37.0.1

周期計

0.11.0

cymem

2.0.7

Cython

0.29.32

databricks-automl-runtime

0.2.16

databricks-cli

0.17.4

databricks-feature-store

0.11.0

數據集

2.10.0

dbl-tempo

0.1.12

dbus-python

1.2.18

debugpy

1.5.1

裝飾

5.1.1

defusedxml

是0.7.1

蒔蘿

0.3.4

diskcache

5.4.0

distlib

0.3.6

docstring-to-markdown

0.11

entrypoints

0.4

ephem

4.1.4

評估

0.4.0

執行

1.2.0

facets-overview

1.0.2中

fastjsonschema

2.16.3

fasttext

0.9.2

filelock

3.6.0

瓶

1.1.2

flatbuffers

23.3.3

fonttools

4.25.0

frozenlist

1.3.3

fsspec

2022.7.1

未來

0.18.2

使驚訝

0.4.0

gitdb

4.0.10

GitPython

3.1.27

google-auth

1.33.0

google-auth-oauthlib

0.4.6

google-pasta

0.2.0

googleapis-common-protos

1.56.4

grpcio

1.48.1

grpcio-status

1.48.1

gunicorn

20.1.0

gviz-api

1.10.0

h5py

3.7.0

hijri-converter

2.2.4

假期

0.19

horovod

0.27.0

htmlmin

0.1.12

httplib2

0.20.2

huggingface-hub

0.13.1

idna

3.3

ImageHash

4.3.1

imbalanced-learn

0.8.1

importlib-metadata

4.11.3

ipykernel

6.17.1

ipython

8.10.0

ipython-genutils

0.2.0

ipywidgets

7.7.2

isodate

0.6.1

itsdangerous

2.0.1

絕地武士

0.18.1

吉普車

是0.7.1

Jinja2

14

jmespath

0.10.0

joblib

1.2.0

joblibspark

0.5.1

jsonschema

4.16.0

jupyter-client

7.3.4

jupyter_core

4.11.2

jupyterlab-pygments

0.1.2

jupyterlab-widgets

1.0.0

keras

2.11.0

密匙環

23.5.0

kiwisolver

1.4.2

korean-lunar-calendar

0.3.1

langcodes

3.3.0

launchpadlib

1.10.16

lazr.restfulclient

0.14.4

lazr.uri

1.0.6

libclang

15.0.6.1

lightgbm

3.3.5

llvmlite

0.38.0

LunarCalendar

0.0.9

尖吻鯖鯊

1.2.0

減價

3.3.4

MarkupSafe

2.0.1

matplotlib

3.5.2

matplotlib-inline

0.1.6

麥凱布

0.7.0

使走調

0.8.4

mleap

0.20.0

mlflow-skinny

2.2.1

more-itertools

8.10.0

multidict

6.0.4

多重方法

1.9.1

多進程

0.70.12.2

murmurhash

1.0.9

mypy-extensions

0.4.3

nbclient

0.5.13

nbconvert

6.4.4

nbformat

發送的

nest-asyncio

1.5.5

networkx

2.8.4

nltk

3.7

nodeenv

1.7.0

筆記本

6.4.12

numba

0.55.1

numpy

1.21.5

oauthlib

3.2.0

opt-einsum

3.3.0

包裝

21.3

熊貓

1.4.4

pandas-profiling

3.6.6

pandocfilters

1.5.0

paramiko

2.9.2

parso

0.8.3

pathspec

0.9.0

表“感覺”

0.10.1

容易受騙的人

0.5.2

petastorm

0.12.1

pexpect

4.8.0

phik

0.12.3

pickleshare

0.7.5

枕頭

9.2.0

皮普

22.2.2

Beplay体育安卓版本platformdirs

2.5.2

情節

5.9.0

pluggy

1.0.0

pmdarima

2.0.2

棒

3.0.8

prompt-toolkit

3.0.36

先知

1.1.2

protobuf

3.19.4

psutil

5.9.0

psycopg2

2.9.3

ptyprocess

0.7.0

pure-eval

0.2.2

pyarrow

7.0.0

pyasn1

0.4.8

pyasn1-modules

0.2.8

pybind11

2.10.3

pycparser

2.21

pydantic

1.10.6

pyflakes

3.0.1

Pygments

2.11.2

PyGObject

3.42.1

PyJWT

tripwire

PyMeeus

0.5.12

PyNaCl

1.5.0

pyodbc

4.0.32

pyparsing

3.0.9

pyright

1.1.294

pyrsistent

0.18.0

python-dateutil

2.8.2

python編輯器

1.0.4

python-lsp-jsonrpc

1.0.0

python-lsp-server

1.7.1上

pytoolconfig

1.2.2

pytz

2022.1

PyWavelets

1.3.0

PyYAML

6.0

pyzmq

23.2.0

正則表達式

2022.7.9

請求

2.28.1

requests-oauthlib

1.3.1

反應

0.18.0

繩子

1.7.0

rsa

4.9

s3transfer

0.6.0

scikit-learn

1.1.1

scipy

1.9.1

seaborn

0.11.2

SecretStorage

3.3.1

Send2Trash

1.8.0

setuptools

63.4.1

世鵬科技電子

0.41.0

simplejson

3.17.6

六個

1.16.0

切片機

0.0.7

smart-open

5.2.1

smmap

5.0.0

soupsieve

2.3.1

寬大的

3.5.0

spacy-legacy

3.0.12

spacy-loggers

1.0.4

spark-tensorflow-distributor

1.0.0

sqlparse

0.4.2

srs

2.4.6

ssh-import-id

5.11

堆棧數據

0.6.2

statsmodels

0.13.2

彙總

0.8.10

tangled-up-in-unicode

0.2.0

韌性

8.0.1

tensorboard

2.11.0

tensorboard-data-server

0.6.1

tensorboard-plugin-profile

2.11.1

tensorboard-plugin-wit

1.8.1

tensorflow

2.11.0

tensorflow-estimator

2.11.0

tensorflow-io-gcs-filesystem

0.31.0

termcolor

2.2.0

terminado

0.13.1

testpath

0.6.0

thinc

8.1.9

threadpoolctl

2.2.0

tokenize-rt

4.2.1

分詞器

0.13.2

tomli

2.0.1

火炬

1.13.1 + cu117

torchvision

0.14.1 + cu117

龍卷風

6.1

tqdm

4.64.1

traitlets

5.1.1

變形金剛

4.26.1

typeguard

2.13.3

打字機

0.7.0

typing_extensions

4.3.0

ujson

5.4.0

unattended-upgrades

0.1

urllib3

1.26.11

virtualenv

20.16.3

願景

0.7.5

wadllib

1.3.6

芥末醬

1.1.1

wcwidth

0.2.5

webencodings

0.5.1

websocket-client

0.58.0

Werkzeug

2.0.3

whatthepatch

1.0.2中

輪

0.37.1

widgetsnbextension

3.6.1

打包

1.14.1

xgboost

1.7.4

xxhash

3.2.0

yapf

0.31.0

yarl

1.8.2

ydata-profiling

4.1.0

氧化鋅碘仿糊

3.8.0

R庫

R庫的完全相同R庫在磚13.0運行時。

Java和Scala庫(Scala 2.12集群)

除了Java和Scala庫磚13.0運行時,磚運行時13.0毫升包含以下jar:

CPU集群

組ID

工件ID

版本

com.typesafe.akka

akka-actor_2.12

2.5.23

ml.combust.mleap

mleap-databricks-runtime_2.12

v0.20.0-db2

ml.dmlc

xgboost4j-spark_2.12

1.7.3

ml.dmlc

xgboost4j_2.12

1.7.3

org.graphframes

graphframes_2.12

0.8.2-db1-spark3.2

org.mlflow

mlflow-client

2.2.1

org.scala-lang.modules

scala-java8-compat_2.12

0.8.0

org.tensorflow

spark-tensorflow-connector_2.12

1.15.0

GPU集群

組ID

工件ID

版本

com.typesafe.akka

akka-actor_2.12

2.5.23

ml.combust.mleap

mleap-databricks-runtime_2.12

v0.20.0-db2

ml.dmlc

xgboost4j-gpu_2.12

1.7.3

ml.dmlc

xgboost4j-spark-gpu_2.12

1.7.3

org.graphframes

graphframes_2.12

0.8.2-db1-spark3.2

org.mlflow

mlflow-client

2.2.1

org.scala-lang.modules

scala-java8-compat_2.12

0.8.0

org.tensorflow

spark-tensorflow-connector_2.12

1.15.0