磚12.1運行時機器學習

磚12.1運行時機器學習為機器學習和數據提供了一個準備好了環境科學的基礎上磚12.1運行時。磚運行時毫升含有許多流行的機器學習庫,包括TensorFlow PyTorch, XGBoost。磚運行時毫升包括AutoML,一個工具來自動訓練機器學習管道。磚運行時毫升也支持使用Horovod分布深度學習培訓。

更多信息,包括指令創建磚集群運行時毫升、明白了介紹磚運行時機器學習。

請注意

這些版本注釋可能包括引用功能不可用這個版本的穀歌雲。

新特性和改進

磚磚的運行時12.1毫升之上12.1運行時。有什麼新信息的磚12.1運行時,包括Apache火花MLlib和SparkR,看到磚12.1運行時發行說明。

磚AutoML

從磚開始運行時12.1毫升,AutoML Python API允許您指定一個自定義名稱AutoML生成的實驗。使用的參數experiment_name。

關於磚AutoML的更多信息,請參閱AutoML是什麼?。

係統環境

磚的係統環境運行時12.1毫升不同於磚運行時的12.1如下:

磚運行時12.1毫升包括XGBoost 1.7.2,不支持GPU集群計算能力5.2甚至更低。

庫

下麵的章節列表庫包含在磚運行時的12.1毫升,不同於那些包含在磚12.1運行時。

Python庫

磚運行時12.1毫升使用Virtualenv Python包管理,包括許多流行毫升包。

除了指定的包在下麵幾節中,磚運行時12.1毫升的還包括以下方案:

  • hyperopt 0.2.7.db1

  • sparkdl 2.3.0-db3

  • automl 1.15.0

複製的磚在本地Python運行時毫升Python環境的虛擬環境,下載requirements-12.1.txt文件和運行皮普安裝- rrequirements-12.1.txt。這個命令安裝所有的磚運行時毫升使用開源庫,但沒有安裝庫由磚等databricks-automl,databricks-feature-store,或磚叉hyperopt。

Python庫對CPU集群

圖書館

版本

圖書館

版本

圖書館

版本

absl-py

1.0.0

argon2-cffi

21.3.0

argon2-cffi-bindings

21.2.0

阿斯特

0.8.1

asttokens

2.0.5

astunparse

1.6.3

attrs

21.4.0

azure-core

1.26.1

azure-cosmos

4.2.0

backcall

0.2.0

backports.entry-points-selectable

1.2.0

bcrypt

3.2.0

beautifulsoup4

4.11.1

黑色的

22.3.0

漂白劑

4.1.0

bli

0.7.9

boto3

1.21.32

botocore

1.24.32

cachetools

4.2.2

目錄

2.0.8

category-encoders

2.5.1.post0

certifi

2021.10.8

cffi

1.15.0

chardet

4.0.0

charset-normalizer

2.0.4

點擊

8.0.4

cloudpickle

2.0.0

cmdstanpy

1.0.8

糖果

0.0.3

configparser

5.2.0

convertdate

測試盒框

密碼學

3.4.8

周期計

0.11.0

cymem

2.0.7

Cython

0.29.28

databricks-automl-runtime

0.2.14

databricks-cli

0.17.4

databricks-feature-store

0.9.0

dbl-tempo

0.1.12

dbus-python

1.2.16

debugpy

1.5.1

裝飾

5.1.1

defusedxml

是0.7.1

蒔蘿

0.3.4

diskcache

5.4.0

distlib

0.3.6

docstring-to-markdown

0.11

entrypoints

0.4

ephem

4.1.4

執行

0.8.3

facets-overview

1.0.0

fastjsonschema

2.16.2

fasttext

0.9.2

filelock

3.6.0

瓶

1.1.2

flatbuffers

22.12.6

fonttools

4.25.0

fsspec

2022.2.0

未來

0.18.2

使驚訝

0.4.0

gitdb

4.0.10

GitPython

3.1.27

google-auth

1.33.0

google-auth-oauthlib

0.4.6

google-pasta

0.2.0

grpcio

1.42.0

gunicorn

20.1.0

gviz-api

1.10.0

h5py

3.6.0

hijri-converter

2.2.4

假期

0.17.2

horovod

0.26.1

htmlmin

0.1.12

huggingface-hub

0.11.1

idna

3.3

ImageHash

4.3.1

imbalanced-learn

0.8.1

importlib-metadata

4.11.3

ipykernel

6.15.3

ipython

8.5.0

ipython-genutils

0.2.0

ipywidgets

7.7.2

isodate

0.6.1

itsdangerous

2.0.1

絕地武士

0.18.1

Jinja2

14

jmespath

0.10.0

joblib

1.1.0

joblibspark

0.5.0

jsonschema

4.4.0

jupyter-client

6.1.12

jupyter_core

4.11.2

jupyterlab-pygments

0.1.2

jupyterlab-widgets

1.0.0

keras

2.10.0

Keras-Preprocessing

1.1.2

kiwisolver

1.3.2

korean-lunar-calendar

0.3.1

langcodes

3.3.0

libclang

14.0.6

lightgbm

3.3.3

llvmlite

0.38.0

LunarCalendar

0.0.9

尖吻鯖鯊

1.2.0

減價

3.3.4

MarkupSafe

2.0.1

matplotlib

3.5.1

matplotlib-inline

0.1.2

麥凱布

0.7.0

使走調

0.8.4

mleap

0.20.0

mlflow-skinny

2.1.1

多重方法

1.9.1

murmurhash

1.0.9

mypy-extensions

0.4.3

nbclient

0.5.13

nbconvert

6.4.4

nbformat

5.3.0

nest-asyncio

1.5.5

networkx

2.7.1

nltk

3.7

nodeenv

1.7.0

筆記本

6.4.8

numba

0.55.1

numpy

1.21.5

oauthlib

3.2.0

opt-einsum

3.3.0

包裝

21.3

熊貓

1.4.2

pandas-profiling

3.5.0

pandocfilters

1.5.0

paramiko

2.9.2

parso

0.8.3

pathspec

0.9.0

表“感覺”

0.6.1

容易受騙的人

0.5.2

petastorm

0.12.0

pexpect

4.8.0

phik

0.12.3

pickleshare

0.7.5

枕頭

9.0.1

皮普

21.2.4

Beplay体育安卓版本platformdirs

2.6.0

情節

5.6.0

pluggy

1.0.0

pmdarima

2.0.2

棒

3.0.8

prometheus-client

0.13.1

prompt-toolkit

3.0.20

先知

1.1.1

protobuf

3.19.4

psutil

5.8.0

psycopg2

2.9.3

ptyprocess

0.7.0

pure-eval

0.2.2

pyarrow

7.0.0

pyasn1

0.4.8

pyasn1-modules

0.2.8

pybind11

2.10.1

pycparser

2.21

pydantic

1.10.2

pyflakes

2.5.0

Pygments

2.11.2

PyGObject

3.36.0

PyJWT

2.6.0

PyMeeus

0.5.12

PyNaCl

1.5.0

pyodbc

4.0.32

pyparsing

3.0.4

pyright

1.1.283

pyrsistent

0.18.0

python-dateutil

2.8.2

python編輯器

1.0.4

python-lsp-jsonrpc

1.0.0

python-lsp-server

1.6.0

pytz

2021.3

PyWavelets

1.3.0

PyYAML

6.0

pyzmq

22.3.0

正則表達式

2022.3.15

請求

2.27.1

requests-oauthlib

1.3.1

requests-unixsocket

0.2.0

繩子

0.22.0

rsa

4.7.2

s3transfer

0.5.0

scikit-learn

1.0.2中

scipy

1.7.3

seaborn

0.11.2

Send2Trash

1.8.0

setuptools

61.2.0

setuptools-git

1.2

世鵬科技電子

0.41.0

simplejson

3.17.6

六個

1.16.0

切片機

0.0.7

smart-open

5.1.0

smmap

5.0.0

soupsieve

2.3.1

寬大的

3.4.3

spacy-legacy

3.0.10

spacy-loggers

1.0.4

spark-tensorflow-distributor

1.0.0

sqlparse

0.4.2

srs

2.4.5

ssh-import-id

5.10

堆棧數據

0.2.0

statsmodels

0.13.2

彙總

0.8.9

tangled-up-in-unicode

0.2.0

韌性

8.0.1

tensorboard

2.10.0

tensorboard-data-server

0.6.1

tensorboard-plugin-profile

2.8.0

tensorboard-plugin-wit

1.8.1

tensorflow-cpu

2.10.0

tensorflow-estimator

2.10.0

tensorflow-io-gcs-filesystem

0.29.0

termcolor

2.1.1

terminado

0.13.1

testpath

0.5.0

thinc

8.1.6

threadpoolctl

2.2.0

tokenize-rt

4.2.1

分詞器

0.13.2

tomli

1.2.2

火炬

1.13.0 + cpu

torchvision

0.14.0 + cpu

龍卷風

6.1

tqdm

4.64.0

traitlets

5.1.1

變形金剛

4.25.1

typeguard

2.13.3

打字機

0.7.0

typing_extensions

以下4.4.1

ujson

5.1.0

unattended-upgrades

0.1

urllib3

1.26.9

virtualenv

20.8.0

願景

0.7.5

芥末醬

0.10.1

wcwidth

0.2.5

webencodings

0.5.1

websocket-client

0.58.0

Werkzeug

2.0.3

whatthepatch

1.0.3

輪

0.37.1

widgetsnbextension

3.6.1

打包

1.12.1

xgboost

1.7.2

yapf

0.31.0

氧化鋅碘仿糊

3.7.0

Python庫在GPU集群

圖書館

版本

圖書館

版本

圖書館

版本

absl-py

1.0.0

argon2-cffi

21.3.0

argon2-cffi-bindings

21.2.0

阿斯特

0.8.1

asttokens

2.0.5

astunparse

1.6.3

attrs

21.4.0

azure-core

1.26.1

azure-cosmos

4.2.0

backcall

0.2.0

backports.entry-points-selectable

1.2.0

bcrypt

3.2.0

beautifulsoup4

4.11.1

黑色的

22.3.0

漂白劑

4.1.0

bli

0.7.9

boto3

1.21.32

botocore

1.24.32

cachetools

4.2.2

目錄

2.0.8

category-encoders

2.5.1.post0

certifi

2021.10.8

cffi

1.15.0

chardet

4.0.0

charset-normalizer

2.0.4

點擊

8.0.4

cloudpickle

2.0.0

cmdstanpy

1.0.8

糖果

0.0.3

configparser

5.2.0

convertdate

測試盒框

密碼學

3.4.8

周期計

0.11.0

cymem

2.0.7

Cython

0.29.28

databricks-automl-runtime

0.2.14

databricks-cli

0.17.4

databricks-feature-store

0.9.0

dbl-tempo

0.1.12

dbus-python

1.2.16

debugpy

1.5.1

裝飾

5.1.1

defusedxml

是0.7.1

蒔蘿

0.3.4

diskcache

5.4.0

distlib

0.3.6

docstring-to-markdown

0.11

entrypoints

0.4

ephem

4.1.4

執行

0.8.3

facets-overview

1.0.0

fastjsonschema

2.16.2

fasttext

0.9.2

filelock

3.6.0

瓶

1.1.2

flatbuffers

22.12.6

fonttools

4.25.0

fsspec

2022.2.0

未來

0.18.2

使驚訝

0.4.0

gitdb

4.0.10

GitPython

3.1.27

google-auth

1.33.0

google-auth-oauthlib

0.4.6

google-pasta

0.2.0

grpcio

1.42.0

gunicorn

20.1.0

gviz-api

1.10.0

h5py

3.6.0

hijri-converter

2.2.4

假期

0.17.2

horovod

0.26.1

htmlmin

0.1.12

huggingface-hub

0.11.1

idna

3.3

ImageHash

4.3.1

imbalanced-learn

0.8.1

importlib-metadata

4.11.3

ipykernel

6.15.3

ipython

8.5.0

ipython-genutils

0.2.0

ipywidgets

7.7.2

isodate

0.6.1

itsdangerous

2.0.1

絕地武士

0.18.1

Jinja2

14

jmespath

0.10.0

joblib

1.1.0

joblibspark

0.5.0

jsonschema

4.4.0

jupyter-client

6.1.12

jupyter_core

4.11.2

jupyterlab-pygments

0.1.2

jupyterlab-widgets

1.0.0

keras

2.10.0

Keras-Preprocessing

1.1.2

kiwisolver

1.3.2

korean-lunar-calendar

0.3.1

langcodes

3.3.0

libclang

14.0.6

lightgbm

3.3.3

llvmlite

0.38.0

LunarCalendar

0.0.9

尖吻鯖鯊

1.2.0

減價

3.3.4

MarkupSafe

2.0.1

matplotlib

3.5.1

matplotlib-inline

0.1.2

麥凱布

0.7.0

使走調

0.8.4

mleap

0.20.0

mlflow-skinny

2.1.1

多重方法

1.9.1

murmurhash

1.0.9

mypy-extensions

0.4.3

nbclient

0.5.13

nbconvert

6.4.4

nbformat

5.3.0

nest-asyncio

1.5.5

networkx

2.7.1

nltk

3.7

nodeenv

1.7.0

筆記本

6.4.8

numba

0.55.1

numpy

1.21.5

oauthlib

3.2.0

opt-einsum

3.3.0

包裝

21.3

熊貓

1.4.2

pandas-profiling

3.5.0

pandocfilters

1.5.0

paramiko

2.9.2

parso

0.8.3

pathspec

0.9.0

表“感覺”

0.6.1

容易受騙的人

0.5.2

petastorm

0.12.0

pexpect

4.8.0

phik

0.12.3

pickleshare

0.7.5

枕頭

9.0.1

皮普

21.2.4

Beplay体育安卓版本platformdirs

2.6.0

情節

5.6.0

pluggy

1.0.0

pmdarima

2.0.2

棒

3.0.8

prompt-toolkit

3.0.20

先知

1.1.1

protobuf

3.19.4

psutil

5.8.0

psycopg2

2.9.3

ptyprocess

0.7.0

pure-eval

0.2.2

pyarrow

7.0.0

pyasn1

0.4.8

pyasn1-modules

0.2.8

pybind11

2.10.1

pycparser

2.21

pydantic

1.10.2

pyflakes

2.5.0

Pygments

2.11.2

PyGObject

3.36.0

PyJWT

2.6.0

PyMeeus

0.5.12

PyNaCl

1.5.0

pyodbc

4.0.32

pyparsing

3.0.4

pyright

1.1.283

pyrsistent

0.18.0

python-dateutil

2.8.2

python編輯器

1.0.4

python-lsp-jsonrpc

1.0.0

python-lsp-server

1.6.0

pytz

2021.3

PyWavelets

1.3.0

PyYAML

6.0

pyzmq

22.3.0

正則表達式

2022.3.15

請求

2.27.1

requests-oauthlib

1.3.1

requests-unixsocket

0.2.0

繩子

0.22.0

rsa

4.7.2

s3transfer

0.5.0

scikit-learn

1.0.2中

scipy

1.7.3

seaborn

0.11.2

Send2Trash

1.8.0

setuptools

61.2.0

setuptools-git

1.2

世鵬科技電子

0.41.0

simplejson

3.17.6

六個

1.16.0

切片機

0.0.7

smart-open

5.1.0

smmap

5.0.0

soupsieve

2.3.1

寬大的

3.4.3

spacy-legacy

3.0.10

spacy-loggers

1.0.4

spark-tensorflow-distributor

1.0.0

sqlparse

0.4.2

srs

2.4.5

ssh-import-id

5.10

堆棧數據

0.2.0

statsmodels

0.13.2

彙總

0.8.9

tangled-up-in-unicode

0.2.0

韌性

8.0.1

tensorboard

2.10.0

tensorboard-data-server

0.6.1

tensorboard-plugin-profile

2.8.0

tensorboard-plugin-wit

1.8.1

tensorflow

2.10.0

tensorflow-estimator

2.10.0

tensorflow-io-gcs-filesystem

0.29.0

termcolor

2.1.1

terminado

0.13.1

testpath

0.5.0

thinc

8.1.6

threadpoolctl

2.2.0

tokenize-rt

4.2.1

分詞器

0.13.2

tomli

1.2.2

火炬

1.13.0 + cu117

torchvision

0.14.0 + cu117

龍卷風

6.1

tqdm

4.64.0

traitlets

5.1.1

變形金剛

4.25.1

typeguard

2.13.3

打字機

0.7.0

typing_extensions

以下4.4.1

ujson

5.1.0

unattended-upgrades

0.1

urllib3

1.26.9

virtualenv

20.8.0

願景

0.7.5

芥末醬

0.10.1

wcwidth

0.2.5

webencodings

0.5.1

websocket-client

0.58.0

Werkzeug

2.0.3

whatthepatch

1.0.3

輪

0.37.1

widgetsnbextension

3.6.1

打包

1.12.1

xgboost

1.7.2

yapf

0.31.0

氧化鋅碘仿糊

3.7.0

R庫

R庫的完全相同R庫在磚12.1運行時。

Java和Scala庫(Scala 2.12集群)

除了Java和Scala庫磚12.1運行時,磚運行時12.1毫升包含以下jar:

CPU集群

組ID

工件ID

版本

com.typesafe.akka

akka-actor_2.12

2.5.23

ml.combust.mleap

mleap-databricks-runtime_2.12

v0.20.0-db1

ml.dmlc

xgboost4j-spark_2.12

1.6.2

ml.dmlc

xgboost4j_2.12

1.6.2

org.graphframes

graphframes_2.12

0.8.2-db1-spark3.2

org.mlflow

mlflow-client

2.0.1

org.scala-lang.modules

scala-java8-compat_2.12

0.8.0

org.tensorflow

spark-tensorflow-connector_2.12

1.15.0

GPU集群

組ID

工件ID

版本

com.typesafe.akka

akka-actor_2.12

2.5.23

ml.combust.mleap

mleap-databricks-runtime_2.12

v0.20.0-db1

ml.dmlc

xgboost4j-gpu_2.12

1.6.2

ml.dmlc

xgboost4j-spark-gpu_2.12

1.6.2

org.graphframes

graphframes_2.12

0.8.2-db1-spark3.2

org.mlflow

mlflow-client

2.0.1

org.scala-lang.modules

scala-java8-compat_2.12

0.8.0

org.tensorflow

spark-tensorflow-connector_2.12

1.15.0