Databricks Runtime 6.0(不支持)
Databricks在2019年10月發布了這張圖片。
以下版本說明提供了由Apache Spark支持的Databricks Runtime 6.0的相關信息。
新功能
Python環境
Databricks Runtime 6.0對Python和Python環境的配置方式進行了重大更改，包括將Python升級為3.7.3，完善已安裝的Python包列表，並將這些已安裝的包升級到新版本。有關詳細信息,請參見安裝Python庫．
此外，一如既往宣布說明Databricks Runtime 6.0不支持Python 2。
主要變化包括:
將Python從3.5.2升級到3.7.3。一些舊版本的Python包可能不與Python 3.7向前兼容，因為它們依賴於與Python 3.7不兼容的舊版本Cython。安裝這樣的包可能會觸發類似於
“PyThreadState”{”結構_t '}有沒有成員命名“exc_type”(見GitHub發行1978詳情)。請安裝兼容Python 3.7版本的Python包。主要升級包:
boto3, 1.9.162
ipython來7.4.0
matplotlib, 3.0.3
numpy, 1.16.2
熊貓,0.24.2
pyarrow, 0.13.0
相比之下,Databricks Runtime 5.5 LTS(不支持)，新增了以下Python包:asn1crypto、backcall、jedi、kiwisolver、parso和PySocks。
相比之下,Databricks Runtime 5.5 LTS(不支持)以下Python包未安裝:ansi2html, brewer2mpl, colorama, configobj, enum34, et-xmlfile, freetype-py, funcsigs, fusepy, ggplot, html5lib, ipaddress, jdcal, Jinja2, llvmlite, lxml, MarkupSafe, mpld3, msgpack-python, ndg-httpsclient, numba, openpyxl, pathlib2, Pillow, ply, pyasn1, pypng, Python -geohash, scour, simplejson, singledispatch。
的
顯示不再支持Python ggplot對象上的函數，因為ggplot包不兼容新版本的pandas。設置
PYSPARK_PYTHON來/磚/ python2 / bin / python不支持，因為Databricks Runtime 6.0不支持Python 2。具有這種設置的集群仍然可以啟動。然而，Python筆記本和Python命令將無法工作，也就是說，Python命令單元格將失敗，並出現“取消”錯誤和Python殼牌失敗的來開始錯誤將出現在驅動日誌中。如果
PYSPARK_PYTHON指向在由管理的環境中的Python可執行文件Virtualenv，此環境將被激活init腳本、SSH會話和筆記本。您可以使用python而且皮普在激活環境中直接定義的命令，而不必指定這些命令的絕對位置。默認情況下,PYSPARK_PYTHON被設置為/磚/ python3 / bin / python．因此,默認情況下,python指出/磚/ python3 / bin / python而且皮普指出/磚/ python3 / bin /皮普為init腳本、SSH會話和筆記本。如果你的PYSPARK_PYTHON指向一個不在Virtualenv管理的環境中的Python可執行文件，或者如果您正在編寫一個init腳本來創建由PYSPARK_PYTHON，您需要使用絕對路徑來訪問正確的python而且皮普．當Python庫隔離是啟用的(默認是啟用的)，激活的環境仍然是PYSPARK_PYTHON與相關聯。我們建議您使用庫工具(dbutils.library)修改與Python筆記本相關聯的隔離環境。
用於Delta Lake DML命令的Scala和Java api
現在可以使用用於刪除、更新和合並的編程api修改Delta表中的數據。這些api反映了相應SQL命令的語法和語義，適用於許多工作負載，例如，緩慢更改維度(SCD)操作、合並更改數據以進行複製，以及從流查詢中向上插入。
有關詳細信息,請參見什麼是三角洲湖?．
用於Delta Lake實用程序命令的Scala和Java api
Databricks運行時現在有用於真空而且曆史實用程序的命令。這些api反映了Databricks Runtime早期版本中可用的相應SQL命令的語法和語義。
您可以通過運行以下命令來清除Delta表不再引用且超過保留閾值的文件真空在桌子上。運行真空命令遞歸地抽取與Delta表關聯的目錄。缺省情況下，文件的保留閾值為7天。運行後將失去時間旅行回比保留期更早的版本的能力真空．真空不會自動觸發。
方法可以檢索關於每次寫入Delta表的操作、用戶、時間戳等的信息曆史命令。操作按時間順序返回。缺省情況下，表曆史記錄將保留30天。
有關詳細信息,請參見什麼是三角洲湖?．
使用本地文件api優化存儲
本地文件api非常有用，因為它們允許您將底層分布式對象存儲中的文件作為本地文件進行訪問。在Databricks Runtime 6.0中，我們增強了FUSE掛載，使本地文件api能夠解決密鑰限製。Databricks Runtime 6.0顯著提高了讀寫速度，支持大於2gb的文件。如果您需要更快、更可靠的讀寫，例如分布式模型訓練，您會發現這種增強特別有用。此外，您不需要為您的工作負載將數據加載到本地存儲，這既節省了成本，又提高了生產率。
有關詳細信息,請參見什麼是數據庫文件係統(DBFS)?．
多個Azure數據湖存儲Gen1帳戶的服務憑證
現在可以為多個設置服務憑據從Databricks訪問Azure數據湖存儲Gen1在單個Apache Spark會話中使用的帳戶。為此，添加帳戶。<帳戶名稱>到配置鍵。例如，如果您想為帳戶設置訪問兩者的憑據adl: / / example1.azuredatalakestore.net而且adl: / / example2.azuredatalakestore.net，你可以這樣做:
火花．相依．集（“fs.adl.oauth2.access.token.provider.type”，“ClientCredential”）火花．相依．集（“fs.adl.account.example1.oauth2.client.id”，“< application-id-example1 >”）火花．相依．集（“fs.adl.account.example1.oauth2.credential”，dbutils．秘密．得到（範圍＝“< scope-name >”，關鍵＝“< key-name-for-service-credential-example1 >”）)火花．相依．集（“fs.adl.account.example1.oauth2.refresh.url”，“https://login.microsoftonline.com/ < directory-id-example1 > / oauth2 /令牌”）火花．相依．集（“fs.adl.account.example2.oauth2.client.id”，“< application-id-example2 >”）火花．相依．集（“fs.adl.account.example2.oauth2.credential”，dbutils．秘密．得到（範圍＝“< scope-name >”，關鍵＝“< key-name-for-service-credential-example2 >”）)火花．相依．集（“fs.adl.account.example2.oauth2.refresh.url”，“https://login.microsoftonline.com/ < directory-id-example2 > / oauth2 /令牌”）
改進
升級AWS SDK到1.11.596。
將WASB驅動中的Azure Storage SDK升級到7.0。
優化現在提供一個指標的摘要，例如添加的文件數量、刪除的文件數量以及最大和最小文件大小。看到緊湊的數據文件與優化三角洲湖．
刪除
刪除Databricks ML模型導出。使用MLeap用於導入和導出模型。
Apache火花
請注意
這篇文章引用了這個術語奴隸Databricks沒有使用這個術語。當這個術語從軟件中刪除後，我們將從本文中刪除它。
Databricks Runtime 6.0包含Apache Spark 2.4.3。該版本包括所有Spark修複和改進Databricks Runtime 5.5 LTS(不支持)，以及對Spark進行的以下額外bug修複和改進:
(火花- 27992)(火花- 28881)[PYTHON]允許PYTHON加入連接線程傳播錯誤
(火花- 27330)[SS]支持foreach寫入器的任務中止(6.0,5.x)
(火花- 28642)在SHOW CREATE TABLE中隱藏憑據
(火花- 28699)修複了一個終止不確定階段的極端情況
(火花- 28647)[web]恢複附加度量特征
(火花- 28766)修複CRAN對無效URL的傳入可行性警告
(火花- 28486)[CORE][PYTHON]將PythonBroadcast的數據文件映射到BroadcastBlock以避免被GC刪除
(火花- 25035)[CORE]避免磁盤存儲塊複製時的內存映射
(火花- 27234)[SS][PYTHON]在EpochTracker中使用InheritableThreadLocal為當前紀元(以支持PYTHON udf)
(火花- 28638)[web]任務摘要應該隻包含成功任務的指標
(火花- 28153)[PYTHON]在InputFileBlockHolder中使用AtomicReference(使用PYTHON UDF支持input_file_name)
(火花- 28564)[CORE]訪問曆史應用程序默認為最後一次嚐試id
(火花- 28260)集群可以在thriftserver查詢仍在獲取結果時自動終止
(火花- 26152)同步Worker Cleanup和Worker Shutdown
(火花- 28545)[SQL]向ObjectAggregationIterator的方向日誌中添加哈希映射大小
(火花- 28489)[SS]修複kafkaoffsetranecalculator的錯誤。getrange可能會丟失偏移量
(火花- 28421)(毫升)SparseVector。應用性能優化
(火花- 28156)自連接不應該錯過緩存視圖
(火花- 28152)[SQL]將MsSqlServerDialect的ShortType映射為SMALLINT, FloatType映射為REAL
(火花- 28054)修複動態插入Hive分區表時，分區名為大寫的錯誤
(火花- 27159)更新mssql服務器方言以支持二進製類型
(火花- 28355)[CORE][PYTHON]使用Spark conf為com…
(火花- 27989)增加了k8s對連接到驅動程序的重試
(火花- 27416)[SQL] UnsafeMapData & UnsafeArrayData克裏奧序列化…
(火花- 28430)[UI]修複了當某些任務的指標缺失時的階段表渲染
(火花- 27485)EnsureRequirements。重新排序應該優雅地處理重複表達式
(火花- 28404)修複RateStreamContinuousPartitionReader的負超時值
(火花- 28378)[PYTHON]刪除使用cgi.escape
(火花- 28371)[SQL] Make Parquet“startwith”過濾器為空安全的
(火花- 28015)[SQL] Check stringToDate()會消耗yyyy和yyyy-[m]m格式的全部輸入
(火花- 28302)[核心]確保生成唯一的輸出文件SparkLauncher在Windows上
(火花- 28308)在解析之前應該填充CalendarInterval次秒部分
(火花- 28170)[ML][PYTHON]統一向量和矩陣文檔
(火花- 28160)修正了回調函數在未檢查異常時可能掛起的錯誤
(火花- 27839)[SQL]修改UTF8String.replace()操作UTF8字節
(火花- 28157)[CORE] Make SHS clear KVStore .使用實例LogInfo對於被列入黑名單的條目
(火花- 28128)分組的udf跳過空分區
(火花- 28012)Hive UDF支持結構類型可折疊表達式
(火花- 28164)修複的用法描述start-slave.sh
(火花- 27100)[SQL]使用數組而不是Seq在FilePartition為了防止StackOverflowError
(火花- 28154)[ML] GMM修複了雙緩存
係統環境
操作係統Ubuntu 16.04.6 LTS
Java: 1.8.0_232
Scala: 2.11.12
Python: 3.7.3
R: R版本3.6.1 (2019-07-05)
三角洲湖: 0.3.0
請注意
盡管Scala 2.12在Apache Spark 2.4中作為實驗特性可用，但在Databricks Runtime 6.0中不支持它。
安裝Python庫
圖書館 |
版本 |
圖書館 |
版本 |
圖書館 |
版本 |
|---|---|---|---|---|---|
asn1crypto |
0.24.0 |
backcall |
0.1.0 |
寶途 |
2.49.0 |
boto3 |
1.9.162 |
botocore |
1.12.163 |
certifi |
2019.3.9 |
cffi |
1.12.2 |
chardet |
3.0.4 |
密碼學 |
2.6.1 |
周期計 |
0.10.0 |
Cython |
0.29.6 |
裝飾 |
4.4.0 |
docutils |
0.14 |
idna |
2.8 |
ipython |
7.4.0 |
ipython-genutils |
0.2.0 |
絕地武士 |
0.13.3 |
jmespath |
0.9.4 |
kiwisolver |
1.1.0 |
matplotlib |
3.0.3 |
numpy |
1.16.2 |
熊貓 |
0.24.2 |
parso |
0.3.4 |
容易受騙的人 |
0.5.1 |
pexpect |
4.6.0 |
pickleshare |
0.7.5 |
皮普 |
19.0.3 |
prompt-toolkit |
2.0.9 |
psycopg2 |
2.7.6.1 |
ptyprocess |
0.6.0 |
pyarrow |
0.13.0 |
pycparser |
2.19 |
pycurl |
7.43.0 |
Pygments |
2.3.1 |
PyGObject |
3.20.0 |
pyOpenSSL |
19.0.0 |
pyparsing |
2.4.2 |
PySocks |
1.6.8 |
python-apt |
1.1.0.b1 + ubuntu0.16.04.5 |
python-dateutil |
2.8.0 |
pytz |
2018.9 |
請求 |
2.21.0 |
s3transfer |
0.2.1 |
scikit-learn |
0.20.3 |
scipy |
1.2.1 " |
seaborn |
0.9.0 |
setuptools |
40.8.0 |
六個 |
1.12.0 |
ssh-import-id |
5.5 |
statsmodels |
0.9.0 |
traitlets |
4.3.2 |
unattended-upgrades |
0．1 |
urllib3 |
1.24.1 |
virtualenv |
16.4.1 |
wcwidth |
0.1.7 |
輪 |
0.33.1 |
安裝R庫
圖書館 |
版本 |
圖書館 |
版本 |
圖書館 |
版本 |
|---|---|---|---|---|---|
abind |
1.4 - 5 |
askpass |
1．1 |
為了 |
0.2.1 |
補丁 |
1.1.3 |
基地 |
3.6.1 |
base64enc |
0.1 - 3 |
黑洞 |
1.69.0-1 |
位 |
-14 - 1.1 |
bit64 |
0.9 7 |
bitops |
1.0 6 |
團 |
1.1.1 |
引導 |
-23 - 1.3 |
釀造 |
1.0 6 |
callr |
3.2.0 |
車 |
3.0 - 2 |
carData |
3.0 - 2 |
脫字符號 |
-82 - 6.0 |
cellranger |
1.1.0 |
時間 |
-53 - 2.3 |
類 |
-15 - 7.3 |
cli |
1.1.0 |
clipr |
0.5.0 |
clisymbols |
1.2.0 |
集群 |
魅惑 |
codetools |
-16 - 0.2 |
色彩 |
1.4 - 1 |
commonmark |
1.7 |
編譯器 |
3.6.1 |
配置 |
0.3 |
蠟筆 |
1.3.4 |
旋度 |
3．3 |
data.table |
1.12.0 |
數據集 |
3.6.1 |
DBI |
1.0.0 |
dbplyr |
1.3.0 |
desc |
1.2.0 |
devtools |
2.0.1 |
消化 |
0.6.18 |
doMC |
1.3.5 |
dplyr |
0.8.0.1 |
省略 |
0.1.0 |
fansi |
0.4.0 |
forcats |
0.4.0 |
foreach |
1.4.4 |
外國 |
-72 - 0.8 |
打造 |
0.2.0 |
fs |
1.2.7 |
“綠帶運動” |
2.1.5 |
泛型 |
發布 |
ggplot2 |
3.1.0 |
“大酒店” |
1.0.1 |
git2r |
0.25.2 |
glmnet |
-16 - 2.0 |
膠水 |
1.3.1 |
高爾 |
0.2.0 |
圖形 |
3.6.1 |
grDevices |
3.6.1 |
網格 |
3.6.1 |
gridExtra |
2．3 |
gsubfn |
0.7 |
gtable |
0.3.0 |
水 |
3.22.1.1 |
還 |
魅惑 |
hms |
0.4.2 |
htmltools |
0.3.6 |
htmlwidgets |
1.3 |
httr |
1.4.0 |
hwriter |
1.3.2 |
hwriterPlus |
1.0 - 3 |
ini |
0.3.1 |
不小 |
0.9 8 |
迭代器 |
1.0.10 |
jsonlite |
1．6 |
KernSmooth |
-15 - 2.23 |
標簽 |
0.3 |
晶格 |
-38 - 0.20 |
熔岩 |
1.6.5 |
lazyeval |
0.2.2 |
的小 |
0.3.7 |
lme4 |
-21 - 1.1 |
lubridate |
1.7.4 |
magrittr |
1．5 |
mapproj |
1.2.6 |
地圖 |
3.3.0 |
maptools |
0.9 - 5 |
質量 |
7.3 - -51.4 |
矩陣 |
-17 - 1.2 |
MatrixModels |
0.4 - 1 |
memoise |
1.1.0 |
方法 |
3.6.1 |
mgcv |
-28 - 1.8 |
mime |
0.6 |
minqa |
1.2.4 |
ModelMetrics |
1.2.2 |
孟塞爾 |
0.5.0 |
mvtnorm |
-10 - 1.0 |
nlme |
-141 - 3.1 |
nloptr |
1.2.1 " |
nnet |
-12 - 7.3 |
numDeriv |
2016.8 - 1 |
openssl |
1.3 |
openxlsx |
4.1.0 |
平行 |
3.6.1 |
pbkrtest |
0.4 7 |
支柱 |
1.3.1 |
pkgbuild |
1.0.3 |
pkgconfig |
2.0.2 |
pkgKitten |
0.1.4 |
pkgload |
1.0.2中 |
plogr |
0.2.0 |
plyr |
1.8.4 |
讚美 |
1.0.0 |
prettyunits |
1.0.2中 |
pROC |
1.14.0 |
processx |
3.3.0 |
prodlim |
2018.04.18 |
進步 |
1.2.0 |
原型 |
1.0.0 |
ps |
1.3.0 |
purrr |
0.3.2 |
quantreg |
5.38 |
R.methodsS3 |
1.7.1上 |
R.oo |
1.22.0 |
R.utils |
2.8.0 |
r2d3 |
0.2.3 |
R6 |
測試盒框 |
randomForest |
-14 - 4.6 |
rappdirs |
0.3.1 |
rcmdcheck |
1.3.2 |
RColorBrewer |
1.1 - 2 |
Rcpp |
1.0.1 |
RcppEigen |
0.3.3.5.0 |
RcppRoll |
0.3.0 |
RCurl |
1.95 - -4.12 |
readr |
1.3.1 |
readxl |
1.3.1 |
食譜 |
0.1.5 |
複賽 |
1.0.1 |
遙控器 |
2.0.2 |
reshape2 |
3 |
裏約熱內盧 |
0.5.16 |
rlang |
0.3.3 |
RODBC |
-15 - 1.3 |
roxygen2 |
但是 |
rpart |
-15 - 4.1 |
rprojroot |
1.3 - 2 |
Rserve |
1.8 6 |
RSQLite |
2.1.1 |
rstudioapi |
0．10 |
尺度 |
1.0.0 |
sessioninfo |
1.1.1 |
sp |
1.3 - 1 |
sparklyr |
1.0.0 |
SparkR |
2.4.4 |
SparseM |
1.77 |
空間 |
-11 - 7.3 |
樣條函數 |
3.6.1 |
sqldf |
-11 - 0.4 |
SQUAREM |
2017.10 - 1 |
statmod |
1.4.30 |
統計數據 |
3.6.1 |
stats4 |
3.6.1 |
stringi |
3 |
stringr |
1.4.0 |
生存 |
2.44 - -1.1 |
sys |
3．1 |
tcltk |
3.6.1 |
TeachingDemos |
2.10 |
testthat |
2.0.1 |
寵物貓 |
2.1.1 |
tidyr |
0.8.3 |
tidyselect |
0.2.5 |
timeDate |
3043.102 |
工具 |
3.6.1 |
usethis |
1.4.0 |
use utf8 |
1.1.4 |
跑龍套 |
3.6.1 |
viridisLite |
0.3.0 |
晶須 |
0.3 - 2 |
withr |
2.1.2 |
xml2 |
1.2.0 |
xopen |
1.0.0 |
yaml |
2.2.0 |
郵政編碼 |
2.0.1 |
已安裝的Java和Scala庫(Scala 2.11集群版本)
組ID |
工件ID |
版本 |
|---|---|---|
antlr |
antlr |
2.7.7 |
com.amazonaws |
amazon-kinesis-client |
1.8.10 |
com.amazonaws |
aws-java-sdk-autoscaling |
1.11.595 |
com.amazonaws |
aws-java-sdk-cloudformation |
1.11.595 |
com.amazonaws |
aws-java-sdk-cloudfront |
1.11.595 |
com.amazonaws |
aws-java-sdk-cloudhsm |
1.11.595 |
com.amazonaws |
aws-java-sdk-cloudsearch |
1.11.595 |
com.amazonaws |
aws-java-sdk-cloudtrail |
1.11.595 |
com.amazonaws |
aws-java-sdk-cloudwatch |
1.11.595 |
com.amazonaws |
aws-java-sdk-cloudwatchmetrics |
1.11.595 |
com.amazonaws |
aws-java-sdk-codedeploy |
1.11.595 |
com.amazonaws |
aws-java-sdk-cognitoidentity |
1.11.595 |
com.amazonaws |
aws-java-sdk-cognitosync |
1.11.595 |
com.amazonaws |
aws-java-sdk-config |
1.11.595 |
com.amazonaws |
aws-java-sdk-core |
1.11.595 |
com.amazonaws |
aws-java-sdk-datapipeline |
1.11.595 |
com.amazonaws |
aws-java-sdk-directconnect |
1.11.595 |
com.amazonaws |
aws-java-sdk-directory |
1.11.595 |
com.amazonaws |
aws-java-sdk-dynamodb |
1.11.595 |
com.amazonaws |
aws-java-sdk-ec2 |
1.11.595 |
com.amazonaws |
aws-java-sdk-ecs |
1.11.595 |
com.amazonaws |
aws-java-sdk-efs |
1.11.595 |
com.amazonaws |
aws-java-sdk-elasticache |
1.11.595 |
com.amazonaws |
aws-java-sdk-elasticbeanstalk |
1.11.595 |
com.amazonaws |
aws-java-sdk-elasticloadbalancing |
1.11.595 |
com.amazonaws |
aws-java-sdk-elastictranscoder |
1.11.595 |
com.amazonaws |
aws-java-sdk-emr |
1.11.595 |
com.amazonaws |
aws-java-sdk-glacier |
1.11.595 |
com.amazonaws |
aws-java-sdk-glue |
1.11.595 |
com.amazonaws |
aws-java-sdk-iam |
1.11.595 |
com.amazonaws |
aws-java-sdk-importexport |
1.11.595 |
com.amazonaws |
aws-java-sdk-kinesis |
1.11.595 |
com.amazonaws |
aws-java-sdk-kms |
1.11.595 |
com.amazonaws |
aws-java-sdk-lambda |
1.11.595 |
com.amazonaws |
aws-java-sdk-logs |
1.11.595 |
com.amazonaws |
aws-java-sdk-machinelearning |
1.11.595 |
com.amazonaws |
aws-java-sdk-opsworks |
1.11.595 |
com.amazonaws |
aws-java-sdk-rds |
1.11.595 |
com.amazonaws |
aws-java-sdk-redshift |
1.11.595 |
com.amazonaws |
aws-java-sdk-route53 |
1.11.595 |
com.amazonaws |
aws-java-sdk-s3 |
1.11.595 |
com.amazonaws |
aws-java-sdk-ses |
1.11.595 |
com.amazonaws |
aws-java-sdk-simpledb |
1.11.595 |
com.amazonaws |
aws-java-sdk-simpleworkflow |
1.11.595 |
com.amazonaws |
aws-java-sdk-sns |
1.11.595 |
com.amazonaws |
aws-java-sdk-sqs |
1.11.595 |
com.amazonaws |
aws-java-sdk-ssm |
1.11.595 |
com.amazonaws |
aws-java-sdk-storagegateway |
1.11.595 |
com.amazonaws |
aws-java-sdk-sts |
1.11.595 |
com.amazonaws |
aws-java-sdk-support |
1.11.595 |
com.amazonaws |
aws-java-sdk-swf-libraries |
1.11.22 |
com.amazonaws |
aws-java-sdk-workspaces |
1.11.595 |
com.amazonaws |
jmespath-java |
1.11.595 |
com.carrotsearch |
hppc |
0.7.2 |
com.chuusai |
shapeless_2.11 |
2.3.2 |
com.clearspring.analytics |
流 |
2.7.0 |
com.databricks |
Rserve |
1.8 - 3 |
com.databricks |
dbml-local_2.11 |
0.5.0-db8-spark2.4 |
com.databricks |
dbml-local_2.11-tests |
0.5.0-db8-spark2.4 |
com.databricks |
jets3t |
0.7.1-0 |
com.databricks.scalapb |
compilerplugin_2.11 |
0.4.15-9 |
com.databricks.scalapb |
scalapb-runtime_2.11 |
0.4.15-9 |
com.esotericsoftware |
kryo-shaded |
4.0.2 |
com.esotericsoftware |
minlog |
1.3.0 |
com.fasterxml |
同學 |
1.0.0 |
com.fasterxml.jackson.core |
jackson-annotations |
2.6.7 |
com.fasterxml.jackson.core |
jackson-core |
2.6.7 |
com.fasterxml.jackson.core |
jackson-databind |
2.6.7.1 |
com.fasterxml.jackson.dataformat |
jackson-dataformat-cbor |
2.6.7 |
com.fasterxml.jackson.datatype |
jackson-datatype-joda |
2.6.7 |
com.fasterxml.jackson.module |
jackson-module-paranamer |
2.6.7 |
com.fasterxml.jackson.module |
jackson-module-scala_2.11 |
2.6.7.1 |
com.github.fommil |
jniloader |
1．1 |
com.github.fommil.netlib |
核心 |
1.1.2 |
com.github.fommil.netlib |
native_ref-java |
1．1 |
com.github.fommil.netlib |
native_ref-java-natives |
1．1 |
com.github.fommil.netlib |
native_system-java |
1．1 |
com.github.fommil.netlib |
native_system-java-natives |
1．1 |
com.github.fommil.netlib |
netlib-native_ref-linux-x86_64-natives |
1．1 |
com.github.fommil.netlib |
netlib-native_system-linux-x86_64-natives |
1．1 |
com.github.luben |
zstd-jni |
1.3.2-2 |
com.github.rwl |
jtransforms |
測試盒框 |
com.google.code.findbugs |
jsr305 |
2.0.1 |
com.google.code.gson |
gson |
2.2.4 |
com.google.guava |
番石榴 |
15.0 |
com.google.protobuf |
protobuf-java |
2.6.1 |
com.googlecode.javaewah |
JavaEWAH |
0.3.2 |
com.h2database |
h2 |
1.3.174 |
com.jcraft |
jsch |
0.1.50 |
com.jolbox |
bonecp |
0.8.0.RELEASE |
com.microsoft.azure |
azure-data-lake-store-sdk |
2.2.8 |
com.microsoft.azure |
azure存儲 |
7.0.0 |
com.microsoft.sqlserver |
mssql-jdbc |
6.2.2.jre8 |
com.ning |
compress-lzf |
1.0.3 |
com.sun.mail |
javax.mail |
1.5.2 |
com.thoughtworks.paranamer |
paranamer |
2.8 |
com.trueaccord.lenses |
lenses_2.11 |
0.3 |
com.twitter |
chill-java |
0.9.3 |
com.twitter |
chill_2.11 |
0.9.3 |
com.twitter |
parquet-hadoop-bundle |
1.6.0 |
com.twitter |
util-app_2.11 |
6.23.0 |
com.twitter |
util-core_2.11 |
6.23.0 |
com.twitter |
util-jvm_2.11 |
6.23.0 |
com.typesafe |
配置 |
1.2.1 " |
com.typesafe.scala-logging |
scala-logging-api_2.11 |
2.1.2 |
com.typesafe.scala-logging |
scala-logging-slf4j_2.11 |
2.1.2 |
com.univocity |
univocity-parsers |
2.7.3 |
com.vlkan |
flatbuffers |
1.2.0-3f79e055 |
com.zaxxer |
HikariCP |
3.1.0 |
commons-beanutils |
commons-beanutils |
1.9.3 |
commons-cli |
commons-cli |
1．2 |
commons-codec |
commons-codec |
1.10 |
commons-collections |
commons-collections |
3.2.2 |
commons configuration |
commons configuration |
1．6 |
commons-dbcp |
commons-dbcp |
1．4 |
commons-digester |
commons-digester |
1．8 |
commons-httpclient |
commons-httpclient |
3．1 |
commons-io |
commons-io |
2.4 |
commons lang |
commons lang |
2.6 |
通用日誌 |
通用日誌 |
1.1.3 |
commons net |
commons net |
3．1 |
commons-pool |
commons-pool |
1.5.4 |
info.ganglia.gmetric4j |
gmetric4j |
1.0.7 |
io.airlift |
aircompressor |
0．10 |
io.dropwizard.metrics |
metrics-core |
3.1.5 |
io.dropwizard.metrics |
metrics-ganglia |
3.1.5 |
io.dropwizard.metrics |
metrics-graphite |
3.1.5 |
io.dropwizard.metrics |
metrics-healthchecks |
3.1.5 |
io.dropwizard.metrics |
metrics-jetty9 |
3.1.5 |
io.dropwizard.metrics |
metrics-json |
3.1.5 |
io.dropwizard.metrics |
metrics-jvm |
3.1.5 |
io.dropwizard.metrics |
metrics-log4j |
3.1.5 |
io.dropwizard.metrics |
metrics-servlets |
3.1.5 |
io.netty |
網狀的 |
3.9.9.Final |
io.netty |
netty-all |
4.1.17.Final |
javax.activation |
激活 |
1.1.1 |
javax.annotation |
javax.annotation-api |
1．2 |
javax.el |
javax.el-api |
2.2.4 |
javax.jdo |
jdo api |
3.0.1 |
javax.servlet |
javax.servlet-api |
3.1.0 |
javax.servlet.jsp |
jsp-api |
2.1 |
javax.transaction |
jta |
1．1 |
javax.validation |
驗證api |
1.1.0.Final |
javax.ws.rs |
javax.ws.rs-api |
2.0.1 |
javax.xml.bind |
jaxb-api |
2.2.2 |
javax.xml.stream |
stax-api |
1.0 - 2 |
javolution |
javolution |
5.5.1 |
jline |
jline |
2.14.6 |
joda-time |
joda-time |
2.9.3 |
junit |
junit |
4.12 |
log4j |
apache-log4j-extras |
1.2.17 |
log4j |
log4j |
1.2.17 |
net.hydromatic |
eigenbase-properties |
1.1.5 |
net.razorvine |
地幔岩 |
4.13 |
net.sf.jpam |
jpam |
1．1 |
net.sf.opencsv |
opencsv |
2．3 |
net.sf.supercsv |
super-csv |
2.2.0 |
net.snowflake |
snowflake-ingest-sdk |
0.9.5 |
net.snowflake |
snowflake-jdbc |
3.6.15 |
net.snowflake |
spark-snowflake_2.11 |
2.4.10-spark_2.4 |
net.sourceforge.f2j |
arpack_combined_all |
0．1 |
org.acplt |
oncrpc |
1.0.7 |
org.antlr |
ST4 |
4.0.4 |
org.antlr |
antlr-runtime |
3.4 |
org.antlr |
antlr4-runtime |
4．7 |
org.antlr |
stringtemplate |
3.2.1之上 |
org.apache.ant |
螞蟻 |
1.9.2 |
org.apache.ant |
ant-jsch |
1.9.2 |
org.apache.ant |
ant-launcher |
1.9.2 |
org.apache.arrow |
arrow-format |
0.10.0 |
org.apache.arrow |
arrow-memory |
0.10.0 |
org.apache.arrow |
arrow-vector |
0.10.0 |
org.apache.avro |
avro |
1.8.2 |
org.apache.avro |
avro-ipc |
1.8.2 |
org.apache.avro |
avro-mapred-hadoop2 |
1.8.2 |
org.apache.calcite |
calcite-avatica |
1.2.0-incubating |
org.apache.calcite |
calcite-core |
1.2.0-incubating |
org.apache.calcite |
calcite-linq4j |
1.2.0-incubating |
org.apache.commons |
commons-compress |
1.8.1 |
org.apache.commons |
commons-crypto |
1.0.0 |
org.apache.commons |
commons-lang3 |
3．5 |
org.apache.commons |
commons-math3 |
3.4.1 |
org.apache.curator |
curator-client |
2.7.1 |
org.apache.curator |
curator-framework |
2.7.1 |
org.apache.curator |
curator-recipes |
2.7.1 |
org.apache.derby |
德比 |
10.12.1.1 |
org.apache.directory.api |
api-asn1-api |
1.0.0-M20 |
org.apache.directory.api |
api-util |
1.0.0-M20 |
org.apache.directory.server |
apacheds-i18n |
2.0.0-M15 |
org.apache.directory.server |
apacheds-kerberos-codec |
2.0.0-M15 |
org.apache.hadoop |
hadoop-annotations |
2.7.3 |
org.apache.hadoop |
hadoop-auth |
2.7.3 |
org.apache.hadoop |
hadoop-client |
2.7.3 |
org.apache.hadoop |
hadoop-common |
2.7.3 |
org.apache.hadoop |
hadoop-hdfs |
2.7.3 |
org.apache.hadoop |
hadoop-mapreduce-client-app |
2.7.3 |
org.apache.hadoop |
hadoop-mapreduce-client-common |
2.7.3 |
org.apache.hadoop |
hadoop-mapreduce-client-core |
2.7.3 |
org.apache.hadoop |
hadoop-mapreduce-client-jobclient |
2.7.3 |
org.apache.hadoop |
hadoop-mapreduce-client-shuffle |
2.7.3 |
org.apache.hadoop |
hadoop-yarn-api |
2.7.3 |
org.apache.hadoop |
hadoop-yarn-client |
2.7.3 |
org.apache.hadoop |
hadoop-yarn-common |
2.7.3 |
org.apache.hadoop |
hadoop-yarn-server-common |
2.7.3 |
org.apache.htrace |
htrace-core |
3.1.0-incubating |
org.apache.httpcomponents |
httpclient |
4.5.6 |
org.apache.httpcomponents |
httpcore |
4.4.10 |
org.apache.ivy |
艾薇 |
測試盒框 |
org.apache.orc |
orc-core-nohive |
1.5.5 |
org.apache.orc |
orc-mapreduce-nohive |
1.5.5 |
org.apache.orc |
orc-shims |
1.5.5 |
org.apache.parquet |
parquet-column |
1.10.1.2-databricks3 |
org.apache.parquet |
parquet-common |
1.10.1.2-databricks3 |
org.apache.parquet |
parquet-encoding |
1.10.1.2-databricks3 |
org.apache.parquet |
parquet-format |
測試盒框 |
org.apache.parquet |
parquet-hadoop |
1.10.1.2-databricks3 |
org.apache.parquet |
parquet-jackson |
1.10.1.2-databricks3 |
org.apache.thrift |
libfb303 |
0.9.3 |
org.apache.thrift |
libthrift |
0.9.3 |
org.apache.xbean |
xbean-asm6-shaded |
4.8 |
org.apache.zookeeper |
動物園管理員 |
3.4.6 |
org.codehaus.jackson |
jackson-core-asl |
1.9.13 |
org.codehaus.jackson |
jackson-jaxrs |
1.9.13 |
org.codehaus.jackson |
jackson-mapper-asl |
1.9.13 |
org.codehaus.jackson |
jackson-xc |
1.9.13 |
org.codehaus.janino |
commons-compiler |
3.0.10 |
org.codehaus.janino |
janino |
3.0.10 |
org.datanucleus |
datanucleus-api-jdo |
3.2.6 |
org.datanucleus |
datanucleus-core |
3.2.10 |
org.datanucleus |
datanucleus-rdbms |
3.2.9 |
org.eclipse.jetty |
jetty-client |
9.3.27.v20190418 |
org.eclipse.jetty |
jetty-continuation |
9.3.27.v20190418 |
org.eclipse.jetty |
jetty-http |
9.3.27.v20190418 |
org.eclipse.jetty |
jetty-io |
9.3.27.v20190418 |
org.eclipse.jetty |
jetty-jndi |
9.3.27.v20190418 |
org.eclipse.jetty |
jetty-plus |
9.3.27.v20190418 |
org.eclipse.jetty |
jetty-proxy |
9.3.27.v20190418 |
org.eclipse.jetty |
jetty-security |
9.3.27.v20190418 |
org.eclipse.jetty |
jetty服務器 |
9.3.27.v20190418 |
org.eclipse.jetty |
jetty servlet |
9.3.27.v20190418 |
org.eclipse.jetty |
jetty-servlets |
9.3.27.v20190418 |
org.eclipse.jetty |
jetty-util |
9.3.27.v20190418 |
org.eclipse.jetty |
jetty-webapp |
9.3.27.v20190418 |
org.eclipse.jetty |
jetty-xml |
9.3.27.v20190418 |
org.fusesource.leveldbjni |
leveldbjni-all |
1．8 |
org.glassfish.hk2 |
hk2-api |
2.4.0-b34 |
org.glassfish.hk2 |
hk2-locator |
2.4.0-b34 |
org.glassfish.hk2 |
hk2-utils |
2.4.0-b34 |
org.glassfish.hk2 |
osgi-resource-locator |
1.0.1 |
org.glassfish.hk2.external |
aopalliance-repackaged |
2.4.0-b34 |
org.glassfish.hk2.external |
javax.inject |
2.4.0-b34 |
org.glassfish.jersey.bundles.repackaged |
jersey-guava |
2.22.2 |
org.glassfish.jersey.containers |
jersey-container-servlet |
2.22.2 |
org.glassfish.jersey.containers |
jersey-container-servlet-core |
2.22.2 |
org.glassfish.jersey.core |
jersey客戶端 |
2.22.2 |
org.glassfish.jersey.core |
jersey-common |
2.22.2 |
org.glassfish.jersey.core |
jersey-server |
2.22.2 |
org.glassfish.jersey.media |
jersey-media-jaxb |
2.22.2 |
org.hamcrest |
hamcrest-core |
1.3 |
org.hamcrest |
hamcrest-library |
1.3 |
org.hibernate |
hibernate驗證框架 |
5.1.1.Final |
org.iq80.snappy |
時髦的 |
0.2 |
org.javassist |
javassist |
3.18.1-GA |
org.jboss.logging |
jboss-logging |
3.1.3.GA |
org.jdbi |
jdbi |
2.63.1 |
org.joda |
joda-convert |
1.7 |
org.jodd |
jodd-core |
3.5.2 |
org.json4s |
json4s-ast_2.11 |
3.5.3 |
org.json4s |
json4s-core_2.11 |
3.5.3 |
org.json4s |
json4s-jackson_2.11 |
3.5.3 |
org.json4s |
json4s-scalap_2.11 |
3.5.3 |
org.lz4 |
lz4-java |
1.4.0 |
org.mariadb.jdbc |
mariadb-java-client |
2.1.2 |
org.mockito |
mockito-core |
1.10.19 |
org.objenesis |
objenesis |
2.5.1 |
org.postgresql |
postgresql |
42.1.4 |
org.roaringbitmap |
RoaringBitmap |
0.7.45 |
org.roaringbitmap |
墊片 |
0.7.45 |
org.rocksdb |
rocksdbjni |
6.2.2 |
org.rosuda.REngine |
REngine |
魅惑 |
org.scala-lang |
scala-compiler_2.11 |
2.11.12 |
org.scala-lang |
scala-library_2.11 |
2.11.12 |
org.scala-lang |
scala-reflect_2.11 |
2.11.12 |
org.scala-lang.modules |
scala-parser-combinators_2.11 |
1.1.0 |
org.scala-lang.modules |
scala-xml_2.11 |
1.0.5 |
org.scala-sbt |
測試界麵 |
1．0 |
org.scalacheck |
scalacheck_2.11 |
1.12.5 |
org.scalactic |
scalactic_2.11 |
3.0.3 |
org.scalanlp |
breeze-macros_2.11 |
0.13.2 |
org.scalanlp |
breeze_2.11 |
0.13.2 |
org.scalatest |
scalatest_2.11 |
3.0.3 |
org.slf4j |
jcl-over-slf4j |
1.7.16 |
org.slf4j |
jul-to-slf4j |
1.7.16 |
org.slf4j |
slf4j-api |
1.7.16 |
org.slf4j |
slf4j-log4j12 |
1.7.16 |
org.spark-project.hive |
hive-beeline |
1.2.1.spark2 |
org.spark-project.hive |
hive-cli |
1.2.1.spark2 |
org.spark-project.hive |
hive-jdbc |
1.2.1.spark2 |
org.spark-project.hive |
hive-metastore |
1.2.1.spark2 |
org.spark-project.spark |
未使用的 |
1.0.0 |
org.spire-math |
spire-macros_2.11 |
0.13.0 |
org.spire-math |
spire_2.11 |
0.13.0 |
org.springframework |
spring核心 |
4.1.4.RELEASE |
org.springframework |
spring測試 |
4.1.4.RELEASE |
org.tukaani |
xz |
1．5 |
org.typelevel |
machinist_2.11 |
0.6.1 |
org.typelevel |
macro-compat_2.11 |
1.1.1 |
org.xerial |
sqlite-jdbc |
3.8.11.2 |
org.xerial.snappy |
snappy-java |
1.1.7.3 |
org.yaml |
snakeyaml |
1.16 |
奧羅 |
奧羅 |
2.0.8 |
software.amazon.ion |
ion-java |
1.0.2中 |
stax |
stax-api |
1.0.1 |
xmlenc |
xmlenc |
0.52 |