Databricks Runtime 10.0(不支持)
以下發布說明提供了有關Databricks Runtime 10.0和Databricks Runtime 10.0 Photon的信息,由Apache Spark 3.2.0提供支持。Databricks於2021年10月發布了這些圖像。光子是在公共預覽.
新功能和改進
Apache Spark的新版本
Databricks Runtime 10.0和Databricks Runtime 10.0 Photon包含Apache Spark 3.2.0。詳細信息請參見Apache火花.
SELECT語句現在支持qualifier子句來過濾窗口函數的結果
的選擇
語句現在支持有資格
條款。有資格
可用於篩選窗口函數的結果。類中必須有一個或多個窗口函數選擇
列表或有資格
條件。例如:
選擇*從t有資格總和(c2)在(分區通過c1)>0;
JDK 11的集群支持(公開預覽)
Databricks現在為Java Development Kit (JDK) 11提供集群支持。
創建集群時,可以指定集群使用JDK 11(對於驅動程序和執行程序)。為此,將以下環境變量添加到高級選項> Spark >環境變量:
JNAME=zulu11-ca-amd64
自動加載器現在將模式視為可空
自動加載器現在默認將所有推斷的和用戶提供的模式視為空。這是為了避免在數據包含非空列的空字段時發生潛在的數據損壞。引入了一個新的配置來跟蹤這種行為,spark.databricks.cloudFiles.schema.forceNullable
.缺省情況下,此配置包含的設置spark.sql.streaming.fileSource.schema.forceNullable
, Apache Spark中的FileStreamSource使用並設置為真正的
默認情況下。
突發的變化
中斷所有Spark SQL用戶的更改
新
spark.databricks.behaviorChange.SC78546CorrelatedPredicate.enabled
配置:設置為時真正的
,允許在聚合子查詢時使用相關相等謂詞的子集。默認設置為真正的
.新
spark.databricks.behaviorChange.SC82201BlockAutoAlias.enabled
配置:設置為時真正的
,在創建視圖時阻止自動生成別名。默認設置為真正的
.新
spark.databricks.behaviorChange.SC81078CTASWithLocation.enabled
配置:設置為時真正的
,不允許創建表格作為選擇
使用非空位置。默認設置為真正的
.注意當spark.sql.legacy.allowNonEmptyLocationInCTAS
也設置為真正的
,此配置無效,且創建表格作為選擇
使用非空位置總是允許的。
對啟用ANSI模式的Spark SQL用戶的破壞更改
有關ANSI模式的信息,請參見ANSI合規.
新
spark.databricks.behaviorChange.SC83587NextDayDOW.enabled
配置:設置為時真正的
,無效的dayOfWeek
的參數next_day
函數拋出IllegalArgumentException
在ANSI模式;否則它會返回零
.默認設置為真正的
.新
spark.databricks.behaviorChange.SC83796CanCast.enabled
配置:設置為時真正的
,在ANSI模式下啟用新的顯式強製轉換語法規則。默認設置為真正的
.新
spark.databricks.behaviorChange.SC79099CastStringToBoolean.enabled
配置:設置為時真正的
,將字符串轉換為布爾類型時拋出解析錯誤異常;否則,返回零
.默認設置為真正的
.新
spark.databricks.behaviorChange.SC79064AbsOutsideRange.enabled
配置:設置為時真正的
,腹肌
函數在輸入超出範圍時拋出異常。默認設置為真正的
.
庫升級
Apache Hadoop 3升級
Databricks Runtime 10.0將Hadoop依賴從Hadoop 2.7.4升級到Hadoop 3.3.1。
行為變化
Hadoop 3使用hadoop-client-api而且hadoop-client-runtime而不是hadoop-common庫,它掩蓋了某些可能在Hadoop公共api或擴展中使用的第三方依賴關係。
從Hadoop 2開始,Hadoop 3的配置選項已經發生了變化。有關Hadoop 3.3.1選項,請參見core-default.xml.
Databricks已經更新了Hadoop 3的一些默認配置,以與Hadoop 2保持一致,以確保存儲連接器具有相同的默認身份驗證設置和性能級別:
fs.azure.authorization.caching.enable
=假
fs.s3a.attempts.maximum
=10
fs.s3a.block.size
=67108864
fs.s3a.connection.timeout
=50000
fs.s3a.max.total.tasks
=1000
fs.s3a.retry.limit
=20.
fs.s3a.retry.throttle.interval
=500毫秒
fs.s3a.assumed.role.credentials.provider
=com.amazonaws.auth.InstanceProfileCredentialsProvider
fs.s3a.aws.credentials.provider
=BasicAWSCredentialsProvider,DatabricksInstanceProfileCredentialsProvider,EnvironmentVariableCredentialsProvider,AnonymousAWSCredentialsProvider
穀歌GCS連接器從2.1.6升級到2.2.2。
Amazon紅移連接器現在使用
s3a: / /
計劃。的s3n: / /
方案已棄用。處理Amazon S3元數據存儲API的OSS類名以及陰影類。這樣就可以處理OSS配置,而不需要陰影類名。
例如,可以指定
org.apache.hadoop.fs.s3a.s3guard.NullMetadataStore
類在Hadoop配置中。
使
新配置()
而且sparkContext.hadoopConfiguration
一致的。現在,每次創建新的Hadoop配置時,它都將與中預定義的Hadoop配置保持一致
sparkContext.hadoopConfiguration
,包括文件係統方案及其默認配置。
盡管Databricks Runtime中包含的Hadoop存儲連接器與Hadoop 3.3.1完全兼容,但它們並不保證與OSS Hadoop 3.3.1連接器同步,並且可能具有不同的行為。
Amazon S3連接器仍然允許(盡管帶有警告)在S3 url中進行user:秘密身份驗證hadoop - 14833這樣就把它去掉了。
globStatus現在總是返回排序結果(hadoop - 10798)
fs.s3a補充道。端點如果未設置和fs.s3a。端點區域為空(火星- 35878)
由於正在設置全局端點,Databricks提供的Amazon S3區域自動解析在某些情況下可能不會觸發。這不是問題,因為AWS SDK將正確地解析區域。
添加fs.s3a.downgrade.syncable。如未設置例外情況(火星- 35868)
LZ4和Snappy編解碼器不依賴於原生Hadoop庫(hadoop - 17125)
已知的問題
火星- 36681使用SnappyCodec寫序列文件將失敗與UnsatisfiedLinkError由於已知的問題在Hadoop 3.3.1(hadoop - 17891)
Apache火花
Databricks Runtime 10.0包含Apache Spark 3.2.0。
Core和Spark SQL
連接器的增強
功能增強
子查詢
改進相關子查詢(火星- 35553)
新的內置函數
默認使用Apache Hadoop 3.3.1 (火星- 29250)
為shuffle塊添加校驗和(火星- 35275)
默認啟用spark.storage.replication.proactive (火星- 33870)
在停止SparkContext期間支持回退存儲清理(火星- 34142)
支持從Scala數據集API的Java枚舉(火星- 23862)
與常春藤坐標的ADD JAR應該與Hive傳遞行為兼容(火星- 34506)
支持添加檔案和列表檔案命令(火星- 34603)
支持多路徑ADD FILE/JAR/ARCHIVE命令(火星- 35105)
支持存檔文件作為CREATE FUNCTION USING語法的資源(火星- 35236)
從ServiceLoader加載SparkSessionExtensions (火星- 35380)
{scala,py}(火星- 35418)
對使用Hive metastore進行分區管理的非Hive表應用spark.sql.hive.metastorePartitionPruning (火星- 36128)
向Web UI傳播exec丟失的原因(火星- 34764)
避免內聯不確定的與- ctes (火星- 36447)
支持分析特定數據庫中的所有表(火星- 33687)
在Spark中標準化異常消息(火星- 33539)
支持(IGNORE | RESPECT) null的LEAD/LAG/NTH_VALUE/FIRST_VALUE/LAST_VALUE(火星- 30789)
其他顯著變化
監控
將count_distinct作為選項添加到數據集#summary(火星- 34165)
在sql/core中實現ScriptTransform火星- 31936)
使BlockManagerMaster驅動程序心跳超時可配置(火星- 34278)
使shuffle服務名在客戶端可配置,並允許在服務器端基於類路徑的配置重寫(火星- 34828)
ExecutorMetricsPoller應該在stageTCMP中保留階段條目,直到心跳發生(火星- 34779)
用rewritedistincttotals中的篩選子句替換if (火星- 34882)
修複在自連接上應用CostBasedJoinReorder時失敗的問題火星- 34354)
創建表LIKE應尊重保留表屬性(火星- 34935)
在YARN集群模式下將ivySettings文件發送到驅動程序(火星- 34472)
解析USING/NATURAL JOIN中的重複公共列(火星- 34527)
隱藏描述表cmd的內部視圖屬性火星- 35318)
支持解決分發/集群/重分區提示丟失的attrs (火星- 35331)
檢查FileStreamSink.hasMetadata中的路徑時忽略錯誤。火星- 34526)
通過推斷缺失的配置來改進s3a魔術提交器支持(火星- 35383)
允許省略:在STRUCT類型字符串(火星- 35706)
添加一個新的操作符來區分AQE是否可以安全優化(火星- 35786)
附加新的嵌套結構字段,而不是為unionByName用空填充排序(火星- 35290)
ArraysZip應該保留字段名稱,以避免被分析器/優化器重寫(火星- 35876)
使用Void作為NullType的類型名(火星- 36224)
引入新的API FileCommitProtocol允許靈活的文件命名(火星- 33298)
結構化流
PySpark
項目禪
行為的改變
看到遷移向導.
係統環境
操作係統: Ubuntu 20.04.3 LTS
Java: Zulu 8.56.0.21-CA-linux64
Scala: 2.12.14
Python: 3.8.10
R:以下4.4.1
三角洲湖: 1.0.0
已安裝的Python庫
圖書館 |
版本 |
圖書館 |
版本 |
圖書館 |
版本 |
---|---|---|---|---|---|
Antergos Linux |
2015.10 (ISO-Rolling) |
appdirs |
1.4.4 |
backcall |
0.2.0 |
boto3 |
1.16.7 |
botocore |
1.19.7 |
certifi |
2020.12.5 |
chardet |
4.0.0 |
周期計 |
0.10.0 |
Cython |
0.29.23 |
dbus-python |
1.2.16 |
裝飾 |
5.0.6 |
distlib |
0.3.3 |
distro-info |
0.23 ubuntu1 |
facets-overview |
1.0.0 |
filelock |
3.0.12 |
idna |
2.10 |
ipykernel |
5.3.4 |
ipython |
7.22.0 |
ipython-genutils |
0.2.0 |
絕地武士 |
0.17.2 |
jmespath |
0.10.0 |
joblib |
1.0.1 |
jupyter-client |
6.1.12 |
jupyter-core |
4.7.1 |
kiwisolver |
1.3.1 |
考拉 |
1.8.1 |
matplotlib |
3.4.2 |
numpy |
1.19.2 |
熊貓 |
1.2.4 |
parso |
0.7.0 |
容易受騙的人 |
0.5.1 |
pexpect |
4.8.0 |
pickleshare |
0.7.5 |
枕頭 |
8.2.0 |
皮普 |
21.0.1 |
情節 |
5.1.0 |
prompt-toolkit |
3.0.17 |
protobuf |
3.17.2 |
psycopg2 |
2.8.5 |
ptyprocess |
0.7.0 |
pyarrow |
4.0.0 |
Pygments |
2.8.1發布 |
PyGObject |
3.36.0 |
pyparsing |
2.4.7 |
python-apt |
2.0.0 + ubuntu0.20.4.6 |
python-dateutil |
2.8.1發布 |
pytz |
2020.5 |
pyzmq |
20.0.0 |
請求 |
2.25.1 |
requests-unixsocket |
0.2.0 |
s3transfer |
0.3.7 |
scikit-learn |
0.24.1 |
scipy |
1.6.2 |
seaborn |
0.11.1 |
setuptools |
52.0.0 |
六個 |
1.15.0 |
ssh-import-id |
5.10 |
statsmodels |
0.12.2 |
韌性 |
8.0.1 |
threadpoolctl |
魅惑 |
龍卷風 |
6.1 |
traitlets |
5.0.5 |
unattended-upgrades |
0.1 |
urllib3 |
1.25.11 |
virtualenv |
20.4.1 |
wcwidth |
0.2.5 |
輪 |
0.36.2 |
已安裝的R庫
圖書館 |
版本 |
圖書館 |
版本 |
圖書館 |
版本 |
---|---|---|---|---|---|
askpass |
1.1 |
為了 |
0.2.1 |
補丁 |
1.2.1 " |
基地 |
以下4.4.1 |
base64enc |
0.1 - 3 |
位 |
4.0.4 |
bit64 |
你 |
團 |
1.2.2 |
引導 |
-28 - 1.3 |
釀造 |
1.0 6 |
生動 |
1.1.2 |
掃帚 |
0.7.9 |
bslib |
0.3.0 |
cachem |
1.0.6 |
callr |
3.7.0 |
脫字符號 |
-88 - 6.0 |
cellranger |
1.1.0 |
時間 |
-56 - 2.3 |
類 |
-19 - 7.3 |
cli |
3.0.1 |
clipr |
是0.7.1 |
集群 |
2.1.2 |
codetools |
-18 - 0.2 |
色彩 |
2.0 - 2 |
commonmark |
1.7 |
編譯器 |
以下4.4.1 |
配置 |
0.3.1 |
cpp11 |
0.3.1 |
蠟筆 |
1.4.1 |
憑證 |
1.3.1 |
旋度 |
4.3.2 |
data.table |
1.14.0 |
數據集 |
以下4.4.1 |
DBI |
1.1.1 |
dbplyr |
2.1.1 |
desc |
1.3.0 |
devtools |
2.4.2 |
diffobj |
0.3.4 |
消化 |
0.6.27 |
dplyr |
1.0.7 |
dtplyr |
1.1.0 |
省略 |
0.3.2 |
評估 |
0.14 |
fansi |
0.5.0 |
farver |
魅惑 |
fastmap |
1.1.0 |
forcats |
0.5.1 |
foreach |
1.5.1 |
外國 |
-81 - 0.8 |
打造 |
0.2.0 |
fs |
1.5.0 |
未來 |
1.22.1 |
future.apply |
1.8.1 |
含漱劑 |
1.2.0 |
泛型 |
0.1.0 |
哥特 |
1.4.1 |
ggplot2 |
3.3.5 |
“大酒店” |
1.3.0 |
gitcreds |
0.1.1 |
glmnet |
4.1 - 2 |
全局變量 |
0.14.0 |
膠水 |
1.4.2 |
googledrive |
2.0.0 |
googlesheets4 |
1.0.0 |
高爾 |
0.2.2 |
圖形 |
以下4.4.1 |
grDevices |
以下4.4.1 |
網格 |
以下4.4.1 |
gridExtra |
2.3 |
gsubfn |
0.7 |
gtable |
0.3.0 |
還 |
2.4.3 |
highr |
0.9 |
hms |
1.1.0 |
htmltools |
0.5.2 |
htmlwidgets |
1.5.4 |
httpuv |
1.6.3 |
httr |
1.4.2 |
hwriter |
1.3.2 |
hwriterPlus |
1.0 - 3 |
id |
1.0.1 |
ini |
0.3.1 |
不小 |
-12 - 0.9 |
isoband |
0.2.5 |
迭代器 |
1.0.13 |
jquerylib |
0.1.4 |
jsonlite |
1.7.2 |
KernSmooth |
-20 - 2.23 |
knitr |
1.34 |
標簽 |
0.4.2 |
晚些時候 |
1.3.0 |
晶格 |
-44 - 0.20 |
熔岩 |
1.6.10 |
生命周期 |
1.0.0 |
listenv |
0.8.0 |
lubridate |
1.7.10 |
magrittr |
2.0.1 |
減價 |
1.1 |
質量 |
-54 - 7.3 |
矩陣 |
1.3 - 4 |
memoise |
2.0.0 |
方法 |
以下4.4.1 |
mgcv |
-37 - 1.8 |
mime |
0.11 |
ModelMetrics |
1.2.2.2 |
modelr |
0.1.8 |
孟塞爾 |
0.5.0 |
nlme |
-152 - 3.1 |
nnet |
-16 - 7.3 |
numDeriv |
2016.8 - -1.1 |
openssl |
1.4.5 |
平行 |
以下4.4.1 |
平行 |
1.28.1 |
支柱 |
1.6.2 |
pkgbuild |
1.2.0 |
pkgconfig |
2.0.3 |
pkgload |
1.2.2 |
plogr |
0.2.0 |
plyr |
1.8.6 |
讚美 |
1.0.0 |
prettyunits |
1.1.1 |
pROC |
1.18.0 |
processx |
3.5.2 |
prodlim |
2019.11.13 |
進步 |
1.2.2 |
progressr |
0.8.0 |
承諾 |
1.2.0.1 |
原型 |
1.0.0 |
ps |
1.6.0 |
purrr |
0.3.4 |
r2d3 |
0.2.5 |
R6 |
2.5.1 |
randomForest |
-14 - 4.6 |
rappdirs |
0.3.3 |
rcmdcheck |
1.3.3 |
RColorBrewer |
1.1 - 2 |
Rcpp |
1.0.7 |
readr |
2.0.1 |
readxl |
1.3.1 |
食譜 |
0.1.16 |
複賽 |
1.0.1 |
rematch2 |
2.1.2 |
遙控器 |
測試盒框 |
reprex |
2.0.1 |
reshape2 |
1.4.4 |
rlang |
0.4.11 |
rmarkdown |
2.11 |
RODBC |
-19 - 1.3 |
roxygen2 |
7.1.2 |
rpart |
-15 - 4.1 |
rprojroot |
2.0.2 |
Rserve |
1.8 8 |
RSQLite |
2.2.8 |
rstudioapi |
0.13 |
rversions |
2.1.1 |
房車 |
1.0.1 |
薩斯 |
0.4.0 |
尺度 |
1.1.1 |
selectr |
0.4 - 2 |
sessioninfo |
1.1.1 |
形狀 |
1.4.6 |
閃亮的 |
1.6.0 |
sourcetools |
0.1.7 |
sparklyr |
1.7.2 |
SparkR |
3.2.0 |
空間 |
-11 - 7.3 |
樣條函數 |
以下4.4.1 |
sqldf |
-11 - 0.4 |
SQUAREM |
2021.1 |
統計數據 |
以下4.4.1 |
stats4 |
以下4.4.1 |
stringi |
1.7.4 |
stringr |
1.4.0 |
生存 |
-13 - 3.2 |
sys |
3.4 |
tcltk |
以下4.4.1 |
TeachingDemos |
2.10 |
testthat |
3.0.4 |
寵物貓 |
3.1.4 |
tidyr |
1.1.3 |
tidyselect |
1.1.1 |
tidyverse |
1.3.1 |
timeDate |
3043.102 |
tinytex |
0.33 |
工具 |
以下4.4.1 |
tzdb |
0.1.2 |
usethis |
2.0.1 |
use utf8 |
1.2.2 |
跑龍套 |
以下4.4.1 |
uuid |
0.1 - 4 |
vctrs |
0.3.8 |
viridisLite |
0.4.0 |
發嗚嗚聲 |
1.5.5 |
沃爾多 |
0.3.1 |
晶須 |
0.4 |
withr |
2.4.2 |
xfun |
0.26 |
xml2 |
1.3.2 |
xopen |
1.0.0 |
xtable |
1.8 - 4 |
yaml |
2.2.1 |
郵政編碼 |
2.2.0 |
安裝Java和Scala庫(Scala 2.12集群版本)
組ID |
工件ID |
版本 |
---|---|---|
antlr |
antlr |
2.7.7 |
com.amazonaws |
amazon-kinesis-client |
1.12.0 |
com.amazonaws |
aws-java-sdk-autoscaling |
1.11.655 |
com.amazonaws |
aws-java-sdk-cloudformation |
1.11.655 |
com.amazonaws |
aws-java-sdk-cloudfront |
1.11.655 |
com.amazonaws |
aws-java-sdk-cloudhsm |
1.11.655 |
com.amazonaws |
aws-java-sdk-cloudsearch |
1.11.655 |
com.amazonaws |
aws-java-sdk-cloudtrail |
1.11.655 |
com.amazonaws |
aws-java-sdk-cloudwatch |
1.11.655 |
com.amazonaws |
aws-java-sdk-cloudwatchmetrics |
1.11.655 |
com.amazonaws |
aws-java-sdk-codedeploy |
1.11.655 |
com.amazonaws |
aws-java-sdk-cognitoidentity |
1.11.655 |
com.amazonaws |
aws-java-sdk-cognitosync |
1.11.655 |
com.amazonaws |
aws-java-sdk-config |
1.11.655 |
com.amazonaws |
aws-java-sdk-core |
1.11.655 |
com.amazonaws |
aws-java-sdk-datapipeline |
1.11.655 |
com.amazonaws |
aws-java-sdk-directconnect |
1.11.655 |
com.amazonaws |
aws-java-sdk-directory |
1.11.655 |
com.amazonaws |
aws-java-sdk-dynamodb |
1.11.655 |
com.amazonaws |
aws-java-sdk-ec2 |
1.11.655 |
com.amazonaws |
aws-java-sdk-ecs |
1.11.655 |
com.amazonaws |
aws-java-sdk-efs |
1.11.655 |
com.amazonaws |
aws-java-sdk-elasticache |
1.11.655 |
com.amazonaws |
aws-java-sdk-elasticbeanstalk |
1.11.655 |
com.amazonaws |
aws-java-sdk-elasticloadbalancing |
1.11.655 |
com.amazonaws |
aws-java-sdk-elastictranscoder |
1.11.655 |
com.amazonaws |
aws-java-sdk-emr |
1.11.655 |
com.amazonaws |
aws-java-sdk-glacier |
1.11.655 |
com.amazonaws |
aws-java-sdk-glue |
1.11.655 |
com.amazonaws |
aws-java-sdk-iam |
1.11.655 |
com.amazonaws |
aws-java-sdk-importexport |
1.11.655 |
com.amazonaws |
aws-java-sdk-kinesis |
1.11.655 |
com.amazonaws |
aws-java-sdk-kms |
1.11.655 |
com.amazonaws |
aws-java-sdk-lambda |
1.11.655 |
com.amazonaws |
aws-java-sdk-logs |
1.11.655 |
com.amazonaws |
aws-java-sdk-machinelearning |
1.11.655 |
com.amazonaws |
aws-java-sdk-opsworks |
1.11.655 |
com.amazonaws |
aws-java-sdk-rds |
1.11.655 |
com.amazonaws |
aws-java-sdk-redshift |
1.11.655 |
com.amazonaws |
aws-java-sdk-route53 |
1.11.655 |
com.amazonaws |
aws-java-sdk-s3 |
1.11.655 |
com.amazonaws |
aws-java-sdk-ses |
1.11.655 |
com.amazonaws |
aws-java-sdk-simpledb |
1.11.655 |
com.amazonaws |
aws-java-sdk-simpleworkflow |
1.11.655 |
com.amazonaws |
aws-java-sdk-sns |
1.11.655 |
com.amazonaws |
aws-java-sdk-sqs |
1.11.655 |
com.amazonaws |
aws-java-sdk-ssm |
1.11.655 |
com.amazonaws |
aws-java-sdk-storagegateway |
1.11.655 |
com.amazonaws |
aws-java-sdk-sts |
1.11.655 |
com.amazonaws |
aws-java-sdk-support |
1.11.655 |
com.amazonaws |
aws-java-sdk-swf-libraries |
1.11.22 |
com.amazonaws |
aws-java-sdk-workspaces |
1.11.655 |
com.amazonaws |
jmespath-java |
1.11.655 |
com.chuusai |
shapeless_2.12 |
2.3.3 |
com.clearspring.analytics |
流 |
2.9.6 |
com.databricks |
Rserve |
1.8 - 3 |
com.databricks |
jets3t |
0.7.1-0 |
com.databricks.scalapb |
compilerplugin_2.12 |
0.4.15-10 |
com.databricks.scalapb |
scalapb-runtime_2.12 |
0.4.15-10 |
com.esotericsoftware |
kryo-shaded |
4.0.2 |
com.esotericsoftware |
minlog |
1.3.0 |
com.fasterxml |
同學 |
1.3.4 |
com.fasterxml.jackson.core |
jackson-annotations |
2.12.2 |
com.fasterxml.jackson.core |
jackson-core |
2.12.2 |
com.fasterxml.jackson.core |
jackson-databind |
2.12.2 |
com.fasterxml.jackson.dataformat |
jackson-dataformat-cbor |
2.12.2 |
com.fasterxml.jackson.datatype |
jackson-datatype-joda |
2.12.2 |
com.fasterxml.jackson.module |
jackson-module-paranamer |
2.12.2 |
com.fasterxml.jackson.module |
jackson-module-scala_2.12 |
2.12.2 |
com.github.ben-manes.caffeine |
咖啡因 |
2.3.4 |
com.github.fommil |
jniloader |
1.1 |
com.github.fommil.netlib |
核心 |
1.1.2 |
com.github.fommil.netlib |
native_ref-java |
1.1 |
com.github.fommil.netlib |
native_ref-java-natives |
1.1 |
com.github.fommil.netlib |
native_system-java |
1.1 |
com.github.fommil.netlib |
native_system-java-natives |
1.1 |
com.github.fommil.netlib |
netlib-native_ref-linux-x86_64-natives |
1.1 |
com.github.fommil.netlib |
netlib-native_system-linux-x86_64-natives |
1.1 |
com.github.luben |
zstd-jni |
1.5.0-4 |
com.github.wendykierp |
JTransforms |
3.1 |
com.google.code.findbugs |
jsr305 |
3.0.0 |
com.google.code.gson |
gson |
2.8.6 |
com.google.crypto.tink |
叮叮鈴 |
1.6.0 |
com.google.flatbuffers |
flatbuffers-java |
1.9.0 |
com.google.guava |
番石榴 |
15.0 |
com.google.protobuf |
protobuf-java |
2.6.1 |
com.h2database |
h2 |
1.4.195 |
com.helger |
分析器 |
1.1.1 |
com.jcraft |
jsch |
0.1.50 |
com.jolbox |
bonecp |
0.8.0.RELEASE |
com.lihaoyi |
sourcecode_2.12 |
0.1.9 |
com.microsoft.sqlserver |
mssql-jdbc |
9.2.1.jre8 |
com.microsoft.azure |
azure-data-lake-store-sdk |
2.3.9 |
com.ning |
compress-lzf |
1.0.3 |
com.sun.istack |
istack-commons-runtime |
3.0.8 |
com.sun.mail |
javax.mail |
1.5.2 |
com.tdunning |
json |
1.8 |
com.thoughtworks.paranamer |
paranamer |
2.8 |
com.trueaccord.lenses |
lenses_2.12 |
0.4.12 |
com.twitter |
chill-java |
0.10.0 |
com.twitter |
chill_2.12 |
0.10.0 |
com.twitter |
util-app_2.12 |
7.1.0 |
com.twitter |
util-core_2.12 |
7.1.0 |
com.twitter |
util-function_2.12 |
7.1.0 |
com.twitter |
util-jvm_2.12 |
7.1.0 |
com.twitter |
util-lint_2.12 |
7.1.0 |
com.twitter |
util-registry_2.12 |
7.1.0 |
com.twitter |
util-stats_2.12 |
7.1.0 |
com.typesafe |
配置 |
1.2.1 " |
com.typesafe.scala-logging |
scala-logging_2.12 |
3.7.2章 |
com.univocity |
univocity-parsers |
2.9.1 |
com.zaxxer |
HikariCP |
3.1.0 |
commons-cli |
commons-cli |
1.2 |
commons-codec |
commons-codec |
1.15 |
commons-collections |
commons-collections |
3.2.2 |
commons-dbcp |
commons-dbcp |
1.4 |
commons-fileupload |
commons-fileupload |
1.3.3 |
commons-httpclient |
commons-httpclient |
3.1 |
commons-io |
commons-io |
2.8.0 |
commons lang |
commons lang |
2.6 |
通用日誌 |
通用日誌 |
1.1.3 |
commons net |
commons net |
3.1 |
commons-pool |
commons-pool |
1.5.4 |
dev.ludovic.netlib |
arpack |
1.3.2 |
dev.ludovic.netlib |
布拉斯特區 |
1.3.2 |
dev.ludovic.netlib |
lapack |
1.3.2 |
蜂巢3.2 - 2.3 - __hadoop - |
jets3t - 0.7 |
liball_deps_2.12 |
info.ganglia.gmetric4j |
gmetric4j |
1.0.10 |
io.airlift |
aircompressor |
0.19 |
io.delta |
delta-sharing-spark_2.12 |
0.1.0 |
io.dropwizard.metrics |
metrics-core |
以下4.4.1 |
io.dropwizard.metrics |
metrics-graphite |
以下4.4.1 |
io.dropwizard.metrics |
metrics-healthchecks |
以下4.4.1 |
io.dropwizard.metrics |
metrics-jetty9 |
以下4.4.1 |
io.dropwizard.metrics |
metrics-jmx |
以下4.4.1 |
io.dropwizard.metrics |
metrics-json |
以下4.4.1 |
io.dropwizard.metrics |
metrics-jvm |
以下4.4.1 |
io.dropwizard.metrics |
metrics-servlets |
以下4.4.1 |
io.netty |
netty-all |
4.1.63.Final |
io.prometheus |
simpleclient |
0.7.0 |
io.prometheus |
simpleclient_common |
0.7.0 |
io.prometheus |
simpleclient_dropwizard |
0.7.0 |
io.prometheus |
simpleclient_pushgateway |
0.7.0 |
io.prometheus |
simpleclient_servlet |
0.7.0 |
io.prometheus.jmx |
收集器 |
0.12.0 |
jakarta.annotation |
jakarta.annotation-api |
1.3.5 |
jakarta.servlet |
jakarta.servlet-api |
4.0.3 |
jakarta.validation |
jakarta.validation-api |
2.0.2 |
jakarta.ws.rs |
jakarta.ws.rs-api |
2.1.6 |
javax.activation |
激活 |
1.1.1 |
javax.annotation |
javax.annotation-api |
1.3.2 |
javax.el |
javax.el-api |
2.2.4 |
javax.jdo |
jdo api |
3.0.1 |
javax.transaction |
jta |
1.1 |
javax.transaction |
事務api |
1.1 |
javax.xml.bind |
jaxb-api |
2.2.2 |
javax.xml.stream |
stax-api |
1.0 - 2 |
javolution |
javolution |
5.5.1 |
jline |
jline |
2.14.6 |
joda-time |
joda-time |
2.10.5 |
log4j |
apache-log4j-extras |
1.2.17 |
log4j |
log4j |
1.2.17 |
maven-trees |
蜂巢3.2 - 2.3 - __hadoop - |
liball_deps_2.12 |
net.java.dev.jna |
jna |
5.8.0 |
net.razorvine |
地幔岩 |
4.30 |
net.sf.jpam |
jpam |
1.1 |
net.sf.opencsv |
opencsv |
2.3 |
net.sf.supercsv |
super-csv |
2.2.0 |
net.snowflake |
snowflake-ingest-sdk |
0.9.6 |
net.snowflake |
snowflake-jdbc |
3.13.3 |
net.snowflake |
spark-snowflake_2.12 |
2.9.0-spark_3.1 |
net.sourceforge.f2j |
arpack_combined_all |
0.1 |
org.acplt.remotetea |
remotetea-oncrpc |
1.1.2 |
org.antlr |
ST4 |
4.0.4 |
org.antlr |
antlr-runtime |
3.5.2 |
org.antlr |
antlr4-runtime |
4.8 |
org.antlr |
stringtemplate |
3.2.1之上 |
org.apache.ant |
螞蟻 |
1.9.2 |
org.apache.ant |
ant-jsch |
1.9.2 |
org.apache.ant |
ant-launcher |
1.9.2 |
org.apache.arrow |
arrow-format |
2.0.0 |
org.apache.arrow |
arrow-memory-core |
2.0.0 |
org.apache.arrow |
arrow-memory-netty |
2.0.0 |
org.apache.arrow |
arrow-vector |
2.0.0 |
org.apache.avro |
avro |
1.10.2 |
org.apache.avro |
avro-ipc |
1.10.2 |
org.apache.avro |
avro-mapred |
1.10.2 |
org.apache.commons |
commons-compress |
1.20 |
org.apache.commons |
commons-crypto |
1.1.0 |
org.apache.commons |
commons-lang3 |
3.12.0 |
org.apache.commons |
commons-math3 |
3.4.1 |
org.apache.commons |
commons-text |
1.6 |
org.apache.curator |
curator-client |
2.13.0 |
org.apache.curator |
curator-framework |
2.13.0 |
org.apache.curator |
curator-recipes |
2.13.0 |
org.apache.derby |
德比 |
10.14.2.0 |
org.apache.hadoop |
hadoop-client-runtime |
3.3.1 |
org.apache.hive |
hive-beeline |
2.3.9 |
org.apache.hive |
hive-cli |
2.3.9 |
org.apache.hive |
hive-jdbc |
2.3.9 |
org.apache.hive |
hive-llap-client |
2.3.9 |
org.apache.hive |
hive-llap-common |
2.3.9 |
org.apache.hive |
hive-serde |
2.3.9 |
org.apache.hive |
hive-shims |
2.3.9 |
org.apache.hive |
hive-storage-api |
2.7.2 |
org.apache.hive.shims |
蜂巢0.23 -墊片 |
2.3.9 |
org.apache.hive.shims |
hive-shims-common |
2.3.9 |
org.apache.hive.shims |
hive-shims-scheduler |
2.3.9 |
org.apache.htrace |
htrace-core4 |
4.1.0-incubating |
org.apache.httpcomponents |
httpclient |
4.5.13 |
org.apache.httpcomponents |
httpcore |
4.4.12 |
org.apache.ivy |
艾薇 |
2.5.0 |
org.apache.mesos |
mesos-shaded-protobuf |
1.4.0 |
org.apache.orc |
orc-core |
1.6.10 |
org.apache.orc |
orc-mapreduce |
1.6.10 |
org.apache.orc |
orc-shims |
1.6.10 |
org.apache.parquet |
parquet-column |
1.12.0-databricks-0003 |
org.apache.parquet |
parquet-common |
1.12.0-databricks-0003 |
org.apache.parquet |
parquet-encoding |
1.12.0-databricks-0003 |
org.apache.parquet |
parquet-format-structures |
1.12.0-databricks-0003 |
org.apache.parquet |
parquet-hadoop |
1.12.0-databricks-0003 |
org.apache.parquet |
parquet-jackson |
1.12.0-databricks-0003 |
org.apache.thrift |
libfb303 |
0.9.3 |
org.apache.thrift |
libthrift |
0.12.0 |
org.apache.xbean |
xbean-asm9-shaded |
4.20 |
org.apache.yetus |
audience-annotations |
0.5.0 |
org.apache.zookeeper |
動物園管理員 |
操作 |
org.apache.zookeeper |
zookeeper-jute |
操作 |
org.checkerframework |
checker-qual |
3.5.0 |
org.codehaus.jackson |
jackson-core-asl |
1.9.13 |
org.codehaus.jackson |
jackson-mapper-asl |
1.9.13 |
org.codehaus.janino |
commons-compiler |
3.0.16 |
org.codehaus.janino |
janino |
3.0.16 |
org.datanucleus |
datanucleus-api-jdo |
4.2.4 |
org.datanucleus |
datanucleus-core |
4.1.17 |
org.datanucleus |
datanucleus-rdbms |
4.1.19 |
org.datanucleus |
javax.jdo |
3.2.0-m3 |
org.eclipse.jetty |
jetty-client |
9.4.40.v20210413 |
org.eclipse.jetty |
jetty-continuation |
9.4.40.v20210413 |
org.eclipse.jetty |
jetty-http |
9.4.40.v20210413 |
org.eclipse.jetty |
jetty-io |
9.4.40.v20210413 |
org.eclipse.jetty |
jetty-jndi |
9.4.40.v20210413 |
org.eclipse.jetty |
jetty-plus |
9.4.40.v20210413 |
org.eclipse.jetty |
jetty-proxy |
9.4.40.v20210413 |
org.eclipse.jetty |
jetty-security |
9.4.40.v20210413 |
org.eclipse.jetty |
jetty服務器 |
9.4.40.v20210413 |
org.eclipse.jetty |
jetty servlet |
9.4.40.v20210413 |
org.eclipse.jetty |
jetty-servlets |
9.4.40.v20210413 |
org.eclipse.jetty |
jetty-util |
9.4.40.v20210413 |
org.eclipse.jetty |
jetty-util-ajax |
9.4.40.v20210413 |
org.eclipse.jetty |
jetty-webapp |
9.4.40.v20210413 |
org.eclipse.jetty |
jetty-xml |
9.4.40.v20210413 |
org.eclipse.jetty.websocket |
websocket-api |
9.4.40.v20210413 |
org.eclipse.jetty.websocket |
websocket-client |
9.4.40.v20210413 |
org.eclipse.jetty.websocket |
websocket-common |
9.4.40.v20210413 |
org.eclipse.jetty.websocket |
websocket服務器 |
9.4.40.v20210413 |
org.eclipse.jetty.websocket |
websocket-servlet |
9.4.40.v20210413 |
org.fusesource.leveldbjni |
leveldbjni-all |
1.8 |
org.glassfish.hk2 |
hk2-api |
2.6.1 |
org.glassfish.hk2 |
hk2-locator |
2.6.1 |
org.glassfish.hk2 |
hk2-utils |
2.6.1 |
org.glassfish.hk2 |
osgi-resource-locator |
1.0.3 |
org.glassfish.hk2.external |
aopalliance-repackaged |
2.6.1 |
org.glassfish.hk2.external |
jakarta.inject |
2.6.1 |
org.glassfish.jaxb |
jaxb運行時 |
2.3.2 |
org.glassfish.jersey.containers |
jersey-container-servlet |
2.34 |
org.glassfish.jersey.containers |
jersey-container-servlet-core |
2.34 |
org.glassfish.jersey.core |
jersey客戶端 |
2.34 |
org.glassfish.jersey.core |
jersey-common |
2.34 |
org.glassfish.jersey.core |
jersey-server |
2.34 |
org.glassfish.jersey.inject |
jersey-hk2 |
2.34 |
org.hibernate.validator |
hibernate驗證框架 |
6.1.0.Final |
org.javassist |
javassist |
3.25.0-GA |
org.jboss.logging |
jboss-logging |
3.3.2.Final |
org.jdbi |
jdbi |
2.63.1 |
org.jetbrains |
注釋 |
17.0.0 |
org.joda |
joda-convert |
1.7 |
org.jodd |
jodd-core |
3.5.2 |
org.json4s |
json4s-ast_2.12 |
3.7.0-M11 |
org.json4s |
json4s-core_2.12 |
3.7.0-M11 |
org.json4s |
json4s-jackson_2.12 |
3.7.0-M11 |
org.json4s |
json4s-scalap_2.12 |
3.7.0-M11 |
org.lz4 |
lz4-java |
1.7.1上 |
org.mariadb.jdbc |
mariadb-java-client |
2.2.5 |
org.objenesis |
objenesis |
2.5.1 |
org.postgresql |
postgresql |
42.2.19 |
org.roaringbitmap |
RoaringBitmap |
0.9.14 |
org.roaringbitmap |
墊片 |
0.9.14 |
org.rocksdb |
rocksdbjni |
6.20.3 |
org.rosuda.REngine |
REngine |
魅惑 |
org.scala-lang |
scala-compiler_2.12 |
2.12.14 |
org.scala-lang |
scala-library_2.12 |
2.12.14 |
org.scala-lang |
scala-reflect_2.12 |
2.12.14 |
org.scala-lang.modules |
scala-collection-compat_2.12 |
2.4.3 |
org.scala-lang.modules |
scala-parser-combinators_2.12 |
1.1.2 |
org.scala-lang.modules |
scala-xml_2.12 |
1.2.0 |
org.scala-sbt |
測試界麵 |
1.0 |
org.scalacheck |
scalacheck_2.12 |
1.14.2 |
org.scalactic |
scalactic_2.12 |
3.0.8 |
org.scalanlp |
breeze-macros_2.12 |
1.0 |
org.scalanlp |
breeze_2.12 |
1.0 |
org.scalatest |
scalatest_2.12 |
3.0.8 |
org.slf4j |
jcl-over-slf4j |
1.7.30 |
org.slf4j |
jul-to-slf4j |
1.7.30 |
org.slf4j |
slf4j-api |
1.7.30 |
org.slf4j |
slf4j-log4j12 |
1.7.30 |
org.spark-project.spark |
未使用的 |
1.0.0 |
org.springframework |
spring核心 |
4.1.4.RELEASE |
org.springframework |
spring測試 |
4.1.4.RELEASE |
org.threeten |
threeten-extra |
1.5.0 |
org.tukaani |
xz |
1.8 |
org.typelevel |
algebra_2.12 |
2.0.0-M2 |
org.typelevel |
cats-kernel_2.12 |
2.0.0-M4 |
org.typelevel |
machinist_2.12 |
0.6.8 |
org.typelevel |
macro-compat_2.12 |
1.1.1 |
org.typelevel |
spire-macros_2.12 |
0.17.0-M1 |
org.typelevel |
spire-Beplay体育安卓版本platform_2.12 |
0.17.0-M1 |
org.typelevel |
spire-util_2.12 |
0.17.0-M1 |
org.typelevel |
spire_2.12 |
0.17.0-M1 |
org.wildfly.openssl |
wildfly-openssl |
1.0.7.Final |
org.xerial |
sqlite-jdbc |
3.8.11.2 |
org.xerial.snappy |
snappy-java |
1.1.8.4 |
org.yaml |
snakeyaml |
1.24 |
奧羅 |
奧羅 |
2.0.8 |
pl.edu.icm |
JLargeArrays |
1.5 |
software.amazon.ion |
ion-java |
1.0.2中 |
stax |
stax-api |
1.0.1 |