數據庫運行時4.1(不支持)
Databricks在2018年5月發布了這張圖片。
重要的
該版本已於2019年1月17日棄用。有關Databricks Runtime棄用策略和時間表的更多信息,請參見Databricks運行時支持生命周期.
以下版本說明提供了由Apache Spark支持的Databricks Runtime 4.1的相關信息。
三角洲湖
Databricks運行時4.1版本為Delta Lake增加了主要的質量改進和功能。Databricks強烈建議所有Delta Lake客戶升級到新的運行時。beplay体育app下载地址這個版本仍然是私有預覽版,但是它代表了即將到來的通用可用性(GA)版本的一個候選版本。
突發的變化
Databricks Runtime 4.1包括對事務協議的更改,以啟用新功能,例如驗證。使用Databricks Runtime 4.1創建的表會自動使用新版本,不能被舊版本的Databricks Runtime寫入。為了利用這些改進,必須升級現有表。要升級現有表,首先要升級所有寫入該表的作業。然後運行:
com.磚.δ.δ.upgradeTableProtocol(“< path-to-table >”或“<表名>”)
看到表協議版本為更多的信息。
現在根據表的當前模式驗證寫操作,而不是像以前那樣,自動添加目標表中缺少的列。若要啟用上述行為,請設置
mergeSchema
選項真正的
.看到模式驗證.如果您正在運行Databricks Delta的較早版本,那麼在使用Databricks Runtime 4.1之前,必須升級所有作業。如果你看到這些錯誤,升級到Databricks Runtime 4.1:
java.朗.NumberFormatException:為輸入字符串:“00000000000000……crc”scala.MatchError
表再也不能有隻根據大小寫不同的列。
特定於增量的表配置現在必須加上前綴
三角洲。
新功能
模式管理- Databricks Delta現在驗證對現有表的追加和覆蓋,以確保正在寫入的模式與該模式匹配。
Databricks Delta繼續支持自動模式遷移。
Databricks Delta現在支持以下DDL來顯式修改模式:
改變表格添加列
向表中添加新列改變表格改變列
更改列順序改變表格(設置|設置)TBLPROPERTIES
有關詳細信息,請參見模式驗證.
增強的DDL和表支持
完全支持表DDL和
saveAsTable ()
.save ()
而且saveAsTable ()
現在有相同的語義。所有DDL和DML命令都支持表名和
delta. ' < path-to-table >”
.顯示分區
顯示列
DESC表格
詳細的表信息——您可以通過運行查看表的當前讀取器和寫入器版本
描述細節
.看到表協議版本.表詳細信息——現在對表的每次寫入都有來源信息。Data側欄還顯示Databricks Delta表的詳細表信息和曆史記錄。看到表元數據.
流表——流數據幀可以使用
spark.readStream.format(“δ”).table(“<表名稱>”)
.隻追加表——Databricks Delta現在支持基本的數據治理。屬性可以阻止對表的刪除和修改表屬性
delta.appendOnly = true
.合並成
的源查詢規範增加更全麵的支持合並
.例如,您可以指定限製
,訂單通過
而且內聯表格
在源。完全支持Table acl。
性能改進
減少統計數據收集的開銷-統計數據收集的效率已經提高,現在統計數據隻收集可配置的列數,默認設置為32。由於統計信息收集開銷的減少,Delta寫性能提高了2倍。要配置列數,請設置表屬性
delta.dataSkippingNumIndexedCols = <列數>
.支持限製下推—統計數據用於限製為查詢掃描的文件的數量
限製
以及在分區列上的謂詞。由於隱式,這適用於筆記本中的查詢限製= 1000
適用於所有筆記本命令。流源中的過濾器下推——流查詢現在在啟動一個新流時使用分區來跳過不相關的數據。
改進的並行性
優化
-優化
現在作為單個Spark任務運行,並將使用集群上所有可用的並行性(以前一次限製為100個壓縮文件)。DML -中的數據跳過
更新
,刪除
,合並
現在,在定位需要重寫的文件時使用統計信息。隨機化S3前綴——為了避免大型表的S3元數據中的熱點,現在可以設置表屬性
delta.randomizeFilePrefixes = true
.減少檢查點保留——檢查點現在保留兩天(曆史記錄仍然保留30天),以減少事務日誌的存儲成本。
API行為
的行為
insertInto(<表名稱>)
在Databricks中,Delta與其他數據源相同。如果沒有指定模式或
模式
是ErrorIfExists
,忽略
,或附加
,將DataFrame中的數據追加到Databricks Delta表。如果
模式
是覆蓋
,刪除現有表中的所有數據,並將DataFrame中的數據插入Databricks Delta表中。
的目標表
合並
必須手動取消緩存。
可用性改進
工作負載遷移驗證——將工作負載遷移到Databricks Delta時常見的錯誤現在拋出異常而不是失敗:
使用
格式(“鋪”)
讀或寫一個表直接讀取或寫入分區(即,
/道路/ /δ= 1 /部分
).清空表的子目錄。
插入覆蓋目錄
在桌子上使用拚花
不區分大小寫的配置——DataFrame Reader/Writer和表屬性的選項現在不區分大小寫(包括讀路徑和寫路徑)。
列名-表列名現在可以包含圓點。
已知的問題
警告
對單個表的寫入必須來自單個集群。對於從同一個工作區中的多個集群進行寫操作,還提供了實驗性支持。如果您有興趣嚐試此功能,請聯係Databricks支持人員。
多插入語句的插入在不同的工作單元中,而不是在相同的事務中。
的用法
結構化流不處理非附加的輸入,並在用作源的表上發生任何修改時拋出異常。方法覆蓋此行為ignoreFileDeletion
標誌,但現在已棄用。而不是使用ignoreDeletes
或ignoreChanges
.看到Delta表作為源.
其他變化和改進
查詢監督對所有使用該UI創建的通用集群啟用。
改進了DBIO緩存的驅動端性能
通過新的本地Parquet解碼器改進了Parquet解碼的性能
改進了公共子表達式消除的性能
改進了大表連接小表的數據跳過性能(事實-維度表連接)
顯示()
現在將包含圖像數據類型的列呈現為富HTML。新的s3select數據源用於利用S3選擇
改進導出和導入模型
升級dbml-local到最新版本0.4.1
修正了模型導出的錯誤
閾值
參數指定增加了對導出的支持
OneVsRestModel
,GBTClassificationModel
升級了部分已安裝的Python庫:
Pip:從9.0.1到10.0.0b2
Setuptools:從38.5.1到39.0.1
龍卷風:4.5.3到5.0.1
車輪:0.30.0到0.0.1
升級了幾個已安裝的R庫。看到安裝R庫.
將AWS Java SDK從1.11.253升級到1.11.313。
將Azure數據湖存儲SDK從2.0.11升級到2.2.8。
GPU集群的CUDA從8.0升級到9.0,CUDNN從6.0升級到7.0。
對於GPU集群,GPU指標現在出現在集群指標Ganglia UI中。
Apache火花
Databricks Runtime 4.1包含Apache Spark 2.3.0。此版本包括所有的修複和改進Databricks運行時4.0(不支持),以及對Spark進行的以下額外bug修複和改進:
(火花- 24007)[SQL] EqualNullSafe for FloatType和DoubleType可能通過代碼生成錯誤的結果。
(火花- 23942)[PYTHON][SQL]使collect在PySpark中作為查詢執行器監聽器的動作
(火花- 23815)Spark writer動態分區覆蓋模式可能導致在多級分區上寫輸出失敗
(火花- 23748)[SS]修複SS連續進程不支持SubqueryAlias問題
(火花- 23963)[SQL]在基於文本的Hive表中,正確處理大量的查詢列
(火花- 23867)在logWarning中使用droppedCount
(火花- 23816)被殺死的任務應該忽略FetchFailures。
(火花- 23809)激活的SparkSession應該由getOrCreate設置
(火花- 23966)在一個通用的CheckpointFileManager接口中重構所有檢查點文件寫入邏輯
(火花- 21351)[SQL]根據子進程的輸出更新可空性
(火花- 23847)[PYTHON][SQL]在PySpark中添加asc_nulls_first, asc_nulls_last
(火花- 23822)改進Parquet模式不匹配的錯誤消息
(火花- 23823)在transformExpression中保留原點
(火花- 23838)[web]運行SQL查詢時,“SQL”頁簽顯示“已完成”
(火花- 23802)[SQL] PropagateEmptyRelation會使查詢計劃處於未解析狀態
(火花- 23727)支持下推parquet中DateType的過濾器
(火花- 23574)當隻有一個數據讀取器工廠時,在DataSourceV2ScanExec中報告SinglePartition。
(火花- 23533)[SS]增加對改變ContinuousDataReader的startOffset的支持
(火花- 23491)[SS]從continuousexecexecution重新配置中刪除明確的作業取消
(火花- 23040)返回shuffle閱讀器的可中斷迭代器
(火花- 23827)[SS] StreamingJoinExec應該確保輸入數據被劃分到特定數量的分區
(火花- 23639)[SQL]在SparkSQL命令行中初始化metastore客戶端前獲取token
(火花- 23806)廣播。使用Unpersist時可能導致致命異常…
(火花- 23599)[SQL]在Uuid表達式中使用RandomUUIDGenerator
(火花- 23599)[SQL]從偽隨機數中添加UUID生成器
(火花- 23759)[UI]無法綁定Spark UI到特定主機名/ IP
(火花- 23769)刪除不必要地禁用Scalastyle檢查的注釋
(火花- 23614)修複使用緩存時錯誤的重用交換
(火花- 23760)[SQL] CodegenContext。withsubexprefationexprs可以正確地保存/恢複CSE的狀態
(火花- 23729)解析glob時尊重URI片段
(火花- 23550)(核心)清理跑龍套
(火花- 23288)[SS]修複拚花水槽的輸出參數
(火花- 23264)[SQL]修複scala。MatchErrorin literals.sql.out
(火花- 23649)在UTF-8中不允許跳過字符
(火花- 23691)在PySpark測試中盡可能使用sql_conf util
(火花- 23644)在SHS中使用絕對路徑進行REST調用
(火花- 23706)PYTHON spark.conf。get(value, default=None)應該在PySpark中產生None
(火花- 23623)[SS]避免並發使用CachedKafkaConsumer中的緩存消費者
(火花- 23670)修複SparkPlanGraphWrapper上的內存泄漏
(火花- 23608)[CORE][web]在SHS中添加attachSparkUI和detachSparkUI函數之間的同步,以避免Jetty handler的並發修改問題
(火花- 23671)修複了SHS線程池啟用的條件。
(火花- 23658)InProcessAppHandle在getLogger中使用了錯誤的類
(火花- 23642)[DOCS] AccumulatorV2的子類isZero scaladoc修複
(火花- 22915)[MLLIB] spark.ml流測試。特征,從N到Z
(火花- 23598)[SQL]將BufferedRowIterator中的方法設為公共,以避免大型查詢的運行時錯誤
(火花- 23546)重構CodegenContext中的無狀態方法/值
(火花- 23523)[SQL]修複OptimizeMetadataOnlyQuery規則導致的不正確結果
(火花- 23462)改進StructType中缺少字段的錯誤消息
(火花- 23624)在Datasource V2中修改方法pushFilters的文檔
(火花- 23173)[SQL]避免在從JSON加載數據時創建損壞的parquet文件
(火花- 23436)[SQL]隻有當分區可以轉換為Date時,才能推斷分區為Date
(火花- 23406)[SS]啟用流-流自連接
(火花- 23490)[SQL]檢查存儲。locationUri與CreateTable中現有的表
(火花- 23524)大的本地洗牌塊不應該檢查腐敗。
(火花- 23525)支持外部hive表的ALTER TABLE CHANGE COLUMN COMMENT
(火花- 23434)Spark不應該發出警告元數據目錄for HDFS文件路徑
(火花- 23457)先在ParquetFileFormat中注冊任務完成監聽器
(火花- 23329)修正三角函數的文檔
(火花- 23569)[PYTHON]允許pandas_udf使用python3風格的類型注釋函數
(火花- 23570)[SQL]在HiveExternalCatalogVersionsSuite中添加Spark 2.3.0
(火花- 23517)(PYTHON)使pyspark.util。exception_message_通過Py4JJavaError從Java端生成跟蹤
(火花- 23508)[CORE]修複BlockmanagerId在case blockManagerIdCache原因oom
(火花- 23448)[SQL]明確JSON和CSV解析器在文檔中的行為
(火花- 23365)當殺死空閑的執行程序時,不調整num執行程序。
(火花- 23438)[DSTREAMS]修複驅動程序崩潰時使用WAL丟失的DSTREAMS數據
(火花- 23475)[UI] Show也跳過了一些階段
(火花- 23518)[SQL]當用戶隻想讀和寫數據幀時避免metastore訪問
(火花- 23406)[SS]啟用流-流自連接
(火花- 23541)[SS]允許Kafka源以比文章分區數量更大的並行性讀取數據
(火花- 23097)[SQL][SS]遷移文本套接字源到V2
(火花- 23362)[SS]遷移Kafka Microbatch源代碼到v2
(火花- 23445)ColumnStat重構
(火花- 23092)[SQL]將MemoryStream遷移到DataSourceV2 api
(火花- 23447)文字的清理代碼原模板
(火花- 23366)改進ReadAheadInputStream中的熱讀路徑
(火花- 22624)[PYSPARK]暴露範圍分區shuffle
係統環境
操作係統: Ubuntu 16.04.4 LTS
Java: 1.8.0_162
Scala: 2.11.8
PythonPython 2集群為2.7.12,Python 3集群為3.5.2。
R版本3.4.4 (2018-03-15)
GPU集群:安裝了以下NVIDIA GPU庫:
375.66特斯拉的司機
CUDA 9.0
cuDNN 7.0
安裝Python庫
圖書館 |
版本 |
圖書館 |
版本 |
圖書館 |
版本 |
---|---|---|---|---|---|
ansi2html |
1.1.1 |
argparse |
1.2.1 " |
backports-abc |
0.5 |
寶途 |
2.42.0 |
boto3 |
1.4.1 |
botocore |
1.4.70 |
brewer2mpl |
1.4.1 |
certifi |
2016.2.28 |
cffi |
1.7.0 |
chardet |
tripwire |
彩色光 |
0.3.7 |
configobj |
5.0.6 |
密碼學 |
1.5 |
周期計 |
0.10.0 |
Cython |
0.24.1 |
裝飾 |
4.0.10 |
docutils |
0.14 |
enum34 |
1.1.6 |
et-xmlfile |
1.0.1 |
freetype-py |
1.0.2中 |
funcsigs |
1.0.2中 |
fusepy |
2.0.4 |
期貨 |
3.2.0 |
ggplot |
0.6.8 |
html5lib |
0.999 |
idna |
2.1 |
ipaddress |
1.0.16 |
ipython |
2.2.0 |
ipython-genutils |
0.1.0 |
jdcal |
1.2 |
Jinja2 |
2.8 |
jmespath |
0.9.0 |
llvmlite |
0.13.0 |
lxml |
3.6.4 |
MarkupSafe |
0.23 |
matplotlib |
1.5.3 |
mpld3 |
0.2 |
msgpack-python |
0.4.7 |
ndg-httpsclient |
0.3.3 |
numba |
0.28.1 |
numpy |
1.11.1 |
openpyxl |
2.3.2 |
熊貓 |
0.19.2 |
pathlib2 |
魅惑 |
容易受騙的人 |
0.4.1 |
pexpect |
4.0.1 |
pickleshare |
0.7.4 |
枕頭 |
3.3.1 |
皮普 |
10.0.0b2 |
厚度 |
3.9 |
prompt-toolkit |
1.0.7 |
psycopg2 |
2.6.2 |
ptyprocess |
0.5.1 |
py4j |
0.10.3 |
pyarrow |
0.8.0 |
pyasn1 |
0.1.9 |
pycparser |
2.14 |
Pygments |
2.1.3 |
PyGObject |
3.20.0 |
pyOpenSSL |
16.0.0 |
pyparsing |
2.2.0 |
pypng |
0.0.18 |
Python |
2.7.12 |
python-dateutil |
2.5.3 |
python-geohash |
0.8.5 |
pytz |
2016.6.1 |
請求 |
2.11.1 |
s3transfer |
0.1.9 |
scikit-learn |
0.18.1 |
scipy |
0.18.1 |
衝刷 |
0.32 |
seaborn |
是0.7.1 |
setuptools |
39.0.1 |
simplejson |
3.8.2 |
simples3 |
1.0 |
singledispatch |
3.4.0.3 |
六個 |
1.10.0 |
statsmodels |
0.6.1 |
龍卷風 |
5.0.1 |
traitlets |
4.3.0 |
urllib3 |
1.19.1 |
virtualenv |
15.0.1 |
wcwidth |
0.1.7 |
輪 |
0.31.0 |
wsgiref |
0.1.2 |
安裝R庫
圖書館 |
版本 |
圖書館 |
版本 |
圖書館 |
版本 |
---|---|---|---|---|---|
abind |
1.4 - 5 |
為了 |
0.2.0 |
補丁 |
1.1.2 |
基地 |
3.4.4 |
黑洞 |
1.66.0-1 |
bindr |
0.1.1 |
bindrcpp |
0.2.2 |
位 |
-12 - 1.1 |
bit64 |
0.9 7 |
bitops |
1.0 6 |
團 |
1.1.1 |
引導 |
-20 - 1.3 |
釀造 |
1.0 6 |
掃帚 |
0.4.4 |
車 |
3.0 0 |
carData |
3.0 - 1 |
脫字符號 |
-79 - 6.0 |
cellranger |
1.1.0 |
時間 |
-52 - 2.3 |
類 |
-14 - 7.3 |
cli |
1.0.0 |
集群 |
2.0.7 |
codetools |
-15 - 0.2 |
色彩 |
1.3 - 2 |
commonmark |
1.4 |
編譯器 |
3.4.4 |
蠟筆 |
1.3.4 |
旋度 |
3.2 |
CVST |
0.2 - 1 |
data.table |
1.10.4-3 |
數據集 |
3.4.4 |
DBI |
0.8 |
ddalpha |
1.3.1.1 |
DEoptimR |
1.0 8 |
desc |
1.1.1 |
devtools |
1.13.5 |
二色視者 |
2.0 0 |
消化 |
0.6.15 |
dimRed |
0.1.0 |
doMC |
1.3.5 |
dplyr |
0.7.4 |
DRR |
0.0.3 |
forcats |
0.3.0 |
foreach |
1.4.4 |
外國 |
-69 - 0.8 |
“綠帶運動” |
2.1.3 |
ggplot2 |
2.2.1 |
git2r |
0.21.0 |
glmnet |
-16 - 2.0 |
膠水 |
1.2.0 |
高爾 |
0.1.2 |
圖形 |
3.4.4 |
grDevices |
3.4.4 |
網格 |
3.4.4 |
gsubfn |
0.7 |
gtable |
0.2.0 |
水 |
3.16.0.2 |
還 |
1.1.1 |
hms |
0.4.2 |
httr |
1.3.1 |
hwriter |
1.3.2 |
hwriterPlus |
1.0 - 3 |
不小 |
0.9 6 |
迭代器 |
1.0.9 |
jsonlite |
1.5 |
kernlab |
-25 - 0.9 |
KernSmooth |
-15 - 2.23 |
標簽 |
0.3 |
晶格 |
-35 - 0.20 |
熔岩 |
1.6.1 |
lazyeval |
0.2.1 |
的小 |
0.3.3 |
lme4 |
-17 - 1.1 |
lubridate |
1.7.3 |
magrittr |
1.5 |
mapproj |
1.2.6 |
地圖 |
3.3.0 |
maptools |
0.9 - 2 |
質量 |
-49 - 7.3 |
矩陣 |
-13 - 1.2 |
MatrixModels |
0.4 - 1 |
memoise |
1.1.0 |
方法 |
3.4.4 |
mgcv |
-23 - 1.8 |
mime |
0.5 |
minqa |
1.2.4 |
mnormt |
1.5 - 5 |
ModelMetrics |
1.1.0 |
孟塞爾 |
0.4.3 |
mvtnorm |
1.0 7 |
nlme |
-137 - 3.1 |
nloptr |
1.0.4 |
nnet |
-12 - 7.3 |
numDeriv |
2016.8 - 1 |
openssl |
1.0.1 |
openxlsx |
4.0.17 |
平行 |
3.4.4 |
pbkrtest |
0.4 7 |
支柱 |
1.2.1 " |
pkgconfig |
2.0.1 |
pkgKitten |
0.1.4 |
plogr |
0.2.0 |
plyr |
1.8.4 |
讚美 |
1.0.0 |
prettyunits |
1.0.2中 |
pROC |
1.11.0 |
prodlim |
1.6.1 |
原型 |
1.0.0 |
心理 |
1.8.3.3 |
purrr |
0.2.4 |
quantreg |
5.35 |
R.methodsS3 |
1.7.1上 |
R.oo |
1.21.0 |
R.utils |
2.6.0 |
R6 |
2.2.2 |
randomForest |
-14 - 4.6 |
RColorBrewer |
1.1 - 2 |
Rcpp |
0.12.16 |
RcppEigen |
0.3.3.4.0 |
RcppRoll |
0.2.2 |
RCurl |
1.95 - -4.10 |
readr |
1.1.1 |
readxl |
1.0.0 |
食譜 |
0.1.2 |
複賽 |
1.0.1 |
reshape2 |
3 |
裏約熱內盧 |
0.5.10 |
rlang |
0.2.0 |
robustbase |
0.92 8 |
RODBC |
-15 - 1.3 |
roxygen2 |
6.0.1中 |
rpart |
-13 - 4.1 |
rprojroot |
1.3 - 2 |
Rserve |
1.7 - 3 |
RSQLite |
魅惑 |
rstudioapi |
0.7 |
尺度 |
0.5.0 |
sfsmisc |
1.1 - 2 |
sp |
1.2 7 |
SparkR |
tripwire |
SparseM |
1.77 |
空間 |
-11 - 7.3 |
樣條函數 |
3.4.4 |
sqldf |
-11 - 0.4 |
SQUAREM |
2017.10 - 1 |
statmod |
1.4.30 |
統計數據 |
3.4.4 |
stats4 |
3.4.4 |
stringi |
1.1.7 |
stringr |
1.3.0 |
生存 |
2.41 - 3 |
tcltk |
3.4.4 |
TeachingDemos |
2.10 |
testthat |
2.0.0 |
寵物貓 |
1.4.2 |
tidyr |
0.8.0 |
tidyselect |
0.2.4 |
timeDate |
3043.102 |
工具 |
3.4.4 |
use utf8 |
1.1.3 |
跑龍套 |
3.4.4 |
viridisLite |
0.3.0 |
晶須 |
0.3 - 2 |
withr |
2.1.2 |
xml2 |
1.2.0 |
已安裝的Java和Scala庫(Scala 2.11集群版本)
組ID |
工件ID |
版本 |
---|---|---|
antlr |
antlr |
2.7.7 |
com.amazonaws |
amazon-kinesis-client |
1.7.3 |
com.amazonaws |
aws-java-sdk-autoscaling |
1.11.313 |
com.amazonaws |
aws-java-sdk-cloudformation |
1.11.313 |
com.amazonaws |
aws-java-sdk-cloudfront |
1.11.313 |
com.amazonaws |
aws-java-sdk-cloudhsm |
1.11.313 |
com.amazonaws |
aws-java-sdk-cloudsearch |
1.11.313 |
com.amazonaws |
aws-java-sdk-cloudtrail |
1.11.313 |
com.amazonaws |
aws-java-sdk-cloudwatch |
1.11.313 |
com.amazonaws |
aws-java-sdk-cloudwatchmetrics |
1.11.313 |
com.amazonaws |
aws-java-sdk-codedeploy |
1.11.313 |
com.amazonaws |
aws-java-sdk-cognitoidentity |
1.11.313 |
com.amazonaws |
aws-java-sdk-cognitosync |
1.11.313 |
com.amazonaws |
aws-java-sdk-config |
1.11.313 |
com.amazonaws |
aws-java-sdk-core |
1.11.313 |
com.amazonaws |
aws-java-sdk-datapipeline |
1.11.313 |
com.amazonaws |
aws-java-sdk-directconnect |
1.11.313 |
com.amazonaws |
aws-java-sdk-directory |
1.11.313 |
com.amazonaws |
aws-java-sdk-dynamodb |
1.11.313 |
com.amazonaws |
aws-java-sdk-ec2 |
1.11.313 |
com.amazonaws |
aws-java-sdk-ecs |
1.11.313 |
com.amazonaws |
aws-java-sdk-efs |
1.11.313 |
com.amazonaws |
aws-java-sdk-elasticache |
1.11.313 |
com.amazonaws |
aws-java-sdk-elasticbeanstalk |
1.11.313 |
com.amazonaws |
aws-java-sdk-elasticloadbalancing |
1.11.313 |
com.amazonaws |
aws-java-sdk-elastictranscoder |
1.11.313 |
com.amazonaws |
aws-java-sdk-emr |
1.11.313 |
com.amazonaws |
aws-java-sdk-glacier |
1.11.313 |
com.amazonaws |
aws-java-sdk-iam |
1.11.313 |
com.amazonaws |
aws-java-sdk-importexport |
1.11.313 |
com.amazonaws |
aws-java-sdk-kinesis |
1.11.313 |
com.amazonaws |
aws-java-sdk-kms |
1.11.313 |
com.amazonaws |
aws-java-sdk-lambda |
1.11.313 |
com.amazonaws |
aws-java-sdk-logs |
1.11.313 |
com.amazonaws |
aws-java-sdk-machinelearning |
1.11.313 |
com.amazonaws |
aws-java-sdk-opsworks |
1.11.313 |
com.amazonaws |
aws-java-sdk-rds |
1.11.313 |
com.amazonaws |
aws-java-sdk-redshift |
1.11.313 |
com.amazonaws |
aws-java-sdk-route53 |
1.11.313 |
com.amazonaws |
aws-java-sdk-s3 |
1.11.313 |
com.amazonaws |
aws-java-sdk-ses |
1.11.313 |
com.amazonaws |
aws-java-sdk-simpledb |
1.11.313 |
com.amazonaws |
aws-java-sdk-simpleworkflow |
1.11.313 |
com.amazonaws |
aws-java-sdk-sns |
1.11.313 |
com.amazonaws |
aws-java-sdk-sqs |
1.11.313 |
com.amazonaws |
aws-java-sdk-ssm |
1.11.313 |
com.amazonaws |
aws-java-sdk-storagegateway |
1.11.313 |
com.amazonaws |
aws-java-sdk-sts |
1.11.313 |
com.amazonaws |
aws-java-sdk-support |
1.11.313 |
com.amazonaws |
aws-java-sdk-swf-libraries |
1.11.22 |
com.amazonaws |
aws-java-sdk-workspaces |
1.11.313 |
com.amazonaws |
jmespath-java |
1.11.313 |
com.carrotsearch |
hppc |
0.7.2 |
com.chuusai |
shapeless_2.11 |
2.3.2 |
com.clearspring.analytics |
流 |
2.7.0 |
com.databricks |
Rserve |
1.8 - 3 |
com.databricks |
dbml-local_2.11 |
0.4.1-db1-spark2.3 |
com.databricks |
dbml-local_2.11-tests |
0.4.1-db1-spark2.3 |
com.databricks |
jets3t |
0.7.1-0 |
com.databricks.scalapb |
compilerplugin_2.11 |
0.4.15-9 |
com.databricks.scalapb |
scalapb-runtime_2.11 |
0.4.15-9 |
com.esotericsoftware |
kryo-shaded |
3.0.3 |
com.esotericsoftware |
minlog |
1.3.0 |
com.fasterxml |
同學 |
1.0.0 |
com.fasterxml.jackson.core |
jackson-annotations |
2.6.7 |
com.fasterxml.jackson.core |
jackson-core |
2.6.7 |
com.fasterxml.jackson.core |
jackson-databind |
2.6.7.1 |
com.fasterxml.jackson.dataformat |
jackson-dataformat-cbor |
2.6.7 |
com.fasterxml.jackson.datatype |
jackson-datatype-joda |
2.6.7 |
com.fasterxml.jackson.module |
jackson-module-paranamer |
2.6.7 |
com.fasterxml.jackson.module |
jackson-module-scala_2.11 |
2.6.7.1 |
com.github.fommil |
jniloader |
1.1 |
com.github.fommil.netlib |
核心 |
1.1.2 |
com.github.fommil.netlib |
native_ref-java |
1.1 |
com.github.fommil.netlib |
native_ref-java-natives |
1.1 |
com.github.fommil.netlib |
native_system-java |
1.1 |
com.github.fommil.netlib |
native_system-java-natives |
1.1 |
com.github.fommil.netlib |
netlib-native_ref-linux-x86_64-natives |
1.1 |
com.github.fommil.netlib |
netlib-native_system-linux-x86_64-natives |
1.1 |
com.github.luben |
zstd-jni |
1.3.2-2 |
com.github.rwl |
jtransforms |
測試盒框 |
com.google.code.findbugs |
jsr305 |
2.0.1 |
com.google.code.gson |
gson |
2.2.4 |
com.google.guava |
番石榴 |
15.0 |
com.google.protobuf |
protobuf-java |
2.6.1 |
com.googlecode.javaewah |
JavaEWAH |
0.3.2 |
com.h2database |
h2 |
1.3.174 |
com.jamesmurty.utils |
java-xmlbuilder |
1.1 |
com.jcraft |
jsch |
0.1.50 |
com.jolbox |
bonecp |
0.8.0.RELEASE |
com.mchange |
c3p0 |
0.9.5.1 |
com.mchange |
mchange-commons-java |
0.2.10 |
com.microsoft.azure |
azure-data-lake-store-sdk |
2.2.8 |
com.microsoft.sqlserver |
mssql-jdbc |
6.2.2.jre8 |
com.ning |
compress-lzf |
1.0.3 |
com.sun.mail |
javax.mail |
1.5.2 |
com.thoughtworks.paranamer |
paranamer |
2.8 |
com.trueaccord.lenses |
lenses_2.11 |
0.3 |
com.twitter |
chill-java |
0.8.4 |
com.twitter |
chill_2.11 |
0.8.4 |
com.twitter |
parquet-hadoop-bundle |
1.6.0 |
com.twitter |
util-app_2.11 |
6.23.0 |
com.twitter |
util-core_2.11 |
6.23.0 |
com.twitter |
util-jvm_2.11 |
6.23.0 |
com.typesafe |
配置 |
1.2.1 " |
com.typesafe.scala-logging |
scala-logging-api_2.11 |
2.1.2 |
com.typesafe.scala-logging |
scala-logging-slf4j_2.11 |
2.1.2 |
com.univocity |
univocity-parsers |
2.5.9 |
com.vlkan |
flatbuffers |
1.2.0-3f79e055 |
com.zaxxer |
HikariCP |
2.4.1 |
commons-beanutils |
commons-beanutils |
1.7.0 |
commons-beanutils |
commons-beanutils-core |
1.8.0 |
commons-cli |
commons-cli |
1.2 |
commons-codec |
commons-codec |
1.10 |
commons-collections |
commons-collections |
3.2.2 |
commons configuration |
commons configuration |
1.6 |
commons-dbcp |
commons-dbcp |
1.4 |
commons-digester |
commons-digester |
1.8 |
commons-httpclient |
commons-httpclient |
3.1 |
commons-io |
commons-io |
2.4 |
commons lang |
commons lang |
2.6 |
通用日誌 |
通用日誌 |
1.1.3 |
commons net |
commons net |
2.2 |
commons-pool |
commons-pool |
1.5.4 |
info.ganglia.gmetric4j |
gmetric4j |
1.0.7 |
io.airlift |
aircompressor |
0.8 |
io.dropwizard.metrics |
metrics-core |
3.1.5 |
io.dropwizard.metrics |
metrics-ganglia |
3.1.5 |
io.dropwizard.metrics |
metrics-graphite |
3.1.5 |
io.dropwizard.metrics |
metrics-healthchecks |
3.1.5 |
io.dropwizard.metrics |
metrics-jetty9 |
3.1.5 |
io.dropwizard.metrics |
metrics-json |
3.1.5 |
io.dropwizard.metrics |
metrics-jvm |
3.1.5 |
io.dropwizard.metrics |
metrics-log4j |
3.1.5 |
io.dropwizard.metrics |
metrics-servlets |
3.1.5 |
io.netty |
網狀的 |
3.9.9.Final |
io.netty |
netty-all |
4.1.17.Final |
io.prometheus |
simpleclient |
0.0.16 |
io.prometheus |
simpleclient_common |
0.0.16 |
io.prometheus |
simpleclient_dropwizard |
0.0.16 |
io.prometheus |
simpleclient_servlet |
0.0.16 |
io.prometheus.jmx |
收集器 |
0.7 |
javax.activation |
激活 |
1.1.1 |
javax.annotation |
javax.annotation-api |
1.2 |
javax.el |
javax.el-api |
2.2.4 |
javax.jdo |
jdo api |
3.0.1 |
javax.servlet |
javax.servlet-api |
3.1.0 |
javax.servlet.jsp |
jsp-api |
2.1 |
javax.transaction |
jta |
1.1 |
javax.validation |
驗證api |
1.1.0.Final |
javax.ws.rs |
javax.ws.rs-api |
2.0.1 |
javax.xml.bind |
jaxb-api |
2.2.2 |
javax.xml.stream |
stax-api |
1.0 - 2 |
javolution |
javolution |
5.5.1 |
jline |
jline |
2.11 |
joda-time |
joda-time |
2.9.3 |
log4j |
apache-log4j-extras |
1.2.17 |
log4j |
log4j |
1.2.17 |
net.hydromatic |
eigenbase-properties |
1.1.5 |
net.iharder |
base64 |
2.3.8 |
net.java.dev.jets3t |
jets3t |
0.9.4 |
net.razorvine |
地幔岩 |
4.13 |
net.sf.jpam |
jpam |
1.1 |
net.sf.opencsv |
opencsv |
2.3 |
net.sf.supercsv |
super-csv |
2.2.0 |
net.sourceforge.f2j |
arpack_combined_all |
0.1 |
org.acplt |
oncrpc |
1.0.7 |
org.antlr |
ST4 |
4.0.4 |
org.antlr |
antlr-runtime |
3.4 |
org.antlr |
antlr4-runtime |
4.7 |
org.antlr |
stringtemplate |
3.2.1之上 |
org.apache.ant |
螞蟻 |
1.9.2 |
org.apache.ant |
ant-jsch |
1.9.2 |
org.apache.ant |
ant-launcher |
1.9.2 |
org.apache.arrow |
arrow-format |
0.8.0 |
org.apache.arrow |
arrow-memory |
0.8.0 |
org.apache.arrow |
arrow-vector |
0.8.0 |
org.apache.avro |
avro |
1.7.7 |
org.apache.avro |
avro-ipc |
1.7.7 |
org.apache.avro |
avro-ipc-tests |
1.7.7 |
org.apache.avro |
avro-mapred-hadoop2 |
1.7.7 |
org.apache.calcite |
calcite-avatica |
1.2.0-incubating |
org.apache.calcite |
calcite-core |
1.2.0-incubating |
org.apache.calcite |
calcite-linq4j |
1.2.0-incubating |
org.apache.commons |
commons-compress |
1.4.1 |
org.apache.commons |
commons-crypto |
1.0.0 |
org.apache.commons |
commons-lang3 |
3.5 |
org.apache.commons |
commons-math3 |
3.4.1 |
org.apache.curator |
curator-client |
2.7.1 |
org.apache.curator |
curator-framework |
2.7.1 |
org.apache.curator |
curator-recipes |
2.7.1 |
org.apache.derby |
德比 |
10.12.1.1 |
org.apache.directory.api |
api-asn1-api |
1.0.0-M20 |
org.apache.directory.api |
api-util |
1.0.0-M20 |
org.apache.directory.server |
apacheds-i18n |
2.0.0-M15 |
org.apache.directory.server |
apacheds-kerberos-codec |
2.0.0-M15 |
org.apache.hadoop |
hadoop-annotations |
2.7.3 |
org.apache.hadoop |
hadoop-auth |
2.7.3 |
org.apache.hadoop |
hadoop-client |
2.7.3 |
org.apache.hadoop |
hadoop-common |
2.7.3 |
org.apache.hadoop |
hadoop-hdfs |
2.7.3 |
org.apache.hadoop |
hadoop-mapreduce-client-app |
2.7.3 |
org.apache.hadoop |
hadoop-mapreduce-client-common |
2.7.3 |
org.apache.hadoop |
hadoop-mapreduce-client-core |
2.7.3 |
org.apache.hadoop |
hadoop-mapreduce-client-jobclient |
2.7.3 |
org.apache.hadoop |
hadoop-mapreduce-client-shuffle |
2.7.3 |
org.apache.hadoop |
hadoop-yarn-api |
2.7.3 |
org.apache.hadoop |
hadoop-yarn-client |
2.7.3 |
org.apache.hadoop |
hadoop-yarn-common |
2.7.3 |
org.apache.hadoop |
hadoop-yarn-server-common |
2.7.3 |
org.apache.htrace |
htrace-core |
3.1.0-incubating |
org.apache.httpcomponents |
httpclient |
4.5.4 |
org.apache.httpcomponents |
httpcore |
4.4.8 |
org.apache.ivy |
艾薇 |
測試盒框 |
org.apache.orc |
orc-core-nohive |
1.4.1 |
org.apache.orc |
orc-mapreduce-nohive |
1.4.1 |
org.apache.parquet |
parquet-column |
1.8.2-databricks1 |
org.apache.parquet |
parquet-common |
1.8.2-databricks1 |
org.apache.parquet |
parquet-encoding |
1.8.2-databricks1 |
org.apache.parquet |
parquet-format |
2.3.1 |
org.apache.parquet |
parquet-hadoop |
1.8.2-databricks1 |
org.apache.parquet |
parquet-jackson |
1.8.2-databricks1 |
org.apache.thrift |
libfb303 |
0.9.3 |
org.apache.thrift |
libthrift |
0.9.3 |
org.apache.xbean |
xbean-asm5-shaded |
4.4 |
org.apache.zookeeper |
動物園管理員 |
3.4.6 |
org.bouncycastle |
bcprov-jdk15on |
1.58 |
org.codehaus.jackson |
jackson-core-asl |
1.9.13 |
org.codehaus.jackson |
jackson-jaxrs |
1.9.13 |
org.codehaus.jackson |
jackson-mapper-asl |
1.9.13 |
org.codehaus.jackson |
jackson-xc |
1.9.13 |
org.codehaus.janino |
commons-compiler |
3.0.8 |
org.codehaus.janino |
janino |
3.0.8 |
org.datanucleus |
datanucleus-api-jdo |
3.2.6 |
org.datanucleus |
datanucleus-core |
3.2.10 |
org.datanucleus |
datanucleus-rdbms |
3.2.9 |
org.eclipse.jetty |
jetty-client |
9.3.20.v20170531 |
org.eclipse.jetty |
jetty-continuation |
9.3.20.v20170531 |
org.eclipse.jetty |
jetty-http |
9.3.20.v20170531 |
org.eclipse.jetty |
jetty-io |
9.3.20.v20170531 |
org.eclipse.jetty |
jetty-jndi |
9.3.20.v20170531 |
org.eclipse.jetty |
jetty-plus |
9.3.20.v20170531 |
org.eclipse.jetty |
jetty-proxy |
9.3.20.v20170531 |
org.eclipse.jetty |
jetty-security |
9.3.20.v20170531 |
org.eclipse.jetty |
jetty服務器 |
9.3.20.v20170531 |
org.eclipse.jetty |
jetty servlet |
9.3.20.v20170531 |
org.eclipse.jetty |
jetty-servlets |
9.3.20.v20170531 |
org.eclipse.jetty |
jetty-util |
9.3.20.v20170531 |
org.eclipse.jetty |
jetty-webapp |
9.3.20.v20170531 |
org.eclipse.jetty |
jetty-xml |
9.3.20.v20170531 |
org.fusesource.leveldbjni |
leveldbjni-all |
1.8 |
org.glassfish.hk2 |
hk2-api |
2.4.0-b34 |
org.glassfish.hk2 |
hk2-locator |
2.4.0-b34 |
org.glassfish.hk2 |
hk2-utils |
2.4.0-b34 |
org.glassfish.hk2 |
osgi-resource-locator |
1.0.1 |
org.glassfish.hk2.external |
aopalliance-repackaged |
2.4.0-b34 |
org.glassfish.hk2.external |
javax.inject |
2.4.0-b34 |
org.glassfish.jersey.bundles.repackaged |
jersey-guava |
2.22.2 |
org.glassfish.jersey.containers |
jersey-container-servlet |
2.22.2 |
org.glassfish.jersey.containers |
jersey-container-servlet-core |
2.22.2 |
org.glassfish.jersey.core |
jersey客戶端 |
2.22.2 |
org.glassfish.jersey.core |
jersey-common |
2.22.2 |
org.glassfish.jersey.core |
jersey-server |
2.22.2 |
org.glassfish.jersey.media |
jersey-media-jaxb |
2.22.2 |
org.hibernate |
hibernate驗證框架 |
5.1.1.Final |
org.iq80.snappy |
時髦的 |
0.2 |
org.javassist |
javassist |
3.18.1-GA |
org.jboss.logging |
jboss-logging |
3.1.3.GA |
org.jdbi |
jdbi |
2.63.1 |
org.joda |
joda-convert |
1.7 |
org.jodd |
jodd-core |
3.5.2 |
org.json4s |
json4s-ast_2.11 |
3.2.11 |
org.json4s |
json4s-core_2.11 |
3.2.11 |
org.json4s |
json4s-jackson_2.11 |
3.2.11 |
org.lz4 |
lz4-java |
1.4.0 |
org.mariadb.jdbc |
mariadb-java-client |
2.1.2 |
org.mockito |
mockito-all |
1.9.5 |
org.objenesis |
objenesis |
2.1 |
org.postgresql |
postgresql |
42.1.4 |
org.roaringbitmap |
RoaringBitmap |
0.5.11 |
org.rocksdb |
rocksdbjni |
5.2.1 |
org.rosuda.REngine |
REngine |
魅惑 |
org.scala-lang |
scala-compiler_2.11 |
2.11.8 |
org.scala-lang |
scala-library_2.11 |
2.11.8 |
org.scala-lang |
scala-reflect_2.11 |
2.11.8 |
org.scala-lang |
scalap_2.11 |
2.11.8 |
org.scala-lang.modules |
scala-parser-combinators_2.11 |
1.0.2中 |
org.scala-lang.modules |
scala-xml_2.11 |
1.0.5 |
org.scala-sbt |
測試界麵 |
1.0 |
org.scalacheck |
scalacheck_2.11 |
1.12.5 |
org.scalanlp |
breeze-macros_2.11 |
0.13.2 |
org.scalanlp |
breeze_2.11 |
0.13.2 |
org.scalatest |
scalatest_2.11 |
2.2.6款 |
org.slf4j |
jcl-over-slf4j |
1.7.16 |
org.slf4j |
jul-to-slf4j |
1.7.16 |
org.slf4j |
slf4j-api |
1.7.16 |
org.slf4j |
slf4j-log4j12 |
1.7.16 |
org.spark-project.hive |
hive-beeline |
1.2.1.spark2 |
org.spark-project.hive |
hive-cli |
1.2.1.spark2 |
org.spark-project.hive |
hive-exec |
1.2.1.spark2 |
org.spark-project.hive |
hive-jdbc |
1.2.1.spark2 |
org.spark-project.hive |
hive-metastore |
1.2.1.spark2 |
org.spark-project.spark |
未使用的 |
1.0.0 |
org.spire-math |
spire-macros_2.11 |
0.13.0 |
org.spire-math |
spire_2.11 |
0.13.0 |
org.springframework |
spring核心 |
4.1.4.RELEASE |
org.springframework |
spring測試 |
4.1.4.RELEASE |
org.tukaani |
xz |
1.0 |
org.typelevel |
machinist_2.11 |
0.6.1 |
org.typelevel |
macro-compat_2.11 |
1.1.1 |
org.xerial |
sqlite-jdbc |
3.8.11.2 |
org.xerial.snappy |
snappy-java |
1.1.2.6 |
org.yaml |
snakeyaml |
1.16 |
奧羅 |
奧羅 |
2.0.8 |
software.amazon.ion |
ion-java |
1.0.2中 |
stax |
stax-api |
1.0.1 |
xmlenc |
xmlenc |
0.52 |