磚運行時的7.2(不支持)
磚2020年8月發布的這張照片。
以下版本注釋提供信息數據磚7.2運行時,由Apache 3.0火花。
新功能
磚7.2運行時包括以下新特性。
自動加載器通常是可用的
自動加載器是一種有效的方法,逐步攝取大量的文件到三角洲湖。現在GA並添加以下特點:目錄清單,雲資源管理API,速率限製選項,選項驗證。
目錄清單模式選項
自動加載程序添加一個新目錄清單模式下,除了現有的文件通知模式,確定當有新的文件。
目錄清單模式:在某些場景中隻有少數文件需要定期蜂擁而來。在這些情況下,識別新的文件並行輸入目錄的清單和消化他們是合理有效的。這允許您啟動自動加載程序流沒有任何權限配置。目錄清單模式是默認的模式從磚自動加載程序運行時7.2及以上。
文件通知方式:您可以顯式地選擇的文件通知模式,這是更好的性能和可伸縮的大型輸入目錄,但需要你通知服務的權限配置文件事件和訂閱集
.option (“cloudFiles.useNotifications”,“真正的”)。現有自動加載程序流開始下麵的磚7.1運行時,自動選擇時文件通知模式升級到磚7.2運行時。
有關更多信息,請參見自動加載器是什麼?。
雲資源管理API
您現在可以使用Scala API來管理雲資源由自動加載程序。你可以通知服務和拆除具體通知服務列表使用這個API。有關更多信息,請參見手動配置或管理文件通知資源。
速度限製選項
您現在可以使用cloudFiles.maxBytesPerTrigger選擇限製在每個microbatch處理的數據量。您可以指定一個字節字符串等10克限製每個microbatch 10 GB的數據。這是一個軟最大。如果你有文件3 GB,磚過程microbatch 12 GB。這個選項一起使用時沒有影響Trigger.Once ()。當不提供這個選項,默認值cloudFiles.maxFilesPerTrigger1000年的文件用於速度限製。一起使用時cloudFiles.maxFilesPerTrigger,磚消耗的最低限製cloudFiles.maxFilesPerTrigger或cloudFiles.maxBytesPerTrigger,首先達到哪個。
有關更多信息,請參見自動加載器是什麼?。
選擇驗證
現在汽車加載程序驗證您提供的選項。如果您提供一個未知選項,自動加載程序返回一個錯誤,而不是靜靜地忽視的選項。驗證也檢測不一致在你提供的選項。例如,如果您設置cloudFiles.useNotifications來假同時提供許可選項AWS SNS和SQS服務,驗證將會失敗。跳過驗證選項,設置cloudFiles.validateOptions來假。
改變默認的選項值和兼容性
一些汽車裝載器選項的默認行為改變磚7.2運行時。以確保兼容性,流的行為開始磚7.1運行時,下麵將保持不變甚至在你升級到一個集群上運行這些流運行磚運行時的7.2或以上。看到自動加載器是什麼?。
有效地複製一個δ表克隆(公共預覽版)
你現在可以有效地創建一個增量表淺或深克隆一個特定版本克隆命令。深克隆是一個獨立的克隆形成的三角洲表的並行複製文件從源表與目標表。淺克隆是一個廉價創建克隆,不將文件複製到目標表但指向原始表中的文件。任何更改深或淺克隆隻會影響克隆而不是原始表。看到克隆一個表在磚上。
升級S3連接器提供更好的穩定性和性能(公共預覽版)
升級後的連接器是基於Hadoop 3.1.3和包含了許多穩定的改進(參見Hadoop穩定史詩2、3和4),包括優化列表可以導致顯著的降低成本,根據深度和S3目錄結構的氣息。有關詳細信息,請參見連接到Amazon S3。
改進
雪花連接器:連接器已經升級到版本2.8.1發布,其中包括引發3.0支持。
PySpark可用性:當PySpark或熊貓UDF失敗,現在磚表麵Python-side異常以及最近執行行筆記本代碼(如適用)頂部的錯誤消息。
憑據透傳:
您現在可以使用集群passthrough-enabled LDA變換函數。
現在,您可以設置存儲檢查點目錄passthrough-enabled集群。
集群庫:磚現在處理所有集群庫的順序安裝在集群。磚運行時的7.1及以下,隻有Maven和凹口庫處理他們的順序安裝在集群。其他庫安裝在一個不確定的秩序。
TensorBoard:
TensorBoard流程與管理
tensorboard.notebookAPI。可以有多個TensorBoard後端運行在一個集群。
在Python中筆記本、顯示器TensorBoard UI內聯使用
% tensorboard神奇的命令行。dbutils.tensorboard棄用。
看到TensorBoard。
升級的Python庫:
jmespath升級0.9.4 0.10.0。
考拉從1.0.1升級到1.1.0。
升級安裝幾個R庫。看到安裝R庫。
Apache火花
磚7.2運行時包含Apache 3.0.0火花。這個版本包括所有火花修複和改進中磚運行時的7.1(不支持)以及以下額外的bug修複和改進了火花:
(火花- 32234)[SQL]火花SQL命令選擇獸人表上是失敗的
(火花- 30616)[SQL]介紹TTL SQL緩存元數據配置選項
(火花- 21117)[SQL]內置SQL函數支持——WIDTH_BUCKET
(火花- 32168)[SQL]解決隱藏分區正確性錯誤在SQL覆蓋
(火花- 31935)Hadoop文件係統配置應該有效的數據源的選擇
(火花- 32270)[SQL]使用TextFileFormat CSV的模式推理不同的編碼
(火花- 28481)[SQL]更多的表達式應該延長NullIntolerant
(火花- 32220)[SQL] SHUFFLE_REPLICATE_NL Non-Cartesian產品連接結果提示應該不會改變
(火花- 32232)(毫升)[PYSPARK]確保毫升Scala和Python之間解決相同的默認值
(火花- 32238)[SQL]使用跑龍套。在ScalaUDF getSimpleName避免觸及畸形類的名字
(火花- 32220)[SQL] SHUFFLE_REPLICATE_NL Non-Cartesian產品連接結果提示應該不會改變
(火花- 32256)[SQL]力來初始化Hadoop VersionInfo HiveExternalCatalog
(火花- 32159)[SQL]之間解決集成聚合器[[_]數組,_,_]和UnresolvedMapObjects
(火花- 32160)(核心)(PYSPARK)不允許創建SparkContext執行人
(火花- 32168)[SQL]解決隱藏分區正確性錯誤在SQL覆蓋
(火花- 32024)[WEBUI] ApplicationStoreInfo更新。大小在HistoryServerDiskManager初始化
(火花- 32214)[SQL] makeFromJava的類型轉換函數生成的“其他”類型使用一個錯誤的變量
(火花- 30703)[SQL] SqlBase更新。g4無效的評論
(火花- 32163)[SQL]嵌套的修剪工作即使化妝變化
(火花- 32124)(核心)使用無效值Int.MinValue填補地圖索引時,事件日誌從舊火花版本
(火花- 32167)[SQL]修複GetArrayStructFields一起nullability尊重內心的字段
(火花- 32130)[SQL]啟用時間戳在JsonBenchmark推理
(火花- 32121)(SHUFFLE)支持在ExecutorDiskUtils Windows操作係統
(火花- 32130)[SQL]禁用JSON的選擇
inferTimestamp默認情況下(火花- 31935)[SQL] Hadoop文件係統配置應該有效的數據源的選擇
(火花- 32095)[SQL]更新文檔,以反映使用更新統計數據
(火花- 32131)[SQL]修複AnalysisException消息在聯盟/ / -操作除外
(火花- 32068)[WEBUI]正確的任務lauchtime由於時區階段選項卡顯示問題
(火花- 29999)[SS]修複測試檢查實際的元數據日誌目錄
(火花- 32127)[SQL]並入應該使用MergeAction檢查規則。conditition MergeAction.children以外
(火花- 32038)[SQL]使浮/雙歸一化後的別名相當
(火花- 32126)[SS]會話範圍。活躍在IncrementalExecution
(火花- 32115)[SQL]解決子字符串處理整數溢出
(火花- 32098)PYTHON使用iloc位置切片而不是直接切片在createDataFrame箭頭
(火花- 32080)(火花- 31998)[SQL]簡化ArrowColumnVector ListArray訪問器
(火花- 32028)[WEBUI]修複應用程序id鏈接多嚐試應用曆史上總結頁麵
(火花- 31918)[R]忽視S4泛型方法在關閉SparkR名稱空間支持R 4.0.0 +清潔
(火花- 32038)[SQL] NormalizeFloatingNumbers也應該工作在不同的聚合
(火花- 32034)[SQL]港口蜂巢- 14817:關閉SessionManager timeoutChecker線程正確關閉
(火花- 32021)[SQL]增加秒精度和分數的
make_interval(火花- 31980)[SQL]函數序列()失敗如果開始和結束的範圍是相等的日期
(火花- 32020)[SQL]當SPARK_HOME或spark.test更好的錯誤消息。家裏沒有設置
(火花- 32011)(PYTHON)(核心)刪除警告陽螺紋使用collectWithJobGroup模式和指導
維護更新
看到磚7.2運行時的維護更新。
係統環境
操作係統:Ubuntu 18.04.4 LTS
Java:1.8.0_252
Scala:2.12.10
Python:3.7.5
R:R版本3.6.3 (2020-02-29)
三角洲湖0.7.0
安裝Python庫
圖書館 |
版本 |
圖書館 |
版本 |
圖書館 |
版本 |
|---|---|---|---|---|---|
asn1crypto |
1.3.0 |
backcall |
0.1.0 |
boto3 |
1.12.0 |
botocore |
1.15.0 |
certifi |
2020.6.20 |
cffi |
1.14.0 |
chardet |
3.0.4 |
密碼學 |
2.8 |
周期計 |
0.10.0 |
Cython |
0.29.15 |
裝飾 |
4.1.1 |
docutils |
0.15.2 |
entrypoints |
0.3 |
idna |
2.8 |
ipykernel |
5.1.4 |
ipython |
7.12.0 |
ipython-genutils |
0.2.0 |
絕地武士 |
0.14.1 |
jmespath |
0.10.0 |
joblib |
0.14.1 |
jupyter-client |
5.3.4 |
jupyter-core |
4.6.1 |
kiwisolver |
1.1.0 |
考拉 |
1.1.0 |
matplotlib |
3.1.3 |
numpy |
1.18.1 |
熊貓 |
1.0.1 |
parso |
0.5.2 |
容易受騙的人 |
0.5.1 |
pexpect |
4.8.0 |
pickleshare |
0.7.5 |
皮普 |
20.0.2 |
prompt-toolkit |
3.0.3 |
psycopg2 |
2.8.4 |
ptyprocess |
0.6.0 |
pyarrow |
0.15.1 |
pycparser |
2.19 |
Pygments |
2.5.2 |
PyGObject |
3.26.1 |
pyOpenSSL |
19.1.0 |
pyparsing |
2.4.6 |
PySocks |
1.7.1上 |
python-apt |
1.6.5 + ubuntu0.3 |
python-dateutil |
2.8.1發布 |
pytz |
2019.3 |
pyzmq |
18.1.1 |
請求 |
2.22.0 |
s3transfer |
0.3.3 |
scikit-learn |
0.22.1 |
scipy |
1.4.1 |
seaborn |
0.10.0 |
setuptools |
45.2.0 |
六個 |
1.14.0 |
ssh-import-id |
5.7 |
statsmodels |
0.11.0 |
龍卷風 |
6.0.3 |
traitlets |
4.3.3 |
unattended-upgrades |
0.1 |
urllib3 |
1.25.8 |
virtualenv |
16.7.10 |
wcwidth |
0.1.8 |
輪 |
0.34.2 |
安裝R庫
R庫安裝(微軟在2020-07-14凹口快照)。
圖書館 |
版本 |
圖書館 |
版本 |
圖書館 |
版本 |
|---|---|---|---|---|---|
askpass |
1.1 |
為了 |
0.2.1 |
補丁 |
1.1.8 |
基地 |
3.6.3 |
base64enc |
0.1 - 3 |
黑洞 |
1.72.0-3 |
位 |
1.1 - -15.2 |
bit64 |
0.9 7 |
團 |
1.2.1 " |
引導 |
-25 - 1.3 |
釀造 |
1.0 6 |
掃帚 |
0.7.0 |
callr |
3.4.3 |
脫字符號 |
-86 - 6.0 |
cellranger |
1.1.0 |
時間 |
-55 - 2.3 |
類 |
-17 - 7.3 |
cli |
2.0.2 |
clipr |
0.7.0 |
集群 |
魅惑 |
codetools |
-16 - 0.2 |
色彩 |
1.4 - 1 |
commonmark |
1.7 |
編譯器 |
3.6.3 |
配置 |
0.3 |
covr |
3.5.0 |
蠟筆 |
1.3.4 |
相聲 |
1.1.0.1 |
旋度 |
4.3 |
data.table |
1.12.8 |
數據集 |
3.6.3 |
DBI |
1.1.0 |
dbplyr |
1.4.4 |
desc |
1.2.0 |
devtools |
tripwire |
消化 |
0.6.25 |
dplyr |
0.8.5 |
DT |
0.14 |
省略 |
0.3.1 |
評估 |
0.14 |
fansi |
0.4.1 |
farver |
2.0.3 |
fastmap |
1.0.1 |
forcats |
0.5.0 |
foreach |
1.5.0 |
外國 |
-76 - 0.8 |
打造 |
0.2.0 |
fs |
1.4.2 |
泛型 |
發布 |
ggplot2 |
3.3.2 |
“大酒店” |
1.1.0 |
git2r |
0.27.1 |
glmnet |
3.0 - 2 |
全局變量 |
0.12.5 |
膠水 |
1.4.1 |
高爾 |
0.2.2 |
圖形 |
3.6.3 |
grDevices |
3.6.3 |
網格 |
3.6.3 |
gridExtra |
2.3 |
gsubfn |
0.7 |
gtable |
0.3.0 |
還 |
2.3.1 |
highr |
0.8 |
hms |
0.5.3 |
htmltools |
0.5.0 |
htmlwidgets |
1.5.1 |
httpuv |
1.5.4 |
httr |
1.4.1 |
hwriter |
1.3.2 |
hwriterPlus |
1.0 - 3 |
ini |
0.3.1 |
不小 |
0.9 9 |
isoband |
0.2.2 |
迭代器 |
1.0.12 |
jsonlite |
1.7.0 |
KernSmooth |
-17 - 2.23 |
knitr |
1.29 |
標簽 |
0.3 |
晚些時候 |
1.1.0.1 |
晶格 |
-41 - 0.20 |
熔岩 |
1.6.7 |
lazyeval |
0.2.2 |
生命周期 |
0.2.0 |
lubridate |
1.7.9 |
magrittr |
1.5 |
減價 |
1.1 |
質量 |
7.3 - -51.6 |
矩陣 |
-18 - 1.2 |
memoise |
1.1.0 |
方法 |
3.6.3 |
mgcv |
-31 - 1.8 |
mime |
0.9 |
ModelMetrics |
1.2.2.2 |
modelr |
0.1.8 |
孟塞爾 |
0.5.0 |
nlme |
-147 - 3.1 |
nnet |
-14 - 7.3 |
numDeriv |
2016.8 - -1.1 |
openssl |
1.4.2 |
平行 |
3.6.3 |
支柱 |
1.4.6 |
pkgbuild |
1.1.0 |
pkgconfig |
2.0.3 |
pkgload |
1.1.0 |
plogr |
0.2.0 |
plyr |
1.8.6 |
讚美 |
1.0.0 |
prettyunits |
1.1.1 |
pROC |
1.16.2 |
processx |
3.4.3 |
prodlim |
2019.11.13 |
進步 |
1.2.2 |
承諾 |
1.1.1 |
原型 |
1.0.0 |
ps |
1.3.3 |
purrr |
0.3.4 |
r2d3 |
0.2.3 |
R6 |
2.4.1 |
randomForest |
-14 - 4.6 |
rappdirs |
0.3.1 |
rcmdcheck |
1.3.3 |
RColorBrewer |
1.1 - 2 |
Rcpp |
1.0.5 |
readr |
1.3.1 |
readxl |
1.3.1 |
食譜 |
0.1.13 |
複賽 |
1.0.1 |
rematch2 |
2.1.2 |
遙控器 |
2.1.1 |
reprex |
0.3.0 |
reshape2 |
1.4.4 |
雷克斯 |
1.2.0 |
rjson |
0.2.20 |
rlang |
0.4.7 |
rmarkdown |
2.3 |
RODBC |
-16 - 1.3 |
roxygen2 |
安裝7.1.1 |
rpart |
-15 - 4.1 |
rprojroot |
1.3 - 2 |
Rserve |
1.8 7 |
RSQLite |
2.2.0 |
rstudioapi |
0.11 |
rversions |
2.0.2 |
房車 |
0.3.5 |
尺度 |
1.1.1 |
selectr |
0.4 - 2 |
sessioninfo |
1.1.1 |
形狀 |
1.4.4 |
閃亮的 |
1.5.0 |
sourcetools |
0.1.7 |
sparklyr |
1.3.1 |
SparkR |
3.0.0 |
空間 |
-11 - 7.3 |
樣條函數 |
3.6.3 |
sqldf |
-11 - 0.4 |
SQUAREM |
2020.3 |
統計數據 |
3.6.3 |
stats4 |
3.6.3 |
stringi |
1.4.6 |
stringr |
1.4.0 |
生存 |
-12 - 3.1 |
sys |
3.3 |
tcltk |
3.6.3 |
TeachingDemos |
2.10 |
testthat |
2.3.2 |
寵物貓 |
3.0.3 |
tidyr |
1.1.0 |
tidyselect |
1.1.0 |
tidyverse |
1.3.0 |
timeDate |
3043.102 |
tinytex |
0.24 |
工具 |
3.6.3 |
usethis |
1.6.1 |
use utf8 |
1.1.4 |
跑龍套 |
3.6.3 |
uuid |
0.1 - 4 |
vctrs |
0.3.1 |
viridisLite |
0.3.0 |
晶須 |
0.4 |
withr |
2.2.0 |
xfun |
0.15 |
xml2 |
1.3.2 |
xopen |
1.0.0 |
xtable |
1.8 - 4 |
yaml |
2.2.1 |
安裝了Java和Scala庫(Scala 2.12集群版)
組ID |
工件ID |
版本 |
|---|---|---|
antlr |
antlr |
2.7.7 |
com.amazonaws |
amazon-kinesis-client |
1.12.0 |
com.amazonaws |
aws-java-sdk-autoscaling |
1.11.655 |
com.amazonaws |
aws-java-sdk-cloudformation |
1.11.655 |
com.amazonaws |
aws-java-sdk-cloudfront |
1.11.655 |
com.amazonaws |
aws-java-sdk-cloudhsm |
1.11.655 |
com.amazonaws |
aws-java-sdk-cloudsearch |
1.11.655 |
com.amazonaws |
aws-java-sdk-cloudtrail |
1.11.655 |
com.amazonaws |
aws-java-sdk-cloudwatch |
1.11.655 |
com.amazonaws |
aws-java-sdk-cloudwatchmetrics |
1.11.655 |
com.amazonaws |
aws-java-sdk-codedeploy |
1.11.655 |
com.amazonaws |
aws-java-sdk-cognitoidentity |
1.11.655 |
com.amazonaws |
aws-java-sdk-cognitosync |
1.11.655 |
com.amazonaws |
aws-java-sdk-config |
1.11.655 |
com.amazonaws |
aws-java-sdk-core |
1.11.655 |
com.amazonaws |
aws-java-sdk-datapipeline |
1.11.655 |
com.amazonaws |
aws-java-sdk-directconnect |
1.11.655 |
com.amazonaws |
aws-java-sdk-directory |
1.11.655 |
com.amazonaws |
aws-java-sdk-dynamodb |
1.11.655 |
com.amazonaws |
aws-java-sdk-ec2 |
1.11.655 |
com.amazonaws |
aws-java-sdk-ecs |
1.11.655 |
com.amazonaws |
aws-java-sdk-efs |
1.11.655 |
com.amazonaws |
aws-java-sdk-elasticache |
1.11.655 |
com.amazonaws |
aws-java-sdk-elasticbeanstalk |
1.11.655 |
com.amazonaws |
aws-java-sdk-elasticloadbalancing |
1.11.655 |
com.amazonaws |
aws-java-sdk-elastictranscoder |
1.11.655 |
com.amazonaws |
aws-java-sdk-emr |
1.11.655 |
com.amazonaws |
aws-java-sdk-glacier |
1.11.655 |
com.amazonaws |
aws-java-sdk-iam |
1.11.655 |
com.amazonaws |
aws-java-sdk-importexport |
1.11.655 |
com.amazonaws |
aws-java-sdk-kinesis |
1.11.655 |
com.amazonaws |
aws-java-sdk-kms |
1.11.655 |
com.amazonaws |
aws-java-sdk-lambda |
1.11.655 |
com.amazonaws |
aws-java-sdk-logs |
1.11.655 |
com.amazonaws |
aws-java-sdk-machinelearning |
1.11.655 |
com.amazonaws |
aws-java-sdk-opsworks |
1.11.655 |
com.amazonaws |
aws-java-sdk-rds |
1.11.655 |
com.amazonaws |
aws-java-sdk-redshift |
1.11.655 |
com.amazonaws |
aws-java-sdk-route53 |
1.11.655 |
com.amazonaws |
aws-java-sdk-s3 |
1.11.655 |
com.amazonaws |
aws-java-sdk-ses |
1.11.655 |
com.amazonaws |
aws-java-sdk-simpledb |
1.11.655 |
com.amazonaws |
aws-java-sdk-simpleworkflow |
1.11.655 |
com.amazonaws |
aws-java-sdk-sns |
1.11.655 |
com.amazonaws |
aws-java-sdk-sqs |
1.11.655 |
com.amazonaws |
aws-java-sdk-ssm |
1.11.655 |
com.amazonaws |
aws-java-sdk-storagegateway |
1.11.655 |
com.amazonaws |
aws-java-sdk-sts |
1.11.655 |
com.amazonaws |
aws-java-sdk-support |
1.11.655 |
com.amazonaws |
aws-java-sdk-swf-libraries |
1.11.22 |
com.amazonaws |
aws-java-sdk-workspaces |
1.11.655 |
com.amazonaws |
jmespath-java |
1.11.655 |
com.chuusai |
shapeless_2.12 |
2.3.3 |
com.clearspring.analytics |
流 |
2.9.6 |
com.databricks |
Rserve |
1.8 - 3 |
com.databricks |
jets3t |
0.7.1-0 |
com.databricks.scalapb |
compilerplugin_2.12 |
0.4.15-10 |
com.databricks.scalapb |
scalapb-runtime_2.12 |
0.4.15-10 |
com.esotericsoftware |
kryo-shaded |
4.0.2 |
com.esotericsoftware |
minlog |
1.3.0 |
com.fasterxml |
同學 |
1.3.4 |
com.fasterxml.jackson.core |
jackson-annotations |
2.10.0 |
com.fasterxml.jackson.core |
jackson-core |
2.10.0 |
com.fasterxml.jackson.core |
jackson-databind |
2.10.0 |
com.fasterxml.jackson.dataformat |
jackson-dataformat-cbor |
2.10.0 |
com.fasterxml.jackson.datatype |
jackson-datatype-joda |
2.10.0 |
com.fasterxml.jackson.module |
jackson-module-paranamer |
2.10.0 |
com.fasterxml.jackson.module |
jackson-module-scala_2.12 |
2.10.0 |
com.github.ben-manes.caffeine |
咖啡因 |
2.3.4 |
com.github.fommil |
jniloader |
1.1 |
com.github.fommil.netlib |
核心 |
1.1.2 |
com.github.fommil.netlib |
native_ref-java |
1.1 |
com.github.fommil.netlib |
native_ref-java-natives |
1.1 |
com.github.fommil.netlib |
native_system-java |
1.1 |
com.github.fommil.netlib |
native_system-java-natives |
1.1 |
com.github.fommil.netlib |
netlib-native_ref-linux-x86_64-natives |
1.1 |
com.github.fommil.netlib |
netlib-native_system-linux-x86_64-natives |
1.1 |
com.github.joshelser |
dropwizard-metrics-hadoop-metrics2-reporter |
0.1.2 |
com.github.luben |
zstd-jni |
1.4.4-3 |
com.github.wendykierp |
JTransforms |
3.1 |
com.google.code.findbugs |
jsr305 |
3.0.0 |
com.google.code.gson |
gson |
2.2.4 |
com.google.flatbuffers |
flatbuffers-java |
1.9.0 |
com.google.guava |
番石榴 |
15.0 |
com.google.protobuf |
protobuf-java |
2.6.1 |
com.h2database |
h2 |
1.4.195 |
com.helger |
分析器 |
1.1.1 |
com.jcraft |
jsch |
0.1.50 |
com.jolbox |
bonecp |
0.8.0.RELEASE |
com.lihaoyi |
sourcecode_2.12 |
0.1.9 |
com.microsoft.azure |
azure-data-lake-store-sdk |
2.2.8 |
com.microsoft.sqlserver |
mssql-jdbc |
8.2.1.jre8 |
com.ning |
compress-lzf |
1.0.3 |
com.sun.mail |
javax.mail |
1.5.2 |
com.tdunning |
json |
1.8 |
com.thoughtworks.paranamer |
paranamer |
2.8 |
com.trueaccord.lenses |
lenses_2.12 |
0.4.12 |
com.twitter |
chill-java |
0.9.5 |
com.twitter |
chill_2.12 |
0.9.5 |
com.twitter |
util-app_2.12 |
7.1.0 |
com.twitter |
util-core_2.12 |
7.1.0 |
com.twitter |
util-function_2.12 |
7.1.0 |
com.twitter |
util-jvm_2.12 |
7.1.0 |
com.twitter |
util-lint_2.12 |
7.1.0 |
com.twitter |
util-registry_2.12 |
7.1.0 |
com.twitter |
util-stats_2.12 |
7.1.0 |
com.typesafe |
配置 |
1.2.1 " |
com.typesafe.scala-logging |
scala-logging_2.12 |
3.7.2章 |
com.univocity |
univocity-parsers |
2.8.3 |
com.zaxxer |
HikariCP |
3.1.0 |
commons-beanutils |
commons-beanutils |
1.9.4 |
commons-cli |
commons-cli |
1.2 |
commons-codec |
commons-codec |
1.10 |
commons-collections |
commons-collections |
3.2.2 |
commons configuration |
commons configuration |
1.6 |
commons-dbcp |
commons-dbcp |
1.4 |
commons-digester |
commons-digester |
1.8 |
commons-fileupload |
commons-fileupload |
1.3.3 |
commons-httpclient |
commons-httpclient |
3.1 |
commons-io |
commons-io |
2.4 |
commons lang |
commons lang |
2.6 |
通用日誌 |
通用日誌 |
1.1.3 |
commons net |
commons net |
3.1 |
commons-pool |
commons-pool |
1.5.4 |
info.ganglia.gmetric4j |
gmetric4j |
1.0.10 |
io.airlift |
aircompressor |
0.10 |
io.dropwizard.metrics |
metrics-core |
以下4.4.1 |
io.dropwizard.metrics |
metrics-graphite |
以下4.4.1 |
io.dropwizard.metrics |
metrics-healthchecks |
以下4.4.1 |
io.dropwizard.metrics |
metrics-jetty9 |
以下4.4.1 |
io.dropwizard.metrics |
metrics-jmx |
以下4.4.1 |
io.dropwizard.metrics |
metrics-json |
以下4.4.1 |
io.dropwizard.metrics |
metrics-jvm |
以下4.4.1 |
io.dropwizard.metrics |
metrics-servlets |
以下4.4.1 |
io.netty |
netty-all |
4.1.47.Final |
jakarta.annotation |
jakarta.annotation-api |
1.3.5 |
jakarta.validation |
jakarta.validation-api |
2.0.2 |
jakarta.ws.rs |
jakarta.ws.rs-api |
2.1.6 |
javax.activation |
激活 |
1.1.1 |
javax.el |
javax.el-api |
2.2.4 |
javax.jdo |
jdo api |
3.0.1 |
javax.servlet |
javax.servlet-api |
3.1.0 |
javax.servlet.jsp |
jsp-api |
2.1 |
javax.transaction |
jta |
1.1 |
javax.transaction |
事務api |
1.1 |
javax.xml.bind |
jaxb-api |
2.2.2 |
javax.xml.stream |
stax-api |
1.0 - 2 |
javolution |
javolution |
5.5.1 |
jline |
jline |
2.14.6 |
joda-time |
joda-time |
2.10.5 |
log4j |
apache-log4j-extras |
1.2.17 |
log4j |
log4j |
1.2.17 |
net.razorvine |
地幔岩 |
4.30 |
net.sf.jpam |
jpam |
1.1 |
net.sf.opencsv |
opencsv |
2.3 |
net.sf.supercsv |
super-csv |
2.2.0 |
net.snowflake |
snowflake-ingest-sdk |
0.9.6 |
net.snowflake |
snowflake-jdbc |
3.12.8 |
net.snowflake |
spark-snowflake_2.12 |
2.8.1-spark_3.0 |
net.sourceforge.f2j |
arpack_combined_all |
0.1 |
org.acplt.remotetea |
remotetea-oncrpc |
1.1.2 |
org.antlr |
ST4 |
4.0.4 |
org.antlr |
antlr-runtime |
3.5.2 |
org.antlr |
antlr4-runtime |
4.7.1 |
org.antlr |
stringtemplate |
3.2.1之上 |
org.apache.ant |
螞蟻 |
1.9.2 |
org.apache.ant |
ant-jsch |
1.9.2 |
org.apache.ant |
ant-launcher |
1.9.2 |
org.apache.arrow |
arrow-format |
0.15.1 |
org.apache.arrow |
arrow-memory |
0.15.1 |
org.apache.arrow |
arrow-vector |
0.15.1 |
org.apache.avro |
avro |
1.8.2 |
org.apache.avro |
avro-ipc |
1.8.2 |
org.apache.avro |
avro-mapred-hadoop2 |
1.8.2 |
org.apache.commons |
commons-compress |
1.8.1 |
org.apache.commons |
commons-crypto |
1.0.0 |
org.apache.commons |
commons-lang3 |
3.9 |
org.apache.commons |
commons-math3 |
3.4.1 |
org.apache.commons |
commons-text |
1.6 |
org.apache.curator |
curator-client |
2.7.1 |
org.apache.curator |
curator-framework |
2.7.1 |
org.apache.curator |
curator-recipes |
2.7.1 |
org.apache.derby |
德比 |
10.12.1.1 |
org.apache.directory.api |
api-asn1-api |
1.0.0-M20 |
org.apache.directory.api |
api-util |
1.0.0-M20 |
org.apache.directory.server |
apacheds-i18n |
2.0.0-M15 |
org.apache.directory.server |
apacheds-kerberos-codec |
2.0.0-M15 |
org.apache.hadoop |
hadoop-annotations |
第2.7.4 |
org.apache.hadoop |
hadoop-auth |
第2.7.4 |
org.apache.hadoop |
hadoop-client |
第2.7.4 |
org.apache.hadoop |
hadoop-common |
第2.7.4 |
org.apache.hadoop |
hadoop-hdfs |
第2.7.4 |
org.apache.hadoop |
hadoop-mapreduce-client-app |
第2.7.4 |
org.apache.hadoop |
hadoop-mapreduce-client-common |
第2.7.4 |
org.apache.hadoop |
hadoop-mapreduce-client-core |
第2.7.4 |
org.apache.hadoop |
hadoop-mapreduce-client-jobclient |
第2.7.4 |
org.apache.hadoop |
hadoop-mapreduce-client-shuffle |
第2.7.4 |
org.apache.hadoop |
hadoop-yarn-api |
第2.7.4 |
org.apache.hadoop |
hadoop-yarn-client |
第2.7.4 |
org.apache.hadoop |
hadoop-yarn-common |
第2.7.4 |
org.apache.hadoop |
hadoop-yarn-server-common |
第2.7.4 |
org.apache.hive |
hive-beeline |
2.3.7 |
org.apache.hive |
hive-cli |
2.3.7 |
org.apache.hive |
hive-common |
2.3.7 |
org.apache.hive |
hive-exec-core |
2.3.7 |
org.apache.hive |
hive-jdbc |
2.3.7 |
org.apache.hive |
hive-llap-client |
2.3.7 |
org.apache.hive |
hive-llap-common |
2.3.7 |
org.apache.hive |
hive-metastore |
2.3.7 |
org.apache.hive |
hive-serde |
2.3.7 |
org.apache.hive |
hive-shims |
2.3.7 |
org.apache.hive |
hive-storage-api |
2.7.1 |
org.apache.hive |
hive-vector-code-gen |
2.3.7 |
org.apache.hive.shims |
蜂巢0.23 -墊片 |
2.3.7 |
org.apache.hive.shims |
hive-shims-common |
2.3.7 |
org.apache.hive.shims |
hive-shims-scheduler |
2.3.7 |
org.apache.htrace |
htrace-core |
3.1.0-incubating |
org.apache.httpcomponents |
httpclient |
4.5.6 |
org.apache.httpcomponents |
httpcore |
4.4.12 |
org.apache.ivy |
艾薇 |
測試盒框 |
org.apache.orc |
orc-core |
1.5.10 |
org.apache.orc |
orc-mapreduce |
1.5.10 |
org.apache.orc |
orc-shims |
1.5.10 |
org.apache.parquet |
parquet-column |
1.10.1.2-databricks4 |
org.apache.parquet |
parquet-common |
1.10.1.2-databricks4 |
org.apache.parquet |
parquet-encoding |
1.10.1.2-databricks4 |
org.apache.parquet |
parquet-format |
測試盒框 |
org.apache.parquet |
parquet-hadoop |
1.10.1.2-databricks4 |
org.apache.parquet |
parquet-jackson |
1.10.1.2-databricks4 |
org.apache.thrift |
libfb303 |
0.9.3 |
org.apache.thrift |
libthrift |
0.12.0 |
org.apache.velocity |
速度 |
1.5 |
org.apache.xbean |
xbean-asm7-shaded |
4.15 |
org.apache.yetus |
audience-annotations |
0.5.0 |
org.apache.zookeeper |
動物園管理員 |
3.4.14 |
org.codehaus.jackson |
jackson-core-asl |
1.9.13 |
org.codehaus.jackson |
jackson-jaxrs |
1.9.13 |
org.codehaus.jackson |
jackson-mapper-asl |
1.9.13 |
org.codehaus.jackson |
jackson-xc |
1.9.13 |
org.codehaus.janino |
commons-compiler |
3.0.16 |
org.codehaus.janino |
janino |
3.0.16 |
org.datanucleus |
datanucleus-api-jdo |
4.2.4 |
org.datanucleus |
datanucleus-core |
4.1.17 |
org.datanucleus |
datanucleus-rdbms |
4.1.19 |
org.datanucleus |
javax.jdo |
3.2.0-m3 |
org.eclipse.jetty |
jetty-client |
9.4.18.v20190429 |
org.eclipse.jetty |
jetty-continuation |
9.4.18.v20190429 |
org.eclipse.jetty |
jetty-http |
9.4.18.v20190429 |
org.eclipse.jetty |
jetty-io |
9.4.18.v20190429 |
org.eclipse.jetty |
jetty-jndi |
9.4.18.v20190429 |
org.eclipse.jetty |
jetty-plus |
9.4.18.v20190429 |
org.eclipse.jetty |
jetty-proxy |
9.4.18.v20190429 |
org.eclipse.jetty |
jetty-security |
9.4.18.v20190429 |
org.eclipse.jetty |
jetty服務器 |
9.4.18.v20190429 |
org.eclipse.jetty |
jetty servlet |
9.4.18.v20190429 |
org.eclipse.jetty |
jetty-servlets |
9.4.18.v20190429 |
org.eclipse.jetty |
jetty-util |
9.4.18.v20190429 |
org.eclipse.jetty |
jetty-webapp |
9.4.18.v20190429 |
org.eclipse.jetty |
jetty-xml |
9.4.18.v20190429 |
org.fusesource.leveldbjni |
leveldbjni-all |
1.8 |
org.glassfish.hk2 |
hk2-api |
2.6.1 |
org.glassfish.hk2 |
hk2-locator |
2.6.1 |
org.glassfish.hk2 |
hk2-utils |
2.6.1 |
org.glassfish.hk2 |
osgi-resource-locator |
1.0.3 |
org.glassfish.hk2.external |
aopalliance-repackaged |
2.6.1 |
org.glassfish.hk2.external |
jakarta.inject |
2.6.1 |
org.glassfish.jersey.containers |
jersey-container-servlet |
2.30 |
org.glassfish.jersey.containers |
jersey-container-servlet-core |
2.30 |
org.glassfish.jersey.core |
jersey客戶端 |
2.30 |
org.glassfish.jersey.core |
jersey-common |
2.30 |
org.glassfish.jersey.core |
jersey-server |
2.30 |
org.glassfish.jersey.inject |
jersey-hk2 |
2.30 |
org.glassfish.jersey.media |
jersey-media-jaxb |
2.30 |
org.hibernate.validator |
hibernate驗證框架 |
6.1.0.Final |
org.javassist |
javassist |
3.25.0-GA |
org.jboss.logging |
jboss-logging |
3.3.2.Final |
org.jdbi |
jdbi |
2.63.1 |
org.joda |
joda-convert |
1.7 |
org.jodd |
jodd-core |
3.5.2 |
org.json4s |
json4s-ast_2.12 |
3.6.6 |
org.json4s |
json4s-core_2.12 |
3.6.6 |
org.json4s |
json4s-jackson_2.12 |
3.6.6 |
org.json4s |
json4s-scalap_2.12 |
3.6.6 |
org.lz4 |
lz4-java |
1.7.1上 |
org.mariadb.jdbc |
mariadb-java-client |
2.1.2 |
org.objenesis |
objenesis |
2.5.1 |
org.postgresql |
postgresql |
42.1.4 |
org.roaringbitmap |
RoaringBitmap |
0.7.45 |
org.roaringbitmap |
墊片 |
0.7.45 |
org.rocksdb |
rocksdbjni |
6.2.2 |
org.rosuda.REngine |
REngine |
魅惑 |
org.scala-lang |
scala-compiler_2.12 |
2.12.10 |
org.scala-lang |
scala-library_2.12 |
2.12.10 |
org.scala-lang |
scala-reflect_2.12 |
2.12.10 |
org.scala-lang.modules |
scala-collection-compat_2.12 |
2.1.1 |
org.scala-lang.modules |
scala-parser-combinators_2.12 |
1.1.2 |
org.scala-lang.modules |
scala-xml_2.12 |
1.2.0 |
org.scala-sbt |
測試界麵 |
1.0 |
org.scalacheck |
scalacheck_2.12 |
1.14.2 |
org.scalactic |
scalactic_2.12 |
3.0.8 |
org.scalanlp |
breeze-macros_2.12 |
1.0 |
org.scalanlp |
breeze_2.12 |
1.0 |
org.scalatest |
scalatest_2.12 |
3.0.8 |
org.slf4j |
jcl-over-slf4j |
1.7.30 |
org.slf4j |
jul-to-slf4j |
1.7.30 |
org.slf4j |
slf4j-api |
1.7.30 |
org.slf4j |
slf4j-log4j12 |
1.7.30 |
org.spark-project.spark |
未使用的 |
1.0.0 |
org.springframework |
spring核心 |
4.1.4.RELEASE |
org.springframework |
spring測試 |
4.1.4.RELEASE |
org.threeten |
threeten-extra |
1.5.0 |
org.tukaani |
xz |
1.5 |
org.typelevel |
algebra_2.12 |
2.0.0-M2 |
org.typelevel |
cats-kernel_2.12 |
2.0.0-M4 |
org.typelevel |
machinist_2.12 |
0.6.8 |
org.typelevel |
macro-compat_2.12 |
1.1.1 |
org.typelevel |
spire-macros_2.12 |
0.17.0-M1 |
org.typelevel |
spire-Beplay体育安卓版本platform_2.12 |
0.17.0-M1 |
org.typelevel |
spire-util_2.12 |
0.17.0-M1 |
org.typelevel |
spire_2.12 |
0.17.0-M1 |
org.xerial |
sqlite-jdbc |
3.8.11.2 |
org.xerial.snappy |
snappy-java |
1.1.7.5 |
org.yaml |
snakeyaml |
1.24 |
奧羅 |
奧羅 |
2.0.8 |
pl.edu.icm |
JLargeArrays |
1.5 |
software.amazon.ion |
ion-java |
1.0.2中 |
stax |
stax-api |
1.0.1 |
xmlenc |
xmlenc |
0.52 |