Databricks Runtime 8.4(不支持)
以下发布说明提供了有关Databricks Runtime 8.4和Databricks Runtime 8.4 Photon的信息,由Apache Spark 3.1.2提供支持。Databricks于2021年7月发布了这些图像。光子是在公共预览.
新功能和改进
通过使用AWS Glue Data目录中的凭据传递来提高集群安全性
当使用AWS Glue Data Catalog作为外部Hive metastore时,现在支持凭据传递。具有不同权限的调用者可以从同一集群写入AWS胶水数据目录。有关更多信息,请参见步骤6:使用Glue Catalog实例概要启动集群.
三角洲湖的特点和改进
增量表更改数据馈送(GA)
Delta表更改数据提要现在通常是可用的。它表示表的不同版本之间的行级更改。启用后,将记录关于表上每个写操作的行级更改的附加信息。看到在Databricks上使用Delta Lake更改数据提要.
更多的表受益于动态文件修剪
动态文件修剪功能已调整为在文件较少的表上触发。看到动态文件修剪.
具有自动目标文件大小调优的更好性能
Delta表的目标文件大小现在根据表大小自动调优。以前,目标文件大小为优化
而且优化ZORDER通过
是1 gb。通过基于表大小的自动调优,2.56TB以内的Delta表将使用256MB作为目标大小。大于10TB的表将像以前一样使用1GB。这些大小之间的表将使用随表大小成比例增长的目标大小。看到配置Delta Lake以控制数据文件大小.
中指定表的更多方法DeltaTable.forName
DeltaTable.forName
现在支持使用delta. <路径>的
识别表。
健壮的流多表写入使用foreachBatch
的恒等流写入foreachBatch ()
命令。详细信息请参见幂等多表写入.
由于调优了检查点,提高了某些工作负载下的读查询性能
Delta Lake现在调整增强检查点的频率。Delta现在根据某些事件触发器动态调整检查点频率,而不是固定间隔的检查点。这提高了以前无法应用某些数据跳过优化的工作负载中的读查询性能。要使用这些优化,请将写入Delta Lake的作业升级到Databricks Runtime 8.4。看到为结构化流查询启用增强检查点.
创建GroupState
测试用户定义的结构化流功能
到目前为止,只有结构化流引擎可以创建GroupState
.因此,用户定义函数的任何单元测试都需要在Apache Spark中运行流查询。
的实例GroupState
使用TestGroupState.create(…)
.这允许您在不需要运行Spark的简单单元测试中测试用户定义的函数。看到测试mapGroupsWithState更新函数.具体来说,它生成类型的实例TestGroupState
它扩展了接口GroupState
使用用于在应用用户定义函数之后自省内部状态的其他方法。
自动加载功能和改进
配置回填来捕获遗漏的文件
Auto Loader现在支持异步执行回填,以捕获任何文件,可能已经错过了文件通知。文件存储系统和通知系统不能100%保证所有文件事件的传递。因此,Databricks建议启用定期回填来捕获您的所有数据与自动加载器。使用cloudFiles.backfillInterval
选项安排定期回填您的数据。看到常用的Auto Loader选项.
跨帐户文件通知访问
自动加载器现在通过使用假设角色支持跨AWS帐户加载数据。在设置了由假定角色创建的临时安全凭证之后,您可以让Auto Loader跨帐户加载云文件。看到在不同的AWS帐户中安全地摄取数据.
大容量流的绑定存储占用
现在,您可以配置Auto Loader过期并删除RocksDB中的条目,以将其存储占用绑定到检查点位置。Databricks不建议您使用它,除非您每小时要摄取数百万个文件的数据。不正确地设置此选项或试图对其进行调优可能会导致许多数据质量问题,例如忽略未处理的文件或重复某些文件,而不是精确地处理一次。详细信息请参见事件保留.
具有无路径支持的简化配置
S3 bucket
现在可以提供从多个路径或S3桶接收事件的SQS队列。如果您提供SQS队列URL,则路径
选项对此用例不需要。Auto Loader使用S3事件中的桶和键构造S3路径。如果希望通过DBFS挂载点读取文件,可以使用cloudFiles.pathRewrites
将路径前缀更改为DBFS。这不是必需的,除非您正在访问不同帐户中的数据AssumeRole
.
看到文件通知选项.
Azure数据湖存储Gen2容器
您现在可以提供Azure队列来接收来自多个容器的事件。如果您提供Azure队列名称,则路径
选项不是必需的。默认情况下,Auto Loader使用文件事件中的容器和键构造Azure Data Lake Storage Gen2路径。如果您想使用WASB路径或DBFS挂载点,可以使用cloudFiles.pathRewrites
更改路径前缀。
看到文件通知选项.
连接器的升级
雪花火花连接器已更新到v2.9.0。
中现在支持KMS加密
卸载
红移连接器的语句。
错误修复
修正了在集群中启用表访问控制的问题
选择*从文件夹
即使用户没有文件访问权限,也可以显示文件夹内容。非管理员数据库所有者现在可以删除数据库中非所有者的表。这修复了数据库所有者在数据库中存在非所有者表时无法删除数据库的问题。
库升级
升级的Python库:
证书从2020.12.5升级到2021.5.30
蒸馏从0.3.1升级到0.3.2
考拉从1.8.0升级到1.8.1
Protobuf从3.17.0升级到3.17.3
升级的R库:
从4.0.4到4.1.0
从1.3-27启动到1.3-28
从7.3-18到7.3-19
集群从2.1.1到2.1.2
编译器从4.0.4到4.1.0
数据集从4.0.4到4.1.0
从4.0.4到4.1.0的图形
grDevices从4.0.4到4.1.0
网格从4.0.4到4.1.0
KernSmooth从2.23-18到2.23-20
晶格从0.20-41到0.20-44
质量从7.3-53.1到7.3-54
矩阵从1.3-2到1.3-3
从4.0.4到4.1.0的方法
MGCV从1.8-33增加到1.8-35
Nnet从7.3-15到7.3-16
平行于4.0.4到4.1.0
预定量从1.8-7到1.8-8
SparkR从3.1.1到3.1.2
从4.0.4到4.1.0的样条
从4.0.4到4.1.0
统计数据从4.0.4到4.1.0
存活率从3.2-7到3.2-11
TCLTK从4.0.4到4.1.0
从4.0.4到4.1.0的工具
从4.0.4到4.1.0
升级的Java库:
雪花-jdbc从3.12.8到3.13.3
Spark-snowflake_2.12从2.8.1-spark_3.0到2.9.0- spark3.1
RoaringBitmap从0.9.0到0.9.14
Shims从0.9.0到0.9.14
Rocksdbjni从6.2.2到6.20.3
Apache火花
Databricks Runtime 8.4包含Apache Spark 3.1.2。此版本包括所有Spark修复和改进Databricks Runtime 8.3(不支持),以及以下对Spark的额外错误修复和改进:
(火花- 35792)[SQL]视图不应该捕获在
RelationConversions
(火花- 35700)[SQL]读取外部系统创建和写入的char/varchar orc表
(火花- 35636)Lambda键不应该在Lambda函数之外被引用
(火花- 35800)通过引入TestGroupState来提高GroupState的可测试性
(火花- 35391)修复ExecutorAllocationListener中的内存泄漏
(火花- 35799)修正FlatMapGroupsWithStateExec中的allUpdatesTimeMs度量测量
(火花- 35763)删除StateStoreCustomMetric子类枚举依赖项
[火星- 35791[SQL]为支持null的ANTI连接正确释放正在进行的映射
(火花- 35695)[SQL]从缓存和自适应执行子树中收集观察到的指标
(火花- 35767)[SQL]避免在CoalesceExec中执行两次子计划
(火花- 35746)修复了舞台页面任务时间轴中的taskid
(火花- 35673)[SQL]修复子查询中用户自定义提示和无法识别的提示。
(火花- 35714)[核心]修复了执行程序关闭时死锁的Bug
(火花- 35689)[SS]当keyWithIndexToValue返回空值时增加日志警告
(火花- 35589)[CORE][3.1] BlockManagerMasterEndpoint不应该在更新过程中忽略索引纯洗牌文件
(火花- 35643)修复functions.py column()中不明确的引用
(火花- 35652)[SQL] joinWith在由同一个表生成的两个表上
(火花- 35679)[SQL] instantToMicros overflow
(火花- 35602)[SS]更新状态模式以能够接受较长的JSON
(火花- 35653)[SQL]修复CatalystToExternalMap解释路径失败的Map case类作为键或值
(火花- 35296)[SQL]允许数据集。即使任务中的CollectMetricsExec处理多个分区,也可以正常工作。
(火花- 35659)[SS]避免将null写入StateStore
(火花- 35665)[SQL]解析CollectMetrics中的UnresolvedAlias
(火花- 35558)优化多分位数检索
(火花- 35621)[SQL]在TypeCoercion规则中添加规则id修剪
(火花- 35077)[SQL]将剩余的优化器规则迁移到transformWithPruning
(火花- 35610)修正由Executor的stop shutdown钩子引起的内存泄漏
(火花- 35544)[SQL]添加树模式修剪到Analyzer规则
(火花- 35566)修正StateStoreRestoreExec输出行
(火花- 35454)[SQL][3.1]一个LogicalPlan可以匹配多个数据集id
(火花- 35538)[SQL] Migrate transformalleexpression调用站点使用transformAllExpressionsWithPruning
(火花- 35106)[Core][SQL]避免目标目录不存在导致重命名失败
(火花- 35287)[SQL]允许RemoveRedundantProjects保存为DataSourceV2ScanRelation生成UnsafeRow的ProjectExec
(火花- 35495)[R]更改CRAN的SparkR维护者
(火花- 27991)[CORE]延迟Netty OOM的取回请求
(火花- 35171)[R]将markdown包声明为SparkR包的依赖项
(火花- 35454)[SQL]一个LogicalPlan可以匹配多个数据集id
(火花- 35298)[SQL]将Optimizer.scala中的规则迁移到transformWithPruning
(火花- 35480)[SQL]使percentile_approximate与pivot一起工作
(火花- 35093)[SQL] AQE现在使用newQueryStage计划作为键来查找缓存的交换以供重用
(火花- 35146)[SQL] finishAnalysis.scala中的规则迁移到transformWithPruning或resolveWithPruning
(火花- 35411)[SQL]在将TreeNode序列化为json时添加基本信息
(火花- 35294)[SQL]在优化器下的专用文件规则中添加树遍历修剪
(火花- 34897)[SQL][3.1]支持嵌套列修剪后基于索引的模式协调
(火花- 35144)[SQL]对象规则迁移到transformWithPruning
(火花- 35155)[SQL]在Analyzer规则中添加规则id修剪
(火花- 35382)修复PYTHON api中嵌套DataFrame函数中的lambda变量名称问题。
(火花- 35359)[SQL]当数据长度超过限制时,插入char/varchar数据类型的数据将失败
(火花- 35381)修正R api中嵌套的高阶函数中的lambda变量名问题
系统环境
操作系统: Ubuntu 18.04.5 LTS
Java: Zulu 8.54.0.21-CA-linux64
Scala: 2.12.10
Python: 3.8.8
R: 4.1.0 (2021-05-18)
三角洲湖1.0.0
已安装的Python库
图书馆 |
版本 |
图书馆 |
版本 |
图书馆 |
版本 |
---|---|---|---|---|---|
appdirs |
1.4.4 |
asn1crypto |
1.4.0 |
backcall |
0.2.0 |
boto3 |
1.16.7 |
botocore |
1.19.7 |
brotlipy |
0.7.0 |
certifi |
2021.5.30 |
cffi |
1.14.3 |
chardet |
3.0.4 |
密码学 |
3.1.1 |
周期计 |
0.10.0 |
Cython |
0.29.21 |
装饰 |
10/24/11 |
distlib |
0.3.2 |
docutils |
0.15.2 |
entrypoints |
0.3 |
facets-overview |
1.0.0 |
filelock |
3.0.12 |
idna |
2.10 |
ipykernel |
5.3.4 |
ipython |
7.19.0 |
ipython-genutils |
0.2.0 |
绝地武士 |
0.17.2 |
jmespath |
0.10.0 |
joblib |
0.17.0 |
jupyter-client |
6.1.7 |
jupyter-core |
4.6.3 |
kiwisolver |
1.3.0 |
考拉 |
1.8.1 |
matplotlib |
3.2.2 |
numpy |
1.19.2 |
熊猫 |
1.1.5 |
parso |
0.7.0 |
容易受骗的人 |
0.5.1 |
pexpect |
4.8.0 |
pickleshare |
0.7.5 |
皮普 |
20.2.4 |
情节 |
4.14.3 |
prompt-toolkit |
3.0.8 |
protobuf |
3.17.3 |
psycopg2 |
2.8.5 |
ptyprocess |
0.6.0 |
pyarrow |
1.0.1 |
pycparser |
2.20 |
Pygments |
2.7.2 |
pyOpenSSL |
19.1.0 |
pyparsing |
2.4.7 |
PySocks |
1.7.1上 |
python-dateutil |
2.8.1发布 |
pytz |
2020.5 |
pyzmq |
19.0.2 |
请求 |
2.24.0 |
重试 |
1.3.3 |
s3transfer |
0.3.6 |
scikit-learn |
0.23.2 |
scipy |
1.5.2 |
seaborn |
0.10.0 |
setuptools |
50.3.1 |
六个 |
1.15.0 |
statsmodels |
0.12.0 |
threadpoolctl |
魅惑 |
龙卷风 |
6.0.4 |
traitlets |
5.0.5 |
urllib3 |
1.25.11 |
virtualenv |
20.2.1 |
wcwidth |
0.2.5 |
轮 |
0.35.1 |
已安装的R库
图书馆 |
版本 |
图书馆 |
版本 |
图书馆 |
版本 |
---|---|---|---|---|---|
askpass |
1.1 |
为了 |
0.2.1 |
补丁 |
1.2.1 " |
基地 |
4.1.0 |
base64enc |
0.1 - 3 |
黑洞 |
1.72.0-3 |
位 |
4.0.4 |
bit64 |
你 |
团 |
1.2.1 " |
引导 |
-28 - 1.3 |
酿造 |
1.0 6 |
生动 |
1.1.0 |
扫帚 |
0.7.2 |
callr |
3.5.1 |
脱字符号 |
-86 - 6.0 |
cellranger |
1.1.0 |
时间 |
-56 - 2.3 |
类 |
-19 - 7.3 |
cli |
2.2.0 |
clipr |
是0.7.1 |
集群 |
2.1.2 |
codetools |
-18 - 0.2 |
色彩 |
2.0 0 |
commonmark |
1.7 |
编译器 |
4.1.0 |
配置 |
0.3 |
covr |
3.5.1 |
cpp11 |
0.2.4 |
蜡笔 |
1.3.4 |
凭证 |
1.3.0 |
相声 |
1.1.0.1 |
旋度 |
4.3 |
data.table |
1.13.4 |
数据集 |
4.1.0 |
DBI |
1.1.0 |
dbplyr |
2.0.0 |
desc |
1.2.0 |
devtools |
2.3.2 |
diffobj |
0.3.2 |
消化 |
0.6.27 |
dplyr |
1.0.2中 |
DT |
0.16 |
省略 |
0.3.1 |
评估 |
0.14 |
fansi |
0.4.1 |
farver |
2.0.3 |
fastmap |
1.0.1 |
forcats |
0.5.0 |
foreach |
1.5.1 |
外国 |
-81 - 0.8 |
打造 |
0.2.0 |
fs |
1.5.0 |
未来 |
1.21.0 |
泛型 |
0.1.0 |
哥特 |
1.0.2中 |
ggplot2 |
3.3.2 |
“大酒店” |
1.2.0 |
gitcreds |
0.1.1 |
glmnet |
4.0 - 2 |
全局变量 |
0.14.0 |
胶水 |
1.4.2 |
高尔 |
0.2.2 |
图形 |
4.1.0 |
grDevices |
4.1.0 |
网格 |
4.1.0 |
gridExtra |
2.3 |
gsubfn |
0.7 |
gtable |
0.3.0 |
还 |
2.3.1 |
highr |
0.8 |
hms |
0.5.3 |
htmltools |
0.5.0 |
htmlwidgets |
1.5.3 |
httpuv |
1.5.4 |
httr |
1.4.2 |
hwriter |
1.3.2 |
hwriterPlus |
1.0 - 3 |
ini |
0.3.1 |
不小 |
0.9 9 |
isoband |
0.2.3 |
迭代器 |
1.0.13 |
jsonlite |
1.7.2 |
KernSmooth |
-20 - 2.23 |
knitr |
1.30 |
标签 |
0.4.2 |
晚些时候 |
1.1.0.1 |
晶格 |
-44 - 0.20 |
熔岩 |
1.6.8.1 |
lazyeval |
0.2.2 |
生命周期 |
0.2.0 |
listenv |
0.8.0 |
lubridate |
1.7.9.2 |
magrittr |
2.0.1 |
减价 |
1.1 |
质量 |
-54 - 7.3 |
矩阵 |
1.3 - 3 |
memoise |
1.1.0 |
方法 |
4.1.0 |
mgcv |
-35 - 1.8 |
mime |
0.9 |
ModelMetrics |
1.2.2.2 |
modelr |
0.1.8 |
孟塞尔 |
0.5.0 |
nlme |
-152 - 3.1 |
nnet |
-16 - 7.3 |
numDeriv |
2016.8 - -1.1 |
openssl |
3 |
平行 |
4.1.0 |
平行 |
1.22.0 |
支柱 |
1.4.7 |
pkgbuild |
1.1.0 |
pkgconfig |
2.0.3 |
pkgload |
1.1.0 |
plogr |
0.2.0 |
plyr |
1.8.6 |
赞美 |
1.0.0 |
prettyunits |
1.1.1 |
pROC |
1.16.2 |
processx |
3.4.5 |
prodlim |
2019.11.13 |
进步 |
1.2.2 |
承诺 |
1.1.1 |
原型 |
1.0.0 |
ps |
1.5.0 |
purrr |
0.3.4 |
r2d3 |
0.2.3 |
R6 |
2.5.0 |
randomForest |
-14 - 4.6 |
rappdirs |
0.3.1 |
rcmdcheck |
1.3.3 |
RColorBrewer |
1.1 - 2 |
Rcpp |
1.0.5 |
readr |
1.4.0 |
readxl |
1.3.1 |
食谱 |
0.1.15 |
复赛 |
1.0.1 |
rematch2 |
2.1.2 |
遥控器 |
2.2.0 |
reprex |
0.3.0 |
reshape2 |
1.4.4 |
雷克斯 |
1.2.0 |
rlang |
0.4.9 |
rmarkdown |
2.6 |
RODBC |
-17 - 1.3 |
roxygen2 |
安装7.1.1 |
rpart |
-15 - 4.1 |
rprojroot |
2.0.2 |
Rserve |
1.8 8 |
RSQLite |
2.2.1 |
rstudioapi |
0.13 |
rversions |
2.0.2 |
房车 |
0.3.6 |
尺度 |
1.1.1 |
selectr |
0.4 - 2 |
sessioninfo |
1.1.1 |
形状 |
1.4.5 |
闪亮的 |
1.5.0 |
sourcetools |
0.1.7 |
sparklyr |
1.5.2 |
SparkR |
3.1.1 |
空间 |
-11 - 7.3 |
样条函数 |
4.1.0 |
sqldf |
-11 - 0.4 |
SQUAREM |
2020.5 |
统计数据 |
4.1.0 |
stats4 |
4.1.0 |
stringi |
1.5.3 |
stringr |
1.4.0 |
生存 |
-11 - 3.2 |
sys |
3.4 |
tcltk |
4.1.0 |
TeachingDemos |
2.10 |
testthat |
3.0.0 |
宠物猫 |
3.0.4 |
tidyr |
1.1.2 |
tidyselect |
1.1.0 |
tidyverse |
1.3.0 |
timeDate |
3043.102 |
tinytex |
0.28 |
工具 |
4.1.0 |
usethis |
2.0.0 |
use utf8 |
1.1.4 |
跑龙套 |
4.1.0 |
uuid |
0.1 - 4 |
vctrs |
0.3.5 |
viridisLite |
0.3.0 |
沃尔多 |
0.2.3 |
晶须 |
0.4 |
withr |
tripwire |
xfun |
0.19 |
xml2 |
1.3.2 |
xopen |
1.0.0 |
xtable |
1.8 - 4 |
yaml |
2.2.1 |
邮政编码 |
2.1.1 |
安装Java和Scala库(Scala 2.12集群版本)
组ID |
工件ID |
版本 |
---|---|---|
antlr |
antlr |
2.7.7 |
com.amazonaws |
amazon-kinesis-client |
1.12.0 |
com.amazonaws |
aws-java-sdk-autoscaling |
1.11.655 |
com.amazonaws |
aws-java-sdk-cloudformation |
1.11.655 |
com.amazonaws |
aws-java-sdk-cloudfront |
1.11.655 |
com.amazonaws |
aws-java-sdk-cloudhsm |
1.11.655 |
com.amazonaws |
aws-java-sdk-cloudsearch |
1.11.655 |
com.amazonaws |
aws-java-sdk-cloudtrail |
1.11.655 |
com.amazonaws |
aws-java-sdk-cloudwatch |
1.11.655 |
com.amazonaws |
aws-java-sdk-cloudwatchmetrics |
1.11.655 |
com.amazonaws |
aws-java-sdk-codedeploy |
1.11.655 |
com.amazonaws |
aws-java-sdk-cognitoidentity |
1.11.655 |
com.amazonaws |
aws-java-sdk-cognitosync |
1.11.655 |
com.amazonaws |
aws-java-sdk-config |
1.11.655 |
com.amazonaws |
aws-java-sdk-core |
1.11.655 |
com.amazonaws |
aws-java-sdk-datapipeline |
1.11.655 |
com.amazonaws |
aws-java-sdk-directconnect |
1.11.655 |
com.amazonaws |
aws-java-sdk-directory |
1.11.655 |
com.amazonaws |
aws-java-sdk-dynamodb |
1.11.655 |
com.amazonaws |
aws-java-sdk-ec2 |
1.11.655 |
com.amazonaws |
aws-java-sdk-ecs |
1.11.655 |
com.amazonaws |
aws-java-sdk-efs |
1.11.655 |
com.amazonaws |
aws-java-sdk-elasticache |
1.11.655 |
com.amazonaws |
aws-java-sdk-elasticbeanstalk |
1.11.655 |
com.amazonaws |
aws-java-sdk-elasticloadbalancing |
1.11.655 |
com.amazonaws |
aws-java-sdk-elastictranscoder |
1.11.655 |
com.amazonaws |
aws-java-sdk-emr |
1.11.655 |
com.amazonaws |
aws-java-sdk-glacier |
1.11.655 |
com.amazonaws |
aws-java-sdk-glue |
1.11.655 |
com.amazonaws |
aws-java-sdk-iam |
1.11.655 |
com.amazonaws |
aws-java-sdk-importexport |
1.11.655 |
com.amazonaws |
aws-java-sdk-kinesis |
1.11.655 |
com.amazonaws |
aws-java-sdk-kms |
1.11.655 |
com.amazonaws |
aws-java-sdk-lambda |
1.11.655 |
com.amazonaws |
aws-java-sdk-logs |
1.11.655 |
com.amazonaws |
aws-java-sdk-machinelearning |
1.11.655 |
com.amazonaws |
aws-java-sdk-marketplacemeteringservice |
1.11.655 |
com.amazonaws |
aws-java-sdk-opsworks |
1.11.655 |
com.amazonaws |
aws-java-sdk-rds |
1.11.655 |
com.amazonaws |
aws-java-sdk-redshift |
1.11.655 |
com.amazonaws |
aws-java-sdk-route53 |
1.11.655 |
com.amazonaws |
aws-java-sdk-s3 |
1.11.655 |
com.amazonaws |
aws-java-sdk-ses |
1.11.655 |
com.amazonaws |
aws-java-sdk-simpledb |
1.11.655 |
com.amazonaws |
aws-java-sdk-simpleworkflow |
1.11.655 |
com.amazonaws |
aws-java-sdk-sns |
1.11.655 |
com.amazonaws |
aws-java-sdk-sqs |
1.11.655 |
com.amazonaws |
aws-java-sdk-ssm |
1.11.655 |
com.amazonaws |
aws-java-sdk-storagegateway |
1.11.655 |
com.amazonaws |
aws-java-sdk-sts |
1.11.655 |
com.amazonaws |
aws-java-sdk-support |
1.11.655 |
com.amazonaws |
aws-java-sdk-swf-libraries |
1.11.22 |
com.amazonaws |
aws-java-sdk-workspaces |
1.11.655 |
com.amazonaws |
jmespath-java |
1.11.655 |
com.chuusai |
shapeless_2.12 |
2.3.3 |
com.clearspring.analytics |
流 |
2.9.6 |
com.databricks |
Rserve |
1.8 - 3 |
com.databricks |
jets3t |
0.7.1-0 |
com.databricks.scalapb |
compilerplugin_2.12 |
0.4.15-10 |
com.databricks.scalapb |
scalapb-runtime_2.12 |
0.4.15-10 |
com.esotericsoftware |
kryo-shaded |
4.0.2 |
com.esotericsoftware |
minlog |
1.3.0 |
com.fasterxml |
同学 |
1.3.4 |
com.fasterxml.jackson.core |
jackson-annotations |
2.10.0 |
com.fasterxml.jackson.core |
jackson-core |
2.10.0 |
com.fasterxml.jackson.core |
jackson-databind |
2.10.0 |
com.fasterxml.jackson.dataformat |
jackson-dataformat-cbor |
2.10.0 |
com.fasterxml.jackson.datatype |
jackson-datatype-joda |
2.10.0 |
com.fasterxml.jackson.module |
jackson-module-paranamer |
2.10.0 |
com.fasterxml.jackson.module |
jackson-module-scala_2.12 |
2.10.0 |
com.github.ben-manes.caffeine |
咖啡因 |
2.3.4 |
com.github.fommil |
jniloader |
1.1 |
com.github.fommil.netlib |
核心 |
1.1.2 |
com.github.fommil.netlib |
native_ref-java |
1.1 |
com.github.fommil.netlib |
native_ref-java-natives |
1.1 |
com.github.fommil.netlib |
native_system-java |
1.1 |
com.github.fommil.netlib |
native_system-java-natives |
1.1 |
com.github.fommil.netlib |
netlib-native_ref-linux-x86_64-natives |
1.1 |
com.github.fommil.netlib |
netlib-native_system-linux-x86_64-natives |
1.1 |
com.github.joshelser |
dropwizard-metrics-hadoop-metrics2-reporter |
0.1.2 |
com.github.luben |
zstd-jni |
1.4.8-1 |
com.github.wendykierp |
JTransforms |
3.1 |
com.google.code.findbugs |
jsr305 |
3.0.0 |
com.google.code.gson |
gson |
2.2.4 |
com.google.flatbuffers |
flatbuffers-java |
1.9.0 |
com.google.guava |
番石榴 |
15.0 |
com.google.protobuf |
protobuf-java |
2.6.1 |
com.h2database |
h2 |
1.4.195 |
com.helger |
分析器 |
1.1.1 |
com.jcraft |
jsch |
0.1.50 |
com.jolbox |
bonecp |
0.8.0.RELEASE |
com.lihaoyi |
sourcecode_2.12 |
0.1.9 |
com.microsoft.azure |
azure-data-lake-store-sdk |
2.3.9 |
com.microsoft.sqlserver |
mssql-jdbc |
9.2.1.jre8 |
com.ning |
compress-lzf |
1.0.3 |
com.sun.mail |
javax.mail |
1.5.2 |
com.tdunning |
json |
1.8 |
com.thoughtworks.paranamer |
paranamer |
2.8 |
com.trueaccord.lenses |
lenses_2.12 |
0.4.12 |
com.twitter |
chill-java |
0.9.5 |
com.twitter |
chill_2.12 |
0.9.5 |
com.twitter |
util-app_2.12 |
7.1.0 |
com.twitter |
util-core_2.12 |
7.1.0 |
com.twitter |
util-function_2.12 |
7.1.0 |
com.twitter |
util-jvm_2.12 |
7.1.0 |
com.twitter |
util-lint_2.12 |
7.1.0 |
com.twitter |
util-registry_2.12 |
7.1.0 |
com.twitter |
util-stats_2.12 |
7.1.0 |
com.typesafe |
配置 |
1.2.1 " |
com.typesafe.scala-logging |
scala-logging_2.12 |
3.7.2章 |
com.univocity |
univocity-parsers |
2.9.1 |
com.zaxxer |
HikariCP |
3.1.0 |
commons-beanutils |
commons-beanutils |
1.9.4 |
commons-cli |
commons-cli |
1.2 |
commons-codec |
commons-codec |
1.10 |
commons-collections |
commons-collections |
3.2.2 |
commons configuration |
commons configuration |
1.6 |
commons-dbcp |
commons-dbcp |
1.4 |
commons-digester |
commons-digester |
1.8 |
commons-fileupload |
commons-fileupload |
1.3.3 |
commons-httpclient |
commons-httpclient |
3.1 |
commons-io |
commons-io |
2.4 |
commons lang |
commons lang |
2.6 |
通用日志 |
通用日志 |
1.1.3 |
commons net |
commons net |
3.1 |
commons-pool |
commons-pool |
1.5.4 |
蜂巢2.7 - 2.3 - __hadoop - |
jets3t - 0.7 |
liball_deps_2.12 |
蜂巢2.7 - 2.3 - __hadoop - |
动物园管理员- 3.4 |
liball_deps_2.12 |
info.ganglia.gmetric4j |
gmetric4j |
1.0.10 |
io.airlift |
aircompressor |
0.10 |
io.delta |
delta-sharing-spark_2.12 |
0.1.0 |
io.dropwizard.metrics |
metrics-core |
以下4.4.1 |
io.dropwizard.metrics |
metrics-graphite |
以下4.4.1 |
io.dropwizard.metrics |
metrics-healthchecks |
以下4.4.1 |
io.dropwizard.metrics |
metrics-jetty9 |
以下4.4.1 |
io.dropwizard.metrics |
metrics-jmx |
以下4.4.1 |
io.dropwizard.metrics |
metrics-json |
以下4.4.1 |
io.dropwizard.metrics |
metrics-jvm |
以下4.4.1 |
io.dropwizard.metrics |
metrics-servlets |
以下4.4.1 |
io.netty |
netty-all |
4.1.51.Final |
io.prometheus |
simpleclient |
0.7.0 |
io.prometheus |
simpleclient_common |
0.7.0 |
io.prometheus |
simpleclient_dropwizard |
0.7.0 |
io.prometheus |
simpleclient_pushgateway |
0.7.0 |
io.prometheus |
simpleclient_servlet |
0.7.0 |
io.prometheus.jmx |
收集器 |
0.12.0 |
jakarta.annotation |
jakarta.annotation-api |
1.3.5 |
jakarta.validation |
jakarta.validation-api |
2.0.2 |
jakarta.ws.rs |
jakarta.ws.rs-api |
2.1.6 |
javax.activation |
激活 |
1.1.1 |
javax.el |
javax.el-api |
2.2.4 |
javax.jdo |
jdo api |
3.0.1 |
javax.servlet |
javax.servlet-api |
3.1.0 |
javax.servlet.jsp |
jsp-api |
2.1 |
javax.transaction |
jta |
1.1 |
javax.transaction |
事务api |
1.1 |
javax.xml.bind |
jaxb-api |
2.2.2 |
javax.xml.stream |
stax-api |
1.0 - 2 |
javolution |
javolution |
5.5.1 |
jline |
jline |
2.14.6 |
joda-time |
joda-time |
2.10.5 |
log4j |
apache-log4j-extras |
1.2.17 |
log4j |
log4j |
1.2.17 |
maven-trees |
蜂巢2.7 - 2.3 - __hadoop - |
liball_deps_2.12 |
net.java.dev.jna |
jna |
5.8.0 |
net.razorvine |
地幔岩 |
4.30 |
net.sf.jpam |
jpam |
1.1 |
net.sf.opencsv |
opencsv |
2.3 |
net.sf.supercsv |
super-csv |
2.2.0 |
net.snowflake |
snowflake-ingest-sdk |
0.9.6 |
net.snowflake |
snowflake-jdbc |
3.13.3 |
net.snowflake |
spark-snowflake_2.12 |
2.9.0-spark_3.1 |
net.sourceforge.f2j |
arpack_combined_all |
0.1 |
org.acplt.remotetea |
remotetea-oncrpc |
1.1.2 |
org.antlr |
ST4 |
4.0.4 |
org.antlr |
antlr-runtime |
3.5.2 |
org.antlr |
antlr4-runtime |
4.8 - 1 |
org.antlr |
stringtemplate |
3.2.1之上 |
org.apache.ant |
蚂蚁 |
1.9.2 |
org.apache.ant |
ant-jsch |
1.9.2 |
org.apache.ant |
ant-launcher |
1.9.2 |
org.apache.arrow |
arrow-format |
2.0.0 |
org.apache.arrow |
arrow-memory-core |
2.0.0 |
org.apache.arrow |
arrow-memory-netty |
2.0.0 |
org.apache.arrow |
arrow-vector |
2.0.0 |
org.apache.avro |
avro |
1.8.2 |
org.apache.avro |
avro-ipc |
1.8.2 |
org.apache.avro |
avro-mapred-hadoop2 |
1.8.2 |
org.apache.commons |
commons-compress |
1.20 |
org.apache.commons |
commons-crypto |
1.1.0 |
org.apache.commons |
commons-lang3 |
3.10 |
org.apache.commons |
commons-math3 |
3.4.1 |
org.apache.commons |
commons-text |
1.6 |
org.apache.curator |
curator-client |
2.7.1 |
org.apache.curator |
curator-framework |
2.7.1 |
org.apache.curator |
curator-recipes |
2.7.1 |
org.apache.derby |
德比 |
10.12.1.1 |
org.apache.directory.api |
api-asn1-api |
1.0.0-M20 |
org.apache.directory.api |
api-util |
1.0.0-M20 |
org.apache.directory.server |
apacheds-i18n |
2.0.0-M15 |
org.apache.directory.server |
apacheds-kerberos-codec |
2.0.0-M15 |
org.apache.hadoop |
hadoop-annotations |
第2.7.4 |
org.apache.hadoop |
hadoop-auth |
第2.7.4 |
org.apache.hadoop |
hadoop-client |
第2.7.4 |
org.apache.hadoop |
hadoop-common |
第2.7.4 |
org.apache.hadoop |
hadoop-hdfs |
第2.7.4 |
org.apache.hadoop |
hadoop-mapreduce-client-app |
第2.7.4 |
org.apache.hadoop |
hadoop-mapreduce-client-common |
第2.7.4 |
org.apache.hadoop |
hadoop-mapreduce-client-core |
第2.7.4 |
org.apache.hadoop |
hadoop-mapreduce-client-jobclient |
第2.7.4 |
org.apache.hadoop |
hadoop-mapreduce-client-shuffle |
第2.7.4 |
org.apache.hadoop |
hadoop-yarn-api |
第2.7.4 |
org.apache.hadoop |
hadoop-yarn-client |
第2.7.4 |
org.apache.hadoop |
hadoop-yarn-common |
第2.7.4 |
org.apache.hadoop |
hadoop-yarn-server-common |
第2.7.4 |
org.apache.hive |
hive-beeline |
2.3.7 |
org.apache.hive |
hive-cli |
2.3.7 |
org.apache.hive |
hive-jdbc |
2.3.7 |
org.apache.hive |
hive-llap-client |
2.3.7 |
org.apache.hive |
hive-llap-common |
2.3.7 |
org.apache.hive |
hive-serde |
2.3.7 |
org.apache.hive |
hive-shims |
2.3.7 |
org.apache.hive |
hive-storage-api |
2.7.2 |
org.apache.hive.shims |
蜂巢0.23 -垫片 |
2.3.7 |
org.apache.hive.shims |
hive-shims-common |
2.3.7 |
org.apache.hive.shims |
hive-shims-scheduler |
2.3.7 |
org.apache.htrace |
htrace-core |
3.1.0-incubating |
org.apache.httpcomponents |
httpclient |
4.5.6 |
org.apache.httpcomponents |
httpcore |
4.4.12 |
org.apache.ivy |
艾薇 |
测试盒框 |
org.apache.mesos |
mesos-shaded-protobuf |
1.4.0 |
org.apache.orc |
orc-core |
1.5.12 |
org.apache.orc |
orc-mapreduce |
1.5.12 |
org.apache.orc |
orc-shims |
1.5.12 |
org.apache.parquet |
parquet-column |
1.10.1-databricks9 |
org.apache.parquet |
parquet-common |
1.10.1-databricks9 |
org.apache.parquet |
parquet-encoding |
1.10.1-databricks9 |
org.apache.parquet |
parquet-format |
测试盒框 |
org.apache.parquet |
parquet-hadoop |
1.10.1-databricks9 |
org.apache.parquet |
parquet-jackson |
1.10.1-databricks9 |
org.apache.thrift |
libfb303 |
0.9.3 |
org.apache.thrift |
libthrift |
0.12.0 |
org.apache.xbean |
xbean-asm7-shaded |
4.15 |
org.apache.yetus |
audience-annotations |
0.5.0 |
org.apache.zookeeper |
动物园管理员 |
3.4.14 |
org.codehaus.jackson |
jackson-core-asl |
1.9.13 |
org.codehaus.jackson |
jackson-jaxrs |
1.9.13 |
org.codehaus.jackson |
jackson-mapper-asl |
1.9.13 |
org.codehaus.jackson |
jackson-xc |
1.9.13 |
org.codehaus.janino |
commons-compiler |
3.0.16 |
org.codehaus.janino |
janino |
3.0.16 |
org.datanucleus |
datanucleus-api-jdo |
4.2.4 |
org.datanucleus |
datanucleus-core |
4.1.17 |
org.datanucleus |
datanucleus-rdbms |
4.1.19 |
org.datanucleus |
javax.jdo |
3.2.0-m3 |
org.eclipse.jetty |
jetty-client |
9.4.36.v20210114 |
org.eclipse.jetty |
jetty-continuation |
9.4.36.v20210114 |
org.eclipse.jetty |
jetty-http |
9.4.36.v20210114 |
org.eclipse.jetty |
jetty-io |
9.4.36.v20210114 |
org.eclipse.jetty |
jetty-jndi |
9.4.36.v20210114 |
org.eclipse.jetty |
jetty-plus |
9.4.36.v20210114 |
org.eclipse.jetty |
jetty-proxy |
9.4.36.v20210114 |
org.eclipse.jetty |
jetty-security |
9.4.36.v20210114 |
org.eclipse.jetty |
jetty服务器 |
9.4.36.v20210114 |
org.eclipse.jetty |
jetty servlet |
9.4.36.v20210114 |
org.eclipse.jetty |
jetty-servlets |
9.4.36.v20210114 |
org.eclipse.jetty |
jetty-util |
9.4.36.v20210114 |
org.eclipse.jetty |
jetty-util-ajax |
9.4.36.v20210114 |
org.eclipse.jetty |
jetty-webapp |
9.4.36.v20210114 |
org.eclipse.jetty |
jetty-xml |
9.4.36.v20210114 |
org.fusesource.leveldbjni |
leveldbjni-all |
1.8 |
org.glassfish.hk2 |
hk2-api |
2.6.1 |
org.glassfish.hk2 |
hk2-locator |
2.6.1 |
org.glassfish.hk2 |
hk2-utils |
2.6.1 |
org.glassfish.hk2 |
osgi-resource-locator |
1.0.3 |
org.glassfish.hk2.external |
aopalliance-repackaged |
2.6.1 |
org.glassfish.hk2.external |
jakarta.inject |
2.6.1 |
org.glassfish.jersey.containers |
jersey-container-servlet |
2.30 |
org.glassfish.jersey.containers |
jersey-container-servlet-core |
2.30 |
org.glassfish.jersey.core |
jersey客户端 |
2.30 |
org.glassfish.jersey.core |
jersey-common |
2.30 |
org.glassfish.jersey.core |
jersey-server |
2.30 |
org.glassfish.jersey.inject |
jersey-hk2 |
2.30 |
org.glassfish.jersey.media |
jersey-media-jaxb |
2.30 |
org.hibernate.validator |
hibernate验证框架 |
6.1.0.Final |
org.javassist |
javassist |
3.25.0-GA |
org.jboss.logging |
jboss-logging |
3.3.2.Final |
org.jdbi |
jdbi |
2.63.1 |
org.joda |
joda-convert |
1.7 |
org.jodd |
jodd-core |
3.5.2 |
org.json4s |
json4s-ast_2.12 |
3.7.0-M5 |
org.json4s |
json4s-core_2.12 |
3.7.0-M5 |
org.json4s |
json4s-jackson_2.12 |
3.7.0-M5 |
org.json4s |
json4s-scalap_2.12 |
3.7.0-M5 |
org.lz4 |
lz4-java |
1.7.1上 |
org.mariadb.jdbc |
mariadb-java-client |
2.2.5 |
org.objenesis |
objenesis |
2.5.1 |
org.postgresql |
postgresql |
42.1.4 |
org.roaringbitmap |
RoaringBitmap |
0.9.14 |
org.roaringbitmap |
垫片 |
0.9.14 |
org.rocksdb |
rocksdbjni |
6.20.3 |
org.rosuda.REngine |
REngine |
魅惑 |
org.scala-lang |
scala-compiler_2.12 |
2.12.10 |
org.scala-lang |
scala-library_2.12 |
2.12.10 |
org.scala-lang |
scala-reflect_2.12 |
2.12.10 |
org.scala-lang.modules |
scala-collection-compat_2.12 |
2.1.1 |
org.scala-lang.modules |
scala-parser-combinators_2.12 |
1.1.2 |
org.scala-lang.modules |
scala-xml_2.12 |
1.2.0 |
org.scala-sbt |
测试界面 |
1.0 |
org.scalacheck |
scalacheck_2.12 |
1.14.2 |
org.scalactic |
scalactic_2.12 |
3.0.8 |
org.scalanlp |
breeze-macros_2.12 |
1.0 |
org.scalanlp |
breeze_2.12 |
1.0 |
org.scalatest |
scalatest_2.12 |
3.0.8 |
org.slf4j |
jcl-over-slf4j |
1.7.30 |
org.slf4j |
jul-to-slf4j |
1.7.30 |
org.slf4j |
slf4j-api |
1.7.30 |
org.slf4j |
slf4j-log4j12 |
1.7.30 |
org.spark-project.spark |
未使用的 |
1.0.0 |
org.springframework |
spring核心 |
4.1.4.RELEASE |
org.springframework |
spring测试 |
4.1.4.RELEASE |
org.threeten |
threeten-extra |
1.5.0 |
org.tukaani |
xz |
1.5 |
org.typelevel |
algebra_2.12 |
2.0.0-M2 |
org.typelevel |
cats-kernel_2.12 |
2.0.0-M4 |
org.typelevel |
machinist_2.12 |
0.6.8 |
org.typelevel |
macro-compat_2.12 |
1.1.1 |
org.typelevel |
spire-macros_2.12 |
0.17.0-M1 |
org.typelevel |
spire-bob体育客户端下载platform_2.12 |
0.17.0-M1 |
org.typelevel |
spire-util_2.12 |
0.17.0-M1 |
org.typelevel |
spire_2.12 |
0.17.0-M1 |
org.wildfly.openssl |
wildfly-openssl |
1.0.7.Final |
org.xerial |
sqlite-jdbc |
3.8.11.2 |
org.xerial.snappy |
snappy-java |
1.1.8.2 |
org.yaml |
snakeyaml |
1.24 |
奥罗 |
奥罗 |
2.0.8 |
pl.edu.icm |
JLargeArrays |
1.5 |
software.amazon.ion |
ion-java |
1.0.2中 |
stax |
stax-api |
1.0.1 |
xmlenc |
xmlenc |
0.52 |