集群取消Python命令执行后安装散景

学习做什么当你的砖集群取消Python命令执行后安装散景。

写的亚当Pavlacka

去年发表在:2022年5月19日

问题

集群的回报取消了在Python的笔记本。检查驱动程序日志(std.err)集群配置页面一个堆栈跟踪和错误消息类似如下:

log4j:警告没有输出源可以发现记录器(com.databricks.conf.trusted.ProjectConf $)。log4j:警告请初始化log4j系统正常。log4j:警告看到https://logging.apache.org/log4j/1.2/faq.html noconfig更多信息。OpenJDK 64位服务器虚拟机警告:忽略选择MaxPermSize = 512;支持在8.0被回溯(最近的电话最后):文件“/ local_disk0 / tmp / 1551693540856 - 0 / PythonShell。py”, 30行,从IPython.nbconvert.filters <模块>。ansi导入ansi2html文件“/砖/ python / lib / python3.5 /网站/ IPython / nbconvert / __init__。py”, 6号线,在<模块>。导入后处理程序文件“/砖/ python / lib / python3.5 /网站/ IPython nbconvert /后处理程序/ __init__。py”, 6号线,在<模块> .serve ServePostProcessor文件导入”/砖/ python / lib / python3.5 /网站/ IPython / nbconvert /后处理程序/服务。py”, 29日,<模块>类ProxyHandler (web.RequestHandler):文件”/砖/ python / lib / python3.5 /网站/ IPython / nbconvert /后处理程序/服务。py”,第31行ProxyHandler @web。异步AttributeError:模块的龙卷风。网络“没有属性“异步”

导致

当你安装散景库,默认情况下龙卷风安装6.0版本a1,这是一个alpha版本。alpha版本引起这个错误,所以解决方案是恢复到稳定版本的龙卷风

解决方案

按照以下步骤创建一个集群级init脚本(AWS|Azure|GCP)。init脚本删除的新版本龙卷风并安装稳定版。

  1. 如果init脚本已经不存在,创建一个基本目录来存储:
    % sh dbutils.fs.mkdirs (“dbfs: /砖/ <目录> /”)
  2. 创建以下脚本:
    % sh dbutils.fs.put (“dbfs: /砖/ <目录> /龙卷风。sh”、“”“# !/bin/bash pip卸载——是的龙卷风rm射频/home/ubuntu/databricks/python/lib/python3.5/site-packages rm /龙卷风*射频/砖/ python / lib / python3.5 /网站/龙卷风* /usr/bin/yes | /home/ubuntu/databricks/python/bin/pip安装龙卷风5.1.1”“= =”,真的)
  3. 确认脚本存在:
    % sh显示器(dbutils.fs.ls (“dbfs: /砖/ <目录> / tornado.sh”))
  4. 去集群配置页面(AWS|Azure|GCP),然后点击高级选项切换。
  5. 在页面的底部,单击Init脚本标签:Init脚本选项卡的形象。
  6. 目的地下拉,选择DBFS提供这个脚本文件路径,点击添加
  7. 重新启动集群。


有关更多信息,请参见:

这篇文章有用吗?