在附加操作不支持

写的亚当Pavlacka

去年发表在:2022年7月7日

问题

您正试图将数据附加到文件保存在外部存储挂载点,并得到一个错误信息:OSError: [Errno 95]操作不受支持的

试图添加一个文件时发生错误从Python和R。

导致

不支持直接附加和随机写在保险丝v2,可用在砖运行时6.0及以上。这是通过设计。

底层存储,安装DBFS不支持添加。这意味着数据砖必须下载数据,运行附加,reupload为了支持命令的数据。这适用于小文件,但随着文件大小增加迅速成为一个问题。因为DBFS山是司机和工人之间共享节点,从多个节点附加到文件会导致数据损坏。

解决方案

作为一个解决方案,你应该添加本地磁盘,等/ tmp,并将整个文件的操作。

如果需要执行cross-session附加,请联系您的帐户团队讨论启用NFS挂载在你的集群。

这篇文章有用吗?