当前位置:首页 > 科技  > 软件

与机器打交道的工作:细节决定浪费生命的时间——记一次 Docker 与软链接的故障

来源: 责编: 时间:2024-07-19 08:01:38 743观看
导读问题背景假设在一台 ubuntu 服务器上,我们有一个专门存放日频数据的路径:ls /data/daily -lh202401012024010220240103...这些数据过于庞大,我们无法将其全部保存在服务器中。对于这些数据,只有当天的路径,我们需要对其有

问题背景

假设在一台 ubuntu 服务器上,我们有一个专门存放日频数据的路径:BRA28资讯网——每日最新资讯28at.com

ls /data/daily -lh202401012024010220240103...

这些数据过于庞大,我们无法将其全部保存在服务器中。对于这些数据,只有当天的路径,我们需要对其有「写」的权限,历史数据我们只读即可。BRA28资讯网——每日最新资讯28at.com

因此,假设今天是 20240717 ,那么,我们可以将小于 20240717 的数据软链接到一个 mount 到服务器上的分布式文件系统中,比如:BRA28资讯网——每日最新资讯28at.com

ls /data/daily -lh20240101 -> /mnt/gfs-data/daily/2024010120240102 -> /mnt/gfs-data/daily/20240102...20240716 -> /mnt/gfs-data/daily/2024071620240717

接下来,我们希望启动的 docker 容器可以访问 daily 数据,那么:BRA28资讯网——每日最新资讯28at.com

docker run /  -v /data/daily:/data/daily /  --name my-service-container /  my-service-image  run-service-command

此时 my-service-container 报错:BRA28资讯网——每日最新资讯28at.com

no such file or directory: /data/daily/20240716

但是当你进入容器:BRA28资讯网——每日最新资讯28at.com

docker exec -it my-service-container /bin/bash$ cd /data/daily$ ls20240101  20240102  ...  20240716 20240717# 数据似乎存在?$ ls -l 20240716no such file or directory: 20240716# 明明存在,却无法访问?

那么,问题出在了哪里?

我估计读到这里的读者中,至少有一半已经知道了问题所在。BRA28资讯网——每日最新资讯28at.com

但是让我们先来看看一些错误的思路(也是困住了我的思路):BRA28资讯网——每日最新资讯28at.com

一、会不是文件系统权限问题?BRA28资讯网——每日最新资讯28at.com

  • 显然, docker 容器在未开启 --privileged ,权限是不完整的
  • 尤其是涉及到与 mount 分布式文件系统的交互,这其中是很容易出问题的

二、软链接的问题?BRA28资讯网——每日最新资讯28at.com

  • 软链接本身不复杂,但是 docker 与软链接的结合,可能有点问题?
  • 于是甚至很傻地去搜了 stackoverflow ,尝试类比 docker 、 softlink 、 mount 相关的问题

三、其他更复杂的原因导致的?BRA28资讯网——每日最新资讯28at.com

  • 问问 ChatGPT 吧!免费版不聪明,再问问 ChatGPT-4o !
  • 嗯...是我的 prompt 写得太差了?获得了一些正确的废话

如果你已经知道问题,你或许会嘲笑上述费力不讨好的一番折腾。但是为什么我(或者其他陷入误区的读者)会想到这些呢?BRA28资讯网——每日最新资讯28at.com

  1. 思维惯性。大多数日常使用 docker 的人(比如现在的我),对于 docker 的了解是不够深入的,在经历过一些 docker 的 bug 后,再遇到类似的问题,首先会顺其自然想到是不是 docker 本身的问题
  2. 所见即所得。我明明已经 ls 出了 20240101 20240102 ... 20240716 20240717 ,为什么还会出现 no such file or directory: /data/daily/20240716 ?显然, 20240716 是软链接的、是来自 /mnt/gfs-data/ 的,而这个庞大的分布式文件系统很有可能存在一些兼容性问题

真正的解决之道

我在 docker 内部敲入下面的命令让我恍然大悟,甚至为自己的愚蠢发笑:BRA28资讯网——每日最新资讯28at.com

docker exec -it my-service-container /bin/bash$ cd /data/daily$ ls -lh20240101 -> /mnt/gfs-data/daily/2024010120240102 -> /mnt/gfs-data/daily/20240102...20240716 -> /mnt/gfs-data/daily/2024071620240717

显然,软链接在 docker 内部链接到了 /mnt/gfs-data/ ,那么,你也需要让 /mnt/gfs-data/ 映射到本地的 /data/daily/ 路径上!BRA28资讯网——每日最新资讯28at.com

增加一行挂载直接解决问题:BRA28资讯网——每日最新资讯28at.com

docker run /  -v /data/daily:/data/daily /  -v /mnt/gfs-data:/mnt/gfs-data /  --name my-service-container /  my-service-image  run-service-command

所以,既不是 docker 的问题,也不是权限的问题,更不是文件系统的问题。BRA28资讯网——每日最新资讯28at.com

为什么程序员的下班时间不同

所以,为什么有些程序员下班早,看起来还很轻松?BRA28资讯网——每日最新资讯28at.com

他可能并不是摸鱼大事。相反,他对于机器有更好的直觉与灵感,而这一切的前提是他积累了足够的知识与经验。BRA28资讯网——每日最新资讯28at.com

显然,对于 docker ,仅仅知道基本的 cgroups 实现原理是不够的。没有更扎实的基础知识与经验作为支撑,我们甚至总是焦头烂额地走向了错误的解决问题的方向。BRA28资讯网——每日最新资讯28at.com

细节决定浪费生命的时间。停下来,想一想自己是不是刚刚死脑筋了。BRA28资讯网——每日最新资讯28at.com

本文链接:http://www.28at.com/showinfo-26-101715-0.html与机器打交道的工作:细节决定浪费生命的时间——记一次 Docker 与软链接的故障

声明:本网页内容旨在传播知识,若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。邮件:2376512515@qq.com

上一篇: 我们如何管理软件项目的交付?

下一篇: Java 函数式接口,一文彻底剖析!

标签:
  • 热门焦点
  • 2023年Q2用户偏好榜:12+256G版本成新主流

    3月份的性能榜、性价比榜和好评榜之后,就要轮到2023年的第二季度偏好榜了,上半年的新机潮已经过去,最明显的肯定就是大内存和存储的机型了,另外部分中端机也取消了屏幕塑料支架
  • 十个可以手动编写的 JavaScript 数组 API

    JavaScript 中有很多API,使用得当,会很方便,省力不少。 你知道它的原理吗? 今天这篇文章,我们将对它们进行一次小总结。现在开始吧。1.forEach()forEach()用于遍历数组接收一参
  • K8S | Service服务发现

    一、背景在微服务架构中,这里以开发环境「Dev」为基础来描述,在K8S集群中通常会开放:路由网关、注册中心、配置中心等相关服务,可以被集群外部访问;图片对于测试「Tes」环境或者
  • 三言两语说透设计模式的艺术-单例模式

    写在前面单例模式是一种常用的软件设计模式,它所创建的对象只有一个实例,且该实例易于被外界访问。单例对象由于只有一个实例,所以它可以方便地被系统中的其他对象共享,从而减少
  • 在线图片编辑器,支持PSD解析、AI抠图等

    自从我上次分享一个人开发仿造稿定设计的图片编辑器到现在,不知不觉已过去一年时间了,期间我经历了裁员失业、面试找工作碰壁,寒冬下一直没有很好地履行计划.....这些就放在日
  • 梁柱接棒两年,腾讯音乐闯出新路子

    文丨田静 出品丨牛刀财经(niudaocaijing)7月5日,企鹅FM发布官方公告称由于业务调整,将于9月6日正式停止运营,这意味着腾讯音乐长音频业务走向消亡。腾讯在长音频领域还在摸索。为
  • 疑似小米14外观设计图曝光:后置相机模组变化不大

    下半年的大幕已经开启,而谁将成为下半年手机圈的主角就成为了大家关注的焦点,其中被传有望拿下新一代骁龙8 Gen3旗舰芯片的小米14系列更是备受大家瞩
  • 苹果、三星、惠普等暂停向印度出口笔记本和平板电脑

    集微网消息,据彭博社报道,在8月3日印度突然禁止在没有许可证的情况下向印度进口电脑/平板及显示器等产品后,苹果、三星电子和惠普等大公司暂停向印度
  • 三星推出Galaxy Tab S9系列平板电脑以及Galaxy Watch6系列智能手表

    2023年7月26日,三星电子正式发布了Galaxy Z Flip5与Galaxy Z Fold5。除此之外,Galaxy Tab S9系列平板电脑以及三星Galaxy Watch6系列智能手表也同期
Top