ivanchou
V2EX  ›  问与答

优化 hdfs 对小文件的支持

  •  
  •   ivanchou · May 30, 2015 · 2375 views
    This topic created in 4012 days ago, the information mentioned may be changed or developed.
    现在有一个任务是这样的,采用 HDFS+Hbase 的方式优化 HDFS 对小文件的支持,方案大概是:
    小于阀值的文本文件直接存入 Hbase,待到小文件数量足够时,合并成一个文件存入 HDFS,其中最基本的要求是访问文件的 URI 不变。

    那么,问题来了。我的设想是写一个类似后台服务的程序,检测所有在终端输入的 shell 命令,如果有 hdfs dfs -put 等读写文件的命令就将命令截获并经过程序的黑匣处理(小于阀值的文件存 hbase 等操作)。以及当用户在编写 hadoop 程序的时候,代码里访问 hdfs://localhost:9000/filepath 也能够正确返回 hbase 里存储的小文件。技术上有没有实现的可能性呢?要求是用户感知不到的,不知道有没有更简单并且更好的实现方法。

    看过一些关于优化 hdfs 的小文件存储的论文以及专利,感觉在工程方面说的还是不够清楚,有些技术细节不知道通过什么方式实现。
    Supplement 1  ·  May 30, 2015
    我又思考了下,找了相关的书籍看了看,了解到所有的 hdfs:// 等 uri 会交由 hdfs 的守护程序,由 hdfs 的守护程序来确定 namenode 以及端口。
    那么只要找到守护程序的代码并修改这个地方的逻辑,把我的黑盒加到这个地方是不是就 ok?求指教
    2 replies    2015-05-30 19:54:15 +08:00
    ivanchou
        1
    ivanchou  
    OP
       May 30, 2015
    求关注
    ivanchou
        2
    ivanchou  
    OP
       May 30, 2015
    @sunjourney 莫非是课友?
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   2916 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 35ms · UTC 06:34 · PVG 14:34 · LAX 23:34 · JFK 02:34
    ♥ Do have faith in what you're doing.