分布式文件系统FastDFS的了解及Java客户端使用

本文参考于: https://github.com/tobato/FastDFS_Client

FastDFS概述

FastDFS是一个开源的轻量级分布式文件系统,它对文件进行管理,功能包括:文件存储、文件同步、文件访问(文件上传、文件下载)等,解决了大容量存储和负载均衡的问题。特别适合以文件为载体的在线服务,如相册网站、视频网站等等。

FastDFS为互联网量身定制,充分考虑了冗余备份、负载均衡、线性扩容等机制,并注重高可用、高性能等指标,使用FastDFS很容易搭建一套高性能的文件服务器集群提供文件上传、下载等服务。

  • FastDFS是一个轻量级的开源分布式文件系统
  • FastDFS主要解决了大容量的文件存储和高并发访问的问题,文件存取时实现了负载均衡
  • FastDFS实现了软件方式的RAID,可以使用廉价的IDE硬盘进行存储
  • 支持存储服务器在线扩容
  • 支持相同内容的文件只保存一份,节约磁盘空间
  • FastDFS只能通过Client API访问,不支持POSIX访问方式
  • FastDFS特别适合大中型网站使用,用来存储资源文件(如:图片、文档、音频、视频等等)

FastDFS架构

FastDFS 服务端架构包括 Tracker server 和 Storage server。客户端请求 Tracker server 进行文件上传、下载,通过Tracker server 调度最终由 Storage server 完成文件上传和下载。

Tracker server 作用是负载均衡和调度,通过 Tracker server 在文件上传时可以根据一些策略找到Storage server 提供文件上传服务。可以将 tracker 称为追踪服务器或调度服务器。

Storage server 作用是文件存储,客户端上传的文件最终存储在 Storage 服务器上,Storageserver 没有实现自己的文件系统而是利用操作系统的文件系统来管理文件。可以将storage称为存储服务器。同一个组的storage server之间会进行文件的同步,通过数据冗余以做到高可用。

分布式文件系统FastDFS的了解及Java客户端使用

上传流程

  • client询问tracker可以上传到哪一个storage,或者指定获取某个组的storage
  • tracker返回一台可用的storage
  • client直接和storage通讯完成文件上传
  • storage保存文件以后给client返回组名(volume)和文件名称

客户端上传文件后存储服务器将文件 ID 返回给客户端,此文件 ID 用于以后访问该文件的索引信息。文件索引信息包括:组名,虚拟磁盘路径,数据两级目录,文件名。

例:

group1/M00/02/44/wKgDrE34E8wAAAAAAAAGkEIYJK42378.sh

组名:group1,文件上传后所在的 storage 组名称,在文件上传成功后由 storage 服务器返回,需要客户端自行保存。

虚拟磁盘路径:M00,storage 配置的虚拟路径,与磁盘选项store_path*对应。如果配置了store_path0 则是 M00,如果配置了 store_path1 则是 M01,以此类推。

配置文件位置:/etc/fdfs/storage.conf

数据两级目录:/02/44,storage 服务器在每个虚拟磁盘路径下创建的两级目录,用于存储数据文件

文件名:wKgDrE34E8wAAAAAAAAGkEIYJK42378.sh,与文件上传时不同。是由存储服务器根据特定信息生成,文件名包含:源存储服务器 IP 地址、文件创建时间戳、文件大小、随机数和文件拓展名等信息。

这个例子中就代表了文件存储于group1的storage server中/data/fast_data/data/00/00/目录下

docker运行fastDFS

拉取镜像

docker pull morunchang/fastdfs

运行tracker

docker run -d --name fastdfs-tracker --net=host morunchang/fastdfs sh tracker.sh

运行storage

docker run -d --name fastdfs-storage --net=host -e TRACKER_IP=192.168.176.129:22122 -e GROUP_NAME=group1 morunchang/fastdfs sh storage.sh
  • 使用的网络模式是–net=host, 192.168.176.129是宿主机的IP
  • group1是组名,即storage的组
  • 如果想要增加新的storage服务器,再次运行该命令,注意更换新组名

设置开机启动

docker update --restart=always fastdfs-tracker
docker update --restart=always fastdfs-storage

fastDFS-client使用

我使用的是一个最近还在维护的第三方客户端,个人觉得封装得挺好的,很多操作都简化了。(最好搭配SpringBoot使用)

github地址: https://github.com/tobato/FastDFS_Client

<!-- https://mvnrepository.com/artifact/com.github.tobato/fastdfs-client -->
<dependency>
    <groupId>com.github.tobato</groupId>
    <artifactId>fastdfs-client</artifactId>
    <version>1.27.2</version>
</dependency>

然后直接引入配置:

fdfs:
  so-timeout: 1500          # 读取超时时间
  connect-timeout: 600      # 连接超时时间
  thumb-image:             # 缩略图生成参数
    width: 150
    height: 150
  tracker-list:            #TrackerList参数,支持多个
    - 192.168.176.129:22122
  # 这个是自定义配置项
  nginx-url: http://192.168.176.129:8080

就可以使用了

例,文件上传:

@Service
public class FileService {
    @Resource
    private FastFileStorageClient storageClient;

    @Value("${fdfs.nginx-url}")
    private String trackerUrl;

    /**
     * 上传文件,返回资源url
     * @param file
     * @return
     */
    public String upload(FastFile file){
        StorePath storePath = storageClient.uploadFile(file);
        return trackerUrl+"/"+storePath.getFullPath();
    }

    public String getTrackerUrl(){
        return trackerUrl;
    }
}
@RestController
public class FileController {
    @Resource
    FileService fileService;

    /**
     * 文件上传
     * @param file
     * @return 资源url
     * @throws Exception
     */
    @PostMapping(value = "/upload")
    public Result<String> upload(@RequestParam("file") MultipartFile file) throws Exception {
        //获取后缀名
        String suffix = file.getOriginalFilename().substring(file.getOriginalFilename().lastIndexOf(".") + 1);
        Set<MetaData> metaDataSet = new HashSet<>();
        //附带文件名元信息上传
        metaDataSet.add(new MetaData("originName",file.getName()));
        FastFile fastFile = new FastFile(file.getInputStream(),file.getSize(),suffix,null);
        //文件上传
        String path = fileService.upload(fastFile);
        return new Result<String>(true, StatusCode.OK,"文件上传成功!",path);
    }
}

分布式文件系统FastDFS的了解及Java客户端使用

原创文章,作者:彭晨涛,如若转载,请注明出处:https://www.codetool.top/article/%e5%88%86%e5%b8%83%e5%bc%8f%e6%96%87%e4%bb%b6%e7%b3%bb%e7%bb%9ffastdfs%e7%9a%84%e4%ba%86%e8%a7%a3%e5%8f%8ajava%e5%ae%a2%e6%88%b7%e7%ab%af%e4%bd%bf%e7%94%a8/