一文搞定FastDFS的搭建和使用
cac55 2025-04-28 23:34 13 浏览 0 评论
1. FastDFS概述
FastDFS是一个开源的轻量级分布式文件系统,它对文件进行管理,功能包括:文件存储、文件同步、文件访问(文件上传、文件下载)等,解决了大容量存储和负载均衡的问题。特别适合以文件为载体的在线服务,如相册网站、视频网站等等。
FastDFS为互联网量身定制,充分考虑了冗余备份、负载均衡、线性扩容等机制,并注重高可用、高性能等指标,使用FastDFS很容易搭建一套高性能的文件服务器集群提供文件上传、下载等服务。
FastDFS服务端有两个角色:跟踪器(tracker)和存储节点(storage)。跟踪器主要做调度工作,在访问上起负载均衡的作用。
存储节点存储文件,完成文件管理的所有功能:就是这样的存储、同步和提供存取接口,FastDFS同时对文件的metadata进行管理。所谓文件的meta data就是文件的相关属性,以键值对(key value)方式表示,如:width=1024,其中的key为width,value为1024。文件metadata是文件属性列表,可以包含多个键值对。
跟踪器和存储节点都可以由一台或多台服务器构成。跟踪器和存储节点中的服务器均可以随时增加或下线而不会影响线上服务。其中跟踪器中的所有服务器都是对等的,可以根据服务器的压力情况随时增加或减少。
为了支持大容量,存储节点(服务器)采用了分卷(或分组)的组织方式。存储系统由一个或多个卷组成,卷与卷之间的文件是相互独立的,所有卷的文件容量累加就是整个存储系统中的文件容量。一个卷可以由一台或多台存储服务器组成,一个卷下的存储服务器中的文件都是相同的,卷中的多台存储服务器起到了冗余备份和负载均衡的作用。
在卷中增加服务器时,同步已有的文件由系统自动完成,同步完成后,系统自动将新增服务器切换到线上提供服务。
当存储空间不足或即将耗尽时,可以动态添加卷。只需要增加一台或多台服务器,并将它们配置为一个新的卷,这样就扩大了存储系统的容量。
FastDFS中的文件标识分为两个部分:卷名和文件名,二者缺一不可。
2. 环境搭建
1、Linux-centos7上安装FastDFS(繁琐)
自行百度,重点介绍docker安装方式
2、docker安装FastDFS(推荐)
1.拉取镜像
docker pull delron/fastdfs
2.使用docker镜像构建tracker容器(跟踪服务器,起到调度的作用)
docker run -dti --network=host --name tracker -v /var/fdfs/tracker:/var/fdfs -v /etc/localtime:/etc/localtime delron/fastdfs tracker
3.使用docker镜像构建storage容器(存储服务器,提供容量和备份服务)
TRACKER_SERVER=本机的ip地址:22122 ,本机ip地址不要使用127.0.0.1
docker run -dti --network=host --name storage -e TRACKER_SERVER=192.168.157.133:22122 -v /var/fdfs/storage:/var/fdfs -v /etc/localtime:/etc/localtime delron/fastdfs storage
4.进入storage容器,到storage的配置文件中配置http访问的端口,配置文件在/etc/fdfs目录下的storage.conf
#进入容器
docker exec -it storage bash
#进入目录
cd /etc/fdfs/
#编辑文件
vi storage.conf
默认端口是8888,也可以不进行更改。
5.修改storage中的nginx 不需要安装
cd /usr/local/nginx/conf
vi nginx.conf
6.修改完配置重启容器,没有修改就不需要重启
docker stop storage
docker start storage
如果重启后无法启动的会,可能是报下面错误了,手动创建 vi
/var/fdfs/logs/storaged.log 文件即可 tail: cannot open '
/var/fdfs/logs/storaged.log' for reading: No such file or directory
7.测试
7.1 进入storage容器,进入/var/fdfs目录
docker exec -it storage bash
cd /var/fdfs
echo hello 这是我的第一个测试文件,大家觉得不错关注下吧>a.txt
/usr/bin/fdfs_upload_file /etc/fdfs/client.conf a.txt
浏览器访问
http://ip:8888/group1/M00/00/00/wKgcgF-_Le6AS4LvAAAATzab9Do068.txt 端口根据你在starage里面设置的要保持一致,访问之前关闭防火墙或者自己单独开放端口
8.开放端口
firewall-cmd --zone=public --permanent --add-port=8888/tcp
firewall-cmd --zone=public --permanent --add-port=22122/tcp
firewall-cmd --zone=public --permanent --add-port=23000/tcp
重启防火墙
systemctl restart firewalld
9.开机启动容器
设置容器随docker启动而启动(由于docker是开机启动的,所以容器也会随之启动)
docker update --restart=always tracker
docker update --restart=always storage
3. 服务器端口和防火墙
由于服务器防火墙的原因,导致指定的端口未暴露会出现如下问题: 1、浏览器访问fastdfs上传的资源访问不到
http://192.168.157.133:8888/group1/M00/00/00/wKidhWF1ABqAYqUwAAAATzab9Do485.txt 2、fastdfs-client客户端连接fastdfs服务出错 会报下面错误:
fastDFS报错:Unable to borrow buffer from pool
解决方案(centos7):
1、关闭防火墙
由于FastDFS安装在Linux中 22122端口被管控,windows系统访问时需要先关闭防火墙或者开放该端口 1.查看防火墙状态:
firewall-cmd --state
2.关闭并禁用防火墙,可能需要重启服务器
sudo systemctl stop firewalld.service sudo systemctl disable firewalld.service
3.查看防火墙状态:
firewall-cmd --state not running
2、开放端口
firewall-cmd --zone=public --permanent --add-port=8888/tcp
firewall-cmd --zone=public --permanent --add-port=22122/tcp
firewall-cmd --zone=public --permanent --add-port=23000/tcp
#重启防火墙
systemctl restart firewalld
然后重启fastdfs服务(tracker、storage、nginx)
4. FastDFS在Web项目中应用
Controller层
package com.xjt.fdfs.controller;
import cn.hutool.core.io.FileUtil;
import com.github.tobato.fastdfs.domain.fdfs.StorePath;
import com.github.tobato.fastdfs.domain.proto.storage.DownloadByteArray;
import com.github.tobato.fastdfs.service.FastFileStorageClient;
import io.swagger.annotations.Api;
import io.swagger.annotations.ApiOperation;
import io.swagger.annotations.ApiParam;
import org.apache.commons.io.FilenameUtils;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.util.StringUtils;
import org.springframework.web.bind.annotation.PostMapping;
import org.springframework.web.bind.annotation.RequestMapping;
import org.springframework.web.bind.annotation.ResponseBody;
import org.springframework.web.bind.annotation.RestController;
import org.springframework.web.multipart.MultipartFile;
import javax.servlet.http.HttpServletRequest;
import javax.servlet.http.HttpServletResponse;
import java.io.IOException;
@Api(tags = "FastDFS测试")
@RestController
@RequestMapping("/api/fastdfs")
public class FileController {
@Autowired
private FastFileStorageClient storageClient;
public final static String server_host = "http://192.168.157.134:8888/";
@ResponseBody
@ApiOperation(value = "上传文件",httpMethod = "POST")
@PostMapping("/upload")
public String uploadFile(@ApiParam("文件") MultipartFile file) throws IOException {
StorePath storePath = storageClient.uploadFile(file.getInputStream(),
file.getSize(), FilenameUtils.getExtension(file.getOriginalFilename()),null);
String filepath = server_host + storePath.getFullPath();
return "文件上传成功 地址为:"+filepath;
}
@ResponseBody
@ApiOperation(value = "删除文件",httpMethod = "POST")
@PostMapping("/delete")
public void deleteFile(String fileUrl){
if (StringUtils.isEmpty(fileUrl)) {
return;
}
try {
StorePath storePath = StorePath.parseFromUrl(fileUrl);
storageClient.deleteFile(storePath.getGroup(), storePath.getPath());
} catch (Exception e) {
System.out.println(e.getMessage());
}
}
@ResponseBody
@ApiOperation(value = "下载文件",httpMethod = "POST")
@PostMapping("/download")
public void downloadFile(HttpServletRequest request, HttpServletResponse response,String fileUrl){
try {
StorePath storePath = StorePath.parseFromUrl(fileUrl);
System.out.println(storePath.getGroup());
System.out.println(storePath.getPath());
byte[] bytes = storageClient.downloadFile(storePath.getGroup(), storePath.getPath(), new DownloadByteArray());
response.getOutputStream().write(bytes);
FileUtil.writeBytes(bytes,FileUtil.file(storePath.getPath()));
} catch (Exception e) {
return;
}
}
}
配置文件application.properties
#fastdfs配置
fdfs.connect-timeout=1500
fdfs.so-timeout=1500
fdfs.trackerList[0]=192.168.157.134:22122
fdfs.thumbImage.height=150
fdfs.thumbImage.width=150
spring.jmx.enabled=false
fdfs.pool.max-total=200
spring.servlet.multipart.max-file-size=1000MB
spring.servlet.multipart.max-request-size=1000MB
相关推荐
- unetbootin中文版:能够将Linux系统装进U盘的U盘启动盘制作工具
-
unetbootin中文版是一款能够将Linux操作系统装进U盘或移动硬盘的U盘启动盘制作工具,制作好的U盘启动盘能够用于电脑的维护和系统还原等操作,使用起来非常地不错。该软件不会基于操作系统使用特定...
- 实用之选,实用之改:DELL 戴尔 灵越14CR-4528B 小改作业
-
昨天发布了一篇三脚架,今天有时间也写写早就准备写的DELL戴尔灵越14CR-4528B作业吧。话说上个笔记本还是2006年底买的华硕A6JE,电脑挺不错的,在家上上网也够用了,就是转轴设计缺陷,容...
- 教你如何制作一个启动U盘,从此电脑不用找专人做系统
-
在电脑使用中,老是遇到卡顿,蓝屏,重启等很多故障,大多都是因为自己日常使用习惯而造成的,很多用户在下载软件的时候不知不觉中都被安装许多乱七八糟的软件,当电脑乱七八糟的东西过多的时候我们就重新来装一个系...
- 8、Deepin操作系统启动盘(系统盘)制作
-
1、在Deepin官网https://www.deepin.org/zh/download/下载原版Deepin操作系统2、同时在Deepin官网https://www.deepin.org/zh/d...
- 电脑死机怎么办,电脑如何使用U盘重装系统
-
电脑死机是我们最常遇到的系统故障,遇到死机时通常重启就可以解决,不过系统损坏引起的死机就只能重装系统,那么电脑死机如何重装系统呢?下面来看看电脑死机怎么办如何使用U盘重装系统_小白一键重装系统官网。 ...
- bootmgr is compressed无法启动系统
-
bootmgriscompressedPressCtrlAltDeltorestart,电脑启动后无法正常开机出现了这样的字样,就是说明你的C盘驱动被压缩解决方法:1、使用系统光盘或者...
- 新手教程!如何分辨BIOS启动列表(菜单)中的各种启动项
-
在BIOS启动菜单中识别各类启动项,是新手安装系统或调整启动顺序的必备技能。下面用最直观的方式,为你梳理常见启动项及其含义,帮助你快速上手:一、传统存储设备启动项1.Floppy(软盘驱动器)对应...
- 带回家的MINI客厅电脑,自学成才,分享U盘装系统教程
-
刚好老家新装修了房子,客厅买了个大电视,本来是想在客厅弄台主机,接电视玩,大屏幕玩的才爽,但是台式机箱太占地方了。网上逛了一圈,发现有专门的客厅电脑,就搞了一个,外形不错,放客厅很有档次,主要是主机太...
- 电脑基础知识:BIOS简介及其与Windows操作系统的关系
-
什么是BIOS?BIOS,全称BasicInputOutputSystem,即“基本输入输出系统”,是一段固化在电脑主板芯片上的底层固件程序。它类似于一款极简化的操作系统,负责电脑开机时的硬件初...
- win 7 系统注册表文件丢失或损坏,求不重做系统的解决办法!
-
粉丝问题解答:win7系统注册表文件丢失或损坏,求不重做系统的解决办法!解决方法:你只需要有启动盘即可,不需要其他的。之所以要求启动盘,是因为下面要对系统文件进行还原覆盖,所以不能用原系统启动。用...
- UEFI怎么装Win7 小编呕血解难点!
-
自从广开言路之后,小编就被你们害苦了,这不,一条评论又让小编彻夜难眠。另外某些小伙伴坐不上沙发后提出要上墙的需求,其实呢只要大家提出的问题具有普遍性、有难度、而且适合小编做微信内容的话,都有机会将你们...
- 固态攻坚战——ASUS 华硕k45v换固态、拆机清灰教程
-
作者:蘑菇爱上我现在固态白菜价固态对于电脑体验的提升还是很大的对于固态存储芯片的问题没什么好说的有钱mlc,没钱tlc,不需要考虑什么寿命的问题,我用了一年多的m600,写入才3TB品牌很重要,主控...
- MBR启动报错?Win10不重装一样能好!
-
Win10一遇到启动故障,很多小伙伴可能就会抓瞎,这可怎么弄,我不会修复啊!其实大可不必惊慌,就像这种最常见的Winload启动错误,多半都是MBR分区表丢失造成的(UEFI分区模式的几乎没有这种故障...
- 从零开始:硬盘手动装系统全攻略
-
手动安装操作系统是计算机技术必备的基本技能。对于初学者来说,可能会感到有些挑战。但通过掌握硬盘手动装系统方法,你可以亲身体验整个安装过程,进而更好地理解操作系统的工作原理。本文将详细介绍硬盘手动装系统...
- 电脑开机后显示File:BCD错误0xc000000f
-
WIN7\WIN8\WIN101、一个win864位PE。这个64位PE的相关文件,路径在boot\BOOT.WIM实机测试,开机后显示File:\EFI\Microsoft\Boot\BCD,...
你 发表评论:
欢迎- 一周热门
- 最近发表
- 标签列表
-
- 如何绘制折线图 (52)
- javaabstract (48)
- 新浪微博头像 (53)
- grub4dos (66)
- s扫描器 (51)
- httpfile dll (48)
- ps实例教程 (55)
- taskmgr (51)
- s spline (61)
- vnc远程控制 (47)
- 数据丢失 (47)
- wbem (57)
- flac文件 (72)
- 网页制作基础教程 (53)
- 镜像文件刻录 (61)
- ug5 0软件免费下载 (78)
- debian下载 (53)
- ubuntu10 04 (60)
- web qq登录 (59)
- 笔记本变成无线路由 (52)
- flash player 11 4 (50)
- 右键菜单清理 (78)
- cuteftp 注册码 (57)
- ospf协议 (53)
- ms17 010 下载 (60)