分布式文件管理系统FastDFS搭建教程（FastDFS+nginx+fastdfs-nginx-module）

其他 2019-01-05 03:06:48 阅读次数: 0
版权声明：powered by 大狼狗郑锴/Moshow魔手 https://blog.csdn.net/moshowgame/article/details/85341632

Why FastDFS?

FastDFS是一个开源的轻量级分布式文件系统，它对文件进行管理，功能包括：文件存储、文件同步、文件访问（文件上传、文件下载）等，解决了大容量存储和负载均衡的问题。特别适合以文件为载体的在线服务，如相册网站、视频网站等等。

FastDFS为互联网量身定制，充分考虑了冗余备份、负载均衡、线性扩容等机制，并注重高可用、高性能等指标，使用FastDFS很容易搭建一套高性能的文件服务器集群提供文件上传、下载等服务。

一、FastDFS架构图
在这里插入图片描述

  1. Tracker cluster中各个tracker server相互独立，不进行相互通信。
  2. Storage cluster中各个storage组（Volume1,Volume2…）相互独立，不进行相互通信，也就是说各个组之间保存的数据是不相同的。但是各个组中的storage server之间是属于互相备份的关系，也就是说storage server之间保存相同的数据。
  3. 每个storage server会启动一个单独的线程主动向Tracker cluster中每个tracker server报告其状态信息，包括磁盘使用情况，文件同步情况及文件上传下载次数统计等信息。

二、文件上传时序图
在这里插入图片描述
4. Client通过Tracker server将文件上传到Storage server。
5. Tracker server向Client返回一台可用的Storage server的IP地址和端口号。
6. Client直接通过Tracker server返回的IP地址和端口与其中一台Storage server建立连接并进行文件上传。
7. 上传完成，Storage server返回Client一个文件ID（例如group1/M00/00/00/wKhnd1wkvtOAPgd5AADmHHh3iFk538.jpg），文件上传结束。

三、文件下载时序图
在这里插入图片描述
9. Client通过Tracker server下载指定Storage组中某个Storage server上的某个文件（文件名包括Storage组名称）。
10. Tracker server向Client返回一台可用的Storage server的IP地址和端口号。
11. Client直接通过Tracker server返回的IP地址和端口与其中一台Storage server建立连接并进行文件下载。

安装FastDFS

一、相关软件清单

  • fastdfs-5.11
  • nginx-1.15.8
  • fastdfs-nginx-module-V1.20
  • libfastcommon

二、服务器规划

服务器名称 IP地址和端口 备注
fastdfs-tracker 192.168.103.118:22122 跟踪服务器/调度服务器
fastdfs-storage 192.168.103.118:23000 存储服务器

FastDFS配置总预览

所有的配置都再这里了，基本只需要再修改一下本机的ip就行。这里给出下载链接，有需要的请自取并修改，然后在下面的操作中，无需copy demo，直接copy这些配置也是可以的，省一点时间。。

提取码: hjj2 链接: https://pan.baidu.com/s/14RJJWKwc-vvudHldew93fQ
Moshow郑锴 blog.csdn.net/moshowgame
配置文件 配置路径
mod_fastdfs.conf /etc/fdfs/
storage.conf /etc/fdfs/
tracker.conf /etc/fdfs/
client.conf /etc/fdfs/
nginx.conf /application/nginx/conf/
config fastdfs-nginx-module-1.20/src/

在这里插入图片描述
在这里插入图片描述

安装FastDFS

  1. 首先创建工具目录（请提前规划好目录）

mkdir -p /usr/local/bak/fastdfs
cd /usr/local/bak/fastdfs

  1. 下载并安装FastDFS依赖包libfastcommon

wget https://codeload.github.com/happyfish100/libfastcommon/zip/master
unzip master
cd libfastcommon-master/
ls
显示：HISTORY INSTALL libfastcommon.spec make.sh php-fastcommon README src
./make.sh
./make.sh install

  1. 从GitHub的Release下载并安装FastDFS

https://github.com/happyfish100/fastdfs/releases
cd /usr/local/bak/fastdfs
wget https://github.com/happyfish100/fastdfs/archive/V5.11.tar.gz
#下载后会先显示保存的名称，发现有时候保存为V5.11，后缀都没了，请根据屏幕提示操作具体下载到的文件
tar xf V5.11.tar.gz
cd fastdfs-5.11
./make.sh && ./make.sh install
在这里插入图片描述

  1. 检验安装后的文件及目录：

#服务脚本：
ll /etc/init.d/ |grep fdfs
#样例配置文件
ll /etc/fdfs/
#命令行工具
ll /usr/bin|grep fdfs

注意：虽然FastDFS区分tracker和storage服务器，但是安装的软件及步骤均相同，只是不同的配置文件而已，因此以上安装适用tracker server和storage server。也就是说单机的话，只要装一份就可以用了，无需装两份。

配置跟踪服务器（tracker server）

*注意。tracker_server不可配置为127.0.0.1，否则会有报错

[2018-12-27 19:47:43] ERROR - file: storage_func.c, line: 1194, conf file “/etc/fdfs/storage.conf”, tracker: “127.0.0.1:22122” is invalid, tracker server ip can’t be 127.0.0.1
[2018-12-27 19:47:43] CRIT - exit abnormally!

  1. 创建FastDfs数据目录

mkdir -p /data/fastdfs/tracker

  1. 拷贝tracker server和client端样例配置文件并重命名

cp /etc/fdfs/tracker.conf.sample /etc/fdfs/tracker.conf
cp /etc/fdfs/client.conf.sample /etc/fdfs/client.conf

  1. 编辑tracker server配置文件tracker.conf，需要修改内容如下：

#the tracker server port 这里配置的是tracker端口
port=22122
#the base path to store data and log files这里配置的是存储的目录，包含数据和日志文件
base_path=/data/fastdfs/tracker

  1. 编辑client端的配置文件client.conf，需要修改内容如下

#这里配置的是存储的目录，包含数据和日志文件
base_path=/data/fastdfs/tracker

#这里的是上面tracker的地址和端口，如果单机则本地ip(不能127.0.0.1，最好是局域网ip)，集群则中央tracker
tracker_server=192.168.103.118:22122

  1. 测试启动tracker server，启动成功会自动在/data/fastdfs/tracker目录新建data和logs目录

cd /data/fastdfs/tracker
/etc/init.d/fdfs_trackerd start
看到控制台输出以下信息证明基本是成功的
Reloading systemd: [ OK ]
Starting fdfs_trackerd (via systemctl): [ OK ]
ss -lntup|grep 22122
看到控制台输出tcp LISTEN 0 128 *:22122 *:* users:(("fdfs_trackerd",pid=15703,fd=5))
ls
看到控制台输出data logs

配置存储服务器（storage server）

  1. 拷贝storage server样例配置文件并重命名

cp /etc/fdfs/storage.conf.sample /etc/fdfs/storage.conf

  1. 编辑storage server配置文件storage.conf，需要修改内容如下：

#服务端口
port=23000
#日志和文件存储路径
base_path=/data/fastdfs/storage
#存储路径，如果有多个就store_path0~store_pathN排列即可
store_path0=/data/fastdfs/data
#tracker服务器地址，填写tracker_server=127.0.0.1:22122是错误的，不能为127.0.0.1，请填写局域网ip
tracker_server=192.168.103.119:22122
#重点，这里默认为8888，后面我们需要在nginx中配置的监听端口号，就是这里定义
http.server_port=8888

  1. 创建storage server数据目录

mkdir -p /data/fastdfs/storage
mkdir -p /data/fastdfs/data

  1. 测试启动storage server，启动成功会自动在/data/fastdfs/tracker目录新建data和logs目录（启动storage server的前提是tracker server必须事先已启动）

cd /data/fastdfs/data
ls
/etc/init.d/fdfs_storaged start
#这里要等很久,日志大概滚到9Kb的时候
ss -lntup|grep 23000
#看到控制台输出tcp LISTEN 0 128 *:23000 *:* users:(("fdfs_storaged",pid=16542,fd=5))就对了
ls
#查看日志

  1. 最后是开启和关闭相关的操作

#关闭服务器
/etc/init.d/fdfs_trackerd stop
/etc/init.d/fdfs_storaged stop
#打开服务器
/etc/init.d/fdfs_trackerd start
/etc/init.d/fdfs_storaged start
在这里插入图片描述

  1. 文件上传测试

#命令格式如下：
/usr/bin/fdfs_upload_file <config_file> <local_filename> [storage_ip:port] [store_path_index]
#执行如下上传命令：
/usr/bin/fdfs_upload_file /etc/fdfs/client.conf /data/fastdfs/class1.jpg
#看到控制台输出groupN/Mxx/00/00/xxxxxx.xxxx代表上传成功
在这里插入图片描述
group1/M00/00/00/wKhndlwm7HWAQQIKAAA4xhJCkoc594.jpg
返回文件ID即说明文件已经上传成功

安装fastdfs-nginx-module模块

FastDFS通过Tracker服务器，将文件放在Storage服务器存储，但是同组存储服务器之间需要进入文件复制，有同步延迟的问题。假设Tracker服务器将文件上传到了192.168.104.118，上传成功后文件ID已经返回给客户端。此时FastDFS存储集群机制会将这个文件同步到同组存储192.168.104.119，在文件还没有复制完成的情况下，客户端如果用这个文件ID在192.168.104.119上取文件,就会出现文件无法访问的错误。而fastdfs-nginx-module可以重定向文件连接到源服务器取文件,避免客户端由于复制延迟导致的文件无法访问错误。

#新建nginx下载目录
mkdir -p /usr/local/bak/nginx
#新建日志存储目录
mkdir -p /data/fastdfs/nginx
cd /usr/local/bak/nginx
#下载并解压
wget https://github.com/happyfish100/fastdfs-nginx-module/archive/V1.20.tar.gz fastdfs-nginx-module-V1.20.tar.gz
tar xf V1.20
cd fastdfs-nginx-module-1.20/src/

编辑fastdfs-nginx-module-1.20/src/目录下的config文件（没前缀，没后缀，就叫config），主要修改以下两处地方，否则会有报错，而且报错是不可预料的，不要问为什么，反正就是干。

ngx_module_incs="/usr/include/fastdfs /usr/include/fastcommon/"
CORE_INCS="$CORE_INCS /usr/include/fastdfs /usr/include/fastcommon/"

拷贝fastdfs-nginx-module模块的配置文件mod_fastdfs.conf到/etc/fdfs目录中并编辑

cp /usr/local/bak/nginx/fastdfs-nginx-module-1.20/src/mod_fastdfs.conf /etc/fdfs/mod_fastdfs.conf
cd /etc/fdfs/

修改内容如下，圈红为重点修改部分：

base_path=/data/fastdfs/nginx
store_path0=/data/fastdfs/storage
tracker_server=192.168.103.118:22122
storage_server_port=23000（默认配置为23000）
url_have_group_name = true
store_path0=/data/fastdfs/storage
group_name=group1（默认配置为group1）

安装nginx

先安装依赖库

yum install gcc gcc-c++ automake pcre pcre-devel zlib zlib-devel openssl openssl-devel -y

安装nginx

cd /usr/local/bak/nginx
wget https://nginx.org/download/nginx-1.15.8.tar.gz --no-check-certificate
tar xf nginx-1.15.8.tar.gz
cd nginx-1.15.8
#简单的安装法（我是用这种）
./configure --prefix=/application/nginx/ --add-module=/usr/local/bak/nginx/fastdfs-nginx-module-1.20/src
#比较复杂的安装法仅供参考，如果第一个不成功就试下这个
./configure --prefix=/application/nginx --sbin-path=/application/nginx/sbin/nginx --conf-path=/application/nginx/conf/nginx.conf --error-log-path=/var/log/nginx/error.log --http-log-path=/var/log/nginx/access.log --pid-path=/var/run/nginx/nginx.pid --lock-path=/var/lock/nginx.lock --user=nginx --group=nginx --with-http_ssl_module --with-http_stub_status_module --with-http_gzip_static_module --http-client-body-temp-path=/var/tmp/nginx/client/ --http-proxy-temp-path=/var/tmp/nginx/proxy/ --http-fastcgi-temp-path=/var/tmp/nginx/fcgi/ --http-uwsgi-temp-path=/var/tmp/nginx/uwsgi --http-scgi-temp-path=/var/tmp/nginx/scgi --with-stream --with-pcre --add-module=/home/software/fastdfs-nginx-module-master/src --with-stream
make && make install
在这里插入图片描述
在这里插入图片描述

拷贝FastDFS中的部分配置文件到/etc/fdfs目录中

cp /usr/local/bak/fastdfs/fastdfs-5.11/conf/http.conf /etc/fdfs/
cp /usr/local/bak/fastdfs/fastdfs-5.11/conf/mime.types /etc/fdfs/

配置nginx的配置文件，路径是/application/nginx/conf/nginx.conf

    user  root;    
    worker_processes  1;
    events {
       worker_connections  1024;
    }
    http {
        include       mime.types;
        default_type  application/octet-stream;
        sendfile        on;
        keepalive_timeout  65;
        server {
            listen       8888;
            server_name  localhost;
            location ~/group[0-9]/ {
                ngx_fastdfs_module;
            }
            error_page   500 502 503 504  /50x.html;
            location = /50x.html {
            root   html;
            }
        }
    }

这里有几点要说明一下：

  • "user root"是解决下载操作时报404的问题
  • 8888端口号与/etc/fdfs/storage.conf中的http.server_port=8888相对应
  • storage对应有多个group的情况下，访问路径带group名称（已经启用该配置），例如：/group1/M00/00/00/**，对应nginx配置 location ~/group[0-9]/ { ngx_fastdfs_module;}

拷贝nginx服务到/etc/init.d/目录下并启动

cp /application/nginx/sbin/nginx /etc/init.d/
/etc/init.d/nginx
ss -lntup|grep 8888
看到控制台输出tcp LISTEN 0 128 *:8888 *:* users:(("nginx",7308,6),("nginx",7309,6))

查看和终止nginx状态

ps -ef | grep nginx
kill -s 9 pid

验收战绩

配置了大半天，究竟行不行，初次玩的时候，发现我用的fastdfs+nginx+nginx-fastdfs-module的版本太新了，有些配置需要琢磨，所以卡了一天，配置也贴了出来了，可以参考参考，有什么需要注意的文章也说了也圈红了。

好了，我们拼接上服务器前缀ip和端口号进行请求，这个时候由nginx-fastdfs-module进行转发到FastDFS上。表示配置已经完成，接下来就是一些API开发和运维的工作了。

http://192.168.103.118:8888/group1/M00/00/00/wKhndlwm7HWAQQIKAAA4xhJCkoc594.jpg
在这里插入图片描述

后续

调用部分请看FastDFS Java Api 使用教程

猜你喜欢

转载自blog.csdn.net/moshowgame/article/details/85341632
今日推荐
基于大语言模型的开源知识库问答系统 MaxKB GitHub Star 数量突破 5,000 个！
美国拟限制 AI 大模型出口中国和俄罗斯
苹果将与 OpenAI 达成协议，将 ChatGPT 应用于 iPhone
openKylin 社区生态委员会第六次会议圆满召开
阿里云正式发布通义千问 2.5
Python 3.13 发布首个 Beta：实验性自由线程模式和 JIT、改进交互式解释器
Stack Overflow 拿我的代码去训练 AI 大模型，还封了我的账号
Pop!_OS 的 COSMIC 桌面完成 App Store 上架工作
报告：Django 仍然是 74% 开发者的首选
《2024 年一季度互联网投融资运行情况》研究报告
15 年前上了“FFmpeg 耻辱柱”，今天他还得谢谢咱——腾讯QQPlayer一雪前耻？
TIOBE 5 月榜单：Fortran “复活”进入 Top 10
周排行
BPM为企业带来的实际利益
好程序员web前端分享css常用属性缩写
Java文件下载（excel）
css样式的动态添加及显示和隐藏等零碎用法
axios全局配置以及拦截器
使用Logstash来实时同步MySQL和log日志数据到ES
C++获取当前时间（年月日、时分秒、毫秒）
Odoo产品分析 (四) -- 工具板块(11) -- 网站即时聊天(1)
Java环境配置正确，但是java、javac、java -version均返回“不是内部或外部命令，也不是可运行的程序或批处理文件”？
01 官网下载各种CentOS教程（超详细版）
每日归档
更多
2024-05-14(0)
2024-05-13(18)
2024-05-12(0)
2024-05-11(38)
2024-05-10(38)
2024-05-09(35)
2024-05-08(42)
2024-05-07(14)
2024-05-06(40)
2024-05-05(0)

代码天地 © 2018 codetd.com

境外服务器   最新电视剧2022