主頁 > 知識(shí)庫 > fastdfs+nginx集群搭建的實(shí)現(xiàn)

fastdfs+nginx集群搭建的實(shí)現(xiàn)
熱門標(biāo)簽：比較穩(wěn)定的外呼系統(tǒng) 鸚鵡螺號(hào)航海地圖標(biāo)注時(shí)間 400 電話 申請(qǐng)費(fèi)用 山東電信外呼系統(tǒng)靠譜嗎 云南云電銷機(jī)器人招商 ai電話機(jī)器人營銷 信貸電銷機(jī)器人系統(tǒng) 江蘇自動(dòng)外呼系統(tǒng)一般多少錢 長沙回?fù)芡夂粝到y(tǒng)

一.簡介fastdfs

1.什么是fastdfs

  • fastdfs是一個(gè)輕量級(jí)的開源分布式文件系統(tǒng)；
  • fastdfs主要解決了大容量的文件存儲(chǔ)和高并發(fā)訪問的問題，文件存取時(shí)實(shí)現(xiàn)了負(fù)載均衡；
  • fastdfs實(shí)現(xiàn)了軟件方式的RAID，可以使用廉價(jià)的IDE硬盤進(jìn)行存儲(chǔ)支持存儲(chǔ)服務(wù)器在線擴(kuò)容支持相同內(nèi)容的文件只保存一份，節(jié)約磁盤空間；
  • fastdfs只能通過Client API訪問，不支持POSIX訪問方式；
  • fastdfs特別適合大中型網(wǎng)站使用，用來存儲(chǔ)資源文件（如：圖片、文檔、音頻、視頻等等）。

2.fastdfs框架圖

作者（YuQing）給出了框架圖如下：

其中：

Tracker Server：跟蹤服務(wù)器，主要做調(diào)度工作，在訪問上起負(fù)載均衡的作用。記錄storage server的狀態(tài)，是連接Client和Storage server的樞紐。
Storage Server：存儲(chǔ)服務(wù)器，文件和meta data都保存到存儲(chǔ)服務(wù)器上
group：組，也可稱為卷。同組內(nèi)服務(wù)器上的文件是完全相同的文件標(biāo)識(shí)：包括兩部分：組名和文件名（包含路徑）
meta data：文件相關(guān)屬性，鍵值對(duì)（Key Value Pair）方式，如：width=1024,heigth=768

 3.上傳文件流程

 （1）client詢問tracker上傳到的storage，不需要附加參數(shù)；
 （2）tracker返回一臺(tái)可用的storage；
 （3）client直接和storage通訊完成文件上傳。 

4.下載文件流程

（1）client詢問tracker下載文件的storage，參數(shù)為文件標(biāo)識(shí)（組名和文件名）；
（2）tracker返回一臺(tái)可用的storage；
（3）client直接和storage通訊完成文件下載。

5.同步機(jī)制

（1）同一組內(nèi)的storage server之間是對(duì)等的，文件上傳、刪除等操作可以在任意一臺(tái)storage server上進(jìn)行；
（2）文件同步只在同組內(nèi)的storage server之間進(jìn)行，采用push方式，即源服務(wù)器同步給目標(biāo)服務(wù)器；
（3）源頭數(shù)據(jù)才需要同步，備份數(shù)據(jù)不需要再次同步，否則就構(gòu)成環(huán)路了；
（4）上述第二條規(guī)則有個(gè)例外，就是新增加一臺(tái)storage server時(shí)，由已有的一臺(tái)storage server將已有的所有數(shù)據(jù)（包括源頭數(shù)據(jù)和備份數(shù)據(jù)）同步給該新增服務(wù)器。

6.tracker server目錄結(jié)構(gòu)

（1）data

         storage_groups.dat：存儲(chǔ)分組信息

         storage_servers.dat：存儲(chǔ)服務(wù)器列表  

（2）logs

          trackerd.log：tracker server日志文件

7.storage server目錄結(jié)構(gòu)

1）data

         .data_init_flag：當(dāng)前storage server初始化信息

         storage_stat.dat：當(dāng)前storage server統(tǒng)計(jì)信息

         sync：存放數(shù)據(jù)同步相關(guān)文件

                 binlog.index：當(dāng)前的binlog文件索引號(hào)

                 binlog.###：存放更新操作記錄（日志）

                 ${ip_addr}_${port}.mark：存放同步的完成情況

（2）logs

              storaged.log：storage server日志文件

以上理論參考：

ChinaUnix論壇：http://bbs.chinaunix.net/forum-240-1.html

github下載地址：https://github.com/happyfish100

二、fastdfs安裝和測試

1.下載

需要下載：libfastcommon     fastdfs（2.0之前的版本需要以來libevent）

2.安裝

（1）安裝libfastcommon

$ tar xzvf libfastcommon-1.0.38.tar.gz
$ cd libfastcommon-1.0.38
$ ./make.sh
$ sudo ./make.sh install

（2）安裝fastdfs

$ tar xzvf fastdfs-5.11.tar.gz
$ cd fastdfs-5.11
$ ./make.sh
$ sudo ./make.sh install

3.配置

集群搭建拓?fù)鋱D（由于硬盤不夠了，下面192.168.31.4和192.168.31.14現(xiàn)在還沒有，擴(kuò)容后加上）

（1）配置tracker（192.168.31.95/192.168.31.99）

$cd /etc/fdfs/

目錄文件如下：

然后，執(zhí)行如下：

$sudo su
#cp tracker.conf.sample tracker.conf

配置tracker.conf文件：

vim tracker.conf

修改：base_path=/home/fastdfs/tracker （注意：在啟動(dòng)前必須存在此目錄，否則會(huì)報(bào)錯(cuò)，找不到路徑，也就是說需要手動(dòng)新建tracker目錄）

啟動(dòng)：

/etc/init.d/fdfs_trackerd start

 

（2）配置storage（192.168.31.2/192.168.31.12）

$ cd /etc/fdfs
$sudo su
#cp storage.conf.sample storage.conf

修改：

group_name=group1（192.168.31.2） 或者group2（192.168.31.12）

base_path=/home/fastdfs/storage

store_path0=/home/fastdfs/storage

修改：tracker服務(wù)ip與port：

tracker_server=192.168.31.95:22122  （注意：這里31.2 tracker_server配置31.95 ，31.12 tracker_server配置31.99）

啟動(dòng)：

/etc/init.d/fdfs_storaged start

查看fastdfs的相應(yīng)配置信息

# fdfs_monitor /etc/fdfs/storage.conf

 有以下信息才算成功：

測試上傳, 選擇192.168.31.99 tracker機(jī)器當(dāng)做fdfs_client

$ cd /etc/fdfs

$ sudo su

# cp client.conf.sample client.conf

# vim client.conf

修改：

base_path = /home/fastdfs

tracker_server=192.168.31.99:22122

測試上傳net.png文件：

fdfs_upload_file /etc/fdfs/client.conf net.png

三、nginx配置

需要安裝：

fastdfs-nginx-module-1.20  類似插件的東西

nginx-1.14.2.tar.gz

安裝nginx需要先安裝：

openssl       zlib     pcre

把a(bǔ)stdfs-nginx-module插入到nginx（需要對(duì)nginx進(jìn)行configure和make&&make install）

./configure --add-module=../../fastdfs-nginx-module/src/

 會(huì)報(bào)錯(cuò)：需要修改fastdfs-nginx-module-1.20/src/config文件

ngx_addon_name=ngx_http_fastdfs_module

if test -n "${ngx_module_link}"; then
  ngx_module_type=HTTP
  ngx_module_name=$ngx_addon_name
  ngx_module_incs="/usr/local/include"
  ngx_module_libs="-lfastcommon -lfdfsclient"
  ngx_module_srcs="$ngx_addon_dir/ngx_http_fastdfs_module.c"
  ngx_module_deps=
  CFLAGS="$CFLAGS -D_FILE_OFFSET_BITS=64 -DFDFS_OUTPUT_CHUNK_SIZE='256*1024' -DFDFS_MOD_CONF_FILENAME='\"/etc/fdfs/mod_fastdfs.conf\"'"
  . auto/module
else
  HTTP_MODULES="$HTTP_MODULES ngx_http_fastdfs_module"
  NGX_ADDON_SRCS="$NGX_ADDON_SRCS $ngx_addon_dir/ngx_http_fastdfs_module.c"
  CORE_INCS="$CORE_INCS /usr/local/include"
  CORE_LIBS="$CORE_LIBS -lfastcommon -lfdfsclient"
  CFLAGS="$CFLAGS -D_FILE_OFFSET_BITS=64 -DFDFS_OUTPUT_CHUNK_SIZE='256*1024' -DFDFS_MOD_CONF_FILENAME='\"/etc/fdfs/mod_fastdfs.conf\"'"
fi

修改為：

ngx_module_incs="/usr/include/fastdfs /usr/include/fastcommon/"
CORE_INCS="$CORE_INCS /usr/include/fastdfs /usr/include/fastcommon/"

ngx_addon_name=ngx_http_fastdfs_module

if test -n "${ngx_module_link}"; then
  ngx_module_type=HTTP
  ngx_module_name=$ngx_addon_name
  ngx_module_incs="/usr/include/fastdfs /usr/include/fastcommon/"
  ngx_module_libs="-lfastcommon -lfdfsclient"
  ngx_module_srcs="$ngx_addon_dir/ngx_http_fastdfs_module.c"
  ngx_module_deps=
  CFLAGS="$CFLAGS -D_FILE_OFFSET_BITS=64 -DFDFS_OUTPUT_CHUNK_SIZE='256*1024' -DFDFS_MOD_CONF_FILENAME='\"/etc/fdfs/mod_fastdfs.conf\"'"
  . auto/module
else
  HTTP_MODULES="$HTTP_MODULES ngx_http_fastdfs_module"
  NGX_ADDON_SRCS="$NGX_ADDON_SRCS $ngx_addon_dir/ngx_http_fastdfs_module.c"
  CORE_INCS="$CORE_INCS /usr/include/fastdfs /usr/include/fastcommon/"
  CORE_LIBS="$CORE_LIBS -lfastcommon -lfdfsclient"
  CFLAGS="$CFLAGS -D_FILE_OFFSET_BITS=64 -DFDFS_OUTPUT_CHUNK_SIZE='256*1024' -DFDFS_MOD_CONF_FILENAME='\"/etc/fdfs/mod_fastdfs.conf\"'"
fi

然后重新configure 和make && make install

接下來，cp mod_fastdfs.conf /etc/fdfs/ 并修改mod_fastdfs.conf文件

$ cd fastdfs-nginx-module-1.20/src
$ cp mod_fastdfs.conf /etc/fdfs/

修改mod_fastdfs.conf

tracker_server=192.168.31.99:22122
store_path0=/home/fastdfs/storage
group_name=group1

[group1]
group_name=group1
storage_server_port=23000
store_path_count=1
store_path0=/home/fastdfs/storage


[group2]
group_name=group2
storage_server_port=23000
store_path_count=1
store_path0=/home/fastdfs/storage

 將fastdfs-5.11/conf/

$ cp http.conf /etc/fdfs/
$ cp mime.types /etc/fdfs/

修改：http.conf

http.anti_steal.token_check_fail=/home/fastdfs/fastdfs-5.11/conf/

修改nginx.conf 

cd /usr/local/nginx/sbin
vim ../conf/nginx.conf

 

 8888端口號(hào)與/etc/fdfs/storage.conf中的http.server_port=8888相對(duì)應(yīng)

上傳一張圖片

http://192.168.31.12:8888/group1/M00/00/00/wKgfDFzxVTyAM4suABWWvfB6x_k962.png

到此這篇關(guān)于fastdfs+nginx集群搭建的實(shí)現(xiàn)的文章就介紹到這了,更多相關(guān)fastdfs+nginx集群搭建內(nèi)容請(qǐng)搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家！

標(biāo)簽：烏海 衡陽 運(yùn)城 拉薩 澳門 齊齊哈爾 嘉興 亳州

巨人網(wǎng)絡(luò)通訊聲明：本文標(biāo)題《fastdfs+nginx集群搭建的實(shí)現(xiàn)》，本文關(guān)鍵詞  fastdfs+nginx,集群,搭建,的,；如發(fā)現(xiàn)本文內(nèi)容存在版權(quán)問題，煩請(qǐng)?zhí)峁┫嚓P(guān)信息告之我們，我們將及時(shí)溝通與處理。本站內(nèi)容系統(tǒng)采集于網(wǎng)絡(luò)，涉及言論、版權(quán)與本站無關(guān)。
  • 相關(guān)文章
  • 下面列出與本文章《fastdfs+nginx集群搭建的實(shí)現(xiàn)》相關(guān)的同類信息！
  • 本頁收集關(guān)于fastdfs+nginx集群搭建的實(shí)現(xiàn)的相關(guān)信息資訊供網(wǎng)民參考！
    • 推薦文章