Lvs+keepalived+httpd+NFS搭建高可用

N24-SunshineBoy ? ? Linux干貨

自己捯飭的模型圖

  • NAT模型圖

blob.png

注意事項：RealServer需要把網關指向Director，并且Director要打開轉發功能命令如下：

   

echo "1" > /proc/sys/net/ipv4/ip_foreward

  • DR模型圖

blob.png

注意事項：需要在RealServer配置如下信息：

echo 1 > /proc/sys/net/ipv4/conf/all/arp_ignore
echo 1 > /proc/sys/net/ipv4/conf/lo/arp_ignore
echo 2 > /proc/sys/net/ipv4/conf/all/arp_announce
echo 2 > /proc/sys/net/ipv4/conf/lo/arp_announce
ifconfig lo:0 $vip netmask 255.255.255.255 broadcast $vip
route add -host $vip dev lo:0

Lvs DR 模型搭建，后端Apache使用共享NFS

環境：

  • 搭建NFS共享存儲服務，ip

    NIP：192.168.220.18

  • 搭建Keepalived，ip

    DIP1：192.168.220.28

    DIP2：192.168.220.24

    VIP：192.168.220.5

  • 搭建RealServer，ip

    RIP1：192.168.220.25

    RIP2：192.168.220.26

  • Client Test Host

    IP：192.168.11.30

    ps：自己三層交換做Vlan

一、NFS搭建步驟

1、查看R1/R2用于跑httpd服務的User

[root@Real-Server-Two ~]# ps -ef |grep httpd | head -2
root   3318  1  0 14:44 ?00:00:01 /usr/sbin/httpd -DFOREGROUND
apache 3319   3318  0 14:44 ?00:00:00 /usr/sbin/httpd -DFOREGROUND  #發現apache
[root@Real-Server-Two ~]# id apache         #查看apache的UID
uid=48(apache) gid=48(apache) groups=48(apache)
[root@Real-Serve-One ~]# id apache          #查看apache的UID
uid=48(apache) gid=48(apache) groups=48(apache)

2、在NFS-Server上面創建用于共享的文件，并且創建apapche用戶UID為48

[root@NFS-Server ~]# clear
[root@NFS-Server ~]# mkdir -p /data/site/www.sunshineboy.com
[root@NFS-Server ~]# useradd  -M -r -s /sbin/nologin -u 48 apache
[root@NFS-Server ~]# id apache
uid=48(apache) gid=48(apache) groups=48(apache)

3、設定/data/site/www.sunshineboy.com用戶與用戶組

[root@NFS-Server ~]# chown apache.apache /data/site/www.sunshineboy.com
[root@NFS-Server ~]# ls -l /data/site/
total 0
drwxr-xr-x 2 apache apache 39 Oct 24 12:22 www.sunshineboy.com

4、安裝nfs-utils組件,與啟動服務

yum install -y nfs-utlis
[root@NFS-Server ~]# systemctl start rpcbind
[root@NFS-Server ~]# systemctl start nfs.service
[root@NFS-Server ~]# ps -ef | grep nfs
root   3400  2  0 11:30 ?00:00:00 [nfsd4]
root   3401  2  0 11:30 ?00:00:00 [nfsd4_callbacks]
root   3407  2  0 11:30 ?00:00:00 [nfsd]
root   3408  2  0 11:30 ?00:00:00 [nfsd]
root   3409  2  0 11:30 ?00:00:00 [nfsd]
root   3410  2  0 11:30 ?00:00:00 [nfsd]
root   3411  2  0 11:30 ?00:00:00 [nfsd]
root   3412  2  0 11:30 ?00:00:00 [nfsd]
root   3413  2  0 11:30 ?00:00:00 [nfsd]
root   3414  2  0 11:30 ?00:00:00 [nfsd]
root   3859   2471  0 15:48 pts/100:00:00 grep --color=auto nfs

5、NFS配置文件設定及exportfst

[root@NFS-Server ~]# cat /etc/exports
/data/site/www.sunshineboy.com 192.168.220.0/24(rw,root_squash)
[root@NFS-Server ~]# exportfs 
/data/site/www.sunshineboy.com
        192.168.220.0/24

6、清空iptables及關閉SELinux

[root@NFS-Server ~]# iptables -F
[root@NFS-Server ~]# service iptables save
iptables: Saving firewall rules to /etc/sysconfig/iptables:[  OK  ]
[root@NFS-Server ~]# cat /etc/selinux/config | grep disabled
# disabled - No SELinux policy is loaded.
SELINUX=disabled
[root@NFS-Server ~]# getenforce 
Disabled

二、Keepalived搭建步驟

1、安裝keepalived程序

[root@Director-One ~]# yum install -y keepalived    #DIP1安裝
[root@Director-Two ~]# yum install -y keepalived    #DIP2安裝

2、keepalived的D1/D2配置

– Director1配置

[root@Director-One keepalived]# cat keepalived.conf  #查看D1配置

   ！Configuration File for keepalived
global_defs {
notification_email {
root@localhost
}
notification_email_from sunshineboy@163.com
smtp_server 127.0.0.1
smtp_connect_timeout 30
router_id LVS_DEVEL
vrrp_mcast_group4 224.0.100.18
}
vrrp_instance VI_1 {
state MASTER
interface eno16777728
virtual_router_id 51
priority 100
advert_int 1
authentication {
auth_type PASS
auth_pass 1111
}
virtual_ipaddress {
    192.168.220.5
}
}

virtual_server 192.168.220.5 80 {
delay_loop 6
lb_algo rr
lb_kind DR
protocol TCP

real_server 192.168.220.25 80 {
weight 1
HTTP_GET {
url {
  path /
  status_cde 200
}
connect_timeout 3
nb_get_retry 3
delay_before_retry 3
}
}
real_server 192.168.220.26 80 {
weight 1
HTTP_GET {
url {
  path /
  status_cde 200
}
connect_timeout 3
nb_get_retry 3
delay_before_retry 3
}
}
}

[root@Director-One keepalived]# systemctl start keepalived      #DIP1啟動服務
[root@Director-One keepalived]# ip add sh | grep "192.168.220." #查看，220.5地址有了
inet 192.168.220.24/27 brd 192.168.220.31 scope global dynamic eno16777728
inet 192.168.220.5/32 scope global eno16777728

– Director2配置

 [root@Director-Two keepalived]# cat keepalived.conf     #查D2看配置

        ! Configuration File for keepalived

global_defs {
   notification_email {
    root@localhost
   }
   notification_email_from sunshineboy@163.com
   smtp_server 127.0.0.1
   smtp_connect_timeout 30
   router_id LVS_DEVEL
   vrrp_mcast_group4 224.0.100.18
}

vrrp_instance VI_1 {
state BACKUP
interface eno16777728
virtual_router_id 51
priority 98
advert_int 1
authentication {
auth_type PASS
auth_pass 1111
}
virtual_ipaddress {
    192.168.220.5
}
}

virtual_server 192.168.220.5 80 {
delay_loop 6
lb_algo rr
lb_kind DR
protocol TCP

real_server 192.168.220.25 80 {
weight 1
HTTP_GET {
url {
  path /
  status_cde 200
}
connect_timeout 3
nb_get_retry 3
delay_before_retry 3
}
}
real_server 192.168.220.26 80 {
weight 1
HTTP_GET {
url {
  path /
  status_cde 200
}
connect_timeout 3
nb_get_retry 3
delay_before_retry 3  
}
}
}
[root@Director-Two keepalived]# ip add sh | grep "192.168.220"
inet 192.168.220.28/27 brd 192.168.220.31 scope global dynamic eno16777728

3、安裝ipvsadm查看Lvs調度是否如我們所設定那樣

[root@Director-Two keepalived]# yum install ipvsadm -y    #在D2安裝ipvsadm
[root@Director-One keepalived]# yum install ipvsadm -y    #在D1安航ipvsadm
[root@Director-One keepalived]# ipvsadm -Ln               #在D1查看Lvs規則
IP Virtual Server version 1.2.1 (size=4096)
Prot LocalAddress:Port Scheduler Flags
  -> RemoteAddress:Port   Forward Weight ActiveConn InActConn
TCP  192.168.220.5:80 rr
  -> 192.168.220.25:80Route   1  0  0 
  -> 192.168.220.26:80Route   1  0  0  
[root@Director-Two keepalived]# ipvsadm -Ln               #在D2查看Lvs規則
IP Virtual Server version 1.2.1 (size=4096)
Prot LocalAddress:Port Scheduler Flags
  -> RemoteAddress:Port   Forward Weight ActiveConn InActConn
TCP  192.168.220.5:80 rr
  -> 192.168.220.25:80Route   1  0  0 
  -> 192.168.220.26:80Route   1  0  0

三、RealServer步驟搭建

1、編寫設定VIP及內核功能參數腳本

[root@Real-Server-Two ~]# vim skp.sh            #在R2上編輯skp.sh腳本添加下面內容
[root@Real-Server-Two ~]# chmod +x skp.sh       #賦予執行權限

[root@Real-Serve-One ~]# vim skp.sh             #在R2上編輯skp.sh腳本添加下面內容
[root@Real-Serve-One ~]# chmod +x skp.sh        #賦予執行權限


#!/bin/bash
#
vip=192.168.220.5
case $1 in
start)
echo 1 > /proc/sys/net/ipv4/conf/all/arp_ignore
echo 1 > /proc/sys/net/ipv4/conf/lo/arp_ignore
echo 2 > /proc/sys/net/ipv4/conf/all/arp_announce
echo 2 > /proc/sys/net/ipv4/conf/lo/arp_announce
ifconfig lo:0 $vip netmask 255.255.255.255 broadcast $vip
route add -host $vip dev lo:0
;;
stop)
echo 0 > /proc/sys/net/ipv4/conf/all/arp_ignore
echo 0 > /proc/sys/net/ipv4/conf/lo/arp_ignore
echo 0 > /proc/sys/net/ipv4/conf/all/arp_announce
echo 0 > /proc/sys/net/ipv4/conf/lo/arp_announce
ifconfig lo:0 del $vip
;;
esac

2、在RealServer1/RealServer2Z執行該腳本

[root@Real-Serve-One ~]# sh skp.sh start                    #執行腳本
[root@Real-Serve-One ~]# ip add sh | grep "192.168.220"     #查看是否成功
inet 192.168.220.5/32 brd 192.168.220.5 scope global lo:0
inet 192.168.220.25/27 brd 192.168.220.31 scope global dynamic eno16777728

[root@Real-Server-Two ~]# sh skp.sh start                   #執行腳本
[root@Real-Server-Two ~]# ip add sh | grep "192.168.220."   #查看是否成功
inet 192.168.220.5/32 brd 192.168.220.5 scope global lo:0
inet 192.168.220.26/27 brd 192.168.220.31 scope global dynamic eno16777728

測試：

[root@R2 ~]# ip add sh | grep "192.168.11."             #查看IP地址是否是11.30
inet 192.168.11.17/32 brd 192.168.11.17 scope global lo:0
inet 192.168.11.30/24 brd 192.168.11.255 scope global eno16780032
[root@R2 ~]# curl http://192.168.220.5/index.html       #測試25
<h1>Test files 25.</h1>
[root@R2 ~]# curl http://192.168.220.5/index.html       #測試26
<h1>Test files 26.</h1>
[root@R2 ~]# curl http://192.168.220.5/index.html
<h1>Test files 25.</h1>
[root@R2 ~]# curl http://192.168.220.5/index.html
<h1>Test files 26.</h1>

[root@R2 ~]# curl http://192.168.220.5/www.sunshineboy.com/index.html   #這個頁面是NFS共享存儲
<h1>Tset</h1>
[root@R2 ~]# curl http://192.168.220.5/www.sunshineboy.com/index.html
<h1>Tset</h1>
[root@R2 ~]# curl http://192.168.220.5/www.sunshineboy.com/index.html
<h1>Tset</h1>
[root@R2 ~]# curl http://192.168.220.5/www.sunshineboy.com/index.php | grep "One"   #特意把hostname改為不同
  % Total% Received % Xferd  Average Speed   TimeTime Time  Current
 Dload  Upload   Total   SpentLeft  Speed
  0 00 00 0  0  0 --:--:-- --:--:-- --:--:-- 0<tr><td class="e">System </td><td class="v">Linux Real-Serve-One 3.10.0-327.el7.x86_64 #1 SMP Thu Nov 19 22:10:57 UTC 2015 x86_64 </td></tr>
100 421770 421770 0   758k  0 --:--:-- --:--:-- --:--:--  762k
[root@R2 ~]# curl http://192.168.220.5/www.sunshineboy.com/index.php | grep "Two"   #特意把hostname改為不同
  % Total% Received % Xferd  Average Speed   TimeTime Time  Current
 Dload  Upload   Total   SpentLeft  Speed
  0 00 00 0  0  0 --:--:-- --:--:-- --:--:-- 0<tr><td class="e">System </td><td class="v">Linux Real-Server-Two 3.10.0-327.el7.x86_64 #1 SMP Thu Nov 19 22:10:57 UTC 2015 x86_64 </td></tr>
100 421790 421790 0  1084k  0 --:--:-- --:--:-- --:--:-- 1113k

測試靜態動態頁面分離

依然使用11.30 IP Client Test

– nginx RealServer2配置

server {
listen       80;
server_name  localhost;


location / {
    root   /var/www/html;
    index  index.html index.htm;
}

location ~ .*\.php$ {
proxy_pass http://192.168.220.25;
}

error_page   500 502 503 504  /50x.html;
location = /50x.html {
    root   /usr/share/nginx/html;
}

}

– nginx RealServer1配置

server {
listen   80;
server_name  www.855.com;

location / {
root   /var/www/html;
index  index.html index.htm;
}
location ~ .*\.php$ {
    root /var/www/html/www.sunshineboy.com;
    fastcgi_pass 127.0.0.1:9000;
    fastcgi_index index.php;
    fastcgi_param SCRIPT_FILENAME $document_root$fastcgi_script_name;
    include fastcgi_params;
}

error_page   500 502 503 504  /50x.html;
location = /50x.html {
root   /usr/share/nginx/html;
}

}

– 訪問測試

    [root@R2 conf]# curl http://192.168.220.25/index.php | grep -o "Two\|One"  #訪問25，發現One
  % Total% Received % Xferd  Average Speed   TimeTime Time  Current
 Dload  Upload   Total   SpentLeft  Speed
  0 00 00 0  0  0 --:--:-- --:--:-- --:--:-- 0One
100 491640 491640 0  1121k  0 --:--:-- --:--:-- --:--:-- 1143k


[root@R2 conf]# curl http://192.168.220.5/index.php | grep -o "Two\|One"  #訪問192.168.220.5，也是One    
  % Total% Received % Xferd  Average Speed   TimeTime Time  Current
 Dload  Upload   Total   SpentLeft  Speed
  0 00 00 0  0  0 --:--:-- --:--:-- --:--:-- 0One
100 491620 491620 0  1328k  0 --:--:-- --:--:-- --:--:-- 1333k
[root@R2 conf]# curl http://192.168.220.5/index.php | grep -o "Two\|One"
  % Total% Received % Xferd  Average Speed   TimeTime Time  Current
 Dload  Upload   Total   SpentLeft  Speed
  0 00 00 0  0  0 --:--:-- --:--:-- --:--:-- 0One
100 491620 491620 0  1091k  0 --:--:-- --:--:-- --:--:-- 1116k
    [root@R2 conf]# curl http://192.168.220.26/index.php | grep -o "Two\|One"  #還是One，證明代理成功，動態靜態分開了
  % Total% Received % Xferd  Average Speed   TimeTime Time  Current
 Dload  Upload   Total   SpentLeft  Speed
  0 00 00 0  0  0 --:--:-- --:--:-- --:--:-- 0One
100 492440 492440 0  1297k  0 --:--:-- --:--:-- --:--:-- 1335k

原創文章，作者：N24-SunshineBoy，如若轉載，請注明出處：http://www.www58058.com/54263

贊 (0)
N24-SunshineBoyN24-SunshineBoy
上一篇 2016-10-25
下一篇 2016-10-25

相關推薦

  • 億級用戶下的新浪微博平臺架構

    序言     新浪微博在2014年3月公布的月活躍用戶（MAU）已經達到1.43億，2014年新年第一分鐘發送的微博達808298條，如此巨大的用戶規模和業務量，需要高可用（HA）、高并發訪問、低延時的強大后臺系統支撐。 微博平臺第一代架構為LAMP架構，數據庫使用的是MyIsam，后臺用的是php，緩存為Memcache。 隨著應用規?！?/p>

    2015-03-16

  • 系統基礎之權限管理

    權限管理: 概論:  上節,為大家介紹了用戶,和組的知識.今天為大家介紹與用戶,組息息相關的知識,權限.linux是多用戶,多任務的操作系統,面對多人的操作,安全問題就很重要,權限機制就很好的對安全進行防護,避免他人操作自己的文件.下面給大家詳細介紹權限.   首先讓我們先直觀地看下權限,對權限有個最基本的認識.以/etc/issue文件…

    Linux干貨 2016-08-04

  • grep 整理

    grep： Linux上文本處理三劍客 grep：文本過濾(模式：pattern)工具;  grep: Global search REgular expression and Print out the line. 作用：文本搜索工具，根據用戶指定的“模式”…

    Linux干貨 2016-10-09

  • 馬哥教育網絡班第21期+第五周課程作業

    1、 顯示/boot/grub/grub.conf中以至少一個空白字符開頭的行； [root@redhat6 ~]# grep '^[[:space:]]\+' /boot/grub/grub.conf   2、顯示/etc/rc.d/rc.sysinit文件中以#開頭，后面跟至少一個空白字符，而后又有至少一個非空白字符的…

    Linux干貨 2016-08-08

  • Linux中的man命令使用方法

      Linux中的man命令就是manual的縮寫，此命令是用來查看系統中自帶的各種參考手冊，幫助用戶更好的了解并使用命令。   man命令的使用格式為： man COMMAND，即man后面跟上需要查詢的命令，進到手冊后有如下快捷按鈕幫助用戶更好的操作手冊。     1.按鍵-j &nb…

    Linux干貨 2016-10-20

  • nfs服務部署wordpress

    NFS服務簡介 NFS 是Network File System的縮寫，即網絡文件系統。一種使用于分散式文件系統的協定，由Sun公司開發，于1984年向外公布。功能是通過網絡讓不同的機器、不同的操作系統能夠彼此分享個別的數據，讓應用程序在客戶端通過網絡訪問位于服務器磁盤中的數據，是在類Unix系統間實現磁盤文件共享的一種方法。 NFS 的基本原則是“容許不同…

    2017-04-28

評論列表（1條）

  • 馬哥教育
    馬哥教育 2016-11-02 16:40

    內容格式把握得很好，原理部分可以加入一些自己的理解，加油！

欧美性久久久久