[Tuto] HA: Un cluster Apache/MySQL avec DRBD et Heartbeat sur Debian 7

Bonjour à tous, ce tutoriel est la synthèse des précédents tutoriel concernant la mise en place d’un cluster Web (Apache,PHP,MySQL) Actif / Passif avec en utilisant DRBD et HeartBeat.

Nous allons donc:

• Installer et configurer DRBD
• Installer et configurer HeartBeat
• Installer et configurer Apache et MySQL

Qu’est-ce que DRBD?

DRBD pour Distributed Replicated Block Device est comparabale à un RAID 1 mais en réseau, c’est à dire que deux disques, partitions ou même un LVM peuvent être repliqué d’un disque à un autre via un réseau ethernet ou fibre optique.
Cela permet donc d’assurer la disponibilité de vos données en cas de crash complet d’une machine. Ce que ne permet pas de faire un RAID classique.

C’est quoi Heartbeat?

Heartbeat est un logiciel de surveillance de la disponibilité des programmes, pour les systèmes d’exploitation Linux, FreeBSD, OpenBSD, Solaris et MacOS X. Il est distribué sous licence GPL.
Heartbeat écoute les battements de cœur – des signaux émis par les services d’une grappe de serveurs lorsqu’ils sont opérationnels. Lorsque qu’un serveur devient défaillant, Heartbeat le detecte (puisqu’il n’entend plus ses battements de coeurs) et bascule les services surveillés sur un autre serveur. Pour que cela soit transparent pour les utilisateurs, Heartbeat met en place une IP virtuelle unique qui est balancée entre les deux serveurs.

Voici la topologie que nous allons mettre en place

 

En cadeau: Un long screencast de plus de 40 minutes sur la mise en place de cette topologie

 

Pour ce tuto nous allons donc utiliser deux machines virtuelles sous Debian 7.

Configuration des machines virtuelles

Machine 1
Hostname: node1
Adresse IP: 192.168.2.101
Un second disque dur virtuel de 8GO (pour DRBD)

Machine 2
Hostname: node2
Adresse IP: 192.168.2.102
Un second disque dur virtuel de 8GO (pour DRBD)

Préparation des disques

Nous allons commencer par créer une partition sur les seconds disques que nous avons rajoutés.
Sur les deux machines tapez les commandes suivantes:

Sur node1

root@node1:~# fdisk /dev/sdb
Device contains neither a valid DOS partition table, nor Sun, SGI or OSF disklabel
Building a new DOS disklabel with disk identifier 0x92d2a75d.
Changes will remain in memory only, until you decide to write them.
After that, of course, the previous content won't be recoverable.

Warning: invalid flag 0x0000 of partition table 4 will be corrected by w(rite)

Command (m for help): n
Partition type:
   p   primary (0 primary, 0 extended, 4 free)
   e   extended
Select (default p): p
Partition number (1-4, default 1): 1
First sector (2048-16777215, default 2048):
Using default value 2048
Last sector, +sectors or +size{K,M,G} (2048-16777215, default 16777215):
Using default value 16777215

Command (m for help): w
The partition table has been altered!

Calling ioctl() to re-read partition table.
Syncing disks.

Sur node2

root@node2:~# fdisk /dev/sdb
Device contains neither a valid DOS partition table, nor Sun, SGI or OSF disklabel
Building a new DOS disklabel with disk identifier 0xeec5f39c.
Changes will remain in memory only, until you decide to write them.
After that, of course, the previous content won't be recoverable.

Warning: invalid flag 0x0000 of partition table 4 will be corrected by w(rite)

Command (m for help): n
Partition type:
   p   primary (0 primary, 0 extended, 4 free)
   e   extended
Select (default p): p
Partition number (1-4, default 1): 1
First sector (2048-16777215, default 2048):
Using default value 2048
Last sector, +sectors or +size{K,M,G} (2048-16777215, default 16777215):
Using default value 16777215

Command (m for help): w
The partition table has been altered!

Calling ioctl() to re-read partition table.
Syncing disks.

Maintenant que nous avons partitionnées les deux disques nous allons installer les paquets nécessaires à l’utilisation de DRBD.

Installation et configuration de DRBD

Sur les deux machines (node1 et node2) tapez les commandes suivantes:

apt-get install drbd8-utils

Puis une fois le paquet installé on active le module avec la commande suivante:

modprobe drbd

Vous pouvez vérifier la version de DRBD installée en tapant la commande modinfo drbd

Maintenant que nos disques et DRBD sont mis en place nous allons configurer la réplication des données entre les deux disques.
Pour ce faire nous allons créer et éditer un fichier que nous allons appeler drbd0.res dans le dossier /etc/drbd.d/

Attention les commandes et les configurations suivantes sont à faire sur les deux serveurs.

cd /etc/drbd.d
nano drbd0.res

Puis remplissez le fichier de la façon suivante:

resource r0 {

    startup {
                  wfc-timeout 30;
                  degr-wfc-timeout 15;
        }

    disk {
        on-io-error   detach;
    }

   # Taux de transfert
   # 10M pour du 100mbits
   # 100M pour du 1Gbits
   syncer {
      rate 100M;
   }

        on node1 {
                device /dev/drbd0;
                disk /dev/sdb1;
                address 192.168.2.101:7788;
                meta-disk internal;
        }
        on node2 {
                device /dev/drbd0;
                disk /dev/sdb1;
                address 192.168.2.102:7788;
                meta-disk internal;
        }
}

Explications:
Tout d’abord on donne un nom à notre ressource DRBD dans notre cas nous allons l’appeler r0.
Dans cette ressource nous allons renseigner nos deux nodes, cela commence donc par on node1 (node1 doit être le hostname de la machine) avec les valeurs suivantes:

device /dev/drbd0;              #Ceci est le nom du disque DRBD que nous allons créer
disk /dev/sdb1;                 #Ceci est le chemin de la parition que nous allons utiliser
address 192.168.2.101:7788;     #Adresse IP du node1
meta-disk internal;             #On écrit les MD sur le disque

Et on fais la même chose pour node2

Une fois ce fichier écrit sur les deux nodes nous allons enfin pouvoir mettre en place la réplication:

Toujours sur les deux nodes tapez les commandes suivantes:

drbdadm create-md r0
drbdadm up r0

Et voila notre DRBD est pratiquement mis en place vous pouvez vérifier que vos nodes se contactent en tapant la commande suivante:

drbd-overview

Vous devriez avoir cette ligne en sortie:

drbd-overview
  0:r0  Connected Secondary/Secondary Inconsistent/Inconsistent C r----

Cela veut dire que vos nodes se connectent mais que la réplication n’est pas encore possible étant donné qu’aucun des deux n’est en mode Primary, pour y remédier nous allons mettre node1 en primary avec la commande suivante:

root@node1:~# drbdadm -- --overwrite-data-of-peer primary r0

Et node2 en secondary (pas forcement obligatoire de faire ça)

root@node2:~# drbdadm secondary r0

La synchronisation initale se lance vous pouvez vérifier l’état de la synchronisation avec la commande suivante:

root@node1:~# cat /proc/drbd
version: 8.3.11 (api:88/proto:86-96)
srcversion: F937DCB2E5D83C6CCE4A6C9
 0: cs:SyncSource ro:Primary/Secondary ds:UpToDate/Inconsistent C r-----
    ns:1783060 nr:0 dw:0 dr:1791896 al:0 bm:108 lo:1 pe:12 ua:64 ap:0 ep:1 wo:f oos:6605660
        [===>................] sync'ed: 21.3% (6448/8188)Mfinish: 0:02:33 speed: 42,892 (43,452) K/sec

La synchronisation initiale peut être plus ou moins lente en fonction de l’espace disque et de la rapidité de votre réseau local.

Vous pouvez suivre la synchronisation avec un rafraîchissement toutes les 2 secondes avec la commande suivante:

watch cat /proc/drbd

Vous aurez ceci en sortie:

Every 2.0s: cat /proc/drbd                                                                Thu May  8 09:28:21 2014

version: 8.3.11 (api:88/proto:86-96)
srcversion: F937DCB2E5D83C6CCE4A6C9
 0: cs:SyncSource ro:Primary/Secondary ds:UpToDate/Inconsistent C r-----
    ns:3854632 nr:0 dw:0 dr:3863448 al:0 bm:235 lo:1 pe:8 ua:64 ap:0 ep:1 wo:f oos:4533596
        [========>...........] sync'ed: 46.0% (4424/8188)Mfinish: 0:01:38 speed: 46,192 (43,792) K/sec

Vous pouvez quitter cette vue en faisant CTRL+C

Une fois la synchronisation terminée la commande cat /proc/drbd vous donneras ceci:

root@node1:~# cat /proc/drbd
version: 8.3.11 (api:88/proto:86-96)
srcversion: F937DCB2E5D83C6CCE4A6C9
 0: cs:Connected ro:Primary/Secondary ds:UpToDate/UpToDate C r-----
    ns:8387292 nr:0 dw:0 dr:8387956 al:0 bm:512 lo:0 pe:0 ua:0 ap:0 ep:1 wo:f oos:0

Si les deux sont en mode ds:UpToDate/UpToDate c’est que tout fonctionne bien.

Maintenant que notre raid réseau et fonctionnel nous allons créer un système de fichier en ext4 pour pouvoir écrire dessus.

Tapons la commande suivante sur le node primaire (node1)

root@node1:~# mkfs.ext4 /dev/drbd0

Avec DRBD, vous devez savoir que l’on ne peut monter la partition DRBD uniquement sur le serveur sur lequelle la partition DRBD est en Primary.

Maintenant nous allons intstaller HearBeat sur les deux nodes afin de mettre en place le balancement de la partition DRBD entre les deux serveurs.

Installation et configuration de Heartbeat

ATTENTION: Toutes les prochaines étapes sont à faire sur les deux serveurs !

HeartBeat s’installe simplement avec la commande:

apt-get install heartbeat

Une fois heartbeat installer nous allons devoir créer trois fichiers dans le dossier « /etc/ha.d/ »
– ha.cf : Pour la configuration générale de HeartBeat
– haresources : Pour la configuration des ressources
– authkeys : Pour la clef partgaé entre les serveurs du cluster

Voici le contenu du fichier ha.cf

mcast eth0 239.0.0.10 694 1 0

warntime 4
deadtime 5
initdead 15
keepalive 2

#Re-balance les services sur le node primaire quand il revient en ligne
auto_failback off

#Serveurs du cluster
node node1
node node2

Attention Pour que tout fonctionne bien il faut s’assurer que vous puissez ping node2 depuis node1 et vice-versa.

Pensez donc à rajouter les deux lignes suivantes sur le fichier /etc/hosts sur vos deux nodes:

##nodes
192.168.2.101    node1
192.168.2.102    node2

Nous allons maintenant créer le contenu du fichier haresources

node1 IPaddr::192.168.2.100/24/eth0 drbddisk::r0 Filesystem::/dev/drbd0::/mnt::ext4

Explications:
node1 = noeud primaire du cluster
IPaddr::192.168.2.100/24/eth0 = Adresse IP balancée du cluster sur eth0
drbddisk::r0 = nom de la ressource drbd (spécifé dans /etc/drbd.d/drbd0.res)
Filesystem::/dev/drbd0::/mnt::ext4 = Nom de la partition drbd, point de montage et type de système de fichier.

Et pour finir nous allons créer le fichier authkeys. Ce fichier contient un clef partagé entre les deux serveurs. Cela peut être un mot de passe, ou un simple mot.
Voici le mien:

auth 3
3 md5 my-auth-key

Ce fichier la doit avoir les permissions 600. Donc sur les deux serveurs tapez:

chmod 600 /etc/ha.d/authkeys

Et voila tout est bon maintenant :)

Sur node1 démarrez Heartbeat avec la commande suivante:

/etc/init.d/heartbeat start

Patientez quelques seconde et faites sur node1 la commande drbd-overview et vérifiez si la partition /dev/drbd0 est bien montée dans /mnt/.
Vous pouvez aussi vérifier avec la commande ifconfig, vous verrez qu’une nouvelle interface eth0:0 a été créer avec l’adresse IP configuré dans le fichier haresources.

Maintenant sur node2 démarrez aussi heartbeat avec la commande:

/etc/init.d/heartbeat start

Et voila votre cluster DRBD est opérationnel.

Comment le tester?

Connectez vous si ce n’est pas déja fait en SSH sur les deux nodes.
Sur node2 tapez la commande suivante pour vérifier l’état de drbd en temps réel:

watch drbd-overview

Depuis node2 vous devriez voir cette ligne:

0:r0  Connected Secondary/Primary UpToDate/UpToDate C r-----

Cette ligne nous montre bien que node2 est secondary et que la partition DRBD n’est pas montée
Maintenant sur node1 on arrête Heartbeat avec la commande suivante:

/etc/init.d/heartbeat stop

Basculez tout de suite sur node2 et voyez que la ligne va devenir:

0:r0  Connected Primary/Secondary UpToDate/UpToDate C r----- /mnt ext4 7.9G 146M 7.4G 2%

Cela nous montre bien que node2 est devenu primaire et que la partition DRBD est bien monté. Vous pouvez aussi vérifier que l’ip de balancement est bien présente sur node2.

Maintenant on remet node1 en primaire en redémarrant Heartbeat avec la commande:

/etc/init.d/heartbeat start

Comme nous avons mis la valeur auto_failback off dans le fichier ha.cf node2 sera toujours en primaire. Il faut donc arreter HeartBeat sur node2 avec la commande:

/etc/init.d/heartbeat stop

Attendre que la parition DRBD soit remonté sur node1 et redémarrer HeartBeat sur node2.

/etc/init.d/heartbeat start

Maintenant que notre cluster DRBD est actif on va installer Apache, MySQL et PHP pour mettre en place un site hautement disponible.

Installation d’Apache et de PHP

On commence par installer Apache et PHP5 sur les deux nodes avec la commande:

apt-get install apache2 php5

Aprés l’installation d’Apache, nous allons désactiver sur les deux nodes le démarage automatique du service au lancement de la machine parce que c’est Heartbeat qui va gérer le lancement d’Apache.
Sur les deux nodes lancez donc la commande:

insserv -r apache2

Et arrêtez Apache sur node2 avec la commande:

/etc/init.d/apache2 stop

Sur le node1 nous allons créer dans /mnt/ un dossier www pour stocker les pages web. Dans ce dossier nous allons créer une page Web par défaut pour vérifier que le balancement fonctionne.

Sur node1 faites

mkdir /mnt/www

Puis dans ce dossier créez un fichier index.php avec le contenu suivant:

<?php
    echo "Un coucou de ".gethostname()."\n"
?>

Nous allons faire en sorte que le dossier des pages par défaut d’Apache soit /mnt/www au lieu de /var/www.
Comme je suis un faignant, je vais créer un lien symbolique de /var/www vers /mnt/www/

Sur les deux nodes faites les commandes suivantes:

rm -rvf /var/www/
ln -s /mnt/www/ /var/

Vous pouvez vérifier que le lien est fonctionnel avec la commande:

ls -la /var/www

Vous devriez voir cette ligne:

lrwxrwxrwx 1 root root 9 May 08 11:05 /var/www -> /mnt/www/

Maintenant nous allons configurer Heartbeat pour qu’il gère le démarrage automatique d’Apache.
Sur les deux nodes editez le fichier /etc/ha.d/haresources et rajoutez simplement apache2 à la fin de la ligne.

Vos fichiers /etc/ha.d/haresources devraient ressembler à ceci:

node1 IPaddr::192.168.2.100/eth0 drbddisk::r0 Filesystem::/dev/drbd0::/mnt::ext4 apache2

Rechargez le fichier de configuration Heartbeat sur les deux nodes avec la commande:

/etc/init.d/heartbeat reload

Nous allons vérifier si le balancement fonctionne bien.

Ouvrez un navigateur internet et connectez-vous à l’adresse IP balancé de votre Cluster DRBD/Apache.
Pour ma part l’ip est 192.168.2.100
Vous devriez voir une page avec le texte suivant: Un coucou de node1 si bien sur node1 est le node actif.
Si vous voyez bien cela arrêtez HeartBeat sur le node1, patientez quelques secondes et rechargez la page web. Maintenant le texte affiché devrait être Un coucou de node2.
Cool non? La page index.php qui nous avons mis dans « /mnt/www/ » nous affiche le hostname de la machine. Nous voyons donc bien que le balancement se fait bien entre les deux nodes de notre Cluster DRBD/Apache.
Pour finir relancez Heartbeat sur node1. Rechargez la page web et le texte Un coucou de node1 apparait de nouveau.
Sur node2 vous pouvez voir avec la commande /etc/init.d/apache2 status que le service Apache n’est pas démarré. Heartbeat démarre et arrète automatiquement le service Apache.

Maintenant nous allons installer MySQL

Installation de Mysql

On commence par installer MySQL Server sur les deux nodes avec la commande:

apt-get install mysql-server

Aprés l’installation de MySQL, nous allons désactiver sur les deux nodes le démarage automatique du service au lancement de la machine parce que c’est Heartbeat qui va gérer le lancement de MySQL.
Sur les deux nodes lancez donc la commande:

insserv -r mysql

Et arrêtez Mysql les deux nodes avec la commande:
/etc/init.d/mysql stop

Sur le node1 nous allons déplacer le dossier par défaut qui contient les bases de données dans /mnt/. Le dossier par défaut est le dossier /var/lib/mysql.

mv /var/lib/mysql/ /mnt/

Et on crée un lien symbolique de /mnt/mysql vers /var/lib/mysql.

ln -s /mnt/mysql/ /var/lib/

On fait la même chose avec le fichier debian.cnf, qui est dans /etc/mysql

mv /etc/mysql/debian.cnf /mnt/mysql/
ln -s /mnt/mysql/debian.cnf /etc/mysql/

Maintenant connectez vous sur node2 et tapez les commandes suivantes:

rm -rvf /var/lib/mysql/
rm -vf /etc/mysql/debian.cnf
ln -s /mnt/mysql/ /var/lib/
ln -s /mnt/mysql/debian.cnf /etc/mysql/

Maintenant sur node1, demarrez mysql avec la commande:

/etc/init.d/mysql start

Nous allons créer une base de donnée appelée testDrbd en ligne de commande:

root@node1:~# mysql -u root -p
Enter password: passowrd fournis à l'installation de mysql-server
Welcome to the MySQL monitor.  Commands end with ; or g.
Your MySQL connection id is 42
Server version: 5.5.33-0+wheezy1 (Debian)

Copyright (c) 2000, 2013, Oracle and/or its affiliates. All rights reserved.

Oracle is a registered trademark of Oracle Corporation and/or its
affiliates. Other names may be trademarks of their respective
owners.

Type 'help;' or 'h' for help. Type 'c' to clear the current input statement.

mysql> CREATE DATABASE testDrbd;
Query OK, 1 row affected (0.00 sec)

mysql> SHOW DATABASES;
+--------------------+
| Database           |
+--------------------+
| information_schema |
| mysql              |
| performance_schema |
| testDrbd            |
+--------------------+
4 rows in set (0.00 sec)

mysql> exit
Bye

Maintenant nous allons configurer Heartbeat sur les deux nodes pour demarrer automatiquement MySQL.
Editez le fichier /etc/ha.d/haresources et rajoutez mysql à la fin de la ligne comme ceci:

node1 IPaddr::192.168.2.100/24/eth0 drbddisk::r0 Filesystem::/dev/drbd0::/mnt::ext4 apache2 mysql

Rechargez le fichier de configuration Heartbeat sur les deux nodes avec la commande:

/etc/init.d/heartbeat reload

Maintenant nous allons voir si le balancement se fait bien.
Sur node1 stoppez Heartbeat avec la commande:

/etc/init.d/heartbeat stop

Allez sur node2 et vérifiez que:
– node2 est bien devenu le node primaire et que /dev/drbd0 est bien monté dans /mnt/

drbd-overview

– l’IP balancée est bien sur node2

ifconfig

– mysql est bien lancé sur node2

/etc/init.d/mysql status

Si tout ok, connectez vous au serveur mysql et vérifiez que la base de donnée est bien présente:

root@node2:~# mysql -u root -p
Enter password: passowrd fournis à l'installation de mysql-server
Welcome to the MySQL monitor.  Commands end with ; or g.
Your MySQL connection id is 45
Server version: 5.5.33-0+wheezy1 (Debian)

Copyright (c) 2000, 2013, Oracle and/or its affiliates. All rights reserved.

Oracle is a registered trademark of Oracle Corporation and/or its
affiliates. Other names may be trademarks of their respective
owners.

Type 'help;' or 'h' for help. Type 'c' to clear the current input statement.

mysql> SHOW DATABASES
+--------------------+
| Database           |
+--------------------+
| information_schema |
| mysql              |
| performance_schema |
| testDrbd           |
+--------------------+
4 rows in set (0.00 sec)

On vois bien que la base de donnée est bien présente :)

A partir de maintenant, vous avez un cluster Apache, PHP, MySQL Actif / Passif

ATTENTION: Si vos rajoutez des modules PHP ou Apache il faut les installer sur les deux nodes.

Vous pouvez aussi faire un lien symbolique de votre fichier php.ini vers votre parition DRBD si vous modifiez ce fichier.

J’espère que ce (long?) tutoriel vous a plus.