Hitachi Storage Üzerinde Volume Oluşturup Debian Linux Sunucuya Bağlama

Bilal Yaşar
Sahibinden Technology
7 min readJan 3, 2023

sahibinden.com ailesi olarak, birden fazla storage ürünü kullanıyoruz. Bu storage ürün firmalari ise Hitachi, HPE 3PAR, PURE ve Netapp olarak ayrılıyor.

Bunlardan biri ise, kullanım amacı olarak Cold Storage dediğimiz, Veri tipi olarak Backup’ları üzerinde tuttuğumuz 2024 yılı için ise End Of Life olacak Hitachi Storage ( G200 ) . Bu storage üzerinde pek işlem yapmıyoruz ama bir deneme yapıp disk bağlama testi gerçekleştirdim.

Bu storage üzerinde bir volume oluşturup, IQN ( iSCSI Qualified Name) ayarlarını girip, linux sunucuya bağlamak için multipath iscsi ayarlarını yapıp, storage üzerinde ki volume ile sunucuyu bağlayacağız.

Çeşitli adımlar hemen her storage üzerinde aynı mantıkla devam etmekte olup Hitachi ile ilgili arşive geçeçek bir yazı olsun istedim. Bu adımlar hemen her storage ve linux ürününde aynı olmakla birlikte uygulama adımları Debian sistemlerde 10–11 de farklılık göstermektedir. İşlemimiz Debian 11 üzerinde gerçekleştirilmiştir.

Not: Güvenlik amaçlı ekran resimlerinde çoğu yer gizlenmiştir. Makalede gizlenen yerlerin formatı ve açıklaması yapılmıştır.

1- Storage Uzerinde iqn ayarları ve iqn oluşturma

2- LDEV Volume Oluşturma

3- Debian 11 de paket yukleme

4- Iscsi Multipath Ayarları

5- Fstab’a yazma Ve Mount

1- Storage Uzerinde İqn ayarları ve iqn oluşturma

Storage’mızın temel ayarları yapılmış ve iqn tanımı sabit diye varsayım yapıyoruz.

a – Sağ alt menüde “CREATE ISCSI TARGETS” seçeneğine tıklanılır.

b- ADD NEW HOST

CREATE ISCSI TARGETS seçeneğine tıkladıktan sonra Yeni sunucu oluşturacağımız için AVAİLABLE HOST altında bulunan ADD NEW HOST butonuna tıklanılarak yeni sunucunun ismi ve Domain name tanımında IQN oluşturulur. Hitachini bir özelliği iqn.domainname.xxx değilde domainname.xxx diye tanımlama yapılır.

Oluşan IQN ISCSI TARGET NAME yanında ekranda görülebilir :)

ISCSI targetname ise “yyyy:mm:dd.domainname.:ostype:hostname” tarzında oluşturulabilir.

c- AVAILABLE PORT

Available Host seçili halde ve Oluşturulan iqn 8 Porttan haberleşmesi için AVAILABLE PORTS kısmından checkboxlar seçilir. ADD diyerek SELECTED ISCSI TARGETS kısmına eklenir. Next sekmesine tıklanılarak bize Hitachi’nin meşhur her şeyi task ile yapan sekmesine bir adım daha yaklaştırır.

Portlar:

CL1-A debiantest11 iqn.yyyy-mm-dd.sahibinden.com:hostna
CL2-A
CL3-A
CL4-A
CL1-B
CL2-B
CL3-B
CL4-B

d — Daha sonra Apply diyerek ve ardından biraz da bekleyerek ISCSI TARGET’larımız oluşturulur.

2- LDEV Volume Oluşturma

a- CREATE LDEV kısmına tıklanılır.

Çıkan ekran incelenir, Bu ekranda LDEV ismimiz ve TİER ile ilgli politikamız ve Disk boyutu girebiliyoruz.

b- LDEV AYARLARI

LDEV ayarlarında LDEV ismi sayısı ve Boyutu girilebilir. Burda dikkat edilmesi gereken nokta TIERING POLICY seçeneğidir. Bu seçenek daha önce policy kısmında tanımlanmıştır. ADD butonuna tıklanıldıktan sonra Next butonuna tıklanılır.

c- Oluşturulan LDEV’ miz sağ tarafa ekli olarak gelir ve tiklenerek Next butonuna tıklanılır.

d- AVAILABLE ISCSI TARGET EKLEME

Sol tarafta bulunan sunucumuzun ISCSI targetları 8 port id’si ile seçilerek ADD diyerek sağ kısma eklendiği görülür.

e- SELECTED ISCSI TARGET

f- LDEV seçilerek LUN pathleri otomatik eklenir

LDEV oluşturulmaya hazır artık APPLY diyerek LDEV’i oluşturabiliriz.

Apply’e tıkladıktan sonra sunucu tarafında işlemlerimiz bitmiş bulunuyor. Task arka planda çalışıp LDEV oluşacaktır. Artık sunucu tarafına geçip ISCSI ve MULTIPATH ayarlarını yapabilir diski bağlayabiliriz.

Sunucu üzerinde çalışmalar: Çalışma Debian — 11 linux dağıtımında gerçekleşmiştir. Öncelikli olarak gerekli paketleri yüklüyoruz. Paketleri yüklemeden çok kısa açıklama

Multipath Nedir: Multipath SAN (Storage Area Network) ortamlarında sunucular HBA (Host Bus Adaptor) kartı, SAN switch, Storage controller gibi bileşenlerden biri arızalansa bile SAN disklere erişimin devam etmesini sağlayan teknolojidir. ( 1 )

ISCSI Nedir: ISCSI, IP network üzerinden disk ekleme işlemidir.
Server üzerinde bulunan bir disk’i, storage üzerindeki LUN veya ip tabanlı cloud diskleri (tabi ISCSI desteği varsa) istenilen başka yerde bulunan bir servera sanal disk diye ekleyip (mount), server’ın kendi diskiymiş gibi kullanabiliriz. ( 2 )

3 — Paket kurulması:

apt-get install multipath-tools open-iscsi

multipath -t ile desteklenen cihazlar görülebilir. Biz de bulunan bir template dosyası sayesinde kopyala yapıstır yaparak multipath ile hitachi diskimize ait olacak olan multipath.conf dosyasını düzenleyebiliyoruz.

4- ISCSI MULTIPATH AYARLARI

IQN DUZENLEME : İscsi paketi tarafından initiatorname kısmında iqn numarası düzenlenir.

cat /etc/iscsi/initiatorname.iscsi diyerek iqn görüntülenir. vi-m nano ile düzenlenebilir.

InitiatorName=iqn.yyyy-mm-dd.domainname.com:lnx:hostname

vi /etc/multipath.conf diyerek aşağıdaki metin yapıştırılabilir.

Bu conf’a storage için tanımlı cihaz ayarları multipath -t denılerek görülebilir. Kullanılan cihaz markasının ayarı conf dosyasına yazılır.

multipath -t # ile desteklenen cihazlara bakabiliriz.
defaults {
polling_interval 10
user_friendly_names yes
max_fds max
flush_on_last_del yes
queue_without_daemon no
}
blacklist {
devnode "^(ram|raw|loop|fd|md|dm-|sr|scd|st)[0-9]*"
devnode "^hd[a-z]"
devnode "^xvd[a-z]"
devnode "^cciss.*"
devnode "^hda"
devnode "cciss.*"
}

devices {
device {
vendor "HITACHI|HP"
product "OPEN-.*"
path_grouping_policy "multibus"
path_checker "tur"
features "0"
hardware_handler "0"
prio "const"
rr_weight "uniform"
}

}

multipaths {

multipath {
wwid 000000000000000000000
alias blablabla
}
}

Yukardaki WWID değeri taslaktir. Bu değeri ISCSI ayarlarından sonra diski bağladığımız zaman disk id’si ile değiştireceğiz.

Daha sonra ISCSI ile login olmak için rescan yapacağız ama ilk aşamada iscsi oturumlarına ( sessionlarına ) giriş (login) yapılmasıgerekiyor.

iscsiadm -m node -T iqn.yyyy-mm-dd.domainname.com:lnx:hostname  -p sendtargetip:port -l
iscsiadm -m node -T iqn.yyyy-mm-dd.domainname.com:lnx:hostname -p sendtargetip:port -l
iscsiadm -m node -T iqn.yyyy-mm-dd.domainname.com:lnx:hostname -p sendtargetip:port -l
iscsiadm -m node -T iqn.yyyy-mm-dd.domainname.com:lnx:hostname -p sendtargetip7port -l
iscsiadm -m node -T iqn.yyyy-mm-dd.domainname.com:lnx:hostname -p sendtargetip:port -l
iscsiadm -m node -T iqn.yyyy-mm-dd.domainname.com:lnx:hostname -p sendtargetip:port -l
iscsiadm -m node -T iqn.yyyy-mm-dd.domainname.com:lnx:hostname -p sendtargetip:port -l
iscsiadm -m node -T iqn.yyyy-mm-dd.domainname.com:lnx:hostname -p sendtargetip:port -l
iscsiadm -m node -T iqn.yyyy-mm-dd.domainname.com:lnx:hostname -p sendtargetip:port -l
iscsiadm -m node -T iqn.yyyy-mm-dd.domainname.com:lnx:hostname -p sendtargetip:port -l
iscsiadm -m node -T iqn.yyyy-mm-dd.domainname.com:lnx:hostname -p sendtargetip:port -l

ISCSI oturumlarını keşfetmek için rescan lazım. iscsiadm ile yapıyoruz.

Login olduktan sonraki Her adımda lsblk ve df -hT diyerek kontrollerimizi yapmalıyız.

Not : Eğer sessionlara login olunamıyor ise iscsi iplerini kontrol edilmesi lazım. Ve Network olarak bu portlara erişim var mı bunun kontrol edilmesi elzemdir.

iscsiadm -m session - rescan

Daha sonra login kontrolu şöyle yapılabilir.

iscsiadm -m session # sessionlar gorulebilir
iscsiadm -m node -L all # login kontrolu yapılabilir

Çıktısı :

iscsiadm: default: 1 session requested, but 1 already present

ise doğru yoldayız demektir.

Daha sonra sunucu ISCSI ile login olduktan sonra iscsi restart edilir. Durumu kontrol edilir.

# systemctl stop multipathd.service
systemctl restart open-iscsi.service
systemctl status open-iscsi.service

Multipath ayarlarına geçip artık disk ile etkileşimi başlatabiliriz.

WWID Nasıl Bulunur ?

multipath -ll komutu ile bulabiliriz. Bu komut çıktı vermez ise aşağıda bulunan 2.komutu kullanabiliriz.

multipath -ll
/lib/udev/scsi_id -g -u /dev/disk/by-id/scsi-SHITACHI...

Eğer WWID gelmez ise ISCSI ve multipath servisi tekrar restart edilir.

systemctl restart open-iscsi.service 
systemctl status open-iscsi.service

systemctl restart multipathd.service
systemctl status multipathd.service

Bulunan WWID /etc/multipath.conf dosyasına alias verilerek ve /etc/multipath/wwids direkt yazılır. Alias verilmesi diske isim vermek gibi düşünülebilir. Aşağıda bulunan satırlarda WWID ve alias düzenlenebilir. Düzenledikten sonra multipath servisi aliasi tanıması için restart edilir.

/etc/multipath.conf

multipaths {

multipath {
wwid 360060e80124f620050404f6200000082
alias Hitachi-debiantest05-data1
}
}

Hitachinin bir özelliğidir WWID nin aşağıdaki şekilde dosyaya da yazılması lazımdır.

cat /etc/multipath/wwids

# Multipath wwids, Version : 1.0
# NOTE: This file is automatically maintained by multipath and multipathd.
# You should not need to edit this file in normal circumstances.
#
# Valid WWIDs:
/360060e80124f620050404f6200000082/

Multipath servislerini restart etmek için bu komutlar çalıştırılır.

# systemctl stop multipathd.service
systemctl restart multipathd.service
systemctl status multipathd.service

Multipath restart olduktan sonra

multipathd -k diyerek çıkan ekrana “reconfigure” yazılıp “ok” göründükten sonra exit yazılarak çıkılır.

Multipath servisleri gelmez ise tekrar restart edilebilir.

Artık diskimiz hazır.

Disk formatlayıp işlemlere devam edebiliriz. diski xfs formatlamış bulunduk. Diskimiz kullanıma hazır.

mkfs.xfs /dev/mapper/Hitachi-debiantest05-data1

5 — FSTAB’a yazma ve Mount :

Daha sonra diski açılışta kalıcı hale gelmesi için fstaba yazmamız lazım.

mkdir /mnt/test

klasoru olusturduktan sonra fstaba aşağıdaki satır eklebilir.


/dev/mapper/Hitachi-debiantest05-data1 /mnt/test xfs defaults,_netdev 0 0

Artık diskimizi mount ederek Kullanıma hazır hale getirebiliriz.

mount -a

Bu komut çıktı verirse mount olmuyor demektir. Çıktı ve ya Hata alırsanız İşlem adımlarını kontrol etmenizde fayda var.

Bu yazımda Hitachi storage için gerekli incelemeleri yaptım Hemen hemen her storage ürünü bu tarz ISCSI ve multipath ayarlamaları ile kullanılıyor ve Terminoloji genel olarak aynı, sadece storage ürünlerinin kullanım arayüzleri ve yapılandırmalarının farklı olduğunu belirtmek isterim.

Bir başka yazıda görüşmek üzere.

Kaynaklar

0 — Ben ve sahibinden.com üzerinde bulunan test Ortamı :)

1- http://www.mustafabektastepe.com/2017/02/08/multipath-nedir-linux-isletim-sistemlerinde-multipath-yapilandirmasi/

2- https://mtnprlk.medium.com/iscsi-nedir-f331ac7dd6d6

--

--