Fiber kanal uzun mesafe boşlukları


52

Yeni bir çift göze ihtiyacım var.

Üzerinde fibrechannel ve 10GbE'nin çoğaldığı (pasif optik CWDM) 15km'lik bir fiber optik hat kullanıyoruz. FC için 40 km'ye kadar uygun uzun mesafe lazerlere sahibiz ( Skylane SFCxx0404F0D ). Çoklayıcı, en fazlasını yapabilen SFP'ler ile sınırlıdır. 4 Gb fibrekannel. FC anahtarı bir Brocade 5000 serisidir. İlgili dalga boyları FC için 1550, 1570, 1590 ve 1610nm ve 10GbE için 1530nm'dir.

Sorun, 4GbFC kumaşların neredeyse hiç temiz olmamasıdır. Bazen bir süredir üzerinde çok fazla trafik olsa bile. Daha sonra aniden hatalara (RX CRC, RX kodlama, RX eşitsizlik, ...), üzerinde yalnızca marjinal trafik olmasına rağmen başlayabilirler. Bazı hata ve trafik grafikleri ekliyorum. 1Gb / s trafiğinde hatalar şu anda 5 dakikada 50-100 hata sırasına göre sıralanmıştır.


Optik

İşte özetlenen bir portun güç çıkışıdır ( sfpshowfarklı anahtarlar kullanılarak toplanmıştır )

SITE-A birimleri = uW (microwatt) SITE-B
**********************************************
Fab1
SW1 TX 1234.3 RX 49.1 SW3 1550nm (ko)
      RX 95.2 TX 1175.6
Fab2
SW2 TX 1422.0 RX 104.6 SW4 1610nm (tamam)
      RX 54.3 TX 1468.4      

Bu noktada merak ettiğim şey güç seviyelerindeki asimetri. SW2, SW4'ün 104uW ile aldığı 1422uW ile iletirken, SW2 yalnızca 54uW ile benzer orijinal güce sahip SW4 sinyalini alır.

SW1-3 için tam tersi.

Her neyse, SFP'ler -18dBm'ye (yaklaşık 20uW) kadar RX hassasiyetine sahiptir, bu yüzden her durumda iyi olmalı ... Ama hiçbir şey değil.

Bazı SFP'lerin üretici tarafından hatalı işlev gördüğü tespit edildi (yukarıda "ko" ile gösterilen 1550nm olanlar). Görünüşe göre 1610nm olanlar, bir trafik jeneratörü kullanılarak test edildiler. Kiralanan hat ayrıca bir kereden fazla test edilmiştir. Hepsi toleranslar dahilinde. Değişimleri bekliyorum ama nedense iyi görünenlerin de SIFIR hatalar üretmediğinden işleri daha iyi hale getireceğine inanmıyorum.

Daha önce, sinyali hatta vermeden önce aktif ekipman (bir çeşit 4GFC işlemcisi) vardı. Neden hiçbir fikrim yok. Bu ekipman sorunlardan dolayı elimine edildi, şimdi sadece biz varız:

  • Anahtardaki uzun mesafe lazeri,
  • (yeni) Mux'e 10m LC-SC monomode kablosu (her kumaş için),
  • kiralık hat
  • Aynı şey ama bağlantının diğer tarafında ters.


FC anahtarları

İşte Brocade'den bir port yapılandırma portcfgshow(her iki tarafta da olduğu gibi)

Alan Numarası: 0
Hız Seviyesi: 4G
Kelimeyi Doldur (Etkin Olarak) 0 (Boşta)
Kelimeyi Doldur (Geçerli) 0 (Boşta)
AL_PA Ofset 13: KAPALI
Trunk Port ON
Uzun Mesafe LS
VC Link Init KAPALI
İstenilen Mesafe 32 Km
Ayrılmış Tamponlar 70
Kilitli L_Port KAPALI
Kilitli G_Port OFF
Devre Dışı Bırakılmış E_Port OFF
Kilitli E_Port OFF
ISL R_RDY Modu KAPALI
Rscn kapalı bastırılmış
Kalıcı Devre Dışı Bırakma KAPALI
LOS TOV etkinleştirme KAPALI
NPIV yeteneği AÇIK
QOS E_Port OFF
Bağlantı Noktası Otomatik Devre Dışı Bırakma: KAPALI
Ücret Sınırı KAPALI
EX Bağlantı Noktası KAPALI
Ayna Bağlantı Noktası KAPALI
Kredi Geri Kazanımı Açık
F_Port Tamponları KAPALI
Hata Gecikmesi: 0 (R_A_TOV)
NPIV PP Sınırı: 126
CSCTL modu: KAPALI

Bağlantıları 2GbFC'ye zorlamak hata üretmez, ancak 4GbFC'yi satın aldık ve 4GbFC istiyoruz.

hata ve trafik grafikleri

Artık nereye bakacağımı bilmiyorum. Bundan sonra ne deneneceği veya nasıl devam edileceği hakkında bir fikriniz var mı?

4GbFC'nin güvenilir bir şekilde çalışmasını sağlayamazsak, 8 veya 16 ile çalışan kişilerin ne yaptığını merak ediyorum ... "Burada ve orada birkaç hata" nın kabul edilebilir olduğunu varsaymıyorum.

Oh ve BTW, üreticilerin herkesiyle iletişim halindeyiz (FC switch, MUX, SFP'ler, ...) SFP'lerin değiştirilmeleri dışında (bazıları daha önce değiştirilmiş), kimsenin bir ipucu yok. Brocade SAN Health, kumaşın iyi durumda olduğunu söyledi. MUX, pasif, sadece bir prizma, doğa en iyisi.

Karanlıkta çekim var mı?


EK: Sorularınıza cevaplar

@ Chopper3: Bu, sorunu gösteren ikinci nesil Brocades. 5000'li yaşımızdan önce, şimdi 5100'ümüz var. Hala aktif MUX'a sahip olduğumuzda, bir gün boyunca testler yapmak üzere doğrudan anahtara yerleştirmek için bir kez uzun ömürlü bir lazer kiraladık, o gün elbette temizdi. Ama dediğim gibi, bazen böyle temiz. Ve bazen değil. Alternatif anahtarlar SAN'ın tamamını yalnızca test edilecek olanlarla yeniden inşa etmek anlamına gelir. Alternatif SFP'ler, bunun gibi gelmek zor.

@longneck: Çizgi kiralanır. Koyu renkli bir elyaf (9um monomode), bu yüzden üzerinde başka kimse yok. Eklemelerin olduğundan emin olun. Gidemem ve bakamıyorum ama doğru yapıldığından emin olmalıyım. Dediğim gibi, hat kontrol edildi ve tekrar kontrol edildi (optik bir zaman-alan reflektometresi kullanarak). Açıkçası, bu ekipmanın hepsine sahip değilsin çünkü bu çok pahalı.

@mdpc: Size göre "yanlış" kablo türü ne olurdu? Anahtara kadar her şey monomod, evet. Konnektörler de doğru olanlar. Evet, fiberin belirli bir açıyla kesildiği yeşiller olduğunu biliyorum.


İlerleme Raporu # 1

FabricOS 6.4.1'de Brocade 5100'lerde iki kumaş (= 2x2 anahtar) ve FabricOS 6.4.1'de iki kumaş (2x4 anahtar) vardı.

Uzun ömürlü ISL'lerde (her kumaştan bir tane), FOS 6.4.1'in uzun mesafeye ayarlanması ile VC Init ayarı ve sonuç olarak doldurma kelimesi hakkında uyarılar yayınlandığı ortaya çıktı. Ancak bunlar sadece uyarılar. FOS 7.0.2 , VCI'da ve uzun mesafeli bağlantılar için dolgu kelimesinde değişiklikler yapmanızı gerektirir .

FOS 6.4.1’in LS’ye ayarlanması (uzun mesafeli statik mesafe) yanlış VCI ayarlı ve dolgu ayarı, tüm kumaşın çalışmamasına neden oldu (bir SCN döngüsünde sıkıştı, fabriclog -sgörmek için kullanın , başka hiçbir yerde göremezsiniz, bağlantı noktası hatası yok) Sayaçlar veya artan herhangi bir şey).

Şu anda IMHO'ya bir kumaşı daha doğru ayarlarla atıyorum ve atışı iyi yapıyor, diğer taraftan da fazla trafik çekmeyen diğerinin hala burada ve burada hataları var.

Progress1

Kısacası:

  • MUX’un (FC retimer) aktif bölümünü ortadan kaldırdık.
  • Uzun mesafeli SFP'leri son donanıma kendilerine ekliyoruz.
  • Sadece son ekipmanı MUX'un kalan pasif kısmına bağlamak için yeni monomode kabloları aldığımızdan emin olmak için.
  • Şimdi birkaç uzun mesafe konfigürasyonu deniyoruz.

Bu neredeyse kara büyü. Olan her şey çoğunlukla ampiriktir, kimsenin bir şey yapmanın kesin nedenleri neler olduğu konusunda bir ipucu yoktur. ("Bunu denedik ve işe yaramadı, sonra denedik ve işe yaradı, bu yüzden buna sıkıştık." Ama kimse nedenini bilmiyor gibi görünüyor.)

Seni bilgilendirmeye devam edeceğiz.


İlerleme Raporu # 2

Garantili kumaşlardan biri için yeni lazerleri aldık. 4GbFC'de bile ultra temiz.

Kabaca 2mW (3dBm) ile iletiyorlar, oysa diğerleri sadece 1.5mW'da (1.5dBm) olmasına rağmen bu gerçekten yeterli olmalı.

Diğer kumaşlar (lazerlerin görünüşe göre uygun olduğu yerlerde) hala nadiren bir veya iki CRC üretmektedir.

Kullanımı sfpshowfiili RX hataları gösterileri üreten SFP

Durum / Ctrl: 0x82
Alarm bayrakları [0,1] = 0x5, 0x40
Bayrakları Uyar [0,1] = 0x5, 0x40

Şimdi bunun ne anlama geldiğini öğrenmem gerekecek. Daha önce orada olup olmadığından emin değilim.

İlk önce bir hafta tatil ile başımı temizleyeceğim. 8-)


8
Her şeyden önce, harika bir soru, tam olarak bu site için ne, aferin. İkincisi, alternatif anahtarlara / SFP'lere erişebiliyor musunuz - ideal olarak test etmek için değiştirebileceğiniz başka bir marka / model?
Chopper3

4
Müthiş güncelleme, iyi çalışmaya devam et, bazı önerilerim veya tavsiyem olsaydı, ama doğru yoldasın, SF’de eşyalarını bilen yeni bir kullanıcı bulmak güzeldi :)
Chopper3

1
Hataların süresinde veya süresinde herhangi bir tutarlılık var mı? Her zaman N saatte oluşurlar mı? Her zaman X dakika sürer mi? Onları hava durumu, yakındaki spor olayları veya diğer fenomenlerle ilişkilendirebilir misiniz? Aralıklı sorunlar, ezilmesi en zor böceklerdir ve genellikle bir beyaz tahta üzerinde meydana geldikleri zamanları ve süreleri grafik olarak göstererek onlara saldırmaya başlarım. Umarım diğer fenomenlerle ilişkilendirilebilecek olan bilmece ortaya çıkar .
dotancohen

2
Onları herkesin görebileceği bir beyaz tahtada mı izliyorsunuz ? Basmayacağım, ama kesinlikle tavsiye ederim. Söylediğin gibi, yeni bir çift göze ihtiyacın var ve belki de organizasyonundaki birileri modelin zaman / sürelerden ortaya çıktığını görecek ve mutlaka belirtilerden değil.
dotancohen

1
Selam Marki. Ne hakkında konuştuğunuzu tam olarak bilmiyorum, ancak son güncellemenizde sorun yeni SFP'ler tarafından giderilmiş gibi görünüyor? Eğer öyleyse, muhtemelen bunu bir cevap olarak göndermek ve daha fazla sorun yaşarsanız yeni bir soru sormak iyi bir fikirdir.
Mark Henderson

Yanıtlar:


4

Tamam, sanırım bir cevap göndermem gerekiyor. Tek kelimeyle: ısrar ediyor .

Yine de sporadik olarak 1 (bir) CRC hatası olan bir kumaşımız olduğu için sorun benim beğenime göre% 100 çözülmedi. Diğeri temiz. Ama bununla yaşayabilirim.

Her durumda, CWDM ünitelerini çok uzun bir süre kullanmaya devam etmeyeceğiz, ancak altyapımızın çok değişeceği için gelecek yıl pasif bir DWDM çoklayıcıya geçeceğiz. Anlaşılan DWDM lazerleri de CWDM'lere göre daha ucuz. Oh göreceğiz ve belki size sormak için çok sorun yaşayacağım :-)


Nope'u yukarıdakilere güncelleyin , tekrar CWDM'yi satın aldık ve bu gerçekten daha ucuz. Ancak bazı uygulamalar için AFAICS, DWDM'ye gitmeniz gerekir çünkü bunun için CWDM lazerleri yoktur. Sonunda üreticiye elimizden geldiğince yaklaşmaya çalıştık ve her şey bir distribütörden veya hatta bir entegratörden satın almaya kıyasla fiyatın 1 / 5'i kadar geldi.


Böylece, beklendiği gibi çalışmayan bir çözüm satın aldıysanız, ısrar edebilirim. Teknik tarafta iki şey yaptık.

  • MUX'un aktif kısmını kaldırın (pişman olduğumu söyleyemem, ama sonunda bunun başka bir hata kaynağı olup olmadığından da emin değilim)
  • SFP'leri iyice kontrol ettirin

(Ve tabii ki tüm standart teşhisler, bir kerede bir şeyi değiştiriniz, ne olduğunu görün vb. Görelim, size bunu söylememize gerek yok. Bu yüzden, her bir hattı ve kabloyu da kontrol ettik, ne yazık ki bizim pahasına.)

Bu durumda uzun süre ısrar etti ama nihayet üreticinin kendisine yardım eden kontrolleri yapmak için birkaç kişiyi ve bazı ekipmanlarını ayırdığı seviyeye ulaştık. Ve elbette, donanımımız bakım altında olduğundan entegratöre bunu ödedik. Yani bu, teknik bir zorluk kadar ticari bir zorluktu.

PS. Ve son güncellememde bahsettiğim bayraklar kötü bir şey ifade etmiyordu, ama tam olarak ne anlama geldiklerini hatırlamıyorum. İfadeyi bulduğumda bütünlük uğruna cevabı güncelleyeceğim.


Sonunda, bayraklar sonuçta kötü bir şey ifade ediyordu. Görünüşe göre, bağlantının hangi tarafının hatalara sebep olduğu kesin değildir. Bu yüzden o çift de değişmiş olmalı.

Oh ve BTW, 8GbFC DWDM alıcı-vericileri 8G CWDM'ye kıyasla sadece daha ucuz ;-) Gitmenin en ucuz yolu CWDM'de 4GbFC ve sonra ISL kanalını kullanmak (eğer lisansınız varsa)


Sorulduğunda maalesef bunu görmedim. Bunun size yardımcı olacağını kesin olarak söyleyemem, ama boşta boşta doldurma kelimeleri kullanıyorsanız, çok fazla ışık gönderiyorsunuz. Bu, kullanılmayan her bir çerçevenin çok fazla güç çekeceği ve SFP'de çok fazla ısı ürettiği anlamına geliyor. Doldurma kelimesini başka bir moda getirme (mod 3'ü kullanıyorum, ancak farklı bir anahtar ve SFP'ye sahibim) daha az hatayla daha fazla işlem yapmanıza izin verebilir.
Basil

@Basil 8GFC'de doğru dolgu kelimesini kullanmanın kelime senkronizasyonu için bir sorun olduğunu biliyordum ama bu şekilde düşündüm ...
Marki

Kullanabildiğiniz zaman, tavsiye edebileceğim kadarıyla, boş bir çerçevenin SFP'sinin ne kadar parazit yarattığını sorması tavsiye edilir.
Fesleğen
Sitemizi kullandığınızda şunları okuyup anladığınızı kabul etmiş olursunuz: Çerez Politikası ve Gizlilik Politikası.
Licensed under cc by-sa 3.0 with attribution required.