【Storage】VMware 5.1からSRPなデータストアを使う 
前回までのあらすじ

 無事にSRPターゲットの起動に成功したら、どんな人でもおそらくVMwareからこれを使いたいと考えるでだろう。VMware 4.xにはSRPイニシエータがあり、これからSRPなデータストアに繋ぐことが出来たので、Supported DeviceにあるConnectX2を買えばSRPが使える!と思っていた。
 しかし、去年の後半くらいからIBを触っていき、色々調べているうちに5系になってからVMware用SRPイニシエータが配布さていないことを知り、IBを使うには10GとしてiSCSIで繋ぐしかないことを知って絶望する。SRPの良さを知ってからこの事に気がついたので、知ったときはときはマジかよ…と結構落ち込んだ。
 一応、iSCSI over IPoIBがどの程度のパフォーマンスが出るのか調べてみると、ConnectedMode(MTU 65520)が使えないので10GbEなIBのMPIOx2(20Gbリンク)でさえ5GB/s(4-5Gbps)程度しか出ないらしい。Oh…
http://communities.vmware.com/thread/39 ... p;tstart=0

if anyone in Mellanox wants IB to get market acceptance then they should support this crap! (Mellanoxの中にIBのシェアを上げたいやつがるいならこのクズをどうにかしろ!)


 全くです…

 はっきり言って、全く使い物にならないといってもいいレベルのサポート状況にうちひしがれていた中、ある情報が届く。



 キター!ConnectX2が来たら本気出す!
 そして、ようやくConnectX2が来たので試してみたのであった…


 ConnectX2はもっと前からあったのですが、 前回 無事にSRPターゲットが使えるようになったので、VMwareから接続し、どの程度パフォーマンスが出るのか試してみました。

もっと読む...

[ 3 コメント ] ( 3483 回表示 )   |  このエントリーのURL  |  $star_image$star_image$star_image$star_image$star_image ( 2.8 / 611 )  |  
【Storage】ZFSOnLinux +LIO SRPを試してみた 
前回までのあらすじ


SRPによる「ぼくのかんがえたさいきょうのすとれーじ」構想を実現するべく、様々な検証をした結果、どうやらSCSTとSRPそのものは問題なさそうだという結論が出つつあった。そして、ストレージサーバにSCSTカーネルを入れようと計画していて、あることに気がつく。SCSTカーネルだとZFS on LinuxのネイティブZFSのconfigureが通らない。どうにか動かそうと1日は頑張ったが、結局心が折れ、挫折した。

( ◠‿◠ )<ザコめ (◞‸◟)

しかし、調べてみるとib_srptモジュールがlinux kernel3.3くらいから(あいまい)マージせれたらしく、それがあればLIOからSRPがしゃべれるらしい。
debianには3.2以降のカーネルは公式にはないが、(カーネル的な意味で)一歩先を行くubuntu server が12.04ではデフォルトで3.5なので、試しにUbuntu serverを入れてmodinfoをしてみると、確かにib_srptモジュールはある。そして、ZFSのパッケージもあり、3.5カーネルの上でZFSもうごいた。もしかしたら、これならZFSとSRPもいけるのでは--?

---そして、再び格闘が始まった---


前置きが長くなりましたが、だいたいこんな感じです。2ヶ月くらい前からやろうやろうと思いつつ何もしていませんでしたが、どうにか動いたのでメモとして残します。両方ともまだ実績のないいろんな意味でとんがった構成ですがどうなるか…。。
もっと読む...

[ 1 コメント ] ( 3324 回表示 )   |  このエントリーのURL  |  $star_image$star_image$star_image$star_image$star_image ( 3.1 / 483 )  |  
【その他】IBをまとめて入れてみた 



 大した内容ではないのですが、IBのスイッチが入り、DDRなHBAとケーブルが安価にまとまった量入ったので、ファイルサーバー等のやりとり用の裏LAN的なものを3月上旬頃にIBに置き換えてみました。
 通常ではあまり実感がないですが、やはりVMイメージの転送をするときなど、ディスクの束からディスクの束へのファイルのやりとりはかなり速くなりました。ただOFED入れてIPoIPを有効にし、ConnectedModeにしてMTUを65520にしただけで大体Win7->Debian Sambaへの転送が大きいファイルであれば4Gbps程度でます。ディスクネックですが。

 ただ、DDRとはいえInfinihostIIIレベルだとDDRとSDRの違いはぶっちゃけ大してないので、実はスイッチもSDRでも十分だったのではないかとは少し思います。ConnectX以降のHBAを使わないとDDRを実感するには一歩足りないです。お金があるのであればQDRであろうがFDRであろうが気にせずにIYHするんですがねえ…。
 SDRであればもうかなり値が下がっているので、それをストレージなどの裏LAN用10Gインターフェースとして使うのは使ってみた限りでは結構ありだと思います。OSによってはドライバに悩まされることはありますが…。

 問題は、ケーブルがカオスなことになりやすいことですね。最初は短すぎるよりもある程度長い方がいいだろうと3mのケーブルを使おうとしたのですが、CX4ケーブルはそれなりに固い(物によってはサーバー用のACケーブルくらい)ので、くるくる巻いておこうと思っていたらうわぁぁなことになりました。
 世代によっては細くなっていたりしますが、根本的な解決にはなっていません。これを見るとファイバーなQSFPがうらやましいなあとか思ってしまいます。

 本当は色々やりたいことはたくさんあるのですが、現在はWin7とLinux間ののSMB接続とストレージサーバーのスナップショットを投げるためのインターフェースとしてしか使えていません。色々試したいなあと思いつつも時間が…

という、近況報告を兼ねたチラシの裏でした。


[ コメントを書く ] ( 365 回表示 )   |  このエントリーのURL  |  $star_image$star_image$star_image$star_image$star_image ( 3.1 / 436 )  |  
【HW】Intel Pro/10GbE LRを試してみた 
 今年の年始くらいに某氏に「PCI-Xを持ってる板ないからどのくらい出るか試して」とIntel Pro/10G LRを借りたのですが、あとでやろうと思いつつ放置していました。忘れつつあったものの、ふとカードを見て興味がわいたのでiperfを試してみました。

 今回試したカードはこれです。
http://ascii.jp/elem/000/000/344/344586/
 これはSRですが、手元にあるのはLR版です。



もっと読む...

[ コメントを書く ] ( 3561 回表示 )   |  このエントリーのURL  |  $star_image$star_image$star_image$star_image$star_image ( 3 / 585 )  |  
【その他】近況報告 
 あけましておめでとうございました。いまさらですね。
 新年早々全く更新しないというのもアレなので、ここ最近増えたおもちゃを載せてごまかそうと思います。勤務先が変わって朝が早くなったので、帰ってきたら眠くなり書く気力がわかなかったり時間があればゲームに忙しくて()なかなか更新せずいました。仕方ないね。




もっと読む...

[ 2 コメント ] ( 229 回表示 )   |  このエントリーのURL  |  $star_image$star_image$star_image$star_image$star_image ( 3 / 592 )  |  

<<最初へ <戻る | 3 | 4 | 5 | 6 | 7 | 8 | 9 | 10 | 11 | 12 | 進む> 最後へ>>