GlusterFS TL - Togetter
Twitterのつぶやきマッシュアップメディア!
@togetter_jpをフォロー
マイページ
メニュー
設定
ログイン
トップ
ニュース
社会
地域
芸能・スポーツ
IT・Web
科学・教養
カルチャー
趣味
生活
仕事
ネタ・お笑い
ログ・日記
震災
311
大喜利
支援物資
国会事故調
支援
生活保護
岩上安身
速報
国内
アジア
アメリカ
ヨーロッパ
その他
政治
経済
国際
法律
環境
コラム
東京
東京近郊
北海道
東北
関東
北陸・信越
東海
近畿
中国・四国
九州・沖縄
海外
芸能
テレビ
ラジオ
野球
サッカー
ゴルフ
格闘技
競馬
モータースポーツ
その他
Android
Apple
インターネット
パソコン
モバイル
ガジェット
サイト制作
プログラミング
その他
科学
テクノロジー
エネルギー
数学
物理
宇宙
自然
人文
建築
心理
その他
アニメ
ゲーム
マンガ
アイドル
映画
音楽
書籍
演劇
ファッション
社会学
カメラ
車・バイク
電車
旅行
釣り
歴史
アート
デザイン
動物
その他
ハウツー
レシピ
グルメ
恋愛
マネー
節約
健康・医療
教育
ペット
起業・ベンチャー
経営
マーケティング
会計・人事
法務
就職・転職
語学・資格
ネタ
お笑い
大喜利
画像・動画
やってみた
その他
ログ
日記
思い出
雑談
メモ
飲み会
議事録
イベント
セミナー
復興
原発
支援
政府
自治体
トップ
>
科学・教養
>
テクノロジー
> GlusterFS TL
2011/07/20 20:07:37
科学・教養
テクノロジー
+
GlusterFS TL
2011-07-20 に発生した GlusterFS TL とその周辺
by
frsyuki
14 fav
2862 view
Fav
14
お気に入りに登録ならここをクリック!
まとめ
メニューを開く
一括削除
ぇGlusterFSで分散ファイルシステムを構成してDRBDいらずにするとかそういう?
返信する
RTする
ふぁぼる
frsyuki
2011/07/20 17:53:58
と言うか今気付いたけど、HDFSの代わりにGlusterFSって結構アリなんじゃないか…
返信する
RTする
ふぁぼる
frsyuki
2011/07/20 17:56:08
@frsyuki
Glusterは、Block単位の書込み分散じゃないから、その辺が、辛くなんないすか? 大規模向の格納形式でも、sparse fileでの、分散書込み、だったし。3.1だけど。
返信する
RTする
ふぁぼる
Guutara
2011/07/20 18:01:30
[緩募] GlusterFSのメタデータ保持方法のドキュメント
#hadoop_unconf_jp
返信する
RTする
ふぁぼる
kzk_mover
2011/07/20 18:01:37
@frsyuki
ありですよ!
返信する
RTする
ふぁぼる
doryokujin
2011/07/20 17:59:21
ただSPOFが無いところと管理のしやすさ、扱いやすさでGlusterFSはかなりイケてる。もっとちゃんと挙動を把握しておかないと…
返信する
RTする
ふぁぼる
doryokujin
2011/07/18 02:23:16
@disktnk
かなり色んな使い道があるのですが、僕は20GB以下の非バッチのIn-memoryデータ集計時に自前のMapReduceを書いているんですが、そこでGlusterFSとRedisを使っています。キュー的な使い方とグローバル共有メモリ空間としてアグリゲーション的な
返信する
RTする
ふぁぼる
doryokujin
2011/07/16 03:48:26
@doryokujin
小さいファイルの扱いがうまいと、ptail的なものを作るときに嬉しい…!
返信する
RTする
ふぁぼる
frsyuki
2011/07/20 18:02:00
@doryokujin
@frsyuki
そんなうまい話があるんでしょうか…
返信する
RTする
ふぁぼる
kzk_mover
2011/07/20 18:03:53
@frsyuki
@kzk_mover
小さいファイルの扱いとか、InputFormatとか、実は結構難しいところがあると思ってますー。僕は到着してビール飲んでますのでまた後でー!
返信する
RTする
ふぁぼる
doryokujin
2011/07/20 18:10:44
GlusterFS、Lustreの勉強会ないかなー もう普通に採用されている目新しさないからかなー
@thatsdone
Glusters ってのもありますよ。:) RT
@understeer
: LustreサイトのフッタにOracleのロゴがあって萎えた
#hbstudy
返信する
RTする
ふぁぼる
kimotuki
2011/06/17 20:52:25
@Guutara
それはありそうです。巨大ファイルはHDFSに乗せた方が良さそうで、小さいめだが数が多いデータを扱いたいときに、上にミドルウェアを被せて何とかするFacebook方式を採らざるをえないところを、GlusterFSでごまかせるのではないかと、ほのかに期待…。
返信する
RTする
ふぁぼる
frsyuki
2011/07/20 18:05:40
@frsyuki
小さいファイルに、限定するなら、面白いかもしれない。Gluster 3.1 を、テストした感じでは、あのクラスタノードの考え方は、メモリ型の分散DBなどで、採用されている、P2Pのクラスタの考えだと、思う。 (続く
返信する
RTする
ふぁぼる
Guutara
2011/07/20 18:13:03
GlusterFSのストライピングの実装は謎だけど、基本的には各ノードのファイルシステムに生でファイルを置く + 謎のメタデータ管理というイメージ。その謎のメタデータ管理がキモなのだけども。
返信する
RTする
ふぁぼる
frsyuki
2011/07/20 18:08:17
GlusterとHadoopのようなデータインテンシブなところとどれくらい相性がいいのかがわかってないです。 RT
@frsyuki
:
@Guutara
それはありそうです。巨大ファイルはHDFSに乗せた方が良さそうで、小さいめだが数が多いデータを扱いたいときに、上にミドル...
返信する
RTする
ふぁぼる
shot6
2011/07/20 18:08:45
メタデータは無いらしい。ハッシュベースの分散か。E"lastic Hash" がポイントらしいが…まぁ普通のハッシュでしょう。偏りそうだな。
返信する
RTする
ふぁぼる
frsyuki
2011/07/20 18:15:17
TL上でGluster話が進んでいて非常に興味深い。こっそり傍観。
返信する
RTする
ふぁぼる
k1LoW
2011/07/20 18:45:15
@frsyuki
全てのノードが、ピアを、張っている、全てのクラスタノードと、交信していて、各々のノードに着いたHash Keyと、ロジックで、分散を、実現している。その為、ファイルのメタデータは、基本的に、存在してない。
返信する
RTする
ふぁぼる
Guutara
2011/07/20 18:15:03
@Guutara
なるほど。確かにwhitepaperを読む限りでも、そんな感じですね
返信する
RTする
ふぁぼる
frsyuki
2011/07/20 18:15:51
となると、稼働中にノードを足すとか復旧させる挙動が基本的に危ないハズで、そこがうまく動けば実装はシンプルなハズだな。あとは偏りを制御できれば普通に使えそう。
返信する
RTする
ふぁぼる
frsyuki
2011/07/20 18:18:10
@frsyuki
敢えていえば、ノードのHash Keyと、NetWorkのアドレス、クラスタで、作成したVOLの情報などが、メタデータ。同じものを、全てのクラスタノードが、保持している。
返信する
RTする
ふぁぼる
Guutara
2011/07/20 18:16:01
@Guutara
なるほど。シンプルなんですね。ノードを追加/復旧させる挙動が危なそう…
返信する
RTする
ふぁぼる
frsyuki
2011/07/20 18:18:43
@frsyuki
@Guutara
そのタイミングでクライアントに通知するのがCephのcrushだたような
返信する
RTする
ふぁぼる
kzk_mover
2011/07/20 18:19:59
@kzk_mover
@frsyuki
うん。多分、マルチマスターな管理には、その辺りが、実運用での最大の差別化要因。あと、Gluster は、L2を、超えた通信を、可能にしたくて、マルチキャストではなく、IPを、全てのノードにもった形のピアに、してるっぽいかなぁ。
返信する
RTする
ふぁぼる
Guutara
2011/07/20 18:29:42
@Guutara
クライアント/サーバー間で、コネクションを全対全で貼ってたりします?
返信する
RTする
ふぁぼる
kzk_mover
2011/07/20 18:17:11
Content from Twitter
残りを読む(112)
ブログへ
iframe版
拡張版
張付けプレビュー
Fav
14
コメント
コメントを入力してください。
Twitterにも投稿する
みんなのおすすめ商品
商品を編集
おすすめ商品を登録する
設定を変更する
まとめを作成する
プロフィール
フォローする
Founder of Treasure Data, Inc. Founder of the MessagePack project. http://msgpack.org github: https://github.com/frsyuki
frsyuki
link
twitter
rss
フォローされている
2
アップデート
まとめ
15
154
「おにぎりせんべい」を知らないだと!?
101
オープンソースのライセンスとビジネス
45
イベントログ収集ツール #fluent 周りの最近の話題
お気に入り
3
新着のまとめ
みんなのかんがえたさいきょうの都道府県EVOL..
new
レイヤーさんかな?って思う場合の特徴
new
混沌超人エルリックマン
new
美学校特別講座「中ザワヒデキ文献研究番外篇」第..
new
テント村運動の意義と結果
new
もっと見る
@togetter_jp
最近追加された商品
いのちのレッスン (seisouノンフィクション)
新藤兼人・原爆を撮る
【映画パンフ】地平線 新藤兼人 永島敏行
現代の貧困―ワーキングプア/ホームレス/生活保護 (ちくま新書)
作劇術
オススメ
マイスター
トゥギャ通
『私がグーグルマップとフォトショップを使って「..
立憲主義を知らない自民党「憲法起草」委事務局長..
TEDを使ってリーディング・リスニング・ライテ..
「放射能汚染地域に住む人の血って、ほしいですか..
“北九州、瓦礫焼却による放射能拡散予想図”は「..
クラブに全く興味がない人と風営法について会話し..
もっと見る
河本準一、妻の母も生活保護を受給!
new
恥と気高さ
new
クローズアップ現代「フィルム映画の灯を守りたい..
new
茂木健一郎(@kenichiromogi)さん..
new
袁紹の用兵の才能と分かり易い『官渡の戦い』
new
タイバニ当落メールが遅い理由を考えてみた まとめ
new
もっと見る
第80回「日食写真と昭和格差」
号外「みんなの金環日食まとめ―画像から教養ま..
第79回「虚構新聞とJリーグ」
第78回「コンプガチャとIT系かあちゃん」
第77回「びろーんと自宅警備隊」
第76回「Appleとパンツクッキー」
もっと見る
コメント