あとで書くと言っていたので続きを書いた。ホントにメモ。ここからまともな情報を再構築できるのは自分だけ。
田中さん
- id:stanaka はてな執行役員
- はてな、現在15のサービス
- サーバ50台、仮想化で1000台
- 増えたり減ったり
- はてブだけで64台使用
- 8月にFlipnote Hatena（うごメモはてなの欧米版）リリース。欧米中心に数十万人のユーザ。
- 海外向けに発生するオーバーヘッドは主にメディアファイル
- メディアファイルのみCDN使用。Amazon CloudFront
- 時間帯でさくらサーバと切り替え。定額契約の上り上限をにらんで
- HTMLは日本から
- メディアファイルのみCDN使用。Amazon CloudFront
- 24時間365日、地球のどこかでピーク時間帯が発生。人員を24時間張り付かせるのは難しい
- Core2Quadと8GBRAMの自作サーバ使用。サーバ一台あたり毎分数千リクエストを処理。
- はてな全体では数億PV/年
- データWriteの分散が難しい
- サーバ数を増やせば性能アップ→オペレーションコストup
- 負荷を可視化し、ボトルネックや異常を把握
- 独自ツールを開発
- 新サービス開発時は大量のPV、データアクセスが発生することを前提に開発する
- わずかの負荷変化がシステム全体に大きな影響を与える
- 障害発生時のデータ同期、異常発生部分の切り離しが難しい
- 資源効率、速度、と安定性はトレードオフ
- 外部連携との切り離しが重要
- Amazon APIが落ちたらそこだけ切り離す、など
- 状態をもつプロセスを減らす
- ローカルに書かない
- 状態を再構成できるようにする
- 再構成時に守るべきデータを切り離す
- 仮想化
- Xenを使用
- リソース消費効率をup
- 中央ストレージは使わず、ローカルに環境を構築
- DBサーバ（I/Oボトルネック）とWebサーバ（CPUボトルネック）を組み合わせ
- リソースの動的変更が容易
- 性能の引き出し方
- 安価なハードをたくさん使う
- ソフトウェアで頑張る。PCサーバ、PCルータ
- ハードウェアが安い。2年前の6分の1とか。2年周期でリプレース。いまだとCore2Duoはもうステ、とか
- いらないハードは売りさばく。まとめて中古屋へ持込とか
- 1uハーフのサーバを自作
- ホットスワップ可能なHDD→パフォーマンス低かったので廃止
- データ量にメモリを合わせる
- I/O waitを発生させない。パフォーマンスが上がればメモリも増やす。メモリ増やすだけでアプリケーションはチューニングしなくてもIO waitは解消できた
- SSD
- ネットワーク構成
- 外へ出て行くところでもPCルータ
- 村松さんにバトンタッチ
村松さん
- id:halfrack
- 7月からはてな入社
- 学生時代はFreeBSD主流の研究室。Linuxを使うと上書きされるｗ
- Inboundトラフィックが300Mbpsで頭打ち
- サーバ1台クライアント4台でテスト環境を構築
まとめ
- 自作サーバカンファレンスをやりたい
- 何社か乗ってきているが、場所が…→楽天でよければ by よしおかさん
