Agile Cat — in the cloud

Tumblr が支える Obama 大統領再選のシナリオ

Posted in Tumblr by Agile Cat on November 2, 2011

Obama Campaign Experiments With Tumblr for ’2012
October 24, 2011, 7:12 pm
By
NICK BILTON
http://bits.blogs.nytimes.com/2011/10/24/obama-campaign-experiments-with-tumblr-for-12/

image

It’s no secret that President Obama’s victory in 2008 was helped by his adoption of Twitter and other social media platforms. For 2012, Republicans and other politicians are flocking to these services too, hoping to spread the party gospel 140 characters at a time.

2008年における Obama 大統領の勝利において、Twitter をはじめとするソーシャル・メディアの活用が、大きな支えとなったことは公知の事実である。 2012年へ向けて、共和党などの政治家たちも、それぞれのパーティ・ゴスペルを 140文字に託して広めようと、それらのサービスに集まりつつある。

クリックで拡大 ⇒

But politicians will need to join one more digital bandwagon for the 2012 presidential campaign: Tumblr, a popular microblogging site.

しかし、政治家たちは 2012年の大統領選を目指して、もう 1台のデジタル・バンドワゴンに乗る必要があるだろう。つまり、人気がのマイクロ・ブログ・サイトの Tumblr だ。

On Monday, President Obama’s presidential committee started a Tumblr account for his 2012 campaign, which will be housed on the Web site barackobama.tumblr.com

この月曜日(10/31)のことだが、Obama の大統領のコミッティは 2012年へ向けたキャンペーンのために、Tumblr アカウント( barackobama.tumblr.com )を立ち上げた。

There are only two posts on the Tumblr page so far. One post shows a picture from inside the campaign’s Ohio offices. The other offers an introductory salutation, welcoming Mr. Obama’s campaign to Tumblr, and explaining what is in store for the Tumblr page.

これまで、その Tumblr ページには、たった 2つのポストがあるに過ぎない。1つのポストは、キャンペーンのための、Ohio オフィスの風景を写真で紹介している。 もう1つは、Welcoming Mr. Obama’s campaign to Tumblr という挨拶であり、その Tumblr ページに備えた挨拶を提供している。

tumblr logo“We’d like this Tumblr to be a huge collaborative storytelling effort — a place for people across the country to share what’s going on in our respective corners of it,” campaign officials wrote on the site. They touted one of the major benefits of Tumblr, the site’s submission feature, which allows people to share their own photos, videos and commentary.

「私たちは、この Tumblr を、偉大なコラボレーションについて話し合う、活動としていきたい。つまり、それぞれの街角で起こっていることを共有していくために、アメリカ全土から人々が集まる場所にしていきたい」と、そのキャンペーン担当者はサイトに書いている。 彼らが強調するのは、Tumblr の大きなメリットの 1つである、人々による、写真/ビデオ/コメントの共有を実現する、そのサイトの特徴である。

Mr. Obama’s presidential team also warned readers that though social media sites were not always nice, they were prepared: “There will be trolls among you: this we know. We ask only that you remember that we’re people — fairly nice ones — and that your mother would want you to be polite.”

Obama 大統領のチームも警鐘を鳴らしているのは、ソーシャル・メディア・サイトが常に素晴らしいわけではないが、その準備が整っていることだ。つまり、不快な人間も居ることは分かっている。 しかし、とてもステキな人々が居ることを忘れないでほしい。そして、あなたの母親が礼儀正しくあれと、望んでいることを思い出して欲しい。

Tumblr has grown rapidly over the past year, quickly becoming an online home to celebrities like Lady Gaga and other popular musicians.

Tumblr は、この 1年間で急速に成長した。そして、Lady Gaga などのセレブや、人気のミュージシャンたちの、オンライン・ホムとして活用されている。

John Maloney, Tumblr’s president, said earlier this year that the service receives 8.4 billion page views each month and has grown to as many as 86 million visitors from around the world.

Tumblr の President である John Maloney は、今年の初めの段階で 84億 PV/月 を達成し、また、世界中から 8600 万人のビジターが訪れるまで成長していると、発言している。

ーーーーー

tumblr logo実は、Agile_Cat も Tumblr にはハマっておりまして、その手軽さには、常に驚嘆しています。 もちろん、こうして WordPress をメインで使っていて、それぞれの特徴を、自分なりに使い分けているつもりですが、1つのポストを作る労力が桁違いに軽い、、、というのが、Agile_Cat の Tumblr 感です。 そんな背景から、再選を目指す Obama 大統領が、忙しい選挙戦で Tumblr を使うというのは、大納得なんです。 ーーー ac-stamp-21

ーーーーー

<関連>

おめでと~~~ Tumblr! もうすぐ 100億ポストだって?
tumblr は、ソーシャル・ブログなのか、ビジュアル・ブログなのか?
Blog と Twitter のはざまで、まったり シアワセ な Tumblr
Agile_Cat の tumblr が 大ブレークした ・・・の巻
ウワサの tumblr アカウントを取ってみた
WordPress.com が 2000万ブログ・サイトに到達! でも、Tumblr が迫っている!

Facebook メッセージを支えるストレージ・インフラを解説 – James Hamilton

Posted in Big Data, Facebook, James Hamilton by Agile Cat on November 2, 2011

Storage Infrastructure Behind Facebook Messages
Tuesday, October 25, 2011
http://perspectives.mvdirona.com/2011/10/25/StorageInfrastructureBehindFacebookMessages.aspx

facebook_logo

One of the talks that I particularly enjoyed yesterday at HPTS 2011 was Storage Infrastructure Behind Facebook Messages by Kannan Muthukkaruppan. In this talk, Kannan talked about the Facebook store for chats, email, SMS, & messages.

昨日(10/24)の HPTS 2011 で、とりわけ興味深かった話として、Kannan Muthukkaruppan による Storage Infrastructure Behind Facebook Messages がある。 そこで、Kannan は、チャット/電子メール/SMS/メッセージのための Facebook ストアについて話をした。

imageThis high scale storage system is based upon HBase and Haystack. HBase is a non-relational, distributed database very similar to Google’s Big Table. Haystack is simple file system designed by Facebook for efficient photo storage and delivery. More on Haystack at: Facebook Needle in a Haystack.

このハイ・スケールなストレージ・システムは、HBase と Haystack をベースにしている。 HBase は、Google の Big Table に極めて類似した、Non Relational な分散データベースである。 Haystack は、効果的な写真ストレージと配達のために、Facebook によりデザインされたシンプルなファイル・システムである。 Haystack の総裁については、Facebook Needle in a Haystack を参照して欲しい。

In this Facebook Message store, Haystack is used to store attachments and large messages. HBase is used for message metadata, search indexes, and small messages (avoiding the second I/O to Haystack for small messages like most SMS).

この Facebook メッセージ・ストアにおいては、アタッチメントと長いメッセージをストアするために Haystack を使用する。  HBase に関しては、メッセージ・メタデータおよび、サーチ・インデックス、短いメッセージのために使用される(大半の SMS のような短いメッセージのために、Haystack に2番目の I/O を儲けることを回避)。

Facebook Messages takes 6B+ messages a day. Summarizing HBase traffic:

Facebook Messages は、1日あたり 6B 以上のメッセージを処理する。以下は、HBase トラフィックの概要である:traffic:

  • 75B+ R+W ops/day with 1.5M ops/sec at peak
  • The average write operation inserts 16 records across multiple column families
  • 2PB+ of cooked online data in HBase. Over 6PB including replication but not backups
  • All data is LZO compressed
  • Growing at 250TB/month

The Facebook Messages project timeline:

Facebook Messages プロジェクトの年譜は、以下のとおりである:

  • 2009/12: Project started
  • 2010/11: Initial rollout began
  • 2011/07: Rollout completed with 1B+ accounts migrated to new store
  • Production changes:
    • 2 schema changes
    • Upgraded to Hfile 2.0

クリックで拡大 ⇒

They implemented a very nice approach to testing where, prior to release, they shadowed the production workload to the test servers.

彼らは、リリースに先立つテストにおいて、そのプロダクション・ワークロードからテストサーバーへと追尾する、とても素晴らしいアプローチを実装している。

注記)動詞の Shadow は[追尾]で良い?

After going into production the continued the practice of shadowing the real production workload into the test cluster to test before going into production:

プロダクション・フェーズに入った後も、現実のプロダクション・ワークロードを追尾する、継続的なプラクティスが実践され、次のプロダクションを検査するためのテスト・クラスタに、その結果が取り込まれていく:

クリックで拡大 ⇒

The list of scares and scars from Kannan:

心配事のリストと、Kannan による痕跡は、以下のとおりである:

  • Not without our share of scares and incidents:
    • s/w bugs. (e.g., deadlocks, incompatible LZO used for bulk imported data, etc.)
      • found a edge case bug in log recovery as recently as last week!
  • performance spikes every 6 hours (even off-peak)!
    • cleanup of HDFS’s Recycle bin was sub-optimal! Needed code and config fix.
  • transient rack switch failures
  • Zookeeper leader election took than 10 minutes when one member of the quorum died. Fixed in more recent version of ZK.
  • HDFS Namenode – SPOF
  • flapping servers (repeated failures)
  • Sometimes, tried things which hadn’t been tested in dark launch!
    • Added a rack of servers to help with performance issue
      • Pegged top of the rack network bandwidth!
      • Had to add the servers at much slower pace. Very manual .
      • Intelligent load balancing needed to make this more automated.
  • A high % of issues caught in shadow/stress testing
  • Lots of alerting mechanisms in place to detect failures cases
    • Automate recovery for a lots of common ones
    • Treat alerts on shadow cluster as hi-pri too!
  • Sharding service across multiple HBase cells also paid off

Kannan’s slides are posted at: Here

–jrh

James Hamilton
e: jrh@mvdirona.com
w
: http://www.mvdirona.com
b
: http://blog.mvdirona.com / http://perspectives.mvdirona.com

ーーーーー

TAG indexそれぞれのメッセージに対して、適切なストレージを割り当て、さらにはプロダクションとシャドウの上手い関係を構築してという、とても緻密な運用に驚かされます。 一見、大雑把に見える Facebook ですが、いつものとおり、洗練されていますね! でも・・・ 先週の Open Compute Summit では、Agile_Cat の名前がエントリーされていなくて、一瞬 こわばりましたが、同じ境遇の人もたくさん居たみたいで、その場で名札をバンバン印刷して、来た人をドンドン入れてくれちゃいました。 やっぱり、大雑把 :)   それと、会場には James Hamilton さんが居て、がんばれ Agile_Cat と応援してくれたのには、大感激してしまいました。 ーーー ac-stamp-21

ーーーーー

<関連>

Facebook の規模は、2004年当時のインターネット全体に匹敵する
ソーシャル・メディアの今を切り取る、とても面白いインフォグラフです
Google や Facebook は、Linux と OSS に借りがあるはずだ
Facebook 出資者が語る – ソーシャルが終わっている理由を説明しよう
30 P Bytes の Hadoop HDFS を、どのようにして Oregon へ移動したのか
Facebook は正攻法で、Billion 単位のメッセージを処理していく
Facebook が目指す、リアルタイム分析のインフラとは?
20分間で、2.7M Photos/10.2M Comments/4.6M Messages を処理!