タグ

dbとsystemに関するhiro_yのブックマーク (12)

  • Big Data in Real-Time at Twitter

    The document summarizes how Twitter handles and analyzes large amounts of real-time data, including tweets, timelines, social graphs, and search indices. It describes Twitter's original implementations using relational databases and the problems they encountered due to scale. It then discusses their current solutions, which involve partitioning the data across multiple servers, replicating and ind

    Big Data in Real-Time at Twitter
    hiro_y
    hiro_y 2010/04/21
    Twitterのスケール、QCon発表資料。
  • なぜTwitterは低遅延のままスケールできたのか 秒間120万つぶやきを処理、Twitterシステムの“今” − @IT

    ユーザー同士のつながりを元に時系列に140文字のメッセージを20個ほど表示する――。Twitterのサービスは、文字にしてしまうと実にシンプルだが、背後には非常に大きな技術的チャレンジが横たわっている。つぶやき数は月間10億件を突破、Twitterを流れるメッセージ数は秒間120万にも達し、ユーザー同士のつながりを表すソーシャル・グラフですらメモリに載る量を超えている。途方もないスケールのデータをつないでいるにも関わらず、0.1秒以下でWebページの表示を完了させなければならない。そのために各データストレージは1~5ms程度で応答しなければならない。 Twitterのリスト機能の実装でプロジェクトリーダーを務めたこともあるNick Kallen氏が来日し、2010年4月19日から2日間の予定で開催中の「QCon Tokyo 2010」で基調講演を行った。「Data Architecture

    hiro_y
    hiro_y 2010/04/21
    Twitterのスケールの仕組み。「途方もないスケールのデータをつないでいるにも関わらず、0.1秒以下でWebページの表示を完了させなければならない。そのために各データストレージは 1〜5ms程度で応答しなければならない。」
  • Flash-Based DBMSの最前線

    フラッシュメモリーを使ったSolid State Drive (SSD)の容量が160GBに到達し、市場価格も下がってきたことにより、ハードディスクの代替品としてSSDを使う用途がいよいよ現実味を帯びてきました。低容量のものなら既にiPodやデジカメ用のメディアなど身の回りにも普及しており、市場ではすでに「破壊的イノベーション(「イノベーションのジレンマ―技術革新が巨大企業を滅ぼすとき」より)」が起こっているといえます。(HDD搭載のWalkmanとか既に滅んでいる例もあるし。。。)

    Flash-Based DBMSの最前線
    hiro_y
    hiro_y 2009/04/17
    「SSDを、メモリバッファの拡張としてとらえるか、HDDの拡張として使うかで、アプリケーションや、最適なアルゴリズムも変わることが示唆されており」
  • はてなグループの終了日を2020年1月31日(金)に決定しました - はてなの告知

    はてなグループの終了日を2020年1月31日(金)に決定しました 以下のエントリの通り、今年末を目処にはてなグループを終了予定である旨をお知らせしておりました。 2019年末を目処に、はてなグループの提供を終了する予定です - はてなグループ日記 このたび、正式に終了日を決定いたしましたので、以下の通りご確認ください。 終了日: 2020年1月31日(金) エクスポート希望申請期限:2020年1月31日(金) 終了日以降は、はてなグループの閲覧および投稿は行えません。日記のエクスポートが必要な方は以下の記事にしたがって手続きをしてください。 はてなグループに投稿された日記データのエクスポートについて - はてなグループ日記 ご利用のみなさまにはご迷惑をおかけいたしますが、どうぞよろしくお願いいたします。 2020-06-25 追記 はてなグループ日記のエクスポートデータは2020年2月28

    はてなグループの終了日を2020年1月31日(金)に決定しました - はてなの告知
    hiro_y
    hiro_y 2009/03/03
    「正確さのために無駄なロックが発生したり、インデックスを肥大化させて、速度を犠牲にしてしまう。(よくあるパターンだと思う)」「細かいことを気にしなければコンピューターの性能はもっと引き出せるはず。」
  • HowFriendFeedUsesMySqlToStoreSchemaLessData - FriendFeed では MySQL を使いどのようにスキーマレスのデータを保存しているのか

    HowFriendFeedUsesMySqlToStoreSchemaLessData - FriendFeed では MySQL を使いどのようにスキーマレスのデータを保存しているのか 目次 この記事について FriendFeed? では MySQL を使いどのようにスキーマレスのデータを保存しているのか 背景 概観 詳細 一貫性と原子性 性能 FriendFeed? では MySQL を使いどのようにスキーマレスのデータを保存しているのか この記事について "How FriendFeed? uses MySQL to store schema-less data" の日語訳です http://bret.appspot.com/entry/how-friendfeed-uses-mysql CC 2.5 でライセンスされています: http://creativecommons.org/

    hiro_y
    hiro_y 2009/03/01
    FrinedFeedがMySQLを使ってデータを管理している方法。「実体の中身は Python のディクショナリを pickle し, zlib で圧縮したもの」、インデックスの役割をするテーブルを用意して非同期にデータ書き込み。joinもプログラムで。
  • RDBMSは死にましぇん - ねこかわいい

    RDBMSがクラウドコンピューティングに殺されるらしいです。 とくに組み込みDBから死ぬらしいです。 HDDはSSDにとってかわられるらしいです。 http://d.hatena.ne.jp/nowokay/20081212#1229071535 SSDに対しての反論と、組み込みDBが死ぬことに対しての反論。 RDBMSはサーバから死ぬらしいです。 http://d.hatena.ne.jp/kazuhooku/20081212/1229077256 どっちもびみょいとおもいます。一応、毎日ウェブアプリをごりごり書いており、なおかつORDBMSをばりばり利用している身として、気になる点をだらだらかくよ。 大規模システムはRDBMSからクラウドへ、それ以外はひきつづきRDBMSRDBMSの一番大きな問題点は、いまさらですがスケーラビリティです。このへんははてなとかmixiの技術ネタを読め

    RDBMSは死にましぇん - ねこかわいい
    hiro_y
    hiro_y 2008/12/22
    「RDBMSを利用したシステムのパフォーマンスは1000倍どころでない差がつきます。」強く同意。
  • RDBMSの終わりとかについて - 技術日記@kiwanami

    人が大まじめなので少し補足説明。 まず、 id:nowokay はコメントで書かれているような、Javaしか書けないとかSQLが書けないとかDBの知識がどうのというような、脊髄反射でDISられるようなレベルではない。寝坊についてはDISられても仕方がない。 自分が理解している、きしだ理論は以下のよう。 前提: JPAは永続化実装に依存しない永続化APIである SQL(RDBMS) < JPA+JPQL 実現したい機能が満たせる前提で、永続化実装に依存しないという意味で。もちろんこの時点でアプリケーション側はJPA(Java)に依存。 話題のターゲットは、参照が多く、REST的なURLにマップできるくらいの複雑さを持つWebアプリ RDBでしか実績が豊富にないような複雑な業務アプリはRDBのままでかまわない。 である時に、JPAでRDBに依存しないような考え方でプログラムを作っておけば、(

    RDBMSの終わりとかについて - 技術日記@kiwanami
    hiro_y
    hiro_y 2008/12/17
    「RDBMSが唯一の永続化の実装ではなくて、他にも選択肢ができてきたよ(しかも理論的にはスケールするよ)ということ」
  • https://labs.cybozu.co.jp/blog/kazuho/archives/2008/11/_ssd.php

    hiro_y
    hiro_y 2008/11/27
    特にDBをSSDに何とかして乗せる方向。耐久性とかどうなのかな。
  • はてなブログ | 無料ブログを作成しよう

    【マンガ】海外生活を支える心のインフラ「お好み焼き」 実際にはこんなにソースたっぷりつけません!!!お好み焼きソース貴重なので薄く薄く塗ってべてます。 ドイツ住み始めた8年前、お米が鍋で炊けたときにホッとしたけど、お好み焼き(プロトタイプ)が作れたときもすごくホッとした記憶があります。べ慣れたものが普…

    はてなブログ | 無料ブログを作成しよう
    hiro_y
    hiro_y 2008/11/13
    「勿論開発者の技術の標準化という意味では、会社組織としてやる時にはSQLは便利なもので標準として使われるべきものではあるけど、極限のパフォーマンスを出すことと相容れるものではそもそもない。」
  • Don'tStopMusic - DB分散の次は非同期処理がウェブアプリのスケーリングのトレンドになる , るびま 21 号

    _ [ソフトウェア] DB分散の次は非同期処理がウェブアプリのスケーリングのトレンドになる サイボウズも memcached + MySQL DB 分散 Cybozu Developer Network: MySQL Users Conference Japan 2007 講演概要 を読んで、memcached でキャッシュ& 複数の MySQL をアプリのロジックで分散化というのは、もうすっかりスケーラブルなウェブアプリの作り方として常套手段になったと思いました。 2004 年 4 月の MySQL カンファレンスでの Brad Fitzpatrick の発表 Inside LiveJournal's Backend (PDF)から約 3 年半。Mixi やはてなのようなエッジな企業はだいぶ前からこの構成を採用してますが、対法人のビジネスをしているサイボウズでも採用されたというのは一つ

    hiro_y
    hiro_y 2007/09/29
    サーバ側の処理の非同期化。ジョブ管理の仕組み。
  • カブドットコム、株価情報取得システムを約20倍に高速化--メモリ型のDBを採用

    カブドットコム証券は2月21日、同社の運用するアプリケーションサーバに、メモリデータベースシステム(メモリDB)を導入したと発表した。オンライン取引システムの高速化と負荷低減を図るもの。 「株式市場のさらなる活況が予想される中、今まで以上に安定した取引環境を提供する」(カブドットコム証券) メモリDBは、記録媒体として半導体メモリを採用したデータベース。ハードディスク装置上で処理を行うデータベースと比べ、データの読み出しや書き込みの速度に優れる。 シアンス・アールが販売するメモリDB「Kairos」(韓国REALTIMETECH製)を、カブドットコムのオンラインシステムが稼動するアプリケーションサーバ全24台に導入。従来のデータベースと比べ、銘柄情報、時価情報などのデータ取得速度を約20倍に高速化し、負荷を25%程度低減したという。また、時価情報データベースサーバおよびアプリケーションサー

    カブドットコム、株価情報取得システムを約20倍に高速化--メモリ型のDBを採用
    hiro_y
    hiro_y 2006/02/22
    「メモリDBは、記録媒体として半導体メモリを採用したデータベース」
  • トレーダーズショップ パンローリング

    参考情報:トレーダーズショップ 日最大の投資家向け専門店tradersshopTranslate this pageトレーダーズショップ限定販売 わかりやすく動画で学ぶことで上達できる板読み 板情報はチャートでは教えてくれないあらゆる価格情報のなかで板が最も早く株価の値動きを教えてくれます。源太カレンダー2020年 ご注文後のダウンロード方法 ご注文後、ご注文状況 に表示されたダウンロードリ 商品先物オーディオブック無料視聴 Podcast ポッドキャスティングの受信ソフトにこのバナー ファンダメンタルdvd しっかり儲ける板読み投資術 トレーダーズショップ限定販売 ベテラン度 プロが教える株式投資の基 林知之 丸善出版 四六判 240頁 2019年12月発売 体 1500円 税込 1650円 国内送料無 アノマリーオーディオブック無料視聴 Podcast ポッドキャスティングの受信ソ

    hiro_y
    hiro_y 2005/11/15
    Postgresに対するMySQLのメンテナンスとレスポンスの優位性を強調。
  • 1