Сортировка петабайта данных заняла у Google шесть часов две минуты

Discussion in 'Мировые новости. Обсуждения.' started by elimS2, 24 Nov 2008.

  1. elimS2

    elimS2 Elder - Старейшина

    Joined:
    21 Mar 2008
    Messages:
    195
    Likes Received:
    159
    Reputations:
    11
    [​IMG]

    24/11/2008 09:33

    Компания Google в рамках своей файловой системы рассортировала петабайт данных между четырьмя тысячами компьютеров за шесть часов две минуты. Один петабайт эквивалентен десяти триллионам 100-байтовых текстовых файлов. Об этом сообщается в официальном блоге Google. Для размещения петабайта данных Google потребовалось 48 тысяч жестких дисков, но они не заполнялись полностью. Кроме того, создавалось по три копии каждого файла на разных дисках, так как есть опасность выхода их строя одного из трех винчестеров. Сортировка меньшего объема информации - терабайта данных - между тысячей компьютеров заняла у файловой системы Google 68 секунд. Такой же объем информации был рассортирован между 910 компьютерами за 209 секунд. Основой файловой системы Google является компонент MapReduce. Он позволяет запускать несколько процессов одновременно. В январе текущего года MapReduce обрабатывал в среднем по 20 петабайт данных ежедневно.

    копипаст: http://www.uinc.ru/news/sn11055.html

    первоисточник: http://googleblog.blogspot.com/2008/11/sorting-1pb-with-mapreduce.html
    Copyright © 2008 Google Inc. All rights reserved.​
     
    1 person likes this.
  2. Sinay

    Sinay Elder - Старейшина

    Joined:
    1 Sep 2007
    Messages:
    356
    Likes Received:
    365
    Reputations:
    20
    числа жесть
     
  3. Allont

    Allont Elder - Старейшина

    Joined:
    15 Sep 2008
    Messages:
    0
    Likes Received:
    67
    Reputations:
    5
    убица можна, ну и машинища у них стоят .
     
  4. root_sashok

    root_sashok Elder - Старейшина

    Joined:
    4 Aug 2008
    Messages:
    389
    Likes Received:
    573
    Reputations:
    102
    убунта рулит)

    //то не оффтоп, то правда, у гуглоф ос на базе убунту..
     
  5. AlexV

    AlexV Elder - Старейшина

    Joined:
    29 Feb 2008
    Messages:
    173
    Likes Received:
    550
    Reputations:
    81
    Вот реал скорость! :)
     
  6. HellXi

    HellXi Member

    Joined:
    18 Nov 2008
    Messages:
    74
    Likes Received:
    17
    Reputations:
    0
    может быть лет этак через 20, каждый сможет работать с такими данными :)
     
  7. 0ldbi4

    0ldbi4 Elder - Старейшина

    Joined:
    14 Apr 2008
    Messages:
    264
    Likes Received:
    51
    Reputations:
    10
    Ага и порно в Super Hight Definition будут качать)
     
  8. geforse

    geforse Elder - Старейшина

    Joined:
    2 Mar 2008
    Messages:
    617
    Likes Received:
    290
    Reputations:
    1
    Уже не бует порно)) изобретут роботов = )

    Гугл молодец))) я даже такого слова то не слышал .... петабайт)))))
     
  9. m0le[x]

    m0le[x] Wardriver

    Joined:
    25 Oct 2006
    Messages:
    759
    Likes Received:
    576
    Reputations:
    105
    Откуда такая информация? Сервера гугл на убунте? или что значит на базе убунты?
     
  10. HighExcel

    HighExcel Well-Known Member

    Joined:
    2 Aug 2007
    Messages:
    43
    Likes Received:
    354
    Reputations:
    6
    Хочу такой кластер себе )))
     
  11. Dian

    Dian Elder - Старейшина

    Joined:
    2 Sep 2008
    Messages:
    57
    Likes Received:
    11
    Reputations:
    4
    Хакер имеет шанс поработать с ними уже сегодня