L’infrastructure technique de Google (Juillet 2006)

5 juil, 2006

Le New York Times a publié un article décrivant l’infrastructure de Google, abordant entre autres la tradition du secret des data centers, les systèmes MapReduce, Google File System, et Google Work Queue. Voici un résumé en français…(article tiré de l’excellent Webrankinfo.com)

Selon le NYT, Google devrait investir 1,5 milliards de dollars en 2006 pour ses centres opérationnels et la technologie. Une grosse partie de cet investissement est consacrée à la construction d’un énorme data center en Oregon.

D’après Martin Reynolds, un analyste du Gartner Group cité par le NYT, le métier de Google est autant l’infrastucture que les moteurs de recherche. Il pense que Google est le 4ème constructeur (maker) mondial de serveurs après Dell, Hewlett-Packard et IBM

En parallèle de la guerre visible du grand public, sur le front de la recherche web et ses dérivés, Google mène également une guerre sans merci avec Microsoft et Yahoo sur le plan des serveurs et des logiciels qui les accompagnent. Chacun estime que son architecture est optimale et que l’autre n’a pas une réelle avance technologique…

Même si Google est très secret, nous savons que plusieurs innovations ont vu le jour afin d’optimiser leur infrastructure technique, aussi bien matérielle que logicielle. MapReduce permet de découper une tâche en sous-tâches qui peuvent être traitées par des milliers de processeurs simultanément (Bill Gates prétend que son système Dryad est meilleur…). Le système de fichiers de Google, appelé Google File System, conserve des copies de données en plusieurs endroits, si bien qu’une panne d’un des serveurs ne perturbe pas l’ensemble. Google Work Queue permet d’affecter à un grand ensemble de serveurs (pool) des tâches selon les besoins, changeant sans cesse ces assignations, évitant d’avoir des serveurs coûteux dédiés à seulement certaines tâches.

Google utilise surtout des processeurs Opteron d’AMD, mais aussi des processeurs de Sun spécialement conçus pour optimiser leur consommation électrique (ce développement spécifique de Sun n’est pas étranger au fait qu’Eric Schmidt, PdG de Google, était dirigeant de Sun avant de venir chez Google). Il semblerait même que Google se prépare à créer ses propres puces électroniques

L’article du NYT est accessible ici: page 1 / page 2

Via Google Blogoscoped

Source Webrankinfo, “L’infrastructure technique de Google (Juillet 2006)“, par Olivier Duffez, le 4 Juillet 2006.