Index-Rebuild auf große Datenmengen

Geschrieben von Eth am November 2nd, 2009

Leider habe ich beim (vergeblichen) Versuch einen zusätzlichen Index auf der Tabelle hinzuzufügen nach 2 Stunden etwas demotiviert den entsprechenden ALTER TABLE Query angebrochen und dabei die Index-Datei der Tabelle zerhauen.

Man nehme also eine MyISAM-Tabelle mit knapp 3 Millionen Datensätzen und kaputter Index-Datei, einen Rootserver und extrem viel Zeit. Der Volltext-Index auf der Tabelle kommt auf eine Größe von ca. 5,6 GiB.

Bei 5,6GiB Index-Größe war mein erster Ansatz
REPAIR TABLE searchindex
leider eher ernüchternd. Dauert mit Standardkonfiguration (with Keycache sei Dank) einfach stur zu lange.

Nach etwas Googlen wurde ich fündig, das kleine Tool myisamchk liefert genau was ich brauche. Der Rebuild dauert zwar immer noch ziemlich lang, allerdings lassen sich hier, da das Tool über die Shell gestartet wird, sämtliche Caching und Buffer-Einstellungen manuell setzen, überschreiben und konfigurieren.

Nach viel Geduld und einigen (vielen) Fehlversuchen kam der folgende Aufruf raus:

myisamchk --ft_min_word_len=2 --tmpdir=/tmp/ --key_buffer_size=1024M --sort_buffer_size=1024M --read_buffer_size=1M --write_buffer_size=1M --sort-recover --verbose searchindex

Die wichtigsten Einstellungen sind –sort_buffer_size=1024M, –key_buffer_size=1024M. Im Endeffekt die 2 Einstellungen mit denen ich verhindere, dass der Rechner sich durch übermäßiges Swapping ins Nirvana verabschiedet.
Die Einstellung –sort-recover legt fest, dass der MySQL-interne Sortier-Algorythmus verwendet werden soll, um den entsprechenden Index aufzubauen. Der Key-Cache (standardmäßig verwendet wenn der Speicher alle ist) hingegen, würde ca. den Faktor 20 an Zeit brauchen um den selben Effekt zu erzielen.

Aktuell läuft die Query noch, ist aber auf dem 9. Index der Tabelle (ich meine das ist der Volltext) ca. 50% durch gelaufen. Ich hoffe wenn ich morgen aufsteh ists fertig ;-)

Uptime

Geschrieben von Eth am November 2nd, 2009

Ich mag die Uptime von meinem Server:

up 459 days, 12:20

:)

Helion-Festival!

Geschrieben von Eth am Oktober 26th, 2009

Am Samstag fand in München das Helion-Festival II statt. Das konnte ich mir als bekennender Fan von Equilibrium natürlich nicht entgehen lassen.
Ich muss sagen, es hat sich auf jeden Fall gelohnt. Meiner Meinung nach war Sonntag der geilste Tag des Jahres!

Einige Eindrücke:

Mit etwas besserer Soundquali, aber leider nicht einbettbar: Equilibrium – Nordhain (Live Helion Festival 2009)

Um es mit Helges Worten zu sagen: Endgeil!

Kein WoW mehr für mich

Geschrieben von Eth am August 21st, 2009

Nach gut 2 Jahren, ca 140 Tagen Spielzeit und insgesamt mindestens 14 Charakteren habe ich gestern abend meinen World of Warcraft Account schweren Herzens gekündigt. Lange Zeit habe ich viel Zeit im Spiel verbracht und auch meinen Tagesablauf großteils nach unseren Gildenraids gestaltet. Damit ist jetzt erstmal schluss!

Neuer Job

Geschrieben von Eth am Februar 4th, 2009

Es ist geschafft, ich hab offiziell ab dem 16.2. einen neuen Job. Jetzt muss alles recht schnell gehen; meine neue Stelle ist in Augsburg und ich muss relativ zügig umziehen.

Aktuell bin ich am Packen, bzw. eigentlich schon fast fertig. Übermorgen wird meine komplette Wohnung in die Garage verpackt, damit am Umzugstag alles möglichst schnell geht.

Sonntag fahr ich dann runter nach Augsburg und schaue mich nach einer neuen Wohnung um. Ich hoffe nur, dass ich schnellstmöglich aus meinem aktuellen Mietvertrag raus komme. Sonst wird das viiiel zu teuer…

Arbeitslos

Geschrieben von Eth am Januar 5th, 2009

Seit dem 1.1.09 bin ich nun leider arbeitslos, da mein Arbeitsvertrag ausgelaufen ist und nicht verlängert wurde :(
Also falls wer jemanden kennt oder jemanden kennt der jemanden kennt … na ihr wisst schon :)

Geständnis

Geschrieben von Eth am Mai 14th, 2008

Ich geb es ja zu, ich bin inzwischen auch dem WoW verfallen. Ich hab das ganze ja vor 3 Jahren in der Betaphase schonmal angezockt, war aber nciht so begeistert. Seitdem war ich Verfechter des “WoW ist scheiße”… bis Dezember 2007.
Ich habe mir die 10-Tage Testversion von WoW runtergeladen, nach 3 Tagen die Vollversion und gleich auch das Addon gekauft. Seitdem zocke ich sehr erfolgreich einen Menschenkrieger, der jetzt auch seit 3(?) Monaten schon lvl70 ist.

Und seit kurzem einen Zwergenpriester, schattengeskillt auf lvl35

Auto-Update

Geschrieben von Eth am April 28th, 2008

Mein Auto macht Fortschritte :)

Inzwischen ist ein böser Blick angeschweißt, die Heckklappe komplett clean und die Heckschürze mit einer Kennzeichenmulde versehen. Außerdem habe ich mir inzwischen ein schickes SLN-Kennzeichen (das sind diese selbstleuchtenden Teile) besorgt.
Momentan plane ich in den nächsten 2-3 Wochen einmal alle Teile anzubauen und zum Tüv zu fahre; irgendwann muss der ganze Mist ja mal eingetragen werden ;)

Spam

Geschrieben von Eth am Februar 4th, 2008

Ich bekomme eindeutig zuviel Spam. Und damit meine ich nicht die abertausende von E-Mails die jeden Tag in mein E-Mail Postfach flattern, sondern unter anderem die 2kg überflüssigen Papiermüll den ich gerade eben aus meinem Briefkasten gefischt habe.
Reicht es nicht wenn ich täglich mehrere hundert unerwünschte Werbe E-Mails aus meinem Postfach lösche? Muss ich auch noch kiloweise Altpapier von meinem Briefkasten zur Altpapierkiste und später zur Altpapiertonne schleppen?

Mit E-Mail Spam kan ich leben, ist zwar lästig aber kann man durch Filter ausortieren oder händisch löschen. Diesen verflixten “echten” Werbespam kann ich aber weder filtern, noch kann ich ihn löschen. Warum bekomme ich 2-3x die Woche eine Zeitung, die ich nirgends bestellt habe? Ich lese keine Zeitung, was soll ich damit? Meine News im Web sind viel aktueller. Will ich wirklich wissen was nächste Woche im Fernsehen läuft? Nein, ich schaue lieber im Web nach, da werden sogar Programmänderungen berücksichtigt.

Ich denke damit ist das Wichtigste zu dem Thema gesagt und ich kann mich wieder abregen.

Neues Spielzeug

Geschrieben von Eth am Dezember 6th, 2007

Eben gerade ist mein neues Spielzeug angekommen.

Sony Ericsson W880i

Echt geiles Teil. Muss ich erstmal was mit spielen :P