du weißt, dass PC1066 RAM sich nicht gerne "untertakten" läßt? Daraus resultieren auch die Probleme, dass der Rechner nicht mehr starten will. Im 3x Modus sollte man deswegen erst bei FSB 178 anfangen, da der RAM dann mit Spec läuft (@PC1066).
Es muss bei dir auch nicht zwingend am Board liegen, du weißt ja nunmal nicht, ob deine CPU nicht der Grund ist, 2,9GHz müssen nicht zwingend mit nur 1.72V laufen.
Ich würde deiner CPU aber sowieso den Wire-MOD (oder VID PIN MOD) verpassen, damit sie beim starten nicht mit der Standard VCore von nur 1.5V angesteuert wird, viele CPUs booten dann nämlich nicht, da die eingestellten 1.7V erst beim Initialisieren geschaltet werden, dass sollte immer bedacht werden.
Wenn du die CPU also dahingehend moddest, dass sie direkt mit 1.85V initialisierd wird, könnten deine Probleme verschwinden.
So sieht die Sache aus, ist ganz einfach:

Mittels dieses Drahtes ist es möglich die CPU frei von 1.5V bis 2.2V anzusteuern, wohlgemerkt initialisiert die CPU dann mit 1.85V nicht mit den 1.5V. Das TH7II liefert auch etwas weniger VCore als eingestellt, d.h. wenn du im Bios 1.8V einsetllst, sind es real ca. 1.75 und unter Volllast sinkt diese nochmals ein wenig, also hast du bei der Einstellung von 1.8V unter Volllast nur 1.68V übrig, egal mit welchem Netzteil.
Die RAMBUS Module steckst du an besten nur in RIMM1 nicht in den der weiter vom Sockel weg ist (falls du nur zwei Module hast).
Ich würde dir auch das Bios "7F" empfehlen, es behebt den Code 26 Error und verbessert die Signalqualität von deinem RAMBUS.
Ich kann mir nicht vorstellen, dass bei 170FSB bei dir schon Schluß ist, nicht mit TH7II & 2.26b. Wie kühlst du eigentlich? Ich hoffe jetzt kommt nicht: "mit dem boxed" (für über 2.9GHz & 1.72V).
Poste mal dein genaues Sys, möglicherweise fällt mir was ein, wäre nicht das erste Mal ;D