mit nem raid würde das vllt. gemildert, ich gehe davon aus das die Datne direkt auf PLatte geschrieben werden, oder erst in den RAM, dann komprimiert und dann gespeichert, alles zur Laufzeit?
Ich habe das auch schonmal mit einer RAM-Disk probiert. Ist zwar schon erehblich flotter aber ruckeln tut's trotzdem noch, auch wenn man die Auflösung und Details etwas herunterschraubt.
Komprimieren und erneut Auslagerung zur Laufzeit kannst du definitiv knicken

Ich habe immer so lange aufgenommen bis der RAM voll war und musste dann erstmal wieder alles auf die Platte kopieren.