Fraps nimmt die Video verlustfrei auf und komprimiert sie auch nicht besonders. Dadurch werden die Dateien wirklich sehr groß. Der Vorteil hierbei liegt allerdings darin, dass die Videoqualität wirklich sehr hoch ist. Youtube hat am Ende ohnehin nur 30FPS, sofern das Video also für Youtube bestimmt ist, würde es durchaus Sinn machen nicht mehr Frames aufzunehmen, als notwendig ist.
Die Lags können auch von der Festplatte kommen, wenn die mit dem Schreiben der Videodaten ein klein wenig überfordert ist. Dafür solltest du aber selbst messen, wieviele Daten du pro Sekunde schreiben kannst und wie viel Fraps schreibt.
Natürlich kann es auch sein, dass die Hardware zu schwach ist. Ich frage mich nur, wieso du das nicht vorher getestet hast, denn von Fraps gibt es ja auch eine kostenlose Version.
Als Alternative könnte ich dir Bandicam empfehlen (ebenfalls eine Testversion erhältlis) das komprimiert die Videos während der Aufnahme und lässt sich auch in Bezug auf Videogröße, Format und Codec viel besser anpassen als Fraps.