Fraps empfehle ich dir.
Prüf doch mal die Einstellungen, möglicherweise is dein PC einfach auch zu low.
Tipp: Stell doch bei RS alle Optionen auf "High"
Ich wuerde auch Camtasia 7 nehmen weil da kommt auch noch ein editor dazu der eigentlich sehr gut zum bearbeiten der videos ist.
Brauchst halt schon etwas erfahrung um so ein gutes Video (RSMV) hinzubekommen.