La 7800 GT tiene un rendimiento ligeramente menor al de la 7900 GS... pero aun asi corre practicamente todo lo que le hechen encima (probablemente exceptuando Crysis). Lo primero que le recomendaria es actualizar el driver a la ultima version (www.nvidia.com). Luego, medir el rendimiento que le esta dando en este momento (sin overclock). Puede usar 3DMark06, que aunque es un benchmark sintetico (no muestra el rendimiento real de una tarjeta de video, sino un aproximado) le permite ver la mejora en relacion al antes y despues del overclock. Lo puede conseguir en www.futuremark.com
Postee los numeros que obtiene. Luego bajese RivaTuner y ahi despues le decimos que tiene que hacer
PD - Cambiarle el cooling a la tarjeta de video no es muy dificil, pero tampoco es como que muy recomendado para novatos... si hay que tener mucho cuidado...