El que rompe, paga y se lleva los trozos, a.k.a. limpiando el código en tiempo de ejecución.

Lo que sobra se tira... así que se debería hacer limpieza de las siguientes cosas:

1.- Propiedades de objeto que ya no se usan

var myApp = {
    propiedad: <algoenorme>;
};
// ...
delete myApp.propiedad;

2.- Elementos DOM que no se necesitan. Ojo, remove no es lo mismo que delete!

var el = $('myDiv'); // jQuery, para los despistados
...
// El elemento se quita del padre pero sigue estando ahí
el.parentNode.removeChild(el);
// Quitamos el elemento y lo borramos de la memoria
delete el.parentNode.removeChild(el);