Resumen: ¿Tengo que desinstalar Rhino antes de instalar una nueva versión?
No, no es necesario. Puede sobrescribir el paquete de aplicaciones, que suele estar ubicado en la carpeta Aplicaciones, cuando instale una nueva versión. No se sobrescribirán las preferencias ni la licencia, que se almacenan en otras carpetas.
De hecho, si lo desea, puede ejecutar dos versiones de Rhino a la vez, simplemente cambiando el nombre del paquete de aplicaciones (Rhinoceros.app) a otro nombre (RhinocerosCopy.app, por ejemplo).