Ich kenne mich mit PovRay nicht aus, MentalRay kann aber Spiegel und Linsen berechnen. Ist aber halt auch 'nur' ein Raytracer, also nicht unbedingt das, was Du suchst. Aber es gibt doch massenhaft Software zur Simulation optischer Systeme:
http://www.optis-world.com/G_O.asp?soft_id=1
http://www.optocon.de/Software/EOptiCAD/
http://diffractive.optics.free.fr/