Esto que pides se puede hacer de muchas formas diferentes: Con tablas, mapas de imagen (no confundir con
bitmaps), usando un
<canvas />, con CSS, o incrustando SVG, por ponerte unos pocos ejemplos. Esto referente a los odontogramas. Yo usaría una tabla (<table />), que con una buena definición de CSS queda resultona, y encima puedes dejarlo amigable para los programa de ayuda a discapacitados (lectores para ciegos y tal).
Respecto a lo de usar ventanas, puedes buscar algo ya hecho (en JavaScript, evidentemente), aunque no te lo recomiendo. Lo único que conseguirás es sobrecargar el sistema por culpa de las necesidades de memoria y procesador. Quizá puedas aprovechar la capacidad de JavaScript para abrir nuevas ventanas del navegador, pero si el usuario tiene alguna medida
antispam lo más probable es que tenga problemas para usar el programa. Una solución: hacer una aplicación de escritorio que se comunique con el servidor vía Synapse o Indy.