Vaya, tienes un problema. Un buen barrizal realmente.
Si fuesemos completamente rigurosos, en el fondo del diente ya no sigue realmente la forma de evolvente, sino que la curva es una trocoide. Gonzalo González Rey lo explica claramente en este documento:
http://grupos.emagister.com/ficheros/ds ... ero=127207El tema está en que tendremos una evolvente hasta que estemos por debajo del radio de interferencia. Hasta ahí todos de acuerdo. A partir de entonces tendremos una trocoide.
Tu problema es más grave que el que plantea, pues tú no tienes interferencia, sino que pierdes la evolvente por entrar por debajo de la circunferencia base. Tu única opción, según lo veo, es simular la generación e ir obteniendo los puntos de la cabeza del diente de la fresa al girar sobre la circunferencia base.
De todas formas, puede que tengas un problema añadido mucho mayor. ¿Sabes cual es exactamente tu perfil de trabajo?. Es decir, ¿sabes si siempre engranarás en el perfil de evolvente o lo superarás en algún momento?
Tallar por debajo de la circunferencia base no es un problema. Engranar por debajo de la misma sí que lo es.¿Por qué no le das algo de desplazamiento a las ruedas y así te quitas todos los problemas? Los engranajes a cero funcionan bien en contadas ocasiones. Normalmente es mucho más interesante darles desplazamiento.