Cuando me tuve que instalar el Ansys 11 en windows XP me pasé un puñado de horas variando configuraciones en el LMTools, hasta que di con la configuración que ejecutaba la licencia falsa de modo estable. De memoria no me acuerdo del todo bien (me hice un tutorial para no tener que recordarlo, pero no lo tengo aqui ahora mismo). Recuerdo que todo pasaba por usar un parche para generar un archivo de licencia (que debe de tener nombre license.dat), para luego cargarlo desde el LMTools, previo BORRAR la configuración por defecto, nada de sobreescribirla. Generas una nueva configuración, cargas el archivo de licencias y luego, en una de las pestañas, donde aparecen comandos de "STOP" "START" "REREAD", siempre después de haber cargado el archivo de licencia "pirata", pulsas esos tres botones en ese orden que te he dado. Si está bien configurado, no debe de darte problemas.

.
Si te los da, cosa probable porque la configuración es bastante puñetera...

puede que el archivo de licencia no esté bien generado (si lo editas con el NOTEPAD, NUNCA EL WORDPAD NI DERIVADOS), lo cual significará que no se ha introducido bien la MAC de la tarjeta de red o el nombre de la máquina (o éste tiene caracteres que ANSYS no reconoce)... a saber, los errores son variados.
El error que muestras no lo he visto nunca en las 4o 5 instalaciones de ANSYS 11 que he hecho, aunque claro, todas han sido en XP, nada de VISTA (no lo quiero ni en pintura). Te aconsejo que empieces la configuración del LMTools de cero, y paciencia