Da empfehle ich SHGetSpecialFolderPath aus der shell32.lib. Als CSIDL müsste für deinen Fall CSIDL_APPDATA ausreichen. Von den CSIDL-Defines gibt es eine ganze Menge, auch extra welche für User-Appdata.
Das "Problem" ist, dass dafür mind. IE 4.0 installiert sein muss, also würde es auf Win95 evtl. nicht laufen. Aber da es das AppData eh erst ab 2000 (glaube ich) gibt, sollte das kein Problem darstellen.