Sofern du die Daten nicht selber abspielst müsstest du evtl. über DirectX gehen. Ich glaube ich habe da von Filtern gehört, die könnten dir die Daten rausschreiben - nur als Hinweis für eine Suchrichtung.
Andere Möglichkeit ist einen eigenen Soundkartentreiber zu schreiben.
Und dann schau den Algorithmus in einem Buch über Algorithmen - Abschnitt FFT nach.