На микроконтроллере вряд ли- слабоваты и медлительны для этого, нужен полноценный сигнальный процессор, чтоб хотя бы умножение было в "железе".
Как вариант ПЛИС - очень большая скорость и т.п., но собирать "на коленке" что-то на плис - гемор. Я посмотрю как вы будете 100 выводов самого простенького Cyclone паять =D
мне как-то на работе пришлось подобным заниматься - перепаивать кривую плату под ПЛИС - собрать полный ламповый усил, если честно проще =D
Плюс, не забывайте, что у вас идёт широкополосная помеха от генератора такта, так что входные и выходные цепи должны быть оооочень хорошо заэкранированы.
Плюс с АЦП-ЦАп надо прилично повозится ещё