Опишите задачу конкретнее...
В шапке - "стабилизатор 14 вольт 10 ампер", в теме - "5 вольт" (ток какой нужен?).
Исходная схема не совсем стабилизатор, а только на малых токах. При большом токе нагрузки схема переходит из режима стабилизации в режим фильтрации. Не труЪ...
Да еще и отсебятину в схему добавили - это ставил, это не ставил, этот номинал изменил в 30 раз...
Без R1 VT1 не будет открываться при заданном токе, хотя выбранный номинал R3 (330 Ом) вообще не закрывает VT1 - скорее всего он постоянно приоткрыт, вот и греется. Без R2 вообще не понятно как вы хотите, что бы схема работала. Короче, к кривости схемы добавили еще кучу своих косяков...
Да и измерять напряжение на выходе без нагрузки бессмысленно...
И что конкретно греется - DA1 или VT1? Если DA1, то однозначно, кренку в топку, если VT1, то ищите, где "течет".
И что нужно-то в итоге? Что имеете на входе, и что хотите иметь на выходе? Какая нагрузка?