자는 명중(明仲), 호는 송당(松堂)이고 평양 사람이다. 어려서 큰 뜻을 품고 열심히 공부하여 마침내 과거에 급제하였다. 고려 공민왕 말년에, 부임하여 강원도로 갔으며, 인자하면서도 위엄 있게 행동하여 인심을 많이 얻었다. 이 태조(李太祖)가 아직 왕위에 오르지 않았을 때, 그가 현명하다는 말을 듣고 맞아들여, 크고 작은 일을 불문하고 그와 상의하였다. 조준은 크게 감격하여 알고서 말하지 않는 것이 없었으며, 계책을 올리는 것이 매우 많았다. 이성계는 당시 가장 분란이 심하였던 전제(田制)를 개혁하여 민심을 얻는 데 조준의 힘에 의지한 바가 많다고 말하였다. 태조가 즉위한 날 저녁에, 도통사(都統使)의 은인(銀印)을 하사하고, 5도의 병마(兵馬)를 관장하도록 하였다. 후에 문하시중(門下侍中)이 되었으며, 평양백(平壤伯)에 봉해졌고, 훈일등(勳一等)에 책봉되었다. 그러나 조준의 개혁과 영달을 달가워하지 않는 사람이 많아, 정종(定宗) 때 처벌을 받을 뻔하였지만 방원(芳遠)의 청원으로 간신히 면할 수 있었다. 태종은 일찍이 조준의 집에 가서 술을 마시며 환담하였다. 조준은 『대학연의(大學衍義)』 한 부를 바치며 말하기를, “이 책을 읽으시면, 나라를 잘 다스리실 수 있을 것입니다.”라고 하였다. 태종 5년에 세상을 떠났다. 문충(文忠)이라는 시호를 받았다.