중세 초기의 교육 기관은 교회나 특히 수도원에 부설된 학교였다. 그런데, 그 곳에서는 주로 성직자가 되려는 젊은이들에게 기초 과목과 크리스트 교의 교리를 가르쳤다. 대학이 나타난 것은 12세기에 접어들면서부터였다. 12세기는 유럽 내에서 유스티나아누스의 ‘로마 법 대전’이 재발견되는 한편, 밖으로부터 사라센 치하의 에스파니아와 시칠리아를 거쳐 그리이스의 학문 특히 아리스토텔레스의 철학이 전해져서, 그 자극으로 전에 없이 지적 활동이 활발해진 시기였다.

그 때, 자연 발생적으로 이탈리아의 볼로냐와 프랑스의 파리에 대학이 생겼다. 볼로냐는 법학 연구로 알려지고, 파리의 교회 학교에는 쟁쟁한 신학자들이 있었으므로, 학생들이 유명한 학자들을 찾아서 모여듦으로써 대학이 시작된 것이었다.

학생들은 유럽 각지에서 왔으며, 성직자나 관리로서 출세하려면 전문적 지식이 필요하게 되어서 그 수효도 급증하였다. 볼로냐의 학생들은 그 곳 주민에 대하여 자기네의 권익을 옹호하려고 조합을 만들었으며, 나중에는 교수들도 그 감독을 받게 되었다. 그래서, 그 조합인 우니베르시타스가 곧 대학으로 된 것이었다.

한편, 알프스 이북에서는 사정이 달랐다. 그 곳에서는 대개 거의 교수의 조합이 대학을 운영하였다. 그리고, 중세의 대학들은 자치의 특권을 누리고 있었다. 무엇보다도 그들은 국가나 도시 또는 교회의 재판권에서 벗어나 독자적인 재판권을 가지게 된 것이었다. 그러기 위하여, 초창기의 대학들은 싸우지 않으면 안 되었다. 파리 대학이 국왕의 특허장을 쟁취하여 자치권을 확립한 1200년을 창립의 해로 삼고 있는 것은 바로 그 까닭인 것이다.