조선 중기부터 싹트기 시작한 실학사상은 朝鮮學, 즉 국학을 발달시켰다. 원래 조선학이란 조선고전에 관한 학문으로서, 근세 조선에 나타난 실학파에 의해 문헌적 실증을 중요한 방법으로 삼아 이루어진 조선의 연구이었을 뿐만 아니라, 자주적인 사상체계 위에서 성립된 학문이었다. 이 조선학은 대략 다음 세 유파에 의해 전개되었다.⁴⁹⁷⁾근세 조선학의 세 학파에 대하여는 鄭寅普의＜近世 朝鮮學의 流派 대략 三派＞(≪薝園國學散藁≫, 文敎社, 1955)의 논의를 참고하였다.

　첫째로는 李瀷을 導師로 하여 鄭尙驥까지를 한데 묶은 학파로서 남인계통의 柳馨遠·丁若鏞·安鼎福 등을 들 수 있다. 둘째로는 李頣命과 金萬重·洪大容으로부터 유행된 계통의 학파로서 金堉·朴趾源·申景濬 등이 이에 속한다. 셋째로는 鄭齊斗의 학풍을 이어 받은 계통의 학파로서 崔鳴吉·張維·崔錫鼎·鄭東愈·李肯翊·柳僖 등을 가리킨다. 이들은 자주적 관점에서 국내외의 관계문헌을 통하여 실증적으로 조선문화의 전통을 파악하고 그 가치를 정립하려고 하였다. 이들의 연구방법은 실학파의 實事求是, 또는 無徵不信 등의 학풍을 추구하였으며 각자의 저서에 유행적으로 인용서목을 첨기하는 등 이전과는 다른 연구태도를 보였다.

　조선시대의 國是였던 주자학(성리학)과 이 학문의 기본조류의 하나인 易學·數理論의 연구가 발달함으로써, 조선학에서는 이와 관련된 우리 문자의 연구, 즉 정음연구가 중요한 연구과제의 하나가 되었다. 이러한 학풍은 세종조에 이루어진 정음연구의 전통을 이 시대에 국학과 함께 부흥시킨 것이다. 그리하여 조선 후기 실학파의 저술에는 정음에 관한 연구가 없는 것이 없을 정도로 성행하였는데, 그 까닭은 정음이 유일한 민족의 문자임을 자각한 때문일 것이다.

　이 시대의 정음연구는 문자에 관한 연구와 한자음에 관한 연구가 중심을 이룬다. 문자제정에 관한 연구의 이론적 배경은 훈민정음을 창제할 당시에 논의되었던 주역의 이론이 대부분이었으며, 특히 송대 성리학에서 수리적 상징론을 집성한 邵雍의 易理論이 원용되었다. 실학자들의 관심도 주로 이와 관련있는 정음문자의 제정원리와 기원에 관한 것이었으며 실용적인 요구에 의한 한자음연구에 편중되어 있었다. 그리하여 세종조의 정음제정에 원용된 성리학 등 제반 이론이 이 시대에 다시 논의되었으며 한자음에 대한 중국의 표준음과 우리의 전통적인 발음과의 차이가 반복되어 고찰되었다.⁴⁹⁸⁾조선시대에 중국의 聲韻學이 학자들의 관심을 끌게 된 것은 두 가지 이유가 있다. 첫째는 漢語학습을 위하여 한자의 중국어 표준발음을 익히기 위한 것이고, 둘째는 시문을 지을 때에 脚韻과 平仄을 맞추기 위한 것이다. 전자는 역관들의 중국어학습을 위한 발음서로서, 訓民正音을 창제한 직후에 간행된≪洪武正韻譯訓≫이나≪四聲通攷≫·≪四聲通解≫등이 이에 속한다. 후자를 위한 것으로는 고려 충렬왕 26년(1300)경에 우리의 韻學연구자에 의하여 편찬된≪三韻通考≫가 있었다. 이 韻書는 매우 간편하여 후세에 널리 애용되었으며, 계속해서 많은 판이 거듭 간행되었는데 조선 중기부터는 이를 수정하고 새롭게 주석한 것이 나타나기 시작한다. 그렇지만 이 연구들의 결론은 대부분 정음문자의 우수성을 찬양하고, 그 制字原理의 성리학적 해명에 귀착되었다. 이제부터 이 시대의 개별적인 실학자들의 국어연구에 대하여 연대순으로 살펴보기로 한다.

　임진왜란 이후 오랜 침묵을 깨고 광해군 6년(1614)에 李睟光의≪芝峰類說≫(20권 10책)에서 ‘正音起源’에 관한 연구가 비로소 나타난다. 그리고 병자호란 이후 1670년대에 최석정과 정제두 등에 의하여 문자·음운에 관한 본격적인 연구가 시작되었고 한자음연구와 더불어 정음문자의 字形과 제자원리, 그리고 기원에 대한 연구도 적지 않게 나타났다.

　먼저 전술한 이수광의≪지봉유설≫(권 18)에서 “우리 나라 언문 글자의 모습은 모두 梵字와 비슷하다”라고 하여, 한글의 梵字起源說을 주장하였는데, 이것은 成俔의≪慵齋叢話≫(권 7)에 보이는 “其字體 依梵字爲之”의 견해를 따른 것으로 생각된다. 그러나 이수광의 이와 같은 정음 자형의 기원에 관한 의견은 이후에 많은 논의를 불러일으켜, 조선 후기에 다양한 정음문자의 기원설이 나타나게 된다.

　최석정은 최명길의 손자로서 소론계통의 학자이며 그의≪明谷集≫(34권 17책)에＜五音篇韻後序＞와＜韻會箋要＞를 실어 중국 聲韻學에 대한 관심을 표하였다. 숙종 4년(1678)에 편찬한 최석정의≪經世正韻≫(2권 2책)은 훈민정음과 한자음을 韻圖로 나타낸 것이다. 이 책은 훈민정음에 대한 최초의 본격적인 연구서로서 초성은 청탁으로, 중성은 闢翕으로, 그리고 종성은 오음으로 기준을 삼아 각 음의 상관관계를 기술하였다. 그리고 이것을 기초로 하여 한자음을 운도로써 나타내어 도식화하였는데 이 운도는 소옹의≪皇極經世書≫를 보고 작성한 것이다.

　정제두는 그의≪霞谷全書≫(약 20책)에서 문자와 음운에 관하여 고찰하였다. 정제두는 그의 정음연구에서 최석정의 영향을 많이 받은 것으로 보인다. 그의≪하곡전서≫에 수록된≪霞谷集≫(11책) 제3책에는 정음에 관하여 최석정에게 문의한 글이 실려 있고 반대로 최석정의≪명곡집≫(권 13) 書牘에는 정제두에게 답한 글이 여러 편 실려 있다.

　鶴城 朴斗世는 숙종 28년에≪三韻補遺≫를 간행하였는데, 이것은 전 시대의≪三韻通考≫를 80여 종의 문헌에서 語句의 출처를 밝히는 주석을 붙인 것이다. 金濟謙과 成孝基는 경종 원년(1720)경에≪增補三韻通考≫를 편찬하였다. 박두세의≪삼운보유≫는 당시 세인의 주목을 끌지 못하였으나 김제겸과 성효기의≪증보삼운통고≫는 대단한 인기를 얻어 판을 거듭하였다. 이 책은 얼핏 보아서는 종래의≪삼운통고≫로 착각하리 만큼 비슷하며, 난 외에≪詩傳大全≫을 첨가한 것도 있다.

　이익은 남인계통의 학자로서,≪星湖僿說≫을 통해 언문의 기원에 대하여 언급하였다. 이익의≪성호사설≫(권 16)에서는 정음문자가 몽고의 八思巴문자에서 기원하였다고 보았으며, 成三問 등이 요동을 13번 왕복하면서 명의 黃瓚에게 배운 것은 몽고자(八思巴字)임을 주장하였다.

　진사로서 음운학에 밝았던 圃菴 朴性源은 영조 23년(1747)에≪華東正音通釋韻考≫(2권 1책)을 편찬하였는데 이것은 전술한≪증보삼운통고≫를 대본으로 하여 각 한자에 華音(중국어음)과 東音(국어의 전통한자음)을 병기한 것이다. 화음은 역관 李彦容과 함께 붙인 것이며 동음은 그가 바로잡은 교정음이어서, 처음으로 중국어음과 우리 한자음을 겸용한 운서가 되었다. 이 책은 정조 11년(1787)에 정조의 御製序를 붙여 내각에서 간행된 바가 있고 이를 축약한 그의 유고≪華東叶音通釋≫이 정조 12년에 간행되기도 하였다.

　이조판서와 판중추부사를 지낸 바 있는 淡窩 洪啓禧는 영조 22년에≪三韻聲彙≫(3권 3책)를 편찬하여 영조 27년에 간행하였다. 이 책은 박성원의≪화동정음통석운고≫와 같이≪삼운통고≫에 화음과 동음을 병기하였으나 같은 운의 한자를 한글의 가나다순으로 배열한 점이 다르다. 전체적인 형식은≪東國正韻≫과 유사하고 화음은≪四聲通解≫의 것을 따랐으며, 동음은 당시 행용음을 표기하였다. 홍계희는 이 책의 범례와 발문에서 그가 갖고 있는 정음에 대한 소견을 피력하였는데, 특히 권두에 실린＜諺字初中終聲之圖＞는 최세진의≪訓蒙字會≫에 실려 있는＜諺文字母＞의 영향을 많이 받은 것으로 보인다.

　고양군수를 지낸 실학자 翕齋 李思質은 영조년간(1705∼1776)에 편찬한＜訓音宗編＞(그의≪韓山世稿≫권 18에 수록됨)에서 자형을 중심으로 한 훈민정음의 제자원리를 전개하였다. 그의 훈민정음 자형에 관한 견해 가운데는 분명히 잘못된 ‘齒頭正齒說’과 같은 것도 있지만, 이수광의 梵字說을 부정하고 圓方象形說을 주창하여 우리의 관심을 끌게 한다. 즉 훈민정음은 성음에 근본하여 ‘天圓之象 ㅇ(省體 ), 地方之象 ㅁ(約形 ㅡ)’의 조화로 생성하였다고 본 것이다. 이 밖에도 ‘初聲竝書說’과 ‘中聲字父說’, ‘齒頭正齒說’ 등을 주장하여 독특한 자형기원설을 제창하였다.

　전라도 순창태생으로 좌승지를 지낸 노론파의 실학자 旅菴 申景濬은 영조 26년에≪韻解≫를 편찬하였다.≪운해≫, 즉≪訓民正音韻解≫라고 불리는 이 책에서 신경준은 한자음의 운도를 작성하고 그 표음을 위한 발음기호로서 훈민정음에 대하여 고찰하였다. 이 책의 목표는 최석정의≪경세정운≫처럼 漢字音韻圖의 작성에 있었으나 그 서설에 해당하는 훈민정음의 연구가 특히 관심을 끌었다. 신경준은 자신이 교정한 한자음을 운도로 표시하고 이를 표음한 훈민정음이 뛰어난 음성기호임을 강조하면서 이를 ‘천하의 聲音大典’이라고 극찬하였다. 또한 초성의 五行象形과 중성의 圓圖象形을 주장하고 음성학적 해석인 脣舌象形도 시도하였다. 후자는 자형을 발음기관을 상형하여 제자했다는＜訓民正音解例＞의 상형설과 유사한 주장으로서≪훈민정음≫의＜해례＞를 보지 못했던 당시에 매우 독특한 견해로 주목되었으며, 이로 인하여 후일에는 그가 정음연구를 중흥시킨 사람으로 높이 평가되기도 하였다. 그러나＜훈민정음해례＞가 이 세상에 알려진 오늘날에는 또 하나의 가설로서 가치를 가질 뿐이다.

　전라도 고창태생의 실학자 頤齋 黃胤錫은 거질의 문집인≪頤齋遺稿≫(26권 13책)와 수학을 연구한≪理藪新編≫(23권 13책)을 남겼다. 후자에는＜皇極經世圖＞(권 12)와＜韻學本源＞(권 20) 등 중국음운학에 관한 것이 수록되어 있다. 그리고 전자의 잡저에서는 어원에 관하여 논의한＜華音方言字義解＞(권 25)와 정음에 관한＜字母辨＞(권 26)을 수록하였다. 그는＜운학본원＞에서 한자음의 본원을 밝히기 위하여 소옹의＜皇極經世聲音圖＞를 본뜬 운도를 작성하고, 이로부터 우리의 동음이 본원에서 많이 벗어났음을 지적하였다. 또한 정음문자가 매우 간결하여 범자와 유사함을 지적하였다.⁴⁹⁹⁾黃胤錫은 이 책의＜西域梵字悉曇章＞에서 “梵字에 이르러서는 혹 말하기를 釋迦如來가 지은 것이라고도 하지만 이는 알 수 없다. 그러나 우리 나라 정음의 연원은 대체로 여기에 바탕을 둔 것이니 끝내 범자의 범위를 벗어나지 못한다”라고 하여 李睟光의 뒤를 이어 정음의 ‘梵字起源說’을 다시 주장하였다. 이어서＜자모변＞에서는 한자음의 화음과 동음의 차이를 대조하여 동음의 체계를 밝히려 하였다.＜자모변＞은 음운학의 소개와 字母·韻母의 세 부분으로 되어 있으며 간결한 서술이지만 그 내용은 정밀하고 깊이가 있다고 평가된다.

　본격적 운서로서 정조 欽定의≪奎章全韻≫(1792)을 들지 않을 수 없다. 이 운서는 徐命膺·李德懋 등이 명의≪音韻集成≫에 의거하여 편찬한 것인데 한자를 四聲四段으로 배열하고 화음과 동음을 병기하였다. 한자음은 대체로≪華東正音≫의 음계를 따랐으며≪삼운성휘≫처럼 가나다순으로 열거하여 이용에 편리하도록 하였다. 이 운서는 국내외에서 많이 중판되었으며≪御定詩韻≫이란 이름의 袖珍本으로도 간행되었고, 색인 겸 옥편식으로 재편한≪全韻玉篇≫(2권)은 이 운서의 자매편이라고 할 수 있다.

　이외에도 18세기 말에 정음에 대한 연구가 계속되었는데, 도교를 전공한 琴榮澤은 그의≪晩寓齋集≫(권 3)의＜諺文字音起例＞에서 훈민정음에 관한 연구를 남겼다. 그는「成音」에 관련하여 낱자 ‘ㄱ, ㄴ, ㅏ, ㅓ’ 등을 劃 또는 聲이라 하고, 성음 ‘가나다’ 등을 字·音으로 구별할 것을 주장하였다.＜五音初聲＞에서는 구개음화현상에 대하여 언급한 것이 특기할 만하다.

　이 시대의 정음연구는 불가에서도 있었다. 송광사의 승려로서 梵語를 학습한 龍巖增肅과 그의 제자인 白巖人俶公은 종래의 진언을 바로잡아≪重刊眞言集≫을 편찬하여 정조 2년(1777)에 간행하였다. 萬淵寺에서 간판한 이 책은 종래의 진언집과 같이 권두에 ‘諺本十六字母’가 실려 있으며 주목할 만한 것은≪삼운성휘≫에서 주장된 ‘ㅘㅝ合中聲’을 ‘合中聲獨用二字’라 하여 종래의 10개 중성에 추가하였다. 그리고 범례 제5조에서는 ‘ㅿ, ㅇ’를 ‘ㆁ’으로 통합하여 ‘初聲獨用六字’로 할 것을 주장하였으며 초·중성 16자모만을 인정하였다. 이 견해는 정조 23년에 간행된 望月寺판≪중간진언집≫에서도 동일하였다.

　이덕무는≪靑莊館全書≫(권 54∼61)의＜盎葉記＞(권 1)에 수록된 훈민정음에서≪훈민정음≫의 鄭麟趾 後序에 보이는 古篆文字 기원설을 지지하고, 이를 成文起一圖와 관련하여 실증적으로 입증하려고 노력하였다.

　19세기에 들어와서도 문자와 음운에 관한 연구는 계속되었다. 玄同 鄭東愈의≪晝永編≫(1806)은 모두 2권으로 되었고, 권1에서는 葡萄牙語 등 외국어의 어휘 100여 개가 수록되어 이채롭다. 정동유는 정제두의 학풍을 이어받은 소론파의 실학자로서, 서양의 문자에 대하여도 언급하고 훈민정음이 세계적으로 훌륭한 표음문자임을 주장하였다. 그는 초성이 23자모로서 족하며 받침에 대하여는 훈민정음의 ‘終聲復用初聲’을 주장하였다.

　19세기 최대의 정음연구가로 西坡 柳僖를 들 수 있다. 정동유와 더불어 소론파의 유학자인 유희는 매우 박학하여≪文通≫100권을 저술하였는데 이 가운데＜諺文志＞(권 19)는 정음연구에 관한 것이다. 이＜언문지＞는 그의 스승인 정동유와 더불어 정음에 대하여 강론하기를 수개월 만에 저술한 것이 있었으나 이를 분실하고 20년이 지난 순조 24년(1824) 5월에 다시 한 책을 이룬 것이라고 그의 서문에서 밝혔다. 유희는 하곡 정제두의 학풍을 이어받은 것으로 보인다.＜언문지＞에는 하곡의 문인 가운데 하나인 圓(員)嶠 李匡師의≪圓嶠集≫에 언급된 운학의 이론이 인용되었는데, 유희의 스승인 정동유가 원교의 아우인 月巖 李匡呂의 문하생이었기 때문이다.＜언문지＞는 序·初聲例·中聲例·終聲例·全字例로 나뉘어졌고 초성례에서 정동유의 23자모에 脣輕音 2母(ㅸㅹ)를 추가하여 ‘柳氏校定初聲二十五母’를 만들었다. 중성례에서는 ‘柳氏校定中聲’으로 ‘正例 15形’과 ‘變例 1形’의 도합 16형을 인정하였는데, 이것은 훈민정음의 11중성에 ‘ㅘ, ㅝ, ᆄ, ’의 4형을 추가하여 정례 15형을 만든 것이고, 변례 1형은 ‘딴이의 ㅣ’를 첨가한 것이다. 종성례에서는 ‘柳氏校定終聲’으로 ‘正例 6韻’, 즉 3平(ㆁㄴㅁ)과 3入(ㄱㄷㅂ)을 들었으며 변례(ㄹ) 하나를 더하여 모두 7종성을 인정하였다. 또한 문자의 기원과 관련하여,＜언문지＞에서는 ‘전자례’의 “언문은 비록 몽고에서 시작되었으나 우리 나라에서 완성되었으며 실로 세간에서의 至妙한 것이다”라는 기사와 ‘초성례’의 “세종 때에 사신에 명하여 蒙古字樣에 의거하고 明學士 黃瓚에게 질문하여 지은 것이다”라는 기사를 통하여 이익의 몽고문자 기원설을 지지하였다.

　유희 이후 갑오경장까지의 사이에는 단편적으로 우리 어음이나 문자에 대하여 언급한 학자가 몇몇 있을 뿐이다.≪諺音捷考≫(2권 1책)는 헌종 12년(1846)에 詩谷病夫(또는 石帆)가 우리말의 소리나 한자음을 구별하기 위한 편람으로 만든 필사본이다. 여기서는 ‘ㅏ’와 ‘’의 음가를 구별하고,≪訓蒙字會≫로부터의 자모수의 변동, 초성자 명칭의 변동 등을 언급하였다.

　순조·헌종·철종년간에 생존한 李圭景은 이덕무의 손자로서, 60책에 달하는 방대한 양의≪五洲衍文長箋散稿≫를 남겼다. 여기에는＜諺文辨證說＞을 비롯하여, 문자학과 중국음운학 및 어휘분야에 관한 40개 항목이 실려 있다.

　睡菴 鄭允容은 철종 7년(1856)에 10,800여 자에 달하는 한자의 음과 주석을 붙인≪字類註釋≫(2권 2책)을 저술하였다. 그는 이 책의 첫머리에 각종 자모도를 전재하고, 여기에 관련된 자모·반절 등에 관하여 설명하면서, 훈민정음의 우수함을 논하였다. 족숙되는 정동유의≪주영편≫을 참고로 한 면이 많다.

　姜瑋의≪東文字母分解≫는 고종 6년(1869)에 이루어진 것으로 자음자와 모음자 사이의 결합법을 주로 계산한 것이다. 첫머리에서 초성의 制字를 발음기관의 형상과 운동의 상형설로 설명하고 한글의 명칭을 기록하였다. 이어 초중성 合音表를 만들어 세밀히 글자수를 계산하였는데, 그 태도는 유희와 같다. 이 밖의 各自竝書 표기가 옳은 점 등을 주장하였다.

　盧正燮은＜廣見雜錄＞(≪蓮谷先生文集≫권 13 수록, 1885)에서 훈민정음 관계기사를 비롯하여 자신의 의견을 개진하였다.