‘신소설’이란 명칭은 언제, 누구에서부터 사용되기 시작하였으며, 그 명칭이 의미하는 범주는 어떠한가 하는 점이 자주 논의되어 왔다. 현재까지 밝혀진 것으로는 ‘신소설’이란 명칭이 해외의 작품이 아닌, 우리의 구체적인 작품에 사용된 최초의 예로는 1906년 2월 1일자≪大韓每日申報≫에 실렸던≪中央新報≫발간 광고에 나타난 ‘明月奇緣’의 소개문이었던 것으로 알려져 있다.⁴¹¹⁾이재선, 위의 책, 56쪽. 그 시기는 한국의 근대적 소설의 효시처럼 알려져 온 ‘血의 淚’의 발표보다 앞선 것으로, 이 명칭이 ‘血의 淚’의 작가 이인직의 창안이 아니라, 신문사에 의하여 안출된 것임을 명확하게 보여 준다. ‘신소설’이란 명칭이 처음으로 사용된 작품 ‘명월기연’에 관한 소개문은 다음과 같다.

≪明月奇緣≫은 漢雲先生의 著作인 才子佳人의 相別再會와 一沒一爛에 多情多恨의 態를 現야 趣味津津야 使讀者로 不知厭케  現代傑作의 新小說이오……此欄의 卽 本新報 特色之一也라.

　작품 ‘명월기연’의 소개문에서 ‘신소설’이란 명칭이 사용된 이래, 이 명칭은 오늘날 우리가 개화기 소설의 한 형태를 가리키는 명칭으로 사용하고 있는 것과는 달리 보다 넓은 범주에 걸쳐 사용되었다. 그 구체적인 예로써 역사·전기 소설의 범주에 해당하는 장지연의 ‘국부인전’을 ‘신쇼셜’이라고 명명한 경우를 들 수 있다. 구체적인 역사·전기 소설 작품들을 ‘신소설’로 명명한 경우는 ‘국부인전’에 한정되는 것이지만, 애국·계몽 운동을 전개했던 개화기의 언론인들은 신소설이 계몽적이고 애국적인 내용으로 읽는 이들을 感發시켜야 한다고 역설했다. 그러한 주장을 담아 낸 글들이 박은식이 펴낸 ≪서사건국지≫의 서문(1907)이며≪대한매일신보≫1908년 7월 8일자와 1909년 12월 2일자에 각각 실렸던 ‘近今 國文小說 著者의 注意’와 ‘談叢’ 같은 글들이다. 위와 같은 의식의 연장선상에서 한동안 ‘신소설’이란 명칭은 고전소설과 구별되는, 개화기 소설과 동일한 의미를 가진 것으로 통용되기도 했다. 그러나 신소설 형태의 작품들이 역사·전기 소설과는 물론, 토론체 소설들과도 구별되는 성격을 가지고 있음이 밝혀져 있는 오늘에 있어서 신소설은 이제 더 이상 개화기 소설과 동일한 의미로 통용될 수 없게 되었다.⁴¹²⁾신소설이 곧 개화기 소설일 수 없음을 논한 대표적인 저술들은 다음과 같다.
이재선, 위의 책, 175쪽. 앞의 신소설로써 개화기소설이 전적으로 대표될 수 없다. 이와 전혀 태도를 달리하고 있는 소설의 양식이 있기 때문이다. 그것은 서로 다른 우의(allegory)에 의하여 이루어진 일종의 소설 형식이 존재했다는 점이다. 구체적으로 말하면 안국선의 ‘禽獸會議錄’과 장지연의 ‘애국부인전’이 그것이다. 전자는 동물을 매개로 한 동물 우의소설이며, 후자는 역사적 우의법을 채택한 역사전기소설이다.
조동일,≪한국문학통사 (4)≫(지식산업사, 1986). 이 책의 9－9장 ‘시대적 각성을 위한 산문 갈래‘와 9－10장 ’소설의 판도와 신소설의 위치‘에는 개화기의 산문, 소설 갈래들이 폭넓게 다루어져 있는데, 그 갈래들에는 역사·전기 문학, 몽유록, 동물우화 형식의 토론문, 시사토론문, 한문소설, 신소설 등이 포함되어 있다(최원식,＜개화기 소설 연구사의 검토＞(김열규·신동욱 편,≪신문학과 시대의식≫, 새문사, 1981). 특히 70년대의 개화기소설에 대한 실증적 연구를 대표하는 이재선은 이미 초창기 연구에서 주목되었지만 그 후 소외된 일군의 소설을 ‘역사전기문학’이라고 명명하여 관심을 환기시켰다. … 이러한 작업으로 지금까지 독점적 지위를 누려오던 신소설의 가치가 상대화되고 축소되는 결과가 나타났다. 윤명구,＜애국계몽기의 소설＞, (감태준 외,≪한국 현대문학사≫, 현대문학사, 1989), 1906년을 전후하여 신문·잡지에 게재된 소설류로는 신소설이라고 칭해지는 소설 외에도 한문소설·토론체소설·역사·전기소설, 그리고 몽유록계 소설 등 매우 다양하였다.

　지난 시기와는 달리 신소설 곧 개화기 소설이라는 등식이 통용될 수 없게된 오늘에 있어서 ‘신소설’이라는 명칭이 의미하는 개념은 무엇이어야 할까. 한 연구자는 그 개념을 명확하게 제시하는 일이 용이하지 않음을 지적한 뒤에,⁴¹³⁾윤명구, 앞의 글(1981). ‘고대소설과 이광수 이후 소설의 중간 단계’, ‘과도기의 소설’과 같은 종래의 개념을 앞세운 뒤, 개화기라는 사회 변동기에 문명 개화라는 새 정신을 담은 소설로서 새로운 소설 미학에 바탕을 둔 소설이라고 제시하였다.⁴¹⁴⁾윤명구, 위의 글(1989).