김윤식은 1922년 1월 22일 88세의 나이로 숨을 거두었다. 당시 조선인 사회에서는 그의 장례식을 둘러싸고 자그마한 소동이 벌어졌다. 그의 장례식을 사회장(社會葬)으로 치르자는 주장과 그럴 수 없다는 반론이 대립하였다. 당시 조선청년연합회는 이 문제를 둘러싼 갈등 때문에 분열될 지경이었다. 이렇게 그가 죽고 난 뒤 그에 대한 평가는 엇갈렸다. 김윤식은 온건개화파(穩健開化派)로 평가하는 것이 보통이다. 이것을 가지고 중도적이고 균형잡힌 태도를 취했다고 좋게 말할 수도 있지만, 어중간하고 기회주의적인 태도를 취했다고 나쁘게 말할 수도 있다. 그는 일제의 침략에 대해서도 어중간한 태도를 취했다. 그가 이렇게 어중간한 삶을 살았기 때문에 죽고 난 뒤 사회적 평가도 엇갈렸던 것이다.

김윤식은 1835년 10월 3일 한강변 두호(斗湖)에서 태어났다. 자는 순경(洵卿)이고 호는 운양(雲養)이다. 본관은 청풍으로 대동법을 시행한 것으로 유명한 경세가(經世家) 김육(金堉)의 9대손이다. 어려서 부모를 잃는 바람에 9살 때부터 양근(楊根) 귀여내(歸川)에 위치한 숙부 김익정(金益鼎)의 집에서 자랐다. 그를 길러준 숙모는 연암 박지원(朴趾源)의 손녀였다.

김윤식은 16세 무렵 유신환(俞莘煥)과 박규수(朴珪壽)의 문하에서 들어갔다. 그가 훗날 두 사람의 문집인 『봉서집(鳳棲集)』과 『환재집(瓛齋集)』을 간행하는 일을 맡은 점으로 미루어 이 두 사람을 평생 스승으로 모셨다고 할 수 있다. 유신환은 당시 노론(老論, 조선 후기 붕당의 한 하나)의 대표적인 산림(山林, 벼슬하지 않고 산야에서 수양하는 선비)으로 성리학뿐 아니라 시무(時務)에도 밝은 인물이었다. 그는 김윤식뿐 아니라 남정철(南廷哲)·한장석(韓章錫) 등 수많은 제자를 배출하였다. 민태호(閔台鎬)·민규호(閔奎鎬) 등 민씨 척족(戚族)의 거물들도 그의 문하에서 나왔다.

박규수는 연암 박지원의 손자로서 김옥균(金玉均)·홍영식(洪英植)·박영효朴泳孝)·서광범(徐光範) 등 이른바 개화당(開化黨)을 길러낸 것으로 유명하다. 박영효는 훗날 자신들이 주도한 갑신정변이 박규수 대감의 사랑방에서 배태되었다고 회고한 바 있다. 김윤식을 길러준 숙모가 박지원의 손녀로서 박규수와는 사촌 간이었다. 김윤식은 이른바 온건개화파로 훗날 김옥균 등 개화당과는 정치적 노선을 달리하였지만, 젊었을 적에는 박규수 문하에서 함께 나랏일을 걱정하던 사이였다.

김윤식은 1874년 문과에 급제하였다. 당시 그의 나이가 40세였으니 매우 늦은 편이었다. 당시 시관(試官)은 박규수였다. 황현(黃玹)은 『매천야록梅泉野錄)』에서 시관인 박규수가 그의 필적을 알아보고 발탁하였다고 언급하였다. 그는 과거에 급제한 후 홍문관수찬에 임명된 것을 시작으로 화려한 관직 경력을 쌓아 나가기 시작하였다. 여기에는 유신환 문하에게 함께 공부한 민태호·민규호 형제의 후원도 영향을 미쳤을 것이다.

김윤식은 1881년 영선사(領選使)에 임명되면서 역사의 소용돌이에 휘말리기 시작하였다. 당시 영선사는 무기 제조법을 배우기 위해 청에 파견된 학생과 기술자들을 인솔하는 역할을 맡고 있었다. 그에게 맡겨진 실질적인 임무는 청에 상주하면서 외교 교섭을 담당하는 것이었다.

김윤식이 수행한 첫 번째 과제는 미국과 수호통상조약을 맺는 문제와 관련하여 청과 교섭하는 것이었다. 당시 청은 조선에게 미국과 외교관계를 맺을 것을 권유하면서 이 문제에 대해 깊숙이 개입하고 있었다. 그는 조선에서 파견한 어윤중魚允中)과 함께 북양대신 이홍장(李鴻章)을 여러 차례 만나 조미조약(朝美條約)과 관련된 구체적 내용들을 사전에 조정하였다. 이러한 사전정지작업을 바탕으로 1882년 5월 22일 제물포에서 조선과 미국 사이에 조약이 체결될 수 있었다.

김윤식은 조미조약이 체결된 지 채 한 달이 되기도 전에 다시 한번 중대한 임무를 맡았다. 1882년 6월 9일 조선에서 임오군란이 발생하였기 때문이다. 그는 당시 함께 청에 머무르고 있던 어윤중과 상의하여 청의 군대 파견을 요청하였다. 그는 향도관(嚮導官, 군대의 길잡이 역할을 하는 직책)이 되어 청의 군대를 이끌고 귀국하여 임오군란을 진압하였다.

그는 임오군란이 끝나고 난 뒤 핵심 요직에 발탁되었다. 강화유수와 병조판서 및 외무아문독판 등을 겸직하였다. 그는 강화유수로서 강화에 진무영(鎭撫營)을 설치하고 신식 군대를 양성하였으며, 기기국총판이 되어 신식 무기공장인 기기창(機器廠)을 설치하는데도 힘을 기울였다.

1884년 일어난 갑신정변은 김윤식의 인생을 다시 한번 뒤흔들어 놓았다. 갑신정변 당시 김옥균 등 급진개화파들은 그를 예조판서로 임명하여 개화당 정권에 끌어들이려 하였다. 하지만 그는 이를 받아들이지 않았다. 오히려 김홍집(金弘集) 등과 함께 위안스카이(袁世凱)에게 청의 군대 출동을 요청하여 갑신정변을 진압하도록 하였다.

그는 갑신정변이 끝나고 난 뒤 교섭통상사무아문독판에 임명되어 외교 관련 업무를 도맡아 처리하였다. 당시 조선은 조미조약을 시작으로 영국·독일·러시아와 수호통상조약을 체결하였다. 프랑스와는 가톨릭 선교 문제로 좀 더 시간이 걸렸다. 그 결과 1880년대 후반에 접어들면 서양 주요국과 외교관계가 수립되었다. 외교관계가 확대됨에 따라 여러 외교 현안이 발생하였는데 그가 이러한 외교 현안을 도맡아 처리하였다.

이러한 외교 현안 가운데는 갑신정변 이후 경쟁적으로 도성 안으로 몰려들고 있던 중국과 일본 상인들을 교통 정리하는 일도 있었다. 거문도(巨文島)를 불법적으로 점령한 영국 함대를 철수시키는 일도 처리해야만 하였다. 당시 조선은 청으로부터 심각한 내정간섭을 받고 있었기 때문에 그는 외교업무를 수행하면서 청의 눈치를 살펴야만 하였다.

김윤식은 1887년 5월 면천으로 유배되었다. 표면적으로는 부산첨사가 일본 상인에게 약정서(約定書)를 잘못 발급한 것이 빌미가 되었지만, 실제 이유는 다른 데 있었다. 고종은 새로 외교 관계를 수립한 러시아를 끌어들여 청을 견제하려고 하였다. 이 때문에 당시 고종은 위안스카이와 심각한 갈등을 겪고 있었다. 그는 고종과 원세개 사이의 갈등 속에서 고종의 편에 서지 않았다. 그가 이렇게 애매한 태도를 취했기 때문에 고종이 그를 내친 것이었다.

김윤식은 1894년 6월 강화유수와 교섭통상사무아문독판에 다시 임명되었다. 새로 만들어진 군국기무처(軍國機務處)의 회의원으로도 뽑혔다. 1887년 관직에서 쫓겨났던 그가 갑오개혁이 시작되면서 다시 소환된 것이다. 그는 당시 갑오개혁을 주도하고 있던 김홍집·어윤중과는 과거 조미조약을 체결하는 과정에서 손발을 맞추어본 적이 있었다.

김윤식은 갑오개혁 당시에도 과거 갑신정변 직후와 마찬가지로 외교를 전담하였다. 달라진 점을 들자면 과거에는 청의 간섭을 받았다면, 이제는 일본의 간섭을 받게 되었다는 점이다. 그는 개화파 정부를 대표하여 일본과 합동조관(合同條款)과 공수동맹(攻守同盟)을 체결하였으며, 일본군이 동학군 토벌을 위해 군대를 보내겠다고 제안하자 이에 동의하는 역할도 맡았다. 또한 그는 을미사변 직후 명성황후를 폐위한다는 조칙을 각국 공사관에 통보하는 역할을 떠맡지 않을 수 없었다. 이것이 훗날 그의 발목을 잡고 말았다.

김윤식은 1896년 2월 아관파천(俄館播遷)이 일어나자마자 곧바로 외부대신 자리에서 해임되었다. 갑오개혁을 주도하였던 김홍집은 곧바로 타살되었지만, 그는 피신하여 간신히 목숨을 건질 수 있었다. 하지만 그를 탄핵하는 상소가 끝없이 이어져 결국 1897년 12월 제주도로 유배의 길을 떠나야만 하였다.

제자인 나인영(羅寅永, 나철)이 유배지인 제주까지 동행하였다. 나인영은 훗날 대종교(大倧敎)를 다시 일으킨 인물로 유명하다. 나인영은 이후 1901년까지 3년 동안 그의 곁을 지켰다. 그가 제주에 도착하자 제주의 선비들이 모여들었다. 그는 이들과 함께 귤원시회(橘園詩會)를 조직하기도 하였다. 1901년 제주에서 이재수(李在秀)의 난이 일어나는 바람에 그의 유배지가 전라도에 위치한 지도(智島)로 바뀌었다. 이 무렵 『매천야록』으로 유명한 황현이 이곳으로 찾아와 만나기도 하였다.

김윤식은 1907년이 되어서야 비로소 유배에서 풀려날 수 있었다. 10년 가까이 유배생활을 한 것이다. 일본 정부와 일진회(一進會)가 거듭 그의 사면을 요청하였지만, 고종은 완강히 거부하였다. 결국 이완용(李完用) 내각이 독단적으로 그의 사면을 단행하였다. 유배지에서 돌아온 그는 정치에는 일정하게 거리를 두고 흥사단(興士團) 단장과 기호학회(畿湖學會) 회장 등으로 사회 활동을 전개하였다. 나인영이 대종교를 다시 일으킬 때 참여하기도 하였다.

그는 1907년 이후 본격화된 일제의 국권 침탈에 대해서 분명한 태도를 취하지 않았다. 그는 1908년 이토 히로부미(伊藤博文)와 함께 일본을 방문하는 등 일제에 협력하는 모습도 보여주었다. 항간에서는 그가 일제의 한국 병합이 선포되기 열흘 전인 1910년 8월 19일 열린 어전회의(御前會議)에서 ‘불가불가(不可不可)’라고 하는 매우 아리송한 의견을 제시했다는 이야기가 전해지고 있다.

일제는 한국을 병합한 후 그에게 자작(子爵)의 작위와 함께 5만원의 은사금(恩賜金, 왕이나 윗사람이 아랫사람에게 내려주는 돈)을 주었으며 중추원부의장에 임명하였다. 그가 순응한 덕택에 일제의 한국 병합이 원만하게 이루어졌다고 본 것이었다. 그는 중추원부의장직은 사양하였지만, 작위와 은사금은 순순히 받아들였다. 1916년에는 조선총독부가 그를 과거의 성균관이 이름을 바꾼 경학원(經學院)의 대제학에 임명했지만, 이를 받아들이지 않고 두문불출하였다고 한다.

김윤식은 1919년 3·1 운동이 일어나자 이용직(李容稙)과 연명으로 일본 정부에 독립청원서를 보냈다. 그는 이 사건으로 말미암아 헌병대에 체포되어 재판을 받았으며 그 결과 유죄 판결을 받았다. 하지만 나이가 많았기 때문에 집행유예로 석방되었다. 이 과정에서 자동적으로 자작 작위는 박탈되었다.

당초 김윤식은 3·1 운동을 준비하는 단계에서 최남선(崔南善)으로부터 독립선언서에 서명해 달라는 요청을 받은 바 있다. 박영효·한규설(韓圭卨)·남정철 등도 이러한 요청을 받았다. 당시 그는 이 요청을 완강하게 거절한 바 있다. 하지만 그는 3·1 운동이 시작되고 거족적인 만세시위를 목격하면서 과거의 조심스러운 태도를 떨쳐버리고 독립청원서를 보내게 되었다.

김윤식이 독립청원서를 보내게 된 데는 더 구체적인 이유가 하나 있었다. 항간에서는 3·1 운동 당시 ‘일제가 파리강화회의에 조선인들이 독립을 바라지 않는다는 내용의 문서를 발송했으며 여기에 김윤식이 유림대표로 서명했다’는 소문이 널리 퍼져 있었다. 그는 이 소문이 사실이 아니라는 것을 만천하에 밝혀야만 하였다. 독립청원서는 이 소문이 사실이 아니라는 것을 밝히기 위한 행동이었다. 그는 이로부터 3년 뒤인 1922년 1월 22일 자택에서 88세의 나이로 사망하였다.