1880년 10월 1일 병조정랑 유원식이 상소를 올렸다. 그는 수신사 김홍집이 가지고 온 황준헌(黃遵憲)의 책자를 보니 ‘저도 모르게 머리털이 서고 간담이 서늘해지며 뼛골이 오싹하였다’고 하면서 김홍집(金弘集)을 맹렬히 규탄하였다. 이 상소를 신호탄으로 전국 각지에서 김홍집을 공격하는 상소가 쏟아졌다. 김홍집이 가지고 온 책자란 당시 일본주재 청국공사관의 참찬관이었던 황준헌이 지은 『조선책략』을 일컫는 것이다. 조선에게 미국과 외교관계를 맺을 것을 권유하는 내용을 담고 있어서 전국의 위정척사파 유생들의 공격의 대상이 된 것이다. 당시 김홍집은 이러한 반발에 직면하여 부득이 일시 관직에서 물러날 수밖에 없었다. 이처럼 개혁과 개방에 앞장서다 공격을 받는 것이 그에게 주어진 가혹한 운명이었던지 그는 생애의 마지막 순간에도 갑오개혁을 끝까지 책임지다가 친일파로 몰려 비명에 목숨을 잃었다.

고종이 흥선대원군을 제치고 친정(親政)에 나서면서 대외정책의 기조를 바꾸었다. 1876년 강화도조약을 체결하였으며 수신사, 영선사, 신사유람단을 연이어 파견하는 등 적극적인 개화정책을 추진하였다. 그리고 이러한 과정에서 신진 정치세력들이 등장하기 시작하였다.

1880년 제2차 수신사로 일본을 다녀온 김홍집은 그러한 신진 정치세력 가운데 가장 대표적 인물이었다. 수신사를 뒤이어 일본에 파견된 신사유람단에는 훗날 그와 정치적 운명을 같이하게 되는 어윤중(魚允中)이 포함되어 있었다. 신사유람단에는 어윤중 이외에도 훗날 갑신정변(甲申政變)을 일으키는 홍영식(洪英植)도 있었으며 유길준(兪吉濬)과 윤치호(尹致昊)는 수행원으로 참가하였다. 영선사로 중국에 파견된 김윤식(金允植)도 이 무렵 두각을 나타낸 인물이었다. 이들 신진 정치세력을 통틀어 개화파라고 부르는 것이 보통이다.

개화파는 다시 온건개화파와 급진개화파로 분화되었는데 분화의 계기는 1884년에 일어난 갑신정변이었다. 갑신정변에 가담한 세력이 급진개화파이고 나머지는 온건개화파인 셈이다. 김홍집은 이 가운데 온건개화파에 속했던 인물이다. 그와 함께 온건개화파로 분류되는 인물로는 어윤중과 김윤식을 들 수 있다.

김홍집 등 온건개화파는 갑신정변에는 가담하지 않았지만 그로부터 10년 뒤인 1894년 추진된 갑오개혁에는 적극적으로 참여하였다. 망명지에서 돌아온 박영효(朴泳孝) 등 급진개화파가 한때 가세하였지만 이들은 여러 사정으로 중간에 탈락하였으며 갑오개혁을 시작부터 끝까지 책임졌던 것은 그를 비롯한 온건개화파였다.

조선이 서양에 처음 직접 문호를 개방한 것은 1882년 체결된 조미수호통상조약(조미조약)부터이다. 이를 통해 조선은 새로운 국제질서에 편입되었다. 조선은 1876년 체결된 강화도조약으로 일본을 통해 세계자본주의 체제에 편입되었지만 아직은 간접적인 것이었다. 당시 조선 사람들은 이를 전통적인 교린(交鄰)관계의 회복이라고만 생각하였다. 따라서 본격적인 의미에서 서양에 문호를 개방한 것은 1882년의 일이라고 할 수 있다. 그리고 이러한 물꼬를 튼 인물이 바로 김홍집이었다.

1880년 3월 조정에서는 예조참의 김홍집을 제2차 수신사로 임명하였다. 그는 윤웅렬(尹雄烈), 이용숙(李容肅), 지석영(池錫永) 등 58명의 수행원과 함께 일본에 건너가 시찰하고 돌아왔다. 그는 현지에서 일본 주재 청국공사인 하여장(何如璋)과 여러 차례 회담을 하였는데 이 자리에서 청국 측은 조선이 미국과 수교할 것을 강력히 권고하였다. 김홍집은 귀국할 때 황준헌이 작성한 『조선책략』을 가지고 들어와 청국이 권고한 사항을 고종에게 보고하였다. 『조선책략』의 요지는 조선은 러시아 세력의 진출을 막기 위해서 친중국(親中國)하고 결일본(結日本)하며 연미국(聯美國)하여야 한다는 것이다. 이것은 조선 조정에서 서양과의 직접적인 문호개방이 공식적으로 거론되는 첫 순간이었다. 고종도 그가 보고한 취지에 동의하였고 조선책략을 널리 배포하라는 명을 내렸다.

하지만 『조선책략』은 큰 파문을 일으켰다. 병조정랑 유원식의 상소를 시발점으로 이를 규탄하는 상소가 물밀듯이 밀어닥쳤다. 경상도에서는 만 여 명의 유생이 서명한 이른바 만인소(萬人疏)가 올라왔으며

홍재학(洪在鶴)은 강경한 위정척사상소를 올린 탓에 처형당하기도 하였다. 이렇게 1881년에 제기된 신사척사론(辛巳斥邪論) 때문에 그는 한때 관직에서 물러나야만 하였다.

고종은 이러한 와중에도 대미 수교라는 정책적 기조를 그대로 고수하였다. 이듬해 신사유람단의 일원으로 일본으로 건너가는 어윤중을 통해 하여장(何如璋) 공사에게 미국과 수교할 뜻을 밝혔다. 어윤중으로 하여금 아예 중국 천진으로 건너가 영선사로 그곳에 머무르고 있던 김윤식과 함께 청국의 북양대신 이홍장(李鴻章)과 그의 막료이자 해관총독이었던 주복(周馥)을 통해 이 문제를 구체화하도록 하였다. 이러한 사전 작업을 바탕으로 1882년 4월 제물포에서 조미수호통상조약이 체결될 수 있었다. 이 조약의 체결 당시 조선측 전권대관은 과거 강화도조약 체결 당시 수석대표를 맡았던 신헌(申櫶)이었지만 전권 부관을 맡았던 인물은 바로 김홍집이었다. 그가 실무 책임자였던 셈이다. 이렇게 그는 자신이 물꼬를 튼 조미조약의 최종적인 마무리까지 담당하였다.

김홍집이 제2차 수신사로 일본에 건너가 수행한 역사적 역할은 대미수교의 물꼬를 트는 것이었지만 본래의 임무는 이것이 아니라 일본과 관세 문제를 해결하는 것이었다. 1876년 체결된 강화도조약에는 관세에 관한 규정이 없었다. 당시 조선 정부는 조약이라고 하는 근대적 외교형식에 생소했기 때문에 이를 포함시키지 않았다. 따라서 외국과 거래하는 국내 상인에게 세금을 부과하는 전통적 방법을 이 조약이 체결된 이후에도 그대로 시행하려 하였다. 이에 대해 일본이 조약에 위배된다고 강력히 항의하는 바람에 세금을 거두지 못하고 있는 형편이었다. 일본과 관세 문제를 해결하는 것이 제2차 수신사에게 부여된 가장 시급한 외교적 과제였다.

김홍집은 일본에 도착하자마자 교섭에 들어갔지만 일본은 쉽사리 응하지 않았다. 오히려 강화도조약에서 약속한 인천 개항을 서둘러 이행하라고 요구하고 나섰다. 청국 공사는 당시 일본 자신이 서양과의 불평등조약 개선을 위해 교섭하고 있으니 이를 거론하면 효과가 있을 것이라고 조언하기도 하였다. 하지만 김홍집은 일본에 머무는 기간 안에 이 문제를 타결 짓지 못하였다. 인천을 개항하는 문제는 그해 연말 조선을 방문한 하나부사(花房義質) 변리공사와 사이에 타결되었지만 관세 문제는 시간이 더 필요했다.

관세 문제 해결의 실마리는 1882년 체결된 조미수호통상조약에서 풀리기 시작했다. 이 조약에 사치품 30% 일용품 10%의 관세를 부과할 수 있는 조항이 포함되었기 때문이다. 조선 측은 이 조약을 근거로 일본을 압박하기 시작했다. 조정에서는 조미조약이 체결되고 보름 뒤인 4월 19일 김보현(金輔鉉)과 김홍집에게 일본과 관세 문제를 교섭하기 위한 전권을 부여하였다. 하지만 이때도 이 문제는 바로 타결되지 못했고 결국 조미조약이 체결된 이듬해인 1883년 일본과 조일통상장정(朝日通商章程)을 맺으면서 여기에 관세 조항을 포함시키는 방식으로 해결할 수 있었다.

김홍집은 조미수호통상조약과 일본과의 관세 문제 등 주로 외교 현안을 도맡아 해결하면서 조선의 외교전문가로 자리 잡았다. 따라서 1880년대 초 외국과의 교섭은 거의 모두 그가 전담하다시피 하였다. 조미수호통상조약이 체결된 후 영국과 독일과도 연이어 수교 교섭이 시작되었다. 그 결과 4월 21일 영국과의 사이에 조영수호통상조약이 조인되었고 5월 15일에는 독일과의 사이에 조독수호통상조약 12개조가 의정되었다. 이 두 조약 때는 조미조약 때와는 달리 전권대신이 신헌이 아니라 조영하(趙寧夏)였지만 부관은 여전히 그가 맡았다.

1880년대 초에는 임오군란(壬午軍亂)과 갑신정변이라고 하는 두 차례 정변이 있었다. 이 사건들은 외교적인 문제를 불러일으켰다. 임오군란 때에는 일본공사관이 불타고 일본인이 살해당했으며 갑신정변 때에는 일본군과 청국군이 조선에서 충돌하였기 때문이다. 따라서 두 차례 정변을 수습하기 위해서 외교 교섭이 불가피하였다. 이때마다 항상 동원되는 사람이 바로 김홍집이었다.

임오군란이 일어나자 일본은 군함을 인천에 파견하는 한편 외교적 압력을 가하기 시작했다. 임오군란으로 재집권에 성공한 흥선대원군은 김홍집을 접견대관의 부관으로 임명하여 일본과 교섭을 맡도록 하였다. 청국 군대가 진주하여 흥선대원군이 납치된 이후에도 김홍집은 일본과의 교섭 임무를 계속 수행하였으며 그 결과 7월 15일 이른바 제물포조약이 체결되었다. 김홍집은 일본뿐 아니라 중국과의 외교도 맡았다. 그는 7월 21일 사은사(謝恩使: 임금이 중국의 황제에게 사은의 뜻을 전하기 위하여 보내던 사절) 조영하의 부관으로 중국으로 건너갔다. 그에게 부여된 임무는 흥선대원군의 석방 문제를 교섭하는 것이었다.

그는 임오군란 이후 경기도관찰사로 영전하였지만 1884년 갑신정변이 일어나면서 다시 외교업무로 돌아왔다. 갑신정변이 실패로 돌아가고 난 뒤 일본은 이노우에 가오루(井上馨)를 특명전권공사로 임명하여 또 다시 외교적 압력을 가해왔다. 이때 고종은 그를 전권대신으로 임명하여 이에 맞서도록 하였다. 김홍집은 이노우에와 담판하여 한성조약(漢城條約)을 체결하였다. 여기서는 그가 부관이 아니라 전권대신의 자격으로 서명하였다. 이제 그는 조선 외교의 명실상부한 책임자가 된 것이다.

김홍집은 1894년부터 시작된 갑오개혁을 대표하는 인물이다. 갑오개혁이 시작될 때에도 총책임자였으며 끝나는 순간에도 같은 위치에 있었다. 갑오개혁 당시 그와 정치적 운명을 같이했던 인물이 어윤중인데 그와는 조미조약을 체결할 무렵부터 손을 맞추고 있던 사이였다.

갑오개혁은 일본의 압력에 의해서 시작되었다. 동학농민운동이 일어나자 일본은 조선정부에게 내정개혁을 요구했고 조선정부도 교정청(校正廳)을 설치하는 등 자체적으로 개혁을 시작했다. 하지만 일본은 군대를 동원하여 경복궁을 점령하고 개화파정부를 구성하도록 하였다. 이 개화파 정부는 군국기무처(軍國機務處)라는 기구를 설치하여 갑오개혁을 추진하기 시작했다.

김홍집은 조선 정부가 자체적으로 개혁을 추진하기 위해 세운 교정청에서도 총재관 중의 한 사람이었는데 일본군이 경복궁을 점령한 후 수립된 신정부에 의해서도 군국기무처의 총재관으로 임명되었다. 당시 고종과 일본 모두가 동의한 인물이었다는 뜻이다. 신정부의 또 다른 정치적 실력자로서는 흥선대원군을 들 수 있는데 그도 김홍집에 대해 불만이 없었던 것으로 보인다. 기업으로 치면 주요 대주주들이 모두 동의하여 선임한 최고경영자(CEO)였던 셈이다.

이렇게 김홍집은 갑오개혁의 조타수 역할을 맡았는데 그 경과가 반드시 순탄하지만은 않았다. 우선 1894년 11월 새로 내각에 참여한 박영효와의 사이에 불화가 있어서 일시 내각에서 물러서기도 하였다. 1895년 들어 삼국간섭(三國干涉)으로 왕실과 조정에 친러파가 등장하면서 개화파 정부는 결정적으로 흔들리기 시작하였으며 그도 일시 정치적 주도권을 상실하기도 하였다. 을미사변이 일어난 후 다시 정치적 주도권을 되찾았지만 단발령(斷髮令)을 비롯한 조급한 개혁과 을미사변 처리과정에서 일본의 눈치를 본 것이 문제가 되어 이른바 ‘왜대신’으로 지목되었다. 1896년 2월 아관파천(俄館播遷)이 일어나자 그에 대해 체포령이 내려졌고 성난 군중에 의해 살해되었다.

나라의 근대 개혁을 위해 총대를 멨지만 친일파의 오명을 뒤집어쓴 채 역사의 무대에서 쫓겨난 셈이다. 그는 1910년 6월 30일 규장각대제학(奎章閣大提學)에 추증(追贈)되고 충헌(忠獻)이라는 시호를 받는 등 형식상 명예회복이 되었다. 하지만 이 무렵은 이미 국망 직전이었기 때문에 이러한 조치의 배후에 일본이 도사리고 있었으리라는 의심을 지울 수 없다. 따라서 이 또한 또 하나의 오명일 수 있다.