발해와 일본은 8세기 초에 교섭을 시작하였으며, 처음 교섭이 이루어진 배경은 양국 모두 신라를 견제하려는 목적이 있었기 때문이었다. 발해는 주변 국가에 고구려를 계승한 나라임을 내세웠고, 자국 중심의 천하관을 외치던 일본 역시 고구려와 이를 이은 발해에 대해 일본의 번국(藩國)이라고 기록했다. 발해는 얼핏 보기엔 정치적·경제적 이익을 위해 일본의 뜻에 순응하는 듯 관계를 이어갔으나, 살펴보면 일본의 의도를 따라준 적 없이 자신들의 길을 가며 정치적으로나 경제적으로 국익을 위해 움직였다. 양국은 외교적 마찰도 있었지만 발해가 멸망할 때까지 친밀하게 교류를 지속했다.

발해와 일본이 공식적으로 처음 교섭한 것은 발해 건국(698년) 후 약 30년이 지난 727년(발해 무왕 10년, 일본 진키[神龜] 4년) 9월, 발해에서 일본으로 첫 번째 발해사(渤海使)가 파견되었을 때이다. 이와 관련하여 720년(발해 무왕 3년, 일본 요로[養老] 4년)에 일본이 말갈국(靺鞨國)으로 사자를 파견하여 시찰했던 기록을 주목하여, 발해와 일본의 비공식적인 첫 접촉은 이 시점이 아니었을까 추정하는 견해도 있긴 하다. 왜냐하면 말갈은 당시 중국 동북부와 러시아 동부 지역에 걸쳐 살던 종족으로, 발해 건국 당시 대부분 발해의 지배를 받았기 때문에 말갈족이 곧 발해인일 가능성이 높기 때문이다. 762년 일본 동북 지방에 세워진 다가죠비[多賀城碑]에 언급되는 ‘말갈국’ 역시 그 증거로 보기도 하는데, 720년 기사와 다가죠비의 말갈국이 발해를 뜻하는지는 좀 더 조심스럽게 접근할 필요가 있다.

고구려가 일본의 전신(前身)인 왜국(倭國)과 교류한 기록이 있고, 발해 지배층의 대다수는 고구려 유민이므로 발해가 이전부터 왜국의 존재를 인지하고 있었음은 분명하다. 정확한 시점은 알 수 없으나 왜가 일본(日本)으로 국명을 바꾼 것이 670년 무렵으로 추정되므로, 720년 일본이 발해의 영향권이라고 할 수 있는 말갈 지역을 탐방한 것을 계기로 발해 조정이 ‘일본’을 제대로 인식하고 교섭하고자 하였을 가능성은 있다.

한편, 발해와 일본은 지리적으로 매우 멀리 떨어져 있고, 통로가 되는 동해는 당시까지도 항해가 쉽지 않은 바다였다. 양국을 오가는 길로는 크게 북회항로, 동해횡단 직행항로, 한반도 연안항로 등 세 항로가 있었다. 발해에서 출발할 때는 보통 북회항로를 이용하였는데, 두만강 하구인 용원부(龍原府) 동경(東京 : 지금의 혼춘현(琿春縣))에서 출발하여 북쪽 연안을 따라 홋카이도[北海道] 방향으로 가서 일본의 데와[出羽]나 에치고[越後]로 건너가는 루트였다. 반면에 일본에서 갈 때는 동해횡단 직행항로를 이용하여, 노토[能登] 부근에서 동해를 가로질러 두만강 하구로 향했다. 양자의 이동 경로가 이처럼 다른 이유는 계절풍과 해류 때문이었다. 발해에서는 보통 북서풍이 부는 가을, 겨울에 일본에 와서 봄에 돌아갔으며, 일본은 대체로 남동풍이 부는 봄에 출발하여 가을, 겨울에 귀국하였다. 이때 표류에 대한 언급이 종종 눈에 띄고 있어, 항해가 그리 쉽지 않았음을 알 수 있다.

그럼에도 불구하고 양국의 교섭이 성사될 수 있었던 배경에는 신라가 있었다. 당시 발해는 당(唐)과 긴장 관계에 놓여 있었기 때문에 당에 우호적이었던 신라를 경계하고 있었다. 일본도 8세기에 계속해서 신라를 견제하고 공격하려는 모습이 확인된다. 신라 역시 발해의 공격에 대비해 장성(長城)을 쌓거나, 일본의 침공을 예상하여 축성(築城)을 한 기록이 있다.

양국 모두 신라를 견제한다는 점에서는 의도가 일치하였지만, 당장 당과 신라의 연합을 경계해야 하는 발해와 달리 일본은 속마음이 어떻든 신라와 교역 면에서 비교적 좋은 관계를 유지하고 있었다. 이러한 입장 차가 발해와 일본의 교섭에 영향을 끼쳤다. 상대적으로 교섭 결렬에 따른 피해가 적었던 일본이 당시 일본 중심의 천하관을 위해 발해를 일본의 번국(藩國)으로 삼고자 했기 때문이다. 이때부터 발해와 일본의 줄다리기가 시작되는데, 그 과정을 살펴보면 다음과 같다.

일본은 중국의 영향을 받아 7~8세기에 자국(自國)을 천하의 중심에 두고 주변 나라를 번국(藩國 : 일명 제후국)으로 인식하는 천하관을 확립한다. 처음 일본이 번국으로 삼을만한 나라는 가까이에 있는 고구려·백제·신라였다. 일본은 삼국의 동의 없이 자신의 입맛대로 삼국을 자신들의 역사서에 번국으로 기록하였다. 발해 역시 마찬가지였다. 일본의 고대 역사서에 기록된 고대 한국 관련 기사를 해석하는데 주의가 필요한 것도 이러한 이유에서다.

발해는 일본에 처음 사신을 보내면서 자신들을 ‘고려(高麗)의 옛 땅을 회복하고 부여(扶餘)의 풍속을 가진’ 나라라고 소개하였다. 또 발해의 왕을 ‘고려국왕(高麗國王)’이라고 소개하고 있는 것도 확인된다. 여기서 말하는 ‘고려’는 곧 ‘고구려’를 뜻하므로, 발해가 스스로 자신들이 고구려를 계승했다고 소개하고 있음을 알 수 있다. 그런데 이것은 발해 혼자만의 주장이 아니었다. 일본은 발해에 국서(國書)를 보내며 고구려에 관한 책인 『고려구기(高麗舊記)』를 근거로 일본을 대할 때 고구려의 선례(先例)를 따를 것을 요구하고 있다. 또 아예 고구려와 발해를 직접적으로 연장선상에서 언급하기도 하였다. 구체적으로 예를 들면, 당시 일본이 발해왕에게 보낸 국서 서두에 “고려국왕에게 문안을 드린다.”는 표현을 썼으며, 발해의 사신 고남신(高南申)을 발해사(渤海使)라고 불렀다가 또 고려사(高麗使)라고도 하였던 사실들을 통해 확인할 수 있다. 또 이때 일본이 발해에 보낸 국서의 내용은 대부분 ‘이전 고구려가 조공해왔듯 발해도 조공하러 왔다’고 전제한 뒤, ‘발해가 보낸 국서가 오만하고 법도를 지키지 않았으니, 올바른 형식을 갖춰 국서를 지참하고 예를 다하라’는 요구로 채워져 있었다. 즉 일본은 발해를 고려의 후예로 인식하고 있었던 것이다.

일본은 고려가 자신들의 번국이었으므로 이를 계승한 발해도 일본의 번국이라고 본 것인데, 이때 일본이 말하는 ‘고려’는 실제 고구려를 의미할 때도 있었지만 고구려 멸망 이후 한반도에 잠시 존속하였던 안승(安勝)의 보덕국(報德國)을 말하기도 하였다. 일본은 발해에게 고려의 옛 관례에 따라 츠쿠시미치[築紫道]를 경유하라고 하였는데, 고구려가 540~668년 사이에 일본에 사신을 22회 파견하면서도 고구려 사절이 츠쿠시미치를 경유한 것은 단 한 차례뿐이었다. 많은 경우는 발해가 자주 이용하던 북회항로의 도착점인 에치고를 통해 일본에 들어갔다. 반면 보덕국[高麗]은 673년~682년 사이에 츠쿠시미치를 거쳐 일본에 사신을 보낸 것이 여러 차례 확인이 된다. 즉 당시 일본 측이 언급하였던 ‘옛 관례’의 고려는 보덕국일 가능성이 크다. 일본은 보덕국[高麗]과의 관계를 선례로 하여 발해에게 고려의 계승국으로서 일본의 번국이 될 것을 요구한 것이다.

이처럼 일본이 발해를 향해 줄기차게 번국으로서 예를 갖출 것을 요구할 수 있었던 이유는 8세기 동아시아의 국제 상황과 관련이 있다. 발해는 당에서 탈출한 고구려 유민들이 모여 세운 나라로, 건국 초만 해도 당과 사이가 좋지 않았다. 또 발해의 남쪽에 위치한 신라는 당과 연합하여 고구려를 멸망시킨 당사자였다. 신라와 당은 나당전쟁을 일으키기도 하였으나, 금세 우호 관계를 회복하였다. 건국 직후라 아직 국가가 안정되지 않은 발해의 입장에서는 당과 신라가 손을 잡고 양쪽에서 협공하는 것이 가장 위협적이었을 것이다. 이 때문에 발해에게 있어 신라의 후방에 위치하며 그 남쪽 국경을 자주 긴장시켰던 일본과의 협력이 중요한 과제였다.

당시 일본은 국가를 정비하고 천황의 위엄을 높이기 위해, 발해와 신라에 신하로서 일본을 섬길 것을 요구하며 무례를 이유로 방문을 거절하기도 하였다.(746년) 그러면서 또 한편으로는 신라 정벌을 준비하기도 하였는데, 758년~760년 사이에는 일본이 신라를 공격하고자 준비하는 기사가 여럿 보이고 드물게 발해에 먼저 사신을 보내기도 하였다. 아마도 신라 정벌 전 발해와의 관계를 돈독히 하고자 했던 게 아닐까 추정되는데, 흥미로운 점은 이 시기에 일본에 보낸 발해의 국서가 다른 시기와 크게 다르지 않음에도, 발해의 무례를 지적하지 않고 사신을 환대하고 있다는 점이다. 즉 일본은 보덕국의 고려와 발해의 고려, 고구려의 고려를 동일선상에 둠으로써 고구려로부터 이어지는 ‘고려’가 자신들의 번국이었음을 강조하여 국격을 높이고, 신라를 공격하는 데에 실제적인 도움도 얻고자 한 것이다.

발해가 직접 기록한 역사서는 현존하지 않아 발해인의 생각을 알기 쉽지 않지만, 일본의 입장에서 일본에게 유리하게 작성된 역사서의 단편적인 내용만 보아도 발해가 실리적이고 자국에게 유리한 부분만을 생각하며 일본과의 외교에 임했음이 보인다.

발해와 일본은 첫 교섭을 시작한 이후 주고받은 국서의 내용 때문에 종종 마찰을 겪었다. 발해가 당으로 사절을 파견할 때 일본의 견당사(遣唐使)를 함께 데려가는 등 일본도 원하는 바가 있을 때는 양국이 부딪히는 일이 크게 없었으나, 그렇지 않으면 언제나 일본의 불만 혹은 지적이 제기되곤 하였다. 대부분 일본이 위고 발해가 아래라는 상하관계를 무시하고 스스로를 하늘의 자손(天孫)이라 참칭하며 일본을 손아랫사람[舅甥]이라 표현하고 하는 등 일본을 대하는 발해의 태도가 무례하다는 지적이었다. 이에 때때로 발해의 사절은 일본에 도착해서 국서의 내용을 일본이 원하는 대로 수정해주기도 하였는데, 이는 일시적인 조치일 뿐 그 뒤에도 계속해서 대등한, 혹은 일본 상위에 발해를 두고 국서를 작성하여 일본에 보냈다. 혹은 아예 국서를 지참하지 않고 사신이 말로 대신 전달하는 편법을 사용하여 마찰을 피했다. 즉 발해는 신라를 견제하기 위해 일본에 먼저 손을 내밀었지만, 결코 저자세는 아니었다.

일본의 불만은 국서 내용 외에도 다양했다. 발해는 일본과의 교섭을 통해 신라 견제뿐만 아니라 상업적인 이득도 얻고자 했다. 발해로부터 일본으로 가는 경로는 매우 멀고 바다에서 표류 되는 경우가 많은 위험한 행로였다. 이 때문에 발해에서는 한 번 사절단을 보낼 때마다 최대한 많은 이익을 얻고자 했던 것 같다. 그리고 이러한 발해의 행동에 일본은 많은 불만이 있었다. 이 시기 일본은 기본적으로 큐슈[九州]의 츠쿠시[築紫]에 있는 다자이후[大宰府]를 통해 국가 간 교섭을 진행하게 하였다. 그런데 고구려나 발해처럼 북방에 위치한 나라에서 츠쿠시를 거쳐 일본의 중심인 기나이[畿内]로 가는 것은 먼 항로로 우회하는 경로였다. 일본은 발해에게도 츠쿠시를 경유할 것을 요구했지만, 발해는 이를 받아들인다고 말하고는 여전히 가까운 북회항로를 이용하여 데와나 노토 등의 지역으로 일본에 들어왔는데, 그 핑계거리로 풍랑을 언급하곤 했다. 일본에선 발해 사신이 간사한 말로 편의를 구한다고 지적하였다. 그러나 사실 일본도 이 요구가 비현실적이라고 생각했음을 알 수 있는 것이, 『일본후기(日本後紀)』에 보면 804년 일본이 노토에 객원(客院)을 설치하였는데, 그 이유가 발해 사신의 숙박을 위함이었다.

발해는 시간이 지날수록 점차 일본에 보내는 사신단의 인원이 늘어갔는데, 아마도 무역의 규모가 점점 커졌기 때문으로 짐작된다. 이 역시 일본의 불만 중 하나였다. 8세기 중반이 지나면 발해는 최소 325명에서 많을 때는 1,100여 명의 인원으로 구성된 사절단을 일본에 보냈다. 일본이 한 번에 20명 이하를 요구한 것에 비하면 어마어마한 숫자였다. 일본이 강경하게 나오는 경우 잠시 인원수를 줄이기도 하였으나 일시적이었다. 일본에 찾아오는 기한에 대해서도 마찬가지였다. 일본은 기한을 단축해달라는 발해의 요청에 따라 기한을 6년으로 단축하여 주었다. 그런데 실제 8세기 발해의 일본 왕래 빈도를 보면 3년에 1회 꼴이었다. 사신이 일본에 머무는 동안의 경비는 모두 일본에서 처리해야 했기 때문에 많은 인원의 사신과 잦은 방문은 일본의 재정을 어렵게 하였다. 그러나 이러한 불만과 어려움에도 일본 역시 말로만 발해의 행동을 지적할 뿐 정작 발해 사신단의 입국을 금지하는 경우는 드물었다. 가끔 수도로의 입경(入京)을 허가하지 않고 돌려보내라고 하는 경우가 있었지만, 발해 사절단의 본래 목적대로 일본에 체류하며 상행위를 하는 데에는 큰 문제가 없었다. 결국 발해는 정치적 목적에서, 그리고 상업적 이윤을 위해 말로는 일본의 뜻에 따른다고 하면서도 결국 본인들이 필요에 따라 일본과의 교섭을 주도하였던 것이다.

이러한 양국의 관계는 9세기 초, 발해와 신라, 일본과 신라의 관계가 달라지면서 발해에게 더욱 유리해진다. 이 무렵 발해와 신라의 관계가 우호적으로 바뀌었다고 보는데, 반면 일본은 799년 신라에 공식적인 사신 파견을 중지하는 등 상대적으로 안정적이지 못하였다. 즉 발해는 8세기와 달리 정치적으로 아쉬울 게 없어진 반면, 오히려 일본은 신라와의 관계 악화로 발해가 아쉬운 처지가 되었다. 당시 일본은 외국 상품[遠物]을 좋아하여 앞다투어 교역할 정도로[必愛遠物 爭以貿易] 귀족들 사이에서 외국 상품이 인기가 좋았으나(참고 : 매신라물해), 9세기 당시 일본에게 있어 국가적으로 정기적이고 안정적인 물품 수입 경로는 발해밖에 없었다. 이를 반영하듯 9세기가 되면 양국의 교류에서 국서에 대한 무례를 언급하는 경우를 거의 찾아볼 수 없게 된다. 발해는 여전히 일본이 요구하는 ‘12년 1회’라는 교섭 기한도, 20명의 인원 제한도 지키지 않았지만 정중히 대접받았다. 이제 발해의 대일본교섭은 정치적 목적보다 상업적 비중이 커져 갔다.

일본 정부가 발해가 가져온 물품을 구매하기 위해 돈[官錢] 40만 냥을 준비할 정도로 일본은 발해에게 있어 큰 고객이었다. 또 일본의 귀족들은 개인적으로 발해사가 머무는 홍려관(鴻臚館)에 가서 교역을 하거나, 자신들의 저택을 불러들이기도 했다. 9세기의 양국 관계는 8세기처럼 정치나 관념적인 문제로 다투는 경우를 거의 찾아볼 수 없고, 일방적으로 발해가 일본에 엄청난 양의 상품을 가져와 판매하는 모습만 확인이 된다.

발해와 일본은 727년 교섭을 시작한 이후 발해가 멸망하는 926년까지, 발해 내 일본도(日本道)라는 길이 있을 만큼 교류가 잦았으며, 안정적인 관계를 유지했다. 『발해국지장편(渤海國志長編)』에 의하면, 이때 양국이 교류한 물품은 다음과 같다. 먼저 발해가 일본에 가져간 물품은 주로 담비·호랑이·곰·표범 등의 가죽류와 인삼·산꿀 등이었다. 또 향(香)과 같이 당이나 서역에서 넘어 온 물건의 중개무역도 했던 것으로 보인다. 반대로 일본에서 발해로 간 물품도 있는데, 대부분이 물품 구매 대금으로 사용한 고급 비단·실(絹, 綿, 絲, 絁, 綵帛) 등의 방직품과 금·은, 그리고 칠기·구슬·빈랑선(檳榔扇) 따위의 수공예품이었다.