6세기에 들어오면 加耶를 둘러싼 국제관계가 크게 변하였다. 한강유역을 잃은 백제는 그 보상을 낙동강유역의 가야 땅에서 찾으려 하여 이 지방에 대한 적극적 진출을 꾀하게 된다. 그리고 이와 같은 백제의 움직임은 신라를 자극하게 되었다. 더욱이 백제가 신라를 견제할 목적으로 가야에 대해 강한 야욕을 품고 있던 왜를 끌어들이게 되자 가야 여러 나라는 또 다시 격렬한 국제관계의 소용돌이 속에 빠지지 않을 수 없게 되었다.

　≪일본서기≫권 17, 繼體紀 7년(513) 11월조에 己汶·帶沙 두 곳의 할양 기사가 보이는데 이는 백제가 왜의 지원을 얻어 이곳에 진출한 것으로 보고 있다.²³⁰⁾이 기록에 앞서 繼體紀 6년(512) 12월조에도 왜가 백제에게 上哆唎·下哆唎·娑陀·牟婁 등 이른바 任那 4縣을 割讓했다는 기록이 있다. 그러나 실상은 왜가 이 지역을 백제에게 준 것이 아니라, 백제와 대가야 사이의 영토분쟁으로 보는 것이 옳다. 그리고 己汶·帶沙의 위치에 대하여는 여러 가지 학설이 있으나 기문은 현재의 南原·任實지역, 대사는 河東 일대로 생각된다(金泰植,≪가야제국연맹의 성립과 변천≫, 서울大 博士學位論文, 1992, 120∼143쪽). 아마 대가야는 이 당시 소백산맥 이동지역의 여러 나라를 포섭하여 연맹체를 형성한 후, 소백산맥 서쪽으로의 진출을 도모하여 일시적으로 백제의 남원·임실(己汶)지역의 공격에 성공하였으나, 백제의 반격과 외교적 술책으로 인하여 실패하고 오히려 하동(帶沙)지역까지 위협받게 된 것 같다.

　그러나 이와 같은 백제의 적극적인 진출에 대해 가야 여러 나라의 맹주인 大加耶가 반발한 것은 당연한 일이었다. 법흥왕 9년(522) 대가야왕이 신라에 사신을 보내 혼인을 요청한 것은 바로 백제를 견제하려는 목적으로 신라에 접근하기 위함이라고 생각된다. 신라는 이 제의를 받아들여 伊湌 比助夫의 누이동생을 대가야에 보냈다.

　그 후 신라의 법흥왕은 적극적인 남진정책을 추진하여 재위 11년에는 南境을 순수하여 영토를 개척하였는데, 이 때 가야왕은 법흥왕에게 회견을 요청하였다. 이 때의 가야왕이 대가야의 왕인지 아니면 금관가야의 왕인지는 분명치 않다. 이를 금관가야의 왕으로 보는 학자도 있으나,²³¹⁾李基白·李基東,≪韓國史講座 古代篇≫(一潮閣, 1982), 162쪽.
朱甫暾,＜加耶滅亡問題에 대한 一考察－新羅의 膨脹과 關聯하여－＞(≪慶北史學≫4, 1982). 전후 사정으로 보아 대가야로 보는 견해가²³²⁾千寬宇,≪加耶史硏究≫(一潮閣, 1991), 37∼51쪽.
金泰植, 앞의 책, 143쪽. 타당하다고 본다. 이로 보아 법흥왕 11년(524)까지는 신라와 대가야 사이의 우호적인 관계는 유지되고 있었던 것으로 보인다. 그 이후 이찬 비조부의 누이와 함께 가야지역으로 파견된 신라인 從者 100명의 公服이 문제가 되어 대가야와 신라 사이의 관계가 악화되자, 신라는 한때 동맹을 파기하고 왕녀를 돌려보낼 것을 요구하는 지경에 이르게 되었다.²³³⁾≪日本書紀≫권 17, 繼體天皇 23년 3월. 이러한 요구는 대가야에 의해 거부되지만 신라는 이를 빌미로 8개의 성을 함락시키는데, 이 8城은 昌原 부근에 있던 卓淳國 인근지역에 위치한 것으로 보인다.²³⁴⁾이 때 卓淳國에 인접해 있던 㖨己呑國도 멸망한 것으로 보인다(金泰植, 앞의 책, 202∼208쪽).

　이렇게 가야의 동남부지역에 대한 압력을 가중시킨 신라는 법흥왕 19년에 드디어 김해의 금관가야를 병합하게 된다.

金官國 왕인 金仇亥가 妃와 세 아들 즉 큰아들인 奴宗, 가운데 武德, 막내인 武力과 함께 나라의 보물을 가지고 와서 항복하였다. 왕이 禮를 갖추어 대접하고 上等의 位를 주고, 本國을 식읍으로 삼게 하였다. 아들인 武力은 벼슬이 角干에 이르렀다(≪三國史記≫권 4, 新羅本紀 4, 법흥왕 19년).

　위의≪삼국사기≫에서는 금관가야가 자발적으로 신라에 병합된 것처럼 보이나, 실상은 무력을 앞세운 신라의 침입으로 어쩔 수 없이 항복하게 된 것으로 보인다.≪삼국유사≫에는 다음과 같이 기록하여 가야가 신라의 직접적인 무력 침입을 받았음을 알 수 있다.²³⁵⁾다만≪三國遺事≫의 기록에서 ‘제24대 眞興王’이라고 한 것은 편찬자의 오류라고 생각된다.≪三國遺事≫에는 이 기록에 이어 그 멸망한 연대를 ‘梁 中大通 4년 壬子(법흥왕 19년, 532)’라고 하고 있다.

신라 제24대 진흥왕이 군사를 일으켜 공격해 오므로 왕은 친히 군사를 사용하여 막았으나 적의 수는 많고 이 편은 적어 마주 겨루어 싸워 감당할 수가 없었다. 이에 그의 형제인 脫知爾叱今은 본국에 남겨 두고 王子 上孫卒支公 등이 신라로 들어가 항복하였다(≪三國遺事≫권 2, 紀異 2, 駕洛國記).

　그리고≪일본서기≫계체천황 23년 4월조에도 신라의 장수가 3천의 군대를 이끌고 多多羅原에 머물다가 4村을 초략하고 사람들을 모두 데리고 돌아갔다고 하는데, 이 때에 초략한 4개의 촌 가운데 金官이란 이름이 있는 것으로 보아도 신라의 무력침입은 확실하다고 하겠다.²³⁶⁾다만 繼體天皇 23년은 529년으로 법흥왕 19년(523)보다 3년 앞이다. 따라서 529년에 이사부의 침입이 있었고 이보다 3년 뒤에 정식으로 신라에 항복한 것으로 보기도 한다. 또 이 기록에 신라 장수의 이름을 伊叱夫禮智干岐라고 하였는데 이는 異斯夫의 일본식 표기로 보인다.

　이 때 신라는 투항한 금관국의 지배계층을 상당히 우대하는 조처를 취한 듯하다.≪삼국사기≫에서는 금관국의 왕인 仇亥에게 본국의 땅을 식읍으로 하사하여 그 지배권을 허용한 것처럼 기록하였으나, 실상은≪삼국유사≫에 보이는 대로 구해의 형제인 脫知에게 금관국의 지배를 맡기고 구해를 비롯한 그의 가족들은 경주로 이주시킨 것이 사실일 것이다. 명목상으로는 복속한 소국의 왕에게 본국을 食邑으로 하사한 것처럼 보여 대외적인 선전효과를 노린 것이고, 실제 내용은 복속국의 지배층을 분산시켜 원활한 지방지배를 꾀했던 것이다. 신라가 이러한 선택을 한 것은 복속 지배층의 최고지배자를 본래의 지배기반으로부터 유리시켜 더 이상 위협세력으로 존재하는 것을 허용하지 않으려는 의도에서라고 보인다. 이러한 방법은 금관국의 경우에서만이 아니고 助賁尼師今代에 복속한 骨伐國의 왕 阿音夫에게 第宅과 田莊을 하사하여 경주에 머무르게 한 것도 동일한 방법을 적용한 예라고 생각된다.

　어쨌든 본가야의 멸망은 가야 여러 나라의 앞날에 결정적인 타격을 준 것이었다. 신라는 이제 낙동강과 남해안의 교통상의 요충지인 김해를 점령하여 가야 여러 나라를 정복하는 데 매우 유리한 고지를 차지한 것이기 때문이다. 그리고 이 때 신라는 지금의 창원지역의 탁순국도 병합하여 남부가야의 여러 나라들은 완전히 신라에 복속되었다.

　이로써 고령의 대가야를 맹주로 하는 가야 여러 나라는 남북 양쪽에서 신라의 위협을 받게 된 것이다. 이처럼 절박한 사정을 당하여 대가야를 비롯하여 阿羅加耶(咸安)·多羅國(陜川) 등의 가야 여러 나라는 다시금 백제와 왜의 힘을 빌려 이에 대처하고자 하였다.≪일본서기≫에는 이들 세력이 541년과 544년 두 차례에 걸쳐 백제의 성왕이 주재한 대책회의에 참석하는 등 부산한 움직임을 보였던 것으로 기록하고 있는데, 이러한 계획은 별다른 성과를 거두지는 못하고 가야연맹이 오히려 백제의 세력권하에 들어갔던 것으로 보인다. 이렇게 가야연맹의 세력이 약화되는 가운데 대가야의 세력 일부는 신라에 투항하기도 하였으니, 진흥왕 12년(551) 왕이 娘城에 순수하였을 때 불러 가야금을 연주하게 하였다는 우륵은 그 이전에 제자들과 함께 신라에 귀화하였던 것이다.

　진흥왕 14년 신라가 백제의 동북부지역인 한강 하류지역을 취하여 신주를 설치하게 되자 백제와 신라 사이의 우호관계는 종식되고, 백제의 성왕은 신라를 침공하여 한강 하류의 실지를 회복하고 신라에 대한 우위를 만회하고자 하는 야심찬 계획을 세웠다. 이 때에 백제는 가야와 왜의 세력을 끌어들여 전면적인 신라의 침공에 나서게 되는데, 여기에는 다수의 가야 병력이 동원되었던 것으로 보인다. 그러나 관산성전투에서 백제 성왕의 죽음으로 인해 백제의 대패로 끝나게 되자, 이에 합세한 가야연맹은 맹방인 백제마저 잃고 고립무원의 처지에 놓이게 되었다.

　한편 관산성전투에서 대승을 거둔 신라는 여세를 몰아 가야지방에까지 손을 뻗쳐 다음해인 진흥왕 16년에는 비사벌(昌寧)에 下州²³⁷⁾≪三國史記≫新羅本紀에는 完山州를 두었다고 하였으나, 地理志 火王郡條에는 下州라고 하였다. 전후의 사정으로 보아 하주가 옳다고 생각된다.를 설치하였다. 비사벌에 자리잡고 있었던 非火加耶는 이보다 앞서 신라에 멸망당했던 것으로 보이고, 이 무렵 안라도 신라의 강압과 회유에 못이겨 신라에 투항한 것으로 여겨진다. 그러나 신라는 즉각 대가야의 공격에 나서지 않고 먼저 한강유역의 북방에 대한 수비를 확고히 하는 데 진력한다. 비사벌주를 설치한 진흥왕 16년에는 북한산에 순수하여 이 지역에 대한 통치를 확고히 하고, 그 이듬해인 17년에는 비열홀주를 설치하여 동북면에 대한 수비를 강화한다. 그리고 18년에는 국원소경을 설치하고, 사벌주를 甘文州(開寧)로 옮겨 한강 하류로의 통행로를 수비하는 데 만전을 기한 것으로 보인다. 그리고 新州를 北漢山州로 옮겨 이 지역에 대한 통치를 강화한다. 이러한 북방에 대한 조처가 어느 정도 확실히 된 다음 진흥왕 22년에 이르러 창녕지역에 진흥왕 및 사방군주가 모여 무력시위를 하고, 다음해에 이사부가 이끄는 군대가 가야연맹의 근거지인 대가야를 기습적으로 공격하여 함락시켰던 것이다. 이 전투에서 斯多含은 어린 나이에도 불구하고 5천 기를 이끌고 선봉에 서서 먼저 성중에 들어가 白旗를 세워 커다란 공을 세웠다.

　이 때 나머지의 여러 가야들도 모두 신라에 병합되었을 것이다. 이렇게 가야 여러 나라들은 신라에 병합되었으나 그 문화와 인물은 신라에 흡수되어 신라문화의 발전에 커다란 역할을 담당하였다. 가야의 악기인 가야금이 신라에 전해져서 신라의 궁중음악으로 채택된 것은 널리 알려진 사실이며, 본가야 왕족의 후예들이 신라의 진골귀족이 되어 영토확장과 삼국통일에 커다란 역할을 하였다. 본가야 마지막 왕인 구해의 아들인 武力과 그의 아들인 舒玄, 그리고 그 아들 김유신 등은 3대에 걸쳐 신라의 중요한 전투에서 커다란 공을 세워 신라가 삼국을 통일하는 데 결정적인 기여를 하였음은 너무나 잘 알려진 사실이다.