정의부는 1924년 11월 24일 만주의 여러 독립운동단체를 통합하여 조직된 단체이다. 1919년 3·1 운동 이후, 만주 지역에는 수십 개의 독립운동단체가 결성되어 일제에 대한 무장투쟁을 전개하였다. 일제는 점차 활발해지는 독립운동을 봉쇄하기 위해 1920년 토벌 작전을 실행하여, 독립군의 근거지를 파괴한다는 미명 하에 마을을 파괴하고 한인들을 학살하는 이른바 경신참변을 자행했다. 또한 중국 동북군벌의 탄압과 중국 마적단의 약탈마저 이어져, 만주 지역의 한인사회는 생계를 유지하기 어려운 불안정한 상태에 있었다.

불안정한 상태에 있던 것은 독립운동의 기반이 되는 만주의 한인사회뿐 아니라 독립운동가들의 상황 역시 마찬가지였다. 만주의 독립운동단체는 경신참변 후 독립운동의 기반을 재건하는 데 총력을 기울였다. 독립전쟁 전선의 재정비를 위해서는 과거의 분산적인 활동보다 통합된 활동이 필요함을 깨닫고, 독립운동가들은 1922년 통합 조직으로서 대한통군부(大韓統軍府)를 결성하였다. 이어서 1922년 8월에는 통군부를 보다 확대한 조직으로 통의부(統義府)를 결성하였다. 그러나 통의부 내에서 공화주의와 복벽주의 세력 간의 노선 충돌이 생겨나, 결국 복벽주의 세력이 이탈하여 의군부(義軍府)를 따로 조직해 나갔다. 또한 통의부와 의군부 간의 무력 충돌에 실망한 통의부 내 의용군 소대가 탈퇴하여 임시 정부 군무부 산하의 참의부(參議府)에 합류하였다. 즉 서간도 지역의 통합 조직으로 탄생했던 통의부는 여러 갈래로 분열되고 만 상태였다.

또한 당시 만주의 독립운동가들 사이에서는 3·1 운동 이후 상해에서 결성된 대한민국 임시 정부의 방략에 대한 갈등이 고조되어 있었다. 대한민국 임시 정부가 역점을 두었던 외교를 통한 독립 쟁취가 허사로 돌아갔을 뿐 아니라, 독립군에 대한 지원 문제 등 여러 갈등이 불거진 것이다. 따라서 독립운동가들은 대한민국 임시 정부의 존속문제를 두고 임시정부의 해체를 주장하는 창조파와 개편을 주장하는 개조파로 갈라지게 되었다. 1923년 1월에는 국민대표회의가 개최되어 이 문제가 논의되었으나 결론이 나지 못한 채 회의가 결렬되기에 이르렀다.

만주의 독립군 지도자들은 원래 국민대표회의를 통해 다시금 결속을 꾀하려 했었으나, 국민대표회의가 결론을 내지 못하고 결렬되자 별도로 통합 독립운동단체의 결성을 추진하였다. 통의부가 분열한 이래 각 단체가 무력 충돌을 빚는 상황을 염려한 양기탁(梁起鐸)은 서간도 지역의 독립군 지도자들인 이장녕(李章寧)·지청천(池靑天)·손일민(孫逸民) 등을 설득하여 전만통일회주비회(全滿統一議會籌備會)를 조직하였다. 이장녕을 회장으로 선출한 전만통일회주비회는 1924년 7월 10일 주비회 발기회를 개최하였는데, 여기에는 군정서, 길림주민회, 대한광정단, 대한독립군, 대한독립군단, 대한통의부, 노동친목회, 의성단의 단체 대표가 참여하여 만주 독립운동단체의 재통합을 결의하였다.

발기회에 참가한 이들 각 단체의 대표들에 더하여, 학우회·변론자치회·고본계(固本契) 등의 단체가 더 참여한 가운데 1924년 10월 전만통일회 본 회의가 개최되었다. 회의가 진행되는 동안 대한 독립군과 학우회는 입장 차이로 탈퇴하고, 8개 단체의 대표 25명이 1924년 11월 24일 독립운동 연합단체인 정의부(正義府)를 결성하였다.

1924년 11월 24일 군정서, 길림주민회, 대한광정단, 대한독립군단, 대한통의부, 노동친목회, 의성단, 잡륜자치회, 고본계 8개 단체의 대표 25명은 정의부를 탄생시키고 헌장과 선언을 발표하였다. 정의부가 발표한 선언은 경제와 산업·교육에 힘쓰고, 독립을 위해 광복 대업을 완성하고자 노력한다는 내용으로, 불안정한 상태에 있던 재만 한인사회와 독립운동 전선을 연합 단체 결성으로 복구하려 한 것이다. 전만통일회는 ‘1) 기관의 명칭은 정의부라 한다. 2) 연호는 개국기원을 쓰기로 한다. 3) 제도는 의회기관으로 구의회·지방의회·중앙의회를 둔다. 4) 헌장은 6장 88조로 통과시킨다. 5) 각 단체는 명의 취소 성명서를 작성하여 각 단 대표가 연서하여 공포한다. 6) 각 단의 사무는 본회 폐회일로부터 만 2개월 이내에 정의부로 인계한다. 7) 정식 중앙행정위원회가 성립되기 전 임시로 정무를 집행할 임시행정집행위원회를 설치한다.’ 등을 결의문으로 발표하였다.

정의부의 조직은 중앙조직과 지방조직, 군사조직으로 나눌 수 있다. 1925년 3월 정의부는 유하현(柳河縣) 삼원포(三源浦)에 중앙행정위원회를 비롯한 중앙조직을 구성하였다. 중앙행정위원장 이탁(李鐸)을 비롯하여 각 부의 위원장으로 민사 현정경(玄正卿), 선전 이종건(李鍾乾), 재무 김이대, 군사 지청천, 법무 이진산(李震山), 학무 김용대(金容大), 교통 윤덕보(尹德甫), 생계 오동진(吳東振), 외교 김동삼(金東三)을 임명하였다.

이처럼 정의부는 조직을 갖추고 자치활동과 군사활동을 전개해 나갔는데, 정의부에 참여했던 이상룡(李相龍)이 1925년 7월 대한민국 임시 정부의 국무령(國務領)으로 추선된 사건을 둘러싸고 정의부 중앙조직이 와해되는 문제가 발생했다. 임시 정부 지지 세력은 정의부를 구성한 단체 중 하나인 통의부에서 이탈하여 참의부를 조직한 바 있었고, 정의부 조직을 위해 모였던 전만통일회에서도 임시정부에 대한 지지문제를 둘러싸고 대립했던 일이 있었다. 그런데 1923년 국민대표회의의 결렬 이후 만주 사회에서 임시 정부의 지도력은 크게 떨어져, 정의부 지도부는 대한민국 임시 정부와 관계가 좋지 못한 상태였다. 따라서 정의부 인사 중 일부는 이상룡의 임시 정부 국무령 취임을 비난하였으며, 이러한 의견 차이로 정의부의 중앙행정위원회와 중앙의회가 서로 불신임하며 와해되기에 이르렀다.

행정과 입법 두 기관의 와해로 기능이 마비된 사태를 수습하기 위해, 정의부 중앙의회 상임위원장 이해룡(李海龍)의 명의로 1926년 1월 군민대표회(軍民代表會)가 개최되었다. 군민대표회는 정의부 헌장을 새롭게 개정하여 공포하고 새로 중앙행정위원을 선출하였다. 이 때 군인파 세력이 지도부를 장악하면서 무장항쟁이 중시되었다가, 이후 1926년 10월 제3회 중앙의회가 개최되면서 군민대표회에서 민정으로 복구되었다.

정의부의 지방조직은 남만주의 한인사회를 관할하였다. 이는 통의부가 관할하던 지방조직을 이어받은 것으로, 통화·환인·흥경·관전·집안·임강·장백·유하 등 8개 현에 설치되었다. 정의부의 관할지역은 1926년에는 더욱 늘어나 지역내 한인은 15,300여 호에 76,800여 명이 거주하였다. 이들을 기반으로 각 지역에 총관을 설치하고 하부에 지방과 구 등을 조직하였다. 이러한 지방조직을 바탕으로, 정의부는 재만 한인사회의 현지 정부로서 준국가적인 자치체의 성격을 지녔다.

정의부의 활동은 민정활동과 군사활동으로 나누어 살필 수 있다. 간도 지역의 독립운동단체는 모두 재만 한인사회의 자치활동을 이끌면서 독립운동의 기반을 육성하는 동시에 무장투쟁활동을 전개하였다. 특히 정의부는 성립 초기부터 재만 한인들의 불안정한 경제 상태를 개선하는 데 중점을 두었다. 재만 한인사회는 독립운동의 바탕이 되기 때문에, 독립을 성취하려는 목적으로 위해서도 관할민의 생활 향상 및 질서의 유지를 통한 농업·상업의 진흥과 교육에 전력한 것이다.

따라서 정의부는 일차적으로 산업부흥활동, 그 중에서도 농업 문제에 관심을 기울였다. 농업부양책으로 공동농업을 위한 공농제(共農制)와 호계제(戶鷄制)를 실시하여 공농 수익금을 마련하고 이를 관할민에게 농업자금으로 대부해 주는 사업을 펼쳤다. 또한 농촌에 공회를 설치하여 한인들이 상부상조하는 정신으로 산업을 키울 수 있도록 하였다. 유한농업공사를 설립하기 위한 계획을 세우고, 농장 사업에 투자하며, 농업조합 형태의 농촌 경영 모델인 농민호조사(農民互助社) 결성사업을 추진하는 등 정의부는 여러 방면으로 산업부흥활동을 전개하였다.

정의부는 재만 한인의 민족적 역량을 강화하기 위하여 교육활동에도 힘썼다. 보통교육을 실시하여 의무교육기관으로서 남녀공학의 초등학교를 설립하였다. 또 화흥중학(化興中學), 동명중학(東明中學)를 설치하고, 화성의숙(華成義塾)을 두어 혁명간부를 양성하였다. 학교에서 사용할 교과서 편찬을 추진하며 교육제도 개혁, 학교의 증설 등을 결의하기도 하였다. 교육뿐만 아니라 한인들의 민족의식을 고취하기 위한 언론 활동에도 힘을 기울여, 『정의부공보』, 『중앙통신』, 『전우』, 『대동민보』, 『신화민보』등 여러 매체를 발간하였다.

이와 같은 자치활동을 바탕으로 정의부는 독립무장투쟁을 전개했는데, 특히 1926년 1월 군민대표회 결성 이후 국내진입 유격전과 만주 내의 일제 통치기관 파괴 활동을 활발하게 시행하였다. 초기에 정의부는 관할민의 경제적 기반을 마련하게 하려는 민정활동에 치중하여, 군사조직의 경우 기존의 통의부 의용군을 기반으로 한 편제를 유지하였다. 통의부 의용군을 근간으로 서로군정서·의성단·광정단 등의 무력을 합세하여 5개 중대와 헌병대의 체계를 두었다가, 군민대표회 이후 무장투쟁을 강화하면서 새롭게 6개 중대로 군사조직을 편제하였다. 이와 같은 군사조직을 바탕으로, 정의부 의용군은 국내로 진입하여 유격전을 펼치는 무장활동을 수행했다. 만주 내에서는 군자금을 모집하고 친일 부역자를 암살하며 관할 한인을 보호하는 활동을 전개하였다.

1920년대 중반 조직된 정의부·참의부·신민부의 이른바 3부는 만주 지역의 한인사회를 분할하여 통치하였다. 이 3부를 통합하고 좌우익의 민족운동을 합작하여 단일 전선을 형성하려는 움직임이 생겨났는데, 특히 정의부는 앞장서서 3부 통합을 통한 민족 유일당 운동을 전개하였다. 민족 유일당을 성립시키기 위한 정의부의 노력은 1926년 3월 정의부의 지도급 인사였던 양기탁·현정경·오동진 등이 고려혁명당을 조직한 것에서부터 엿볼 수 있다. 그러나 고려혁명당은 당내 민족주의자와 사회주의자 간의 이념대립이 이어지고 오동진 등이 일제에 체포됨으로써 해체되었다.

1926년 10월 북경에서 한국독립 유일당 북경촉성회가 창립되어 민족운동단체의 합작을 논의한 데 이어, 각지에서 민족 유일당 운동을 전개하는 회의가 개최되었다. 만주의 독립운동단체들은 유일당 구성문제를 토의하던 중, 기성단체를 부정하는 전민족유일당조직촉성회와 기성단체 본위를 주장하는 전민족유일당조직협의회로 분열되었다. 이 때 정의부는 협의회 지지를 표명하고, 단체를 본위로 한 민족 유일당 운동에 앞장서서 전민족유일당협의회를 이끌었다.

1928년 9월에는 정의부가 참의부와 신민부에 연락을 취하여 3부 통일회의를 개최하고 통합 운동을 벌였다. 3부 통합운동은 완전 연합에는 실패하였으나 정의부와 신민부의 민정파, 참의부의 일부세력을 합쳐 정의·참의·신민의 3부를 해체하고 1929년 4월 1일 국민부(國民府)를 조직하는 결실로 이어졌다.