1919년 2월 27일 길림에서는 여준(呂準)·조소앙(趙素昻)·박찬익(朴贊翊)·김좌진(金佐鎭)·정원택(鄭元澤)·황상규(黃尙奎) 등이 대한독립의군부(大韓獨立義軍府)를 조직하였다. 각 지역 독립운동가 39인이 연명으로 「대한독립선언서」를 발표하였다. 그 후 상해에서 임시정부가 수립되자, 대한독립의군부는 조선독립군정사(朝鮮獨立軍政司, 일명 길림군정사)로 개칭하고 조직을 확대·개편하였다. 그러나 군정사가 조직적 무장투쟁을 전개하기에는 무기와 군자금 등이 부족함을 깨닫고, 소수의 인원으로 효과를 극대화할 수 있는 방안을 모색한 결과 의열투쟁을 전담할 조직을 결성하기로 하였다. 이에 황상규는 1919년 3월 초순, 처조카 김원봉(金元鳳, 호는 若山)을 불렀다. 당시 남경(南京) 금릉대학(金陵大學)에 유학중이던 김원봉은 고모부 황상규를 만난 후, 5월 초 길림성 유하현(柳河縣) 고산자(孤山子)의 신흥무관학교(新興武官學校)에 입학하였다. 이때 김원봉은 황상규가 소개해 준 폭탄기술자 주황(周況)을 동반하였다. 김원봉이 신흥무관학교에 입학한 것은 독립군관이 되기 위해서가 아니라 동지를 규합하기 위해서였다고 한다. 그는 신흥무관학교에서 주황으로부터 폭탄제조기술을 배우는 한편, 동지를 규합하였다. 이때 규합한 동지는 김옥(金玉, 일명 金相潤)·강세우(姜世宇)·이성우(李成宇)·이종암(李鍾岩, 일명 梁健浩)·서상락(徐相洛, 일명 徐永林)·신철휴(申喆休, 일명 申愚童)·한봉근(韓鳳根)·한봉인(韓鳳仁) 등이었다. 이들은 6월경 비밀결사를 조직하여 국내에서 의열투쟁을 감행하기로 결의하였다. 이에 7월 김원봉·이종암은 상해로 가서 구국모험단(救國冒險團) 단원들과 합숙하면서 약 3개월 동안 폭탄 제조와 조작방법을 익힌 후 10월 길림으로 돌아왔다. 김원봉의 귀환을 전후하여 신흥학교 출신 동지들이 길림으로 모였고, 길림으로 망명했던 곽재기(郭在驥)·윤세주(尹世胄, 일명 尹小龍)·윤치형(尹致衡) 등도 합류하였다. 곽재기는 당시 소년단 길림지부장을 맡았고, 윤세주와 윤치형은 밀양에서 3‧1 만세시위를 주도한 후 중국으로 망명하였다. 특히 윤세주는 김원봉의 절친한 고향친구이기도 하였다.

이들은 길림성 파호문(巴虎門) 밖 중국인 반씨(潘氏)의 집에서 폭탄제조법을 습득하였다. 그러던 중, 11월 9일 밤, 이들은 그동안의 준비상황을 점검하고 조직운영 방침과 당면 활동방향을 밤새 논의한 끝에 이튿날인 11월 10일 의열단(義烈團)을 창립하였다.

의열단 창립멤버는 김원봉을 비롯하여 강세우·곽재기·김상윤·배동선(裵東宣)·서상락·신철휴·윤세주·이성우·이종암·한봉근·한봉인 외 1명 등 13명이었다. 그러나 이들 외에 의열단 창립에 직간접으로 관여한 황상규·윤치형·이수택(李壽澤)·이낙준(李洛俊)·권준(權俊) 5명을 추가 창립단원으로 꼽기도 한다. 이들 중 절반은 밀양 출신이었고, 그것도 밀양의 동화학교(同和學校) 동창 또는 선후배 사이인 20대 초중반의 청년들이었다. 때문에 단원들은 대표자를 일컬어 ‘의백(義伯)’이라 불렀는데, 이는 ‘결의자(結義者)들의 맏형’이란 뜻이다. 이들은 창립하면서 공약 10조를 정하였다. 제1은 “천하의 정의로운 일을 맹렬히 실행한다.”였는데, 단의 이름은 ‘정의로운 일을 맹렬히 실행한다.’는 의미에서 따온 것이었다. 공약 제2는 “조선의 독립과 세계의 평등을 위하여 신명(神命)을 희생한다.”로 정하였다. 의백에는 김원봉이 선출되었다.

의열단은 창단 직후 처단 대상으로 ① 조선총독 이하 고관, ② 군부 수뇌, ③ 대만총독, ④ 매국적(賣國賊), ⑤ 친일파 거두(巨頭), ⑥ 적탐(敵探), ⑦ 반민족적 토호열신(土豪劣紳) 등 이른바 ‘칠가살(七可殺)’을 선정하였다. 그리고 파괴대상으로는 ① 조선총독부, ② 동양척식주식회사, ③ 매일신보사(每日新報社), ④ 각 경찰서, ⑤ 기타 왜적(倭敵)의 주요기관 등을 선정하였다. 이 암살과 파괴 대상은 의열단이 처음 범주화한 것으로서, 식민지 지배의 핵심기관인 정치·경제·언론·폭압기구를 파괴하여 식민통치를 무력화하려는 목적이었다.

의열단은 창립 당시 명문화된 강령은 없었다. 다만 “구축왜노(驅逐倭奴), 광복조국, 타파계급, 평균지권(平均地權)”을 최고 이상으로 설정하였다. 이는 항일운동으로 독립국가를 수립한 후 특권계급을 타파하고 토지소유권을 균분하는 등 사회·경제제도 개혁을 통한 평등사회를 실현하고자 하는 의지였다. 이러한 의열단의 목표는 1923년 1월 신채호가 작성한 ｢조선혁명선언｣에서 구체적으로 제시되었다. 이 선언을 계기로 의열단은 테러적 방법과 민중직접혁명을 결합시켜 나갔다.

의열단은 창단 직후부터 거사를 추진하여 1926년까지 11건의 거사를 계획·실행하였다. 특히 창단 직후 의열단은 ‘제1차 암살파괴계획(일명 밀양폭탄사건)’을 대대적으로 준비하였다. 이 계획은 식민통치기관인 조선총독부, 경제수탈기관인 북로군정서회사와 조선식산은행, 언론선전기관인 매일신보사를 일거에 폭파하고 총독 이하 각 기관 수뇌들을 처단하려는 엄청난 규모였다. 사실상 일제 식민중추기관을 총공격하는 것이었다.

1919년 12월부터 추진된 이 거사는 중국의 상해·안동현과 국내의 서울·부산·밀양을 거점으로 무기와 폭탄을 반입하는 등 치밀한 준비를 하였다. 그러나 거사를 한 달 여 앞둔 6월 중순, 서울 인사동(仁寺洞) 중국집에서 경기도 경찰부 경부(警部) 김태석(金泰錫)에 의해 곽재기·이성우·이낙준·황상규·윤세주 등이 체포되고, 윤치형·신철휴·배중세 등도 부산과 마산에서 체포되는 등 의열단원 20여명이 체포됨으로써 실패로 끝났다. 이 계획은 “3‧1 운동 이후 세상의 이목을 가장 놀라게 한 사건”으로 총독부 관계자들의 간담을 서늘케 하였다.

‘1차 암살파괴계획’ 실패 후 체포되지 않은 나머지 단원들은 1차 실패를 교훈삼아 더욱 치밀하고 용의주도한 계획을 세워 2차 거사를 진행하였다. 1920년 9월 의열단은 박재혁(朴載赫)의 부산경찰서 투탄의거를 감행하였다. 이는 의열단이 최초로 성공한 거사로 부산경찰서장이 절명하였다. 박재혁 의거 이후, 의열단은 본부를 북경으로 이전하여 단원을 충원하는 등 조직 기반 재구축에 노력하였다. 그리고 석 달 후인 12월, 3차 거사인 최수봉(崔壽鳳)의 밀양경찰서 투탄의거를 실행하여 영남(嶺南) 일대의 민심을 격동시켰다. 이때부터 의열단의 활동이 본격화되는 시기였다. 4차 거사는 1921년 9월 김익상(金益相)이 조선총독부 투탄의거에 나서 성공을 거두었다. 이 의거는 비록 총독을 암살하지는 못하였으나, 식민통치의 상징인 총독부를 대낮에 잠입하여 폭탄을 던짐으로써 총독부와 일제 군경 내부를 발칵 뒤집어놓았다.

5차 의거는 1922년 3월 상해 황포탄(黃浦灘)에서 전개되었다. 일본 육군대장 다나카 기이치(田中義一)가 상해로 온다는 소식을 들은 의열단은 그를 저격하기로 계획하였다. 다나카는 1920년 10월 간도 한인들을 무참히 살해한 이른바 경신참변(庚申慘變)을 총지휘한 자였다. 그러나 다나카의 저격은 빗나가고 빗나간 총탄에 의해 무고한 미국여성 여행객이 절명하였다. 이로 인해 의열단에 대한 해외여론은 나빠졌으며, 임시정부조차 의열단의 운동노선을 비난하였다. 이에 의열단은 자신들의 투쟁노선에 대한 정당성을 논리적으로 설명할 필요성을 느껴 1923년 1월 ｢조선혁명선언｣을 발표하게 된다.

6차 의거는 1922년 6월 대한민국임시정부 재무총장 이시영(李始榮)과 협의하여 독립운동 자금 조달을 위한 거사로 추진하였다. 김상옥(金相玉)이 중심이 된 이 의거는 총독 사이토 마코토(齋藤實)와 주요 관공서를 폭파하는 것이었다. 그러나 김상옥이 거사를 준비하며 기다리고 있던 중, 1923년 1월 12일 누군가가 종로경찰서에 폭탄을 던지는 사건이 발생하였다. 종로경찰서 투탄사건은 일반적으로 김상옥 의거로 알려져 있으나, 이는 일제가 김상옥을 범인으로 지목한 것일 뿐 그가 실행하였는지 여부는 확실하지 않다. 이 사건으로 인해 김상옥은 일본 군경의 대대적인 체포에 맞서 3시간동안 저항하다 자결 순국하였다.

한편 의열단은 김상옥 의거와는 별도로 1922년 후반 제2차 암살파괴의거(일명 황옥사건)를 추진하였다. 이 역시 1차 암살파괴계획과 마찬가지로 총독부를 비롯한 일제 주요기관 파괴와 총독 등 주요 요인들을 암살하는 것이었다. 이 계획은 고려공산당 당원들과 합작으로 추진되었다. 거사 실행은 고려공산당원 출신의 단원 김시현(金始顯)이 맡았다. 그러나 1923년 3월 당시 경기도 경찰부 고등과 소속 경부(警部)이자 고려공산당 비밀당원이었던 황옥(黃鈺)으로 인해 7차 의거는 실패로 끝났다.

이후 의열단은 중국뿐 아니라 러시아·일본·국내에 지역거점을 확보하면서 활동반경을 넓혀갔다. 1923년 하반기에는 8차 의거인 제3차 암살파괴계획을 세웠다. 이 계획은 중국·조선·일본 등 세 곳에서 동시에 거사를 일으키고, 천황을 포함한 일제수뇌부까지 암살하며, 민중폭동까지 계획한 대담한 것이었다. 그리하여 만주는 안봉선(안동-봉천) 철도 파괴와 연변(沿邊) 교란을 목표로 북경과 천진의 단원들을 중심으로 통의부(統義府)·의군부(義軍府)와 연합하여 추진하였다. 국내는 천도교 계열의 독립운동가들과 제휴하여 진행되었고, 일본은 천황 폭살까지 포함한 총공격을 실행하기 위해 박열(朴烈)이 이끄는 무정부주의자그룹과 공동행동을 밀약하였다. 그러나 9월 1일 일본 관동(關東) 지역에 대지진이 발생하면서 6천 명 이상의 한인이 희생당하는 과정에서 의열단원들도 함께 희생되고 말았다. 또한 박열 역시 천황암살 모의 혐의로 체포되는 등 거사준비는 허사로 돌아갔다. 그러나 의열단은 거사를 계속 추진하기 위해 만주의 사회주의 항일무장단체 적기단(赤旗團)과 제휴하였다. 이들은 1924년 1월경 일본 동경에서 황태자 히로히토의 결혼식을 전후하여 거사키로 하였다. 이에 의열단은 거사자금 마련을 위해 구여순(具汝淳) 등 11명을 국내로 파견하였으나, 밀정의 첩보로 단원들이 잇달아 체포되었다.

9차 의거는 1924년 1월 실행부 단원 김지섭(金祉燮)이 일본 황궁 입구 이중교(二重橋)에서 3발의 폭탄을 던지는 의거로 나타났다. 이 의거는 앞서 언급한 3차 암살파괴계획을 추진 중이던 시점에 일어난 것이었다. 원래 계획은 1924년 초 개최될 일본제국의회 의사당을 급습하는 것이었으나, 김지섭이 도착 후 제국의회가 휴회(休會) 중임을 알고 대신 일본 황궁에 폭탄을 던졌던 것이다. 이 사건은 일본 내각에 경악과 충격을 가져다 준 사건이었다.

한편, 앞서 언급한 3차 암살파괴계획이 자금난 등으로 유예되자, 간부 이종암은 단독으로 일본 동경에서 거사를 실행하기로 결심하였다. 그리고는 거사비용을 마련하기 위해 1925년 7월 귀국하여 경상도 일대에서 군자금 모집활동을 전개하다 11월 초 10여 명의 동지와 함께 경북경찰부에 체포되었다. 이것이 이른바 경북의열단사건이다.

경북의열단사건이 일어난 지 1년 여 뒤인 1926년 12월 28일은 경북의열단사건 결심공판일이었다. 바로 이 날, 단원 나석주(羅錫疇)가 조선식산은행과 동양척식주식회사에 폭탄을 던지고 일본경찰 등 7명을 사살한 뒤 자결하는 거사를 감행하였다. 이것이 의열단의 마지막이자 11차 의거이다.

의열단은 창립부터 7년간 암살과 파괴를 목적으로 투쟁을 전개하였다. 의열단 단원들은 거사를 앞두고는 사진을 찍곤 하였다. 내일을 기약할 수 없기에 그들은 늘 ‘오늘’ 하루가 전부의 삶인 양 자유롭게 살고자 하였다. 이들 의열단원을 지켜본 김산(金山)은 『아리랑』에서 다음과 같이 회고하였다.

“그들은 놀라울 정도로 멋진 친구들이었다. 의열단원들은 언제나 멋진 스포츠형의 양복을 입었고, 머리를 잘 손질하였으며 어떤 경우에도 결벽할 정도로 아주 깨끗이 차려입었다. 그들은 사진찍기를 아주 좋아하였으며-언제나 이번이 죽기 전에 마지막으로 찍는 것이라 생각했다. (중략) 모든 한국 소녀들은 의열단원들을 동경하였으므로 수많은 연애사건이 있었다.”

의열단은 창립 당시 의열투쟁을 통해 일제의 식민지에서 벗어나 독립국가를 건설하고자 하는 자유의지에서 출발하였다. 이러한 목적에서 출발한 의열단원들은 대부분 민족주의자들이었다. 그러나 거사가 거듭되고 의열단의 이름이 널리 알려지면서 1922년부터 단원수가 급증하여 1923년에는 150여 명에 이를 것으로 일제는 파악하였다. 특히 1923년 신채호(申采浩)가 쓴 의열단의 ｢조선혁명선언｣ 이후 의열단은 ‘혁명단체’로 자리매김되었고, 단원들 스스로도 ‘혁명가’임을 자처하였다. 그러나 계속되는 거사로 기존 단원들이 체포되고 이를 충원하는 과정에서 점차 사회주의자와 무정부주의자까지 단원으로 가입하였다. 이러한 단원들의 다양한 이념과 함께 1924년 상해청년동맹회(上海靑年同盟會)와의 논쟁을 통해 의열단의 기존 노선에 비판이 가해지기도 하였다.

이러한 비판에 대해 기존 노선을 재검토한 의열단은 의열투쟁의 한계를 극복하고자 민중의 혁명역량에 기반한 조직적인 무장투쟁노선으로 방향을 선회하였다. 이에 따라 의열단은 1924년부터 중국국민당과 연대를 모색하였고, 1925년에 단장 김원봉은 대중적 무장투쟁 실천을 위해 대다수 단원들을 이끌고 중국 국민혁명의 진원지인 광동(廣東)으로 내려가 중국 국민정부 산하의 황포군관학교(黃埔軍官學校)에 입교하였다. 이후 의열단은 1927년 ｢독립당촉성운동선언｣을 통해 민족통일전선운동의 일환인 민족유일당운동에 참여하였고, 1932년에는 남경(南京)에서 중국국민정부와 제휴하여 조선혁명군사정치간부학교를 개설하여 독립군 양성에 힘썼다.

의열단은 1935년 남경에서 한국독립당·신한독립당·대한독립당·조선혁명당 등 4개 단체와 결합하여 민족혁명당으로 발전하였고, 민족혁명당은 1937년 조선민족전선연맹, 1938년 10월 조선의용대를 거쳐 1942년 한국광복군으로 편입되어 독립운동의 한 축으로 역할을 하였다.