光和元年（178年），曹操因堂妹夫濦強侯宋奇被宦官誅殺，受到牽連，被免去官職。其後，在洛陽無事可做，回到家鄉譙縣閒居。
光和三年（180年），曹操又被朝廷徵召，任命爲議郎。此前，大將軍竇武、太傅陳蕃謀劃誅殺宦官，不料其事未濟反爲宦官所害。曹操上書陳述竇武等人爲官正直而遭陷害，致使奸邪之徒滿朝，而忠良之人卻得不到重用的情形，言辭懇切，但沒有被漢靈帝採納。爾後，曹操又多次上書進諫，雖偶有成效，但東漢朝政日益腐敗，曹操知道無法匡正。
曹操雕像
曹操雕像
中平元年（184年），黃巾起義爆發，曹操被拜爲騎都尉，受命與皇甫嵩等人合軍進攻潁川的黃巾軍，結果大破黃巾軍，斬首數萬級。隨之遷爲濟南相。濟南相任內，曹操治事如初。濟南國（今山東濟南）有縣十餘個，各縣長吏多依附貴勢，貪贓枉法，無所顧忌。曹操之前歷任國相皆置之不問。曹操到職，大力整飭，一下奏免十分之八的長吏，濟南震動，貪官污吏紛紛逃竄。“政教大行，一郡清平”。 [9]
當時正是東漢政治極度黑暗之時，甚至有了制度。朝廷徵還其爲東郡太守，拜爲議郎，曹操不肯迎合權貴，遂託病迴歸鄉里，春夏讀書，秋冬弋獵，暫時隱居了。 [10-11]
當時天下紛亂，先是發生了冀州刺史王芬聯合南陽許攸、沛國周旌等地方豪強，謀劃廢黜靈帝立合肥侯的事件。王芬等人曾希望曹操加入他們，但被曹操拒絕，後來王芬事敗自殺。接着，又有西北金城郡（今蘭州）的邊章、韓遂殺死刺史和太守，率兵十餘萬反叛朝廷。 [12]
中平五年（188年），漢靈帝爲鞏固統治，設置西園八校尉，曹操因其家世被任命爲八校尉中的典軍校尉。
陳留起兵
中平六年（189年），漢靈帝駕崩，太子劉辯登基，何太后臨朝聽政。大將軍何進想趁靈帝駕崩、宦官失勢之機誅滅十常侍，但沒有取得何太后的支持。於是何進便召時任幷州牧的董卓進京，脅迫何太后同意。然而此舉打草驚蛇，董卓尚未抵達京城，何進已被宦官下手謀殺。同年九月，董卓入京，執掌朝政，把漢少帝廢爲弘農王，而改立其弟陳留王爲漢獻帝，又派人把弘農王母子毒死，自稱太師，專擅朝政。曹操見董卓倒行逆施，不願與其合作，遂改易姓名逃出京師洛陽（今洛陽東）。 [13]曹操到陳留後，“散家財，合義兵”，且首倡義兵號召天下英雄討伐董卓。
曹操畫像
曹操畫像 [14]
初平元年（190年）正月，袁術等人共推渤海太守袁紹爲盟主，曹操任代理奮武將軍，參加討董軍。二月，被聯軍擊敗的董卓脅迫獻帝遷都長安（今陝西西安西北），自己則焚燬宮室，挖開王陵，劫掠人民，致使洛陽方圓200裏荒蕪凋敝無復人煙。而關東聯軍懼怕董卓精銳的涼州軍的戰力，無人敢向關西推進，全都屯兵酸棗（今延津北）一帶。而曹操認爲董卓“焚燒宮室，劫遷天子，海內震動”，應趁機與之決戰，遂獨自引軍西進。曹操行至滎陽汴水（今滎陽西南），與董卓大將徐榮交鋒，因爲士兵數量懸殊，曹操大敗，士卒死傷大半，自己也被流矢所傷，幸得堂弟曹洪所救，倖免於難。 [15]回至酸棗，曹操建議諸軍各據要地，再分兵西入武關（今陝西丹鳳東南），圍困董卓，關東諸將不肯從。關東諸軍名爲討董卓，實際各自心懷鬼胎，意在伺機發展自己勢力。不久，諸軍之間發生摩擦，相互火拼。聯合軍至此解散。 [16]
初平三年（192年），青州黃巾軍大獲發展，連破兗州（治昌邑，今山東鉅野東南）郡縣，陣斬兗州刺史劉岱。濟北相鮑信等人迎曹操出任兗州牧。曹操和鮑信合軍進攻黃巾。鮑信戰死。曹操“設奇伏，晝夜會戰”，終於將黃巾擊敗。當年冬天，獲降卒三十餘萬，人口百餘萬。曹操收其精銳，組成軍隊，號青州兵。又助袁紹打敗劉備、單經及陶謙諸軍。 [18]
初平四年（193年）春天，曹操在匡亭六百里大追擊大敗袁術、黑山軍、南匈奴。徐州牧陶謙率軍攻入兗州南部的任城，曹操率軍征討陶謙，攻克徐州十餘城。
逐鹿中原
初平四年（193年）秋天，曹操的父親曹嵩來曹操處路上，被陶謙派兵殺害 [19-20]，曹操遂進兵徐州（治郯，今山東郯城），向東南擴展勢力。陶謙退守郯縣。不久曹操軍糧將盡，撤圍回軍。次年夏，曹操再徵徐州，略地至東海。曹操徵徐州期間，所過大肆殺戮，一路上“雞犬亦盡，墟邑無復行人”。東郡守備陳宮對曹操不滿，於是與陳留太守張邈、張邈之弟張超、從事中郎許汜及王楷等同謀叛亂，迎呂布爲兗州牧。呂布爲當時名將，先爲董卓部將，後與王允定計誅殺董卓。
當時只有鄄城（今山東鄄城）和東郡的範（南範縣）、東阿（今山東陽穀）兩縣尚在曹操掌握之中，分別由司馬荀彧和壽張令程昱、東郡太守夏侯惇等堅守，形勢異常危急。曹操從徐州趕回，聽說呂布屯於濮陽，遂進軍圍攻濮陽。二軍相持百餘日，蝗災大起，雙方停戰，曹操軍還鄄城。此時，曹操失去了兗州（治今山東鄆城西北），軍糧已盡，袁紹派人來勸說想讓曹操投靠他，讓曹操舉家遷到鄴縣當人質。曹操本打算答應袁紹，多虧程昱勸阻，曹操纔打消這個念頭。
東漢割據地圖
東漢割據地圖
興平二年（195年），曹操整軍再戰呂布，三敗之，破定陶（今山東定陶）、廩丘（今山東鄆城西北）等，平定兗州。呂布逃往徐州投靠劉備。七月，因李傕、郭汜的火拼，漢獻帝從長安東歸，下詔讓各路諸侯勤王。
建安元年（196年）八月，曹操迎漢獻帝。辛亥，漢獻帝封曹操爲司隸校尉，錄尚書事。庚申，遷都許縣。十一月丙戌，漢獻帝封曹操爲司空，行車騎將軍事，百官總己以聽。