陈宫性刚直壮烈，内亦自疑，闻得此事，心不自安，于是陈宫与从事中郎许汜、王楷及邈弟张超共谋叛曹操。陈宫说张邈曰：“今天下分崩，雄杰并起，君以千里之众，当四战之地，抚剑顾眄，亦足以为人豪，而反受制于人，不亦鄙乎！今州军东征，其处空虚，吕布壮士，善战无前，若权迎之，共牧兖州，观天下形势，俟时事之变，此亦纵横之一时也。”张邈从之。
时曹操使陈宫将兵留屯东郡，遂以其众潜迎吕布为兖州牧。说张邈反叛曹操，迎立吕布。吕布为一时名将，初平三年与司徒王允诛杀董卓后，遭李傕、郭汜等进攻，逃出长安，先后逃奔袁术、袁绍等，皆不见客，闻得陈宫、张邈迎他做兖州牧，大喜，遂引军往。这事曹操暂时不知道，戏志才近日却屡有不安，暗道：怕是有祸事发生。
兴平元年三月二十九，张邈和陈宫等却乘曹操外征徐州，秘密迎接吕布来担任兖州牧。吕布到达后，张邈就派他的党羽刘翊告诉荀彧说：“吕将军来帮助曹刺史进攻陶谦，应该赶快供给他军粮。”
众人感到疑惑，荀彧略一思索，就知道张邈将要背叛，就立即部署军队进行防守，并急速征召在濮阳的东郡太守夏侯惇。夏侯惇留满宠、毛玠守住濮阳县城，自己领兵前来救援，不料吕布听从陈宫的“避实就虚”的策略，反而攻击濮阳，毛玠、满宠等人领兵抵敌不住，无奈撤退。吕布便占据濮阳。当时曹操把所有的军队都带去进攻陶谦，留守的兵士很少，而且大部分将领和主要官吏都参与了张邈、陈宫的阴谋。夏侯惇赶到以后，当天夜里，出于无奈就诛杀了几十个参与叛变阴谋的官员，情势才稳定下来。
豫州刺史郭贡率领数万人的大军来到廪丘城下，有谣言说他与吕布合谋，城中忠心曹操的众人十分恐惧。郭贡要求会见荀彧。荀彧准备出城会面，夏侯惇等劝阻他说：“你是一州的主持人，出城必定有危险，不能去。”
荀彧不惧，反而说：“郭贡与张邈等人并不是老交情，如今来得这样迅速，必是还未定好策略，趁他尚未定好策略时说服他，即便他不能帮助我们，也可使他保持中立。如果先疑心他，将使他在一怒之下打定主意，投到敌人那边，就不是我等所期望的了。”郭贡看到荀彧并恐惧之心，认为廪丘县不易攻破，于是率军离去。
当时，兖州属下的郡、县全都响应吕布，只有廪丘、范县、东阿县没有动摇。吕布军中归降的人说：“陈宫准备自己率军攻取东阿，又派汜嶷攻取范县。”官民全都感到恐慌。程昱本是东阿人，荀彧对他说：“如今全州都已背叛，只剩下了这三个县城。陈宫等派大军攻城，如果我们不能紧密地团结民心，这三城必定会动摇。你在东阿人民中声望很高，应该前去进行安抚。”