话说当年司马子如、高季式把高欢的主簿孙搴叫过来陪自己喝酒，结果害得孙搴饮酒过量而死。
高欢亲临察看，司马子如跪下磕头：“高王，下官该死，下官等不知首孙主簿酒量浅，没想到他竟然喝酒也会身亡的，也不知道他身体是不是有不为人知的毛病。”
高欢说：“你们折断了我的右臂，希望你们能寻找一个更好的还给我。”于是，司马子如推荐了中书郎魏收，高季式则推举了陈元康来继代孙搴。
当时，高欢先取用了中书郎魏收来取代孙搴来做丞相府主簿。
有一天高欢对高季式说：“现任主簿魏收写出来的那些东西，我是越看越不满意。所以你能不能给我推荐一个比较严谨缜密的人呢？”
高季式再次向高欢推荐了陈元康，并说道：“陈元康能在黑暗的晚上写文书，而且写的特别快。”
高欢把陈元康召过来一见，果然十分满意，当场授予他大丞相功曹一职，不仅允许他掌管国家机密，又让他做了大行台都官郎。
对于当时的国家军务，陈元康了如指掌，问无不知，对答如流。
有一次，高欢临出发的时候，留下陈元康在自己身后，他自己就坐在马背上念出九十多条号令，陈元康掰着手指一条一条地数，竟然能够全部背下来。
陈元康惊人的记忆力令地场的人全都惊愕咋舌。
陈元康与赵彦深同掌国家机密，被当时之人称为国密“陈、赵”。
虽然当时陈元康官位高于赵彦深，但陈元康的性格却十分柔和谨慎。高欢越来越喜欢陈元康，说道：“陈元康这种人，世间少有，如今却让我得到了，这一定是上天赐予我的！”
对于高慎密谋叛变一事，后来高欢知道了，这都是因为崔暹怂恿儿子高澄。去替自己的妹妹出气之缘故。所以高欢想杀掉崔暹。
高澄知道后就把崔暹藏起来，然后替崔暹去向父亲高欢求情。
高欢说：“这次看在儿子你的面子上，我姑且饶他一命，但我一定要狠揍他一顿来教训他。”于是高澄放出了崔暹。
高澄对陈元康说：“你要是不能劝止父王，让崔暹挨了打，我就再也不和你见面了。”
陈元康听后就知道高澄只是想做做样子给父亲看。
等到崔暹见到高欢，脱下衣服准备接受惩罚之时，门外的陈元康马上快步走了进来，他一边走上台阶一边对高欢说：“大王，且慢，请听下官一言。大王以后是要把天下托付给世子的，难道您连一个崔暹都不能原谅吗？”
于是高欢听从了陈元康的建议，宽免了崔暹。
高澄入朝辅政之时，崔暹、崔季舒、崔昂等人一起被任用，张亮、张徽纂等人也得到了高澄的礼遇，但他们的职位都在陈元康之下。
当时的人们都说：“三崔二张，不如一个陈元康。”
陈元康跟随高欢参与邙山之战。高欢在邙山打败了宇文泰之后，与诸位将领召开会议。当时大家都认为，在野外没有青草，而且他们的士兵和马匹疲惫不堪，所以不能乘胜追击宇文泰。
陈元康却说：“两军交战已经很久了，如今我们大获全胜，这便是上天的意思，时不可失，所以我们应该乘胜追击宇文泰。”
高欢说：“万一碰上了宇文泰的伏兵，我该怎么办？”陈元康说：“前些日子大王从沙苑还军的时候，宇文泰都没有设埋伏，如今他都溃败到了这等地步，哪里还能制定出周密计划？假若您放弃这次胜利，而不去追击宇文泰，他日宇文泰一定会成为您的心腹大患。”
很可惜高欢竟然没有听从陈元康的这项提议。后来，高欢因为陈元康有功封安平县子，食邑三百户，不久之后封平南将军、通直常侍，转大行台郎中，徙为右丞。
直到高欢病重时，才对高澄说：“当初邙山之战，都是因为我没有采纳陈元康的建议，才给你留下了宇文泰这个巨大的祸患，这是我最大的遗憾，我死不瞑目。”
武定五年正月初八（547年2月13日），高欢去世，一开始是秘不发丧，这件事也只有陈元康一个人知道。
可见，陈元康是深得高欢和高澄父子的信任。
高欢死后，高澄开始主持朝政。陈元康得高澄的恩宠，所以被拜为散骑常侍、中军将军，封昌国县公，食邑一千户。
等到侯景反叛时，高澄被诸位将领逼迫，所以高澄想要杀崔暹向诸位将领谢罪。高澄先偷偷地将这个打算告诉了陈元康。
陈元康进谏说：“如今四海未平，但纲纪已经确定了。如果您仅仅因为想赢得几个将领的欢心而枉杀无辜，损害刑典，这难道不是辜负天神，那么您以后又该怎样安定百姓呢？以前汉景帝就犯下了杀晁错的教训，希望您牢牢记住此事。”
因为陈元康的这番话，高澄才没有杀了崔暹。
高岳讨伐侯景没有获胜，高澄想派潘相乐作他的助手。陈元康说：“潘相乐不善于随机应变，不如让慕容绍宗去。再说了，先王有命，能够与侯景抗衡的人，只有慕容绍宗。只要您真心诚意地对待慕容绍宗，那么侯景就不足为惧。”
这时慕容绍宗还在很远的地方，高澄想召见他，却又担心他一时惊疑而心生叛意。
陈元康就对高澄说：“慕容绍宗知道我特别受您的恩宠，所以他最近还派人给我送来金钱，以此来表示对朝廷的诚意。我当时想让他安下心来，所以接受了他的金钱，还认真地给他写了回信，我可以保证他不会生出异心。”
于是高澄听取了陈元康的建议，拜慕容绍宗为将领，慕容绍宗很快就打败了侯景。高澄因此事而奖赏给陈元康五十斤黄金。
西魏将领王思政入据颍川城后，高澄派出多位东魏将领去攻打他，却都没有成功。
陈元康向高澄献计说：“您现在辅佐朝政还没有立下大功，虽然您打败了侯景，但侯景不是外贼。如今颍城将要被攻破，希望您可以借此机会，亲自一举攻下此城。这样做足以给您立威奠定事业了。”
高澄命令陈元康骑上驿站的马去考察颍川城的情况。陈元康回来之后报告说：“这个城池肯定可以攻下来。”
于是高澄亲自领兵攻打颍城，到了那里后，很快取得了胜利。高澄因此赏给陈元康黄金百铤。
当初，东魏朝廷授给高澄相国、齐王之位，高澄多次推辞不接受。随后，高澄召集诸位将领以及陈元康秘密商议此事。
将领们都劝高澄接受职位，但陈元康却不同意，他还对高澄说：“这些人说的话会让大王犯错误。我早就跟大王说过，若您接受了朝廷任命的官职，拥有了设置百官的权力，我或许有幸获得黄门侍郎之职。但当前形势却不允许您这样做。”
后来由于陈元康本人是个十分贪财的人，不但当官期间收取贿赂，还在全国各地利用权力进行高利贷活动敛财。所以高澄逐渐开始反感他了。
崔暹为了争权，趁机离间陈元康与高澄的关系，他推荐陆元规任职大行台郎，打算分走陈元康的权力。陈元康知道了崔暹的行动后，开始害怕起来。
后高澄本来有意想让陈元康去做中书令，用闲职来打发安置他，只是此事没有来得及施行。