古时，鄂豫两省交界处有座义阳城，（今随县万和镇新城）街不大，人却杂，江湖上五花八门，相聚一城。店铺繁多、鱼目混居。因是两省交界（口子镇）其贸易异常活跃，出山货的、打豆腐的、打铁的、卖窑货的、狩猎的、开染行的、米粉行的生意层出不穷。
　　
　　 不知从那年起，义阳城内怪事频发，每逢月圆之时，总要失踪一个青壮小伙。待第二天人们发现时，小伙子睡过的床上只留下一滩血。没有任何迹象证实是自杀或是他杀，久而久之，这里闹鬼的消息便不径而走，过往客人一时“谈虎色变”都不敢在义阳城里留宿。
　　
　　 这可急坏了当时的义阳太守，义阳城里出了这档子事，哪还有人敢在这里作生意，没有生意，官方苛捐杂税如何发落？太守央人四处打听方士名道，来义阳城驱鬼拿怪，但却无济于事，反倒弄得人心惶惶。就连世居在此的当地人都慌里慌张，拖儿带母欲走他乡。
　　
　　 正当太守和城内百姓叫苦连连、不知所措之时，义阳街坊突然出现一个陌生的汉子，那人自称叫钟馗，年约四十岁，长的十分彪悍。他是义阳城正闹鬼时入住义阳城的，以晚上打更，白天卖茶为生，虽来时间不长，但城内大人小孩都很喜欢他，称他为赵老倌儿。
　　
　　 义阳城因为钟馗的到来，一扫过去的阴霾，闹鬼的事慢慢少了许多，义阳太守认定这个外来汉子可能是个异人，吩咐人酒菜侍候，好生挽留，但是那汉子却不为所动，每天照例粗茶淡饭，依然白天卖茶，夜晚打更，从不提自家身世，来自何藉。却与人相安无事。
　　
　　 这年夏天的一个夜晚，钟馗打更从东寨门边经过，听到对门河边有女子的哭声，他循声上前，见是个年轻妇女。钟馗问她为啥哭，那女子说：“我家住在陈湾，娘得了急病，我去城里买药回来，船没了，过不去，娘还等着药治病。”钟馗见她可怜，看看河面，估计河水不深，为了救人，叫姑娘不要哭，他背她过河。姑娘答应了。走到河当中，钟馗突然觉得身上的女子一下子变得很重，差一点把钟馗压倒，然后又摇晃着想把钟馗往水中按。钟馗明白了，这女子不是人，便咬着牙站稳抓住那女子不放。女子不能动弹，只得说好话：“好大哥，我有眼无珠，冒犯了你，求你放了我吧，以后再也不敢了！”钟馗说：“我料定你不是好东西，今天你别想跑！”他对着河岸大声喊：“王大哥，王大哥。”河岸上住着一个姓王的，是钟馗的旧交，听到喊声，连忙答应。钟馗背着女子上了岸，叫老王准备了一担柴禾在空地上点燃。那女子一见，大声嚎哭，苦苦哀求。钟馗不理，使劲将女子惯到火里，只听到一声惨叫，一股青烟升起，火烧过后，只剩下一块七八十斤的大石头。
　　
　　 又一天晚上，钟馗打更来到北街，见有个女人向北门外走，钟馗怕是哪家媳妇受了委屈，半夜出来寻短见，便把锣往咯吱窝里一夹，跟了上去。那女人七拐八拐进了城隍庙，钟馗想她莫非是要上吊吧？便跟了进去，从后殿跟到娘娘殿，那女人却不见了。钟馗四处寻找，刚走到大殿的一根柱子旁，那柱子像吸铁石一样，一下子把钟馗吸住。赵魁猛挣脱身，抬头看见娘娘菩萨正朝他瞪着眼，脸色越来越难看，钟馗明白了，上前扛起娘娘菩萨，往地上一摔，砸的粉碎。
　　
　　 原来，这庙里娘娘菩萨不修正果，每个月十五的晚上，她邪念发作，就找个小伙子，先把他迷住，等小伙子迷糊后，再把他吃掉。久日久之，被玉帝发觉，传旨魁王星下凡整治这妖精。这魁王星下凡后就是更倌钟馗，被娘娘菩萨晓得了，想把钟馗骗到河里淹死，没成功，还差点把自己烧死，后来又把他骗进了庙里，想把他捆在柱上整死，又被挣脱了，娘娘菩萨气得两眼直瞪，被钟馗发现，这才被摔死。
　　
　　 钟馗为义阳城除了大害，玉帝要收他归天，一次他帮河边的老王挖田，一头栽倒在地上，死了。义阳人为他做了个热闹的葬事，“更倌除害”的故事就这样被流传下来了。