不知为什么，曹乃谦长期形成一个习惯，下班就把警服脱在办公室。在现在的小区住了10多年了，左邻右舍的，连经常跟他下围棋的人，都不知道他是警察。有一次，他穿了一件警察大衣，邻居说，你从哪里弄的这身衣服？
曹乃谦小时候的记忆里，警察是打人的。
他母亲曾让国民党的警察捆在树上，打了一顿，“拷问她我父亲打游击的事情。”当别的小孩都说，长大了要当解放军、老师，或开车的司机时，曹乃谦说：“我将来要当警察，不打人的警察。”
高中毕业后，曹乃谦逐渐忘了当警察的想法。先在大同矿务局晋华宫矿搞文艺宣传，后来被抽调到矿务局文工团。一次去大寨村演出，矿务局宣传部的领导一起去，发现曹乃谦爱拉《苏武牧羊》的曲子，就问，你怎么老拉投敌叛国的调调？他不听领导意见，从大寨回来后，就被发配到矿区一个小厂子作维修工，工种是铁匠，每天就着火炉抡大锤，抡出两手泡。
那年春节，他为铁匠房的大门编写了一副对联：锤声震撼旧世界，炉膛炼出新宇宙。横批是：黑手高悬。这副春联很适合当时的革命形势——那年还属“文革时期”。
厂技术科有个技术员看了这副对联后，跟曹乃谦说，你的手不应该握12磅重的大锤。1972年10月，这个人帮他调到了大同市公安局矿区分局。
在矿区公安局，一个领导让他抄信，他拒绝了。他认为那是恐吓信，好像是写给插足在他们家的一位男性第三者的。因为这事，这位领导处处跟他过不去，最后找了个机会把他打发到边远的北温家窑村当知青领队。他与北温家窑的缘分出现了。
1976年底，从村里回局里，他被派到五矿派出所当户籍警。1978年，调到大同市公安局内保处刑侦科，成了破案高手。曾被评为山西省优秀侦查员——当时还没有记功这一说。曹乃谦有个习惯，每次抓住犯罪嫌疑人，在送往预审科之前，他要先买烙饼给他们吃，意思是，对不住了，我抓了你。
后来，局领导说，你写过小说，到政治部新成立的宣教科当科长吧。这期间，是“时间有了，可情绪不好”，整天给领导写材料，往往是写完之后，这个领导说这儿加一段，那个领导说写这干吗，去掉。如此反复。好在这期间不用没日没夜地破案子，他才有时间写小说。
之后的1996年，从东胜庄乡挂职3年回局里宣教科后，已经没有他的职务。过了段时间，领导说，你给咱们公安局办个内部刊物《云剑》吧。他答应了。整个编辑部只有他一个人，组稿、画版、校对、跑印刷厂，全是他。
