1887年春天，刘国钧出生在江苏靖江县祠堂镇的一个读书人家。他的父亲是一个穷秀才，一直考不上举人，只好在家乡当私塾先生，教书糊口，家中经常是顾得上吃顾不上穿。刘国钧7岁那年，正当青黄不接的春天，家中又揭不开锅了。父亲再也承受不住贫困的沉重压力，精神崩溃，成了疯子，连书也教不成了。养家糊口的重担落到了母亲肩上。母亲是个好强的女人，她要小国钧照顾好父亲，就到外面给人家当佣人去了。

父亲的精神病时好时坏，清醒的时候也知道煮点东西吃。一旦发作起来，小国钧便吓得只好逃到街上去。7岁的小国钧已经懂得了生活的艰辛，他也学着邻居的样子，用一条白布带扎在短褂上，贩点水果、酒酿在街头叫卖，挣一点钱帮助母亲。母亲不忍心让这么小的孩子就背负起生活的重担，在邻居的资助下，把小国钧送进了私塾。可是一年没读完，小国钧就因为饥饿不得不丢开了书本。

1900年，14岁的小国钧被送到县城一家酿酒的糟坊去当学徒，他实在忍受不了那繁重的劳动和恶劣的环境，终于逃回家中。按照当时的规矩，学徒3年，是不允许半途中断的。糟坊主人追到他家中要人，吓得他躲在舅母家不敢出门。还是邻居赵大叔同情他的处境，推荐他到常州奔牛镇上的刘吉升京货店当学徒，并且借10块银元给他做路费，刘国钧才得以开始新的生活。

奔牛镇地处沪宁铁路线上，南临太湖，北靠长江，中贯运河，交通便利，商业也就相当发达。刘国钧一心想好好学习做生意的本领，将来能多挣点钱养活父母，可是这家京货店因为经营不善，第二年就倒闭了。幸亏老板没有忘记勤劳能干的刘国钧，特意将他介绍到元泰京货店去当学徒。刘国钧起早贪黑地为老板干活，也学到了不少做生意的经验。转眼间3年过去了，刘国钧学徒满师，老板正式录用他做店员。刘国钧能凭自己的双手挣钱了！他想到的第一件事，就是积攒起10块银元，买了一份礼物，回到家乡去感谢赵大叔的恩情。然后，他便将在外乡做佣人的母亲接回家，对父亲说：'现在我能够挣钱养家了。'邻居们都羡慕地夸奖他：'国钧真是个孝子啊！'

刘国钧20岁那年，和同乡鞠秀成了亲。肩上的担子更重了，刘国钧的志气也更大了，他决心自己开一家京货店。经过这几年的磨炼，他已经逐渐掌握了京货店的经营诀窍，与常州等地的批发商也有了较深的交往；他善于观察和揣摩顾客的心理，进的货总能很快销出去……这都证明他完全有独立开店的能力。但是，开店得有一大笔本钱才行，从哪里去找这样一大笔钱呢？

他决心通过自己的劳动来攒这笔钱。

当时还是清朝，男人也流着一根长辫子。刘国钧注意到，江南人总喜欢用五彩的辩须扎辫子，他灵机一动，便买了丝线回家，让母亲和妻子编织成扎辫子的须带，由他带到奔牛镇去卖。这项生意本小利大，一年下来，刘国钧净赚200银元。与此同时，他替元泰京货店到常州等地进货，批发商们为了拉生意，私下答应按进货金额付给刘国钧一定比例的回扣，一年下来也有200银元。他与朋友们在一起搭了个银会，他中奖又得了200银元。刘国钧就像母鸡孵小鸡一样，硬是一点一滴地积攒起了600银元。

1909年，雄心勃勃的刘国钧与一姓华的同乡合伙开了一家和丰京货店。他看准了当时染色布的利润大，就设了一个土染坊，从外地买进白坯布，自己加工染成青布和黑布出售。由于品种多、花色全，生意越做越大。在全镇7家京货店中，和丰京货店后来居上，成了最大的一家。可是那个华老板，却迷上了鸦片和赌博，为了还赌债，他硬要把自己那份股金让给刘国钧。这样一来，两个老板成了一个老板，生意做得更加顺手。刘国钧于脆把父母和妻子都接到奔牛镇，生活上方便了，生意上也多了帮手。