父亲伊万·伊万诺维奇·崔可夫是一个力大无比、性格刚毅的壮汉子，他一生养育了8个儿子和4个女儿，崔可夫排行第四。母亲是一位善良、朴实而勤劳的女人。艰苦的家庭环境和父母的优良品格，在年幼的崔可夫的心灵上烙下了深深的印记。
崔可夫12岁那年为生活所迫不得不放弃读书的机会，背着行囊告别父母和家乡，独自来到举目无亲的彼得堡谋生。后来他在回忆自己的童年生活时，不无感慨地说：“告别了家乡就意味着告别了童年，我开始过自食其力的生活。”
几经周折，崔可夫终于在彼得·萨韦利耶夫工厂谋得了一份工作。这是一家生产刺马针的工厂，工厂坐落在市中心的喀山大街上，在当时还是很有些名气。因为当时俄国正在作战，所以青年人都被派到前线去了，在厂里上工的都是些老人和孩子。工作条件相当艰苦，崔可夫整天累得直不起腰，前一批锻件还没来得及加工，后一捆又叮当作响地扔到他的身边。特别是到了中午时，厂房里热得令人窒息，金属粉末呛得人连气都喘不过来。尽管这样，领班还不时在身后大声呵斥叫骂。