民国元年（1912年），父亲张镇芳由署理直隶总督转任河南都督，张伯驹随父赴河南开封，入河南陆军小学读书。