杨遵仪于1908年10月7日出生在广东省揭阳县一个信奉基督教的大家庭中， 全家生计靠父亲行医维持。他在潮安、澄海和汕头等地的几个教会学校念完小学，又在英国人办的教会中学华英中学上了3年初中。后因该校停办，又无钱就读别的学校，只好辍学在家。经人介绍到《大新潮》报社当校对员，并在报社负责人办的大中中学就读。他晚上工作，白天学习。