高自约长年在外，写诗作赋成了生活的一部分。他终身嗜酒，常以诗伴酒，颇有古文人的诗风。当年，他曾整理诗稿，用“国民党中央党部执行委员会用笺”、“海外部用笺”等稿纸誊正，打算结集出版,并题为《耻躬堂》。可惜，因为多种原因，未了夙愿。2003年，高自约先生的儿子高言经、高言常将收集到的诗稿400余首，结集《耻躬堂残稿》出版，并请黄苗子先生题签。
