被处罚人对行政拘捕申请行政复议或者提起行政诉讼的，可以一并申请暂缓执行，申请暂缓执行可以口头申请，也可以提交申请书。
《公安机关办理行政案件程序规章》
第二百二十二条 被处罚人不服行政拘捕处罚决定，申请行政复议或者提起行政诉讼的，可以向作出行政拘捕决定的公安机关提出暂缓执行行政拘捕的申请;口头提出申请的，公安机关人民警察应当予以记录，并由申请人签名或者捺指印。
被处罚人在行政拘捕执行期间，提出暂缓执行行政拘捕申请的，拘捕所应当立即将申请转交作出行政拘捕决定的公安机关。
第二百二十三条 公安机关应当在收到被处罚人提出暂缓执行行政拘捕申请之时起二十四小时内作出决定。
公安机关认为暂缓执行行政拘捕不致发生社会危险，且被处罚人或者其近亲属提出符合条件的担保人，或者按每日行政拘捕二百元的标准交纳保证金的，应当作出暂缓执行行政拘捕的决定。
对同一被处罚人，不得同时责令其提出保证人和交纳保证金。
被处罚人已送达拘捕所执行的，公安机关应当立即将暂缓执行行政拘捕决定送达拘捕所，拘捕所应当立即释放被处罚人。