行政机关负责人应当出庭应诉。根据《行政诉讼法》第三条第三款的规定，被诉行政机关负责人应当出庭应诉。不能出庭的，应当委托行政机关相应的工作人员出庭。