電源がOFFになると、出力コンデンサが放電されるに連れて電圧が低下します。
出力コンデンサの容量が大きいと電荷が抜けるのに時間がかかります。
また、負荷の消費電流が小さい場合も電荷が抜けるのに時間がかかります。
セラミックコンデンサは、ESRの値が非常に小さいため、容量が抜けるのに非常に時間がかかります。

早く電荷を引き抜くためには、
①出力コンデンサの容量を小さくする
②放電用のブリーダ抵抗値を追加する。
③放電用の回路を追加する。
等が考えられます。

但し、②に関しまして、抵抗が常時接続したのでは消費電流が大きくなってしまいます。
③のような電源オフ時のみ接続されるような回路を構成されるのがよろしいかと思います。
一部の製品には、放電回路を内蔵しているものがあります。