ある種の標準ヤング版を数える問題への帰着は公式解説通りです．

片方はフック長公式で数えられます．もう片方は次のようなトポロジカル順序を数えるということになります．

a→b→c
↓.↓↗↓
d→e→f
↓.↓↗
g→h

辺を削減すれば（transitive reduction に置き換えれば）次のようになります．

a→b.c
↓.↓↗↓
d→e.f
↓.↓↗
g→h

少し配置替えをすると

a→b..
↓.↓..
d→e→c
↓.↓.↓
g→h→f

結局， 長方形状のヤング図形から右上の \(1\) マスを取り除いたものについて標準ヤング版を数えればよいということになります．

調べ学習の結果，「長方形から右上正方形を取り除いたもの」に対する標準ヤング版は公式があるようです．

• https://arxiv.org/abs/1011.0366

私は証明を確認していません．これを認めれば，本問は \(O(AB)\) 時間で解けます．