結局のところ

・ウインドウキャプチャはあきらめて画面キャプチャの範囲選択にしている。（そうしないとReaperではプラグインが見えない）
・音声はVoiceMeeter上でコントロール。ReaperもOBSもVoiceMeeterをドライバとして認識。マイクもVoiceMeeterで入れてる。マイクにはVoiceMeeter内蔵コンプを使用。（OBSにマイクを接続するとVSTが使えるが、それだとDiscordに音声を送るのが面倒くさいということが判明した）
・DiscordはOBSをカメラとして、VoiceMeeterをマイクとして認識。

って感じでいけました。