画面スクショ等を商用書籍へ載せることはできますか？

私にははっきりしたお答えは出来ませんが、権利関係については FAQ に次の記述があります。

https://musescore.org/en/faq#faq-20204

Can I give MuseScore to friends or students?

Of course, you may give any of the versions of MuseScore on musescore.org to other people, or share it internally via a server.

（グーグル翻訳）
友達や学生にMuseScoreを渡すことはできますか？

もちろん、musescore.orgにあるMuseScoreの任意のバージョンを他の人に提供したり、サーバーを介して内部で共有したりすることもできます。

https://musescore.org/en/faq#faq-20202

Can I use MuseScore commercially?

Yes, you can.

MuseScore does not impose any ownership or license on your work, whether it's sheet music, exported audio files or the .mscz files themselves. What you make is entirely your own creation and you decide what to do with it.

（グーグル翻訳）
MuseScoreを商用利用できますか？

はい、できます。

MuseScoreは、楽譜、エクスポートされたオーディオファイル、または.msczファイル自体のいずれであっても、作品に所有権やライセンスを課すことはありません。 あなたが作るものは完全にあなた自身の創造物であり、あなたはそれをどうするかを決定します。

スクリーンショットについては言及されていませんが問題ないのではないでしょうか。
初めにも述べたように私には断定的にはいえませんのでご参考程度ということで。

英文サイトでお尋ねになれば答えが得られると思われます。