MIcrosoft社謹製コードエディタといいつつ実質IDE

改善してほしいポイントは何でしょうか？

これ以上何を望むのか、と思わないでもないほど機能が充実している。サードパーティーによる拡張機能も豊富で、MS自身による拡張機能も充実している。大きなバグがあるという話も聞かないので、ちょっと思いつかない。
強いて言えば、拡張機能が多すぎて、どれを使っていいのか迷うところでしょうか。

どのようなビジネス課題を解決できましたか？あるいは、どのようなメリットが得られましたか？

自社パッケージ製品のモダナイズをするための開発環境を、VS Codeで容易に構築できた。しかもフリー。
Git/Githubも使えて、Dockerでのリモート開発なども拡張機能ですぐに実現できるところが素晴らしい。

検討者にお薦めするポイントがあれば記入ください

ソフトウエア開発者であれば、とにかく使ってみることをお勧めします。
Language Server Protocolという汎用的に開発言語に対応する仕組みがあるので、新しい言語にも素早く対応できるようになっています。