昔からある有名なCIツール

改善してほしいポイントは何でしょうか？

改善して欲しいポイントとしては、処理の重さだと思います。
比較的にメモリを多く使用するため、Jenkinsが落ちていてデプロイが途中で止まっているといった現象が良くあります。

どのようなビジネス課題を解決できましたか？あるいは、どのようなメリットが得られましたか？

Webhookとの連動でデプロイ～リリースまでの作業工数が削減できました。
LinuxでもWindowsサーバーでもサーバーが１つあれば導入できるので、デプロイ環境の構築工数も削減できると思います。