非公開ユーザー
自動車・輸送機器|社内情報システム(開発・運用管理)|300-1000人未満|IT管理者|契約タイプ 有償利用
企業所属 確認済
投稿日:
ローカルLLMのテスト環境構築に使っています
GPUサーバで利用
この製品の良いポイントは何でしょうか?
PowerEdge T640にGPUを搭載して使っています。
5Uのタワーサーバーをラックマウントして使っており、高さがあるため高性能なGPUを搭載できる点が良いです。
高性能なGPUが搭載できるため、ローカルLLMの環境構築には最適ですので、役に立っています。
改善してほしいポイントは何でしょうか?
性能面には全く不満が無いのですが、やはりタワー型サーバーですので、ラックマウントレールを使ってラックにマウントする際は重量があり大変です。仕方が無いことだと思いますが。
どのようなビジネス課題を解決できましたか?あるいは、どのようなメリットが得られましたか?
生成AIのローカルLLM環境をテスト用に構築したいという要件に対して、GPUを搭載することで解決できました。スペース、電源ともに余裕があるので、場合によっては増設等も可能です。
続きを開く