非公開ユーザー
一般機械|開発|100-300人未満|IT管理者|契約タイプ 有償利用
企業所属 確認済
投稿日:
Azure基盤のOpenAIサービス
文章生成AIで利用
良いポイント
Azureのセキュリティ機能を通じてOpenAIサービスを利用できる。本家のOpenAIサービスより安定している。企業の確認が通りやすい。本家では何度試しても通らない。
改善してほしいポイント
エンドポイントごとにデプロイできるモデルが限られている。
使用するモデルによって接続先が変わるため、扱いにくい。
全エンドポイントで利用できるようにしてほしい。
新しいモデルの展開が遅いことがある。
どのような課題解決に貢献しましたか?どのようなメリットが得られましたか?
LiteLLM Proxyを介して社内全域でOpenAIのサービスが利用可能になった。
Azureをメインにし、本家をフォールバックに設定している。
これにより、ほぼサービスダウンを回避できている。
検討者へお勧めするポイント
本家より安定しているので、Azure OpenAIをメインにして本家のOpenAIをフォールバックにすると、ダウンタイムを減らして運用できます。
4.0
チャットボットによる社内情報への回答、インターネット検索を用いた調査、資料用の画像生成などにより、作業時間を短縮できている。
続きを開く