セキュアかつ柔軟に生成AIを業務実装できる基盤

改善してほしいポイント

検証・開発用途としては優秀ですが、業務展開するにはチャットUIや業務システム連携を別途構築する必要があり、SaaS型AIに比べると導入の手間は大きめです。
また情報が少なく、グローバル管理者権限を持っていたとしても、Azure OpenAI Serviceを展開するのは学習から展開までかなりの時間を要します。

どのような課題解決に貢献しましたか？どのようなメリットが得られましたか？

chatGPTが流行りだした頃はユーザが自由に使用していましたが、社内情報をそのままプロンプトに入力したり、そもそも社内専用用語やルールなどは出てこず、情報漏洩や使い勝手に課題がありました。
Azure OpenAI Serviceにより、機密情報を扱う業務でも、セキュリティ要件を満たし、利用に問題ない形でユーザに生成AIを使用してもらうことができるようになりました。
結果社内では文章作成に利用されるケースが多く見受けられ、おそらく社員全体で工数減に繋がっていると思います。
一方で生成された文章そのまま貼り付け提出されるケースもあり、結果本筋から外れた内容の文章作成も見受けられ、このあたりの社内リテラシーが課題でもあります。

生成AI機能へのレビュー

3.0

webのchatGPTと違い、セキュリティ要件を満たした形で生成AIを業務に活用できるようになりました。OpenAIのモデルをAzure上で管理できるため、機密情報を扱う業務でも安心して利用でき、業務内容に合わせてプロンプトや挙動を細かく制御できる点は大きなメリットです。 一方で、活用には事前の設計や検証が必要で、すぐに効果を得られるサービスではありません。また、Azure OpenAI Studioや管理画面をブラウザで利用する際、複数タブを開いた状態では動作が重く、ややストレスを感じる場面がありました。 加えて、トークン課金のためコスト管理も意識する必要があります。 それでも、これまでセキュリティ面の懸念から生成AIを導入できなかった業務に対して実用的な選択肢を提供でき、文章作成や要約などの効率化に貢献したと思います。生成AIを一時的なツールではなく、将来的な業務改善につながる基盤として活用できる点に価値を感じています。