LLMチャットボットで接客品質と注文転換率の向上を目指す

Large Language Modelの略。数千億〜数兆のパラメータを持ち、膨大なテキストデータで学習した深層学習モデル。自然言語の理解・生成・翻訳・要約・コード生成など幅広いタスクをこなせる。GPT-4・Claude・Geminiなどが代表的なLLM。エンジニア向けでは、コードの自動補完や仕様書からのコード生成に活用される。実務では、製造業の現場設備マニュアルRAGシステム・医療問診票の自動解析・金融市場レポートの自動生成・小売ECチャットボット・採用スクリーニングなど、あらゆる業種の非定型業務に本番導入が広がっている。

Retrieval-Augmented Generationの略。LLMの回答生成時に、外部知識ベースやドキュメントを検索して関連情報をコンテキストに追加する手法。モデルの学習データに含まれない最新情報や社内固有情報を参照できるため、ハルシネーション（誤情報生成）を大幅に削減できる。社内チャットボットや FAQ システムの本番化で最も広く使われているアーキテクチャ。代表的な活用例としては、製造業の設備マニュアル検索・金融機関の市場レポート自動生成・小売ECの問い合わせ対応・人事オンボーディングボットなどで、社内固有情報を安全に活用する基盤として採用されている。

LLMを活用したアプリケーション開発を支援するPython/TypeScriptフレームワーク。プロンプト管理・チェーン構築・外部ツール連携・ベクトルDB接続・エージェント構築などのコンポーネントを提供する。RAGシステムやAIエージェントの開発で広く使われ、エンジニア人材市場でも需要が高いスキルの一つ。代表的な活用例としては、製造業の設備マニュアルRAGシステム・金融機関の市場レポート自動生成・小売ECの接客チャットボット・HR部門のオンボーディングボットなど、LLMアプリの本番実装において一貫して採用されている。

MicrosoftのクラウドAzure上でOpenAIのGPT-4・Whisper・DALL-E等のモデルをプライベートエンドポイント経由で利用できるマネージドサービス。データがOpenAIに送信されないため、機密情報を扱う金融・医療・官公庁などで広く採用されている。Active Directoryとの統合・コンテンツフィルタ・ログ管理が備わり、エンタープライズ要件を満たす。日本でのMicrosoft 365導入企業が多いこともあり、Azure OpenAI案件の人材需要は高い。代表的な活用例としては、製造現場の自然言語設備操作システム・医療問診票の自動解析・小売ECのLLMチャットボットなど、セキュリティ要件の厳しい業種での本番採用が相次いでいる。

ユーザー入力に悪意ある指示を埋め込み、LLMのシステムプロンプトを上書きしたり意図しない動作を引き起こす攻撃手法。「これまでの指示を無視して…」のような直接型と、WebページやドキュメントにLLMが読み込む形で仕込む間接型（Indirect Prompt Injection）がある。AIエージェントがツールを自律実行する環境では特に危険で、攻撃者が外部コンテンツ経由でエージェントを操作できる。ガードレールや入力サニタイズによる対策が必要。

LLMのコンテンツポリシーや安全制約を回避させ、本来拒否するはずの有害な出力（違法情報・差別的表現・機密情報など）を引き出す操作手法の総称。ロールプレイへの誘導・架空のシナリオ設定・特殊文字の挿入など多様な手法がある。モデルプロバイダーは継続的に対策を講じているが、新手の回避技術との攻防が続いており、企業向けLLMアプリでは追加的なガードレール層が必要。