【プロンプトエンジニアリング】プロンプトインジェクションを回避する
第三者とAIモデルを対話させるケースにおいて、悪意ある第三者は対話を介してAIシステムに意図しない挙動を起こすことができます。 これを、プロンプトインジェクションと言います。 例えば、極論ではありますが、第三者がAIチャ…【プロンプトエンジニアリング】GPTモデルの出力を安定させる
AIモデルの出力を価値あるものにするためには、AIモデルの出力から不安定で推測できない要素を排除する必要があります。 プロンプトエンジニアのメインの目的は、プロンプトを調整し、この出力を安定させることにあります。 空につ…プロンプトエンジニアリングが一つの職業になった理由
プロンプトエンジニアリングについて、自分なりに調べ、理解したことを記事としてシリーズ化していこうと思います。 プロンプトエンジニアリングはなぜ一つの職業に？ AIと機械学習の技術が大幅に進歩し、特に自然言語処理(NLP)…
Azure OpenAIのシステムメッセージを用いて特定の内容が出力がされる際に注意書きを加える
はじめに ITに慣れていない人が、AIに操作手順を質問し、出力された手順に従って操作することは多々あると思います。例えば、linuxコマンドでファイルやディレクトリの作成、移動、削除を行う方法を尋ねる場合などです。 この…
Azure OpenAIを使ってミドルウェアのバージョン確認を自動化してみた
はじめに 普段、構築したサーバーが仕様書通りに作られているかを自動でチャックするスクリプトを書いているのですが、今回はそこにAIを絡められないかと思い、Azure OpenAIを使って簡単なシステムを作ってみました。 前…社内文書検索に生成AIを使うことの有効性をChatGPTを使ってデモで示してみる
はじめに 昨今、社内の業務効率化を図るために、多くの会社で生成AIを導入する動きが見られます。膨大な社内文書の中から目的の内容を抽出する上でAIを使用することは非常に有効です。 本記事では、なぜ従来のキーワードベースの社…
ChatGPTにシェルスクリプトをLambdaで動くPythonに書き換えてもらってAmazon LinuxのEOLにサクッと対応した話
これは TOWN Advent Calendar 2023 のエントリーです。 TOWNでクロジカスケジュール管理のプロダクトマネージャーをしている岩崎と申します。 Amazon Linux のEOL Amazon Li…