こちらのイベントに参加してきたので、会の様子と感想を書いていこうと思います。
会の概要
ALGYAN(あるじゃん)社さんが、LLMと生成AIについて勉強していく会です。
今日はMicrosoft MVP for Mixed Realityの田中 正吾さんの講演会を聴いていきました。
会の様子
ChatGPTに対する田中さんの印象
導入として、田中さんが抱いているChatGPTに対する印象を聴いていきました。
回答ジャンルを選ばずに自然言語で人間がわかるような回答をしてくれる部分が非常に優秀だと感じているそうです。
ChatGPT APIを使う理由
田中さんがChatGPT APIを使う理由として、以下の2点が理由が挙がっていました。
- Web版と異なりプライバシーが担保できる
- Web版では回答をコピーする手間が必要になりどうしても人が関与する余地が残ってしまうが、APIの場合はそれがない(プロンプトを工夫すればJSONデータに加工して回答することができるので、よりシステムに組み込みやすくなる)
API(Chat completion)のデモ
実際に使ってみている様子を見るのが一番速いということで、API(Chat completion)の使用方法のデモをしてくれました。
デモの流れとしては、最初にリファレンスを基に簡単にAPIの仕様や設定の概略説明をし、その後は実際にNode-REDを使って動く様子をデモする、という形でした。(デモは最初にシンプルな命令をしてシンプルに回答が返ってくる様を見た後、プロンプトを工夫しながら最終的にJSON形式でシステムに問題なく組み込めるようなレベルにするまでブラッシュアップし、最終的にはIoT連携する様子を見せてくれました)
もちろんプロンプトによるところはありますが、全体的にWeb版と比べても遜色ない結果がAPIから返ってくる様子や、応答時間がWeb版とほぼ変わらない様子を見ることができました。
会全体を通した感想
デモを何回も実施してくれたのですが、プロンプトに対する工夫が積み重ねられていく過程を見ることができたのが、プロンプトで重要な変数の理解につながってよかったです。