天の月

ソフトウェア開発をしていく上での悩み, 考えたこと, 学びを書いてきます(たまに関係ない雑記も)

生成AI時代を支えるプラットフォームに参加してきた

generative-ai-conf.connpass.com

こちらのイベントに参加してきたので、会の様子と感想を書いていこうと思います。

会の概要

以下、イベントページから引用です。

今回のイベントでは、生成AIを支えるプラットフォームであるエヌビディア合同会社から井﨑 武士様、アマゾンウェブサービスジャパン合同会社から久保 隆宏様、Snowflake合同会社から菅野 翼様をお招きして、「生成AI時代を支えるプラットフォーム」をテーマにLT会を行います。

会の様子

井崎さん(NVIDIAの講演)

エンタープライズ向けの生成AIアプリケーションに関しては、まずデータを準備してトレーニングとカスタマイズを行った後に展開をしていくという基本的な流れが必要になるため、NVIDIAではNeMoと呼ばれる独自モデルを構築しているということでした。

こういったモデルを実際に展開するためには、マネージド型生成AIサービスとオープンソース型の展開の2つのオプションがありますが、マネージド型生成AIサービスであれば使いやすさの一方でマネージド環境に制限されたインフラストラクチャーになってしまったり、オープンソース型の展開であればセルフホスト環境の活用により安全な管理ができる一方でチューニングが各種インフラストラクチャーごとに必要だったりするため、使い分けが重要だということです。

久保さん(AWS Japanの講演)

Amazonでは地球上で最もお客さんを大切にする企業だというミッションを掲げているそうで、開発時には困りごとを解決したプレスリリースをまず書いてから開発するWorking Backwardsを実践しているということです。

そのため、生成AIでも困りごとを解決するためにまずお客さんの声を聞くようにしているということで、AWS Summitで事例公開可能な会社さんたち100社以上のロゴを掲載したり、re:Inventに日本金融機関として初めて三菱UFJ銀行が登壇したりしているということです。

こういったお客さんの講演から学んだ内容としては、

  • 万能なモデルは存在しない(Amazon Bedrockでマルチモーダル・画像生成・動画生成など多様なモデルを作成)
  • モデル単体で課題は解決しない(システムとしてのオーケストレーションもモデルの内容と同じように必要なため、基盤モデルも提供している)
  • 技術のみで課題は解決しない(生成AI「が」活用できないのか生成AI「も」活用できないのかを考える。まずは技術的進化が生成AI以外でもできているかが重要で、AWSが調査した事例だと顧客起点文化/小規模なチーム/頻繁な実験の3点が成功企業に共通していることが分かった)

があるそうで、ハイインパクトユースケースやプラクティスの整理も行っているということでした。
例えば、

  • ML Enablement Workshop
  • AWSの生成AI活用開始プログラム
  • Amazon流のプロダクト作りを伝えるプログラム

などはその一例だそうです。

菅野さん(Snowflakeの講演)

AI戦略にはデータ戦略が不可欠だということで、データファウンデーションの強化/エンタープライズAIの促進/アプリケーション構築と配布をSnowflakeでは重視しているということでした。

具体的な製品構造としては、信頼できる一つのデータに対して生成AIと機械学習がいるようになっているそうで、特長として簡単で効率的で信頼性が高いことが挙げられるということでした。
例えば、SQLPythonなどからシンプルにLLMを利用できるようにしたり、データ分析のアシスタントができるようにしたりしているそうです。

また、AIの活用の主役は全ての人であるべきだと考えているそうで、データエンジニアの人向けにWebアプリを簡単に作れるような機能を提供したりしているということでした。

会全体を通した感想

AIプラットフォームの貢献方法として、プロダクトを実際に活用しているユーザーたちに可能な限り有効なユースケースを話してもらい、それを展開してベストプラクティス化していくような動きというのが話と聞けたのは印象的でしたし、すごくよいなと思いました。

一方で、若干音声品質が低い方がいらっしゃったことと、会社の商品の宣伝が多く具体的な技術に関する話やそういった商品を作るまでのプロセスの話がなかった気がする発表があった点だけが少しだけ残念でした。