【イベント運営&登壇】なごあずの集い#6|VS Codeで完結するLLM開発とAI Toolkit活用法

9月20日に開催された、なごあず(JAZUG 名古屋支部)の「なごあずの集い #6」を運営・登壇の両面で関わらせていただきました。これまでは運営ばかりだったので、実は初登壇なのでした🤣

会場をお借りした日立ソリューションズ中部事業所 様ありがとうございます🙇

75az.connpass.com

今回の登壇のテーマは「開発用LLMインフラをVS Code内で完結させる」ということで、MicrosoftのAI Toolkit for Visual Studio Code(以降AI Toolkit)を活用し、ローカル環境だけでも大規模言語モデルを動かす開発体験を紹介しました。しかも、クラウド課金はないという。Copilotのように「提供されたAIを使う」のではなく、自ら「AIアプリを作る」側に立てられるのがポイントです。社内用語に対応できる独自AIや、業界特化型のアシスタントを作りたい人にとって、大きな近道になると思います。

発表資料では、AI開発を料理に例えて「材料を選ぶ(Model Catalog)」「味見する(Playground)」「仕上げる(Agent Builder)」「品質を確認する(評価ツール)」「提供する(Azure連携)」という流れで解説しました。特にPlaygroundを使えば、モデルをすぐ試せるだけでなく、同時にローカルAPIサーバーが自動で立ち上がり、アプリ開発も容易になります。さらに、開発から本番までの移行はURLとAPIキーを切り替えるだけというシームレスさもちょっとアピールしました。これにより、コスト削減や機密データの保護、オフライン環境での利用が現実的になります。

参加者の中には、発表中にその場で実際にモデルをセットアップし、VS Code上で動かす方もいたり。短時間で動作を確認できたといった声もあり、興味を持っていただけたようです。

運営としても発表者としても、参加者に実際の手応えを感じてもらえたのは大きな収穫であり、AI開発のハードルがぐっと下がったことを実感する場となりました。

登壇資料はこちらになります。

speakerdeck.com

今後も地域コミュニティを通じて、実務に直結するテーマを登壇できればと思います。


他にも、Azure Cloud Adoption Frameworkのお話や、Azure LocalでAzureをオンプレで動かしたという話、Azure ExpressRouteのお話もあり、幅が広い話題がでていました。


四半期に1度というタイミングで行っているなごあずの集い。次回の開催は12月か1月くらいの開催になるかなと思います。よろしくお願いいたします🙇