これまでOllamaを使用して比較的容易にローカルLLMモデルを使用することをやってきました。ここまで来ると未対応のLLMモデルを使用したくなってきます(よね)。 そこで、OllamaのREADMEファイルを読んでいったところ github.com Import GGUFという項目があり…

先日、オンラインで生成AIと向き合うための準備編 〜watsonx.ai Dojo #1〜に参加しましたので、その内容をレポートとともに次回に向けての環境設定を行ってみます。 今回は知人から紹介を受けて、watsonx.aiに興味があったので参加です。自分のAIの知識は我…

以前の投稿では、少し古いゲーミングPCにUbuntuをインストールし、Dockerコンテナを使ってOllamaを起動し、ローカルLLM環境を構築しました。 PC上でローカルLLMを動作させていましたが、最近ではモデルサイズが小さく、よりコンパクトなLLMが登場しています…

Windowsを使用しているとファイルのダウンロードの確認でハッシュ値を確認したいこともあります。 例えば、UbuntuのISOファイルなどはファイルサイズも大きいのでダウンロードの成功を見るためにも確認しておきたいところです。ダウンロードサイトにはSHA256…

以前のエントリでは、Ollamaを使ってローカル環境でLLMを構築する手順を説明しました。それだけでも十分に活用できるのですが、さらに一歩進めて、Ollamaをより深く活用する方法について考えてみました。Ollamaをセットアップすると、REST APIを介してシステ…

みなさんNotionを使っていますか？私自身、ブログ、Markdown、Google系のドキュメントなど、過去に色々な手段を試してみましたが、最近では共有することを意識して、Notionを使うことが多くなりました。Notionは情報管理ツールであり、ノート、タスク、デー…

最近では、生成系AIも徐々に多様化してきて、ローカルLLMの使用も流行ってきていますね。個人利用であれば、OpenAIのChatGPTなどのSaaS型の生成AIでも問題ないのですが、企業活動になるとそう言ってもいられない事象があるのはもっともかもしれません。 今回…