LLM
50歳で学び直しを受けてる身としては、やらないと時代に取り残されるという危機感がひしひしと ということで、先月あたりから使用し始めたGemini CLIとClaude Codeの特に非対話モード(UIなしでコマンドプロンプトから実行するモード:Non-interactive mode…
大学の講義受講でなかなか時間が取れませんでしたが、ようやく授業にも慣れてきました 時間ができたとはいえ、日々の課題に追われていると、これまで時間をかけて調べていた設定を調べることも大変です。たとえば、これまでローカルLLMにはOllamaを使用して…
Google様がまた新しいAIツール出してきたじゃないですか。正直いうと、また覚えることが増えるのかという感想Claude CodeがProプランで使えるようになったと思ったら、今度はGemini CLIですよ...もう追いつけないでもやらないと時代に取り残される...という…
スマヌ15分では追いつけなかったよ…トラブルに引っかかったので60分かかった ※Node.jsのインストールトラブルがなければ15分で終わるでしょう。 かなり無理を言ってるわかってるでもやらないと追いつけない… という話となります。さて短時間で学び直しはでき…
先日のGoogle I/O 2025で発表された、GeminiとGemmaの新しいモデルをPythonとGoogle Colab環境を使用し、API経由(無料枠内)で実行してみました。 注意事項 本記事の実行結果は特定の時点でのプレビュー版の性能です 正式リリース時には性能や回答品質が変…
During my participation in an IBM watsonx.ai Dojo session, I was introduced to an excellent conversion tool capable of handling various file formats. That tool is Docling! It appears to be quite effective for Retrieval-Augmented Generatio…
AI界隈の動きで、LLM(大規模言語モデル)に興味を持ち始めた方も多いのではないでしょうか。自分もそんな1人です。今回は、自分のPCに搭載されているGPUがLLMをどれくらい効率よく動かせるのかベンチマークをについてセットアップ方法とベンチマーク結果を…
Hugging Faceは、機械学習・自然言語処理モデルのオープンソースプラットフォームで、「AI界のGitHub」とも呼ばれ、最先端のAIモデルを共有・活用する中心的な場所となっています。Hugging Faceから最新のモデルをダウンロードしてローカルで使用する方法に…
以前からAITuber?AIVTuber?のようなものを作成したいなと思っていたました。(違いがよくわからないので以降AITuber) 自分の想像していたAITuberの定義はこんな感じ チャットやマイクのインターフェースを使用してLLMによって応答を生成しコミュニケーシ…
IBM watsonx.ai DojoでRAGとして様々なファイルのフォーマットを使用するための変換ツールを紹介していただきました。 それが今回紹介するDoclingです Doclingとは? Doclingは、簡単にいうならば様々なドキュメントに対応したHTML、Markdown、JSONへのコン…
毎月開催されているwatsonx.ai Dojoのハンズオンの内容の復習の続きになります。今回は直前に体調を大きく崩してしまい、最新回までに間に合わず イベントページ ibm-developer.connpass.com 今回のハンズオンではLLMの回答精度を上げる、RAG(Retrieval-Aug…
2024年12月14日に開催された「なごあずの集い#3」に参加および運営をしてきました。 こちらのイベントは… 『なごあず(JAZUG 名古屋支部)』(愛知のほうでAzure話題にゆるーく集まる会)です。 コロナ禍を経て活動を再開し、今回で3回目の開催となりました…
この記事はからあげ帝国 Advent Calendar 2024の19日目の記事です。 先によくわからない内容になったことをお詫びします からあげ帝国 Advent Calendar 2024に申し込んだものの、全くアイデアが浮かばず困っていました そこで、からあげ帝国の聖典である「面…
毎月開催されているwatsonx.ai Dojoのハンズオンの内容の復習の続きになります。 イベントページ ibm-developer.connpass.com 応用編として開催された今回のハンズオンでは、これまでのプロンプトエンジニアリングから一歩進んで、RAG(Retrieval-Augmented …
「AIと簡単に対話できないかな?」「Node-REDでもLLMを使えたら面白いのに」 そんな思いを持っていた方もいるのではないでしょうか?今回はNode-REDとOllamaを組み合わせて、誰でも簡単にAIとの対話システムを構築する方法をまとめてみました。 開発環境には…
毎月開催されているwatsonx.ai Dojoのハンズオンの内容の復習の続きになります。 今回は2部構成の後半ですが、前回とは切り離して行える形です。 イベントページ ibm-developer.connpass.com 今回の内容はプロンプト・エンジニアリング入門ということで、プ…
毎月開催されているwatsonx.ai Dojoのハンズオンの内容を復習してみました。 内容が多いため、2部構成でお届けします。今回は演習1の部分と次回は演習2&演習3という組み合わせになっています。プログラミングなしでも演習1は体験できるのでこちらだけでもど…
先日、ClaudeというLLMを開発しているAnthropic社からニュースリリースがありました。新しいLLMの公開と既存モデルのアップデートに加え、特筆すべきは「computer use」という新機能です。この機能は、LLMがPCを操作できるようになるというものです。現状は…
今後、失敗してもリカバリできるようにメモ Ubuntuでアプリセンターなどでアプリ関係のアップデートを行うとNVIDIAやCUDAのドライバー関連、Docker側のGPUドライバを含んだ形でアップデートされてしまい。コンテナ関連が動作しなくなるという現象が発生しま…
仕事関連でOllama関連の作業を少しお休みしていたのですが、そろそろ開始するかということで触り始めていたのですが、GTX1070 mobileではあるもののGPUありPCでのLLMの動作が遅く感じていました。なんでかなと思っていたのですが、わからず進めていました。…
すでに一ヶ月ほど経ってしまっていますが、生成AIを使ったアプリ開発、入門編 〜watsonx.ai Dojo #2〜に参加しましたので、そのハンズオン内容の復習レポートとして記してみたいと思います。 参考 uepon.hatenadiary.com 前回は概論的な予備知識的な内容でし…
最近、AIのことは一応触ってはいますが、ちっともわからない状況です 先日までOllamaを使用していたのでローカルLLMについてはなんとなく分かってきた様でもありという状況ですが、OllamaはGGUF形式のモデルが使えるとはいえ、すべてのモデルがGUFF形式で公…
これまでOllamaを使用して比較的容易にローカルLLMモデルを使用することをやってきました。ここまで来ると未対応のLLMモデルを使用したくなってきます(よね)。 そこで、OllamaのREADMEファイルを読んでいったところ github.com Import GGUFという項目があり…
以前の投稿では、少し古いゲーミングPCにUbuntuをインストールし、Dockerコンテナを使ってOllamaを起動し、ローカルLLM環境を構築しました。 PC上でローカルLLMを動作させていましたが、最近ではモデルサイズが小さく、よりコンパクトなLLMが登場しています…
以前のエントリでは、Ollamaを使ってローカル環境でLLMを構築する手順を説明しました。それだけでも十分に活用できるのですが、さらに一歩進めて、Ollamaをより深く活用する方法について考えてみました。Ollamaをセットアップすると、REST APIを介してシステ…
最近では、生成系AIも徐々に多様化してきて、ローカルLLMの使用も流行ってきていますね。個人利用であれば、OpenAIのChatGPTなどのSaaS型の生成AIでも問題ないのですが、企業活動になるとそう言ってもいられない事象があるのはもっともかもしれません。 今回…