IBMさんからOllamaに対応したIBM Granite 3.0 modelsがリリースされたというニュースがありました（2024.10.21）。 ollama.com ラスベガスで行われているTechXchange Conference 2024に合わせた発表なのかなと。 www.ibm.com これまで、IBMのLLMでOllamaに対…

今後、失敗してもリカバリできるようにメモ Ubuntuでアプリセンターなどでアプリ関係のアップデートを行うとNVIDIAやCUDAのドライバー関連、Docker側のGPUドライバを含んだ形でアップデートされてしまい。コンテナ関連が動作しなくなるという現象が発生しま…

Dockerでコンテナを触っているとdocker run実行後に以下のような表示が出たことはないでしょうか。ここ最近DockerでOllamaを触って、そのころから毎回出力されている状態です。 What's next: Try Docker Debug for seamless, persistent debugging tools in …

以前のエントリでは、Ollamaを使ってローカル環境でLLMを構築する手順を説明しました。それだけでも十分に活用できるのですが、さらに一歩進めて、Ollamaをより深く活用する方法について考えてみました。Ollamaをセットアップすると、REST APIを介してシステ…

最近では、生成系AIも徐々に多様化してきて、ローカルLLMの使用も流行ってきていますね。個人利用であれば、OpenAIのChatGPTなどのSaaS型の生成AIでも問題ないのですが、企業活動になるとそう言ってもいられない事象があるのはもっともかもしれません。 今回…

GPUを持つUbuntuでDocker経由でCUDAを使用する場合に必要となるNVIDIA Container Toolkitをインストールします。 使用したUbuntuのバージョンはUbuntu22.04LTS。下記リンクを参照しインストールを行う。 docs.nvidia.com $ curl -fsSL https://nvidia.github…

UbuntuにDockerをインストールするメモ 今回のバージョンはUbuntu24.04LTSにDockerをインストールしています。 以下のスクリプトでインストールまで可能。インストール後は再起動をしたほうが楽です。 Ubuntu22.04LTSにDockerをクリーンインストールする 参考…

先日、ネットをみていたところ下記のようなイベントがあり、興味があったのですが仕事がごたついていたときだったので参加できず、資料で我慢するかな～と思っていたのですが、 ibm-developer.connpass.com 資料を見るとあーDb2のライセンスいるのかってこと…

2024年4月27日に開催された「なごあずの集い#1」に参加・運営のお手伝いをしてきました。 75az.connpass.com コロナ下で活動できていなかったので、久々のオフライン活動として、大掛かりな勉強会という形ではなく、集いという形でのリブートになりました。G…

前回のDockerコンテナからNVIDIAのGPU認識を行ったので、続いてはいよいよ本丸のDockerコンテナでのStable Diffusion Web UI（以下Stable Diffusion）を実行して、ローカルPCのブラウザから生成を行ってみます。結構メジャーになっていることもあるので、こ…

2023.12.21 追記 コンテナが起動しない場合 最近、生成系AIに関しても興味がでてきたのでちょこっとStable Diffusionなんかも簡単に動かしたいなあと思うようになりました。と入っても、ノートPCではストレージにも余裕がそこまでなく、やばいときには環境を…

2022年の秋にAWS IoT CoreでMQTTを使用してから、もう少し使用してみようかなと思い、自分の開発環境にも入れてみようかなと思っていました。ただ、最近はWindowsのアプリのインストールではなくDockerを使用してコンテナ環境を作って他の環境でもすぐに使え…

最近、Dockerを使用するようになってPCの側でアプリ（特にサーバー系）をインストールしたりセットアップするのが億劫になってきました。私用で使っているRaspberryPiに関しても同様なのですが流石に1GBメモリのRaspberryPiでDockerを使用するのはちょっと無…

Dockerのコンテナ間の通信をできないかなと思って調べてみました。今まではコンテナにDBとWebサーバを共存させるようなことをやっていたのですが、 実際には別のサーバになることも多いので、この際調べて変更をしていこうと思います。 今回のテスト環境 今…

これまでは色々とNode-REDを使用してきましたが今回はDocker環境を使ったものを設定します。 httpsが使用できないということもあり、ローカル環境のものでは無くクラウド環境のものを使用してきたのですが、今回はちょっとDockerの復習とNode-REDからSeleniu…

dockerコンテナ間で通信を行って見ようかなと思ったらpingコマンドがない！ ubuntuのデフォルトコンテナを例えば以下のように実行すると PS > docker run -it --name myubuntu ubuntu 起動後に以下のようにpingコマンドを実行すると以下の様に表示されます。…

以前、CentOSがなくなり移行先をどうするかというようなことがネットでも話題になっていましたが、それに加えてRHELのライセンスも緩和されたということも同じように話題になっていました。自分はCentOSもRHELも使用していませんが、今後のためにRedHat系のL…

Dockerコンテナ側からホストOS側のプログラムと通信をしたいなあと思うことがあったので、ちょっと調べて見ました。もちろん、Docker側のネットワークIPを指定すれば、アクセスできますけどもう少し簡単したいなあと思ってのことです。 Dockerで設定された名…

折角お借りできたGPUの搭載されたPCなのでゲームをプレイとはならず、仮想環境でGPUを使ったAI(？)な環境整備とベンチマークを行ってみました。前回はWSL2環境でのUbuntuを使って環境整備を行っていましたが、さすがに色々なパッケージや環境変数設定、バー…

以前、書いたエントリーでWSL2-Docker環境ではChromiumブラウザがインストールできないという話をしていました。 パッケージがsnap経由で配布されていることによって、aptコマンドではダミーのインストールになってしまうためです。 snapはsnapdというデーモ…

前回はWSL2-Docker環境でChromeブラウザの起動まで行ったので、続きの作業としてmicro:bitのGitHub版最新開発環境を構築していきます。 参考 uepon.hatenadiary.com uepon.hatenadiary.com 基本的には参考リンクで事足りるかなと思いますので、簡単めの説明…

前にmicro:bitの最新版をRaspberry Piで動作させましたが、Raspberry Piでは結構動作が遅く、起動までにかなりの時間がかかっていました。 本当はWindows10でも試してみようかなと思ったのですが、割とインストールした開発アプリの状況が汚いWindows10しか…

Windows10HomeエディションでDockerが使えるようになったこともあり、Minecraftのサーバーが組めないかなと思いました。 残念ながらオッサンのワタシにはMinecraftを一緒にやるような友達はいませんが、どこかにお邪魔したときにLANで操作をレクチャーをする…

前回のエントリーではWindows10 HomeエディションでDocker Desktopをインストールしました。そこで、このDockerを使用して、RaspberryPiのカーネルのクロスコンパイルを行ってみたいと思います。これまではVirtualBoxなどをインストールして環境を整えました…

いろいろとRaspberryPiを触っていて、たまたまカーネルのコンパイルを行うためのクロスコンパイル環境をUbuntuで作成しようと思ったのですが、 Windows10 HomeエディションではDocker Desktopが使用できないといった制限がありました。そのため、環境構築に…

Chromebookを使っているとネットワークがつながらないときにやることがなくなるという不安はわりとあります。（そういうことも少なくなりつつありますが） たとえばオンライン上にあるIBM Cloudに入れてあるNode-Redで作業できなくなるなんてことも！Windows…

一連の流れのある【中編】になります。 ここまできてようやくチュートリアルのPart3が進められるような状況になりました。今回からはOSをChromeOSからUbuntu 18.02 LTSに変更して行っていきます。 【参考】 uepon.hatenadiary.com uepon.hatenadiary.com uep…

前回の挫折を受けてChromeOSからUbuntuなどへの移行を考え、折角インストールしたChromeOSを消すのも、もったいないのでUSB版のLive環境をつかって継続してDockerを学ぶように方針変更をしたらまたトラブルが…という内容です。キッカケになった挫折に関して…

ChromeOSにDockerをインストールしてみたので公式のドキュメントを見ながら学んで見たいと思います。 【参考】 uepon.hatenadiary.com 正直QiitaなどではDockerのMAC版の資料は検索に引っかかってくるのですが、LinuxというかChromeOSでの情報が見つかりにく…