現在、大学院の授業で演習を受けているのですが、そこでncコマンドでサーバーにアクセスするとリモートのプログラムを実行できることを知りました。 使えそうなのでまとめておきます。 Netcatって何？ Netcat（略してncなので、以下ncと表記します）は、Linu…

WSLを使用しているとホストネームがWindowsの端末名になってしまうのですが、自分みたいに説明が画面キャプチャを貼ったりしていると、あんまり見せたくないなと思うこともありますそこでWSLのディストリビューションのhostnameを変更を考えるのですが、一般…

極稀にあまり使わない形式のアーカイブファイルを扱うことがあり前々からストレスを感じていました 面倒なのは形式ごとに別々のパッケージをインストールしなければいけないことです。新しいサーバをセットアップするたびに「あれ、7zが扱えない」「rarファ…

Linux環境（WSLを含む）でPythonを使用する際、一般的にpython3コマンドでPython3を起動する必要があります。Python2の存在感が薄れている現在であれば、pythonだけで実行できるほうが助かります。そこで、pythonでpython3で動作させるための方法を紹介しま…

1. はじめに 「自分だけのAIアシスタントがあったら便利だろうな～」と思ったことはありませんか？そんな好奇心から、今更ながらOllamaで動かしている大規模言語モデル（LLM）のファインチューニングに挑戦してみました。プログラミング初心者向けの回答をよ…

AI界隈の動きで、LLM（大規模言語モデル）に興味を持ち始めた方も多いのではないでしょうか。自分もそんな1人です。今回は、自分のPCに搭載されているGPUがLLMをどれくらい効率よく動かせるのかベンチマークをについてセットアップ方法とベンチマーク結果を…

Windows で Linux 環境を手軽に利用できる WSL（Windows Subsystem for Linux）は、開発者にとって非常に便利なツールですが、その中でもUbuntuを使用している方も多いのでは無いかと思います。 しかし、「毎回同じ環境をセットアップするのが面倒…」 と思っ…

以前からAITuber？AIVTuber？のようなものを作成したいなと思っていたました。（違いがよくわからないので以降AITuber） 自分の想像していたAITuberの定義はこんな感じ チャットやマイクのインターフェースを使用してLLMによって応答を生成しコミュニケーシ…

普段の開発では、ローカル環境でプログラムを実行することが多いのですが、長時間の実行が必要な機械学習の学習処理やバッチ処理などでは、ターミナルを閉じてもプログラムの実行を止めずに継続して実行する必要性に迫られることがあります。 Xな環境であれ…

最近、音声認識の処理を行うプログラムを作成しています。開発・デバッグの際、マイクの前でテーマに沿った話をして、音声認識の確認を行う必要があるのです。内心これがとても面倒だなと思っています。特にテーマなどに全く関心がない場合には、なんにも頭…

まえまえから気になっていたことがあります。WSLのプログラムで『音声ファイルを鳴らすことができるのか？』ということです。 現在、音声関連の処理を行うプログラムを書いているので、これが可能となると実験機器の数が減るので便利なんだけどなという思い…

WSLのコンソールを使うようになってからPCの音声をミュートしています。それはコンソールでコマンドなどのTab補完を行っていると、候補を出すたびにベルがなっていたからです。一応以下の設定はしていたので、警告時のベルの抑止はしていました。 .bashrcに…

毎月開催されているwatsonx.ai Dojoのハンズオンの内容の復習の続きになります。 イベントページ ibm-developer.connpass.com 応用編として開催された今回のハンズオンでは、これまでのプロンプトエンジニアリングから一歩進んで、RAG（Retrieval-Augmented …

割とハマったのでメモ Windows11上のWSLのUbuntu24.04でshファイル内でnpm run startを実行していて以下のようなエラーに遭遇。 git cloneコマンドで持ってきたプログラムだったのですが、他の環境ではこのようなエラーは発生していませんでした。 エラーの…

IBMさんからOllamaに対応したIBM Granite 3.0 modelsがリリースされたというニュースがありました（2024.10.21）。 ollama.com ラスベガスで行われているTechXchange Conference 2024に合わせた発表なのかなと。 www.ibm.com これまで、IBMのLLMでOllamaに対…

今後、失敗してもリカバリできるようにメモ Ubuntuでアプリセンターなどでアプリ関係のアップデートを行うとNVIDIAやCUDAのドライバー関連、Docker側のGPUドライバを含んだ形でアップデートされてしまい。コンテナ関連が動作しなくなるという現象が発生しま…

仕事関連でOllama関連の作業を少しお休みしていたのですが、そろそろ開始するかということで触り始めていたのですが、GTX1070 mobileではあるもののGPUありPCでのLLMの動作が遅く感じていました。なんでかなと思っていたのですが、わからず進めていました。…

すでに一ヶ月ほど経ってしまっていますが、生成AIを使ったアプリ開発、入門編 〜watsonx.ai Dojo #2〜に参加しましたので、そのハンズオン内容の復習レポートとして記してみたいと思います。 参考 uepon.hatenadiary.com 前回は概論的な予備知識的な内容でし…

いままでもずっと手間だなと感じてはいたのですが、「ディレクトリを作成してすぐにそのディレクトリに移動するということ」。これまでは非IT系のジャンルにいたので、CLIなどの作業はあまりありませんでしたが、最近はその職から離れ、開発的なところにいる…

Dockerでコンテナを触っているとdocker run実行後に以下のような表示が出たことはないでしょうか。ここ最近DockerでOllamaを触って、そのころから毎回出力されている状態です。 What's next: Try Docker Debug for seamless, persistent debugging tools in …

最近、AIのことは一応触ってはいますが、ちっともわからない状況です 先日までOllamaを使用していたのでローカルLLMについてはなんとなく分かってきた様でもありという状況ですが、OllamaはGGUF形式のモデルが使えるとはいえ、すべてのモデルがGUFF形式で公…

これまでOllamaを使用して比較的容易にローカルLLMモデルを使用することをやってきました。ここまで来ると未対応のLLMモデルを使用したくなってきます(よね)。 そこで、OllamaのREADMEファイルを読んでいったところ github.com Import GGUFという項目があり…

最近では、生成系AIも徐々に多様化してきて、ローカルLLMの使用も流行ってきていますね。個人利用であれば、OpenAIのChatGPTなどのSaaS型の生成AIでも問題ないのですが、企業活動になるとそう言ってもいられない事象があるのはもっともかもしれません。 今回…

GPUを持つUbuntuでDocker経由でCUDAを使用する場合に必要となるNVIDIA Container Toolkitをインストールします。 使用したUbuntuのバージョンはUbuntu22.04LTS。下記リンクを参照しインストールを行う。 docs.nvidia.com $ curl -fsSL https://nvidia.github…

UbuntuにVisualStudioCodeをインストール UbuntuのバージョンはUbuntu22.04LTS。 debパッケージをダウンロードして、dpkgコマンドでインストールする方法もありますが、 今回はaptコマンドでインストールしています。 Ubuntu22.04LTSにVisualStudioCodeをイ…

UbuntuにDockerをインストールするメモ 今回のバージョンはUbuntu24.04LTSにDockerをインストールしています。 以下のスクリプトでインストールまで可能。インストール後は再起動をしたほうが楽です。 Ubuntu22.04LTSにDockerをクリーンインストールする 参考…

NVIDIA製GPUを家では使用できるようにしたのですが、外出中でもなんとか使えないかと思いっていたところGTX1070Mobileを搭載した少し古めのゲーミングPCが準備できたので、OSにUbuntu24.04LTSをインストールし、NVIDIAドライバとCUDAをセッティングするとい…

これまでNode-REDを体験するワークショップの環境をどうやって作るかを昨年ぐらいから考えていたのですが、ようやく答えが出てきたのでまとめておこうと思います。 IBM Cloudの環境でもカード登録なく無料での使用（学生にとってはかなり重要）ができなくな…

最近のUbuntuやRaspberryPiを使用しているとpipコマンドでライブラリのインストールをするときにPEP668のエラーが出てきます。 以下は最新のRaspberryPi OSであるDebian GNU/Linux 12 (bookworm)でpipコマンドを使用してnumpyを インストールしてみた結果に…

先日来使用しているVOICEVOXですが、PCであればかなり高速に処理をすることができるとはいえ、リアルタイム性？というところではやはり処理時間がかかるため会話というところには使用が難しいと思いました。そこで、他にもなにかないかなと思い探してみるこ…