Ubuntu

【実例あり】Netcatの便利な使い方|開発現場・ハッカソンで役立つncコマンド活用法

現在、大学院の授業で演習を受けているのですが、そこでncコマンドでサーバーにアクセスするとリモートのプログラムを実行できることを知りました。 使えそうなのでまとめておきます。 Netcatって何? Netcat(略してncなので、以下ncと表記します)は、Linu…

【WSL】ホストネーム変更が元に戻る問題を解決!永続化の正解はwsl.conf

WSLを使用しているとホストネームがWindowsの端末名になってしまうのですが、自分みたいに説明が画面キャプチャを貼ったりしていると、あんまり見せたくないなと思うこともありますそこでWSLのディストリビューションのhostnameを変更を考えるのですが、一般…

【メモ】アーカイブ操作が劇的に楽になる!atoolの実践ガイド【Linux】

極稀にあまり使わない形式のアーカイブファイルを扱うことがあり前々からストレスを感じていました 面倒なのは形式ごとに別々のパッケージをインストールしなければいけないことです。新しいサーバをセットアップするたびに「あれ、7zが扱えない」「rarファ…

【メモ】Python初心者の悩み解決!python3ではなくpythonで実行する最適な設定方法

Linux環境(WSLを含む)でPythonを使用する際、一般的にpython3コマンドでPython3を起動する必要があります。Python2の存在感が薄れている現在であれば、pythonだけで実行できるほうが助かります。そこで、pythonでpython3で動作させるための方法を紹介しま…

初心者でも簡単!Ollamaモデルをファインチューニングして自分だけのAIを作る方法

1. はじめに 「自分だけのAIアシスタントがあったら便利だろうな~」と思ったことはありませんか?そんな好奇心から、今更ながらOllamaで動かしている大規模言語モデル(LLM)のファインチューニングに挑戦してみました。プログラミング初心者向けの回答をよ…

あなたのGPUでもLLMが動く?!パフォーマンス測定してみよう!

AI界隈の動きで、LLM(大規模言語モデル)に興味を持ち始めた方も多いのではないでしょうか。自分もそんな1人です。今回は、自分のPCに搭載されているGPUがLLMをどれくらい効率よく動かせるのかベンチマークをについてセットアップ方法とベンチマーク結果を…

【WSL】Ubuntu 24.04環境を一発構築!開発環境の自動セットアップ術

Windows で Linux 環境を手軽に利用できる WSL(Windows Subsystem for Linux)は、開発者にとって非常に便利なツールですが、その中でもUbuntuを使用している方も多いのでは無いかと思います。 しかし、「毎回同じ環境をセットアップするのが面倒…」 と思っ…

PCいらずのAITuber実践ガイド:GitHub Codespaces × AItuber-kit で始めるAITuber環境構築

以前からAITuber?AIVTuber?のようなものを作成したいなと思っていたました。(違いがよくわからないので以降AITuber) 自分の想像していたAITuberの定義はこんな感じ チャットやマイクのインターフェースを使用してLLMによって応答を生成しコミュニケーシ…

【メモ】Ubuntu環境で知っておきたいバックグラウンドプロセス管理入門

普段の開発では、ローカル環境でプログラムを実行することが多いのですが、長時間の実行が必要な機械学習の学習処理やバッチ処理などでは、ターミナルを閉じてもプログラムの実行を止めずに継続して実行する必要性に迫られることがあります。 Xな環境であれ…

WSL環境でVOICEVOX CORE + Python 音声合成システムの導入と活用

最近、音声認識の処理を行うプログラムを作成しています。開発・デバッグの際、マイクの前でテーマに沿った話をして、音声認識の確認を行う必要があるのです。内心これがとても面倒だなと思っています。特にテーマなどに全く関心がない場合には、なんにも頭…

WSLでLinux音声アプリを動かそう!WSLgとPulseAudioの基礎

まえまえから気になっていたことがあります。WSLのプログラムで『音声ファイルを鳴らすことができるのか?』ということです。 現在、音声関連の処理を行うプログラムを書いているので、これが可能となると実験機器の数が減るので便利なんだけどなという思い…

【メモ】WSLのTab補完時のベル音を含めた警告音の抑止設定

WSLのコンソールを使うようになってからPCの音声をミュートしています。それはコンソールでコマンドなどのTab補完を行っていると、候補を出すたびにベルがなっていたからです。一応以下の設定はしていたので、警告時のベルの抑止はしていました。 .bashrcに…

【イベント参加レポート】生成AIを使ったアプリ開発、応用編~watsonx.ai Dojo #4~

毎月開催されているwatsonx.ai Dojoのハンズオンの内容の復習の続きになります。 イベントページ ibm-developer.connpass.com 応用編として開催された今回のハンズオンでは、これまでのプロンプトエンジニアリングから一歩進んで、RAG(Retrieval-Augmented …

【メモ】WSL環境での実行時にWindows側のプログラムを参照してしまう謎現象

割とハマったのでメモ Windows11上のWSLのUbuntu24.04でshファイル内でnpm run startを実行していて以下のようなエラーに遭遇。 git cloneコマンドで持ってきたプログラムだったのですが、他の環境ではこのようなエラーは発生していませんでした。 エラーの…

最新のLLMを体験!IBM Granite 3.0モデルをOllamaで動かしてみた

IBMさんからOllamaに対応したIBM Granite 3.0 modelsがリリースされたというニュースがありました(2024.10.21)。 ollama.com ラスベガスで行われているTechXchange Conference 2024に合わせた発表なのかなと。 www.ibm.com これまで、IBMのLLMでOllamaに対…

【メモ】GPUコンテナが動かない?Ubuntuアップデート後のトラブル解消法

今後、失敗してもリカバリできるようにメモ Ubuntuでアプリセンターなどでアプリ関係のアップデートを行うとNVIDIAやCUDAのドライバー関連、Docker側のGPUドライバを含んだ形でアップデートされてしまい。コンテナ関連が動作しなくなるという現象が発生しま…

UbuntuでGPUの動きをサクッと確認!topコマンド風モニタリングツール解説(nvtop/nvitop)

仕事関連でOllama関連の作業を少しお休みしていたのですが、そろそろ開始するかということで触り始めていたのですが、GTX1070 mobileではあるもののGPUありPCでのLLMの動作が遅く感じていました。なんでかなと思っていたのですが、わからず進めていました。…

【イベント参加レポート】生成AIを使ったアプリ開発、入門編 〜watsonx.ai Dojo #2〜

すでに一ヶ月ほど経ってしまっていますが、生成AIを使ったアプリ開発、入門編 〜watsonx.ai Dojo #2〜に参加しましたので、そのハンズオン内容の復習レポートとして記してみたいと思います。 参考 uepon.hatenadiary.com 前回は概論的な予備知識的な内容でし…

手間を削減!CLIでディレクトリ作成・直後に移動するを簡単にする方法(トホホ編?)

いままでもずっと手間だなと感じてはいたのですが、「ディレクトリを作成してすぐにそのディレクトリに移動するということ」。これまでは非IT系のジャンルにいたので、CLIなどの作業はあまりありませんでしたが、最近はその職から離れ、開発的なところにいる…

Docker初心者必見!『What's Next...』メッセージを非表示にする設定方法

Dockerでコンテナを触っているとdocker run実行後に以下のような表示が出たことはないでしょうか。ここ最近DockerでOllamaを触って、そのころから毎回出力されている状態です。 What's next: Try Docker Debug for seamless, persistent debugging tools in …

初心者でもできる!HuggingFaceモデルをGGUF形式に変換しOllamaで使う手順

最近、AIのことは一応触ってはいますが、ちっともわからない状況です 先日までOllamaを使用していたのでローカルLLMについてはなんとなく分かってきた様でもありという状況ですが、OllamaはGGUF形式のモデルが使えるとはいえ、すべてのモデルがGUFF形式で公…

Ollamaで広がるローカルLLMの世界 - GGUF形式モデルのインポート方法

これまでOllamaを使用して比較的容易にローカルLLMモデルを使用することをやってきました。ここまで来ると未対応のLLMモデルを使用したくなってきます(よね)。 そこで、OllamaのREADMEファイルを読んでいったところ github.com Import GGUFという項目があり…

ローカルLLMをWebUIで手軽に操作!噂のllama3、phi3、Graniteも使える!

最近では、生成系AIも徐々に多様化してきて、ローカルLLMの使用も流行ってきていますね。個人利用であれば、OpenAIのChatGPTなどのSaaS型の生成AIでも問題ないのですが、企業活動になるとそう言ってもいられない事象があるのはもっともかもしれません。 今回…

【メモ】UbuntuにNVIDIA Container Toolkitをインストールする

GPUを持つUbuntuでDocker経由でCUDAを使用する場合に必要となるNVIDIA Container Toolkitをインストールします。 使用したUbuntuのバージョンはUbuntu22.04LTS。下記リンクを参照しインストールを行う。 docs.nvidia.com $ curl -fsSL https://nvidia.github…

【メモ】UbuntuにVisualStudioCodeをインストールする

UbuntuにVisualStudioCodeをインストール UbuntuのバージョンはUbuntu22.04LTS。 debパッケージをダウンロードして、dpkgコマンドでインストールする方法もありますが、 今回はaptコマンドでインストールしています。 Ubuntu22.04LTSにVisualStudioCodeをイ…

【メモ】UbuntuにDockerをインストールする

UbuntuにDockerをインストールするメモ 今回のバージョンはUbuntu24.04LTSにDockerをインストールしています。 以下のスクリプトでインストールまで可能。インストール後は再起動をしたほうが楽です。 Ubuntu22.04LTSにDockerをクリーンインストールする 参考…

古いゲーミングPCを再利用!UbuntuでAI画像生成環境を構築するための手順

NVIDIA製GPUを家では使用できるようにしたのですが、外出中でもなんとか使えないかと思いっていたところGTX1070Mobileを搭載した少し古めのゲーミングPCが準備できたので、OSにUbuntu24.04LTSをインストールし、NVIDIAドライバとCUDAをセッティングするとい…

Node-REDの学習に最適!GitHub Codespacesを使った実行環境の構築法

これまでNode-REDを体験するワークショップの環境をどうやって作るかを昨年ぐらいから考えていたのですが、ようやく答えが出てきたのでまとめておこうと思います。 IBM Cloudの環境でもカード登録なく無料での使用(学生にとってはかなり重要)ができなくな…

PEP668エラー回避のヒント:pipxの活用

最近のUbuntuやRaspberryPiを使用しているとpipコマンドでライブラリのインストールをするときにPEP668のエラーが出てきます。 以下は最新のRaspberryPi OSであるDebian GNU/Linux 12 (bookworm)でpipコマンドを使用してnumpyを インストールしてみた結果に…

UbuntuやRaspberry Piでも利用可能な音声合成エンジンEdge-TTSの導入方法

先日来使用しているVOICEVOXですが、PCであればかなり高速に処理をすることができるとはいえ、リアルタイム性?というところではやはり処理時間がかかるため会話というところには使用が難しいと思いました。そこで、他にもなにかないかなと思い探してみるこ…