AI AMDのNPU(RyzenAI XDNA)でLLM(Llama-3.1-8B-Instruct)を使ってみる
前回はfacebook/opt-125mを使用していたが、Llama-3.1-8B-InstructをNPPで動作できるように量子化したllama3.1-8b-Instruct-amd-npuがあったので動かしてみる。 環境設定はfaceb...
AI 
AI RyzenAIのNPUでLLMベンチマークを取得する方法と結果
NPUのRyzenAIでLLMのベンチマークが取れたのでその記録をする。 前提 RyzenAIの開発環境はすでに整っている前提で進める。 リンクのReadmeがあるので参考にする。 Anacondaの環境作成 Anacondaプロンプトで以...
未分類 WindowsPCにVscodeのRemote‐SSHで接続する
Microsoft リモート デスクトップいつもはMicrosoftのリモートデスクトップで作業していたが、SSHでリモート接続した方が便利なシーンが増えてきたので、SSHでアクセスするまでの作業を記録する WindowsServer設定 ...
AI AMDのNPU(RyzenAI XDNA)を使ってみた3
(ryzen-ai-1.2.0) C:\Program Files\RyzenAI\1.2.0\quicktest>python quicktest.py Traceback (most recent call last): File "C...
AI AMDのNPU(RyzenAI XDNA)を使ってみた2
前回からだいぶ時間が経って、RyzenAI1.2がリリースされていたので使用する。 Installation Instructions — Ryzen AI Software 1.2 documentation リンクの手順に従ってインスト...
FA PythonとOPCUA、Grafanaを使ってデータをリアルタイムで可視化
FlaskでWebで表示できるようになったが、Webアプリ側を開発しないとリッチなUI表示ができなくなっているので、簡単にリッチなUIができるGrafanaを使用して可視化をできるようにする。 アプリケーション全体像 Flaskとの違いとし...
FA Dockerを使って温度のデータをWebで可視化する方法：PythonでOPCUAとFlaskを活用
なにかと製造業で話題のOPCUAとDockerコンテナを使って温度データを収集し、それをデータベースに保存し、Webブラウザで簡単に可視化をする
AI AMDのNPU(RyzenAI XDNA)を使ってみた
新しくLinux開発機を組み立てたが、せっかくだしWindow11をインストールしてRyzenAIを動かしてみる。 Ryzen8000シリーズの8600GでもRyzenAI動作したので記録する。 インストール手順 — Ryzen AI So...
AI Linux開発用PCを製作してみた 組立て編
メイン機はWindowsのWSLで色々と開発をしていましたが、面倒(特にデバイスとの接続時)なことが多く、Linux開発機を組み立てようと思いました。 スペック CPU：AMD Ryzen 8600Gマザーボード: Gigabyte B65...
FA PythonでOPC UAサーバー、クライントを立てる
最近、OPC UAというのに興味をもって、色々と調べたらこんなものを見つけた。 どうもPythonでOPCUAを実装できるみたいで、よくわからないけど、とりあえず動かしてみる。 今回の環境は以下のようにした。 VScodeを使用して、WSL...