AI Ryzen AI 1.3のインストール手順とトラブルシューティング Ryzen AI 1.3のインストール手順、ドライバー更新方法やLLM・CNNの動作調整について解説します。 2024.12.19 AIAI推論AMDLLMNPURyzenAI未分類開発環境
AI AMDのNPU(RyzenAI XDNA)でLLM(Llama-3.1-8B-Instruct)を使ってみる 前回はfacebook/opt-125mを使用していたが、Llama-3.1-8B-InstructをNPPで動作できるように量子化したllama3.1-8b-Instruct-amd-npuがあったので動かしてみる。 環境設定はfaceb... 2024.11.09 AIAI推論AMDFPGALLMNPURyzenAIベンチマーク
AI RyzenAIのNPUでLLMベンチマークを取得する方法と結果 NPUのRyzenAIでLLMのベンチマークが取れたのでその記録をする。 前提 RyzenAIの開発環境はすでに整っている前提で進める。 リンクのReadmeがあるので参考にする。 Anacondaの環境作成 Anacondaプロンプトで以... 2024.11.07 AIAI推論AMDFPGALLMNPURyzenAIパフォーマンス比較ベンチマーク開発環境
AI AMDのNPU(RyzenAI XDNA)を使ってみた3 (ryzen-ai-1.2.0) C:\Program Files\RyzenAI\1.2.0\quicktest>python quicktest.py Traceback (most recent call last): File "C... 2024.11.02 AIAI推論AMDFPGALLMNPURyzenAI開発環境