AI 【RyzenAI】DeepSeekを動作させてみた LM Studioを使った環境構築と検証結果RyzenAIでDeepseekを動かす
「RyzenAIでDeepSeekを動作させる方法を解説！AMDの最新ドライバーを導入し、LM Studioをセットアップする手順を詳しく紹介。APU環境での実行結果もレポート。」
ベンチマーク
AI 
AI AMDのNPU(RyzenAI XDNA)でLLM(Llama-3.1-8B-Instruct)を使ってみる
前回はfacebook/opt-125mを使用していたが、Llama-3.1-8B-InstructをNPPで動作できるように量子化したllama3.1-8b-Instruct-amd-npuがあったので動かしてみる。 環境設定はfaceb...
AI RyzenAIのNPUでLLMベンチマークを取得する方法と結果
NPUのRyzenAIでLLMのベンチマークが取れたのでその記録をする。 前提 RyzenAIの開発環境はすでに整っている前提で進める。 リンクのReadmeがあるので参考にする。 Anacondaの環境作成 Anacondaプロンプトで以...