エッジAIの有力候補~ラズベリーパイとFPGA~画像認識性能&手順を比較!【オンライン限定セミナ】
エッジAIの有力候補~ラズベリーパイとFPGA~画像認識性能&手順を比較!【オンライン限定セミナ】
|
|
【開催日】2025年2月27日(木) 10:00-17:00 1日コース
【セミナNo.】ES24-0135 【受講料】29,000円(税込)
【会場】オンライン限定セミナ
【セミナNo.】ES24-0135 【受講料】29,000円(税込)
【会場】オンライン限定セミナ
※本セミナはZoomを使ったオンライン限定セミナです.
詳細は,オンライン限定セミナについてをお読みください.
「エッジAI」とは何でしょう?それは「クラウドAI」に対比するワードであり,「ネットに繋がずに行うAI」という意味である.例えば自動車の場合,画像認識には「即応性」や「安定性」が求められる.したがってクラウド(ネット経由)で処理するわけにはいかず,エッジAIの出番となる.そしてエッジAIを行うデバイスを「エッジ・デバイス」という.本セミナではラズベリーパイやFPGAといったエッジ・デバイスで画像認識を行う.
ラズパイはPythonなので,PCで使ったプログラムがほぼそのまま使え,とりあえず動く/実験できるエッジ・デバイスである.FPGAはHDLなのでそうはいかないが,本セミナでは既存の推論IP(デジタルフィルター社)に重み係数やバイアスのHDLを追加といった手法をとる.したがってHDLに習熟していなくても画像認識ををFPGAに実装できる.
ラズパイ/FPGAに同じディープラーニングの推論(6層畳み込みニューラルネットワーク)を実装し,双方の開発手順と性能を比較する.開発の容易さはラズパイ>>FPGA,推論速度はラズパイ<<FPGAであることが分かる(下の動画参照)
なおディープラーニングの学習はあらかじめPCで行ったものとし,既存の学習済みモデルをエッジデバイスに適用する(本セミナは推論のみを行う).
詳細は,オンライン限定セミナについてをお読みください.
「エッジAI」とは何でしょう?それは「クラウドAI」に対比するワードであり,「ネットに繋がずに行うAI」という意味である.例えば自動車の場合,画像認識には「即応性」や「安定性」が求められる.したがってクラウド(ネット経由)で処理するわけにはいかず,エッジAIの出番となる.そしてエッジAIを行うデバイスを「エッジ・デバイス」という.本セミナではラズベリーパイやFPGAといったエッジ・デバイスで画像認識を行う.
ラズパイはPythonなので,PCで使ったプログラムがほぼそのまま使え,とりあえず動く/実験できるエッジ・デバイスである.FPGAはHDLなのでそうはいかないが,本セミナでは既存の推論IP(デジタルフィルター社)に重み係数やバイアスのHDLを追加といった手法をとる.したがってHDLに習熟していなくても画像認識ををFPGAに実装できる.
ラズパイ/FPGAに同じディープラーニングの推論(6層畳み込みニューラルネットワーク)を実装し,双方の開発手順と性能を比較する.開発の容易さはラズパイ>>FPGA,推論速度はラズパイ<<FPGAであることが分かる(下の動画参照)
なおディープラーニングの学習はあらかじめPCで行ったものとし,既存の学習済みモデルをエッジデバイスに適用する(本セミナは推論のみを行う).
●対象聴講者
・ネット環境なしでディープラーニング推論(画像認識)したい人
・ディープラーニング推論の組み込みを考えている人
・ディープラーニング推論の省電力化・高速化を考えている人
・FPGAで小数の乗算ができない,整数でも乗算器が足りなくて困っている人
●講演の特徴と目標
・PCよりも小型省電力なエッジ・デバイスへのディープラーニング実装
・ラズパイ/FPGAそれぞれの強みを生かした使い分けの理解
・ディープラーニング推論のPythonプログラムの理解
・ディープラーニング推論のPythonプログラムを整数化する
・FPGAで大量の乗算を並列に行う方法が分かる
・HDLを一からコーディングするのではなく,HDLで書かれた既存の推論IPを活用する
●内容
1 ラズパイの強みを活かしたAI画像認識開発フロー
1.1 AI画像認識におけるラズパイの強みと弱み
1.2 エッジ・デバイスに実装するまでのフロー
1.3 自力で画像が撮れないときは生成AIを使う
2 ラズパイのセットアップ
2.1 OSのインストールとアップデート
2.2 Python3仮想環境にTensorflowをインストール
2.3 ライブラリ類のインストール
3 ラズパイで静止画の推論
3.1 PCで使ったPythonがほぼそのまま使える
3.2 PCとラズパイが同じ結果になる
3.3 静止画推論用Pythonプログラムの説明
4 ラズパイ+USBカメラで動画の推論
4.1 カラーボールを床に置いて認識してみる
4.2 床の色によっては誤認識が…
4.3 床の画像を追加して学習からやり直す
4.4 新しい学習済みモデルで推論(誤認識が減る)
5 ラズパイで推論速度が遅い理由を探る
5.1 推論品質はラズパイでOKとなった。あとは速度のみ
5.2 乗算回数を数えてみる(3.4ギガ回/フレーム)
5.3 ラズパイは遅延が大きい上に不定
6 FPGAの強みは遅延が少なく一定なこと
6.1 FPGAの開発フロー
6.2 推論IPの仕様(画像サイズ,CNN形状,対応ハードなど)
6.3 対応ハードウエア(FPGAボード,カメラ,アダプタなど)
7 ハードウェア化を見据えたPythonの変更
7.1 FPGAで小数は使えないので整数化
7.2 FPGAでは乗算器が限られるのでシフト乗算
7.3 Python変更後の認識率(劣化が許容範囲)
8 Python→EXCEL化で結果の一致を見る
8.1 1層目のEXCEL化
8.2 2~4層目のEXCEL化
8.3 5~6層目のEXCEL化
9 EXCEL+VGAでHDLの自動生成
9.1 重み係数のHDL生成
9.2 バイアスのHDL生成
10 推論アルゴリズムをFPGAに実装
10.1 既存の推論IPにHDL追加
10.2 Quartus Primeでコンパイル(論理合成)
10.3 FPGAボードにダウンロード(書き込み)
10.4 ラズパイ/FPGAの速度比較(下の動画)
●講演の参考文献,参考URL
インターフェース2025年3月号特集「生成AI×エッジ・デバイスでAI画像認識」
PC/ラズパイ/FPGAの性能比較動画
http://digitalfilter.com/youtube/ommf2024.html
次のサイトも参考になる(PythonのHDL化)
http://digitalfilter.com/gtsonhw/gtsonhw01.html
ラズパイ4_model_B_8GB
ラズパイでの動画認識(YOUTUBEより)
DE1-SoCとOV5642_LVDSで数m伝送
FPGAでの動画認識(YOUTUBEより)
・ネット環境なしでディープラーニング推論(画像認識)したい人
・ディープラーニング推論の組み込みを考えている人
・ディープラーニング推論の省電力化・高速化を考えている人
・FPGAで小数の乗算ができない,整数でも乗算器が足りなくて困っている人
●講演の特徴と目標
・PCよりも小型省電力なエッジ・デバイスへのディープラーニング実装
・ラズパイ/FPGAそれぞれの強みを生かした使い分けの理解
・ディープラーニング推論のPythonプログラムの理解
・ディープラーニング推論のPythonプログラムを整数化する
・FPGAで大量の乗算を並列に行う方法が分かる
・HDLを一からコーディングするのではなく,HDLで書かれた既存の推論IPを活用する
●内容
1 ラズパイの強みを活かしたAI画像認識開発フロー
1.1 AI画像認識におけるラズパイの強みと弱み
1.2 エッジ・デバイスに実装するまでのフロー
1.3 自力で画像が撮れないときは生成AIを使う
2 ラズパイのセットアップ
2.1 OSのインストールとアップデート
2.2 Python3仮想環境にTensorflowをインストール
2.3 ライブラリ類のインストール
3 ラズパイで静止画の推論
3.1 PCで使ったPythonがほぼそのまま使える
3.2 PCとラズパイが同じ結果になる
3.3 静止画推論用Pythonプログラムの説明
4 ラズパイ+USBカメラで動画の推論
4.1 カラーボールを床に置いて認識してみる
4.2 床の色によっては誤認識が…
4.3 床の画像を追加して学習からやり直す
4.4 新しい学習済みモデルで推論(誤認識が減る)
5 ラズパイで推論速度が遅い理由を探る
5.1 推論品質はラズパイでOKとなった。あとは速度のみ
5.2 乗算回数を数えてみる(3.4ギガ回/フレーム)
5.3 ラズパイは遅延が大きい上に不定
6 FPGAの強みは遅延が少なく一定なこと
6.1 FPGAの開発フロー
6.2 推論IPの仕様(画像サイズ,CNN形状,対応ハードなど)
6.3 対応ハードウエア(FPGAボード,カメラ,アダプタなど)
7 ハードウェア化を見据えたPythonの変更
7.1 FPGAで小数は使えないので整数化
7.2 FPGAでは乗算器が限られるのでシフト乗算
7.3 Python変更後の認識率(劣化が許容範囲)
8 Python→EXCEL化で結果の一致を見る
8.1 1層目のEXCEL化
8.2 2~4層目のEXCEL化
8.3 5~6層目のEXCEL化
9 EXCEL+VGAでHDLの自動生成
9.1 重み係数のHDL生成
9.2 バイアスのHDL生成
10 推論アルゴリズムをFPGAに実装
10.1 既存の推論IPにHDL追加
10.2 Quartus Primeでコンパイル(論理合成)
10.3 FPGAボードにダウンロード(書き込み)
10.4 ラズパイ/FPGAの速度比較(下の動画)
●講演の参考文献,参考URL
インターフェース2025年3月号特集「生成AI×エッジ・デバイスでAI画像認識」
PC/ラズパイ/FPGAの性能比較動画
http://digitalfilter.com/youtube/ommf2024.html
次のサイトも参考になる(PythonのHDL化)
http://digitalfilter.com/gtsonhw/gtsonhw01.html
ラズパイ4_model_B_8GB
ラズパイでの動画認識(YOUTUBEより)
DE1-SoCとOV5642_LVDSで数m伝送
FPGAでの動画認識(YOUTUBEより)
【受講者が持参するもの】
オンライン限定で基本的に実習なしだが,ラズパイにOSやTensorflowをインストールしておくとベター.また,Pythonの整数化の際にGoogle Colabを使用する予定なので,ログインできるようにしておくとベター.
また,FPGAプログラムには以下のソフト・ハードが必要
Quartus Prime Lite Edition 15.1以上(開発ソフトウェア)
DE1-SoC(テラシック社製FPGAボード)
OV5642カメラモジュール(日昇テクノロジー版推奨)
カメラ取り付け用LVDS伝送アダプタボード(デジタルフィルター社)(*1)
(*1)下記サイトの左上「基板・ソフト販売サイト」から購入できる(予定).
Http://digitalfilter.com/jpindex.html
オンライン限定で基本的に実習なしだが,ラズパイにOSやTensorflowをインストールしておくとベター.また,Pythonの整数化の際にGoogle Colabを使用する予定なので,ログインできるようにしておくとベター.
また,FPGAプログラムには以下のソフト・ハードが必要
Quartus Prime Lite Edition 15.1以上(開発ソフトウェア)
DE1-SoC(テラシック社製FPGAボード)
OV5642カメラモジュール(日昇テクノロジー版推奨)
カメラ取り付け用LVDS伝送アダプタボード(デジタルフィルター社)(*1)
(*1)下記サイトの左上「基板・ソフト販売サイト」から購入できる(予定).
Http://digitalfilter.com/jpindex.html
【講師】
岩田 利王 氏〔株式会社 デジタルフィルター 代表取締役〕
音声・画像などのデジタル信号処理システム,VHDL/VerilogによるFPGA(Xilinx, Altera),dsPIC, ARM Cortex,MSP430等マイコンシステム,ラズベリーパイ,Arduino,Windowsアプリケーション,スマートフォンアプリ(Android/iPhone),プリント基板などの開発に従事.「実践ディジタル・フィルタ設計入門」,「dsPIC基板で始めるディジタル信号 処理」,「FPGAスタータ・キットで初体験!オリジナル・マイコン作り」,「FPGAパソコンZYBOで作るLinux I/Oミニコンピュータ」などCQ出版社から著書多数 .
講師サイト:http://digitalfilter.com/
岩田 利王 氏〔株式会社 デジタルフィルター 代表取締役〕
音声・画像などのデジタル信号処理システム,VHDL/VerilogによるFPGA(Xilinx, Altera),dsPIC, ARM Cortex,MSP430等マイコンシステム,ラズベリーパイ,Arduino,Windowsアプリケーション,スマートフォンアプリ(Android/iPhone),プリント基板などの開発に従事.「実践ディジタル・フィルタ設計入門」,「dsPIC基板で始めるディジタル信号 処理」,「FPGAスタータ・キットで初体験!オリジナル・マイコン作り」,「FPGAパソコンZYBOで作るLinux I/Oミニコンピュータ」などCQ出版社から著書多数 .
講師サイト:http://digitalfilter.com/