CIFAR-10 or CIFAR-100 in part2

[EvanLu0815]

助教您好，
請問part2是要CIFAR-10還是CIFAR-100?
我照著助教給的Lab_FINN_20220413.pdf裡的設置，把vgg_1w1a.ini(P25)跟trainer.py (P24，雖然這頁寫要改bnn_pynq_train.py，但是這個function是寫在trainer.py) 的設定改好，所以應該要是CIFAR-100嗎?

另外就是根據助教在 Lab_FINN_20220413.pdf P20給的model，VGG9並沒有設置padding，而CIFAR-100的input image的大小是3x32x32，所以到最後一層的3x3 Conv, 256之前，我們的input size會變成256x0x0，請問是否應該加入其他的東西到我們的VGG9中？
謝謝助教

[Yuoto]

同學好，我請另一位助教來回答喔! 他晚點會來回覆!

[EvanLu0815]

請問晚點大概是什麼時候呢？下禮拜一這個作業就要截止了，我覺得這個作業很複雜，需要多一點時間來完成

[Yuoto]

同學好，我剛確認後今天晚上另一位助教就會回覆比較詳細的說明。
不過我這邊可以先粗略回覆的是 1. 是要用 CIFAR-100 沒錯
另外如果有需要的話，我們還可以再延長此lab的繳交期限幾天，一來是pynq板子的問題，二來主要還是鼓勵同學們可以參與此lab並且理解FINN與HLS的架構。

[jimmyli-421]

同學好，抱歉晚回覆了!

1. 是修改trainer.py沒錯，投影片寫錯了! Part2是使用CIFAR-100沒錯唷，train出來的準確度約只有50左右。
2. 這個model要padding唷!只是投影片的圖因為版面關係省略沒畫到，抱歉造成誤會。

若有遇到其他問題歡迎再上來提問唷~

[EvanLu0815]

助教您好，
當我在執行bo.export_finn_onnx的時候出現了下面的錯誤，

另外就是，執行：

的時候應該是把model執行在server上嗎？如果要把model執行在fpga應該要怎麼做？

[Yuoto]

同學好，
我先回答第二個問題，這裡的testing階段比較是在host做 evaluation，所以是靠CPU/GPU運算的，確保training dataset 跟 validation dataset 的結果相近。確定network 訓練完以後會輸出 .onnx 檔案，這份檔案會標記上所有剛剛train好的weight。如果到時候有成功輸出此model的話，可以用 https://netron.app/ 觀看整個VGG9的架構以及標記上去的weight。
下一個階段才是把此 .onnx 檔案放到類似先前 part1 notebook 的流程上，透過FINN compiler轉換成HLS layer並且合成。 之後的flow 包含pynq的部分就跟part1做的練習一樣了。

關於第一個問題，先前好像沒遇到過，我請另一個助教協助看看問題可能在哪!

[EvanLu0815]

請問根據講義提供的cmd，他應該不會自動存取那些model對嗎？
如果是這樣的話，我們應該在train的指令的最後面加上--resume嗎？

[Yuoto]

同學好，雖然問題解決了，我這邊還是留個筆記讓未來遇到此問題的人可以看到。

是要用resume沒錯! 因為training過程預設是儲存常見的 training model .tar檔，這還不是FINN之後可以吃的onnx檔案，裡面都是pytorch的資料。因此train完以後還是要重新把 .tar檔吃進來，並且再重新利用 export_onnx 輸出成 FINN compiler可以吃入的onnx格式。

(感謝同學找到問題，見原始討論: #11 (reply in thread))

由於新版本的 pytorch 把 enable_onnx_checker 移除了，因此需要手動到 Breivitas python安裝所在地，修改以下檔案
/path/to/usr/home/.local/lib/python3.8/site-packages/brevitas/export/onnx/finn/manager.py line77 --> comment掉

未來除非Brevitas把這個地方休掉，否則就是要使用pytorch 1.9(含) 以下的版本。
https://www.exxactcorp.com/blog/Deep-Learning/pytorch-1-10-0-now-available