兩個 Pynq-Z2 Deployment Issues

[yunchenlo]

Dear 助教 & all，

不好意思半夜打擾，我們在 part I 最後一步嘗試部署 tfc_end2end_example 時遇到以下兩個問題，解不掉想請教一下：

1. 無法在 PYNQ 產生 output.npy，導致 finn execute_onnx function call fail
   程式碼

import numpy as np
from finn.core.onnx_exec import execute_onnx

input_dict = {iname: x.reshape(ishape)}
ret = execute_onnx(model, input_dict) # error this line

錯誤碼

---------------------------------------------------------------------------
FileNotFoundError                         Traceback (most recent call last)
<ipython-input-35-a8b9e3998f94> in <module>
      4 input_dict = {iname: x.reshape(ishape)}
      5 # print(input_dict)
----> 6 ret = execute_onnx(model, input_dict)

/workspace/finn-base/src/finn/core/onnx_exec.py in execute_onnx(model, input_dict, return_full_exec_context, start_node, end_node)
    213     elif model_exec_mode == "remote_pynq":
    214         # use remote exec metadata built into model to execute on a remote PYNQ
--> 215         remote_exec(model, execution_context)
    216     elif model_exec_mode == "rtlsim":
    217         # use stitched IP for rtlsim

/workspace/finn-base/src/finn/core/remote_exec.py in remote_exec(model, execution_context)
    116     process_scp_out = subprocess.Popen(bash_command, stdout=subprocess.PIPE)
    117     process_scp_out.communicate()
--> 118     outp = np.load("{}/output.npy".format(deployment_dir))
    119     execution_context[model.graph.output[0].name] = outp

/opt/conda/lib/python3.8/site-packages/numpy/lib/npyio.py in load(file, mmap_mode, allow_pickle, fix_imports, encoding)
    405             own_fid = False
    406         else:
--> 407             fid = stack.enter_context(open(os_fspath(file), "rb"))
    408             own_fid = True
    409 

FileNotFoundError: [Errno 2] No such file or directory: '/mnt/HLSNAS/nthu01/finn/build/dir/pynq_deployment___5k6exo/output.npy'

2. 在跑多張 MNIST 照片時，無法成功在 PYNQ-Z2 板子上執行，他說若要用 sudo 權限執行，會沒有需要的 pynq 函式庫，請問是我們板子環境有問題嗎？謝謝！
   程式碼

! ssh {options} -t {username}@{ip} -p {port} 'cd {target_dir_pynq}; echo {password} | sudo -S python3.8 validate.py --dataset mnist --batchsize 1000'

錯誤

Traceback (most recent call last):
  File "validate.py", line 31, in <module>
    from driver import io_shape_dict
  File "/home/xilinx/finn_tfc_end2end_example/pynq_deployment___5k6exo/driver.py", line 34, in <module>
    from driver_base import FINNExampleOverlay
  File "/home/xilinx/finn_tfc_end2end_example/pynq_deployment___5k6exo/driver_base.py", line 32, in <module>
    from pynq import Overlay, allocate
ModuleNotFoundError: No module named 'pynq'

[Yuoto]

同學好，可以先試試看我們的板子， ip 跟server一樣，但port改成 10100
另板子是否有安裝 bitstring? sudo pip3 install bitstring
另可以看看這個問題的解方: Xilinx/finn#492
pynq板子上的帳號是sudoer，可以直接做操作，如果是HLS01需要權限的話再麻煩跟我說!

[Yuoto]

Hi
請在 pynq 上面找到剛剛產生的driver，執行一下
python3 driver.py
Details: Xilinx/finn#492

[rhsuanwang]

助教您好
我在執行python3 driver.py時發現module沒有bitsting
所以我有執行sudo pip3 install bitstring
但似乎沒辦法安裝
請問助教這部分可以怎麼解決呢?

[Yuoto]

這個問題看起來是沒有網路，你可以試試看網路是否通順
ping google.com

請問板子是BOLEDU LAB 裡面的板子嗎? 如果是的話跟我說 ip 與 port是什麼，我請人幫忙看一下!

[rhsuanwang]

Dear 助教
好像真的沒有網路

用的板子IP=140.112.207.200
port=10100

[Yuoto]

同學好，
如果是清大的同學的話，可以的話先用清大的板子跑，我剛試過你們的板子沒問題了，如果還有其他問題可以參考其他同學們的提問。
如果是交大的同學的話，可能再等等負責BOLEDU server的助教，應該這幾天會處理完網路的問題。

[EvanLu0815]

助教您好，請問我這樣是什麼問題呢？

我根據助教提供的資訊對連線進行測試:
這樣應該算是可以利用ssh 連上pynq

在跑notebook的時候他也會跳這個錯：

[Yuoto]

同學好，
目前此情況是不是在HLS02~04這三台其中一台上面跑的結果? 因為我猜測是docker問題，最後要跑在pynq上的時候目前一定要回到HLS01來跑pynq deployment，屆時不需要重新build hardware，你只要跑pynq deployment那段即可!

另，你說再跑notebook會遇到的request failure，可以幫我確認此 onnx 檔是否存在? 如果存在的話就是顯示的問題，不太影響。
如果不是這樣的話，請再回復我!

[EvanLu0815]

助教您好，我的確是在nthu02@HLS01上遇到這個問題，我在執行這邊之前也有確認過ssh [email protected] -p 10100可以連得上去。
還是我的PYNQ_TARGET_DIR設置錯誤了?

只要重開server並重跑就不會有request failure的問題。
謝謝助教的回覆

[Yuoto]

好，如果可以的話還是希望看看能不能在清大的pynq上面跑，因為目前 port 10100 的這片pynq板子老實說我不知道是分配給誰用的，可能僅能暫時當測試。