Added Python 3 bindings for TIDL API
[tidl/tidl-api.git] / examples / pybind / layer_output.py
1 #!/usr/bin/python3
3 # Copyright (c) 2018 Texas Instruments Incorporated - http://www.ti.com/
4 # All rights reserved.
5 #
6 # Redistribution and use in source and binary forms, with or without
7 # modification, are permitted provided that the following conditions are met:
8 # * Redistributions of source code must retain the above copyright
9 # notice, this list of conditions and the following disclaimer.
10 # * Redistributions in binary form must reproduce the above copyright
11 # notice, this list of conditions and the following disclaimer in the
12 # documentation and/or other materials provided with the distribution.
13 # * Neither the name of Texas Instruments Incorporated nor the
14 # names of its contributors may be used to endorse or promote products
15 # derived from this software without specific prior written permission.
16 #
17 # THIS SOFTWARE IS PROVIDED BY THE COPYRIGHT HOLDERS AND CONTRIBUTORS "AS IS"
18 # AND ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
19 # IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
20 # ARE DISCLAIMED. IN NO EVENT SHALL THE COPYRIGHT OWNER OR CONTRIBUTORS BE
21 # LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR
22 # CONSEQUENTIAL DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF
23 # SUBSTITUTE GOODS OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS
24 # INTERRUPTION) HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN
25 # CONTRACT, STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE)
26 # ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF
27 # THE POSSIBILITY OF SUCH DAMAGE.
30 from tidl import DeviceId, DeviceType, Configuration, Executor, TidlError
31 from tidl import allocate_memory, free_memory
33 from tidl_app_utils import read_frame, write_output, report_time
35 import argparse
37 def main(config_file, num_frames):
38     c = Configuration()
39     c.read_from_file(config_file)
40     c.enable_layer_dump = True
41     c.num_frames = num_frames
43     num_dsp = Executor.get_num_devices(DeviceType.DSP)
44     num_eve = Executor.get_num_devices(DeviceType.EVE)
46     if (num_dsp == 0 and num_eve == 0):
47         print('No TIDL API capable devices available')
48         return
50     if (num_eve > 0):
51         device_type = DeviceType.EVE
52     else:
53         device_type = DeviceType.DSP
55     # Since we are dumping layer outputs, just run on one device
56     run(device_type, 1, c)
58     return
60 def run(device_type, num_devices, c):
61     """ Run the network on a single device and dump output of each layer"""
63     print('Running network on {} {}'.format(num_devices, device_type))
65     device_ids = set([DeviceId.ID0])
67     try:
68         print('TIDL API: performing one time initialization ...')
70         executor = Executor(device_type, device_ids, c, 1)
72         # Collect all EOs from EVE and DSP executors
73         eos = []
74         for i in range(executor.get_num_execution_objects()):
75             eos.append(executor.at(i))
77         allocate_memory(eos)
79         # Open input, output files
80         f_in  = open(c.in_data, 'rb')
83         print('TIDL API: processing input frames ...')
85         num_eos = len(eos)
86         for frame_index in range(c.num_frames+num_eos):
87             eo = eos [frame_index % num_eos]
89             if (eo.process_frame_wait()):
90                 eo.write_layer_outputs_to_file()
92             if (read_frame(eo, frame_index, c, f_in)):
93                 eo.process_frame_start_async()
96         f_in.close()
98         free_memory(eos)
99     except TidlError as err:
100         print (err)
102     return
104 if __name__ == '__main__':
105     parser = argparse.ArgumentParser(description=
106                        'Dump output of each network layer to file. ')
107     parser.add_argument('-c', '--config_file',
108                default='../test/testvecs/config/infer/tidl_config_j11_v2.txt',
109                help='Path to TIDL config file')
110     args = parser.parse_args()
112     # Run network for 1 frame since we interested in intermediate layer outputs
113     main(args.config_file, 1)