blasblisacc/src/ti_cblas_cblas_dtrsm.c

   1 /******************************************************************************
   2  * Copyright (c) 2013-2015, Texas Instruments Incorporated - http://www.ti.com/
   3  *   All rights reserved.
   4  *
   5  *   Redistribution and use in source and binary forms, with or without
   6  *   modification, are permitted provided that the following conditions are met:
   7  *       * Redistributions of source code must retain the above copyright
   8  *         notice, this list of conditions and the following disclaimer.
   9  *       * Redistributions in binary form must reproduce the above copyright
  10  *         notice, this list of conditions and the following disclaimer in the
  11  *         documentation and/or other materials provided with the distribution.
  12  *       * Neither the name of Texas Instruments Incorporated nor the
  13  *         names of its contributors may be used to endorse or promote products
  14  *         derived from this software without specific prior written permission.
  15  *
  16  *   THIS SOFTWARE IS PROVIDED BY THE COPYRIGHT HOLDERS AND CONTRIBUTORS "AS IS"
  17  *   AND ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
  18  *   IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
  19  *   ARE DISCLAIMED. IN NO EVENT SHALL THE COPYRIGHT OWNER OR CONTRIBUTORS BE
  20  *   LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR
  21  *   CONSEQUENTIAL DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF
  22  *   SUBSTITUTE GOODS OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS
  23  *   INTERRUPTION) HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN
  24  *   CONTRACT, STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE)
  25  *   ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF
  26  *   THE POSSIBILITY OF SUCH DAMAGE.
  27  *****************************************************************************/
  28
  29 #include "ti_cblas.h"
  30
  31 #ifdef __cplusplus
  32 extern "C" {
  33 #endif
  34     void __real_cblas_dtrsm(const enum CBLAS_ORDER Order, const enum CBLAS_SIDE Side, const enum CBLAS_UPLO Uplo, const enum CBLAS_TRANSPOSE TransA, const enum CBLAS_DIAG Diag, const int M, const int N, const double alpha, const double *A, const int lda, double *B, const int ldb) ;
  35
  36 #ifdef __cplusplus
  37 }
  38 extern "C"
  39 #endif
  40 void cblas_dtrsm(const enum CBLAS_ORDER Order, const enum CBLAS_SIDE Side, const enum CBLAS_UPLO Uplo, const enum CBLAS_TRANSPOSE TransA, const enum CBLAS_DIAG Diag, const int M, const int N, const double alpha, const double *A, const int lda, double *B, const int ldb)
  41 {
  42
  43         /* Do an init on first use */
  44         if (!ti_cblas_init_done) ti_cblas_init();
  45         TI_CBLAS_DEBUG_PRINT("Intercepted call to %s\n", "cblas_dtrsm");
  46
  47     TI_CBLAS_PROFILE_START();
  48         /* Dynamic condtional offload to ARM */
  49     if ((TI_CBLAS_L3_OFFLOAD == TI_CBLAS_OFFLOAD_NONE) || ((TI_CBLAS_L3_OFFLOAD == TI_CBLAS_OFFLOAD_SIZE) && (!dtrsm_offload_dsp(Order,Side,M,N)))) {
  50         TI_CBLAS_DEBUG_PRINT("Executing ARM %s\n", "cblas_dtrsm");
  51         __real_cblas_dtrsm(Order,Side,Uplo,TransA,Diag,M,N,alpha,A,lda,B,ldb);
  52     TI_CBLAS_PROFILE_REPORT("  Entire %s call (ARM) took %8.2f us\n","cblas_dtrsm", (float) clock_diff);
  53         return ;
  54     }
  55     /* End ARM offload */
  56
  57         /******************************************************************/
  58         /* DSP offload WILL be done if control reaches here */
  59         TI_CBLAS_DEBUG_PRINT("Offloading to DSP %s\n", "cblas_dtrsm");
  60
  61         /* Lookup kernel pointer from global table */
  62 #ifdef __cplusplus
  63         Event e;
  64         Kernel* __K;
  65 #else
  66         cl_kernel __K;
  67 #endif
  68         __K =  ti_cblas_get_kernel(TI_CBLAS_CBLAS_DTRSM_IDX, "ocl_cblas_dtrsm");
  69 #ifdef __cplusplus
  70         try
  71 #else
  72         cl_int err = CL_SUCCESS;
  73 #endif
  74         {
  75
  76 #ifdef __cplusplus
  77                 __K->setArg(0, Order);
  78 #else
  79                 err |= clSetKernelArg(__K, 0, sizeof(Order), &Order);
  80 #endif
  81
  82 #ifdef __cplusplus
  83                 __K->setArg(1, Side);
  84 #else
  85                 err |= clSetKernelArg(__K, 1, sizeof(Side), &Side);
  86 #endif
  87
  88 #ifdef __cplusplus
  89                 __K->setArg(2, Uplo);
  90 #else
  91                 err |= clSetKernelArg(__K, 2, sizeof(Uplo), &Uplo);
  92 #endif
  93
  94 #ifdef __cplusplus
  95                 __K->setArg(3, TransA);
  96 #else
  97                 err |= clSetKernelArg(__K, 3, sizeof(TransA), &TransA);
  98 #endif
  99
 100 #ifdef __cplusplus
 101                 __K->setArg(4, Diag);
 102 #else
 103                 err |= clSetKernelArg(__K, 4, sizeof(Diag), &Diag);
 104 #endif
 105
 106 #ifdef __cplusplus
 107                 __K->setArg(5, M);
 108 #else
 109                 err |= clSetKernelArg(__K, 5, sizeof(M), &M);
 110 #endif
 111
 112 #ifdef __cplusplus
 113                 __K->setArg(6, N);
 114 #else
 115                 err |= clSetKernelArg(__K, 6, sizeof(N), &N);
 116 #endif
 117
 118 #ifdef __cplusplus
 119                 __K->setArg(7, alpha);
 120 #else
 121                 err |= clSetKernelArg(__K, 7, sizeof(alpha), &alpha);
 122 #endif
 123                 /* For const arguments we use CL_MEM_USE_READ_ONLY */
 124
 125                 int size_bufA;
 126                 size_bufA = BLAS_SIDE(Side,M,N)*lda*sizeof(double);
 127                 size_bufA = MAX(size_bufA,1);
 128
 129 #ifdef __cplusplus
 130                 Buffer buf_A(*ti_cblas_ocl_context, CL_MEM_READ_ONLY|CL_MEM_USE_HOST_PTR, size_bufA, (void *)A);
 131                 __K->setArg(8, buf_A);
 132 #else
 133                 cl_mem buf_A = clCreateBuffer(ti_cblas_ocl_context, CL_MEM_READ_ONLY|CL_MEM_USE_HOST_PTR, size_bufA, (void *)A, &err);
 134                 TI_CBLAS_OCL_CHKERROR("clCreateBuffer",err);
 135                 err |= clSetKernelArg(__K, 8, sizeof(buf_A), &buf_A);
 136                 TI_CBLAS_OCL_CHKERROR("clSetKernelArg",err);
 137 #endif
 138
 139 #ifdef __cplusplus
 140                 __K->setArg(9, lda);
 141 #else
 142                 err |= clSetKernelArg(__K, 9, sizeof(lda), &lda);
 143 #endif
 144
 145                 int size_bufB;
 146                 size_bufB = BLAS_ORD(Order,M,N)*ldb*sizeof(double);
 147                 size_bufB = MAX(size_bufB,1);
 148
 149 #ifdef __cplusplus
 150                 Buffer buf_B(*ti_cblas_ocl_context, CL_MEM_READ_WRITE|CL_MEM_USE_HOST_PTR, size_bufB, (void *)B);
 151                 __K->setArg(10, buf_B);
 152 #else
 153                 cl_mem buf_B = clCreateBuffer(ti_cblas_ocl_context, CL_MEM_READ_WRITE|CL_MEM_USE_HOST_PTR, size_bufB, (void *)B, &err);
 154                 TI_CBLAS_OCL_CHKERROR("clCreateBuffer",err);
 155                 err |= clSetKernelArg(__K, 10, sizeof(buf_B), &buf_B);
 156                 TI_CBLAS_OCL_CHKERROR("clSetKernelArg",err);
 157 #endif
 158
 159 #ifdef __cplusplus
 160                 __K->setArg(11, ldb);
 161 #else
 162                 err |= clSetKernelArg(__K, 11, sizeof(ldb), &ldb);
 163 #endif
 164
 165                 void *msmc_ptr;
 166                 msmc_ptr = ti_cblas_mem_alloc(MSMC_BUF_SIZE);
 167 #ifdef __cplusplus
 168                 Buffer buf_MSMC(*ti_cblas_ocl_context, CL_MEM_READ_WRITE|CL_MEM_USE_HOST_PTR, MSMC_BUF_SIZE, (void *)msmc_ptr);
 169                 //Buffer buf_MSMC(ti_cblas_ocl_context, CL_MEM_READ_WRITE|CL_MEM_USE_MSMC_TI, MSMC_BUF_SIZE);
 170                 __K->setArg(12, buf_MSMC);
 171
 172 #else
 173                 //cl_mem buf_MSMC = clCreateBuffer(ti_cblas_ocl_context, CL_MEM_READ_WRITE|CL_MEM_USE_MSMC_TI, MSMC_BUF_SIZE, NULL, &err);
 174                 cl_mem buf_MSMC = clCreateBuffer(ti_cblas_ocl_context, CL_MEM_READ_WRITE|CL_MEM_USE_HOST_PTR, MSMC_BUF_SIZE, (void *)msmc_ptr, &err);
 175                 TI_CBLAS_OCL_CHKERROR("clCreateBuffer",err);
 176                 err |= clSetKernelArg(__K, 12, sizeof(buf_MSMC), &buf_MSMC);
 177                 TI_CBLAS_OCL_CHKERROR("clSetKernelArg",err);
 178 #endif
 179
 180 #ifdef __cplusplus
 181                 __K->setArg(13, __local(L2_BUF_SIZE));
 182 #else
 183                 err |= clSetKernelArg(__K, 13, L2_BUF_SIZE, NULL);
 184 #endif
 185
 186 #ifdef __cplusplus
 187                 ti_cblas_ocl_Q->enqueueTask(*__K, 0, &e);
 188                 e.wait();
 189 #else
 190                 cl_event e;
 191                 err |= clEnqueueTask(ti_cblas_ocl_Q, __K, 0, 0, &e);
 192                 TI_CBLAS_OCL_CHKERROR("clEnqueueTask",err);
 193                 err |= clWaitForEvents(1, &e);
 194                 TI_CBLAS_OCL_CHKERROR("clWaitForEvents",err);
 195                 err |= clReleaseEvent(e);
 196                 TI_CBLAS_OCL_CHKERROR("clReleaseEvent",err);
 197
 198 #endif
 199
 200                 ti_cblas_mem_free(msmc_ptr);
 201
 202                 ti_cblas_delete_kernel(__K);
 203
 204                 TI_CBLAS_DEBUG_PRINT("Finished executing %s\n", "cblas_dtrsm");
 205                 TI_CBLAS_PROFILE_REPORT("  Entire %s call (DSP) took %8.2f us\n","cblas_dtrsm", (float) clock_diff);
 206                 return ;
 207         }
 208
 209 #ifdef __cplusplus
 210         catch (Error err)
 211         {
 212                 ti_cblas_error(err.what(),err.err());
 213                 return ;
 214         }
 215 #endif
 216 }
 217