blasblisacc/src/ti_cblas_cblas_zsyr2k.c

   1 /******************************************************************************
   2  * Copyright (c) 2013-2015, Texas Instruments Incorporated - http://www.ti.com/
   3  *   All rights reserved.
   4  *
   5  *   Redistribution and use in source and binary forms, with or without
   6  *   modification, are permitted provided that the following conditions are met:
   7  *       * Redistributions of source code must retain the above copyright
   8  *         notice, this list of conditions and the following disclaimer.
   9  *       * Redistributions in binary form must reproduce the above copyright
  10  *         notice, this list of conditions and the following disclaimer in the
  11  *         documentation and/or other materials provided with the distribution.
  12  *       * Neither the name of Texas Instruments Incorporated nor the
  13  *         names of its contributors may be used to endorse or promote products
  14  *         derived from this software without specific prior written permission.
  15  *
  16  *   THIS SOFTWARE IS PROVIDED BY THE COPYRIGHT HOLDERS AND CONTRIBUTORS "AS IS"
  17  *   AND ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
  18  *   IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
  19  *   ARE DISCLAIMED. IN NO EVENT SHALL THE COPYRIGHT OWNER OR CONTRIBUTORS BE
  20  *   LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR
  21  *   CONSEQUENTIAL DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF
  22  *   SUBSTITUTE GOODS OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS
  23  *   INTERRUPTION) HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN
  24  *   CONTRACT, STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE)
  25  *   ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF
  26  *   THE POSSIBILITY OF SUCH DAMAGE.
  27  *****************************************************************************/
  28
  29 #include "ti_cblas_acc.h"
  30 #include "../../ticblas/ticblas.h"
  31
  32 #ifdef __cplusplus
  33 extern "C" {
  34 #endif
  35     void __real_cblas_zsyr2k(const enum CBLAS_ORDER Order, const enum CBLAS_UPLO Uplo, const enum CBLAS_TRANSPOSE Trans, const int N, const int K, const void *alpha, const void *A, const int lda, const void *B, const int ldb, const void *beta, void *C, const int ldc) ;
  36
  37 #ifdef __cplusplus
  38 }
  39 extern "C"
  40 #endif
  41 void cblas_zsyr2k(const enum CBLAS_ORDER Order, const enum CBLAS_UPLO Uplo, const enum CBLAS_TRANSPOSE Trans, const int N, const int K, const void *alpha, const void *A, const int lda, const void *B, const int ldb, const void *beta, void *C, const int ldc)
  42 {
  43
  44         /* Do an init on first use */
  45         if (!ti_cblas_init_done) ti_cblas_init();
  46         TI_CBLAS_DEBUG_PRINT("Intercepted call to %s\n", "cblas_zsyr2k");
  47
  48     TI_CBLAS_PROFILE_START();
  49         /* Dynamic condtional offload to ARM */
  50     if ((TI_CBLAS_L3_OFFLOAD == TI_CBLAS_OFFLOAD_NONE) || ((TI_CBLAS_L3_OFFLOAD == TI_CBLAS_OFFLOAD_SIZE) && (!zsyr2k_offload_dsp(Order,N,K)))) {
  51         TI_CBLAS_DEBUG_PRINT("Executing ARM %s\n", "cblas_zsyr2k");
  52         __real_cblas_zsyr2k(Order,Uplo,Trans,N,K,alpha,A,lda,B,ldb,beta,C,ldc);
  53     TI_CBLAS_PROFILE_REPORT("  Entire %s call (ARM) took %8.2f us\n","cblas_zsyr2k", (float) clock_diff);
  54         return ;
  55     }
  56     /* End ARM offload */
  57
  58         /******************************************************************/
  59         /* DSP offload WILL be done if control reaches here */
  60         TI_CBLAS_DEBUG_PRINT("Offloading to DSP %s\n", "cblas_zsyr2k");
  61
  62         /* Lookup kernel pointer from global table */
  63 #ifdef __cplusplus
  64         Event e;
  65         Kernel* __K;
  66 #else
  67         cl_kernel __K;
  68 #endif
  69         __K =  ti_cblas_get_kernel(TI_CBLAS_CBLAS_ZSYR2K_IDX, "ocl_cblas_zsyr2k");
  70 #ifdef __cplusplus
  71         try
  72 #else
  73         cl_int err = CL_SUCCESS;
  74 #endif
  75         {
  76
  77 #ifdef __cplusplus
  78                 __K->setArg(0, Order);
  79 #else
  80                 err |= clSetKernelArg(__K, 0, sizeof(Order), &Order);
  81 #endif
  82
  83 #ifdef __cplusplus
  84                 __K->setArg(1, Uplo);
  85 #else
  86                 err |= clSetKernelArg(__K, 1, sizeof(Uplo), &Uplo);
  87 #endif
  88
  89 #ifdef __cplusplus
  90                 __K->setArg(2, Trans);
  91 #else
  92                 err |= clSetKernelArg(__K, 2, sizeof(Trans), &Trans);
  93 #endif
  94
  95 #ifdef __cplusplus
  96                 __K->setArg(3, N);
  97 #else
  98                 err |= clSetKernelArg(__K, 3, sizeof(N), &N);
  99 #endif
 100
 101 #ifdef __cplusplus
 102                 __K->setArg(4, K);
 103 #else
 104                 err |= clSetKernelArg(__K, 4, sizeof(K), &K);
 105 #endif
 106                 /* For const arguments we use CL_MEM_USE_READ_ONLY */
 107
 108 #ifdef __cplusplus
 109                 Buffer buf_alpha(*ti_cblas_ocl_context, CL_MEM_READ_ONLY|CL_MEM_USE_HOST_PTR, 2*sizeof(double), (void *)alpha);
 110                 __K->setArg(5, buf_alpha);
 111 #else
 112                 cl_mem buf_alpha = clCreateBuffer(ti_cblas_ocl_context, CL_MEM_READ_ONLY|CL_MEM_USE_HOST_PTR, 2*sizeof(double), (void *)alpha, &err);
 113                 TI_CBLAS_OCL_CHKERROR("clCreateBuffer",err);
 114                 err |= clSetKernelArg(__K, 5, sizeof(buf_alpha), &buf_alpha);
 115                 TI_CBLAS_OCL_CHKERROR("clSetKernelArg",err);
 116 #endif
 117                 /* For const arguments we use CL_MEM_USE_READ_ONLY */
 118
 119                 int size_bufA;
 120                 size_bufA = 2*BLAS_ORD_T(Order,Trans,N,K)*lda*sizeof(double);
 121                 size_bufA = MAX(size_bufA,1);
 122
 123 #ifdef __cplusplus
 124                 Buffer buf_A(*ti_cblas_ocl_context, CL_MEM_READ_ONLY|CL_MEM_USE_HOST_PTR, size_bufA, (void *)A);
 125                 __K->setArg(6, buf_A);
 126 #else
 127                 cl_mem buf_A = clCreateBuffer(ti_cblas_ocl_context, CL_MEM_READ_ONLY|CL_MEM_USE_HOST_PTR, size_bufA, (void *)A, &err);
 128                 TI_CBLAS_OCL_CHKERROR("clCreateBuffer",err);
 129                 err |= clSetKernelArg(__K, 6, sizeof(buf_A), &buf_A);
 130                 TI_CBLAS_OCL_CHKERROR("clSetKernelArg",err);
 131 #endif
 132
 133 #ifdef __cplusplus
 134                 __K->setArg(7, lda);
 135 #else
 136                 err |= clSetKernelArg(__K, 7, sizeof(lda), &lda);
 137 #endif
 138                 /* For const arguments we use CL_MEM_USE_READ_ONLY */
 139
 140                 int size_bufB;
 141                 size_bufB = 2*BLAS_ORD_T(Order,Trans,N,K)*ldb*sizeof(double);
 142                 size_bufB = MAX(size_bufB,1);
 143
 144 #ifdef __cplusplus
 145                 Buffer buf_B(*ti_cblas_ocl_context, CL_MEM_READ_ONLY|CL_MEM_USE_HOST_PTR, size_bufB, (void *)B);
 146                 __K->setArg(8, buf_B);
 147 #else
 148                 cl_mem buf_B = clCreateBuffer(ti_cblas_ocl_context, CL_MEM_READ_ONLY|CL_MEM_USE_HOST_PTR, size_bufB, (void *)B, &err);
 149                 TI_CBLAS_OCL_CHKERROR("clCreateBuffer",err);
 150                 err |= clSetKernelArg(__K, 8, sizeof(buf_B), &buf_B);
 151                 TI_CBLAS_OCL_CHKERROR("clSetKernelArg",err);
 152 #endif
 153
 154 #ifdef __cplusplus
 155                 __K->setArg(9, ldb);
 156 #else
 157                 err |= clSetKernelArg(__K, 9, sizeof(ldb), &ldb);
 158 #endif
 159                 /* For const arguments we use CL_MEM_USE_READ_ONLY */
 160
 161 #ifdef __cplusplus
 162                 Buffer buf_beta(*ti_cblas_ocl_context, CL_MEM_READ_ONLY|CL_MEM_USE_HOST_PTR, 2*sizeof(double), (void *)beta);
 163                 __K->setArg(10, buf_beta);
 164 #else
 165                 cl_mem buf_beta = clCreateBuffer(ti_cblas_ocl_context, CL_MEM_READ_ONLY|CL_MEM_USE_HOST_PTR, 2*sizeof(double), (void *)beta, &err);
 166                 TI_CBLAS_OCL_CHKERROR("clCreateBuffer",err);
 167                 err |= clSetKernelArg(__K, 10, sizeof(buf_beta), &buf_beta);
 168                 TI_CBLAS_OCL_CHKERROR("clSetKernelArg",err);
 169 #endif
 170
 171                 int size_bufC;
 172                 size_bufC = 2*N*ldc*sizeof(double);
 173                 size_bufC = MAX(size_bufC,1);
 174
 175 #ifdef __cplusplus
 176                 Buffer buf_C(*ti_cblas_ocl_context, CL_MEM_READ_WRITE|CL_MEM_USE_HOST_PTR, size_bufC, (void *)C);
 177                 __K->setArg(11, buf_C);
 178 #else
 179                 cl_mem buf_C = clCreateBuffer(ti_cblas_ocl_context, CL_MEM_READ_WRITE|CL_MEM_USE_HOST_PTR, size_bufC, (void *)C, &err);
 180                 TI_CBLAS_OCL_CHKERROR("clCreateBuffer",err);
 181                 err |= clSetKernelArg(__K, 11, sizeof(buf_C), &buf_C);
 182                 TI_CBLAS_OCL_CHKERROR("clSetKernelArg",err);
 183 #endif
 184
 185 #ifdef __cplusplus
 186                 __K->setArg(12, ldc);
 187 #else
 188                 err |= clSetKernelArg(__K, 12, sizeof(ldc), &ldc);
 189 #endif
 190
 191                 void *msmc_ptr;
 192                 size_t msmc_size = MSMC_BUF_SIZE;
 193                 msmc_ptr = ti_cblas_mem_alloc(MSMC_BUF_SIZE);
 194 #ifdef __cplusplus
 195                 Buffer buf_MSMC(*ti_cblas_ocl_context, CL_MEM_READ_WRITE|CL_MEM_USE_HOST_PTR, MSMC_BUF_SIZE, (void *)msmc_ptr);
 196                 //Buffer buf_MSMC(ti_cblas_ocl_context, CL_MEM_READ_WRITE|CL_MEM_USE_MSMC_TI, MSMC_BUF_SIZE);
 197                 __K->setArg(13, buf_MSMC);
 198
 199 #else
 200                 //cl_mem buf_MSMC = clCreateBuffer(ti_cblas_ocl_context, CL_MEM_READ_WRITE|CL_MEM_USE_MSMC_TI, MSMC_BUF_SIZE, NULL, &err);
 201                 cl_mem buf_MSMC = clCreateBuffer(ti_cblas_ocl_context, CL_MEM_READ_WRITE|CL_MEM_USE_HOST_PTR, MSMC_BUF_SIZE, (void *)msmc_ptr, &err);
 202                 TI_CBLAS_OCL_CHKERROR("clCreateBuffer",err);
 203                 err |= clSetKernelArg(__K, 13, sizeof(buf_MSMC), &buf_MSMC);
 204                 TI_CBLAS_OCL_CHKERROR("clSetKernelArg",err);
 205 #endif
 206
 207 #ifdef __cplusplus
 208                 __K->setArg(14, msmc_size);
 209 #else
 210                 err |= clSetKernelArg(__K, 14, sizeof(msmc_size), &msmc_size);
 211 #endif
 212
 213         /* create a buffer argument to get the return error code from the DSP */
 214                 int err_code;
 215 #ifdef __cplusplus
 216                 Buffer buf_err(*ti_cblas_ocl_context, CL_MEM_READ_WRITE|CL_MEM_USE_HOST_PTR, sizeof(int), &err_code);
 217                 __K->setArg(15, buf_err);
 218 #else
 219                 cl_mem buf_err = clCreateBuffer(*ti_cblas_ocl_context, CL_MEM_READ_WRITE|CL_MEM_USE_HOST_PTR, sizeof(int), &err_code, &err);
 220                 TI_CBLAS_OCL_CHKERROR("clCreateBuffer",err);
 221                 err |= clSetKernelArg(__K, 15, sizeof(buf_err), &buf_err);
 222                 TI_CBLAS_OCL_CHKERROR("clSetKernelArg",err);
 223 #endif
 224
 225 #ifdef __cplusplus
 226                 ti_cblas_ocl_Q->enqueueTask(*__K, 0, &e);
 227                 e.wait();
 228 #else
 229                 cl_event e;
 230                 err |= clEnqueueTask(ti_cblas_ocl_Q, __K, 0, 0, &e);
 231                 TI_CBLAS_OCL_CHKERROR("clEnqueueTask",err);
 232                 err |= clWaitForEvents(1, &e);
 233                 TI_CBLAS_OCL_CHKERROR("clWaitForEvents",err);
 234                 err |= clReleaseEvent(e);
 235                 TI_CBLAS_OCL_CHKERROR("clReleaseEvent",err);
 236 #endif
 237
 238         if(err_code != TICBLAS_SUCCESS) {
 239           printf("Error code returned by offloaded cblas_zsyr2k is %d\n.", err_code);
 240         }
 241
 242                 ti_cblas_mem_free(msmc_ptr);
 243
 244                 ti_cblas_delete_kernel(__K);
 245
 246                 TI_CBLAS_DEBUG_PRINT("Finished executing %s\n", "cblas_zsyr2k");
 247                 TI_CBLAS_PROFILE_REPORT("  Entire %s call (DSP) took %8.2f us\n","cblas_zsyr2k", (float) clock_diff);
 248                 return ;
 249         }
 250
 251 #ifdef __cplusplus
 252         catch (Error err)
 253         {
 254                 ti_cblas_error(err.what(),err.err());
 255                 return ;
 256         }
 257 #endif
 258 }
 259