clean up padded buffer size calculations
authorRob Clark <rob@ti.com>
Sat, 4 Dec 2010 20:16:19 +0000 (14:16 -0600)
committerRob Clark <rob@ti.com>
Sun, 5 Dec 2010 02:01:36 +0000 (20:01 -0600)
src/gstducatih264dec.c
src/gstducatimpeg4dec.c
src/gstducativc1dec.c
src/gstducativp6dec.c
src/gstducativp7dec.c

index af7ddc2267e16776c7da312d3947b48546324e70..88ebb578849971db3d8c98564d6ad8f87ce0e322 100644 (file)
@@ -67,7 +67,7 @@ gst_ducati_h264dec_update_buffer_size (GstDucatiVidDec * self)
   gint h = self->height;
 
   /* calculate output buffer parameters: */
-  self->padded_width = (w + (2 * PADX) + 127) & 0xFFFFFF80;
+  self->padded_width = ALIGN2 (w + (2 * PADX), 7);
   self->padded_height = h + 4 * PADY;
   self->min_buffers = MIN (16, 32768 / ((w / 16) * (h / 16))) + 3;
 }
index 4c7904487c820835afe42172f983c1b7af27227d..7c16547cdbe09a3733f58f3e489c5ff190ee1789 100644 (file)
@@ -79,7 +79,7 @@ gst_ducati_mpeg4dec_update_buffer_size (GstDucatiVidDec * self)
   gint h = self->height;
 
   /* calculate output buffer parameters: */
-  self->padded_width = (w + PADX + 0x7f) & ~0x7f;
+  self->padded_width = ALIGN2 (w + PADX, 7);
   self->padded_height = h + PADY;
   self->min_buffers = 8;
 }
index ace7baf52e1244565c8c082359c30f3e4e3fd94b..5d5601573ac22d4481fdeec55c5fee523ff1c5bd 100644 (file)
@@ -100,8 +100,8 @@ gst_ducati_vc1dec_update_buffer_size (GstDucatiVidDec * self)
   gint h = self->height;
 
   /* calculate output buffer parameters: */
-  self->padded_width = (w + (2 * PADX) + 0x7f) & ~0x7f;
-  self->padded_height = (((h / 2 + 0xf) & ~0xf) * 2) + 2 * PADY;
+  self->padded_width = ALIGN2 (w + (2 * PADX), 7);
+  self->padded_height = (ALIGN2 (h / 2, 4) * 2) + 2 * PADY;
   self->min_buffers = 8;
 }
 
index b497efb185b30dc5892a44f277525d219f770bf5..ec9be8f5fa037247ecd8fd7062c9ec96b1be260f 100644 (file)
@@ -65,7 +65,7 @@ gst_ducati_vp6dec_update_buffer_size (GstDucatiVidDec * self)
   gint h = self->height;
 
   /* calculate output buffer parameters: */
-  self->padded_width = (w + (2 * PADX) + 0x7f) & ~0x7f;
+  self->padded_width = ALIGN2 (w + (2 * PADX), 7);
   self->padded_height = h + 2 * PADY;
   self->min_buffers = 8;
 }
index b3b30ed4f41974a08fac3f5e201e4d3a1318d2b0..fdad19a33aa09146981db515259fa6b7b50b9b99 100644 (file)
@@ -65,7 +65,7 @@ gst_ducati_vp7dec_update_buffer_size (GstDucatiVidDec * self)
   gint h = self->height;
 
   /* calculate output buffer parameters: */
-  self->padded_width = (w + (2 * PADX) + 0x7f) & ~0x7f;
+  self->padded_width = ALIGN2 (w + (2 * PADX), 7);
   self->padded_height = h + 2 * PADY;
   self->min_buffers = 8;
 }