[theora] Loop Filter Limits

Mon Feb 15 05:29:23 PST 2010

All the values I'm posting are for the Theora sample 320x240.ogg video found 
at http://wiki.xiph.org/TheoraTestsuite.

My decoder and libtheora agree on the base matrix values:

Base Matrices (3)

Matrix 0
00: 000010 00000B 00000A 000010 000018 000028 000033 00003D
08: 00000C 00000C 00000E 000013 00001A 00003A 00003C 000037
16: 00000E 00000D 000010 000018 000028 000039 000045 000038
24: 00000E 000011 000016 00001D 000033 000057 000050 00003E
32: 000012 000016 000025 00003A 000044 00006D 000067 00004D
40: 000018 000023 000037 000040 000051 000068 000071 00005C
48: 000031 000040 00004E 000057 000067 000079 000078 000065
56: 000048 00005C 00005F 000062 000070 000064 000067 000063

Matrix 1
00: 000011 000012 000018 00002F 000063 000063 000063 000063
08: 000012 000015 00001A 000042 000063 000063 000063 000063
16: 000018 00001A 000038 000063 000063 000063 000063 000063
24: 00002F 000042 000063 000063 000063 000063 000063 000063
32: 000063 000063 000063 000063 000063 000063 000063 000063
40: 000063 000063 000063 000063 000063 000063 000063 000063
48: 000063 000063 000063 000063 000063 000063 000063 000063
56: 000063 000063 000063 000063 000063 000063 000063 000063

Matrix 2
00: 000010 000010 000010 000014 000018 00001C 000020 000028
08: 000010 000010 000014 000018 00001C 000020 000028 000030
16: 000010 000014 000018 00001C 000020 000028 000030 000040
24: 000014 000018 00001C 000020 000028 000030 000040 000040
32: 000018 00001C 000020 000028 000030 000040 000040 000040
40: 00001C 000020 000028 000030 000040 000040 000040 000060
48: 000020 000028 000030 000040 000040 000040 000060 000080
56: 000028 000030 000040 000040 000040 000060 000080 000080