xref: /linux/drivers/gpu/drm/nouveau/nvkm/engine/gr/ctxgf100.c (revision 32daa5d7899e03433429bedf9e20d7963179703a)
1 /*
2  * Copyright 2010 Red Hat Inc.
3  *
4  * Permission is hereby granted, free of charge, to any person obtaining a
5  * copy of this software and associated documentation files (the "Software"),
6  * to deal in the Software without restriction, including without limitation
7  * the rights to use, copy, modify, merge, publish, distribute, sublicense,
8  * and/or sell copies of the Software, and to permit persons to whom the
9  * Software is furnished to do so, subject to the following conditions:
10  *
11  * The above copyright notice and this permission notice shall be included in
12  * all copies or substantial portions of the Software.
13  *
14  * THE SOFTWARE IS PROVIDED "AS IS", WITHOUT WARRANTY OF ANY KIND, EXPRESS OR
15  * IMPLIED, INCLUDING BUT NOT LIMITED TO THE WARRANTIES OF MERCHANTABILITY,
16  * FITNESS FOR A PARTICULAR PURPOSE AND NONINFRINGEMENT.  IN NO EVENT SHALL
17  * THE COPYRIGHT HOLDER(S) OR AUTHOR(S) BE LIABLE FOR ANY CLAIM, DAMAGES OR
18  * OTHER LIABILITY, WHETHER IN AN ACTION OF CONTRACT, TORT OR OTHERWISE,
19  * ARISING FROM, OUT OF OR IN CONNECTION WITH THE SOFTWARE OR THE USE OR
20  * OTHER DEALINGS IN THE SOFTWARE.
21  *
22  * Authors: Ben Skeggs
23  */
24 #include "ctxgf100.h"
25 
26 #include <subdev/fb.h>
27 #include <subdev/mc.h>
28 #include <subdev/timer.h>
29 
30 /*******************************************************************************
31  * PGRAPH context register lists
32  ******************************************************************************/
33 
34 static const struct gf100_gr_init
35 gf100_grctx_init_icmd_0[] = {
36 	{ 0x001000,   1, 0x01, 0x00000004 },
37 	{ 0x0000a9,   1, 0x01, 0x0000ffff },
38 	{ 0x000038,   1, 0x01, 0x0fac6881 },
39 	{ 0x00003d,   1, 0x01, 0x00000001 },
40 	{ 0x0000e8,   8, 0x01, 0x00000400 },
41 	{ 0x000078,   8, 0x01, 0x00000300 },
42 	{ 0x000050,   1, 0x01, 0x00000011 },
43 	{ 0x000058,   8, 0x01, 0x00000008 },
44 	{ 0x000208,   8, 0x01, 0x00000001 },
45 	{ 0x000081,   1, 0x01, 0x00000001 },
46 	{ 0x000085,   1, 0x01, 0x00000004 },
47 	{ 0x000088,   1, 0x01, 0x00000400 },
48 	{ 0x000090,   1, 0x01, 0x00000300 },
49 	{ 0x000098,   1, 0x01, 0x00001001 },
50 	{ 0x0000e3,   1, 0x01, 0x00000001 },
51 	{ 0x0000da,   1, 0x01, 0x00000001 },
52 	{ 0x0000f8,   1, 0x01, 0x00000003 },
53 	{ 0x0000fa,   1, 0x01, 0x00000001 },
54 	{ 0x00009f,   4, 0x01, 0x0000ffff },
55 	{ 0x0000b1,   1, 0x01, 0x00000001 },
56 	{ 0x0000b2,  40, 0x01, 0x00000000 },
57 	{ 0x000210,   8, 0x01, 0x00000040 },
58 	{ 0x000218,   8, 0x01, 0x0000c080 },
59 	{ 0x0000ad,   1, 0x01, 0x0000013e },
60 	{ 0x0000e1,   1, 0x01, 0x00000010 },
61 	{ 0x000290,  16, 0x01, 0x00000000 },
62 	{ 0x0003b0,  16, 0x01, 0x00000000 },
63 	{ 0x0002a0,  16, 0x01, 0x00000000 },
64 	{ 0x000420,  16, 0x01, 0x00000000 },
65 	{ 0x0002b0,  16, 0x01, 0x00000000 },
66 	{ 0x000430,  16, 0x01, 0x00000000 },
67 	{ 0x0002c0,  16, 0x01, 0x00000000 },
68 	{ 0x0004d0,  16, 0x01, 0x00000000 },
69 	{ 0x000720,  16, 0x01, 0x00000000 },
70 	{ 0x0008c0,  16, 0x01, 0x00000000 },
71 	{ 0x000890,  16, 0x01, 0x00000000 },
72 	{ 0x0008e0,  16, 0x01, 0x00000000 },
73 	{ 0x0008a0,  16, 0x01, 0x00000000 },
74 	{ 0x0008f0,  16, 0x01, 0x00000000 },
75 	{ 0x00094c,   1, 0x01, 0x000000ff },
76 	{ 0x00094d,   1, 0x01, 0xffffffff },
77 	{ 0x00094e,   1, 0x01, 0x00000002 },
78 	{ 0x0002ec,   1, 0x01, 0x00000001 },
79 	{ 0x000303,   1, 0x01, 0x00000001 },
80 	{ 0x0002e6,   1, 0x01, 0x00000001 },
81 	{ 0x000466,   1, 0x01, 0x00000052 },
82 	{ 0x000301,   1, 0x01, 0x3f800000 },
83 	{ 0x000304,   1, 0x01, 0x30201000 },
84 	{ 0x000305,   1, 0x01, 0x70605040 },
85 	{ 0x000306,   1, 0x01, 0xb8a89888 },
86 	{ 0x000307,   1, 0x01, 0xf8e8d8c8 },
87 	{ 0x00030a,   1, 0x01, 0x00ffff00 },
88 	{ 0x00030b,   1, 0x01, 0x0000001a },
89 	{ 0x00030c,   1, 0x01, 0x00000001 },
90 	{ 0x000318,   1, 0x01, 0x00000001 },
91 	{ 0x000340,   1, 0x01, 0x00000000 },
92 	{ 0x000375,   1, 0x01, 0x00000001 },
93 	{ 0x000351,   1, 0x01, 0x00000100 },
94 	{ 0x00037d,   1, 0x01, 0x00000006 },
95 	{ 0x0003a0,   1, 0x01, 0x00000002 },
96 	{ 0x0003aa,   1, 0x01, 0x00000001 },
97 	{ 0x0003a9,   1, 0x01, 0x00000001 },
98 	{ 0x000380,   1, 0x01, 0x00000001 },
99 	{ 0x000360,   1, 0x01, 0x00000040 },
100 	{ 0x000366,   2, 0x01, 0x00000000 },
101 	{ 0x000368,   1, 0x01, 0x00001fff },
102 	{ 0x000370,   2, 0x01, 0x00000000 },
103 	{ 0x000372,   1, 0x01, 0x003fffff },
104 	{ 0x00037a,   1, 0x01, 0x00000012 },
105 	{ 0x0005e0,   5, 0x01, 0x00000022 },
106 	{ 0x000619,   1, 0x01, 0x00000003 },
107 	{ 0x000811,   1, 0x01, 0x00000003 },
108 	{ 0x000812,   1, 0x01, 0x00000004 },
109 	{ 0x000813,   1, 0x01, 0x00000006 },
110 	{ 0x000814,   1, 0x01, 0x00000008 },
111 	{ 0x000815,   1, 0x01, 0x0000000b },
112 	{ 0x000800,   6, 0x01, 0x00000001 },
113 	{ 0x000632,   1, 0x01, 0x00000001 },
114 	{ 0x000633,   1, 0x01, 0x00000002 },
115 	{ 0x000634,   1, 0x01, 0x00000003 },
116 	{ 0x000635,   1, 0x01, 0x00000004 },
117 	{ 0x000654,   1, 0x01, 0x3f800000 },
118 	{ 0x000657,   1, 0x01, 0x3f800000 },
119 	{ 0x000655,   2, 0x01, 0x3f800000 },
120 	{ 0x0006cd,   1, 0x01, 0x3f800000 },
121 	{ 0x0007f5,   1, 0x01, 0x3f800000 },
122 	{ 0x0007dc,   1, 0x01, 0x39291909 },
123 	{ 0x0007dd,   1, 0x01, 0x79695949 },
124 	{ 0x0007de,   1, 0x01, 0xb9a99989 },
125 	{ 0x0007df,   1, 0x01, 0xf9e9d9c9 },
126 	{ 0x0007e8,   1, 0x01, 0x00003210 },
127 	{ 0x0007e9,   1, 0x01, 0x00007654 },
128 	{ 0x0007ea,   1, 0x01, 0x00000098 },
129 	{ 0x0007ec,   1, 0x01, 0x39291909 },
130 	{ 0x0007ed,   1, 0x01, 0x79695949 },
131 	{ 0x0007ee,   1, 0x01, 0xb9a99989 },
132 	{ 0x0007ef,   1, 0x01, 0xf9e9d9c9 },
133 	{ 0x0007f0,   1, 0x01, 0x00003210 },
134 	{ 0x0007f1,   1, 0x01, 0x00007654 },
135 	{ 0x0007f2,   1, 0x01, 0x00000098 },
136 	{ 0x0005a5,   1, 0x01, 0x00000001 },
137 	{ 0x000980, 128, 0x01, 0x00000000 },
138 	{ 0x000468,   1, 0x01, 0x00000004 },
139 	{ 0x00046c,   1, 0x01, 0x00000001 },
140 	{ 0x000470,  96, 0x01, 0x00000000 },
141 	{ 0x000510,  16, 0x01, 0x3f800000 },
142 	{ 0x000520,   1, 0x01, 0x000002b6 },
143 	{ 0x000529,   1, 0x01, 0x00000001 },
144 	{ 0x000530,  16, 0x01, 0xffff0000 },
145 	{ 0x000585,   1, 0x01, 0x0000003f },
146 	{ 0x000576,   1, 0x01, 0x00000003 },
147 	{ 0x000586,   1, 0x01, 0x00000040 },
148 	{ 0x000582,   2, 0x01, 0x00000080 },
149 	{ 0x0005c2,   1, 0x01, 0x00000001 },
150 	{ 0x000638,   2, 0x01, 0x00000001 },
151 	{ 0x00063a,   1, 0x01, 0x00000002 },
152 	{ 0x00063b,   2, 0x01, 0x00000001 },
153 	{ 0x00063d,   1, 0x01, 0x00000002 },
154 	{ 0x00063e,   1, 0x01, 0x00000001 },
155 	{ 0x0008b8,   8, 0x01, 0x00000001 },
156 	{ 0x000900,   8, 0x01, 0x00000001 },
157 	{ 0x000908,   8, 0x01, 0x00000002 },
158 	{ 0x000910,  16, 0x01, 0x00000001 },
159 	{ 0x000920,   8, 0x01, 0x00000002 },
160 	{ 0x000928,   8, 0x01, 0x00000001 },
161 	{ 0x000648,   9, 0x01, 0x00000001 },
162 	{ 0x000658,   1, 0x01, 0x0000000f },
163 	{ 0x0007ff,   1, 0x01, 0x0000000a },
164 	{ 0x00066a,   1, 0x01, 0x40000000 },
165 	{ 0x00066b,   1, 0x01, 0x10000000 },
166 	{ 0x00066c,   2, 0x01, 0xffff0000 },
167 	{ 0x0007af,   2, 0x01, 0x00000008 },
168 	{ 0x0007f6,   1, 0x01, 0x00000001 },
169 	{ 0x0006b2,   1, 0x01, 0x00000055 },
170 	{ 0x0007ad,   1, 0x01, 0x00000003 },
171 	{ 0x000937,   1, 0x01, 0x00000001 },
172 	{ 0x000971,   1, 0x01, 0x00000008 },
173 	{ 0x000972,   1, 0x01, 0x00000040 },
174 	{ 0x000973,   1, 0x01, 0x0000012c },
175 	{ 0x00097c,   1, 0x01, 0x00000040 },
176 	{ 0x000979,   1, 0x01, 0x00000003 },
177 	{ 0x000975,   1, 0x01, 0x00000020 },
178 	{ 0x000976,   1, 0x01, 0x00000001 },
179 	{ 0x000977,   1, 0x01, 0x00000020 },
180 	{ 0x000978,   1, 0x01, 0x00000001 },
181 	{ 0x000957,   1, 0x01, 0x00000003 },
182 	{ 0x00095e,   1, 0x01, 0x20164010 },
183 	{ 0x00095f,   1, 0x01, 0x00000020 },
184 	{ 0x000683,   1, 0x01, 0x00000006 },
185 	{ 0x000685,   1, 0x01, 0x003fffff },
186 	{ 0x000687,   1, 0x01, 0x00000c48 },
187 	{ 0x0006a0,   1, 0x01, 0x00000005 },
188 	{ 0x000840,   1, 0x01, 0x00300008 },
189 	{ 0x000841,   1, 0x01, 0x04000080 },
190 	{ 0x000842,   1, 0x01, 0x00300008 },
191 	{ 0x000843,   1, 0x01, 0x04000080 },
192 	{ 0x000818,   8, 0x01, 0x00000000 },
193 	{ 0x000848,  16, 0x01, 0x00000000 },
194 	{ 0x000738,   1, 0x01, 0x00000000 },
195 	{ 0x0006aa,   1, 0x01, 0x00000001 },
196 	{ 0x0006ab,   1, 0x01, 0x00000002 },
197 	{ 0x0006ac,   1, 0x01, 0x00000080 },
198 	{ 0x0006ad,   2, 0x01, 0x00000100 },
199 	{ 0x0006b1,   1, 0x01, 0x00000011 },
200 	{ 0x0006bb,   1, 0x01, 0x000000cf },
201 	{ 0x0006ce,   1, 0x01, 0x2a712488 },
202 	{ 0x000739,   1, 0x01, 0x4085c000 },
203 	{ 0x00073a,   1, 0x01, 0x00000080 },
204 	{ 0x000786,   1, 0x01, 0x80000100 },
205 	{ 0x00073c,   1, 0x01, 0x00010100 },
206 	{ 0x00073d,   1, 0x01, 0x02800000 },
207 	{ 0x000787,   1, 0x01, 0x000000cf },
208 	{ 0x00078c,   1, 0x01, 0x00000008 },
209 	{ 0x000792,   1, 0x01, 0x00000001 },
210 	{ 0x000794,   3, 0x01, 0x00000001 },
211 	{ 0x000797,   1, 0x01, 0x000000cf },
212 	{ 0x000836,   1, 0x01, 0x00000001 },
213 	{ 0x00079a,   1, 0x01, 0x00000002 },
214 	{ 0x000833,   1, 0x01, 0x04444480 },
215 	{ 0x0007a1,   1, 0x01, 0x00000001 },
216 	{ 0x0007a3,   3, 0x01, 0x00000001 },
217 	{ 0x000831,   1, 0x01, 0x00000004 },
218 	{ 0x00080c,   1, 0x01, 0x00000002 },
219 	{ 0x00080d,   2, 0x01, 0x00000100 },
220 	{ 0x00080f,   1, 0x01, 0x00000001 },
221 	{ 0x000823,   1, 0x01, 0x00000002 },
222 	{ 0x000824,   2, 0x01, 0x00000100 },
223 	{ 0x000826,   1, 0x01, 0x00000001 },
224 	{ 0x00095d,   1, 0x01, 0x00000001 },
225 	{ 0x00082b,   1, 0x01, 0x00000004 },
226 	{ 0x000942,   1, 0x01, 0x00010001 },
227 	{ 0x000943,   1, 0x01, 0x00000001 },
228 	{ 0x000944,   1, 0x01, 0x00000022 },
229 	{ 0x0007c5,   1, 0x01, 0x00010001 },
230 	{ 0x000834,   1, 0x01, 0x00000001 },
231 	{ 0x0007c7,   1, 0x01, 0x00000001 },
232 	{ 0x00c1b0,   8, 0x01, 0x0000000f },
233 	{ 0x00c1b8,   1, 0x01, 0x0fac6881 },
234 	{ 0x00c1b9,   1, 0x01, 0x00fac688 },
235 	{ 0x01e100,   1, 0x01, 0x00000001 },
236 	{ 0x001000,   1, 0x01, 0x00000002 },
237 	{ 0x0006aa,   1, 0x01, 0x00000001 },
238 	{ 0x0006ad,   2, 0x01, 0x00000100 },
239 	{ 0x0006b1,   1, 0x01, 0x00000011 },
240 	{ 0x00078c,   1, 0x01, 0x00000008 },
241 	{ 0x000792,   1, 0x01, 0x00000001 },
242 	{ 0x000794,   3, 0x01, 0x00000001 },
243 	{ 0x000797,   1, 0x01, 0x000000cf },
244 	{ 0x00079a,   1, 0x01, 0x00000002 },
245 	{ 0x000833,   1, 0x01, 0x04444480 },
246 	{ 0x0007a1,   1, 0x01, 0x00000001 },
247 	{ 0x0007a3,   3, 0x01, 0x00000001 },
248 	{ 0x000831,   1, 0x01, 0x00000004 },
249 	{ 0x01e100,   1, 0x01, 0x00000001 },
250 	{ 0x001000,   1, 0x01, 0x00000014 },
251 	{ 0x000351,   1, 0x01, 0x00000100 },
252 	{ 0x000957,   1, 0x01, 0x00000003 },
253 	{ 0x00095d,   1, 0x01, 0x00000001 },
254 	{ 0x00082b,   1, 0x01, 0x00000004 },
255 	{ 0x000942,   1, 0x01, 0x00010001 },
256 	{ 0x000943,   1, 0x01, 0x00000001 },
257 	{ 0x0007c5,   1, 0x01, 0x00010001 },
258 	{ 0x000834,   1, 0x01, 0x00000001 },
259 	{ 0x0007c7,   1, 0x01, 0x00000001 },
260 	{ 0x01e100,   1, 0x01, 0x00000001 },
261 	{ 0x001000,   1, 0x01, 0x00000001 },
262 	{ 0x00080c,   1, 0x01, 0x00000002 },
263 	{ 0x00080d,   2, 0x01, 0x00000100 },
264 	{ 0x00080f,   1, 0x01, 0x00000001 },
265 	{ 0x000823,   1, 0x01, 0x00000002 },
266 	{ 0x000824,   2, 0x01, 0x00000100 },
267 	{ 0x000826,   1, 0x01, 0x00000001 },
268 	{ 0x01e100,   1, 0x01, 0x00000001 },
269 	{}
270 };
271 
272 const struct gf100_gr_pack
273 gf100_grctx_pack_icmd[] = {
274 	{ gf100_grctx_init_icmd_0 },
275 	{}
276 };
277 
278 static const struct gf100_gr_init
279 gf100_grctx_init_9097_0[] = {
280 	{ 0x000800,   8, 0x40, 0x00000000 },
281 	{ 0x000804,   8, 0x40, 0x00000000 },
282 	{ 0x000808,   8, 0x40, 0x00000400 },
283 	{ 0x00080c,   8, 0x40, 0x00000300 },
284 	{ 0x000810,   1, 0x04, 0x000000cf },
285 	{ 0x000850,   7, 0x40, 0x00000000 },
286 	{ 0x000814,   8, 0x40, 0x00000040 },
287 	{ 0x000818,   8, 0x40, 0x00000001 },
288 	{ 0x00081c,   8, 0x40, 0x00000000 },
289 	{ 0x000820,   8, 0x40, 0x00000000 },
290 	{ 0x002700,   8, 0x20, 0x00000000 },
291 	{ 0x002704,   8, 0x20, 0x00000000 },
292 	{ 0x002708,   8, 0x20, 0x00000000 },
293 	{ 0x00270c,   8, 0x20, 0x00000000 },
294 	{ 0x002710,   8, 0x20, 0x00014000 },
295 	{ 0x002714,   8, 0x20, 0x00000040 },
296 	{ 0x001c00,  16, 0x10, 0x00000000 },
297 	{ 0x001c04,  16, 0x10, 0x00000000 },
298 	{ 0x001c08,  16, 0x10, 0x00000000 },
299 	{ 0x001c0c,  16, 0x10, 0x00000000 },
300 	{ 0x001d00,  16, 0x10, 0x00000000 },
301 	{ 0x001d04,  16, 0x10, 0x00000000 },
302 	{ 0x001d08,  16, 0x10, 0x00000000 },
303 	{ 0x001d0c,  16, 0x10, 0x00000000 },
304 	{ 0x001f00,  16, 0x08, 0x00000000 },
305 	{ 0x001f04,  16, 0x08, 0x00000000 },
306 	{ 0x001f80,  16, 0x08, 0x00000000 },
307 	{ 0x001f84,  16, 0x08, 0x00000000 },
308 	{ 0x002200,   5, 0x10, 0x00000022 },
309 	{ 0x002000,   1, 0x04, 0x00000000 },
310 	{ 0x002040,   1, 0x04, 0x00000011 },
311 	{ 0x002080,   1, 0x04, 0x00000020 },
312 	{ 0x0020c0,   1, 0x04, 0x00000030 },
313 	{ 0x002100,   1, 0x04, 0x00000040 },
314 	{ 0x002140,   1, 0x04, 0x00000051 },
315 	{ 0x00200c,   6, 0x40, 0x00000001 },
316 	{ 0x002010,   1, 0x04, 0x00000000 },
317 	{ 0x002050,   1, 0x04, 0x00000000 },
318 	{ 0x002090,   1, 0x04, 0x00000001 },
319 	{ 0x0020d0,   1, 0x04, 0x00000002 },
320 	{ 0x002110,   1, 0x04, 0x00000003 },
321 	{ 0x002150,   1, 0x04, 0x00000004 },
322 	{ 0x000380,   4, 0x20, 0x00000000 },
323 	{ 0x000384,   4, 0x20, 0x00000000 },
324 	{ 0x000388,   4, 0x20, 0x00000000 },
325 	{ 0x00038c,   4, 0x20, 0x00000000 },
326 	{ 0x000700,   4, 0x10, 0x00000000 },
327 	{ 0x000704,   4, 0x10, 0x00000000 },
328 	{ 0x000708,   4, 0x10, 0x00000000 },
329 	{ 0x002800, 128, 0x04, 0x00000000 },
330 	{ 0x000a00,  16, 0x20, 0x00000000 },
331 	{ 0x000a04,  16, 0x20, 0x00000000 },
332 	{ 0x000a08,  16, 0x20, 0x00000000 },
333 	{ 0x000a0c,  16, 0x20, 0x00000000 },
334 	{ 0x000a10,  16, 0x20, 0x00000000 },
335 	{ 0x000a14,  16, 0x20, 0x00000000 },
336 	{ 0x000c00,  16, 0x10, 0x00000000 },
337 	{ 0x000c04,  16, 0x10, 0x00000000 },
338 	{ 0x000c08,  16, 0x10, 0x00000000 },
339 	{ 0x000c0c,  16, 0x10, 0x3f800000 },
340 	{ 0x000d00,   8, 0x08, 0xffff0000 },
341 	{ 0x000d04,   8, 0x08, 0xffff0000 },
342 	{ 0x000e00,  16, 0x10, 0x00000000 },
343 	{ 0x000e04,  16, 0x10, 0xffff0000 },
344 	{ 0x000e08,  16, 0x10, 0xffff0000 },
345 	{ 0x000d40,   4, 0x08, 0x00000000 },
346 	{ 0x000d44,   4, 0x08, 0x00000000 },
347 	{ 0x001e00,   8, 0x20, 0x00000001 },
348 	{ 0x001e04,   8, 0x20, 0x00000001 },
349 	{ 0x001e08,   8, 0x20, 0x00000002 },
350 	{ 0x001e0c,   8, 0x20, 0x00000001 },
351 	{ 0x001e10,   8, 0x20, 0x00000001 },
352 	{ 0x001e14,   8, 0x20, 0x00000002 },
353 	{ 0x001e18,   8, 0x20, 0x00000001 },
354 	{ 0x003400, 128, 0x04, 0x00000000 },
355 	{ 0x00030c,   1, 0x04, 0x00000001 },
356 	{ 0x001944,   1, 0x04, 0x00000000 },
357 	{ 0x001514,   1, 0x04, 0x00000000 },
358 	{ 0x000d68,   1, 0x04, 0x0000ffff },
359 	{ 0x00121c,   1, 0x04, 0x0fac6881 },
360 	{ 0x000fac,   1, 0x04, 0x00000001 },
361 	{ 0x001538,   1, 0x04, 0x00000001 },
362 	{ 0x000fe0,   2, 0x04, 0x00000000 },
363 	{ 0x000fe8,   1, 0x04, 0x00000014 },
364 	{ 0x000fec,   1, 0x04, 0x00000040 },
365 	{ 0x000ff0,   1, 0x04, 0x00000000 },
366 	{ 0x00179c,   1, 0x04, 0x00000000 },
367 	{ 0x001228,   1, 0x04, 0x00000400 },
368 	{ 0x00122c,   1, 0x04, 0x00000300 },
369 	{ 0x001230,   1, 0x04, 0x00010001 },
370 	{ 0x0007f8,   1, 0x04, 0x00000000 },
371 	{ 0x0015b4,   1, 0x04, 0x00000001 },
372 	{ 0x0015cc,   1, 0x04, 0x00000000 },
373 	{ 0x001534,   1, 0x04, 0x00000000 },
374 	{ 0x000fb0,   1, 0x04, 0x00000000 },
375 	{ 0x0015d0,   1, 0x04, 0x00000000 },
376 	{ 0x00153c,   1, 0x04, 0x00000000 },
377 	{ 0x0016b4,   1, 0x04, 0x00000003 },
378 	{ 0x000fbc,   4, 0x04, 0x0000ffff },
379 	{ 0x000df8,   2, 0x04, 0x00000000 },
380 	{ 0x001948,   1, 0x04, 0x00000000 },
381 	{ 0x001970,   1, 0x04, 0x00000001 },
382 	{ 0x00161c,   1, 0x04, 0x000009f0 },
383 	{ 0x000dcc,   1, 0x04, 0x00000010 },
384 	{ 0x00163c,   1, 0x04, 0x00000000 },
385 	{ 0x0015e4,   1, 0x04, 0x00000000 },
386 	{ 0x001160,  32, 0x04, 0x25e00040 },
387 	{ 0x001880,  32, 0x04, 0x00000000 },
388 	{ 0x000f84,   2, 0x04, 0x00000000 },
389 	{ 0x0017c8,   2, 0x04, 0x00000000 },
390 	{ 0x0017d0,   1, 0x04, 0x000000ff },
391 	{ 0x0017d4,   1, 0x04, 0xffffffff },
392 	{ 0x0017d8,   1, 0x04, 0x00000002 },
393 	{ 0x0017dc,   1, 0x04, 0x00000000 },
394 	{ 0x0015f4,   2, 0x04, 0x00000000 },
395 	{ 0x001434,   2, 0x04, 0x00000000 },
396 	{ 0x000d74,   1, 0x04, 0x00000000 },
397 	{ 0x000dec,   1, 0x04, 0x00000001 },
398 	{ 0x0013a4,   1, 0x04, 0x00000000 },
399 	{ 0x001318,   1, 0x04, 0x00000001 },
400 	{ 0x001644,   1, 0x04, 0x00000000 },
401 	{ 0x000748,   1, 0x04, 0x00000000 },
402 	{ 0x000de8,   1, 0x04, 0x00000000 },
403 	{ 0x001648,   1, 0x04, 0x00000000 },
404 	{ 0x0012a4,   1, 0x04, 0x00000000 },
405 	{ 0x001120,   4, 0x04, 0x00000000 },
406 	{ 0x001118,   1, 0x04, 0x00000000 },
407 	{ 0x00164c,   1, 0x04, 0x00000000 },
408 	{ 0x001658,   1, 0x04, 0x00000000 },
409 	{ 0x001910,   1, 0x04, 0x00000290 },
410 	{ 0x001518,   1, 0x04, 0x00000000 },
411 	{ 0x00165c,   1, 0x04, 0x00000001 },
412 	{ 0x001520,   1, 0x04, 0x00000000 },
413 	{ 0x001604,   1, 0x04, 0x00000000 },
414 	{ 0x001570,   1, 0x04, 0x00000000 },
415 	{ 0x0013b0,   2, 0x04, 0x3f800000 },
416 	{ 0x00020c,   1, 0x04, 0x00000000 },
417 	{ 0x001670,   1, 0x04, 0x30201000 },
418 	{ 0x001674,   1, 0x04, 0x70605040 },
419 	{ 0x001678,   1, 0x04, 0xb8a89888 },
420 	{ 0x00167c,   1, 0x04, 0xf8e8d8c8 },
421 	{ 0x00166c,   1, 0x04, 0x00000000 },
422 	{ 0x001680,   1, 0x04, 0x00ffff00 },
423 	{ 0x0012d0,   1, 0x04, 0x00000003 },
424 	{ 0x0012d4,   1, 0x04, 0x00000002 },
425 	{ 0x001684,   2, 0x04, 0x00000000 },
426 	{ 0x000dac,   2, 0x04, 0x00001b02 },
427 	{ 0x000db4,   1, 0x04, 0x00000000 },
428 	{ 0x00168c,   1, 0x04, 0x00000000 },
429 	{ 0x0015bc,   1, 0x04, 0x00000000 },
430 	{ 0x00156c,   1, 0x04, 0x00000000 },
431 	{ 0x00187c,   1, 0x04, 0x00000000 },
432 	{ 0x001110,   1, 0x04, 0x00000001 },
433 	{ 0x000dc0,   3, 0x04, 0x00000000 },
434 	{ 0x001234,   1, 0x04, 0x00000000 },
435 	{ 0x001690,   1, 0x04, 0x00000000 },
436 	{ 0x0012ac,   1, 0x04, 0x00000001 },
437 	{ 0x0002c4,   1, 0x04, 0x00000000 },
438 	{ 0x000790,   5, 0x04, 0x00000000 },
439 	{ 0x00077c,   1, 0x04, 0x00000000 },
440 	{ 0x001000,   1, 0x04, 0x00000010 },
441 	{ 0x0010fc,   1, 0x04, 0x00000000 },
442 	{ 0x001290,   1, 0x04, 0x00000000 },
443 	{ 0x000218,   1, 0x04, 0x00000010 },
444 	{ 0x0012d8,   1, 0x04, 0x00000000 },
445 	{ 0x0012dc,   1, 0x04, 0x00000010 },
446 	{ 0x000d94,   1, 0x04, 0x00000001 },
447 	{ 0x00155c,   2, 0x04, 0x00000000 },
448 	{ 0x001564,   1, 0x04, 0x00001fff },
449 	{ 0x001574,   2, 0x04, 0x00000000 },
450 	{ 0x00157c,   1, 0x04, 0x003fffff },
451 	{ 0x001354,   1, 0x04, 0x00000000 },
452 	{ 0x001664,   1, 0x04, 0x00000000 },
453 	{ 0x001610,   1, 0x04, 0x00000012 },
454 	{ 0x001608,   2, 0x04, 0x00000000 },
455 	{ 0x00162c,   1, 0x04, 0x00000003 },
456 	{ 0x000210,   1, 0x04, 0x00000000 },
457 	{ 0x000320,   1, 0x04, 0x00000000 },
458 	{ 0x000324,   6, 0x04, 0x3f800000 },
459 	{ 0x000750,   1, 0x04, 0x00000000 },
460 	{ 0x000760,   1, 0x04, 0x39291909 },
461 	{ 0x000764,   1, 0x04, 0x79695949 },
462 	{ 0x000768,   1, 0x04, 0xb9a99989 },
463 	{ 0x00076c,   1, 0x04, 0xf9e9d9c9 },
464 	{ 0x000770,   1, 0x04, 0x30201000 },
465 	{ 0x000774,   1, 0x04, 0x70605040 },
466 	{ 0x000778,   1, 0x04, 0x00009080 },
467 	{ 0x000780,   1, 0x04, 0x39291909 },
468 	{ 0x000784,   1, 0x04, 0x79695949 },
469 	{ 0x000788,   1, 0x04, 0xb9a99989 },
470 	{ 0x00078c,   1, 0x04, 0xf9e9d9c9 },
471 	{ 0x0007d0,   1, 0x04, 0x30201000 },
472 	{ 0x0007d4,   1, 0x04, 0x70605040 },
473 	{ 0x0007d8,   1, 0x04, 0x00009080 },
474 	{ 0x00037c,   1, 0x04, 0x00000001 },
475 	{ 0x000740,   2, 0x04, 0x00000000 },
476 	{ 0x002600,   1, 0x04, 0x00000000 },
477 	{ 0x001918,   1, 0x04, 0x00000000 },
478 	{ 0x00191c,   1, 0x04, 0x00000900 },
479 	{ 0x001920,   1, 0x04, 0x00000405 },
480 	{ 0x001308,   1, 0x04, 0x00000001 },
481 	{ 0x001924,   1, 0x04, 0x00000000 },
482 	{ 0x0013ac,   1, 0x04, 0x00000000 },
483 	{ 0x00192c,   1, 0x04, 0x00000001 },
484 	{ 0x00193c,   1, 0x04, 0x00002c1c },
485 	{ 0x000d7c,   1, 0x04, 0x00000000 },
486 	{ 0x000f8c,   1, 0x04, 0x00000000 },
487 	{ 0x0002c0,   1, 0x04, 0x00000001 },
488 	{ 0x001510,   1, 0x04, 0x00000000 },
489 	{ 0x001940,   1, 0x04, 0x00000000 },
490 	{ 0x000ff4,   2, 0x04, 0x00000000 },
491 	{ 0x00194c,   2, 0x04, 0x00000000 },
492 	{ 0x001968,   1, 0x04, 0x00000000 },
493 	{ 0x001590,   1, 0x04, 0x0000003f },
494 	{ 0x0007e8,   4, 0x04, 0x00000000 },
495 	{ 0x00196c,   1, 0x04, 0x00000011 },
496 	{ 0x00197c,   1, 0x04, 0x00000000 },
497 	{ 0x000fcc,   2, 0x04, 0x00000000 },
498 	{ 0x0002d8,   1, 0x04, 0x00000040 },
499 	{ 0x001980,   1, 0x04, 0x00000080 },
500 	{ 0x001504,   1, 0x04, 0x00000080 },
501 	{ 0x001984,   1, 0x04, 0x00000000 },
502 	{ 0x000300,   1, 0x04, 0x00000001 },
503 	{ 0x0013a8,   1, 0x04, 0x00000000 },
504 	{ 0x0012ec,   1, 0x04, 0x00000000 },
505 	{ 0x001310,   1, 0x04, 0x00000000 },
506 	{ 0x001314,   1, 0x04, 0x00000001 },
507 	{ 0x001380,   1, 0x04, 0x00000000 },
508 	{ 0x001384,   4, 0x04, 0x00000001 },
509 	{ 0x001394,   1, 0x04, 0x00000000 },
510 	{ 0x00139c,   1, 0x04, 0x00000000 },
511 	{ 0x001398,   1, 0x04, 0x00000000 },
512 	{ 0x001594,   1, 0x04, 0x00000000 },
513 	{ 0x001598,   4, 0x04, 0x00000001 },
514 	{ 0x000f54,   3, 0x04, 0x00000000 },
515 	{ 0x0019bc,   1, 0x04, 0x00000000 },
516 	{ 0x000f9c,   2, 0x04, 0x00000000 },
517 	{ 0x0012cc,   1, 0x04, 0x00000000 },
518 	{ 0x0012e8,   1, 0x04, 0x00000000 },
519 	{ 0x00130c,   1, 0x04, 0x00000001 },
520 	{ 0x001360,   8, 0x04, 0x00000000 },
521 	{ 0x00133c,   2, 0x04, 0x00000001 },
522 	{ 0x001344,   1, 0x04, 0x00000002 },
523 	{ 0x001348,   2, 0x04, 0x00000001 },
524 	{ 0x001350,   1, 0x04, 0x00000002 },
525 	{ 0x001358,   1, 0x04, 0x00000001 },
526 	{ 0x0012e4,   1, 0x04, 0x00000000 },
527 	{ 0x00131c,   4, 0x04, 0x00000000 },
528 	{ 0x0019c0,   1, 0x04, 0x00000000 },
529 	{ 0x001140,   1, 0x04, 0x00000000 },
530 	{ 0x0019c4,   1, 0x04, 0x00000000 },
531 	{ 0x0019c8,   1, 0x04, 0x00001500 },
532 	{ 0x00135c,   1, 0x04, 0x00000000 },
533 	{ 0x000f90,   1, 0x04, 0x00000000 },
534 	{ 0x0019e0,   8, 0x04, 0x00000001 },
535 	{ 0x0019cc,   1, 0x04, 0x00000001 },
536 	{ 0x0015b8,   1, 0x04, 0x00000000 },
537 	{ 0x001a00,   1, 0x04, 0x00001111 },
538 	{ 0x001a04,   7, 0x04, 0x00000000 },
539 	{ 0x000d6c,   2, 0x04, 0xffff0000 },
540 	{ 0x0010f8,   1, 0x04, 0x00001010 },
541 	{ 0x000d80,   5, 0x04, 0x00000000 },
542 	{ 0x000da0,   1, 0x04, 0x00000000 },
543 	{ 0x001508,   1, 0x04, 0x80000000 },
544 	{ 0x00150c,   1, 0x04, 0x40000000 },
545 	{ 0x001668,   1, 0x04, 0x00000000 },
546 	{ 0x000318,   2, 0x04, 0x00000008 },
547 	{ 0x000d9c,   1, 0x04, 0x00000001 },
548 	{ 0x0007dc,   1, 0x04, 0x00000000 },
549 	{ 0x00074c,   1, 0x04, 0x00000055 },
550 	{ 0x001420,   1, 0x04, 0x00000003 },
551 	{ 0x0017bc,   2, 0x04, 0x00000000 },
552 	{ 0x0017c4,   1, 0x04, 0x00000001 },
553 	{ 0x001008,   1, 0x04, 0x00000008 },
554 	{ 0x00100c,   1, 0x04, 0x00000040 },
555 	{ 0x001010,   1, 0x04, 0x0000012c },
556 	{ 0x000d60,   1, 0x04, 0x00000040 },
557 	{ 0x00075c,   1, 0x04, 0x00000003 },
558 	{ 0x001018,   1, 0x04, 0x00000020 },
559 	{ 0x00101c,   1, 0x04, 0x00000001 },
560 	{ 0x001020,   1, 0x04, 0x00000020 },
561 	{ 0x001024,   1, 0x04, 0x00000001 },
562 	{ 0x001444,   3, 0x04, 0x00000000 },
563 	{ 0x000360,   1, 0x04, 0x20164010 },
564 	{ 0x000364,   1, 0x04, 0x00000020 },
565 	{ 0x000368,   1, 0x04, 0x00000000 },
566 	{ 0x000de4,   1, 0x04, 0x00000000 },
567 	{ 0x000204,   1, 0x04, 0x00000006 },
568 	{ 0x000208,   1, 0x04, 0x00000000 },
569 	{ 0x0002cc,   1, 0x04, 0x003fffff },
570 	{ 0x0002d0,   1, 0x04, 0x00000c48 },
571 	{ 0x001220,   1, 0x04, 0x00000005 },
572 	{ 0x000fdc,   1, 0x04, 0x00000000 },
573 	{ 0x000f98,   1, 0x04, 0x00300008 },
574 	{ 0x001284,   1, 0x04, 0x04000080 },
575 	{ 0x001450,   1, 0x04, 0x00300008 },
576 	{ 0x001454,   1, 0x04, 0x04000080 },
577 	{ 0x000214,   1, 0x04, 0x00000000 },
578 	{}
579 };
580 
581 const struct gf100_gr_init
582 gf100_grctx_init_902d_0[] = {
583 	{ 0x000200,   1, 0x04, 0x000000cf },
584 	{ 0x000204,   1, 0x04, 0x00000001 },
585 	{ 0x000208,   1, 0x04, 0x00000020 },
586 	{ 0x00020c,   1, 0x04, 0x00000001 },
587 	{ 0x000210,   1, 0x04, 0x00000000 },
588 	{ 0x000214,   1, 0x04, 0x00000080 },
589 	{ 0x000218,   2, 0x04, 0x00000100 },
590 	{ 0x000220,   2, 0x04, 0x00000000 },
591 	{ 0x000230,   1, 0x04, 0x000000cf },
592 	{ 0x000234,   1, 0x04, 0x00000001 },
593 	{ 0x000238,   1, 0x04, 0x00000020 },
594 	{ 0x00023c,   1, 0x04, 0x00000001 },
595 	{ 0x000244,   1, 0x04, 0x00000080 },
596 	{ 0x000248,   2, 0x04, 0x00000100 },
597 	{}
598 };
599 
600 const struct gf100_gr_init
601 gf100_grctx_init_9039_0[] = {
602 	{ 0x00030c,   3, 0x04, 0x00000000 },
603 	{ 0x000320,   1, 0x04, 0x00000000 },
604 	{ 0x000238,   2, 0x04, 0x00000000 },
605 	{ 0x000318,   2, 0x04, 0x00000000 },
606 	{}
607 };
608 
609 const struct gf100_gr_init
610 gf100_grctx_init_90c0_0[] = {
611 	{ 0x00270c,   8, 0x20, 0x00000000 },
612 	{ 0x00030c,   1, 0x04, 0x00000001 },
613 	{ 0x001944,   1, 0x04, 0x00000000 },
614 	{ 0x000758,   1, 0x04, 0x00000100 },
615 	{ 0x0002c4,   1, 0x04, 0x00000000 },
616 	{ 0x000790,   5, 0x04, 0x00000000 },
617 	{ 0x00077c,   1, 0x04, 0x00000000 },
618 	{ 0x000204,   3, 0x04, 0x00000000 },
619 	{ 0x000214,   1, 0x04, 0x00000000 },
620 	{ 0x00024c,   1, 0x04, 0x00000000 },
621 	{ 0x000d94,   1, 0x04, 0x00000001 },
622 	{ 0x001608,   2, 0x04, 0x00000000 },
623 	{ 0x001664,   1, 0x04, 0x00000000 },
624 	{}
625 };
626 
627 const struct gf100_gr_pack
628 gf100_grctx_pack_mthd[] = {
629 	{ gf100_grctx_init_9097_0, 0x9097 },
630 	{ gf100_grctx_init_902d_0, 0x902d },
631 	{ gf100_grctx_init_9039_0, 0x9039 },
632 	{ gf100_grctx_init_90c0_0, 0x90c0 },
633 	{}
634 };
635 
636 const struct gf100_gr_init
637 gf100_grctx_init_main_0[] = {
638 	{ 0x400204,   2, 0x04, 0x00000000 },
639 	{}
640 };
641 
642 const struct gf100_gr_init
643 gf100_grctx_init_fe_0[] = {
644 	{ 0x404004,  11, 0x04, 0x00000000 },
645 	{ 0x404044,   1, 0x04, 0x00000000 },
646 	{ 0x404094,  13, 0x04, 0x00000000 },
647 	{ 0x4040c8,   1, 0x04, 0xf0000087 },
648 	{ 0x4040d0,   6, 0x04, 0x00000000 },
649 	{ 0x4040e8,   1, 0x04, 0x00001000 },
650 	{ 0x4040f8,   1, 0x04, 0x00000000 },
651 	{ 0x404130,   2, 0x04, 0x00000000 },
652 	{ 0x404138,   1, 0x04, 0x20000040 },
653 	{ 0x404150,   1, 0x04, 0x0000002e },
654 	{ 0x404154,   1, 0x04, 0x00000400 },
655 	{ 0x404158,   1, 0x04, 0x00000200 },
656 	{ 0x404164,   1, 0x04, 0x00000055 },
657 	{ 0x404168,   1, 0x04, 0x00000000 },
658 	{ 0x404174,   3, 0x04, 0x00000000 },
659 	{ 0x404200,   8, 0x04, 0x00000000 },
660 	{}
661 };
662 
663 const struct gf100_gr_init
664 gf100_grctx_init_pri_0[] = {
665 	{ 0x404404,  14, 0x04, 0x00000000 },
666 	{ 0x404460,   2, 0x04, 0x00000000 },
667 	{ 0x404468,   1, 0x04, 0x00ffffff },
668 	{ 0x40446c,   1, 0x04, 0x00000000 },
669 	{ 0x404480,   1, 0x04, 0x00000001 },
670 	{ 0x404498,   1, 0x04, 0x00000001 },
671 	{}
672 };
673 
674 const struct gf100_gr_init
675 gf100_grctx_init_memfmt_0[] = {
676 	{ 0x404604,   1, 0x04, 0x00000015 },
677 	{ 0x404608,   1, 0x04, 0x00000000 },
678 	{ 0x40460c,   1, 0x04, 0x00002e00 },
679 	{ 0x404610,   1, 0x04, 0x00000100 },
680 	{ 0x404618,   8, 0x04, 0x00000000 },
681 	{ 0x404638,   1, 0x04, 0x00000004 },
682 	{ 0x40463c,   8, 0x04, 0x00000000 },
683 	{ 0x40465c,   1, 0x04, 0x007f0100 },
684 	{ 0x404660,   7, 0x04, 0x00000000 },
685 	{ 0x40467c,   1, 0x04, 0x00000002 },
686 	{ 0x404680,   8, 0x04, 0x00000000 },
687 	{ 0x4046a0,   1, 0x04, 0x007f0080 },
688 	{ 0x4046a4,  18, 0x04, 0x00000000 },
689 	{ 0x4046f0,   2, 0x04, 0x00000000 },
690 	{ 0x404700,  13, 0x04, 0x00000000 },
691 	{ 0x404734,   1, 0x04, 0x00000100 },
692 	{ 0x404738,   8, 0x04, 0x00000000 },
693 	{}
694 };
695 
696 static const struct gf100_gr_init
697 gf100_grctx_init_ds_0[] = {
698 	{ 0x405800,   1, 0x04, 0x078000bf },
699 	{ 0x405830,   1, 0x04, 0x02180000 },
700 	{ 0x405834,   2, 0x04, 0x00000000 },
701 	{ 0x405854,   1, 0x04, 0x00000000 },
702 	{ 0x405870,   4, 0x04, 0x00000001 },
703 	{ 0x405a00,   2, 0x04, 0x00000000 },
704 	{ 0x405a18,   1, 0x04, 0x00000000 },
705 	{}
706 };
707 
708 static const struct gf100_gr_init
709 gf100_grctx_init_pd_0[] = {
710 	{ 0x406020,   1, 0x04, 0x000103c1 },
711 	{ 0x406028,   4, 0x04, 0x00000001 },
712 	{ 0x4064a8,   1, 0x04, 0x00000000 },
713 	{ 0x4064ac,   1, 0x04, 0x00003fff },
714 	{ 0x4064b4,   2, 0x04, 0x00000000 },
715 	{}
716 };
717 
718 const struct gf100_gr_init
719 gf100_grctx_init_rstr2d_0[] = {
720 	{ 0x407804,   1, 0x04, 0x00000023 },
721 	{ 0x40780c,   1, 0x04, 0x0a418820 },
722 	{ 0x407810,   1, 0x04, 0x062080e6 },
723 	{ 0x407814,   1, 0x04, 0x020398a4 },
724 	{ 0x407818,   1, 0x04, 0x0e629062 },
725 	{ 0x40781c,   1, 0x04, 0x0a418820 },
726 	{ 0x407820,   1, 0x04, 0x000000e6 },
727 	{ 0x4078bc,   1, 0x04, 0x00000103 },
728 	{}
729 };
730 
731 const struct gf100_gr_init
732 gf100_grctx_init_scc_0[] = {
733 	{ 0x408000,   2, 0x04, 0x00000000 },
734 	{ 0x408008,   1, 0x04, 0x00000018 },
735 	{ 0x40800c,   2, 0x04, 0x00000000 },
736 	{ 0x408014,   1, 0x04, 0x00000069 },
737 	{ 0x408018,   1, 0x04, 0xe100e100 },
738 	{ 0x408064,   1, 0x04, 0x00000000 },
739 	{}
740 };
741 
742 static const struct gf100_gr_init
743 gf100_grctx_init_be_0[] = {
744 	{ 0x408800,   1, 0x04, 0x02802a3c },
745 	{ 0x408804,   1, 0x04, 0x00000040 },
746 	{ 0x408808,   1, 0x04, 0x0003e00d },
747 	{ 0x408900,   1, 0x04, 0x3080b801 },
748 	{ 0x408904,   1, 0x04, 0x02000001 },
749 	{ 0x408908,   1, 0x04, 0x00c80929 },
750 	{ 0x408980,   1, 0x04, 0x0000011d },
751 	{}
752 };
753 
754 const struct gf100_gr_pack
755 gf100_grctx_pack_hub[] = {
756 	{ gf100_grctx_init_main_0 },
757 	{ gf100_grctx_init_fe_0 },
758 	{ gf100_grctx_init_pri_0 },
759 	{ gf100_grctx_init_memfmt_0 },
760 	{ gf100_grctx_init_ds_0 },
761 	{ gf100_grctx_init_pd_0 },
762 	{ gf100_grctx_init_rstr2d_0 },
763 	{ gf100_grctx_init_scc_0 },
764 	{ gf100_grctx_init_be_0 },
765 	{}
766 };
767 
768 const struct gf100_gr_init
769 gf100_grctx_init_gpc_unk_0[] = {
770 	{ 0x418380,   1, 0x04, 0x00000016 },
771 	{}
772 };
773 
774 const struct gf100_gr_init
775 gf100_grctx_init_prop_0[] = {
776 	{ 0x418400,   1, 0x04, 0x38004e00 },
777 	{ 0x418404,   1, 0x04, 0x71e0ffff },
778 	{ 0x418408,   1, 0x04, 0x00000000 },
779 	{ 0x41840c,   1, 0x04, 0x00001008 },
780 	{ 0x418410,   1, 0x04, 0x0fff0fff },
781 	{ 0x418414,   1, 0x04, 0x00200fff },
782 	{ 0x418450,   6, 0x04, 0x00000000 },
783 	{ 0x418468,   1, 0x04, 0x00000001 },
784 	{ 0x41846c,   2, 0x04, 0x00000000 },
785 	{}
786 };
787 
788 const struct gf100_gr_init
789 gf100_grctx_init_gpc_unk_1[] = {
790 	{ 0x418600,   1, 0x04, 0x0000001f },
791 	{ 0x418684,   1, 0x04, 0x0000000f },
792 	{ 0x418700,   1, 0x04, 0x00000002 },
793 	{ 0x418704,   1, 0x04, 0x00000080 },
794 	{ 0x418708,   1, 0x04, 0x00000000 },
795 	{ 0x41870c,   1, 0x04, 0x07c80000 },
796 	{ 0x418710,   1, 0x04, 0x00000000 },
797 	{}
798 };
799 
800 static const struct gf100_gr_init
801 gf100_grctx_init_setup_0[] = {
802 	{ 0x418800,   1, 0x04, 0x0006860a },
803 	{ 0x418808,   3, 0x04, 0x00000000 },
804 	{ 0x418828,   1, 0x04, 0x00008442 },
805 	{ 0x418830,   1, 0x04, 0x00000001 },
806 	{ 0x4188d8,   1, 0x04, 0x00000008 },
807 	{ 0x4188e0,   1, 0x04, 0x01000000 },
808 	{ 0x4188e8,   5, 0x04, 0x00000000 },
809 	{ 0x4188fc,   1, 0x04, 0x00100000 },
810 	{}
811 };
812 
813 const struct gf100_gr_init
814 gf100_grctx_init_zcull_0[] = {
815 	{ 0x41891c,   1, 0x04, 0x00ff00ff },
816 	{ 0x418924,   1, 0x04, 0x00000000 },
817 	{ 0x418928,   1, 0x04, 0x00ffff00 },
818 	{ 0x41892c,   1, 0x04, 0x0000ff00 },
819 	{}
820 };
821 
822 const struct gf100_gr_init
823 gf100_grctx_init_crstr_0[] = {
824 	{ 0x418b00,   1, 0x04, 0x00000000 },
825 	{ 0x418b08,   1, 0x04, 0x0a418820 },
826 	{ 0x418b0c,   1, 0x04, 0x062080e6 },
827 	{ 0x418b10,   1, 0x04, 0x020398a4 },
828 	{ 0x418b14,   1, 0x04, 0x0e629062 },
829 	{ 0x418b18,   1, 0x04, 0x0a418820 },
830 	{ 0x418b1c,   1, 0x04, 0x000000e6 },
831 	{ 0x418bb8,   1, 0x04, 0x00000103 },
832 	{}
833 };
834 
835 const struct gf100_gr_init
836 gf100_grctx_init_gpm_0[] = {
837 	{ 0x418c08,   1, 0x04, 0x00000001 },
838 	{ 0x418c10,   8, 0x04, 0x00000000 },
839 	{ 0x418c80,   1, 0x04, 0x20200004 },
840 	{ 0x418c8c,   1, 0x04, 0x00000001 },
841 	{}
842 };
843 
844 const struct gf100_gr_init
845 gf100_grctx_init_gcc_0[] = {
846 	{ 0x419000,   1, 0x04, 0x00000780 },
847 	{ 0x419004,   2, 0x04, 0x00000000 },
848 	{ 0x419014,   1, 0x04, 0x00000004 },
849 	{}
850 };
851 
852 const struct gf100_gr_pack
853 gf100_grctx_pack_gpc_0[] = {
854 	{ gf100_grctx_init_gpc_unk_0 },
855 	{ gf100_grctx_init_prop_0 },
856 	{ gf100_grctx_init_gpc_unk_1 },
857 	{ gf100_grctx_init_setup_0 },
858 	{ gf100_grctx_init_zcull_0 },
859 	{}
860 };
861 
862 const struct gf100_gr_pack
863 gf100_grctx_pack_gpc_1[] = {
864 	{ gf100_grctx_init_crstr_0 },
865 	{ gf100_grctx_init_gpm_0 },
866 	{ gf100_grctx_init_gcc_0 },
867 	{}
868 };
869 
870 static const struct gf100_gr_init
871 gf100_grctx_init_zcullr_0[] = {
872 	{ 0x418a00,   3, 0x04, 0x00000000 },
873 	{ 0x418a0c,   1, 0x04, 0x00010000 },
874 	{ 0x418a10,   3, 0x04, 0x00000000 },
875 	{ 0x418a20,   3, 0x04, 0x00000000 },
876 	{ 0x418a2c,   1, 0x04, 0x00010000 },
877 	{ 0x418a30,   3, 0x04, 0x00000000 },
878 	{ 0x418a40,   3, 0x04, 0x00000000 },
879 	{ 0x418a4c,   1, 0x04, 0x00010000 },
880 	{ 0x418a50,   3, 0x04, 0x00000000 },
881 	{ 0x418a60,   3, 0x04, 0x00000000 },
882 	{ 0x418a6c,   1, 0x04, 0x00010000 },
883 	{ 0x418a70,   3, 0x04, 0x00000000 },
884 	{ 0x418a80,   3, 0x04, 0x00000000 },
885 	{ 0x418a8c,   1, 0x04, 0x00010000 },
886 	{ 0x418a90,   3, 0x04, 0x00000000 },
887 	{ 0x418aa0,   3, 0x04, 0x00000000 },
888 	{ 0x418aac,   1, 0x04, 0x00010000 },
889 	{ 0x418ab0,   3, 0x04, 0x00000000 },
890 	{ 0x418ac0,   3, 0x04, 0x00000000 },
891 	{ 0x418acc,   1, 0x04, 0x00010000 },
892 	{ 0x418ad0,   3, 0x04, 0x00000000 },
893 	{ 0x418ae0,   3, 0x04, 0x00000000 },
894 	{ 0x418aec,   1, 0x04, 0x00010000 },
895 	{ 0x418af0,   3, 0x04, 0x00000000 },
896 	{}
897 };
898 
899 const struct gf100_gr_pack
900 gf100_grctx_pack_zcull[] = {
901 	{ gf100_grctx_init_zcullr_0 },
902 	{}
903 };
904 
905 const struct gf100_gr_init
906 gf100_grctx_init_pe_0[] = {
907 	{ 0x419818,   1, 0x04, 0x00000000 },
908 	{ 0x41983c,   1, 0x04, 0x00038bc7 },
909 	{ 0x419848,   1, 0x04, 0x00000000 },
910 	{ 0x419864,   1, 0x04, 0x0000012a },
911 	{ 0x419888,   1, 0x04, 0x00000000 },
912 	{}
913 };
914 
915 static const struct gf100_gr_init
916 gf100_grctx_init_tex_0[] = {
917 	{ 0x419a00,   1, 0x04, 0x000001f0 },
918 	{ 0x419a04,   1, 0x04, 0x00000001 },
919 	{ 0x419a08,   1, 0x04, 0x00000023 },
920 	{ 0x419a0c,   1, 0x04, 0x00020000 },
921 	{ 0x419a10,   1, 0x04, 0x00000000 },
922 	{ 0x419a14,   1, 0x04, 0x00000200 },
923 	{}
924 };
925 
926 const struct gf100_gr_init
927 gf100_grctx_init_wwdx_0[] = {
928 	{ 0x419b00,   1, 0x04, 0x0a418820 },
929 	{ 0x419b04,   1, 0x04, 0x062080e6 },
930 	{ 0x419b08,   1, 0x04, 0x020398a4 },
931 	{ 0x419b0c,   1, 0x04, 0x0e629062 },
932 	{ 0x419b10,   1, 0x04, 0x0a418820 },
933 	{ 0x419b14,   1, 0x04, 0x000000e6 },
934 	{ 0x419bd0,   1, 0x04, 0x00900103 },
935 	{ 0x419be0,   1, 0x04, 0x00000001 },
936 	{ 0x419be4,   1, 0x04, 0x00000000 },
937 	{}
938 };
939 
940 const struct gf100_gr_init
941 gf100_grctx_init_mpc_0[] = {
942 	{ 0x419c00,   1, 0x04, 0x00000002 },
943 	{ 0x419c04,   1, 0x04, 0x00000006 },
944 	{ 0x419c08,   1, 0x04, 0x00000002 },
945 	{ 0x419c20,   1, 0x04, 0x00000000 },
946 	{}
947 };
948 
949 static const struct gf100_gr_init
950 gf100_grctx_init_l1c_0[] = {
951 	{ 0x419cb0,   1, 0x04, 0x00060048 },
952 	{ 0x419ce8,   1, 0x04, 0x00000000 },
953 	{ 0x419cf4,   1, 0x04, 0x00000183 },
954 	{}
955 };
956 
957 const struct gf100_gr_init
958 gf100_grctx_init_tpccs_0[] = {
959 	{ 0x419d20,   1, 0x04, 0x02180000 },
960 	{ 0x419d24,   1, 0x04, 0x00001fff },
961 	{}
962 };
963 
964 static const struct gf100_gr_init
965 gf100_grctx_init_sm_0[] = {
966 	{ 0x419e04,   3, 0x04, 0x00000000 },
967 	{ 0x419e10,   1, 0x04, 0x00000002 },
968 	{ 0x419e44,   1, 0x04, 0x001beff2 },
969 	{ 0x419e48,   1, 0x04, 0x00000000 },
970 	{ 0x419e4c,   1, 0x04, 0x0000000f },
971 	{ 0x419e50,  17, 0x04, 0x00000000 },
972 	{ 0x419e98,   1, 0x04, 0x00000000 },
973 	{ 0x419f50,   2, 0x04, 0x00000000 },
974 	{}
975 };
976 
977 const struct gf100_gr_pack
978 gf100_grctx_pack_tpc[] = {
979 	{ gf100_grctx_init_pe_0 },
980 	{ gf100_grctx_init_tex_0 },
981 	{ gf100_grctx_init_wwdx_0 },
982 	{ gf100_grctx_init_mpc_0 },
983 	{ gf100_grctx_init_l1c_0 },
984 	{ gf100_grctx_init_tpccs_0 },
985 	{ gf100_grctx_init_sm_0 },
986 	{}
987 };
988 
989 /*******************************************************************************
990  * PGRAPH context implementation
991  ******************************************************************************/
992 
993 int
994 gf100_grctx_mmio_data(struct gf100_grctx *info, u32 size, u32 align, bool priv)
995 {
996 	if (info->data) {
997 		info->buffer[info->buffer_nr] = round_up(info->addr, align);
998 		info->addr = info->buffer[info->buffer_nr] + size;
999 		info->data->size = size;
1000 		info->data->align = align;
1001 		info->data->priv = priv;
1002 		info->data++;
1003 		return info->buffer_nr++;
1004 	}
1005 	return -1;
1006 }
1007 
1008 void
1009 gf100_grctx_mmio_item(struct gf100_grctx *info, u32 addr, u32 data,
1010 		      int shift, int buffer)
1011 {
1012 	struct nvkm_device *device = info->gr->base.engine.subdev.device;
1013 	if (info->data) {
1014 		if (shift >= 0) {
1015 			info->mmio->addr = addr;
1016 			info->mmio->data = data;
1017 			info->mmio->shift = shift;
1018 			info->mmio->buffer = buffer;
1019 			if (buffer >= 0)
1020 				data |= info->buffer[buffer] >> shift;
1021 			info->mmio++;
1022 		} else
1023 			return;
1024 	} else {
1025 		if (buffer >= 0)
1026 			return;
1027 	}
1028 
1029 	nvkm_wr32(device, addr, data);
1030 }
1031 
1032 void
1033 gf100_grctx_generate_r419cb8(struct gf100_gr *gr)
1034 {
1035 	struct nvkm_device *device = gr->base.engine.subdev.device;
1036 	nvkm_mask(device, 0x419cb8, 0x00007c00, 0x00000000);
1037 }
1038 
1039 void
1040 gf100_grctx_generate_bundle(struct gf100_grctx *info)
1041 {
1042 	const struct gf100_grctx_func *grctx = info->gr->func->grctx;
1043 	const int s = 8;
1044 	const int b = mmio_vram(info, grctx->bundle_size, (1 << s), true);
1045 	mmio_refn(info, 0x408004, 0x00000000, s, b);
1046 	mmio_wr32(info, 0x408008, 0x80000000 | (grctx->bundle_size >> s));
1047 	mmio_refn(info, 0x418808, 0x00000000, s, b);
1048 	mmio_wr32(info, 0x41880c, 0x80000000 | (grctx->bundle_size >> s));
1049 }
1050 
1051 void
1052 gf100_grctx_generate_pagepool(struct gf100_grctx *info)
1053 {
1054 	const struct gf100_grctx_func *grctx = info->gr->func->grctx;
1055 	const int s = 8;
1056 	const int b = mmio_vram(info, grctx->pagepool_size, (1 << s), true);
1057 	mmio_refn(info, 0x40800c, 0x00000000, s, b);
1058 	mmio_wr32(info, 0x408010, 0x80000000);
1059 	mmio_refn(info, 0x419004, 0x00000000, s, b);
1060 	mmio_wr32(info, 0x419008, 0x00000000);
1061 }
1062 
1063 void
1064 gf100_grctx_generate_attrib(struct gf100_grctx *info)
1065 {
1066 	struct gf100_gr *gr = info->gr;
1067 	const struct gf100_grctx_func *grctx = gr->func->grctx;
1068 	const u32 attrib = grctx->attrib_nr;
1069 	const u32   size = 0x20 * (grctx->attrib_nr_max + grctx->alpha_nr_max);
1070 	const int s = 12;
1071 	const int b = mmio_vram(info, size * gr->tpc_total, (1 << s), false);
1072 	int gpc, tpc;
1073 	u32 bo = 0;
1074 
1075 	mmio_refn(info, 0x418810, 0x80000000, s, b);
1076 	mmio_refn(info, 0x419848, 0x10000000, s, b);
1077 	mmio_wr32(info, 0x405830, (attrib << 16));
1078 
1079 	for (gpc = 0; gpc < gr->gpc_nr; gpc++) {
1080 		for (tpc = 0; tpc < gr->tpc_nr[gpc]; tpc++) {
1081 			const u32 o = TPC_UNIT(gpc, tpc, 0x0520);
1082 			mmio_skip(info, o, (attrib << 16) | ++bo);
1083 			mmio_wr32(info, o, (attrib << 16) | --bo);
1084 			bo += grctx->attrib_nr_max;
1085 		}
1086 	}
1087 }
1088 
1089 void
1090 gf100_grctx_generate_unkn(struct gf100_gr *gr)
1091 {
1092 }
1093 
1094 void
1095 gf100_grctx_generate_r4060a8(struct gf100_gr *gr)
1096 {
1097 	struct nvkm_device *device = gr->base.engine.subdev.device;
1098 	const u8 gpcmax = nvkm_rd32(device, 0x022430);
1099 	const u8 tpcmax = nvkm_rd32(device, 0x022434) * gpcmax;
1100 	int i, j, sm = 0;
1101 	u32 data;
1102 
1103 	for (i = 0; i < DIV_ROUND_UP(tpcmax, 4); i++) {
1104 		for (data = 0, j = 0; j < 4; j++) {
1105 			if (sm < gr->sm_nr)
1106 				data |= gr->sm[sm++].gpc << (j * 8);
1107 			else
1108 				data |= 0x1f << (j * 8);
1109 		}
1110 		nvkm_wr32(device, 0x4060a8 + (i * 4), data);
1111 	}
1112 }
1113 
1114 void
1115 gf100_grctx_generate_rop_mapping(struct gf100_gr *gr)
1116 {
1117 	struct nvkm_device *device = gr->base.engine.subdev.device;
1118 	u32 data[6] = {}, data2[2] = {};
1119 	u8  shift, ntpcv;
1120 	int i;
1121 
1122 	/* Pack tile map into register format. */
1123 	for (i = 0; i < 32; i++)
1124 		data[i / 6] |= (gr->tile[i] & 0x07) << ((i % 6) * 5);
1125 
1126 	/* Magic. */
1127 	shift = 0;
1128 	ntpcv = gr->tpc_total;
1129 	while (!(ntpcv & (1 << 4))) {
1130 		ntpcv <<= 1;
1131 		shift++;
1132 	}
1133 
1134 	data2[0]  = (ntpcv << 16);
1135 	data2[0] |= (shift << 21);
1136 	data2[0] |= (((1 << (0 + 5)) % ntpcv) << 24);
1137 	for (i = 1; i < 7; i++)
1138 		data2[1] |= ((1 << (i + 5)) % ntpcv) << ((i - 1) * 5);
1139 
1140 	/* GPC_BROADCAST */
1141 	nvkm_wr32(device, 0x418bb8, (gr->tpc_total << 8) |
1142 				     gr->screen_tile_row_offset);
1143 	for (i = 0; i < 6; i++)
1144 		nvkm_wr32(device, 0x418b08 + (i * 4), data[i]);
1145 
1146 	/* GPC_BROADCAST.TP_BROADCAST */
1147 	nvkm_wr32(device, 0x419bd0, (gr->tpc_total << 8) |
1148 				     gr->screen_tile_row_offset | data2[0]);
1149 	nvkm_wr32(device, 0x419be4, data2[1]);
1150 	for (i = 0; i < 6; i++)
1151 		nvkm_wr32(device, 0x419b00 + (i * 4), data[i]);
1152 
1153 	/* UNK78xx */
1154 	nvkm_wr32(device, 0x4078bc, (gr->tpc_total << 8) |
1155 				     gr->screen_tile_row_offset);
1156 	for (i = 0; i < 6; i++)
1157 		nvkm_wr32(device, 0x40780c + (i * 4), data[i]);
1158 }
1159 
1160 void
1161 gf100_grctx_generate_max_ways_evict(struct gf100_gr *gr)
1162 {
1163 	struct nvkm_device *device = gr->base.engine.subdev.device;
1164 	u32 fbps = nvkm_rd32(device, 0x121c74);
1165 	if (fbps == 1)
1166 		nvkm_mask(device, 0x17e91c, 0x001f0000, 0x00090000);
1167 }
1168 
1169 static const u32
1170 gf100_grctx_alpha_beta_map[17][32] = {
1171 	[1] = {
1172 		1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1,
1173 		1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1,
1174 	},
1175 	[2] = {
1176 		1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1,
1177 		1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1,
1178 	},
1179 	//XXX: 3
1180 	[4] = {
1181 		1, 1, 1, 1, 1, 1, 1, 1,
1182 		2, 2, 2, 2, 2, 2, 2, 2, 2, 2, 2, 2, 2, 2, 2, 2,
1183 		3, 3, 3, 3, 3, 3, 3, 3,
1184 	},
1185 	//XXX: 5
1186 	//XXX: 6
1187 	[7] = {
1188 		1, 1, 1, 1,
1189 		2, 2, 2, 2, 2, 2,
1190 		3, 3, 3, 3, 3, 3,
1191 		4, 4, 4, 4, 4, 4,
1192 		5, 5, 5, 5, 5, 5,
1193 		6, 6, 6, 6,
1194 	},
1195 	[8] = {
1196 		1, 1, 1,
1197 		2, 2, 2, 2, 2,
1198 		3, 3, 3, 3, 3,
1199 		4, 4, 4, 4, 4, 4,
1200 		5, 5, 5, 5, 5,
1201 		6, 6, 6, 6, 6,
1202 		7, 7, 7,
1203 	},
1204 	//XXX: 9
1205 	//XXX: 10
1206 	[11] = {
1207 		1, 1,
1208 		2, 2, 2, 2,
1209 		3, 3, 3,
1210 		4, 4, 4, 4,
1211 		5, 5, 5,
1212 		6, 6, 6,
1213 		7, 7, 7, 7,
1214 		8, 8, 8,
1215 		9, 9, 9, 9,
1216 		10, 10,
1217 	},
1218 	//XXX: 12
1219 	//XXX: 13
1220 	[14] = {
1221 		1, 1,
1222 		2, 2,
1223 		3, 3, 3,
1224 		4, 4, 4,
1225 		5, 5,
1226 		6, 6, 6,
1227 		7, 7,
1228 		8, 8, 8,
1229 		9, 9,
1230 		10, 10, 10,
1231 		11, 11, 11,
1232 		12, 12,
1233 		13, 13,
1234 	},
1235 	[15] = {
1236 		1, 1,
1237 		2, 2,
1238 		3, 3,
1239 		4, 4, 4,
1240 		5, 5,
1241 		6, 6, 6,
1242 		7, 7,
1243 		8, 8,
1244 		9, 9, 9,
1245 		10, 10,
1246 		11, 11, 11,
1247 		12, 12,
1248 		13, 13,
1249 		14, 14,
1250 	},
1251 	[16] = {
1252 		1, 1,
1253 		2, 2,
1254 		3, 3,
1255 		4, 4,
1256 		5, 5,
1257 		6, 6, 6,
1258 		7, 7,
1259 		8, 8,
1260 		9, 9,
1261 		10, 10, 10,
1262 		11, 11,
1263 		12, 12,
1264 		13, 13,
1265 		14, 14,
1266 		15, 15,
1267 	},
1268 };
1269 
1270 void
1271 gf100_grctx_generate_alpha_beta_tables(struct gf100_gr *gr)
1272 {
1273 	struct nvkm_subdev *subdev = &gr->base.engine.subdev;
1274 	struct nvkm_device *device = subdev->device;
1275 	int i, gpc;
1276 
1277 	for (i = 0; i < 32; i++) {
1278 		u32 atarget = gf100_grctx_alpha_beta_map[gr->tpc_total][i];
1279 		u32 abits[GPC_MAX] = {}, amask = 0, bmask = 0;
1280 
1281 		if (!atarget) {
1282 			nvkm_warn(subdev, "missing alpha/beta mapping table\n");
1283 			atarget = max_t(u32, gr->tpc_total * i / 32, 1);
1284 		}
1285 
1286 		while (atarget) {
1287 			for (gpc = 0; atarget && gpc < gr->gpc_nr; gpc++) {
1288 				if (abits[gpc] < gr->tpc_nr[gpc]) {
1289 					abits[gpc]++;
1290 					atarget--;
1291 				}
1292 			}
1293 		}
1294 
1295 		for (gpc = 0; gpc < gr->gpc_nr; gpc++) {
1296 			u32 bbits = gr->tpc_nr[gpc] - abits[gpc];
1297 			amask |= ((1 << abits[gpc]) - 1) << (gpc * 8);
1298 			bmask |= ((1 << bbits) - 1) << abits[gpc] << (gpc * 8);
1299 		}
1300 
1301 		nvkm_wr32(device, 0x406800 + (i * 0x20), amask);
1302 		nvkm_wr32(device, 0x406c00 + (i * 0x20), bmask);
1303 	}
1304 }
1305 
1306 void
1307 gf100_grctx_generate_tpc_nr(struct gf100_gr *gr, int gpc)
1308 {
1309 	struct nvkm_device *device = gr->base.engine.subdev.device;
1310 	nvkm_wr32(device, GPC_UNIT(gpc, 0x0c08), gr->tpc_nr[gpc]);
1311 	nvkm_wr32(device, GPC_UNIT(gpc, 0x0c8c), gr->tpc_nr[gpc]);
1312 }
1313 
1314 void
1315 gf100_grctx_generate_sm_id(struct gf100_gr *gr, int gpc, int tpc, int sm)
1316 {
1317 	struct nvkm_device *device = gr->base.engine.subdev.device;
1318 	nvkm_wr32(device, TPC_UNIT(gpc, tpc, 0x698), sm);
1319 	nvkm_wr32(device, TPC_UNIT(gpc, tpc, 0x4e8), sm);
1320 	nvkm_wr32(device, GPC_UNIT(gpc, 0x0c10 + tpc * 4), sm);
1321 	nvkm_wr32(device, TPC_UNIT(gpc, tpc, 0x088), sm);
1322 }
1323 
1324 void
1325 gf100_grctx_generate_floorsweep(struct gf100_gr *gr)
1326 {
1327 	const struct gf100_grctx_func *func = gr->func->grctx;
1328 	int sm;
1329 
1330 	for (sm = 0; sm < gr->sm_nr; sm++) {
1331 		func->sm_id(gr, gr->sm[sm].gpc, gr->sm[sm].tpc, sm);
1332 		if (func->tpc_nr)
1333 			func->tpc_nr(gr, gr->sm[sm].gpc);
1334 	}
1335 
1336 	gf100_gr_init_num_tpc_per_gpc(gr, false, true);
1337 	if (!func->skip_pd_num_tpc_per_gpc)
1338 		gf100_gr_init_num_tpc_per_gpc(gr, true, false);
1339 
1340 	if (func->r4060a8)
1341 		func->r4060a8(gr);
1342 
1343 	func->rop_mapping(gr);
1344 
1345 	if (func->alpha_beta_tables)
1346 		func->alpha_beta_tables(gr);
1347 	if (func->max_ways_evict)
1348 		func->max_ways_evict(gr);
1349 	if (func->dist_skip_table)
1350 		func->dist_skip_table(gr);
1351 	if (func->r406500)
1352 		func->r406500(gr);
1353 	if (func->gpc_tpc_nr)
1354 		func->gpc_tpc_nr(gr);
1355 	if (func->r419f78)
1356 		func->r419f78(gr);
1357 	if (func->tpc_mask)
1358 		func->tpc_mask(gr);
1359 	if (func->smid_config)
1360 		func->smid_config(gr);
1361 }
1362 
1363 void
1364 gf100_grctx_generate_main(struct gf100_gr *gr, struct gf100_grctx *info)
1365 {
1366 	struct nvkm_device *device = gr->base.engine.subdev.device;
1367 	const struct gf100_grctx_func *grctx = gr->func->grctx;
1368 	u32 idle_timeout;
1369 
1370 	nvkm_mc_unk260(device, 0);
1371 
1372 	if (!gr->sw_ctx) {
1373 		gf100_gr_mmio(gr, grctx->hub);
1374 		gf100_gr_mmio(gr, grctx->gpc_0);
1375 		gf100_gr_mmio(gr, grctx->zcull);
1376 		gf100_gr_mmio(gr, grctx->gpc_1);
1377 		gf100_gr_mmio(gr, grctx->tpc);
1378 		gf100_gr_mmio(gr, grctx->ppc);
1379 	} else {
1380 		gf100_gr_mmio(gr, gr->sw_ctx);
1381 	}
1382 
1383 	gf100_gr_wait_idle(gr);
1384 
1385 	idle_timeout = nvkm_mask(device, 0x404154, 0xffffffff, 0x00000000);
1386 
1387 	grctx->pagepool(info);
1388 	grctx->bundle(info);
1389 	grctx->attrib(info);
1390 	if (grctx->patch_ltc)
1391 		grctx->patch_ltc(info);
1392 	grctx->unkn(gr);
1393 
1394 	gf100_grctx_generate_floorsweep(gr);
1395 
1396 	gf100_gr_wait_idle(gr);
1397 
1398 	if (grctx->r400088) grctx->r400088(gr, false);
1399 	if (gr->bundle)
1400 		gf100_gr_icmd(gr, gr->bundle);
1401 	else
1402 		gf100_gr_icmd(gr, grctx->icmd);
1403 	if (grctx->sw_veid_bundle_init)
1404 		gf100_gr_icmd(gr, grctx->sw_veid_bundle_init);
1405 	if (grctx->r400088) grctx->r400088(gr, true);
1406 
1407 	nvkm_wr32(device, 0x404154, idle_timeout);
1408 
1409 	if (gr->method)
1410 		gf100_gr_mthd(gr, gr->method);
1411 	else
1412 		gf100_gr_mthd(gr, grctx->mthd);
1413 	nvkm_mc_unk260(device, 1);
1414 
1415 	if (grctx->r419cb8)
1416 		grctx->r419cb8(gr);
1417 	if (grctx->r418800)
1418 		grctx->r418800(gr);
1419 	if (grctx->r419eb0)
1420 		grctx->r419eb0(gr);
1421 	if (grctx->r419e00)
1422 		grctx->r419e00(gr);
1423 	if (grctx->r418e94)
1424 		grctx->r418e94(gr);
1425 	if (grctx->r419a3c)
1426 		grctx->r419a3c(gr);
1427 	if (grctx->r408840)
1428 		grctx->r408840(gr);
1429 	if (grctx->r419c0c)
1430 		grctx->r419c0c(gr);
1431 }
1432 
1433 #define CB_RESERVED 0x80000
1434 
1435 int
1436 gf100_grctx_generate(struct gf100_gr *gr)
1437 {
1438 	const struct gf100_grctx_func *grctx = gr->func->grctx;
1439 	struct nvkm_subdev *subdev = &gr->base.engine.subdev;
1440 	struct nvkm_device *device = subdev->device;
1441 	struct nvkm_memory *inst = NULL;
1442 	struct nvkm_memory *data = NULL;
1443 	struct nvkm_vmm *vmm = NULL;
1444 	struct nvkm_vma *ctx = NULL;
1445 	struct gf100_grctx info;
1446 	int ret, i;
1447 	u64 addr;
1448 
1449 	/* NV_PGRAPH_FE_PWR_MODE_FORCE_ON. */
1450 	nvkm_wr32(device, 0x404170, 0x00000012);
1451 	nvkm_msec(device, 2000,
1452 		if (!(nvkm_rd32(device, 0x404170) & 0x00000010))
1453 			break;
1454 	);
1455 
1456 	if (grctx->unkn88c)
1457 		grctx->unkn88c(gr, true);
1458 
1459 	/* Reset FECS. */
1460 	nvkm_wr32(device, 0x409614, 0x00000070);
1461 	nvkm_usec(device, 10, NVKM_DELAY);
1462 	nvkm_mask(device, 0x409614, 0x00000700, 0x00000700);
1463 	nvkm_usec(device, 10, NVKM_DELAY);
1464 	nvkm_rd32(device, 0x409614);
1465 
1466 	if (grctx->unkn88c)
1467 		grctx->unkn88c(gr, false);
1468 
1469 	/* NV_PGRAPH_FE_PWR_MODE_AUTO. */
1470 	nvkm_wr32(device, 0x404170, 0x00000010);
1471 
1472 	/* Init SCC RAM. */
1473 	nvkm_wr32(device, 0x40802c, 0x00000001);
1474 
1475 	/* Allocate memory to for a "channel", which we'll use to generate
1476 	 * the default context values.
1477 	 */
1478 	ret = nvkm_memory_new(device, NVKM_MEM_TARGET_INST,
1479 			      0x1000, 0x1000, true, &inst);
1480 	if (ret)
1481 		goto done;
1482 
1483 	ret = nvkm_vmm_new(device, 0, 0, NULL, 0, NULL, "grctx", &vmm);
1484 	if (ret)
1485 		goto done;
1486 
1487 	vmm->debug = subdev->debug;
1488 
1489 	ret = nvkm_vmm_join(vmm, inst);
1490 	if (ret)
1491 		goto done;
1492 
1493 	ret = nvkm_memory_new(device, NVKM_MEM_TARGET_INST,
1494 			      CB_RESERVED + gr->size, 0, true, &data);
1495 	if (ret)
1496 		goto done;
1497 
1498 	ret = nvkm_vmm_get(vmm, 0, nvkm_memory_size(data), &ctx);
1499 	if (ret)
1500 		goto done;
1501 
1502 	ret = nvkm_memory_map(data, 0, vmm, ctx, NULL, 0);
1503 	if (ret)
1504 		goto done;
1505 
1506 
1507 	/* Setup context pointer. */
1508 	nvkm_kmap(inst);
1509 	nvkm_wo32(inst, 0x0210, lower_32_bits(ctx->addr + CB_RESERVED) | 4);
1510 	nvkm_wo32(inst, 0x0214, upper_32_bits(ctx->addr + CB_RESERVED));
1511 	nvkm_done(inst);
1512 
1513 	/* Setup default state for mmio list construction. */
1514 	info.gr = gr;
1515 	info.data = gr->mmio_data;
1516 	info.mmio = gr->mmio_list;
1517 	info.addr = ctx->addr;
1518 	info.buffer_nr = 0;
1519 
1520 	/* Make channel current. */
1521 	addr = nvkm_memory_addr(inst) >> 12;
1522 	if (gr->firmware) {
1523 		ret = gf100_gr_fecs_bind_pointer(gr, 0x80000000 | addr);
1524 		if (ret)
1525 			goto done;
1526 
1527 		nvkm_kmap(data);
1528 		nvkm_wo32(data, 0x1c, 1);
1529 		nvkm_wo32(data, 0x20, 0);
1530 		nvkm_wo32(data, 0x28, 0);
1531 		nvkm_wo32(data, 0x2c, 0);
1532 		nvkm_done(data);
1533 	} else {
1534 		nvkm_wr32(device, 0x409840, 0x80000000);
1535 		nvkm_wr32(device, 0x409500, 0x80000000 | addr);
1536 		nvkm_wr32(device, 0x409504, 0x00000001);
1537 		nvkm_msec(device, 2000,
1538 			if (nvkm_rd32(device, 0x409800) & 0x80000000)
1539 				break;
1540 		);
1541 	}
1542 
1543 	grctx->main(gr, &info);
1544 
1545 	/* Trigger a context unload by unsetting the "next channel valid" bit
1546 	 * and faking a context switch interrupt.
1547 	 */
1548 	nvkm_mask(device, 0x409b04, 0x80000000, 0x00000000);
1549 	nvkm_wr32(device, 0x409000, 0x00000100);
1550 	if (nvkm_msec(device, 2000,
1551 		if (!(nvkm_rd32(device, 0x409b00) & 0x80000000))
1552 			break;
1553 	) < 0) {
1554 		ret = -EBUSY;
1555 		goto done;
1556 	}
1557 
1558 	gr->data = kmalloc(gr->size, GFP_KERNEL);
1559 	if (gr->data) {
1560 		nvkm_kmap(data);
1561 		for (i = 0; i < gr->size; i += 4)
1562 			gr->data[i / 4] = nvkm_ro32(data, CB_RESERVED + i);
1563 		nvkm_done(data);
1564 		ret = 0;
1565 	} else {
1566 		ret = -ENOMEM;
1567 	}
1568 
1569 done:
1570 	nvkm_vmm_put(vmm, &ctx);
1571 	nvkm_memory_unref(&data);
1572 	nvkm_vmm_part(vmm, inst);
1573 	nvkm_vmm_unref(&vmm);
1574 	nvkm_memory_unref(&inst);
1575 	return ret;
1576 }
1577 
1578 const struct gf100_grctx_func
1579 gf100_grctx = {
1580 	.main  = gf100_grctx_generate_main,
1581 	.unkn  = gf100_grctx_generate_unkn,
1582 	.hub   = gf100_grctx_pack_hub,
1583 	.gpc_0 = gf100_grctx_pack_gpc_0,
1584 	.gpc_1 = gf100_grctx_pack_gpc_1,
1585 	.zcull = gf100_grctx_pack_zcull,
1586 	.tpc   = gf100_grctx_pack_tpc,
1587 	.icmd  = gf100_grctx_pack_icmd,
1588 	.mthd  = gf100_grctx_pack_mthd,
1589 	.bundle = gf100_grctx_generate_bundle,
1590 	.bundle_size = 0x1800,
1591 	.pagepool = gf100_grctx_generate_pagepool,
1592 	.pagepool_size = 0x8000,
1593 	.attrib = gf100_grctx_generate_attrib,
1594 	.attrib_nr_max = 0x324,
1595 	.attrib_nr = 0x218,
1596 	.sm_id = gf100_grctx_generate_sm_id,
1597 	.tpc_nr = gf100_grctx_generate_tpc_nr,
1598 	.r4060a8 = gf100_grctx_generate_r4060a8,
1599 	.rop_mapping = gf100_grctx_generate_rop_mapping,
1600 	.alpha_beta_tables = gf100_grctx_generate_alpha_beta_tables,
1601 	.max_ways_evict = gf100_grctx_generate_max_ways_evict,
1602 	.r419cb8 = gf100_grctx_generate_r419cb8,
1603 };
1604