xref: /linux/drivers/gpu/drm/nouveau/nvkm/engine/gr/ctxgf100.c (revision b85d45947951d23cb22d90caecf4c1eb81342c96) 
1 /*
2  * Copyright 2010 Red Hat Inc.
3  *
4  * Permission is hereby granted, free of charge, to any person obtaining a
5  * copy of this software and associated documentation files (the "Software"),
6  * to deal in the Software without restriction, including without limitation
7  * the rights to use, copy, modify, merge, publish, distribute, sublicense,
8  * and/or sell copies of the Software, and to permit persons to whom the
9  * Software is furnished to do so, subject to the following conditions:
10  *
11  * The above copyright notice and this permission notice shall be included in
12  * all copies or substantial portions of the Software.
13  *
14  * THE SOFTWARE IS PROVIDED "AS IS", WITHOUT WARRANTY OF ANY KIND, EXPRESS OR
15  * IMPLIED, INCLUDING BUT NOT LIMITED TO THE WARRANTIES OF MERCHANTABILITY,
16  * FITNESS FOR A PARTICULAR PURPOSE AND NONINFRINGEMENT.  IN NO EVENT SHALL
17  * THE COPYRIGHT HOLDER(S) OR AUTHOR(S) BE LIABLE FOR ANY CLAIM, DAMAGES OR
18  * OTHER LIABILITY, WHETHER IN AN ACTION OF CONTRACT, TORT OR OTHERWISE,
19  * ARISING FROM, OUT OF OR IN CONNECTION WITH THE SOFTWARE OR THE USE OR
20  * OTHER DEALINGS IN THE SOFTWARE.
21  *
22  * Authors: Ben Skeggs
23  */
24 #include "ctxgf100.h"
25 
26 #include <subdev/fb.h>
27 #include <subdev/mc.h>
28 #include <subdev/timer.h>
29 
30 /*******************************************************************************
31  * PGRAPH context register lists
32  ******************************************************************************/
33 
34 static const struct gf100_gr_init
35 gf100_grctx_init_icmd_0[] = {
36 	{ 0x001000,   1, 0x01, 0x00000004 },
37 	{ 0x0000a9,   1, 0x01, 0x0000ffff },
38 	{ 0x000038,   1, 0x01, 0x0fac6881 },
39 	{ 0x00003d,   1, 0x01, 0x00000001 },
40 	{ 0x0000e8,   8, 0x01, 0x00000400 },
41 	{ 0x000078,   8, 0x01, 0x00000300 },
42 	{ 0x000050,   1, 0x01, 0x00000011 },
43 	{ 0x000058,   8, 0x01, 0x00000008 },
44 	{ 0x000208,   8, 0x01, 0x00000001 },
45 	{ 0x000081,   1, 0x01, 0x00000001 },
46 	{ 0x000085,   1, 0x01, 0x00000004 },
47 	{ 0x000088,   1, 0x01, 0x00000400 },
48 	{ 0x000090,   1, 0x01, 0x00000300 },
49 	{ 0x000098,   1, 0x01, 0x00001001 },
50 	{ 0x0000e3,   1, 0x01, 0x00000001 },
51 	{ 0x0000da,   1, 0x01, 0x00000001 },
52 	{ 0x0000f8,   1, 0x01, 0x00000003 },
53 	{ 0x0000fa,   1, 0x01, 0x00000001 },
54 	{ 0x00009f,   4, 0x01, 0x0000ffff },
55 	{ 0x0000b1,   1, 0x01, 0x00000001 },
56 	{ 0x0000b2,  40, 0x01, 0x00000000 },
57 	{ 0x000210,   8, 0x01, 0x00000040 },
58 	{ 0x000218,   8, 0x01, 0x0000c080 },
59 	{ 0x0000ad,   1, 0x01, 0x0000013e },
60 	{ 0x0000e1,   1, 0x01, 0x00000010 },
61 	{ 0x000290,  16, 0x01, 0x00000000 },
62 	{ 0x0003b0,  16, 0x01, 0x00000000 },
63 	{ 0x0002a0,  16, 0x01, 0x00000000 },
64 	{ 0x000420,  16, 0x01, 0x00000000 },
65 	{ 0x0002b0,  16, 0x01, 0x00000000 },
66 	{ 0x000430,  16, 0x01, 0x00000000 },
67 	{ 0x0002c0,  16, 0x01, 0x00000000 },
68 	{ 0x0004d0,  16, 0x01, 0x00000000 },
69 	{ 0x000720,  16, 0x01, 0x00000000 },
70 	{ 0x0008c0,  16, 0x01, 0x00000000 },
71 	{ 0x000890,  16, 0x01, 0x00000000 },
72 	{ 0x0008e0,  16, 0x01, 0x00000000 },
73 	{ 0x0008a0,  16, 0x01, 0x00000000 },
74 	{ 0x0008f0,  16, 0x01, 0x00000000 },
75 	{ 0x00094c,   1, 0x01, 0x000000ff },
76 	{ 0x00094d,   1, 0x01, 0xffffffff },
77 	{ 0x00094e,   1, 0x01, 0x00000002 },
78 	{ 0x0002ec,   1, 0x01, 0x00000001 },
79 	{ 0x000303,   1, 0x01, 0x00000001 },
80 	{ 0x0002e6,   1, 0x01, 0x00000001 },
81 	{ 0x000466,   1, 0x01, 0x00000052 },
82 	{ 0x000301,   1, 0x01, 0x3f800000 },
83 	{ 0x000304,   1, 0x01, 0x30201000 },
84 	{ 0x000305,   1, 0x01, 0x70605040 },
85 	{ 0x000306,   1, 0x01, 0xb8a89888 },
86 	{ 0x000307,   1, 0x01, 0xf8e8d8c8 },
87 	{ 0x00030a,   1, 0x01, 0x00ffff00 },
88 	{ 0x00030b,   1, 0x01, 0x0000001a },
89 	{ 0x00030c,   1, 0x01, 0x00000001 },
90 	{ 0x000318,   1, 0x01, 0x00000001 },
91 	{ 0x000340,   1, 0x01, 0x00000000 },
92 	{ 0x000375,   1, 0x01, 0x00000001 },
93 	{ 0x000351,   1, 0x01, 0x00000100 },
94 	{ 0x00037d,   1, 0x01, 0x00000006 },
95 	{ 0x0003a0,   1, 0x01, 0x00000002 },
96 	{ 0x0003aa,   1, 0x01, 0x00000001 },
97 	{ 0x0003a9,   1, 0x01, 0x00000001 },
98 	{ 0x000380,   1, 0x01, 0x00000001 },
99 	{ 0x000360,   1, 0x01, 0x00000040 },
100 	{ 0x000366,   2, 0x01, 0x00000000 },
101 	{ 0x000368,   1, 0x01, 0x00001fff },
102 	{ 0x000370,   2, 0x01, 0x00000000 },
103 	{ 0x000372,   1, 0x01, 0x003fffff },
104 	{ 0x00037a,   1, 0x01, 0x00000012 },
105 	{ 0x0005e0,   5, 0x01, 0x00000022 },
106 	{ 0x000619,   1, 0x01, 0x00000003 },
107 	{ 0x000811,   1, 0x01, 0x00000003 },
108 	{ 0x000812,   1, 0x01, 0x00000004 },
109 	{ 0x000813,   1, 0x01, 0x00000006 },
110 	{ 0x000814,   1, 0x01, 0x00000008 },
111 	{ 0x000815,   1, 0x01, 0x0000000b },
112 	{ 0x000800,   6, 0x01, 0x00000001 },
113 	{ 0x000632,   1, 0x01, 0x00000001 },
114 	{ 0x000633,   1, 0x01, 0x00000002 },
115 	{ 0x000634,   1, 0x01, 0x00000003 },
116 	{ 0x000635,   1, 0x01, 0x00000004 },
117 	{ 0x000654,   1, 0x01, 0x3f800000 },
118 	{ 0x000657,   1, 0x01, 0x3f800000 },
119 	{ 0x000655,   2, 0x01, 0x3f800000 },
120 	{ 0x0006cd,   1, 0x01, 0x3f800000 },
121 	{ 0x0007f5,   1, 0x01, 0x3f800000 },
122 	{ 0x0007dc,   1, 0x01, 0x39291909 },
123 	{ 0x0007dd,   1, 0x01, 0x79695949 },
124 	{ 0x0007de,   1, 0x01, 0xb9a99989 },
125 	{ 0x0007df,   1, 0x01, 0xf9e9d9c9 },
126 	{ 0x0007e8,   1, 0x01, 0x00003210 },
127 	{ 0x0007e9,   1, 0x01, 0x00007654 },
128 	{ 0x0007ea,   1, 0x01, 0x00000098 },
129 	{ 0x0007ec,   1, 0x01, 0x39291909 },
130 	{ 0x0007ed,   1, 0x01, 0x79695949 },
131 	{ 0x0007ee,   1, 0x01, 0xb9a99989 },
132 	{ 0x0007ef,   1, 0x01, 0xf9e9d9c9 },
133 	{ 0x0007f0,   1, 0x01, 0x00003210 },
134 	{ 0x0007f1,   1, 0x01, 0x00007654 },
135 	{ 0x0007f2,   1, 0x01, 0x00000098 },
136 	{ 0x0005a5,   1, 0x01, 0x00000001 },
137 	{ 0x000980, 128, 0x01, 0x00000000 },
138 	{ 0x000468,   1, 0x01, 0x00000004 },
139 	{ 0x00046c,   1, 0x01, 0x00000001 },
140 	{ 0x000470,  96, 0x01, 0x00000000 },
141 	{ 0x000510,  16, 0x01, 0x3f800000 },
142 	{ 0x000520,   1, 0x01, 0x000002b6 },
143 	{ 0x000529,   1, 0x01, 0x00000001 },
144 	{ 0x000530,  16, 0x01, 0xffff0000 },
145 	{ 0x000585,   1, 0x01, 0x0000003f },
146 	{ 0x000576,   1, 0x01, 0x00000003 },
147 	{ 0x000586,   1, 0x01, 0x00000040 },
148 	{ 0x000582,   2, 0x01, 0x00000080 },
149 	{ 0x0005c2,   1, 0x01, 0x00000001 },
150 	{ 0x000638,   2, 0x01, 0x00000001 },
151 	{ 0x00063a,   1, 0x01, 0x00000002 },
152 	{ 0x00063b,   2, 0x01, 0x00000001 },
153 	{ 0x00063d,   1, 0x01, 0x00000002 },
154 	{ 0x00063e,   1, 0x01, 0x00000001 },
155 	{ 0x0008b8,   8, 0x01, 0x00000001 },
156 	{ 0x000900,   8, 0x01, 0x00000001 },
157 	{ 0x000908,   8, 0x01, 0x00000002 },
158 	{ 0x000910,  16, 0x01, 0x00000001 },
159 	{ 0x000920,   8, 0x01, 0x00000002 },
160 	{ 0x000928,   8, 0x01, 0x00000001 },
161 	{ 0x000648,   9, 0x01, 0x00000001 },
162 	{ 0x000658,   1, 0x01, 0x0000000f },
163 	{ 0x0007ff,   1, 0x01, 0x0000000a },
164 	{ 0x00066a,   1, 0x01, 0x40000000 },
165 	{ 0x00066b,   1, 0x01, 0x10000000 },
166 	{ 0x00066c,   2, 0x01, 0xffff0000 },
167 	{ 0x0007af,   2, 0x01, 0x00000008 },
168 	{ 0x0007f6,   1, 0x01, 0x00000001 },
169 	{ 0x0006b2,   1, 0x01, 0x00000055 },
170 	{ 0x0007ad,   1, 0x01, 0x00000003 },
171 	{ 0x000937,   1, 0x01, 0x00000001 },
172 	{ 0x000971,   1, 0x01, 0x00000008 },
173 	{ 0x000972,   1, 0x01, 0x00000040 },
174 	{ 0x000973,   1, 0x01, 0x0000012c },
175 	{ 0x00097c,   1, 0x01, 0x00000040 },
176 	{ 0x000979,   1, 0x01, 0x00000003 },
177 	{ 0x000975,   1, 0x01, 0x00000020 },
178 	{ 0x000976,   1, 0x01, 0x00000001 },
179 	{ 0x000977,   1, 0x01, 0x00000020 },
180 	{ 0x000978,   1, 0x01, 0x00000001 },
181 	{ 0x000957,   1, 0x01, 0x00000003 },
182 	{ 0x00095e,   1, 0x01, 0x20164010 },
183 	{ 0x00095f,   1, 0x01, 0x00000020 },
184 	{ 0x000683,   1, 0x01, 0x00000006 },
185 	{ 0x000685,   1, 0x01, 0x003fffff },
186 	{ 0x000687,   1, 0x01, 0x00000c48 },
187 	{ 0x0006a0,   1, 0x01, 0x00000005 },
188 	{ 0x000840,   1, 0x01, 0x00300008 },
189 	{ 0x000841,   1, 0x01, 0x04000080 },
190 	{ 0x000842,   1, 0x01, 0x00300008 },
191 	{ 0x000843,   1, 0x01, 0x04000080 },
192 	{ 0x000818,   8, 0x01, 0x00000000 },
193 	{ 0x000848,  16, 0x01, 0x00000000 },
194 	{ 0x000738,   1, 0x01, 0x00000000 },
195 	{ 0x0006aa,   1, 0x01, 0x00000001 },
196 	{ 0x0006ab,   1, 0x01, 0x00000002 },
197 	{ 0x0006ac,   1, 0x01, 0x00000080 },
198 	{ 0x0006ad,   2, 0x01, 0x00000100 },
199 	{ 0x0006b1,   1, 0x01, 0x00000011 },
200 	{ 0x0006bb,   1, 0x01, 0x000000cf },
201 	{ 0x0006ce,   1, 0x01, 0x2a712488 },
202 	{ 0x000739,   1, 0x01, 0x4085c000 },
203 	{ 0x00073a,   1, 0x01, 0x00000080 },
204 	{ 0x000786,   1, 0x01, 0x80000100 },
205 	{ 0x00073c,   1, 0x01, 0x00010100 },
206 	{ 0x00073d,   1, 0x01, 0x02800000 },
207 	{ 0x000787,   1, 0x01, 0x000000cf },
208 	{ 0x00078c,   1, 0x01, 0x00000008 },
209 	{ 0x000792,   1, 0x01, 0x00000001 },
210 	{ 0x000794,   3, 0x01, 0x00000001 },
211 	{ 0x000797,   1, 0x01, 0x000000cf },
212 	{ 0x000836,   1, 0x01, 0x00000001 },
213 	{ 0x00079a,   1, 0x01, 0x00000002 },
214 	{ 0x000833,   1, 0x01, 0x04444480 },
215 	{ 0x0007a1,   1, 0x01, 0x00000001 },
216 	{ 0x0007a3,   3, 0x01, 0x00000001 },
217 	{ 0x000831,   1, 0x01, 0x00000004 },
218 	{ 0x00080c,   1, 0x01, 0x00000002 },
219 	{ 0x00080d,   2, 0x01, 0x00000100 },
220 	{ 0x00080f,   1, 0x01, 0x00000001 },
221 	{ 0x000823,   1, 0x01, 0x00000002 },
222 	{ 0x000824,   2, 0x01, 0x00000100 },
223 	{ 0x000826,   1, 0x01, 0x00000001 },
224 	{ 0x00095d,   1, 0x01, 0x00000001 },
225 	{ 0x00082b,   1, 0x01, 0x00000004 },
226 	{ 0x000942,   1, 0x01, 0x00010001 },
227 	{ 0x000943,   1, 0x01, 0x00000001 },
228 	{ 0x000944,   1, 0x01, 0x00000022 },
229 	{ 0x0007c5,   1, 0x01, 0x00010001 },
230 	{ 0x000834,   1, 0x01, 0x00000001 },
231 	{ 0x0007c7,   1, 0x01, 0x00000001 },
232 	{ 0x00c1b0,   8, 0x01, 0x0000000f },
233 	{ 0x00c1b8,   1, 0x01, 0x0fac6881 },
234 	{ 0x00c1b9,   1, 0x01, 0x00fac688 },
235 	{ 0x01e100,   1, 0x01, 0x00000001 },
236 	{ 0x001000,   1, 0x01, 0x00000002 },
237 	{ 0x0006aa,   1, 0x01, 0x00000001 },
238 	{ 0x0006ad,   2, 0x01, 0x00000100 },
239 	{ 0x0006b1,   1, 0x01, 0x00000011 },
240 	{ 0x00078c,   1, 0x01, 0x00000008 },
241 	{ 0x000792,   1, 0x01, 0x00000001 },
242 	{ 0x000794,   3, 0x01, 0x00000001 },
243 	{ 0x000797,   1, 0x01, 0x000000cf },
244 	{ 0x00079a,   1, 0x01, 0x00000002 },
245 	{ 0x000833,   1, 0x01, 0x04444480 },
246 	{ 0x0007a1,   1, 0x01, 0x00000001 },
247 	{ 0x0007a3,   3, 0x01, 0x00000001 },
248 	{ 0x000831,   1, 0x01, 0x00000004 },
249 	{ 0x01e100,   1, 0x01, 0x00000001 },
250 	{ 0x001000,   1, 0x01, 0x00000014 },
251 	{ 0x000351,   1, 0x01, 0x00000100 },
252 	{ 0x000957,   1, 0x01, 0x00000003 },
253 	{ 0x00095d,   1, 0x01, 0x00000001 },
254 	{ 0x00082b,   1, 0x01, 0x00000004 },
255 	{ 0x000942,   1, 0x01, 0x00010001 },
256 	{ 0x000943,   1, 0x01, 0x00000001 },
257 	{ 0x0007c5,   1, 0x01, 0x00010001 },
258 	{ 0x000834,   1, 0x01, 0x00000001 },
259 	{ 0x0007c7,   1, 0x01, 0x00000001 },
260 	{ 0x01e100,   1, 0x01, 0x00000001 },
261 	{ 0x001000,   1, 0x01, 0x00000001 },
262 	{ 0x00080c,   1, 0x01, 0x00000002 },
263 	{ 0x00080d,   2, 0x01, 0x00000100 },
264 	{ 0x00080f,   1, 0x01, 0x00000001 },
265 	{ 0x000823,   1, 0x01, 0x00000002 },
266 	{ 0x000824,   2, 0x01, 0x00000100 },
267 	{ 0x000826,   1, 0x01, 0x00000001 },
268 	{ 0x01e100,   1, 0x01, 0x00000001 },
269 	{}
270 };
271 
272 const struct gf100_gr_pack
273 gf100_grctx_pack_icmd[] = {
274 	{ gf100_grctx_init_icmd_0 },
275 	{}
276 };
277 
278 static const struct gf100_gr_init
279 gf100_grctx_init_9097_0[] = {
280 	{ 0x000800,   8, 0x40, 0x00000000 },
281 	{ 0x000804,   8, 0x40, 0x00000000 },
282 	{ 0x000808,   8, 0x40, 0x00000400 },
283 	{ 0x00080c,   8, 0x40, 0x00000300 },
284 	{ 0x000810,   1, 0x04, 0x000000cf },
285 	{ 0x000850,   7, 0x40, 0x00000000 },
286 	{ 0x000814,   8, 0x40, 0x00000040 },
287 	{ 0x000818,   8, 0x40, 0x00000001 },
288 	{ 0x00081c,   8, 0x40, 0x00000000 },
289 	{ 0x000820,   8, 0x40, 0x00000000 },
290 	{ 0x002700,   8, 0x20, 0x00000000 },
291 	{ 0x002704,   8, 0x20, 0x00000000 },
292 	{ 0x002708,   8, 0x20, 0x00000000 },
293 	{ 0x00270c,   8, 0x20, 0x00000000 },
294 	{ 0x002710,   8, 0x20, 0x00014000 },
295 	{ 0x002714,   8, 0x20, 0x00000040 },
296 	{ 0x001c00,  16, 0x10, 0x00000000 },
297 	{ 0x001c04,  16, 0x10, 0x00000000 },
298 	{ 0x001c08,  16, 0x10, 0x00000000 },
299 	{ 0x001c0c,  16, 0x10, 0x00000000 },
300 	{ 0x001d00,  16, 0x10, 0x00000000 },
301 	{ 0x001d04,  16, 0x10, 0x00000000 },
302 	{ 0x001d08,  16, 0x10, 0x00000000 },
303 	{ 0x001d0c,  16, 0x10, 0x00000000 },
304 	{ 0x001f00,  16, 0x08, 0x00000000 },
305 	{ 0x001f04,  16, 0x08, 0x00000000 },
306 	{ 0x001f80,  16, 0x08, 0x00000000 },
307 	{ 0x001f84,  16, 0x08, 0x00000000 },
308 	{ 0x002200,   5, 0x10, 0x00000022 },
309 	{ 0x002000,   1, 0x04, 0x00000000 },
310 	{ 0x002040,   1, 0x04, 0x00000011 },
311 	{ 0x002080,   1, 0x04, 0x00000020 },
312 	{ 0x0020c0,   1, 0x04, 0x00000030 },
313 	{ 0x002100,   1, 0x04, 0x00000040 },
314 	{ 0x002140,   1, 0x04, 0x00000051 },
315 	{ 0x00200c,   6, 0x40, 0x00000001 },
316 	{ 0x002010,   1, 0x04, 0x00000000 },
317 	{ 0x002050,   1, 0x04, 0x00000000 },
318 	{ 0x002090,   1, 0x04, 0x00000001 },
319 	{ 0x0020d0,   1, 0x04, 0x00000002 },
320 	{ 0x002110,   1, 0x04, 0x00000003 },
321 	{ 0x002150,   1, 0x04, 0x00000004 },
322 	{ 0x000380,   4, 0x20, 0x00000000 },
323 	{ 0x000384,   4, 0x20, 0x00000000 },
324 	{ 0x000388,   4, 0x20, 0x00000000 },
325 	{ 0x00038c,   4, 0x20, 0x00000000 },
326 	{ 0x000700,   4, 0x10, 0x00000000 },
327 	{ 0x000704,   4, 0x10, 0x00000000 },
328 	{ 0x000708,   4, 0x10, 0x00000000 },
329 	{ 0x002800, 128, 0x04, 0x00000000 },
330 	{ 0x000a00,  16, 0x20, 0x00000000 },
331 	{ 0x000a04,  16, 0x20, 0x00000000 },
332 	{ 0x000a08,  16, 0x20, 0x00000000 },
333 	{ 0x000a0c,  16, 0x20, 0x00000000 },
334 	{ 0x000a10,  16, 0x20, 0x00000000 },
335 	{ 0x000a14,  16, 0x20, 0x00000000 },
336 	{ 0x000c00,  16, 0x10, 0x00000000 },
337 	{ 0x000c04,  16, 0x10, 0x00000000 },
338 	{ 0x000c08,  16, 0x10, 0x00000000 },
339 	{ 0x000c0c,  16, 0x10, 0x3f800000 },
340 	{ 0x000d00,   8, 0x08, 0xffff0000 },
341 	{ 0x000d04,   8, 0x08, 0xffff0000 },
342 	{ 0x000e00,  16, 0x10, 0x00000000 },
343 	{ 0x000e04,  16, 0x10, 0xffff0000 },
344 	{ 0x000e08,  16, 0x10, 0xffff0000 },
345 	{ 0x000d40,   4, 0x08, 0x00000000 },
346 	{ 0x000d44,   4, 0x08, 0x00000000 },
347 	{ 0x001e00,   8, 0x20, 0x00000001 },
348 	{ 0x001e04,   8, 0x20, 0x00000001 },
349 	{ 0x001e08,   8, 0x20, 0x00000002 },
350 	{ 0x001e0c,   8, 0x20, 0x00000001 },
351 	{ 0x001e10,   8, 0x20, 0x00000001 },
352 	{ 0x001e14,   8, 0x20, 0x00000002 },
353 	{ 0x001e18,   8, 0x20, 0x00000001 },
354 	{ 0x003400, 128, 0x04, 0x00000000 },
355 	{ 0x00030c,   1, 0x04, 0x00000001 },
356 	{ 0x001944,   1, 0x04, 0x00000000 },
357 	{ 0x001514,   1, 0x04, 0x00000000 },
358 	{ 0x000d68,   1, 0x04, 0x0000ffff },
359 	{ 0x00121c,   1, 0x04, 0x0fac6881 },
360 	{ 0x000fac,   1, 0x04, 0x00000001 },
361 	{ 0x001538,   1, 0x04, 0x00000001 },
362 	{ 0x000fe0,   2, 0x04, 0x00000000 },
363 	{ 0x000fe8,   1, 0x04, 0x00000014 },
364 	{ 0x000fec,   1, 0x04, 0x00000040 },
365 	{ 0x000ff0,   1, 0x04, 0x00000000 },
366 	{ 0x00179c,   1, 0x04, 0x00000000 },
367 	{ 0x001228,   1, 0x04, 0x00000400 },
368 	{ 0x00122c,   1, 0x04, 0x00000300 },
369 	{ 0x001230,   1, 0x04, 0x00010001 },
370 	{ 0x0007f8,   1, 0x04, 0x00000000 },
371 	{ 0x0015b4,   1, 0x04, 0x00000001 },
372 	{ 0x0015cc,   1, 0x04, 0x00000000 },
373 	{ 0x001534,   1, 0x04, 0x00000000 },
374 	{ 0x000fb0,   1, 0x04, 0x00000000 },
375 	{ 0x0015d0,   1, 0x04, 0x00000000 },
376 	{ 0x00153c,   1, 0x04, 0x00000000 },
377 	{ 0x0016b4,   1, 0x04, 0x00000003 },
378 	{ 0x000fbc,   4, 0x04, 0x0000ffff },
379 	{ 0x000df8,   2, 0x04, 0x00000000 },
380 	{ 0x001948,   1, 0x04, 0x00000000 },
381 	{ 0x001970,   1, 0x04, 0x00000001 },
382 	{ 0x00161c,   1, 0x04, 0x000009f0 },
383 	{ 0x000dcc,   1, 0x04, 0x00000010 },
384 	{ 0x00163c,   1, 0x04, 0x00000000 },
385 	{ 0x0015e4,   1, 0x04, 0x00000000 },
386 	{ 0x001160,  32, 0x04, 0x25e00040 },
387 	{ 0x001880,  32, 0x04, 0x00000000 },
388 	{ 0x000f84,   2, 0x04, 0x00000000 },
389 	{ 0x0017c8,   2, 0x04, 0x00000000 },
390 	{ 0x0017d0,   1, 0x04, 0x000000ff },
391 	{ 0x0017d4,   1, 0x04, 0xffffffff },
392 	{ 0x0017d8,   1, 0x04, 0x00000002 },
393 	{ 0x0017dc,   1, 0x04, 0x00000000 },
394 	{ 0x0015f4,   2, 0x04, 0x00000000 },
395 	{ 0x001434,   2, 0x04, 0x00000000 },
396 	{ 0x000d74,   1, 0x04, 0x00000000 },
397 	{ 0x000dec,   1, 0x04, 0x00000001 },
398 	{ 0x0013a4,   1, 0x04, 0x00000000 },
399 	{ 0x001318,   1, 0x04, 0x00000001 },
400 	{ 0x001644,   1, 0x04, 0x00000000 },
401 	{ 0x000748,   1, 0x04, 0x00000000 },
402 	{ 0x000de8,   1, 0x04, 0x00000000 },
403 	{ 0x001648,   1, 0x04, 0x00000000 },
404 	{ 0x0012a4,   1, 0x04, 0x00000000 },
405 	{ 0x001120,   4, 0x04, 0x00000000 },
406 	{ 0x001118,   1, 0x04, 0x00000000 },
407 	{ 0x00164c,   1, 0x04, 0x00000000 },
408 	{ 0x001658,   1, 0x04, 0x00000000 },
409 	{ 0x001910,   1, 0x04, 0x00000290 },
410 	{ 0x001518,   1, 0x04, 0x00000000 },
411 	{ 0x00165c,   1, 0x04, 0x00000001 },
412 	{ 0x001520,   1, 0x04, 0x00000000 },
413 	{ 0x001604,   1, 0x04, 0x00000000 },
414 	{ 0x001570,   1, 0x04, 0x00000000 },
415 	{ 0x0013b0,   2, 0x04, 0x3f800000 },
416 	{ 0x00020c,   1, 0x04, 0x00000000 },
417 	{ 0x001670,   1, 0x04, 0x30201000 },
418 	{ 0x001674,   1, 0x04, 0x70605040 },
419 	{ 0x001678,   1, 0x04, 0xb8a89888 },
420 	{ 0x00167c,   1, 0x04, 0xf8e8d8c8 },
421 	{ 0x00166c,   1, 0x04, 0x00000000 },
422 	{ 0x001680,   1, 0x04, 0x00ffff00 },
423 	{ 0x0012d0,   1, 0x04, 0x00000003 },
424 	{ 0x0012d4,   1, 0x04, 0x00000002 },
425 	{ 0x001684,   2, 0x04, 0x00000000 },
426 	{ 0x000dac,   2, 0x04, 0x00001b02 },
427 	{ 0x000db4,   1, 0x04, 0x00000000 },
428 	{ 0x00168c,   1, 0x04, 0x00000000 },
429 	{ 0x0015bc,   1, 0x04, 0x00000000 },
430 	{ 0x00156c,   1, 0x04, 0x00000000 },
431 	{ 0x00187c,   1, 0x04, 0x00000000 },
432 	{ 0x001110,   1, 0x04, 0x00000001 },
433 	{ 0x000dc0,   3, 0x04, 0x00000000 },
434 	{ 0x001234,   1, 0x04, 0x00000000 },
435 	{ 0x001690,   1, 0x04, 0x00000000 },
436 	{ 0x0012ac,   1, 0x04, 0x00000001 },
437 	{ 0x0002c4,   1, 0x04, 0x00000000 },
438 	{ 0x000790,   5, 0x04, 0x00000000 },
439 	{ 0x00077c,   1, 0x04, 0x00000000 },
440 	{ 0x001000,   1, 0x04, 0x00000010 },
441 	{ 0x0010fc,   1, 0x04, 0x00000000 },
442 	{ 0x001290,   1, 0x04, 0x00000000 },
443 	{ 0x000218,   1, 0x04, 0x00000010 },
444 	{ 0x0012d8,   1, 0x04, 0x00000000 },
445 	{ 0x0012dc,   1, 0x04, 0x00000010 },
446 	{ 0x000d94,   1, 0x04, 0x00000001 },
447 	{ 0x00155c,   2, 0x04, 0x00000000 },
448 	{ 0x001564,   1, 0x04, 0x00001fff },
449 	{ 0x001574,   2, 0x04, 0x00000000 },
450 	{ 0x00157c,   1, 0x04, 0x003fffff },
451 	{ 0x001354,   1, 0x04, 0x00000000 },
452 	{ 0x001664,   1, 0x04, 0x00000000 },
453 	{ 0x001610,   1, 0x04, 0x00000012 },
454 	{ 0x001608,   2, 0x04, 0x00000000 },
455 	{ 0x00162c,   1, 0x04, 0x00000003 },
456 	{ 0x000210,   1, 0x04, 0x00000000 },
457 	{ 0x000320,   1, 0x04, 0x00000000 },
458 	{ 0x000324,   6, 0x04, 0x3f800000 },
459 	{ 0x000750,   1, 0x04, 0x00000000 },
460 	{ 0x000760,   1, 0x04, 0x39291909 },
461 	{ 0x000764,   1, 0x04, 0x79695949 },
462 	{ 0x000768,   1, 0x04, 0xb9a99989 },
463 	{ 0x00076c,   1, 0x04, 0xf9e9d9c9 },
464 	{ 0x000770,   1, 0x04, 0x30201000 },
465 	{ 0x000774,   1, 0x04, 0x70605040 },
466 	{ 0x000778,   1, 0x04, 0x00009080 },
467 	{ 0x000780,   1, 0x04, 0x39291909 },
468 	{ 0x000784,   1, 0x04, 0x79695949 },
469 	{ 0x000788,   1, 0x04, 0xb9a99989 },
470 	{ 0x00078c,   1, 0x04, 0xf9e9d9c9 },
471 	{ 0x0007d0,   1, 0x04, 0x30201000 },
472 	{ 0x0007d4,   1, 0x04, 0x70605040 },
473 	{ 0x0007d8,   1, 0x04, 0x00009080 },
474 	{ 0x00037c,   1, 0x04, 0x00000001 },
475 	{ 0x000740,   2, 0x04, 0x00000000 },
476 	{ 0x002600,   1, 0x04, 0x00000000 },
477 	{ 0x001918,   1, 0x04, 0x00000000 },
478 	{ 0x00191c,   1, 0x04, 0x00000900 },
479 	{ 0x001920,   1, 0x04, 0x00000405 },
480 	{ 0x001308,   1, 0x04, 0x00000001 },
481 	{ 0x001924,   1, 0x04, 0x00000000 },
482 	{ 0x0013ac,   1, 0x04, 0x00000000 },
483 	{ 0x00192c,   1, 0x04, 0x00000001 },
484 	{ 0x00193c,   1, 0x04, 0x00002c1c },
485 	{ 0x000d7c,   1, 0x04, 0x00000000 },
486 	{ 0x000f8c,   1, 0x04, 0x00000000 },
487 	{ 0x0002c0,   1, 0x04, 0x00000001 },
488 	{ 0x001510,   1, 0x04, 0x00000000 },
489 	{ 0x001940,   1, 0x04, 0x00000000 },
490 	{ 0x000ff4,   2, 0x04, 0x00000000 },
491 	{ 0x00194c,   2, 0x04, 0x00000000 },
492 	{ 0x001968,   1, 0x04, 0x00000000 },
493 	{ 0x001590,   1, 0x04, 0x0000003f },
494 	{ 0x0007e8,   4, 0x04, 0x00000000 },
495 	{ 0x00196c,   1, 0x04, 0x00000011 },
496 	{ 0x00197c,   1, 0x04, 0x00000000 },
497 	{ 0x000fcc,   2, 0x04, 0x00000000 },
498 	{ 0x0002d8,   1, 0x04, 0x00000040 },
499 	{ 0x001980,   1, 0x04, 0x00000080 },
500 	{ 0x001504,   1, 0x04, 0x00000080 },
501 	{ 0x001984,   1, 0x04, 0x00000000 },
502 	{ 0x000300,   1, 0x04, 0x00000001 },
503 	{ 0x0013a8,   1, 0x04, 0x00000000 },
504 	{ 0x0012ec,   1, 0x04, 0x00000000 },
505 	{ 0x001310,   1, 0x04, 0x00000000 },
506 	{ 0x001314,   1, 0x04, 0x00000001 },
507 	{ 0x001380,   1, 0x04, 0x00000000 },
508 	{ 0x001384,   4, 0x04, 0x00000001 },
509 	{ 0x001394,   1, 0x04, 0x00000000 },
510 	{ 0x00139c,   1, 0x04, 0x00000000 },
511 	{ 0x001398,   1, 0x04, 0x00000000 },
512 	{ 0x001594,   1, 0x04, 0x00000000 },
513 	{ 0x001598,   4, 0x04, 0x00000001 },
514 	{ 0x000f54,   3, 0x04, 0x00000000 },
515 	{ 0x0019bc,   1, 0x04, 0x00000000 },
516 	{ 0x000f9c,   2, 0x04, 0x00000000 },
517 	{ 0x0012cc,   1, 0x04, 0x00000000 },
518 	{ 0x0012e8,   1, 0x04, 0x00000000 },
519 	{ 0x00130c,   1, 0x04, 0x00000001 },
520 	{ 0x001360,   8, 0x04, 0x00000000 },
521 	{ 0x00133c,   2, 0x04, 0x00000001 },
522 	{ 0x001344,   1, 0x04, 0x00000002 },
523 	{ 0x001348,   2, 0x04, 0x00000001 },
524 	{ 0x001350,   1, 0x04, 0x00000002 },
525 	{ 0x001358,   1, 0x04, 0x00000001 },
526 	{ 0x0012e4,   1, 0x04, 0x00000000 },
527 	{ 0x00131c,   4, 0x04, 0x00000000 },
528 	{ 0x0019c0,   1, 0x04, 0x00000000 },
529 	{ 0x001140,   1, 0x04, 0x00000000 },
530 	{ 0x0019c4,   1, 0x04, 0x00000000 },
531 	{ 0x0019c8,   1, 0x04, 0x00001500 },
532 	{ 0x00135c,   1, 0x04, 0x00000000 },
533 	{ 0x000f90,   1, 0x04, 0x00000000 },
534 	{ 0x0019e0,   8, 0x04, 0x00000001 },
535 	{ 0x0019cc,   1, 0x04, 0x00000001 },
536 	{ 0x0015b8,   1, 0x04, 0x00000000 },
537 	{ 0x001a00,   1, 0x04, 0x00001111 },
538 	{ 0x001a04,   7, 0x04, 0x00000000 },
539 	{ 0x000d6c,   2, 0x04, 0xffff0000 },
540 	{ 0x0010f8,   1, 0x04, 0x00001010 },
541 	{ 0x000d80,   5, 0x04, 0x00000000 },
542 	{ 0x000da0,   1, 0x04, 0x00000000 },
543 	{ 0x001508,   1, 0x04, 0x80000000 },
544 	{ 0x00150c,   1, 0x04, 0x40000000 },
545 	{ 0x001668,   1, 0x04, 0x00000000 },
546 	{ 0x000318,   2, 0x04, 0x00000008 },
547 	{ 0x000d9c,   1, 0x04, 0x00000001 },
548 	{ 0x0007dc,   1, 0x04, 0x00000000 },
549 	{ 0x00074c,   1, 0x04, 0x00000055 },
550 	{ 0x001420,   1, 0x04, 0x00000003 },
551 	{ 0x0017bc,   2, 0x04, 0x00000000 },
552 	{ 0x0017c4,   1, 0x04, 0x00000001 },
553 	{ 0x001008,   1, 0x04, 0x00000008 },
554 	{ 0x00100c,   1, 0x04, 0x00000040 },
555 	{ 0x001010,   1, 0x04, 0x0000012c },
556 	{ 0x000d60,   1, 0x04, 0x00000040 },
557 	{ 0x00075c,   1, 0x04, 0x00000003 },
558 	{ 0x001018,   1, 0x04, 0x00000020 },
559 	{ 0x00101c,   1, 0x04, 0x00000001 },
560 	{ 0x001020,   1, 0x04, 0x00000020 },
561 	{ 0x001024,   1, 0x04, 0x00000001 },
562 	{ 0x001444,   3, 0x04, 0x00000000 },
563 	{ 0x000360,   1, 0x04, 0x20164010 },
564 	{ 0x000364,   1, 0x04, 0x00000020 },
565 	{ 0x000368,   1, 0x04, 0x00000000 },
566 	{ 0x000de4,   1, 0x04, 0x00000000 },
567 	{ 0x000204,   1, 0x04, 0x00000006 },
568 	{ 0x000208,   1, 0x04, 0x00000000 },
569 	{ 0x0002cc,   1, 0x04, 0x003fffff },
570 	{ 0x0002d0,   1, 0x04, 0x00000c48 },
571 	{ 0x001220,   1, 0x04, 0x00000005 },
572 	{ 0x000fdc,   1, 0x04, 0x00000000 },
573 	{ 0x000f98,   1, 0x04, 0x00300008 },
574 	{ 0x001284,   1, 0x04, 0x04000080 },
575 	{ 0x001450,   1, 0x04, 0x00300008 },
576 	{ 0x001454,   1, 0x04, 0x04000080 },
577 	{ 0x000214,   1, 0x04, 0x00000000 },
578 	{}
579 };
580 
581 const struct gf100_gr_init
582 gf100_grctx_init_902d_0[] = {
583 	{ 0x000200,   1, 0x04, 0x000000cf },
584 	{ 0x000204,   1, 0x04, 0x00000001 },
585 	{ 0x000208,   1, 0x04, 0x00000020 },
586 	{ 0x00020c,   1, 0x04, 0x00000001 },
587 	{ 0x000210,   1, 0x04, 0x00000000 },
588 	{ 0x000214,   1, 0x04, 0x00000080 },
589 	{ 0x000218,   2, 0x04, 0x00000100 },
590 	{ 0x000220,   2, 0x04, 0x00000000 },
591 	{ 0x000230,   1, 0x04, 0x000000cf },
592 	{ 0x000234,   1, 0x04, 0x00000001 },
593 	{ 0x000238,   1, 0x04, 0x00000020 },
594 	{ 0x00023c,   1, 0x04, 0x00000001 },
595 	{ 0x000244,   1, 0x04, 0x00000080 },
596 	{ 0x000248,   2, 0x04, 0x00000100 },
597 	{}
598 };
599 
600 const struct gf100_gr_init
601 gf100_grctx_init_9039_0[] = {
602 	{ 0x00030c,   3, 0x04, 0x00000000 },
603 	{ 0x000320,   1, 0x04, 0x00000000 },
604 	{ 0x000238,   2, 0x04, 0x00000000 },
605 	{ 0x000318,   2, 0x04, 0x00000000 },
606 	{}
607 };
608 
609 const struct gf100_gr_init
610 gf100_grctx_init_90c0_0[] = {
611 	{ 0x00270c,   8, 0x20, 0x00000000 },
612 	{ 0x00030c,   1, 0x04, 0x00000001 },
613 	{ 0x001944,   1, 0x04, 0x00000000 },
614 	{ 0x000758,   1, 0x04, 0x00000100 },
615 	{ 0x0002c4,   1, 0x04, 0x00000000 },
616 	{ 0x000790,   5, 0x04, 0x00000000 },
617 	{ 0x00077c,   1, 0x04, 0x00000000 },
618 	{ 0x000204,   3, 0x04, 0x00000000 },
619 	{ 0x000214,   1, 0x04, 0x00000000 },
620 	{ 0x00024c,   1, 0x04, 0x00000000 },
621 	{ 0x000d94,   1, 0x04, 0x00000001 },
622 	{ 0x001608,   2, 0x04, 0x00000000 },
623 	{ 0x001664,   1, 0x04, 0x00000000 },
624 	{}
625 };
626 
627 const struct gf100_gr_pack
628 gf100_grctx_pack_mthd[] = {
629 	{ gf100_grctx_init_9097_0, 0x9097 },
630 	{ gf100_grctx_init_902d_0, 0x902d },
631 	{ gf100_grctx_init_9039_0, 0x9039 },
632 	{ gf100_grctx_init_90c0_0, 0x90c0 },
633 	{}
634 };
635 
636 const struct gf100_gr_init
637 gf100_grctx_init_main_0[] = {
638 	{ 0x400204,   2, 0x04, 0x00000000 },
639 	{}
640 };
641 
642 const struct gf100_gr_init
643 gf100_grctx_init_fe_0[] = {
644 	{ 0x404004,  11, 0x04, 0x00000000 },
645 	{ 0x404044,   1, 0x04, 0x00000000 },
646 	{ 0x404094,  13, 0x04, 0x00000000 },
647 	{ 0x4040c8,   1, 0x04, 0xf0000087 },
648 	{ 0x4040d0,   6, 0x04, 0x00000000 },
649 	{ 0x4040e8,   1, 0x04, 0x00001000 },
650 	{ 0x4040f8,   1, 0x04, 0x00000000 },
651 	{ 0x404130,   2, 0x04, 0x00000000 },
652 	{ 0x404138,   1, 0x04, 0x20000040 },
653 	{ 0x404150,   1, 0x04, 0x0000002e },
654 	{ 0x404154,   1, 0x04, 0x00000400 },
655 	{ 0x404158,   1, 0x04, 0x00000200 },
656 	{ 0x404164,   1, 0x04, 0x00000055 },
657 	{ 0x404168,   1, 0x04, 0x00000000 },
658 	{ 0x404174,   3, 0x04, 0x00000000 },
659 	{ 0x404200,   8, 0x04, 0x00000000 },
660 	{}
661 };
662 
663 const struct gf100_gr_init
664 gf100_grctx_init_pri_0[] = {
665 	{ 0x404404,  14, 0x04, 0x00000000 },
666 	{ 0x404460,   2, 0x04, 0x00000000 },
667 	{ 0x404468,   1, 0x04, 0x00ffffff },
668 	{ 0x40446c,   1, 0x04, 0x00000000 },
669 	{ 0x404480,   1, 0x04, 0x00000001 },
670 	{ 0x404498,   1, 0x04, 0x00000001 },
671 	{}
672 };
673 
674 const struct gf100_gr_init
675 gf100_grctx_init_memfmt_0[] = {
676 	{ 0x404604,   1, 0x04, 0x00000015 },
677 	{ 0x404608,   1, 0x04, 0x00000000 },
678 	{ 0x40460c,   1, 0x04, 0x00002e00 },
679 	{ 0x404610,   1, 0x04, 0x00000100 },
680 	{ 0x404618,   8, 0x04, 0x00000000 },
681 	{ 0x404638,   1, 0x04, 0x00000004 },
682 	{ 0x40463c,   8, 0x04, 0x00000000 },
683 	{ 0x40465c,   1, 0x04, 0x007f0100 },
684 	{ 0x404660,   7, 0x04, 0x00000000 },
685 	{ 0x40467c,   1, 0x04, 0x00000002 },
686 	{ 0x404680,   8, 0x04, 0x00000000 },
687 	{ 0x4046a0,   1, 0x04, 0x007f0080 },
688 	{ 0x4046a4,  18, 0x04, 0x00000000 },
689 	{ 0x4046f0,   2, 0x04, 0x00000000 },
690 	{ 0x404700,  13, 0x04, 0x00000000 },
691 	{ 0x404734,   1, 0x04, 0x00000100 },
692 	{ 0x404738,   8, 0x04, 0x00000000 },
693 	{}
694 };
695 
696 static const struct gf100_gr_init
697 gf100_grctx_init_ds_0[] = {
698 	{ 0x405800,   1, 0x04, 0x078000bf },
699 	{ 0x405830,   1, 0x04, 0x02180000 },
700 	{ 0x405834,   2, 0x04, 0x00000000 },
701 	{ 0x405854,   1, 0x04, 0x00000000 },
702 	{ 0x405870,   4, 0x04, 0x00000001 },
703 	{ 0x405a00,   2, 0x04, 0x00000000 },
704 	{ 0x405a18,   1, 0x04, 0x00000000 },
705 	{}
706 };
707 
708 static const struct gf100_gr_init
709 gf100_grctx_init_pd_0[] = {
710 	{ 0x406020,   1, 0x04, 0x000103c1 },
711 	{ 0x406028,   4, 0x04, 0x00000001 },
712 	{ 0x4064a8,   1, 0x04, 0x00000000 },
713 	{ 0x4064ac,   1, 0x04, 0x00003fff },
714 	{ 0x4064b4,   2, 0x04, 0x00000000 },
715 	{}
716 };
717 
718 const struct gf100_gr_init
719 gf100_grctx_init_rstr2d_0[] = {
720 	{ 0x407804,   1, 0x04, 0x00000023 },
721 	{ 0x40780c,   1, 0x04, 0x0a418820 },
722 	{ 0x407810,   1, 0x04, 0x062080e6 },
723 	{ 0x407814,   1, 0x04, 0x020398a4 },
724 	{ 0x407818,   1, 0x04, 0x0e629062 },
725 	{ 0x40781c,   1, 0x04, 0x0a418820 },
726 	{ 0x407820,   1, 0x04, 0x000000e6 },
727 	{ 0x4078bc,   1, 0x04, 0x00000103 },
728 	{}
729 };
730 
731 const struct gf100_gr_init
732 gf100_grctx_init_scc_0[] = {
733 	{ 0x408000,   2, 0x04, 0x00000000 },
734 	{ 0x408008,   1, 0x04, 0x00000018 },
735 	{ 0x40800c,   2, 0x04, 0x00000000 },
736 	{ 0x408014,   1, 0x04, 0x00000069 },
737 	{ 0x408018,   1, 0x04, 0xe100e100 },
738 	{ 0x408064,   1, 0x04, 0x00000000 },
739 	{}
740 };
741 
742 static const struct gf100_gr_init
743 gf100_grctx_init_be_0[] = {
744 	{ 0x408800,   1, 0x04, 0x02802a3c },
745 	{ 0x408804,   1, 0x04, 0x00000040 },
746 	{ 0x408808,   1, 0x04, 0x0003e00d },
747 	{ 0x408900,   1, 0x04, 0x3080b801 },
748 	{ 0x408904,   1, 0x04, 0x02000001 },
749 	{ 0x408908,   1, 0x04, 0x00c80929 },
750 	{ 0x408980,   1, 0x04, 0x0000011d },
751 	{}
752 };
753 
754 const struct gf100_gr_pack
755 gf100_grctx_pack_hub[] = {
756 	{ gf100_grctx_init_main_0 },
757 	{ gf100_grctx_init_fe_0 },
758 	{ gf100_grctx_init_pri_0 },
759 	{ gf100_grctx_init_memfmt_0 },
760 	{ gf100_grctx_init_ds_0 },
761 	{ gf100_grctx_init_pd_0 },
762 	{ gf100_grctx_init_rstr2d_0 },
763 	{ gf100_grctx_init_scc_0 },
764 	{ gf100_grctx_init_be_0 },
765 	{}
766 };
767 
768 const struct gf100_gr_init
769 gf100_grctx_init_gpc_unk_0[] = {
770 	{ 0x418380,   1, 0x04, 0x00000016 },
771 	{}
772 };
773 
774 const struct gf100_gr_init
775 gf100_grctx_init_prop_0[] = {
776 	{ 0x418400,   1, 0x04, 0x38004e00 },
777 	{ 0x418404,   1, 0x04, 0x71e0ffff },
778 	{ 0x418408,   1, 0x04, 0x00000000 },
779 	{ 0x41840c,   1, 0x04, 0x00001008 },
780 	{ 0x418410,   1, 0x04, 0x0fff0fff },
781 	{ 0x418414,   1, 0x04, 0x00200fff },
782 	{ 0x418450,   6, 0x04, 0x00000000 },
783 	{ 0x418468,   1, 0x04, 0x00000001 },
784 	{ 0x41846c,   2, 0x04, 0x00000000 },
785 	{}
786 };
787 
788 const struct gf100_gr_init
789 gf100_grctx_init_gpc_unk_1[] = {
790 	{ 0x418600,   1, 0x04, 0x0000001f },
791 	{ 0x418684,   1, 0x04, 0x0000000f },
792 	{ 0x418700,   1, 0x04, 0x00000002 },
793 	{ 0x418704,   1, 0x04, 0x00000080 },
794 	{ 0x418708,   1, 0x04, 0x00000000 },
795 	{ 0x41870c,   1, 0x04, 0x07c80000 },
796 	{ 0x418710,   1, 0x04, 0x00000000 },
797 	{}
798 };
799 
800 static const struct gf100_gr_init
801 gf100_grctx_init_setup_0[] = {
802 	{ 0x418800,   1, 0x04, 0x0006860a },
803 	{ 0x418808,   3, 0x04, 0x00000000 },
804 	{ 0x418828,   1, 0x04, 0x00008442 },
805 	{ 0x418830,   1, 0x04, 0x00000001 },
806 	{ 0x4188d8,   1, 0x04, 0x00000008 },
807 	{ 0x4188e0,   1, 0x04, 0x01000000 },
808 	{ 0x4188e8,   5, 0x04, 0x00000000 },
809 	{ 0x4188fc,   1, 0x04, 0x00100000 },
810 	{}
811 };
812 
813 const struct gf100_gr_init
814 gf100_grctx_init_zcull_0[] = {
815 	{ 0x41891c,   1, 0x04, 0x00ff00ff },
816 	{ 0x418924,   1, 0x04, 0x00000000 },
817 	{ 0x418928,   1, 0x04, 0x00ffff00 },
818 	{ 0x41892c,   1, 0x04, 0x0000ff00 },
819 	{}
820 };
821 
822 const struct gf100_gr_init
823 gf100_grctx_init_crstr_0[] = {
824 	{ 0x418b00,   1, 0x04, 0x00000000 },
825 	{ 0x418b08,   1, 0x04, 0x0a418820 },
826 	{ 0x418b0c,   1, 0x04, 0x062080e6 },
827 	{ 0x418b10,   1, 0x04, 0x020398a4 },
828 	{ 0x418b14,   1, 0x04, 0x0e629062 },
829 	{ 0x418b18,   1, 0x04, 0x0a418820 },
830 	{ 0x418b1c,   1, 0x04, 0x000000e6 },
831 	{ 0x418bb8,   1, 0x04, 0x00000103 },
832 	{}
833 };
834 
835 const struct gf100_gr_init
836 gf100_grctx_init_gpm_0[] = {
837 	{ 0x418c08,   1, 0x04, 0x00000001 },
838 	{ 0x418c10,   8, 0x04, 0x00000000 },
839 	{ 0x418c80,   1, 0x04, 0x20200004 },
840 	{ 0x418c8c,   1, 0x04, 0x00000001 },
841 	{}
842 };
843 
844 const struct gf100_gr_init
845 gf100_grctx_init_gcc_0[] = {
846 	{ 0x419000,   1, 0x04, 0x00000780 },
847 	{ 0x419004,   2, 0x04, 0x00000000 },
848 	{ 0x419014,   1, 0x04, 0x00000004 },
849 	{}
850 };
851 
852 const struct gf100_gr_pack
853 gf100_grctx_pack_gpc[] = {
854 	{ gf100_grctx_init_gpc_unk_0 },
855 	{ gf100_grctx_init_prop_0 },
856 	{ gf100_grctx_init_gpc_unk_1 },
857 	{ gf100_grctx_init_setup_0 },
858 	{ gf100_grctx_init_zcull_0 },
859 	{ gf100_grctx_init_crstr_0 },
860 	{ gf100_grctx_init_gpm_0 },
861 	{ gf100_grctx_init_gcc_0 },
862 	{}
863 };
864 
865 static const struct gf100_gr_init
866 gf100_grctx_init_zcullr_0[] = {
867 	{ 0x418a00,   3, 0x04, 0x00000000 },
868 	{ 0x418a0c,   1, 0x04, 0x00010000 },
869 	{ 0x418a10,   3, 0x04, 0x00000000 },
870 	{ 0x418a20,   3, 0x04, 0x00000000 },
871 	{ 0x418a2c,   1, 0x04, 0x00010000 },
872 	{ 0x418a30,   3, 0x04, 0x00000000 },
873 	{ 0x418a40,   3, 0x04, 0x00000000 },
874 	{ 0x418a4c,   1, 0x04, 0x00010000 },
875 	{ 0x418a50,   3, 0x04, 0x00000000 },
876 	{ 0x418a60,   3, 0x04, 0x00000000 },
877 	{ 0x418a6c,   1, 0x04, 0x00010000 },
878 	{ 0x418a70,   3, 0x04, 0x00000000 },
879 	{ 0x418a80,   3, 0x04, 0x00000000 },
880 	{ 0x418a8c,   1, 0x04, 0x00010000 },
881 	{ 0x418a90,   3, 0x04, 0x00000000 },
882 	{ 0x418aa0,   3, 0x04, 0x00000000 },
883 	{ 0x418aac,   1, 0x04, 0x00010000 },
884 	{ 0x418ab0,   3, 0x04, 0x00000000 },
885 	{ 0x418ac0,   3, 0x04, 0x00000000 },
886 	{ 0x418acc,   1, 0x04, 0x00010000 },
887 	{ 0x418ad0,   3, 0x04, 0x00000000 },
888 	{ 0x418ae0,   3, 0x04, 0x00000000 },
889 	{ 0x418aec,   1, 0x04, 0x00010000 },
890 	{ 0x418af0,   3, 0x04, 0x00000000 },
891 	{}
892 };
893 
894 const struct gf100_gr_pack
895 gf100_grctx_pack_zcull[] = {
896 	{ gf100_grctx_init_zcullr_0 },
897 	{}
898 };
899 
900 const struct gf100_gr_init
901 gf100_grctx_init_pe_0[] = {
902 	{ 0x419818,   1, 0x04, 0x00000000 },
903 	{ 0x41983c,   1, 0x04, 0x00038bc7 },
904 	{ 0x419848,   1, 0x04, 0x00000000 },
905 	{ 0x419864,   1, 0x04, 0x0000012a },
906 	{ 0x419888,   1, 0x04, 0x00000000 },
907 	{}
908 };
909 
910 static const struct gf100_gr_init
911 gf100_grctx_init_tex_0[] = {
912 	{ 0x419a00,   1, 0x04, 0x000001f0 },
913 	{ 0x419a04,   1, 0x04, 0x00000001 },
914 	{ 0x419a08,   1, 0x04, 0x00000023 },
915 	{ 0x419a0c,   1, 0x04, 0x00020000 },
916 	{ 0x419a10,   1, 0x04, 0x00000000 },
917 	{ 0x419a14,   1, 0x04, 0x00000200 },
918 	{}
919 };
920 
921 const struct gf100_gr_init
922 gf100_grctx_init_wwdx_0[] = {
923 	{ 0x419b00,   1, 0x04, 0x0a418820 },
924 	{ 0x419b04,   1, 0x04, 0x062080e6 },
925 	{ 0x419b08,   1, 0x04, 0x020398a4 },
926 	{ 0x419b0c,   1, 0x04, 0x0e629062 },
927 	{ 0x419b10,   1, 0x04, 0x0a418820 },
928 	{ 0x419b14,   1, 0x04, 0x000000e6 },
929 	{ 0x419bd0,   1, 0x04, 0x00900103 },
930 	{ 0x419be0,   1, 0x04, 0x00000001 },
931 	{ 0x419be4,   1, 0x04, 0x00000000 },
932 	{}
933 };
934 
935 const struct gf100_gr_init
936 gf100_grctx_init_mpc_0[] = {
937 	{ 0x419c00,   1, 0x04, 0x00000002 },
938 	{ 0x419c04,   1, 0x04, 0x00000006 },
939 	{ 0x419c08,   1, 0x04, 0x00000002 },
940 	{ 0x419c20,   1, 0x04, 0x00000000 },
941 	{}
942 };
943 
944 static const struct gf100_gr_init
945 gf100_grctx_init_l1c_0[] = {
946 	{ 0x419cb0,   1, 0x04, 0x00060048 },
947 	{ 0x419ce8,   1, 0x04, 0x00000000 },
948 	{ 0x419cf4,   1, 0x04, 0x00000183 },
949 	{}
950 };
951 
952 const struct gf100_gr_init
953 gf100_grctx_init_tpccs_0[] = {
954 	{ 0x419d20,   1, 0x04, 0x02180000 },
955 	{ 0x419d24,   1, 0x04, 0x00001fff },
956 	{}
957 };
958 
959 static const struct gf100_gr_init
960 gf100_grctx_init_sm_0[] = {
961 	{ 0x419e04,   3, 0x04, 0x00000000 },
962 	{ 0x419e10,   1, 0x04, 0x00000002 },
963 	{ 0x419e44,   1, 0x04, 0x001beff2 },
964 	{ 0x419e48,   1, 0x04, 0x00000000 },
965 	{ 0x419e4c,   1, 0x04, 0x0000000f },
966 	{ 0x419e50,  17, 0x04, 0x00000000 },
967 	{ 0x419e98,   1, 0x04, 0x00000000 },
968 	{ 0x419f50,   2, 0x04, 0x00000000 },
969 	{}
970 };
971 
972 const struct gf100_gr_pack
973 gf100_grctx_pack_tpc[] = {
974 	{ gf100_grctx_init_pe_0 },
975 	{ gf100_grctx_init_tex_0 },
976 	{ gf100_grctx_init_wwdx_0 },
977 	{ gf100_grctx_init_mpc_0 },
978 	{ gf100_grctx_init_l1c_0 },
979 	{ gf100_grctx_init_tpccs_0 },
980 	{ gf100_grctx_init_sm_0 },
981 	{}
982 };
983 
984 /*******************************************************************************
985  * PGRAPH context implementation
986  ******************************************************************************/
987 
988 int
989 gf100_grctx_mmio_data(struct gf100_grctx *info, u32 size, u32 align, u32 access)
990 {
991 	if (info->data) {
992 		info->buffer[info->buffer_nr] = round_up(info->addr, align);
993 		info->addr = info->buffer[info->buffer_nr] + size;
994 		info->data->size = size;
995 		info->data->align = align;
996 		info->data->access = access;
997 		info->data++;
998 		return info->buffer_nr++;
999 	}
1000 	return -1;
1001 }
1002 
1003 void
1004 gf100_grctx_mmio_item(struct gf100_grctx *info, u32 addr, u32 data,
1005 		      int shift, int buffer)
1006 {
1007 	struct nvkm_device *device = info->gr->base.engine.subdev.device;
1008 	if (info->data) {
1009 		if (shift >= 0) {
1010 			info->mmio->addr = addr;
1011 			info->mmio->data = data;
1012 			info->mmio->shift = shift;
1013 			info->mmio->buffer = buffer;
1014 			if (buffer >= 0)
1015 				data |= info->buffer[buffer] >> shift;
1016 			info->mmio++;
1017 		} else
1018 			return;
1019 	} else {
1020 		if (buffer >= 0)
1021 			return;
1022 	}
1023 
1024 	nvkm_wr32(device, addr, data);
1025 }
1026 
1027 void
1028 gf100_grctx_generate_bundle(struct gf100_grctx *info)
1029 {
1030 	const struct gf100_grctx_func *grctx = info->gr->func->grctx;
1031 	const u32 access = NV_MEM_ACCESS_RW | NV_MEM_ACCESS_SYS;
1032 	const int s = 8;
1033 	const int b = mmio_vram(info, grctx->bundle_size, (1 << s), access);
1034 	mmio_refn(info, 0x408004, 0x00000000, s, b);
1035 	mmio_wr32(info, 0x408008, 0x80000000 | (grctx->bundle_size >> s));
1036 	mmio_refn(info, 0x418808, 0x00000000, s, b);
1037 	mmio_wr32(info, 0x41880c, 0x80000000 | (grctx->bundle_size >> s));
1038 }
1039 
1040 void
1041 gf100_grctx_generate_pagepool(struct gf100_grctx *info)
1042 {
1043 	const struct gf100_grctx_func *grctx = info->gr->func->grctx;
1044 	const u32 access = NV_MEM_ACCESS_RW | NV_MEM_ACCESS_SYS;
1045 	const int s = 8;
1046 	const int b = mmio_vram(info, grctx->pagepool_size, (1 << s), access);
1047 	mmio_refn(info, 0x40800c, 0x00000000, s, b);
1048 	mmio_wr32(info, 0x408010, 0x80000000);
1049 	mmio_refn(info, 0x419004, 0x00000000, s, b);
1050 	mmio_wr32(info, 0x419008, 0x00000000);
1051 }
1052 
1053 void
1054 gf100_grctx_generate_attrib(struct gf100_grctx *info)
1055 {
1056 	struct gf100_gr *gr = info->gr;
1057 	const struct gf100_grctx_func *grctx = gr->func->grctx;
1058 	const u32 attrib = grctx->attrib_nr;
1059 	const u32   size = 0x20 * (grctx->attrib_nr_max + grctx->alpha_nr_max);
1060 	const u32 access = NV_MEM_ACCESS_RW;
1061 	const int s = 12;
1062 	const int b = mmio_vram(info, size * gr->tpc_total, (1 << s), access);
1063 	int gpc, tpc;
1064 	u32 bo = 0;
1065 
1066 	mmio_refn(info, 0x418810, 0x80000000, s, b);
1067 	mmio_refn(info, 0x419848, 0x10000000, s, b);
1068 	mmio_wr32(info, 0x405830, (attrib << 16));
1069 
1070 	for (gpc = 0; gpc < gr->gpc_nr; gpc++) {
1071 		for (tpc = 0; tpc < gr->tpc_nr[gpc]; tpc++) {
1072 			const u32 o = TPC_UNIT(gpc, tpc, 0x0520);
1073 			mmio_skip(info, o, (attrib << 16) | ++bo);
1074 			mmio_wr32(info, o, (attrib << 16) | --bo);
1075 			bo += grctx->attrib_nr_max;
1076 		}
1077 	}
1078 }
1079 
1080 void
1081 gf100_grctx_generate_unkn(struct gf100_gr *gr)
1082 {
1083 }
1084 
1085 void
1086 gf100_grctx_generate_tpcid(struct gf100_gr *gr)
1087 {
1088 	struct nvkm_device *device = gr->base.engine.subdev.device;
1089 	int gpc, tpc, id;
1090 
1091 	for (tpc = 0, id = 0; tpc < 4; tpc++) {
1092 		for (gpc = 0; gpc < gr->gpc_nr; gpc++) {
1093 			if (tpc < gr->tpc_nr[gpc]) {
1094 				nvkm_wr32(device, TPC_UNIT(gpc, tpc, 0x698), id);
1095 				nvkm_wr32(device, TPC_UNIT(gpc, tpc, 0x4e8), id);
1096 				nvkm_wr32(device, GPC_UNIT(gpc, 0x0c10 + tpc * 4), id);
1097 				nvkm_wr32(device, TPC_UNIT(gpc, tpc, 0x088), id);
1098 				id++;
1099 			}
1100 
1101 			nvkm_wr32(device, GPC_UNIT(gpc, 0x0c08), gr->tpc_nr[gpc]);
1102 			nvkm_wr32(device, GPC_UNIT(gpc, 0x0c8c), gr->tpc_nr[gpc]);
1103 		}
1104 	}
1105 }
1106 
1107 void
1108 gf100_grctx_generate_r406028(struct gf100_gr *gr)
1109 {
1110 	struct nvkm_device *device = gr->base.engine.subdev.device;
1111 	u32 tmp[GPC_MAX / 8] = {}, i = 0;
1112 	for (i = 0; i < gr->gpc_nr; i++)
1113 		tmp[i / 8] |= gr->tpc_nr[i] << ((i % 8) * 4);
1114 	for (i = 0; i < 4; i++) {
1115 		nvkm_wr32(device, 0x406028 + (i * 4), tmp[i]);
1116 		nvkm_wr32(device, 0x405870 + (i * 4), tmp[i]);
1117 	}
1118 }
1119 
1120 void
1121 gf100_grctx_generate_r4060a8(struct gf100_gr *gr)
1122 {
1123 	struct nvkm_device *device = gr->base.engine.subdev.device;
1124 	u8  tpcnr[GPC_MAX], data[TPC_MAX];
1125 	int gpc, tpc, i;
1126 
1127 	memcpy(tpcnr, gr->tpc_nr, sizeof(gr->tpc_nr));
1128 	memset(data, 0x1f, sizeof(data));
1129 
1130 	gpc = -1;
1131 	for (tpc = 0; tpc < gr->tpc_total; tpc++) {
1132 		do {
1133 			gpc = (gpc + 1) % gr->gpc_nr;
1134 		} while (!tpcnr[gpc]);
1135 		tpcnr[gpc]--;
1136 		data[tpc] = gpc;
1137 	}
1138 
1139 	for (i = 0; i < 4; i++)
1140 		nvkm_wr32(device, 0x4060a8 + (i * 4), ((u32 *)data)[i]);
1141 }
1142 
1143 void
1144 gf100_grctx_generate_r418bb8(struct gf100_gr *gr)
1145 {
1146 	struct nvkm_device *device = gr->base.engine.subdev.device;
1147 	u32 data[6] = {}, data2[2] = {};
1148 	u8  tpcnr[GPC_MAX];
1149 	u8  shift, ntpcv;
1150 	int gpc, tpc, i;
1151 
1152 	/* calculate first set of magics */
1153 	memcpy(tpcnr, gr->tpc_nr, sizeof(gr->tpc_nr));
1154 
1155 	gpc = -1;
1156 	for (tpc = 0; tpc < gr->tpc_total; tpc++) {
1157 		do {
1158 			gpc = (gpc + 1) % gr->gpc_nr;
1159 		} while (!tpcnr[gpc]);
1160 		tpcnr[gpc]--;
1161 
1162 		data[tpc / 6] |= gpc << ((tpc % 6) * 5);
1163 	}
1164 
1165 	for (; tpc < 32; tpc++)
1166 		data[tpc / 6] |= 7 << ((tpc % 6) * 5);
1167 
1168 	/* and the second... */
1169 	shift = 0;
1170 	ntpcv = gr->tpc_total;
1171 	while (!(ntpcv & (1 << 4))) {
1172 		ntpcv <<= 1;
1173 		shift++;
1174 	}
1175 
1176 	data2[0]  = (ntpcv << 16);
1177 	data2[0] |= (shift << 21);
1178 	data2[0] |= (((1 << (0 + 5)) % ntpcv) << 24);
1179 	for (i = 1; i < 7; i++)
1180 		data2[1] |= ((1 << (i + 5)) % ntpcv) << ((i - 1) * 5);
1181 
1182 	/* GPC_BROADCAST */
1183 	nvkm_wr32(device, 0x418bb8, (gr->tpc_total << 8) |
1184 				 gr->magic_not_rop_nr);
1185 	for (i = 0; i < 6; i++)
1186 		nvkm_wr32(device, 0x418b08 + (i * 4), data[i]);
1187 
1188 	/* GPC_BROADCAST.TP_BROADCAST */
1189 	nvkm_wr32(device, 0x419bd0, (gr->tpc_total << 8) |
1190 				 gr->magic_not_rop_nr | data2[0]);
1191 	nvkm_wr32(device, 0x419be4, data2[1]);
1192 	for (i = 0; i < 6; i++)
1193 		nvkm_wr32(device, 0x419b00 + (i * 4), data[i]);
1194 
1195 	/* UNK78xx */
1196 	nvkm_wr32(device, 0x4078bc, (gr->tpc_total << 8) |
1197 				 gr->magic_not_rop_nr);
1198 	for (i = 0; i < 6; i++)
1199 		nvkm_wr32(device, 0x40780c + (i * 4), data[i]);
1200 }
1201 
1202 void
1203 gf100_grctx_generate_r406800(struct gf100_gr *gr)
1204 {
1205 	struct nvkm_device *device = gr->base.engine.subdev.device;
1206 	u64 tpc_mask = 0, tpc_set = 0;
1207 	u8  tpcnr[GPC_MAX];
1208 	int gpc, tpc;
1209 	int i, a, b;
1210 
1211 	memcpy(tpcnr, gr->tpc_nr, sizeof(gr->tpc_nr));
1212 	for (gpc = 0; gpc < gr->gpc_nr; gpc++)
1213 		tpc_mask |= ((1ULL << gr->tpc_nr[gpc]) - 1) << (gpc * 8);
1214 
1215 	for (i = 0, gpc = -1, b = -1; i < 32; i++) {
1216 		a = (i * (gr->tpc_total - 1)) / 32;
1217 		if (a != b) {
1218 			b = a;
1219 			do {
1220 				gpc = (gpc + 1) % gr->gpc_nr;
1221 			} while (!tpcnr[gpc]);
1222 			tpc = gr->tpc_nr[gpc] - tpcnr[gpc]--;
1223 
1224 			tpc_set |= 1ULL << ((gpc * 8) + tpc);
1225 		}
1226 
1227 		nvkm_wr32(device, 0x406800 + (i * 0x20), lower_32_bits(tpc_set));
1228 		nvkm_wr32(device, 0x406c00 + (i * 0x20), lower_32_bits(tpc_set ^ tpc_mask));
1229 		if (gr->gpc_nr > 4) {
1230 			nvkm_wr32(device, 0x406804 + (i * 0x20), upper_32_bits(tpc_set));
1231 			nvkm_wr32(device, 0x406c04 + (i * 0x20), upper_32_bits(tpc_set ^ tpc_mask));
1232 		}
1233 	}
1234 }
1235 
1236 void
1237 gf100_grctx_generate_main(struct gf100_gr *gr, struct gf100_grctx *info)
1238 {
1239 	struct nvkm_device *device = gr->base.engine.subdev.device;
1240 	const struct gf100_grctx_func *grctx = gr->func->grctx;
1241 
1242 	nvkm_mc_unk260(device->mc, 0);
1243 
1244 	gf100_gr_mmio(gr, grctx->hub);
1245 	gf100_gr_mmio(gr, grctx->gpc);
1246 	gf100_gr_mmio(gr, grctx->zcull);
1247 	gf100_gr_mmio(gr, grctx->tpc);
1248 	gf100_gr_mmio(gr, grctx->ppc);
1249 
1250 	nvkm_wr32(device, 0x404154, 0x00000000);
1251 
1252 	grctx->bundle(info);
1253 	grctx->pagepool(info);
1254 	grctx->attrib(info);
1255 	grctx->unkn(gr);
1256 
1257 	gf100_grctx_generate_tpcid(gr);
1258 	gf100_grctx_generate_r406028(gr);
1259 	gf100_grctx_generate_r4060a8(gr);
1260 	gf100_grctx_generate_r418bb8(gr);
1261 	gf100_grctx_generate_r406800(gr);
1262 
1263 	gf100_gr_icmd(gr, grctx->icmd);
1264 	nvkm_wr32(device, 0x404154, 0x00000400);
1265 	gf100_gr_mthd(gr, grctx->mthd);
1266 	nvkm_mc_unk260(device->mc, 1);
1267 }
1268 
1269 int
1270 gf100_grctx_generate(struct gf100_gr *gr)
1271 {
1272 	const struct gf100_grctx_func *grctx = gr->func->grctx;
1273 	struct nvkm_subdev *subdev = &gr->base.engine.subdev;
1274 	struct nvkm_device *device = subdev->device;
1275 	struct nvkm_memory *chan;
1276 	struct gf100_grctx info;
1277 	int ret, i;
1278 	u64 addr;
1279 
1280 	/* allocate memory to for a "channel", which we'll use to generate
1281 	 * the default context values
1282 	 */
1283 	ret = nvkm_memory_new(device, NVKM_MEM_TARGET_INST, 0x80000 + gr->size,
1284 			      0x1000, true, &chan);
1285 	if (ret) {
1286 		nvkm_error(subdev, "failed to allocate chan memory, %d\n", ret);
1287 		return ret;
1288 	}
1289 
1290 	addr = nvkm_memory_addr(chan);
1291 
1292 	/* PGD pointer */
1293 	nvkm_kmap(chan);
1294 	nvkm_wo32(chan, 0x0200, lower_32_bits(addr + 0x1000));
1295 	nvkm_wo32(chan, 0x0204, upper_32_bits(addr + 0x1000));
1296 	nvkm_wo32(chan, 0x0208, 0xffffffff);
1297 	nvkm_wo32(chan, 0x020c, 0x000000ff);
1298 
1299 	/* PGT[0] pointer */
1300 	nvkm_wo32(chan, 0x1000, 0x00000000);
1301 	nvkm_wo32(chan, 0x1004, 0x00000001 | (addr + 0x2000) >> 8);
1302 
1303 	/* identity-map the whole "channel" into its own vm */
1304 	for (i = 0; i < nvkm_memory_size(chan) / 4096; i++) {
1305 		u64 addr = ((nvkm_memory_addr(chan) + (i * 4096)) >> 8) | 1;
1306 		nvkm_wo32(chan, 0x2000 + (i * 8), lower_32_bits(addr));
1307 		nvkm_wo32(chan, 0x2004 + (i * 8), upper_32_bits(addr));
1308 	}
1309 
1310 	/* context pointer (virt) */
1311 	nvkm_wo32(chan, 0x0210, 0x00080004);
1312 	nvkm_wo32(chan, 0x0214, 0x00000000);
1313 	nvkm_done(chan);
1314 
1315 	nvkm_wr32(device, 0x100cb8, (addr + 0x1000) >> 8);
1316 	nvkm_wr32(device, 0x100cbc, 0x80000001);
1317 	nvkm_msec(device, 2000,
1318 		if (nvkm_rd32(device, 0x100c80) & 0x00008000)
1319 			break;
1320 	);
1321 
1322 	/* setup default state for mmio list construction */
1323 	info.gr = gr;
1324 	info.data = gr->mmio_data;
1325 	info.mmio = gr->mmio_list;
1326 	info.addr = 0x2000 + (i * 8);
1327 	info.buffer_nr = 0;
1328 
1329 	/* make channel current */
1330 	if (gr->firmware) {
1331 		nvkm_wr32(device, 0x409840, 0x00000030);
1332 		nvkm_wr32(device, 0x409500, 0x80000000 | addr >> 12);
1333 		nvkm_wr32(device, 0x409504, 0x00000003);
1334 		nvkm_msec(device, 2000,
1335 			if (nvkm_rd32(device, 0x409800) & 0x00000010)
1336 				break;
1337 		);
1338 
1339 		nvkm_kmap(chan);
1340 		nvkm_wo32(chan, 0x8001c, 1);
1341 		nvkm_wo32(chan, 0x80020, 0);
1342 		nvkm_wo32(chan, 0x80028, 0);
1343 		nvkm_wo32(chan, 0x8002c, 0);
1344 		nvkm_done(chan);
1345 	} else {
1346 		nvkm_wr32(device, 0x409840, 0x80000000);
1347 		nvkm_wr32(device, 0x409500, 0x80000000 | addr >> 12);
1348 		nvkm_wr32(device, 0x409504, 0x00000001);
1349 		nvkm_msec(device, 2000,
1350 			if (nvkm_rd32(device, 0x409800) & 0x80000000)
1351 				break;
1352 		);
1353 	}
1354 
1355 	grctx->main(gr, &info);
1356 
1357 	/* trigger a context unload by unsetting the "next channel valid" bit
1358 	 * and faking a context switch interrupt
1359 	 */
1360 	nvkm_mask(device, 0x409b04, 0x80000000, 0x00000000);
1361 	nvkm_wr32(device, 0x409000, 0x00000100);
1362 	if (nvkm_msec(device, 2000,
1363 		if (!(nvkm_rd32(device, 0x409b00) & 0x80000000))
1364 			break;
1365 	) < 0) {
1366 		ret = -EBUSY;
1367 		goto done;
1368 	}
1369 
1370 	gr->data = kmalloc(gr->size, GFP_KERNEL);
1371 	if (gr->data) {
1372 		nvkm_kmap(chan);
1373 		for (i = 0; i < gr->size; i += 4)
1374 			gr->data[i / 4] = nvkm_ro32(chan, 0x80000 + i);
1375 		nvkm_done(chan);
1376 		ret = 0;
1377 	} else {
1378 		ret = -ENOMEM;
1379 	}
1380 
1381 done:
1382 	nvkm_memory_del(&chan);
1383 	return ret;
1384 }
1385 
1386 const struct gf100_grctx_func
1387 gf100_grctx = {
1388 	.main  = gf100_grctx_generate_main,
1389 	.unkn  = gf100_grctx_generate_unkn,
1390 	.hub   = gf100_grctx_pack_hub,
1391 	.gpc   = gf100_grctx_pack_gpc,
1392 	.zcull = gf100_grctx_pack_zcull,
1393 	.tpc   = gf100_grctx_pack_tpc,
1394 	.icmd  = gf100_grctx_pack_icmd,
1395 	.mthd  = gf100_grctx_pack_mthd,
1396 	.bundle = gf100_grctx_generate_bundle,
1397 	.bundle_size = 0x1800,
1398 	.pagepool = gf100_grctx_generate_pagepool,
1399 	.pagepool_size = 0x8000,
1400 	.attrib = gf100_grctx_generate_attrib,
1401 	.attrib_nr_max = 0x324,
1402 	.attrib_nr = 0x218,
1403 };
1404