1ce29261eSSascha Bischoff // SPDX-License-Identifier: GPL-2.0
2ce29261eSSascha Bischoff
3ce29261eSSascha Bischoff // Check that, on a GICv3-capable system (GICv3 native, or GICv5 with
4ce29261eSSascha Bischoff // FEAT_GCIE_LEGACY), not configuring GICv3 correctly results in all
5ce29261eSSascha Bischoff // of the sysregs generating an UNDEF exception. Do the same for GICv5
6ce29261eSSascha Bischoff // on a GICv5 host.
7ce29261eSSascha Bischoff
8ce29261eSSascha Bischoff #include <test_util.h>
9ce29261eSSascha Bischoff #include <kvm_util.h>
10ce29261eSSascha Bischoff #include <processor.h>
11ce29261eSSascha Bischoff
12ce29261eSSascha Bischoff #include <arm64/gic_v5.h>
13ce29261eSSascha Bischoff
14ce29261eSSascha Bischoff static volatile bool handled;
15ce29261eSSascha Bischoff
16ce29261eSSascha Bischoff #define __check_sr_read(r) \
17ce29261eSSascha Bischoff ({ \
18*26f84532SDavid Matlack u64 val; \
19ce29261eSSascha Bischoff \
20ce29261eSSascha Bischoff handled = false; \
21ce29261eSSascha Bischoff dsb(sy); \
22ce29261eSSascha Bischoff val = read_sysreg_s(SYS_ ## r); \
23ce29261eSSascha Bischoff val; \
24ce29261eSSascha Bischoff })
25ce29261eSSascha Bischoff
26ce29261eSSascha Bischoff #define __check_sr_write(r) \
27ce29261eSSascha Bischoff do { \
28ce29261eSSascha Bischoff handled = false; \
29ce29261eSSascha Bischoff dsb(sy); \
30ce29261eSSascha Bischoff write_sysreg_s(0, SYS_ ## r); \
31ce29261eSSascha Bischoff isb(); \
32ce29261eSSascha Bischoff } while (0)
33ce29261eSSascha Bischoff
34ce29261eSSascha Bischoff #define __check_gicv5_gicr_op(r) \
35ce29261eSSascha Bischoff ({ \
36*26f84532SDavid Matlack u64 val; \
37ce29261eSSascha Bischoff \
38ce29261eSSascha Bischoff handled = false; \
39ce29261eSSascha Bischoff dsb(sy); \
40ce29261eSSascha Bischoff val = read_sysreg_s(GICV5_OP_GICR_ ## r); \
41ce29261eSSascha Bischoff val; \
42ce29261eSSascha Bischoff })
43ce29261eSSascha Bischoff
44ce29261eSSascha Bischoff #define __check_gicv5_gic_op(r) \
45ce29261eSSascha Bischoff do { \
46ce29261eSSascha Bischoff handled = false; \
47ce29261eSSascha Bischoff dsb(sy); \
48ce29261eSSascha Bischoff write_sysreg_s(0, GICV5_OP_GIC_ ## r); \
49ce29261eSSascha Bischoff isb(); \
50ce29261eSSascha Bischoff } while (0)
51ce29261eSSascha Bischoff
52ce29261eSSascha Bischoff /* Fatal checks */
53ce29261eSSascha Bischoff #define check_sr_read(r) \
54ce29261eSSascha Bischoff do { \
55ce29261eSSascha Bischoff __check_sr_read(r); \
56ce29261eSSascha Bischoff __GUEST_ASSERT(handled, #r " no read trap"); \
57ce29261eSSascha Bischoff } while (0)
58ce29261eSSascha Bischoff
59ce29261eSSascha Bischoff #define check_sr_write(r) \
60ce29261eSSascha Bischoff do { \
61ce29261eSSascha Bischoff __check_sr_write(r); \
62ce29261eSSascha Bischoff __GUEST_ASSERT(handled, #r " no write trap"); \
63ce29261eSSascha Bischoff } while (0)
64ce29261eSSascha Bischoff
65ce29261eSSascha Bischoff #define check_sr_rw(r) \
66ce29261eSSascha Bischoff do { \
67ce29261eSSascha Bischoff check_sr_read(r); \
68ce29261eSSascha Bischoff check_sr_write(r); \
69ce29261eSSascha Bischoff } while (0)
70ce29261eSSascha Bischoff
71ce29261eSSascha Bischoff #define check_gicv5_gicr_op(r) \
72ce29261eSSascha Bischoff do { \
73ce29261eSSascha Bischoff __check_gicv5_gicr_op(r); \
74ce29261eSSascha Bischoff __GUEST_ASSERT(handled, #r " no read trap"); \
75ce29261eSSascha Bischoff } while (0)
76ce29261eSSascha Bischoff
77ce29261eSSascha Bischoff #define check_gicv5_gic_op(r) \
78ce29261eSSascha Bischoff do { \
79ce29261eSSascha Bischoff __check_gicv5_gic_op(r); \
80ce29261eSSascha Bischoff __GUEST_ASSERT(handled, #r " no write trap"); \
81ce29261eSSascha Bischoff } while (0)
82ce29261eSSascha Bischoff
guest_code_gicv3(void)83ce29261eSSascha Bischoff static void guest_code_gicv3(void)
84ce29261eSSascha Bischoff {
85*26f84532SDavid Matlack u64 val;
86ce29261eSSascha Bischoff
87ce29261eSSascha Bischoff /*
88ce29261eSSascha Bischoff * Check that we advertise that ID_AA64PFR0_EL1.GIC == 0, having
89ce29261eSSascha Bischoff * hidden the feature at runtime without any other userspace action.
90ce29261eSSascha Bischoff */
91ce29261eSSascha Bischoff __GUEST_ASSERT(FIELD_GET(ID_AA64PFR0_EL1_GIC,
92ce29261eSSascha Bischoff read_sysreg(id_aa64pfr0_el1)) == 0,
93ce29261eSSascha Bischoff "GICv3 wrongly advertised");
94ce29261eSSascha Bischoff
95ce29261eSSascha Bischoff /*
96ce29261eSSascha Bischoff * Access all GICv3 registers, and fail if we don't get an UNDEF.
97ce29261eSSascha Bischoff * Note that we happily access all the APxRn registers without
98ce29261eSSascha Bischoff * checking their existence, as all we want to see is a failure.
99ce29261eSSascha Bischoff */
100ce29261eSSascha Bischoff check_sr_rw(ICC_PMR_EL1);
101ce29261eSSascha Bischoff check_sr_read(ICC_IAR0_EL1);
102ce29261eSSascha Bischoff check_sr_write(ICC_EOIR0_EL1);
103ce29261eSSascha Bischoff check_sr_rw(ICC_HPPIR0_EL1);
104ce29261eSSascha Bischoff check_sr_rw(ICC_BPR0_EL1);
105ce29261eSSascha Bischoff check_sr_rw(ICC_AP0R0_EL1);
106ce29261eSSascha Bischoff check_sr_rw(ICC_AP0R1_EL1);
107ce29261eSSascha Bischoff check_sr_rw(ICC_AP0R2_EL1);
108ce29261eSSascha Bischoff check_sr_rw(ICC_AP0R3_EL1);
109ce29261eSSascha Bischoff check_sr_rw(ICC_AP1R0_EL1);
110ce29261eSSascha Bischoff check_sr_rw(ICC_AP1R1_EL1);
111ce29261eSSascha Bischoff check_sr_rw(ICC_AP1R2_EL1);
112ce29261eSSascha Bischoff check_sr_rw(ICC_AP1R3_EL1);
113ce29261eSSascha Bischoff check_sr_write(ICC_DIR_EL1);
114ce29261eSSascha Bischoff check_sr_read(ICC_RPR_EL1);
115ce29261eSSascha Bischoff check_sr_write(ICC_SGI1R_EL1);
116ce29261eSSascha Bischoff check_sr_write(ICC_ASGI1R_EL1);
117ce29261eSSascha Bischoff check_sr_write(ICC_SGI0R_EL1);
118ce29261eSSascha Bischoff check_sr_read(ICC_IAR1_EL1);
119ce29261eSSascha Bischoff check_sr_write(ICC_EOIR1_EL1);
120ce29261eSSascha Bischoff check_sr_rw(ICC_HPPIR1_EL1);
121ce29261eSSascha Bischoff check_sr_rw(ICC_BPR1_EL1);
122ce29261eSSascha Bischoff check_sr_rw(ICC_CTLR_EL1);
123ce29261eSSascha Bischoff check_sr_rw(ICC_IGRPEN0_EL1);
124ce29261eSSascha Bischoff check_sr_rw(ICC_IGRPEN1_EL1);
125ce29261eSSascha Bischoff
126ce29261eSSascha Bischoff /*
127ce29261eSSascha Bischoff * ICC_SRE_EL1 may not be trappable, as ICC_SRE_EL2.Enable can
128ce29261eSSascha Bischoff * be RAO/WI. Engage in non-fatal accesses, starting with a
129ce29261eSSascha Bischoff * write of 0 to try and disable SRE, and let's see if it
130ce29261eSSascha Bischoff * sticks.
131ce29261eSSascha Bischoff */
132ce29261eSSascha Bischoff __check_sr_write(ICC_SRE_EL1);
133ce29261eSSascha Bischoff if (!handled)
134ce29261eSSascha Bischoff GUEST_PRINTF("ICC_SRE_EL1 write not trapping (OK)\n");
135ce29261eSSascha Bischoff
136ce29261eSSascha Bischoff val = __check_sr_read(ICC_SRE_EL1);
137ce29261eSSascha Bischoff if (!handled) {
138ce29261eSSascha Bischoff __GUEST_ASSERT((val & BIT(0)),
139ce29261eSSascha Bischoff "ICC_SRE_EL1 not trapped but ICC_SRE_EL1.SRE not set\n");
140ce29261eSSascha Bischoff GUEST_PRINTF("ICC_SRE_EL1 read not trapping (OK)\n");
141ce29261eSSascha Bischoff }
142ce29261eSSascha Bischoff
143ce29261eSSascha Bischoff GUEST_DONE();
144ce29261eSSascha Bischoff }
145ce29261eSSascha Bischoff
guest_code_gicv5(void)146ce29261eSSascha Bischoff static void guest_code_gicv5(void)
147ce29261eSSascha Bischoff {
148ce29261eSSascha Bischoff /*
149ce29261eSSascha Bischoff * Check that we advertise that ID_AA64PFR2_EL1.GCIE == 0, having
150ce29261eSSascha Bischoff * hidden the feature at runtime without any other userspace action.
151ce29261eSSascha Bischoff */
152ce29261eSSascha Bischoff __GUEST_ASSERT(FIELD_GET(ID_AA64PFR2_EL1_GCIE,
153ce29261eSSascha Bischoff read_sysreg_s(SYS_ID_AA64PFR2_EL1)) == 0,
154ce29261eSSascha Bischoff "GICv5 wrongly advertised");
155ce29261eSSascha Bischoff
156ce29261eSSascha Bischoff /*
157ce29261eSSascha Bischoff * Try all GICv5 instructions, and fail if we don't get an UNDEF.
158ce29261eSSascha Bischoff */
159ce29261eSSascha Bischoff check_gicv5_gic_op(CDAFF);
160ce29261eSSascha Bischoff check_gicv5_gic_op(CDDI);
161ce29261eSSascha Bischoff check_gicv5_gic_op(CDDIS);
162ce29261eSSascha Bischoff check_gicv5_gic_op(CDEOI);
163ce29261eSSascha Bischoff check_gicv5_gic_op(CDHM);
164ce29261eSSascha Bischoff check_gicv5_gic_op(CDPEND);
165ce29261eSSascha Bischoff check_gicv5_gic_op(CDPRI);
166ce29261eSSascha Bischoff check_gicv5_gic_op(CDRCFG);
167ce29261eSSascha Bischoff check_gicv5_gicr_op(CDIA);
168ce29261eSSascha Bischoff check_gicv5_gicr_op(CDNMIA);
169ce29261eSSascha Bischoff
170ce29261eSSascha Bischoff /* Check General System Register acccesses */
171ce29261eSSascha Bischoff check_sr_rw(ICC_APR_EL1);
172ce29261eSSascha Bischoff check_sr_rw(ICC_CR0_EL1);
173ce29261eSSascha Bischoff check_sr_read(ICC_HPPIR_EL1);
174ce29261eSSascha Bischoff check_sr_read(ICC_IAFFIDR_EL1);
175ce29261eSSascha Bischoff check_sr_rw(ICC_ICSR_EL1);
176ce29261eSSascha Bischoff check_sr_read(ICC_IDR0_EL1);
177ce29261eSSascha Bischoff check_sr_rw(ICC_PCR_EL1);
178ce29261eSSascha Bischoff
179ce29261eSSascha Bischoff /* Check PPI System Register accessess */
180ce29261eSSascha Bischoff check_sr_rw(ICC_PPI_CACTIVER0_EL1);
181ce29261eSSascha Bischoff check_sr_rw(ICC_PPI_CACTIVER1_EL1);
182ce29261eSSascha Bischoff check_sr_rw(ICC_PPI_SACTIVER0_EL1);
183ce29261eSSascha Bischoff check_sr_rw(ICC_PPI_SACTIVER1_EL1);
184ce29261eSSascha Bischoff check_sr_rw(ICC_PPI_CPENDR0_EL1);
185ce29261eSSascha Bischoff check_sr_rw(ICC_PPI_CPENDR1_EL1);
186ce29261eSSascha Bischoff check_sr_rw(ICC_PPI_SPENDR0_EL1);
187ce29261eSSascha Bischoff check_sr_rw(ICC_PPI_SPENDR1_EL1);
188ce29261eSSascha Bischoff check_sr_rw(ICC_PPI_ENABLER0_EL1);
189ce29261eSSascha Bischoff check_sr_rw(ICC_PPI_ENABLER1_EL1);
190ce29261eSSascha Bischoff check_sr_read(ICC_PPI_HMR0_EL1);
191ce29261eSSascha Bischoff check_sr_read(ICC_PPI_HMR1_EL1);
192ce29261eSSascha Bischoff check_sr_rw(ICC_PPI_PRIORITYR0_EL1);
193ce29261eSSascha Bischoff check_sr_rw(ICC_PPI_PRIORITYR1_EL1);
194ce29261eSSascha Bischoff check_sr_rw(ICC_PPI_PRIORITYR2_EL1);
195ce29261eSSascha Bischoff check_sr_rw(ICC_PPI_PRIORITYR3_EL1);
196ce29261eSSascha Bischoff check_sr_rw(ICC_PPI_PRIORITYR4_EL1);
197ce29261eSSascha Bischoff check_sr_rw(ICC_PPI_PRIORITYR5_EL1);
198ce29261eSSascha Bischoff check_sr_rw(ICC_PPI_PRIORITYR6_EL1);
199ce29261eSSascha Bischoff check_sr_rw(ICC_PPI_PRIORITYR7_EL1);
200ce29261eSSascha Bischoff check_sr_rw(ICC_PPI_PRIORITYR8_EL1);
201ce29261eSSascha Bischoff check_sr_rw(ICC_PPI_PRIORITYR9_EL1);
202ce29261eSSascha Bischoff check_sr_rw(ICC_PPI_PRIORITYR10_EL1);
203ce29261eSSascha Bischoff check_sr_rw(ICC_PPI_PRIORITYR11_EL1);
204ce29261eSSascha Bischoff check_sr_rw(ICC_PPI_PRIORITYR12_EL1);
205ce29261eSSascha Bischoff check_sr_rw(ICC_PPI_PRIORITYR13_EL1);
206ce29261eSSascha Bischoff check_sr_rw(ICC_PPI_PRIORITYR14_EL1);
207ce29261eSSascha Bischoff check_sr_rw(ICC_PPI_PRIORITYR15_EL1);
208ce29261eSSascha Bischoff
209ce29261eSSascha Bischoff GUEST_DONE();
210ce29261eSSascha Bischoff }
211ce29261eSSascha Bischoff
guest_undef_handler(struct ex_regs * regs)212ce29261eSSascha Bischoff static void guest_undef_handler(struct ex_regs *regs)
213ce29261eSSascha Bischoff {
214ce29261eSSascha Bischoff /* Success, we've gracefully exploded! */
215ce29261eSSascha Bischoff handled = true;
216ce29261eSSascha Bischoff regs->pc += 4;
217ce29261eSSascha Bischoff }
218ce29261eSSascha Bischoff
test_run_vcpu(struct kvm_vcpu * vcpu)219ce29261eSSascha Bischoff static void test_run_vcpu(struct kvm_vcpu *vcpu)
220ce29261eSSascha Bischoff {
221ce29261eSSascha Bischoff struct ucall uc;
222ce29261eSSascha Bischoff
223ce29261eSSascha Bischoff do {
224ce29261eSSascha Bischoff vcpu_run(vcpu);
225ce29261eSSascha Bischoff
226ce29261eSSascha Bischoff switch (get_ucall(vcpu, &uc)) {
227ce29261eSSascha Bischoff case UCALL_ABORT:
228ce29261eSSascha Bischoff REPORT_GUEST_ASSERT(uc);
229ce29261eSSascha Bischoff break;
230ce29261eSSascha Bischoff case UCALL_PRINTF:
231ce29261eSSascha Bischoff printf("%s", uc.buffer);
232ce29261eSSascha Bischoff break;
233ce29261eSSascha Bischoff case UCALL_DONE:
234ce29261eSSascha Bischoff break;
235ce29261eSSascha Bischoff default:
236ce29261eSSascha Bischoff TEST_FAIL("Unknown ucall %lu", uc.cmd);
237ce29261eSSascha Bischoff }
238ce29261eSSascha Bischoff } while (uc.cmd != UCALL_DONE);
239ce29261eSSascha Bischoff }
240ce29261eSSascha Bischoff
test_guest_no_vgic(void * guest_code)241ce29261eSSascha Bischoff static void test_guest_no_vgic(void *guest_code)
242ce29261eSSascha Bischoff {
243ce29261eSSascha Bischoff struct kvm_vcpu *vcpu;
244ce29261eSSascha Bischoff struct kvm_vm *vm;
245ce29261eSSascha Bischoff
246ce29261eSSascha Bischoff /* Create a VM without a GIC */
247ce29261eSSascha Bischoff vm = vm_create_with_one_vcpu(&vcpu, guest_code);
248ce29261eSSascha Bischoff
249ce29261eSSascha Bischoff vm_init_descriptor_tables(vm);
250ce29261eSSascha Bischoff vcpu_init_descriptor_tables(vcpu);
251ce29261eSSascha Bischoff
252ce29261eSSascha Bischoff vm_install_sync_handler(vm, VECTOR_SYNC_CURRENT,
253ce29261eSSascha Bischoff ESR_ELx_EC_UNKNOWN, guest_undef_handler);
254ce29261eSSascha Bischoff
255ce29261eSSascha Bischoff test_run_vcpu(vcpu);
256ce29261eSSascha Bischoff
257ce29261eSSascha Bischoff kvm_vm_free(vm);
258ce29261eSSascha Bischoff }
259ce29261eSSascha Bischoff
main(int argc,char * argv[])260ce29261eSSascha Bischoff int main(int argc, char *argv[])
261ce29261eSSascha Bischoff {
262ce29261eSSascha Bischoff struct kvm_vcpu *vcpu;
263ce29261eSSascha Bischoff struct kvm_vm *vm;
264ce29261eSSascha Bischoff bool has_v3, has_v5;
265*26f84532SDavid Matlack u64 pfr;
266ce29261eSSascha Bischoff
267ce29261eSSascha Bischoff test_disable_default_vgic();
268ce29261eSSascha Bischoff
269ce29261eSSascha Bischoff vm = vm_create_with_one_vcpu(&vcpu, NULL);
270ce29261eSSascha Bischoff
271ce29261eSSascha Bischoff pfr = vcpu_get_reg(vcpu, KVM_ARM64_SYS_REG(SYS_ID_AA64PFR0_EL1));
272ce29261eSSascha Bischoff has_v3 = !!FIELD_GET(ID_AA64PFR0_EL1_GIC, pfr);
273ce29261eSSascha Bischoff
274ce29261eSSascha Bischoff pfr = vcpu_get_reg(vcpu, KVM_ARM64_SYS_REG(SYS_ID_AA64PFR2_EL1));
275ce29261eSSascha Bischoff has_v5 = !!FIELD_GET(ID_AA64PFR2_EL1_GCIE, pfr);
276ce29261eSSascha Bischoff
277ce29261eSSascha Bischoff kvm_vm_free(vm);
278ce29261eSSascha Bischoff
279ce29261eSSascha Bischoff __TEST_REQUIRE(has_v3 || has_v5,
280ce29261eSSascha Bischoff "Neither GICv3 nor GICv5 supported.");
281ce29261eSSascha Bischoff
282ce29261eSSascha Bischoff if (has_v3) {
283ce29261eSSascha Bischoff pr_info("Testing no-vgic-v3\n");
284ce29261eSSascha Bischoff test_guest_no_vgic(guest_code_gicv3);
285ce29261eSSascha Bischoff } else {
286ce29261eSSascha Bischoff pr_info("No GICv3 support: skipping no-vgic-v3 test\n");
287ce29261eSSascha Bischoff }
288ce29261eSSascha Bischoff
289ce29261eSSascha Bischoff if (has_v5) {
290ce29261eSSascha Bischoff pr_info("Testing no-vgic-v5\n");
291ce29261eSSascha Bischoff test_guest_no_vgic(guest_code_gicv5);
292ce29261eSSascha Bischoff } else {
293ce29261eSSascha Bischoff pr_info("No GICv5 support: skipping no-vgic-v5 test\n");
294ce29261eSSascha Bischoff }
295ce29261eSSascha Bischoff
296ce29261eSSascha Bischoff return 0;
297ce29261eSSascha Bischoff }
298