xref: /linux/arch/x86/kernel/dumpstack_32.c (revision dd6e4eba1c03c9562fced21736453396c045f869)
12bc5f927SAlexander van Heukelum /*
22bc5f927SAlexander van Heukelum  *  Copyright (C) 1991, 1992  Linus Torvalds
32bc5f927SAlexander van Heukelum  *  Copyright (C) 2000, 2001, 2002 Andi Kleen, SuSE Labs
42bc5f927SAlexander van Heukelum  */
52bc5f927SAlexander van Heukelum #include <linux/kallsyms.h>
62bc5f927SAlexander van Heukelum #include <linux/kprobes.h>
72bc5f927SAlexander van Heukelum #include <linux/uaccess.h>
82bc5f927SAlexander van Heukelum #include <linux/utsname.h>
92bc5f927SAlexander van Heukelum #include <linux/hardirq.h>
102bc5f927SAlexander van Heukelum #include <linux/kdebug.h>
112bc5f927SAlexander van Heukelum #include <linux/module.h>
122bc5f927SAlexander van Heukelum #include <linux/ptrace.h>
132bc5f927SAlexander van Heukelum #include <linux/kexec.h>
142bc5f927SAlexander van Heukelum #include <linux/bug.h>
152bc5f927SAlexander van Heukelum #include <linux/nmi.h>
162bc5f927SAlexander van Heukelum 
172bc5f927SAlexander van Heukelum #include <asm/stacktrace.h>
182bc5f927SAlexander van Heukelum 
192bc5f927SAlexander van Heukelum int panic_on_unrecovered_nmi;
202bc5f927SAlexander van Heukelum int kstack_depth_to_print = 24;
212bc5f927SAlexander van Heukelum static unsigned int code_bytes = 64;
222bc5f927SAlexander van Heukelum static int die_counter;
232bc5f927SAlexander van Heukelum 
242bc5f927SAlexander van Heukelum void printk_address(unsigned long address, int reliable)
252bc5f927SAlexander van Heukelum {
262bc5f927SAlexander van Heukelum #ifdef CONFIG_KALLSYMS
272bc5f927SAlexander van Heukelum 	unsigned long offset = 0;
282bc5f927SAlexander van Heukelum 	unsigned long symsize;
292bc5f927SAlexander van Heukelum 	const char *symname;
302bc5f927SAlexander van Heukelum 	char *modname;
312bc5f927SAlexander van Heukelum 	char *delim = ":";
322bc5f927SAlexander van Heukelum 	char namebuf[KSYM_NAME_LEN];
332bc5f927SAlexander van Heukelum 	char reliab[4] = "";
342bc5f927SAlexander van Heukelum 
352bc5f927SAlexander van Heukelum 	symname = kallsyms_lookup(address, &symsize, &offset,
362bc5f927SAlexander van Heukelum 					&modname, namebuf);
372bc5f927SAlexander van Heukelum 	if (!symname) {
382bc5f927SAlexander van Heukelum 		printk(" [<%08lx>]\n", address);
392bc5f927SAlexander van Heukelum 		return;
402bc5f927SAlexander van Heukelum 	}
412bc5f927SAlexander van Heukelum 	if (!reliable)
422bc5f927SAlexander van Heukelum 		strcpy(reliab, "? ");
432bc5f927SAlexander van Heukelum 
442bc5f927SAlexander van Heukelum 	if (!modname)
452bc5f927SAlexander van Heukelum 		modname = delim = "";
462bc5f927SAlexander van Heukelum 	printk(" [<%08lx>] %s%s%s%s%s+0x%lx/0x%lx\n",
472bc5f927SAlexander van Heukelum 		address, reliab, delim, modname, delim, symname, offset, symsize);
482bc5f927SAlexander van Heukelum #else
492bc5f927SAlexander van Heukelum 	printk(" [<%08lx>]\n", address);
502bc5f927SAlexander van Heukelum #endif
512bc5f927SAlexander van Heukelum }
522bc5f927SAlexander van Heukelum 
532bc5f927SAlexander van Heukelum static inline int valid_stack_ptr(struct thread_info *tinfo,
542bc5f927SAlexander van Heukelum 			void *p, unsigned int size)
552bc5f927SAlexander van Heukelum {
562bc5f927SAlexander van Heukelum 	void *t = tinfo;
572bc5f927SAlexander van Heukelum 	return	p > t && p <= t + THREAD_SIZE - size;
582bc5f927SAlexander van Heukelum }
592bc5f927SAlexander van Heukelum 
602bc5f927SAlexander van Heukelum /* The form of the top of the frame on the stack */
612bc5f927SAlexander van Heukelum struct stack_frame {
622bc5f927SAlexander van Heukelum 	struct stack_frame *next_frame;
632bc5f927SAlexander van Heukelum 	unsigned long return_address;
642bc5f927SAlexander van Heukelum };
652bc5f927SAlexander van Heukelum 
662bc5f927SAlexander van Heukelum static inline unsigned long
672bc5f927SAlexander van Heukelum print_context_stack(struct thread_info *tinfo,
682bc5f927SAlexander van Heukelum 		unsigned long *stack, unsigned long bp,
692bc5f927SAlexander van Heukelum 		const struct stacktrace_ops *ops, void *data)
702bc5f927SAlexander van Heukelum {
712bc5f927SAlexander van Heukelum 	struct stack_frame *frame = (struct stack_frame *)bp;
722bc5f927SAlexander van Heukelum 
732bc5f927SAlexander van Heukelum 	while (valid_stack_ptr(tinfo, stack, sizeof(*stack))) {
742bc5f927SAlexander van Heukelum 		unsigned long addr;
752bc5f927SAlexander van Heukelum 
762bc5f927SAlexander van Heukelum 		addr = *stack;
772bc5f927SAlexander van Heukelum 		if (__kernel_text_address(addr)) {
782bc5f927SAlexander van Heukelum 			if ((unsigned long) stack == bp + 4) {
792bc5f927SAlexander van Heukelum 				ops->address(data, addr, 1);
802bc5f927SAlexander van Heukelum 				frame = frame->next_frame;
812bc5f927SAlexander van Heukelum 				bp = (unsigned long) frame;
822bc5f927SAlexander van Heukelum 			} else {
832bc5f927SAlexander van Heukelum 				ops->address(data, addr, bp == 0);
842bc5f927SAlexander van Heukelum 			}
852bc5f927SAlexander van Heukelum 		}
862bc5f927SAlexander van Heukelum 		stack++;
872bc5f927SAlexander van Heukelum 	}
882bc5f927SAlexander van Heukelum 	return bp;
892bc5f927SAlexander van Heukelum }
902bc5f927SAlexander van Heukelum 
912bc5f927SAlexander van Heukelum void dump_trace(struct task_struct *task, struct pt_regs *regs,
922bc5f927SAlexander van Heukelum 		unsigned long *stack, unsigned long bp,
932bc5f927SAlexander van Heukelum 		const struct stacktrace_ops *ops, void *data)
942bc5f927SAlexander van Heukelum {
952bc5f927SAlexander van Heukelum 	if (!task)
962bc5f927SAlexander van Heukelum 		task = current;
972bc5f927SAlexander van Heukelum 
982bc5f927SAlexander van Heukelum 	if (!stack) {
992bc5f927SAlexander van Heukelum 		unsigned long dummy;
1002bc5f927SAlexander van Heukelum 		stack = &dummy;
1012bc5f927SAlexander van Heukelum 		if (task != current)
1022bc5f927SAlexander van Heukelum 			stack = (unsigned long *)task->thread.sp;
1032bc5f927SAlexander van Heukelum 	}
1042bc5f927SAlexander van Heukelum 
1052bc5f927SAlexander van Heukelum #ifdef CONFIG_FRAME_POINTER
1062bc5f927SAlexander van Heukelum 	if (!bp) {
1072bc5f927SAlexander van Heukelum 		if (task == current) {
1082bc5f927SAlexander van Heukelum 			/* Grab bp right from our regs */
1092bc5f927SAlexander van Heukelum 			asm("movl %%ebp, %0" : "=r" (bp) :);
1102bc5f927SAlexander van Heukelum 		} else {
1112bc5f927SAlexander van Heukelum 			/* bp is the last reg pushed by switch_to */
1122bc5f927SAlexander van Heukelum 			bp = *(unsigned long *) task->thread.sp;
1132bc5f927SAlexander van Heukelum 		}
1142bc5f927SAlexander van Heukelum 	}
1152bc5f927SAlexander van Heukelum #endif
1162bc5f927SAlexander van Heukelum 
1172bc5f927SAlexander van Heukelum 	for (;;) {
1182bc5f927SAlexander van Heukelum 		struct thread_info *context;
1192bc5f927SAlexander van Heukelum 
1202bc5f927SAlexander van Heukelum 		context = (struct thread_info *)
1212bc5f927SAlexander van Heukelum 			((unsigned long)stack & (~(THREAD_SIZE - 1)));
1222bc5f927SAlexander van Heukelum 		bp = print_context_stack(context, stack, bp, ops, data);
1232bc5f927SAlexander van Heukelum 		/*
1242bc5f927SAlexander van Heukelum 		 * Should be after the line below, but somewhere
1252bc5f927SAlexander van Heukelum 		 * in early boot context comes out corrupted and we
1262bc5f927SAlexander van Heukelum 		 * can't reference it:
1272bc5f927SAlexander van Heukelum 		 */
1282bc5f927SAlexander van Heukelum 		if (ops->stack(data, "IRQ") < 0)
1292bc5f927SAlexander van Heukelum 			break;
1302bc5f927SAlexander van Heukelum 		stack = (unsigned long *)context->previous_esp;
1312bc5f927SAlexander van Heukelum 		if (!stack)
1322bc5f927SAlexander van Heukelum 			break;
1332bc5f927SAlexander van Heukelum 		touch_nmi_watchdog();
1342bc5f927SAlexander van Heukelum 	}
1352bc5f927SAlexander van Heukelum }
1362bc5f927SAlexander van Heukelum EXPORT_SYMBOL(dump_trace);
1372bc5f927SAlexander van Heukelum 
1382bc5f927SAlexander van Heukelum static void
1392bc5f927SAlexander van Heukelum print_trace_warning_symbol(void *data, char *msg, unsigned long symbol)
1402bc5f927SAlexander van Heukelum {
1412bc5f927SAlexander van Heukelum 	printk(data);
1422bc5f927SAlexander van Heukelum 	print_symbol(msg, symbol);
1432bc5f927SAlexander van Heukelum 	printk("\n");
1442bc5f927SAlexander van Heukelum }
1452bc5f927SAlexander van Heukelum 
1462bc5f927SAlexander van Heukelum static void print_trace_warning(void *data, char *msg)
1472bc5f927SAlexander van Heukelum {
1482bc5f927SAlexander van Heukelum 	printk("%s%s\n", (char *)data, msg);
1492bc5f927SAlexander van Heukelum }
1502bc5f927SAlexander van Heukelum 
1512bc5f927SAlexander van Heukelum static int print_trace_stack(void *data, char *name)
1522bc5f927SAlexander van Heukelum {
1532bc5f927SAlexander van Heukelum 	return 0;
1542bc5f927SAlexander van Heukelum }
1552bc5f927SAlexander van Heukelum 
1562bc5f927SAlexander van Heukelum /*
1572bc5f927SAlexander van Heukelum  * Print one address/symbol entries per line.
1582bc5f927SAlexander van Heukelum  */
1592bc5f927SAlexander van Heukelum static void print_trace_address(void *data, unsigned long addr, int reliable)
1602bc5f927SAlexander van Heukelum {
1612bc5f927SAlexander van Heukelum 	printk("%s [<%08lx>] ", (char *)data, addr);
1622bc5f927SAlexander van Heukelum 	if (!reliable)
1632bc5f927SAlexander van Heukelum 		printk("? ");
1642bc5f927SAlexander van Heukelum 	print_symbol("%s\n", addr);
1652bc5f927SAlexander van Heukelum 	touch_nmi_watchdog();
1662bc5f927SAlexander van Heukelum }
1672bc5f927SAlexander van Heukelum 
1682bc5f927SAlexander van Heukelum static const struct stacktrace_ops print_trace_ops = {
1692bc5f927SAlexander van Heukelum 	.warning = print_trace_warning,
1702bc5f927SAlexander van Heukelum 	.warning_symbol = print_trace_warning_symbol,
1712bc5f927SAlexander van Heukelum 	.stack = print_trace_stack,
1722bc5f927SAlexander van Heukelum 	.address = print_trace_address,
1732bc5f927SAlexander van Heukelum };
1742bc5f927SAlexander van Heukelum 
1752bc5f927SAlexander van Heukelum static void
1762bc5f927SAlexander van Heukelum show_trace_log_lvl(struct task_struct *task, struct pt_regs *regs,
1772bc5f927SAlexander van Heukelum 		unsigned long *stack, unsigned long bp, char *log_lvl)
1782bc5f927SAlexander van Heukelum {
1792bc5f927SAlexander van Heukelum 	dump_trace(task, regs, stack, bp, &print_trace_ops, log_lvl);
1802bc5f927SAlexander van Heukelum 	printk("%s =======================\n", log_lvl);
1812bc5f927SAlexander van Heukelum }
1822bc5f927SAlexander van Heukelum 
1832bc5f927SAlexander van Heukelum void show_trace(struct task_struct *task, struct pt_regs *regs,
1842bc5f927SAlexander van Heukelum 		unsigned long *stack, unsigned long bp)
1852bc5f927SAlexander van Heukelum {
1862bc5f927SAlexander van Heukelum 	show_trace_log_lvl(task, regs, stack, bp, "");
1872bc5f927SAlexander van Heukelum }
1882bc5f927SAlexander van Heukelum 
1892bc5f927SAlexander van Heukelum static void
1902bc5f927SAlexander van Heukelum show_stack_log_lvl(struct task_struct *task, struct pt_regs *regs,
1912bc5f927SAlexander van Heukelum 		   unsigned long *sp, unsigned long bp, char *log_lvl)
1922bc5f927SAlexander van Heukelum {
1932bc5f927SAlexander van Heukelum 	unsigned long *stack;
1942bc5f927SAlexander van Heukelum 	int i;
1952bc5f927SAlexander van Heukelum 
1962bc5f927SAlexander van Heukelum 	if (sp == NULL) {
1972bc5f927SAlexander van Heukelum 		if (task)
1982bc5f927SAlexander van Heukelum 			sp = (unsigned long *)task->thread.sp;
1992bc5f927SAlexander van Heukelum 		else
2002bc5f927SAlexander van Heukelum 			sp = (unsigned long *)&sp;
2012bc5f927SAlexander van Heukelum 	}
2022bc5f927SAlexander van Heukelum 
2032bc5f927SAlexander van Heukelum 	stack = sp;
2042bc5f927SAlexander van Heukelum 	for (i = 0; i < kstack_depth_to_print; i++) {
2052bc5f927SAlexander van Heukelum 		if (kstack_end(stack))
2062bc5f927SAlexander van Heukelum 			break;
2072bc5f927SAlexander van Heukelum 		if (i && ((i % 8) == 0))
2082bc5f927SAlexander van Heukelum 			printk("\n%s       ", log_lvl);
2092bc5f927SAlexander van Heukelum 		printk("%08lx ", *stack++);
2102bc5f927SAlexander van Heukelum 	}
2112bc5f927SAlexander van Heukelum 	printk("\n%sCall Trace:\n", log_lvl);
2122bc5f927SAlexander van Heukelum 
2132bc5f927SAlexander van Heukelum 	show_trace_log_lvl(task, regs, sp, bp, log_lvl);
2142bc5f927SAlexander van Heukelum }
2152bc5f927SAlexander van Heukelum 
2162bc5f927SAlexander van Heukelum void show_stack(struct task_struct *task, unsigned long *sp)
2172bc5f927SAlexander van Heukelum {
2182bc5f927SAlexander van Heukelum 	printk("       ");
2192bc5f927SAlexander van Heukelum 	show_stack_log_lvl(task, NULL, sp, 0, "");
2202bc5f927SAlexander van Heukelum }
2212bc5f927SAlexander van Heukelum 
2222bc5f927SAlexander van Heukelum /*
2232bc5f927SAlexander van Heukelum  * The architecture-independent dump_stack generator
2242bc5f927SAlexander van Heukelum  */
2252bc5f927SAlexander van Heukelum void dump_stack(void)
2262bc5f927SAlexander van Heukelum {
2272bc5f927SAlexander van Heukelum 	unsigned long bp = 0;
2282bc5f927SAlexander van Heukelum 	unsigned long stack;
2292bc5f927SAlexander van Heukelum 
2302bc5f927SAlexander van Heukelum #ifdef CONFIG_FRAME_POINTER
2312bc5f927SAlexander van Heukelum 	if (!bp)
2322bc5f927SAlexander van Heukelum 		asm("movl %%ebp, %0" : "=r" (bp):);
2332bc5f927SAlexander van Heukelum #endif
2342bc5f927SAlexander van Heukelum 
2352bc5f927SAlexander van Heukelum 	printk("Pid: %d, comm: %.20s %s %s %.*s\n",
2362bc5f927SAlexander van Heukelum 		current->pid, current->comm, print_tainted(),
2372bc5f927SAlexander van Heukelum 		init_utsname()->release,
2382bc5f927SAlexander van Heukelum 		(int)strcspn(init_utsname()->version, " "),
2392bc5f927SAlexander van Heukelum 		init_utsname()->version);
2402bc5f927SAlexander van Heukelum 
2412bc5f927SAlexander van Heukelum 	show_trace(current, NULL, &stack, bp);
2422bc5f927SAlexander van Heukelum }
2432bc5f927SAlexander van Heukelum 
2442bc5f927SAlexander van Heukelum EXPORT_SYMBOL(dump_stack);
2452bc5f927SAlexander van Heukelum 
2462bc5f927SAlexander van Heukelum void show_registers(struct pt_regs *regs)
2472bc5f927SAlexander van Heukelum {
2482bc5f927SAlexander van Heukelum 	int i;
2492bc5f927SAlexander van Heukelum 
2502bc5f927SAlexander van Heukelum 	print_modules();
2512bc5f927SAlexander van Heukelum 	__show_regs(regs, 0);
2522bc5f927SAlexander van Heukelum 
2532bc5f927SAlexander van Heukelum 	printk(KERN_EMERG "Process %.*s (pid: %d, ti=%p task=%p task.ti=%p)",
2542bc5f927SAlexander van Heukelum 		TASK_COMM_LEN, current->comm, task_pid_nr(current),
2552bc5f927SAlexander van Heukelum 		current_thread_info(), current, task_thread_info(current));
2562bc5f927SAlexander van Heukelum 	/*
2572bc5f927SAlexander van Heukelum 	 * When in-kernel, we also print out the stack and code at the
2582bc5f927SAlexander van Heukelum 	 * time of the fault..
2592bc5f927SAlexander van Heukelum 	 */
2602bc5f927SAlexander van Heukelum 	if (!user_mode_vm(regs)) {
2612bc5f927SAlexander van Heukelum 		unsigned int code_prologue = code_bytes * 43 / 64;
2622bc5f927SAlexander van Heukelum 		unsigned int code_len = code_bytes;
2632bc5f927SAlexander van Heukelum 		unsigned char c;
2642bc5f927SAlexander van Heukelum 		u8 *ip;
2652bc5f927SAlexander van Heukelum 
2662bc5f927SAlexander van Heukelum 		printk("\n" KERN_EMERG "Stack: ");
2672bc5f927SAlexander van Heukelum 		show_stack_log_lvl(NULL, regs, &regs->sp, 0, KERN_EMERG);
2682bc5f927SAlexander van Heukelum 
2692bc5f927SAlexander van Heukelum 		printk(KERN_EMERG "Code: ");
2702bc5f927SAlexander van Heukelum 
2712bc5f927SAlexander van Heukelum 		ip = (u8 *)regs->ip - code_prologue;
2722bc5f927SAlexander van Heukelum 		if (ip < (u8 *)PAGE_OFFSET || probe_kernel_address(ip, c)) {
2732bc5f927SAlexander van Heukelum 			/* try starting at EIP */
2742bc5f927SAlexander van Heukelum 			ip = (u8 *)regs->ip;
2752bc5f927SAlexander van Heukelum 			code_len = code_len - code_prologue + 1;
2762bc5f927SAlexander van Heukelum 		}
2772bc5f927SAlexander van Heukelum 		for (i = 0; i < code_len; i++, ip++) {
2782bc5f927SAlexander van Heukelum 			if (ip < (u8 *)PAGE_OFFSET ||
2792bc5f927SAlexander van Heukelum 					probe_kernel_address(ip, c)) {
2802bc5f927SAlexander van Heukelum 				printk(" Bad EIP value.");
2812bc5f927SAlexander van Heukelum 				break;
2822bc5f927SAlexander van Heukelum 			}
2832bc5f927SAlexander van Heukelum 			if (ip == (u8 *)regs->ip)
2842bc5f927SAlexander van Heukelum 				printk("<%02x> ", c);
2852bc5f927SAlexander van Heukelum 			else
2862bc5f927SAlexander van Heukelum 				printk("%02x ", c);
2872bc5f927SAlexander van Heukelum 		}
2882bc5f927SAlexander van Heukelum 	}
2892bc5f927SAlexander van Heukelum 	printk("\n");
2902bc5f927SAlexander van Heukelum }
2912bc5f927SAlexander van Heukelum 
2922bc5f927SAlexander van Heukelum int is_valid_bugaddr(unsigned long ip)
2932bc5f927SAlexander van Heukelum {
2942bc5f927SAlexander van Heukelum 	unsigned short ud2;
2952bc5f927SAlexander van Heukelum 
2962bc5f927SAlexander van Heukelum 	if (ip < PAGE_OFFSET)
2972bc5f927SAlexander van Heukelum 		return 0;
2982bc5f927SAlexander van Heukelum 	if (probe_kernel_address((unsigned short *)ip, ud2))
2992bc5f927SAlexander van Heukelum 		return 0;
3002bc5f927SAlexander van Heukelum 
3012bc5f927SAlexander van Heukelum 	return ud2 == 0x0b0f;
3022bc5f927SAlexander van Heukelum }
3032bc5f927SAlexander van Heukelum 
3042bc5f927SAlexander van Heukelum static raw_spinlock_t die_lock = __RAW_SPIN_LOCK_UNLOCKED;
3052bc5f927SAlexander van Heukelum static int die_owner = -1;
3062bc5f927SAlexander van Heukelum static unsigned int die_nest_count;
3072bc5f927SAlexander van Heukelum 
3082bc5f927SAlexander van Heukelum unsigned __kprobes long oops_begin(void)
3092bc5f927SAlexander van Heukelum {
3102bc5f927SAlexander van Heukelum 	unsigned long flags;
3112bc5f927SAlexander van Heukelum 
3122bc5f927SAlexander van Heukelum 	oops_enter();
3132bc5f927SAlexander van Heukelum 
3142bc5f927SAlexander van Heukelum 	if (die_owner != raw_smp_processor_id()) {
3152bc5f927SAlexander van Heukelum 		console_verbose();
3162bc5f927SAlexander van Heukelum 		raw_local_irq_save(flags);
3172bc5f927SAlexander van Heukelum 		__raw_spin_lock(&die_lock);
3182bc5f927SAlexander van Heukelum 		die_owner = smp_processor_id();
3192bc5f927SAlexander van Heukelum 		die_nest_count = 0;
3202bc5f927SAlexander van Heukelum 		bust_spinlocks(1);
3212bc5f927SAlexander van Heukelum 	} else {
3222bc5f927SAlexander van Heukelum 		raw_local_irq_save(flags);
3232bc5f927SAlexander van Heukelum 	}
3242bc5f927SAlexander van Heukelum 	die_nest_count++;
3252bc5f927SAlexander van Heukelum 	return flags;
3262bc5f927SAlexander van Heukelum }
3272bc5f927SAlexander van Heukelum 
3282bc5f927SAlexander van Heukelum void __kprobes oops_end(unsigned long flags, struct pt_regs *regs, int signr)
3292bc5f927SAlexander van Heukelum {
3302bc5f927SAlexander van Heukelum 	bust_spinlocks(0);
3312bc5f927SAlexander van Heukelum 	die_owner = -1;
3322bc5f927SAlexander van Heukelum 	add_taint(TAINT_DIE);
3332bc5f927SAlexander van Heukelum 	__raw_spin_unlock(&die_lock);
3342bc5f927SAlexander van Heukelum 	raw_local_irq_restore(flags);
3352bc5f927SAlexander van Heukelum 
3362bc5f927SAlexander van Heukelum 	if (!regs)
3372bc5f927SAlexander van Heukelum 		return;
3382bc5f927SAlexander van Heukelum 
3392bc5f927SAlexander van Heukelum 	if (kexec_should_crash(current))
3402bc5f927SAlexander van Heukelum 		crash_kexec(regs);
3412bc5f927SAlexander van Heukelum 
3422bc5f927SAlexander van Heukelum 	if (in_interrupt())
3432bc5f927SAlexander van Heukelum 		panic("Fatal exception in interrupt");
3442bc5f927SAlexander van Heukelum 
3452bc5f927SAlexander van Heukelum 	if (panic_on_oops)
3462bc5f927SAlexander van Heukelum 		panic("Fatal exception");
3472bc5f927SAlexander van Heukelum 
3482bc5f927SAlexander van Heukelum 	oops_exit();
3492bc5f927SAlexander van Heukelum 	do_exit(signr);
3502bc5f927SAlexander van Heukelum }
3512bc5f927SAlexander van Heukelum 
3522bc5f927SAlexander van Heukelum int __kprobes __die(const char *str, struct pt_regs *regs, long err)
3532bc5f927SAlexander van Heukelum {
3542bc5f927SAlexander van Heukelum 	unsigned short ss;
3552bc5f927SAlexander van Heukelum 	unsigned long sp;
3562bc5f927SAlexander van Heukelum 
3572bc5f927SAlexander van Heukelum 	printk(KERN_EMERG "%s: %04lx [#%d] ", str, err & 0xffff, ++die_counter);
3582bc5f927SAlexander van Heukelum #ifdef CONFIG_PREEMPT
3592bc5f927SAlexander van Heukelum 	printk("PREEMPT ");
3602bc5f927SAlexander van Heukelum #endif
3612bc5f927SAlexander van Heukelum #ifdef CONFIG_SMP
3622bc5f927SAlexander van Heukelum 	printk("SMP ");
3632bc5f927SAlexander van Heukelum #endif
3642bc5f927SAlexander van Heukelum #ifdef CONFIG_DEBUG_PAGEALLOC
3652bc5f927SAlexander van Heukelum 	printk("DEBUG_PAGEALLOC");
3662bc5f927SAlexander van Heukelum #endif
3672bc5f927SAlexander van Heukelum 	printk("\n");
3682bc5f927SAlexander van Heukelum 	if (notify_die(DIE_OOPS, str, regs, err,
3692bc5f927SAlexander van Heukelum 			current->thread.trap_no, SIGSEGV) == NOTIFY_STOP)
3702bc5f927SAlexander van Heukelum 		return 1;
3712bc5f927SAlexander van Heukelum 
3722bc5f927SAlexander van Heukelum 	show_registers(regs);
3732bc5f927SAlexander van Heukelum 	/* Executive summary in case the oops scrolled away */
3742bc5f927SAlexander van Heukelum 	sp = (unsigned long) (&regs->sp);
3752bc5f927SAlexander van Heukelum 	savesegment(ss, ss);
3762bc5f927SAlexander van Heukelum 	if (user_mode(regs)) {
3772bc5f927SAlexander van Heukelum 		sp = regs->sp;
3782bc5f927SAlexander van Heukelum 		ss = regs->ss & 0xffff;
3792bc5f927SAlexander van Heukelum 	}
3802bc5f927SAlexander van Heukelum 	printk(KERN_EMERG "EIP: [<%08lx>] ", regs->ip);
3812bc5f927SAlexander van Heukelum 	print_symbol("%s", regs->ip);
3822bc5f927SAlexander van Heukelum 	printk(" SS:ESP %04x:%08lx\n", ss, sp);
3832bc5f927SAlexander van Heukelum 	return 0;
3842bc5f927SAlexander van Heukelum }
3852bc5f927SAlexander van Heukelum 
3862bc5f927SAlexander van Heukelum /*
3872bc5f927SAlexander van Heukelum  * This is gone through when something in the kernel has done something bad
3882bc5f927SAlexander van Heukelum  * and is about to be terminated:
3892bc5f927SAlexander van Heukelum  */
3902bc5f927SAlexander van Heukelum void die(const char *str, struct pt_regs *regs, long err)
3912bc5f927SAlexander van Heukelum {
3922bc5f927SAlexander van Heukelum 	unsigned long flags = oops_begin();
3932bc5f927SAlexander van Heukelum 
3942bc5f927SAlexander van Heukelum 	if (die_nest_count < 3) {
3952bc5f927SAlexander van Heukelum 		report_bug(regs->ip, regs);
3962bc5f927SAlexander van Heukelum 
3972bc5f927SAlexander van Heukelum 		if (__die(str, regs, err))
3982bc5f927SAlexander van Heukelum 			regs = NULL;
3992bc5f927SAlexander van Heukelum 	} else {
4002bc5f927SAlexander van Heukelum 		printk(KERN_EMERG "Recursive die() failure, output suppressed\n");
4012bc5f927SAlexander van Heukelum 	}
4022bc5f927SAlexander van Heukelum 
4032bc5f927SAlexander van Heukelum 	oops_end(flags, regs, SIGSEGV);
4042bc5f927SAlexander van Heukelum }
4052bc5f927SAlexander van Heukelum 
406*dd6e4ebaSAlexander van Heukelum static DEFINE_SPINLOCK(nmi_print_lock);
407*dd6e4ebaSAlexander van Heukelum 
408*dd6e4ebaSAlexander van Heukelum void notrace __kprobes
409*dd6e4ebaSAlexander van Heukelum die_nmi(char *str, struct pt_regs *regs, int do_panic)
410*dd6e4ebaSAlexander van Heukelum {
411*dd6e4ebaSAlexander van Heukelum 	if (notify_die(DIE_NMIWATCHDOG, str, regs, 0, 2, SIGINT) == NOTIFY_STOP)
412*dd6e4ebaSAlexander van Heukelum 		return;
413*dd6e4ebaSAlexander van Heukelum 
414*dd6e4ebaSAlexander van Heukelum 	spin_lock(&nmi_print_lock);
415*dd6e4ebaSAlexander van Heukelum 	/*
416*dd6e4ebaSAlexander van Heukelum 	* We are in trouble anyway, lets at least try
417*dd6e4ebaSAlexander van Heukelum 	* to get a message out:
418*dd6e4ebaSAlexander van Heukelum 	*/
419*dd6e4ebaSAlexander van Heukelum 	bust_spinlocks(1);
420*dd6e4ebaSAlexander van Heukelum 	printk(KERN_EMERG "%s", str);
421*dd6e4ebaSAlexander van Heukelum 	printk(" on CPU%d, ip %08lx, registers:\n",
422*dd6e4ebaSAlexander van Heukelum 		smp_processor_id(), regs->ip);
423*dd6e4ebaSAlexander van Heukelum 	show_registers(regs);
424*dd6e4ebaSAlexander van Heukelum 	if (do_panic)
425*dd6e4ebaSAlexander van Heukelum 		panic("Non maskable interrupt");
426*dd6e4ebaSAlexander van Heukelum 	console_silent();
427*dd6e4ebaSAlexander van Heukelum 	spin_unlock(&nmi_print_lock);
428*dd6e4ebaSAlexander van Heukelum 	bust_spinlocks(0);
429*dd6e4ebaSAlexander van Heukelum 
430*dd6e4ebaSAlexander van Heukelum 	/*
431*dd6e4ebaSAlexander van Heukelum 	 * If we are in kernel we are probably nested up pretty bad
432*dd6e4ebaSAlexander van Heukelum 	 * and might aswell get out now while we still can:
433*dd6e4ebaSAlexander van Heukelum 	 */
434*dd6e4ebaSAlexander van Heukelum 	if (!user_mode_vm(regs)) {
435*dd6e4ebaSAlexander van Heukelum 		current->thread.trap_no = 2;
436*dd6e4ebaSAlexander van Heukelum 		crash_kexec(regs);
437*dd6e4ebaSAlexander van Heukelum 	}
438*dd6e4ebaSAlexander van Heukelum 
439*dd6e4ebaSAlexander van Heukelum 	do_exit(SIGSEGV);
440*dd6e4ebaSAlexander van Heukelum }
441*dd6e4ebaSAlexander van Heukelum 
4422bc5f927SAlexander van Heukelum static int __init kstack_setup(char *s)
4432bc5f927SAlexander van Heukelum {
4442bc5f927SAlexander van Heukelum 	kstack_depth_to_print = simple_strtoul(s, NULL, 0);
4452bc5f927SAlexander van Heukelum 
4462bc5f927SAlexander van Heukelum 	return 1;
4472bc5f927SAlexander van Heukelum }
4482bc5f927SAlexander van Heukelum __setup("kstack=", kstack_setup);
4492bc5f927SAlexander van Heukelum 
4502bc5f927SAlexander van Heukelum static int __init code_bytes_setup(char *s)
4512bc5f927SAlexander van Heukelum {
4522bc5f927SAlexander van Heukelum 	code_bytes = simple_strtoul(s, NULL, 0);
4532bc5f927SAlexander van Heukelum 	if (code_bytes > 8192)
4542bc5f927SAlexander van Heukelum 		code_bytes = 8192;
4552bc5f927SAlexander van Heukelum 
4562bc5f927SAlexander van Heukelum 	return 1;
4572bc5f927SAlexander van Heukelum }
4582bc5f927SAlexander van Heukelum __setup("code_bytes=", code_bytes_setup);
459