xref: /linux/arch/sparc/lib/memcpy.S (revision 24bce201d79807b668bf9d9e0aca801c5c0d5f78) 
1/* SPDX-License-Identifier: GPL-2.0 */
2/* memcpy.S: Sparc optimized memcpy and memmove code
3 * Hand optimized from GNU libc's memcpy and memmove
4 * Copyright (C) 1991,1996 Free Software Foundation
5 * Copyright (C) 1995 Linus Torvalds (Linus.Torvalds@helsinki.fi)
6 * Copyright (C) 1996 David S. Miller (davem@caip.rutgers.edu)
7 * Copyright (C) 1996 Eddie C. Dost (ecd@skynet.be)
8 * Copyright (C) 1996 Jakub Jelinek (jj@sunsite.mff.cuni.cz)
9 */
10
11#include <asm/export.h>
12#define FUNC(x) 		\
13	.globl	x;		\
14	.type	x,@function;	\
15	.align	4;		\
16x:
17
18/* Both these macros have to start with exactly the same insn */
19#define MOVE_BIGCHUNK(src, dst, offset, t0, t1, t2, t3, t4, t5, t6, t7) \
20	ldd	[%src + (offset) + 0x00], %t0; \
21	ldd	[%src + (offset) + 0x08], %t2; \
22	ldd	[%src + (offset) + 0x10], %t4; \
23	ldd	[%src + (offset) + 0x18], %t6; \
24	st	%t0, [%dst + (offset) + 0x00]; \
25	st	%t1, [%dst + (offset) + 0x04]; \
26	st	%t2, [%dst + (offset) + 0x08]; \
27	st	%t3, [%dst + (offset) + 0x0c]; \
28	st	%t4, [%dst + (offset) + 0x10]; \
29	st	%t5, [%dst + (offset) + 0x14]; \
30	st	%t6, [%dst + (offset) + 0x18]; \
31	st	%t7, [%dst + (offset) + 0x1c];
32
33#define MOVE_BIGALIGNCHUNK(src, dst, offset, t0, t1, t2, t3, t4, t5, t6, t7) \
34	ldd	[%src + (offset) + 0x00], %t0; \
35	ldd	[%src + (offset) + 0x08], %t2; \
36	ldd	[%src + (offset) + 0x10], %t4; \
37	ldd	[%src + (offset) + 0x18], %t6; \
38	std	%t0, [%dst + (offset) + 0x00]; \
39	std	%t2, [%dst + (offset) + 0x08]; \
40	std	%t4, [%dst + (offset) + 0x10]; \
41	std	%t6, [%dst + (offset) + 0x18];
42
43#define MOVE_LASTCHUNK(src, dst, offset, t0, t1, t2, t3) \
44	ldd	[%src - (offset) - 0x10], %t0; \
45	ldd	[%src - (offset) - 0x08], %t2; \
46	st	%t0, [%dst - (offset) - 0x10]; \
47	st	%t1, [%dst - (offset) - 0x0c]; \
48	st	%t2, [%dst - (offset) - 0x08]; \
49	st	%t3, [%dst - (offset) - 0x04];
50
51#define MOVE_LASTALIGNCHUNK(src, dst, offset, t0, t1, t2, t3) \
52	ldd	[%src - (offset) - 0x10], %t0; \
53	ldd	[%src - (offset) - 0x08], %t2; \
54	std	%t0, [%dst - (offset) - 0x10]; \
55	std	%t2, [%dst - (offset) - 0x08];
56
57#define MOVE_SHORTCHUNK(src, dst, offset, t0, t1) \
58	ldub	[%src - (offset) - 0x02], %t0; \
59	ldub	[%src - (offset) - 0x01], %t1; \
60	stb	%t0, [%dst - (offset) - 0x02]; \
61	stb	%t1, [%dst - (offset) - 0x01];
62
63	.text
64	.align	4
65
66FUNC(memmove)
67EXPORT_SYMBOL(memmove)
68	cmp		%o0, %o1
69	mov		%o0, %g7
70	bleu		9f
71	 sub		%o0, %o1, %o4
72
73	add		%o1, %o2, %o3
74	cmp		%o3, %o0
75	bleu		0f
76	 andcc		%o4, 3, %o5
77
78	add		%o1, %o2, %o1
79	add		%o0, %o2, %o0
80	sub		%o1, 1, %o1
81	sub		%o0, 1, %o0
82
831:	/* reverse_bytes */
84
85	ldub		[%o1], %o4
86	subcc		%o2, 1, %o2
87	stb		%o4, [%o0]
88	sub		%o1, 1, %o1
89	bne		1b
90	 sub		%o0, 1, %o0
91
92	retl
93	 mov		%g7, %o0
94
95/* NOTE: This code is executed just for the cases,
96         where %src (=%o1) & 3 is != 0.
97	 We need to align it to 4. So, for (%src & 3)
98	 1 we need to do ldub,lduh
99	 2 lduh
100	 3 just ldub
101         so even if it looks weird, the branches
102         are correct here. -jj
103 */
10478:	/* dword_align */
105
106	andcc		%o1, 1, %g0
107	be		4f
108	 andcc		%o1, 2, %g0
109
110	ldub		[%o1], %g2
111	add		%o1, 1, %o1
112	stb		%g2, [%o0]
113	sub		%o2, 1, %o2
114	bne		3f
115	 add		%o0, 1, %o0
1164:
117	lduh		[%o1], %g2
118	add		%o1, 2, %o1
119	sth		%g2, [%o0]
120	sub		%o2, 2, %o2
121	b		3f
122	 add		%o0, 2, %o0
123
124FUNC(memcpy)	/* %o0=dst %o1=src %o2=len */
125EXPORT_SYMBOL(memcpy)
126
127	sub		%o0, %o1, %o4
128	mov		%o0, %g7
1299:
130	andcc		%o4, 3, %o5
1310:
132	bne		86f
133	 cmp		%o2, 15
134
135	bleu		90f
136	 andcc		%o1, 3, %g0
137
138	bne		78b
1393:
140	 andcc		%o1, 4, %g0
141
142	be		2f
143	 mov		%o2, %g1
144
145	ld		[%o1], %o4
146	sub		%g1, 4, %g1
147	st		%o4, [%o0]
148	add		%o1, 4, %o1
149	add		%o0, 4, %o0
1502:
151	andcc		%g1, 0xffffff80, %g0
152	be		3f
153	 andcc		%o0, 4, %g0
154
155	be		82f + 4
1565:
157	MOVE_BIGCHUNK(o1, o0, 0x00, o2, o3, o4, o5, g2, g3, g4, g5)
158	MOVE_BIGCHUNK(o1, o0, 0x20, o2, o3, o4, o5, g2, g3, g4, g5)
159	MOVE_BIGCHUNK(o1, o0, 0x40, o2, o3, o4, o5, g2, g3, g4, g5)
160	MOVE_BIGCHUNK(o1, o0, 0x60, o2, o3, o4, o5, g2, g3, g4, g5)
161	sub		%g1, 128, %g1
162	add		%o1, 128, %o1
163	cmp		%g1, 128
164	bge		5b
165	 add		%o0, 128, %o0
1663:
167	andcc		%g1, 0x70, %g4
168	be		80f
169	 andcc		%g1, 8, %g0
170
171	sethi		%hi(80f), %o5
172	srl		%g4, 1, %o4
173	add		%g4, %o4, %o4
174	add		%o1, %g4, %o1
175	sub		%o5, %o4, %o5
176	jmpl		%o5 + %lo(80f), %g0
177	 add		%o0, %g4, %o0
178
17979:	/* memcpy_table */
180
181	MOVE_LASTCHUNK(o1, o0, 0x60, g2, g3, g4, g5)
182	MOVE_LASTCHUNK(o1, o0, 0x50, g2, g3, g4, g5)
183	MOVE_LASTCHUNK(o1, o0, 0x40, g2, g3, g4, g5)
184	MOVE_LASTCHUNK(o1, o0, 0x30, g2, g3, g4, g5)
185	MOVE_LASTCHUNK(o1, o0, 0x20, g2, g3, g4, g5)
186	MOVE_LASTCHUNK(o1, o0, 0x10, g2, g3, g4, g5)
187	MOVE_LASTCHUNK(o1, o0, 0x00, g2, g3, g4, g5)
188
18980:	/* memcpy_table_end */
190	be		81f
191	 andcc		%g1, 4, %g0
192
193	ldd		[%o1], %g2
194	add		%o0, 8, %o0
195	st		%g2, [%o0 - 0x08]
196	add		%o1, 8, %o1
197	st		%g3, [%o0 - 0x04]
198
19981:	/* memcpy_last7 */
200
201	be		1f
202	 andcc		%g1, 2, %g0
203
204	ld		[%o1], %g2
205	add		%o1, 4, %o1
206	st		%g2, [%o0]
207	add		%o0, 4, %o0
2081:
209	be		1f
210	 andcc		%g1, 1, %g0
211
212	lduh		[%o1], %g2
213	add		%o1, 2, %o1
214	sth		%g2, [%o0]
215	add		%o0, 2, %o0
2161:
217	be		1f
218	 nop
219
220	ldub		[%o1], %g2
221	stb		%g2, [%o0]
2221:
223	retl
224	 mov		%g7, %o0
225
22682:	/* ldd_std */
227	MOVE_BIGALIGNCHUNK(o1, o0, 0x00, o2, o3, o4, o5, g2, g3, g4, g5)
228	MOVE_BIGALIGNCHUNK(o1, o0, 0x20, o2, o3, o4, o5, g2, g3, g4, g5)
229	MOVE_BIGALIGNCHUNK(o1, o0, 0x40, o2, o3, o4, o5, g2, g3, g4, g5)
230	MOVE_BIGALIGNCHUNK(o1, o0, 0x60, o2, o3, o4, o5, g2, g3, g4, g5)
231	subcc		%g1, 128, %g1
232	add		%o1, 128, %o1
233	cmp		%g1, 128
234	bge		82b
235	 add		%o0, 128, %o0
236
237	andcc		%g1, 0x70, %g4
238	be		84f
239	 andcc		%g1, 8, %g0
240
241	sethi		%hi(84f), %o5
242	add		%o1, %g4, %o1
243	sub		%o5, %g4, %o5
244	jmpl		%o5 + %lo(84f), %g0
245	 add		%o0, %g4, %o0
246
24783:	/* amemcpy_table */
248
249	MOVE_LASTALIGNCHUNK(o1, o0, 0x60, g2, g3, g4, g5)
250	MOVE_LASTALIGNCHUNK(o1, o0, 0x50, g2, g3, g4, g5)
251	MOVE_LASTALIGNCHUNK(o1, o0, 0x40, g2, g3, g4, g5)
252	MOVE_LASTALIGNCHUNK(o1, o0, 0x30, g2, g3, g4, g5)
253	MOVE_LASTALIGNCHUNK(o1, o0, 0x20, g2, g3, g4, g5)
254	MOVE_LASTALIGNCHUNK(o1, o0, 0x10, g2, g3, g4, g5)
255	MOVE_LASTALIGNCHUNK(o1, o0, 0x00, g2, g3, g4, g5)
256
25784:	/* amemcpy_table_end */
258	be		85f
259	 andcc		%g1, 4, %g0
260
261	ldd		[%o1], %g2
262	add		%o0, 8, %o0
263	std		%g2, [%o0 - 0x08]
264	add		%o1, 8, %o1
26585:	/* amemcpy_last7 */
266	be		1f
267	 andcc		%g1, 2, %g0
268
269	ld		[%o1], %g2
270	add		%o1, 4, %o1
271	st		%g2, [%o0]
272	add		%o0, 4, %o0
2731:
274	be		1f
275	 andcc		%g1, 1, %g0
276
277	lduh		[%o1], %g2
278	add		%o1, 2, %o1
279	sth		%g2, [%o0]
280	add		%o0, 2, %o0
2811:
282	be		1f
283	 nop
284
285	ldub		[%o1], %g2
286	stb		%g2, [%o0]
2871:
288	retl
289	 mov		%g7, %o0
290
29186:	/* non_aligned */
292	cmp		%o2, 6
293	bleu		88f
294	 nop
295
296	save		%sp, -96, %sp
297	andcc		%i0, 3, %g0
298	be		61f
299	 andcc		%i0, 1, %g0
300	be		60f
301	 andcc		%i0, 2, %g0
302
303	ldub		[%i1], %g5
304	add		%i1, 1, %i1
305	stb		%g5, [%i0]
306	sub		%i2, 1, %i2
307	bne		61f
308	 add		%i0, 1, %i0
30960:
310	ldub		[%i1], %g3
311	add		%i1, 2, %i1
312	stb		%g3, [%i0]
313	sub		%i2, 2, %i2
314	ldub		[%i1 - 1], %g3
315	add		%i0, 2, %i0
316	stb		%g3, [%i0 - 1]
31761:
318	and		%i1, 3, %g2
319	and		%i2, 0xc, %g3
320	and		%i1, -4, %i1
321	cmp		%g3, 4
322	sll		%g2, 3, %g4
323	mov		32, %g2
324	be		4f
325	 sub		%g2, %g4, %l0
326
327	blu		3f
328	 cmp		%g3, 0x8
329
330	be		2f
331	 srl		%i2, 2, %g3
332
333	ld		[%i1], %i3
334	add		%i0, -8, %i0
335	ld		[%i1 + 4], %i4
336	b		8f
337	 add		%g3, 1, %g3
3382:
339	ld		[%i1], %i4
340	add		%i0, -12, %i0
341	ld		[%i1 + 4], %i5
342	add		%g3, 2, %g3
343	b		9f
344	 add		%i1, -4, %i1
3453:
346	ld		[%i1], %g1
347	add		%i0, -4, %i0
348	ld		[%i1 + 4], %i3
349	srl		%i2, 2, %g3
350	b		7f
351	 add		%i1, 4, %i1
3524:
353	ld		[%i1], %i5
354	cmp		%i2, 7
355	ld		[%i1 + 4], %g1
356	srl		%i2, 2, %g3
357	bleu		10f
358	 add		%i1, 8, %i1
359
360	ld		[%i1], %i3
361	add		%g3, -1, %g3
3625:
363	sll		%i5, %g4, %g2
364	srl		%g1, %l0, %g5
365	or		%g2, %g5, %g2
366	st		%g2, [%i0]
3677:
368	ld		[%i1 + 4], %i4
369	sll		%g1, %g4, %g2
370	srl		%i3, %l0, %g5
371	or		%g2, %g5, %g2
372	st		%g2, [%i0 + 4]
3738:
374	ld		[%i1 + 8], %i5
375	sll		%i3, %g4, %g2
376	srl		%i4, %l0, %g5
377	or		%g2, %g5, %g2
378	st		%g2, [%i0 + 8]
3799:
380	ld		[%i1 + 12], %g1
381	sll		%i4, %g4, %g2
382	srl		%i5, %l0, %g5
383	addcc		%g3, -4, %g3
384	or		%g2, %g5, %g2
385	add		%i1, 16, %i1
386	st		%g2, [%i0 + 12]
387	add		%i0, 16, %i0
388	bne,a		5b
389	 ld		[%i1], %i3
39010:
391	sll		%i5, %g4, %g2
392	srl		%g1, %l0, %g5
393	srl		%l0, 3, %g3
394	or		%g2, %g5, %g2
395	sub		%i1, %g3, %i1
396	andcc		%i2, 2, %g0
397	st		%g2, [%i0]
398	be		1f
399	 andcc		%i2, 1, %g0
400
401	ldub		[%i1], %g2
402	add		%i1, 2, %i1
403	stb		%g2, [%i0 + 4]
404	add		%i0, 2, %i0
405	ldub		[%i1 - 1], %g2
406	stb		%g2, [%i0 + 3]
4071:
408	be		1f
409	 nop
410	ldub		[%i1], %g2
411	stb		%g2, [%i0 + 4]
4121:
413	ret
414	 restore	%g7, %g0, %o0
415
41688:	/* short_end */
417
418	and		%o2, 0xe, %o3
41920:
420	sethi		%hi(89f), %o5
421	sll		%o3, 3, %o4
422	add		%o0, %o3, %o0
423	sub		%o5, %o4, %o5
424	add		%o1, %o3, %o1
425	jmpl		%o5 + %lo(89f), %g0
426	 andcc		%o2, 1, %g0
427
428	MOVE_SHORTCHUNK(o1, o0, 0x0c, g2, g3)
429	MOVE_SHORTCHUNK(o1, o0, 0x0a, g2, g3)
430	MOVE_SHORTCHUNK(o1, o0, 0x08, g2, g3)
431	MOVE_SHORTCHUNK(o1, o0, 0x06, g2, g3)
432	MOVE_SHORTCHUNK(o1, o0, 0x04, g2, g3)
433	MOVE_SHORTCHUNK(o1, o0, 0x02, g2, g3)
434	MOVE_SHORTCHUNK(o1, o0, 0x00, g2, g3)
435
43689:	/* short_table_end */
437
438	be		1f
439	 nop
440
441	ldub		[%o1], %g2
442	stb		%g2, [%o0]
4431:
444	retl
445	 mov		%g7, %o0
446
44790:	/* short_aligned_end */
448	bne		88b
449	 andcc		%o2, 8, %g0
450
451	be		1f
452	 andcc		%o2, 4, %g0
453
454	ld		[%o1 + 0x00], %g2
455	ld		[%o1 + 0x04], %g3
456	add		%o1, 8, %o1
457	st		%g2, [%o0 + 0x00]
458	st		%g3, [%o0 + 0x04]
459	add		%o0, 8, %o0
4601:
461	b		81b
462	 mov		%o2, %g1
463