1db57feb7SJonathan Lemon /*- 2ee7eb00eSJonathan Lemon * Copyright (c) 1999,2000 Jonathan Lemon 3db57feb7SJonathan Lemon * All rights reserved. 4db57feb7SJonathan Lemon * 5db57feb7SJonathan Lemon # Derived from the original IDA Compaq RAID driver, which is 6db57feb7SJonathan Lemon * Copyright (c) 1996, 1997, 1998, 1999 7db57feb7SJonathan Lemon * Mark Dawson and David James. All rights reserved. 8db57feb7SJonathan Lemon * 9db57feb7SJonathan Lemon * Redistribution and use in source and binary forms, with or without 10db57feb7SJonathan Lemon * modification, are permitted provided that the following conditions 11db57feb7SJonathan Lemon * are met: 12db57feb7SJonathan Lemon * 1. Redistributions of source code must retain the above copyright 13db57feb7SJonathan Lemon * notice, this list of conditions and the following disclaimer. 14db57feb7SJonathan Lemon * 2. Redistributions in binary form must reproduce the above copyright 15db57feb7SJonathan Lemon * notice, this list of conditions and the following disclaimer in the 16db57feb7SJonathan Lemon * documentation and/or other materials provided with the distribution. 17db57feb7SJonathan Lemon * 18db57feb7SJonathan Lemon * THIS SOFTWARE IS PROVIDED BY THE AUTHOR AND CONTRIBUTORS ``AS IS'' AND 19db57feb7SJonathan Lemon * ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE 20db57feb7SJonathan Lemon * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE 21db57feb7SJonathan Lemon * ARE DISCLAIMED. IN NO EVENT SHALL THE AUTHOR OR CONTRIBUTORS BE LIABLE 22db57feb7SJonathan Lemon * FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL 23db57feb7SJonathan Lemon * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS 24db57feb7SJonathan Lemon * OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION) 25db57feb7SJonathan Lemon * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT 26db57feb7SJonathan Lemon * LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY 27db57feb7SJonathan Lemon * OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF 28db57feb7SJonathan Lemon * SUCH DAMAGE. 29db57feb7SJonathan Lemon */ 30db57feb7SJonathan Lemon 31aad970f1SDavid E. O'Brien #include <sys/cdefs.h> 32aad970f1SDavid E. O'Brien __FBSDID("$FreeBSD$"); 33aad970f1SDavid E. O'Brien 34db57feb7SJonathan Lemon /* 35db57feb7SJonathan Lemon * Generic driver for Compaq SMART RAID adapters. 36db57feb7SJonathan Lemon * 37db57feb7SJonathan Lemon * Specific probe routines are in: 38db57feb7SJonathan Lemon * pci/ida_pci.c 39db57feb7SJonathan Lemon * i386/eisa/ida_eisa.c 40db57feb7SJonathan Lemon */ 41db57feb7SJonathan Lemon 42db57feb7SJonathan Lemon #include <sys/param.h> 4355d782fcSJonathan Lemon #include <sys/kernel.h> 44db57feb7SJonathan Lemon #include <sys/systm.h> 45db57feb7SJonathan Lemon #include <sys/malloc.h> 46db57feb7SJonathan Lemon 479626b608SPoul-Henning Kamp #include <sys/bio.h> 48db57feb7SJonathan Lemon #include <sys/bus.h> 49e5dc8339SPoul-Henning Kamp #include <sys/conf.h> 50db57feb7SJonathan Lemon 51db57feb7SJonathan Lemon #include <machine/bus_memio.h> 52db57feb7SJonathan Lemon #include <machine/bus_pio.h> 53db57feb7SJonathan Lemon #include <machine/bus.h> 54db57feb7SJonathan Lemon #include <sys/rman.h> 55db57feb7SJonathan Lemon 56891619a6SPoul-Henning Kamp #include <geom/geom_disk.h> 57891619a6SPoul-Henning Kamp 58db57feb7SJonathan Lemon #include <dev/ida/idareg.h> 59db57feb7SJonathan Lemon #include <dev/ida/idavar.h> 60db57feb7SJonathan Lemon 61db57feb7SJonathan Lemon /* prototypes */ 62db57feb7SJonathan Lemon static void ida_alloc_qcb(struct ida_softc *ida); 63db57feb7SJonathan Lemon static void ida_construct_qcb(struct ida_softc *ida); 64db57feb7SJonathan Lemon static void ida_start(struct ida_softc *ida); 65db57feb7SJonathan Lemon static void ida_done(struct ida_softc *ida, struct ida_qcb *qcb); 6655d782fcSJonathan Lemon static int ida_wait(struct ida_softc *ida, struct ida_qcb *qcb); 67db57feb7SJonathan Lemon 68db57feb7SJonathan Lemon void 69db57feb7SJonathan Lemon ida_free(struct ida_softc *ida) 70db57feb7SJonathan Lemon { 71ee7eb00eSJonathan Lemon int i; 72db57feb7SJonathan Lemon 73ee7eb00eSJonathan Lemon for (i = 0; i < ida->num_qcbs; i++) 74ee7eb00eSJonathan Lemon bus_dmamap_destroy(ida->buffer_dmat, ida->qcbs[i].dmamap); 75db57feb7SJonathan Lemon 76db57feb7SJonathan Lemon if (ida->hwqcb_busaddr) 77db57feb7SJonathan Lemon bus_dmamap_unload(ida->hwqcb_dmat, ida->hwqcb_dmamap); 78db57feb7SJonathan Lemon 79db57feb7SJonathan Lemon if (ida->hwqcbs) 80db57feb7SJonathan Lemon bus_dmamem_free(ida->hwqcb_dmat, ida->hwqcbs, 81db57feb7SJonathan Lemon ida->hwqcb_dmamap); 82db57feb7SJonathan Lemon 83db57feb7SJonathan Lemon if (ida->buffer_dmat) 84db57feb7SJonathan Lemon bus_dma_tag_destroy(ida->buffer_dmat); 85db57feb7SJonathan Lemon 86db57feb7SJonathan Lemon if (ida->hwqcb_dmat) 87db57feb7SJonathan Lemon bus_dma_tag_destroy(ida->hwqcb_dmat); 88db57feb7SJonathan Lemon 89db57feb7SJonathan Lemon if (ida->qcbs != NULL) 90db57feb7SJonathan Lemon free(ida->qcbs, M_DEVBUF); 91db57feb7SJonathan Lemon 92db57feb7SJonathan Lemon if (ida->ih != NULL) 93db57feb7SJonathan Lemon bus_teardown_intr(ida->dev, ida->irq, ida->ih); 94db57feb7SJonathan Lemon 95db57feb7SJonathan Lemon if (ida->irq != NULL) 96db57feb7SJonathan Lemon bus_release_resource(ida->dev, ida->irq_res_type, 97db57feb7SJonathan Lemon 0, ida->irq); 98db57feb7SJonathan Lemon 99db57feb7SJonathan Lemon if (ida->parent_dmat != NULL) 100db57feb7SJonathan Lemon bus_dma_tag_destroy(ida->parent_dmat); 101db57feb7SJonathan Lemon 102db57feb7SJonathan Lemon if (ida->regs != NULL) 103db57feb7SJonathan Lemon bus_release_resource(ida->dev, ida->regs_res_type, 104db57feb7SJonathan Lemon ida->regs_res_id, ida->regs); 105db57feb7SJonathan Lemon } 106db57feb7SJonathan Lemon 107db57feb7SJonathan Lemon /* 108db57feb7SJonathan Lemon * record bus address from bus_dmamap_load 109db57feb7SJonathan Lemon */ 110db57feb7SJonathan Lemon static void 111db57feb7SJonathan Lemon ida_dma_map_cb(void *arg, bus_dma_segment_t *segs, int nseg, int error) 112db57feb7SJonathan Lemon { 113db57feb7SJonathan Lemon bus_addr_t *baddr; 114db57feb7SJonathan Lemon 115db57feb7SJonathan Lemon baddr = (bus_addr_t *)arg; 116db57feb7SJonathan Lemon *baddr = segs->ds_addr; 117db57feb7SJonathan Lemon } 118db57feb7SJonathan Lemon 119db57feb7SJonathan Lemon static __inline struct ida_qcb * 120db57feb7SJonathan Lemon ida_get_qcb(struct ida_softc *ida) 121db57feb7SJonathan Lemon { 122db57feb7SJonathan Lemon struct ida_qcb *qcb; 123db57feb7SJonathan Lemon 124db57feb7SJonathan Lemon if ((qcb = SLIST_FIRST(&ida->free_qcbs)) != NULL) { 125db57feb7SJonathan Lemon SLIST_REMOVE_HEAD(&ida->free_qcbs, link.sle); 126db57feb7SJonathan Lemon } else { 127db57feb7SJonathan Lemon ida_alloc_qcb(ida); 128db57feb7SJonathan Lemon if ((qcb = SLIST_FIRST(&ida->free_qcbs)) != NULL) 129db57feb7SJonathan Lemon SLIST_REMOVE_HEAD(&ida->free_qcbs, link.sle); 130db57feb7SJonathan Lemon } 131db57feb7SJonathan Lemon return (qcb); 132db57feb7SJonathan Lemon } 133db57feb7SJonathan Lemon 134ee7eb00eSJonathan Lemon static __inline bus_addr_t 135ee7eb00eSJonathan Lemon idahwqcbvtop(struct ida_softc *ida, struct ida_hardware_qcb *hwqcb) 136ee7eb00eSJonathan Lemon { 137ee7eb00eSJonathan Lemon return (ida->hwqcb_busaddr + 138ee7eb00eSJonathan Lemon ((bus_addr_t)hwqcb - (bus_addr_t)ida->hwqcbs)); 139ee7eb00eSJonathan Lemon } 140ee7eb00eSJonathan Lemon 141ee7eb00eSJonathan Lemon static __inline struct ida_qcb * 142ee7eb00eSJonathan Lemon idahwqcbptov(struct ida_softc *ida, bus_addr_t hwqcb_addr) 143ee7eb00eSJonathan Lemon { 144ee7eb00eSJonathan Lemon struct ida_hardware_qcb *hwqcb; 145ee7eb00eSJonathan Lemon 146ee7eb00eSJonathan Lemon hwqcb = (struct ida_hardware_qcb *) 147ee7eb00eSJonathan Lemon ((bus_addr_t)ida->hwqcbs + (hwqcb_addr - ida->hwqcb_busaddr)); 148ee7eb00eSJonathan Lemon return (hwqcb->qcb); 149ee7eb00eSJonathan Lemon } 150ee7eb00eSJonathan Lemon 151db57feb7SJonathan Lemon /* 152db57feb7SJonathan Lemon * XXX 153db57feb7SJonathan Lemon * since we allocate all QCB space up front during initialization, then 154db57feb7SJonathan Lemon * why bother with this routine? 155db57feb7SJonathan Lemon */ 156db57feb7SJonathan Lemon static void 157db57feb7SJonathan Lemon ida_alloc_qcb(struct ida_softc *ida) 158db57feb7SJonathan Lemon { 159db57feb7SJonathan Lemon struct ida_qcb *qcb; 160db57feb7SJonathan Lemon int error; 161db57feb7SJonathan Lemon 162db57feb7SJonathan Lemon if (ida->num_qcbs >= IDA_QCB_MAX) 163db57feb7SJonathan Lemon return; 164db57feb7SJonathan Lemon 165db57feb7SJonathan Lemon qcb = &ida->qcbs[ida->num_qcbs]; 166db57feb7SJonathan Lemon 167db57feb7SJonathan Lemon error = bus_dmamap_create(ida->buffer_dmat, /*flags*/0, &qcb->dmamap); 168db57feb7SJonathan Lemon if (error != 0) 169db57feb7SJonathan Lemon return; 170db57feb7SJonathan Lemon 171db57feb7SJonathan Lemon qcb->flags = QCB_FREE; 172db57feb7SJonathan Lemon qcb->hwqcb = &ida->hwqcbs[ida->num_qcbs]; 173db57feb7SJonathan Lemon qcb->hwqcb->qcb = qcb; 174ee7eb00eSJonathan Lemon qcb->hwqcb_busaddr = idahwqcbvtop(ida, qcb->hwqcb); 175db57feb7SJonathan Lemon SLIST_INSERT_HEAD(&ida->free_qcbs, qcb, link.sle); 176db57feb7SJonathan Lemon ida->num_qcbs++; 177db57feb7SJonathan Lemon } 178db57feb7SJonathan Lemon 179db57feb7SJonathan Lemon int 180db57feb7SJonathan Lemon ida_init(struct ida_softc *ida) 181db57feb7SJonathan Lemon { 182db57feb7SJonathan Lemon int error; 183db57feb7SJonathan Lemon 184db57feb7SJonathan Lemon ida->unit = device_get_unit(ida->dev); 185db57feb7SJonathan Lemon ida->tag = rman_get_bustag(ida->regs); 186db57feb7SJonathan Lemon ida->bsh = rman_get_bushandle(ida->regs); 187db57feb7SJonathan Lemon 188db57feb7SJonathan Lemon SLIST_INIT(&ida->free_qcbs); 189db57feb7SJonathan Lemon STAILQ_INIT(&ida->qcb_queue); 1908177437dSPoul-Henning Kamp bioq_init(&ida->bio_queue); 191db57feb7SJonathan Lemon 192db57feb7SJonathan Lemon ida->qcbs = (struct ida_qcb *) 1937cc0979fSDavid Malone malloc(IDA_QCB_MAX * sizeof(struct ida_qcb), M_DEVBUF, 1947cc0979fSDavid Malone M_NOWAIT | M_ZERO); 195db57feb7SJonathan Lemon if (ida->qcbs == NULL) 196db57feb7SJonathan Lemon return (ENOMEM); 197db57feb7SJonathan Lemon 198db57feb7SJonathan Lemon /* 199db57feb7SJonathan Lemon * Create our DMA tags 200db57feb7SJonathan Lemon */ 201db57feb7SJonathan Lemon 202db57feb7SJonathan Lemon /* DMA tag for our hardware QCB structures */ 203db57feb7SJonathan Lemon error = bus_dma_tag_create(ida->parent_dmat, 204086646f7SJustin T. Gibbs /*alignment*/1, /*boundary*/0, 205db57feb7SJonathan Lemon /*lowaddr*/BUS_SPACE_MAXADDR, /*highaddr*/BUS_SPACE_MAXADDR, 206db57feb7SJonathan Lemon /*filter*/NULL, /*filterarg*/NULL, 207db57feb7SJonathan Lemon IDA_QCB_MAX * sizeof(struct ida_hardware_qcb), 208db57feb7SJonathan Lemon /*nsegments*/1, /*maxsegsz*/BUS_SPACE_MAXSIZE_32BIT, 209f6b1c44dSScott Long /*flags*/0, /*lockfunc*/busdma_lock_mutex, /*lockarg*/&Giant, 210f6b1c44dSScott Long &ida->hwqcb_dmat); 211db57feb7SJonathan Lemon if (error) 212db57feb7SJonathan Lemon return (ENOMEM); 213db57feb7SJonathan Lemon 214db57feb7SJonathan Lemon /* DMA tag for mapping buffers into device space */ 215db57feb7SJonathan Lemon error = bus_dma_tag_create(ida->parent_dmat, 216086646f7SJustin T. Gibbs /*alignment*/1, /*boundary*/0, 217db57feb7SJonathan Lemon /*lowaddr*/BUS_SPACE_MAXADDR, /*highaddr*/BUS_SPACE_MAXADDR, 218db57feb7SJonathan Lemon /*filter*/NULL, /*filterarg*/NULL, 219db57feb7SJonathan Lemon /*maxsize*/MAXBSIZE, /*nsegments*/IDA_NSEG, 220f6b1c44dSScott Long /*maxsegsz*/BUS_SPACE_MAXSIZE_32BIT, /*flags*/0, 221f6b1c44dSScott Long /*lockfunc*/busdma_lock_mutex, /*lockarg*/&Giant, &ida->buffer_dmat); 222db57feb7SJonathan Lemon if (error) 223db57feb7SJonathan Lemon return (ENOMEM); 224db57feb7SJonathan Lemon 225db57feb7SJonathan Lemon /* Allocation of hardware QCBs */ 226db57feb7SJonathan Lemon /* XXX allocation is rounded to hardware page size */ 227db57feb7SJonathan Lemon error = bus_dmamem_alloc(ida->hwqcb_dmat, 228db57feb7SJonathan Lemon (void **)&ida->hwqcbs, BUS_DMA_NOWAIT, &ida->hwqcb_dmamap); 229db57feb7SJonathan Lemon if (error) 230db57feb7SJonathan Lemon return (ENOMEM); 231db57feb7SJonathan Lemon 232db57feb7SJonathan Lemon /* And permanently map them in */ 233db57feb7SJonathan Lemon bus_dmamap_load(ida->hwqcb_dmat, ida->hwqcb_dmamap, 234db57feb7SJonathan Lemon ida->hwqcbs, IDA_QCB_MAX * sizeof(struct ida_hardware_qcb), 235db57feb7SJonathan Lemon ida_dma_map_cb, &ida->hwqcb_busaddr, /*flags*/0); 236db57feb7SJonathan Lemon 237db57feb7SJonathan Lemon bzero(ida->hwqcbs, IDA_QCB_MAX * sizeof(struct ida_hardware_qcb)); 238db57feb7SJonathan Lemon 239db57feb7SJonathan Lemon ida_alloc_qcb(ida); /* allocate an initial qcb */ 240db57feb7SJonathan Lemon 241db57feb7SJonathan Lemon return (0); 242db57feb7SJonathan Lemon } 243db57feb7SJonathan Lemon 244db57feb7SJonathan Lemon void 245db57feb7SJonathan Lemon ida_attach(struct ida_softc *ida) 246db57feb7SJonathan Lemon { 247db57feb7SJonathan Lemon struct ida_controller_info cinfo; 248db57feb7SJonathan Lemon int error, i; 249db57feb7SJonathan Lemon 250ee7eb00eSJonathan Lemon ida->cmd.int_enable(ida, 0); 251db57feb7SJonathan Lemon 252db57feb7SJonathan Lemon error = ida_command(ida, CMD_GET_CTRL_INFO, &cinfo, sizeof(cinfo), 25355d782fcSJonathan Lemon IDA_CONTROLLER, 0, DMA_DATA_IN); 254db57feb7SJonathan Lemon if (error) { 255db57feb7SJonathan Lemon device_printf(ida->dev, "CMD_GET_CTRL_INFO failed.\n"); 256db57feb7SJonathan Lemon return; 257db57feb7SJonathan Lemon } 258db57feb7SJonathan Lemon 259db57feb7SJonathan Lemon device_printf(ida->dev, "drives=%d firm_rev=%c%c%c%c\n", 260db57feb7SJonathan Lemon cinfo.num_drvs, cinfo.firm_rev[0], cinfo.firm_rev[1], 261db57feb7SJonathan Lemon cinfo.firm_rev[2], cinfo.firm_rev[3]); 262db57feb7SJonathan Lemon 2631277c3baSJonathan Lemon if (ida->flags & IDA_FIRMWARE) { 2641277c3baSJonathan Lemon int data; 265db57feb7SJonathan Lemon 2661277c3baSJonathan Lemon error = ida_command(ida, CMD_START_FIRMWARE, 26755d782fcSJonathan Lemon &data, sizeof(data), IDA_CONTROLLER, 0, DMA_DATA_IN); 2681277c3baSJonathan Lemon if (error) { 2691277c3baSJonathan Lemon device_printf(ida->dev, "CMD_START_FIRMWARE failed.\n"); 2701277c3baSJonathan Lemon return; 2711277c3baSJonathan Lemon } 2721277c3baSJonathan Lemon } 2731277c3baSJonathan Lemon 2741277c3baSJonathan Lemon ida->num_drives = 0; 2751277c3baSJonathan Lemon for (i = 0; i < cinfo.num_drvs; i++) 276ee7eb00eSJonathan Lemon device_add_child(ida->dev, /*"idad"*/NULL, -1); 277db57feb7SJonathan Lemon 278db57feb7SJonathan Lemon bus_generic_attach(ida->dev); 279db57feb7SJonathan Lemon 280ee7eb00eSJonathan Lemon ida->cmd.int_enable(ida, 1); 281ee7eb00eSJonathan Lemon } 282ee7eb00eSJonathan Lemon 283ee7eb00eSJonathan Lemon int 284ee7eb00eSJonathan Lemon ida_detach(device_t dev) 285ee7eb00eSJonathan Lemon { 286ee7eb00eSJonathan Lemon struct ida_softc *ida; 287ee7eb00eSJonathan Lemon int error = 0; 288ee7eb00eSJonathan Lemon 289ee7eb00eSJonathan Lemon ida = (struct ida_softc *)device_get_softc(dev); 290ee7eb00eSJonathan Lemon 291ee7eb00eSJonathan Lemon /* 292ee7eb00eSJonathan Lemon * XXX 293ee7eb00eSJonathan Lemon * before detaching, we must make sure that the system is 294ee7eb00eSJonathan Lemon * quiescent; nothing mounted, no pending activity. 295ee7eb00eSJonathan Lemon */ 296ee7eb00eSJonathan Lemon 297ee7eb00eSJonathan Lemon /* 298ee7eb00eSJonathan Lemon * XXX 299ee7eb00eSJonathan Lemon * now, how are we supposed to maintain a list of our drives? 300ee7eb00eSJonathan Lemon * iterate over our "child devices"? 301ee7eb00eSJonathan Lemon */ 302ee7eb00eSJonathan Lemon 303ee7eb00eSJonathan Lemon 304ee7eb00eSJonathan Lemon ida_free(ida); 305ee7eb00eSJonathan Lemon return (error); 306db57feb7SJonathan Lemon } 307db57feb7SJonathan Lemon 308db57feb7SJonathan Lemon static void 309db57feb7SJonathan Lemon ida_setup_dmamap(void *arg, bus_dma_segment_t *segs, int nsegments, int error) 310db57feb7SJonathan Lemon { 311db57feb7SJonathan Lemon struct ida_hardware_qcb *hwqcb = (struct ida_hardware_qcb *)arg; 312db57feb7SJonathan Lemon int i; 313db57feb7SJonathan Lemon 314db57feb7SJonathan Lemon hwqcb->hdr.size = (sizeof(struct ida_req) + 315db57feb7SJonathan Lemon sizeof(struct ida_sgb) * IDA_NSEG) >> 2; 316db57feb7SJonathan Lemon 317db57feb7SJonathan Lemon for (i = 0; i < nsegments; i++) { 318db57feb7SJonathan Lemon hwqcb->seg[i].addr = segs[i].ds_addr; 319db57feb7SJonathan Lemon hwqcb->seg[i].length = segs[i].ds_len; 320db57feb7SJonathan Lemon } 321db57feb7SJonathan Lemon hwqcb->req.sgcount = nsegments; 322db57feb7SJonathan Lemon } 323db57feb7SJonathan Lemon 324db57feb7SJonathan Lemon int 325db57feb7SJonathan Lemon ida_command(struct ida_softc *ida, int command, void *data, int datasize, 32655d782fcSJonathan Lemon int drive, u_int32_t pblkno, int flags) 327db57feb7SJonathan Lemon { 328db57feb7SJonathan Lemon struct ida_hardware_qcb *hwqcb; 329db57feb7SJonathan Lemon struct ida_qcb *qcb; 3307e71df93SScott Long bus_dmasync_op_t op; 33155d782fcSJonathan Lemon int s, error; 332db57feb7SJonathan Lemon 333db57feb7SJonathan Lemon s = splbio(); 334db57feb7SJonathan Lemon qcb = ida_get_qcb(ida); 335db57feb7SJonathan Lemon splx(s); 336db57feb7SJonathan Lemon 337db57feb7SJonathan Lemon if (qcb == NULL) { 338db57feb7SJonathan Lemon printf("ida_command: out of QCBs"); 33955d782fcSJonathan Lemon return (EAGAIN); 340db57feb7SJonathan Lemon } 341db57feb7SJonathan Lemon 342db57feb7SJonathan Lemon hwqcb = qcb->hwqcb; 343db57feb7SJonathan Lemon bzero(hwqcb, sizeof(struct ida_hdr) + sizeof(struct ida_req)); 344db57feb7SJonathan Lemon 345db57feb7SJonathan Lemon bus_dmamap_load(ida->buffer_dmat, qcb->dmamap, 346db57feb7SJonathan Lemon (void *)data, datasize, ida_setup_dmamap, hwqcb, 0); 347db57feb7SJonathan Lemon op = qcb->flags & DMA_DATA_IN ? 348db57feb7SJonathan Lemon BUS_DMASYNC_PREREAD : BUS_DMASYNC_PREWRITE; 349db57feb7SJonathan Lemon bus_dmamap_sync(ida->buffer_dmat, qcb->dmamap, op); 350db57feb7SJonathan Lemon 3511277c3baSJonathan Lemon hwqcb->hdr.drive = drive; 35255d782fcSJonathan Lemon hwqcb->req.blkno = pblkno; 353db57feb7SJonathan Lemon hwqcb->req.bcount = howmany(datasize, DEV_BSIZE); 354db57feb7SJonathan Lemon hwqcb->req.command = command; 355db57feb7SJonathan Lemon 356db57feb7SJonathan Lemon qcb->flags = flags | IDA_COMMAND; 357db57feb7SJonathan Lemon 358db57feb7SJonathan Lemon s = splbio(); 359db57feb7SJonathan Lemon STAILQ_INSERT_TAIL(&ida->qcb_queue, qcb, link.stqe); 360db57feb7SJonathan Lemon ida_start(ida); 36155d782fcSJonathan Lemon error = ida_wait(ida, qcb); 362db57feb7SJonathan Lemon splx(s); 363db57feb7SJonathan Lemon 364db57feb7SJonathan Lemon /* XXX should have status returned here? */ 365db57feb7SJonathan Lemon /* XXX have "status pointer" area in QCB? */ 366db57feb7SJonathan Lemon 36755d782fcSJonathan Lemon return (error); 368db57feb7SJonathan Lemon } 369db57feb7SJonathan Lemon 370db57feb7SJonathan Lemon void 3718177437dSPoul-Henning Kamp ida_submit_buf(struct ida_softc *ida, struct bio *bp) 372db57feb7SJonathan Lemon { 3738177437dSPoul-Henning Kamp bioq_insert_tail(&ida->bio_queue, bp); 374db57feb7SJonathan Lemon ida_construct_qcb(ida); 375db57feb7SJonathan Lemon ida_start(ida); 376db57feb7SJonathan Lemon } 377db57feb7SJonathan Lemon 378db57feb7SJonathan Lemon static void 379db57feb7SJonathan Lemon ida_construct_qcb(struct ida_softc *ida) 380db57feb7SJonathan Lemon { 381db57feb7SJonathan Lemon struct ida_hardware_qcb *hwqcb; 382db57feb7SJonathan Lemon struct ida_qcb *qcb; 3837e71df93SScott Long bus_dmasync_op_t op; 3848177437dSPoul-Henning Kamp struct bio *bp; 385db57feb7SJonathan Lemon 3868177437dSPoul-Henning Kamp bp = bioq_first(&ida->bio_queue); 387db57feb7SJonathan Lemon if (bp == NULL) 388db57feb7SJonathan Lemon return; /* no more buffers */ 389db57feb7SJonathan Lemon 390db57feb7SJonathan Lemon qcb = ida_get_qcb(ida); 391db57feb7SJonathan Lemon if (qcb == NULL) 392db57feb7SJonathan Lemon return; /* out of resources */ 393db57feb7SJonathan Lemon 3948177437dSPoul-Henning Kamp bioq_remove(&ida->bio_queue, bp); 395db57feb7SJonathan Lemon qcb->buf = bp; 396db57feb7SJonathan Lemon qcb->flags = 0; 397db57feb7SJonathan Lemon 398db57feb7SJonathan Lemon hwqcb = qcb->hwqcb; 399db57feb7SJonathan Lemon bzero(hwqcb, sizeof(struct ida_hdr) + sizeof(struct ida_req)); 400db57feb7SJonathan Lemon 401db57feb7SJonathan Lemon bus_dmamap_load(ida->buffer_dmat, qcb->dmamap, 4028177437dSPoul-Henning Kamp (void *)bp->bio_data, bp->bio_bcount, ida_setup_dmamap, hwqcb, 0); 403db57feb7SJonathan Lemon op = qcb->flags & DMA_DATA_IN ? 404db57feb7SJonathan Lemon BUS_DMASYNC_PREREAD : BUS_DMASYNC_PREWRITE; 405db57feb7SJonathan Lemon bus_dmamap_sync(ida->buffer_dmat, qcb->dmamap, op); 406db57feb7SJonathan Lemon 407db57feb7SJonathan Lemon { 40881530866SMatthew N. Dodd struct idad_softc *drv = (struct idad_softc *)bp->bio_driver1; 4091277c3baSJonathan Lemon hwqcb->hdr.drive = drv->drive; 410db57feb7SJonathan Lemon } 411db57feb7SJonathan Lemon 4128177437dSPoul-Henning Kamp hwqcb->req.blkno = bp->bio_pblkno; 4138177437dSPoul-Henning Kamp hwqcb->req.bcount = howmany(bp->bio_bcount, DEV_BSIZE); 4148177437dSPoul-Henning Kamp hwqcb->req.command = bp->bio_cmd == BIO_READ ? CMD_READ : CMD_WRITE; 415db57feb7SJonathan Lemon 416db57feb7SJonathan Lemon STAILQ_INSERT_TAIL(&ida->qcb_queue, qcb, link.stqe); 417db57feb7SJonathan Lemon } 418db57feb7SJonathan Lemon 419db57feb7SJonathan Lemon /* 420db57feb7SJonathan Lemon * This routine will be called from ida_intr in order to queue up more 421db57feb7SJonathan Lemon * I/O, meaning that we may be in an interrupt context. Hence, we should 422db57feb7SJonathan Lemon * not muck around with spl() in this routine. 423db57feb7SJonathan Lemon */ 424db57feb7SJonathan Lemon static void 425db57feb7SJonathan Lemon ida_start(struct ida_softc *ida) 426db57feb7SJonathan Lemon { 427db57feb7SJonathan Lemon struct ida_qcb *qcb; 428db57feb7SJonathan Lemon 429db57feb7SJonathan Lemon while ((qcb = STAILQ_FIRST(&ida->qcb_queue)) != NULL) { 430ee7eb00eSJonathan Lemon if (ida->cmd.fifo_full(ida)) 431ee7eb00eSJonathan Lemon break; 432db57feb7SJonathan Lemon STAILQ_REMOVE_HEAD(&ida->qcb_queue, link.stqe); 433db57feb7SJonathan Lemon /* 434db57feb7SJonathan Lemon * XXX 435db57feb7SJonathan Lemon * place the qcb on an active list and set a timeout? 436db57feb7SJonathan Lemon */ 437db57feb7SJonathan Lemon qcb->state = QCB_ACTIVE; 438ee7eb00eSJonathan Lemon ida->cmd.submit(ida, qcb); 439db57feb7SJonathan Lemon } 440db57feb7SJonathan Lemon } 441db57feb7SJonathan Lemon 44255d782fcSJonathan Lemon static int 44355d782fcSJonathan Lemon ida_wait(struct ida_softc *ida, struct ida_qcb *qcb) 444db57feb7SJonathan Lemon { 445db57feb7SJonathan Lemon struct ida_qcb *qcb_done = NULL; 446db57feb7SJonathan Lemon bus_addr_t completed; 44755d782fcSJonathan Lemon int delay; 448db57feb7SJonathan Lemon 44955d782fcSJonathan Lemon if (ida->flags & IDA_INTERRUPTS) { 450521f364bSDag-Erling Smørgrav if (tsleep(qcb, PRIBIO, "idacmd", 5 * hz)) 45155d782fcSJonathan Lemon return (ETIMEDOUT); 45255d782fcSJonathan Lemon return (0); 453db57feb7SJonathan Lemon } 454db57feb7SJonathan Lemon 45555d782fcSJonathan Lemon again: 45655d782fcSJonathan Lemon delay = 5 * 1000 * 100; /* 5 sec delay */ 457ee7eb00eSJonathan Lemon while ((completed = ida->cmd.done(ida)) == 0) { 458db57feb7SJonathan Lemon if (delay-- == 0) 45955d782fcSJonathan Lemon return (ETIMEDOUT); 460db57feb7SJonathan Lemon DELAY(10); 461db57feb7SJonathan Lemon } 462db57feb7SJonathan Lemon 463db57feb7SJonathan Lemon qcb_done = idahwqcbptov(ida, completed & ~3); 464db57feb7SJonathan Lemon if (qcb_done != qcb) 46555d782fcSJonathan Lemon goto again; 466db57feb7SJonathan Lemon ida_done(ida, qcb); 46755d782fcSJonathan Lemon return (0); 468db57feb7SJonathan Lemon } 469db57feb7SJonathan Lemon 470db57feb7SJonathan Lemon void 471db57feb7SJonathan Lemon ida_intr(void *data) 472db57feb7SJonathan Lemon { 473db57feb7SJonathan Lemon struct ida_softc *ida; 474db57feb7SJonathan Lemon struct ida_qcb *qcb; 475db57feb7SJonathan Lemon bus_addr_t completed; 476db57feb7SJonathan Lemon 477db57feb7SJonathan Lemon ida = (struct ida_softc *)data; 478db57feb7SJonathan Lemon 479ee7eb00eSJonathan Lemon if (ida->cmd.int_pending(ida) == 0) 480db57feb7SJonathan Lemon return; /* not our interrupt */ 481db57feb7SJonathan Lemon 482ee7eb00eSJonathan Lemon while ((completed = ida->cmd.done(ida)) != 0) { 483db57feb7SJonathan Lemon qcb = idahwqcbptov(ida, completed & ~3); 484db57feb7SJonathan Lemon 485db57feb7SJonathan Lemon if (qcb == NULL || qcb->state != QCB_ACTIVE) { 486db57feb7SJonathan Lemon device_printf(ida->dev, 487482a5259SJohn Baldwin "ignoring completion %jx\n", (intmax_t)completed); 488db57feb7SJonathan Lemon continue; 489db57feb7SJonathan Lemon } 490db57feb7SJonathan Lemon ida_done(ida, qcb); 491db57feb7SJonathan Lemon } 492db57feb7SJonathan Lemon ida_start(ida); 493db57feb7SJonathan Lemon } 494db57feb7SJonathan Lemon 495db57feb7SJonathan Lemon /* 496db57feb7SJonathan Lemon * should switch out command type; may be status, not just I/O. 497db57feb7SJonathan Lemon */ 498db57feb7SJonathan Lemon static void 499db57feb7SJonathan Lemon ida_done(struct ida_softc *ida, struct ida_qcb *qcb) 500db57feb7SJonathan Lemon { 501db57feb7SJonathan Lemon int error = 0; 502db57feb7SJonathan Lemon 503db57feb7SJonathan Lemon /* 504db57feb7SJonathan Lemon * finish up command 505db57feb7SJonathan Lemon */ 506db57feb7SJonathan Lemon if (qcb->flags & DMA_DATA_TRANSFER) { 5077e71df93SScott Long bus_dmasync_op_t op; 508db57feb7SJonathan Lemon 509db57feb7SJonathan Lemon op = qcb->flags & DMA_DATA_IN ? 510db57feb7SJonathan Lemon BUS_DMASYNC_POSTREAD : BUS_DMASYNC_POSTWRITE; 511db57feb7SJonathan Lemon bus_dmamap_sync(ida->buffer_dmat, qcb->dmamap, op); 512db57feb7SJonathan Lemon bus_dmamap_unload(ida->buffer_dmat, qcb->dmamap); 513db57feb7SJonathan Lemon } 514db57feb7SJonathan Lemon 515db57feb7SJonathan Lemon if (qcb->hwqcb->req.error & SOFT_ERROR) 516db57feb7SJonathan Lemon device_printf(ida->dev, "soft error\n"); 517db57feb7SJonathan Lemon if (qcb->hwqcb->req.error & HARD_ERROR) { 518db57feb7SJonathan Lemon error = 1; 519db57feb7SJonathan Lemon device_printf(ida->dev, "hard error\n"); 520db57feb7SJonathan Lemon } 521db57feb7SJonathan Lemon if (qcb->hwqcb->req.error & CMD_REJECTED) { 522db57feb7SJonathan Lemon error = 1; 523db57feb7SJonathan Lemon device_printf(ida->dev, "invalid request\n"); 524db57feb7SJonathan Lemon } 525db57feb7SJonathan Lemon 526db57feb7SJonathan Lemon if (qcb->flags & IDA_COMMAND) { 52755d782fcSJonathan Lemon if (ida->flags & IDA_INTERRUPTS) 528db57feb7SJonathan Lemon wakeup(qcb); 529db57feb7SJonathan Lemon } else { 530db57feb7SJonathan Lemon if (error) 5318177437dSPoul-Henning Kamp qcb->buf->bio_flags |= BIO_ERROR; 53281530866SMatthew N. Dodd idad_intr(qcb->buf); 533db57feb7SJonathan Lemon } 534db57feb7SJonathan Lemon 535db57feb7SJonathan Lemon qcb->state = QCB_FREE; 536db57feb7SJonathan Lemon SLIST_INSERT_HEAD(&ida->free_qcbs, qcb, link.sle); 537db57feb7SJonathan Lemon ida_construct_qcb(ida); 538db57feb7SJonathan Lemon } 539