1db57feb7SJonathan Lemon /*- 2ee7eb00eSJonathan Lemon * Copyright (c) 1999,2000 Jonathan Lemon 3db57feb7SJonathan Lemon * All rights reserved. 4db57feb7SJonathan Lemon * 5db57feb7SJonathan Lemon # Derived from the original IDA Compaq RAID driver, which is 6db57feb7SJonathan Lemon * Copyright (c) 1996, 1997, 1998, 1999 7db57feb7SJonathan Lemon * Mark Dawson and David James. All rights reserved. 8db57feb7SJonathan Lemon * 9db57feb7SJonathan Lemon * Redistribution and use in source and binary forms, with or without 10db57feb7SJonathan Lemon * modification, are permitted provided that the following conditions 11db57feb7SJonathan Lemon * are met: 12db57feb7SJonathan Lemon * 1. Redistributions of source code must retain the above copyright 13db57feb7SJonathan Lemon * notice, this list of conditions and the following disclaimer. 14db57feb7SJonathan Lemon * 2. Redistributions in binary form must reproduce the above copyright 15db57feb7SJonathan Lemon * notice, this list of conditions and the following disclaimer in the 16db57feb7SJonathan Lemon * documentation and/or other materials provided with the distribution. 17db57feb7SJonathan Lemon * 18db57feb7SJonathan Lemon * THIS SOFTWARE IS PROVIDED BY THE AUTHOR AND CONTRIBUTORS ``AS IS'' AND 19db57feb7SJonathan Lemon * ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE 20db57feb7SJonathan Lemon * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE 21db57feb7SJonathan Lemon * ARE DISCLAIMED. IN NO EVENT SHALL THE AUTHOR OR CONTRIBUTORS BE LIABLE 22db57feb7SJonathan Lemon * FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL 23db57feb7SJonathan Lemon * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS 24db57feb7SJonathan Lemon * OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION) 25db57feb7SJonathan Lemon * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT 26db57feb7SJonathan Lemon * LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY 27db57feb7SJonathan Lemon * OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF 28db57feb7SJonathan Lemon * SUCH DAMAGE. 29db57feb7SJonathan Lemon * 30c3aac50fSPeter Wemm * $FreeBSD$ 31db57feb7SJonathan Lemon */ 32db57feb7SJonathan Lemon 33db57feb7SJonathan Lemon /* 34db57feb7SJonathan Lemon * Generic driver for Compaq SMART RAID adapters. 35db57feb7SJonathan Lemon * 36db57feb7SJonathan Lemon * Specific probe routines are in: 37db57feb7SJonathan Lemon * pci/ida_pci.c 38db57feb7SJonathan Lemon * i386/eisa/ida_eisa.c 39db57feb7SJonathan Lemon */ 40db57feb7SJonathan Lemon 41db57feb7SJonathan Lemon #include <sys/param.h> 4255d782fcSJonathan Lemon #include <sys/kernel.h> 43db57feb7SJonathan Lemon #include <sys/systm.h> 44db57feb7SJonathan Lemon #include <sys/malloc.h> 45db57feb7SJonathan Lemon 469626b608SPoul-Henning Kamp #include <sys/bio.h> 47db57feb7SJonathan Lemon #include <sys/bus.h> 48e5dc8339SPoul-Henning Kamp #include <sys/conf.h> 49db57feb7SJonathan Lemon 50db57feb7SJonathan Lemon #include <machine/bus_memio.h> 51db57feb7SJonathan Lemon #include <machine/bus_pio.h> 52db57feb7SJonathan Lemon #include <machine/bus.h> 53db57feb7SJonathan Lemon #include <sys/rman.h> 54db57feb7SJonathan Lemon 55891619a6SPoul-Henning Kamp #include <geom/geom_disk.h> 56891619a6SPoul-Henning Kamp 57db57feb7SJonathan Lemon #include <dev/ida/idareg.h> 58db57feb7SJonathan Lemon #include <dev/ida/idavar.h> 59db57feb7SJonathan Lemon 60db57feb7SJonathan Lemon /* prototypes */ 61db57feb7SJonathan Lemon static void ida_alloc_qcb(struct ida_softc *ida); 62db57feb7SJonathan Lemon static void ida_construct_qcb(struct ida_softc *ida); 63db57feb7SJonathan Lemon static void ida_start(struct ida_softc *ida); 64db57feb7SJonathan Lemon static void ida_done(struct ida_softc *ida, struct ida_qcb *qcb); 6555d782fcSJonathan Lemon static int ida_wait(struct ida_softc *ida, struct ida_qcb *qcb); 66db57feb7SJonathan Lemon 67db57feb7SJonathan Lemon void 68db57feb7SJonathan Lemon ida_free(struct ida_softc *ida) 69db57feb7SJonathan Lemon { 70ee7eb00eSJonathan Lemon int i; 71db57feb7SJonathan Lemon 72ee7eb00eSJonathan Lemon for (i = 0; i < ida->num_qcbs; i++) 73ee7eb00eSJonathan Lemon bus_dmamap_destroy(ida->buffer_dmat, ida->qcbs[i].dmamap); 74db57feb7SJonathan Lemon 75db57feb7SJonathan Lemon if (ida->hwqcb_busaddr) 76db57feb7SJonathan Lemon bus_dmamap_unload(ida->hwqcb_dmat, ida->hwqcb_dmamap); 77db57feb7SJonathan Lemon 78db57feb7SJonathan Lemon if (ida->hwqcbs) 79db57feb7SJonathan Lemon bus_dmamem_free(ida->hwqcb_dmat, ida->hwqcbs, 80db57feb7SJonathan Lemon ida->hwqcb_dmamap); 81db57feb7SJonathan Lemon 82db57feb7SJonathan Lemon if (ida->buffer_dmat) 83db57feb7SJonathan Lemon bus_dma_tag_destroy(ida->buffer_dmat); 84db57feb7SJonathan Lemon 85db57feb7SJonathan Lemon if (ida->hwqcb_dmat) 86db57feb7SJonathan Lemon bus_dma_tag_destroy(ida->hwqcb_dmat); 87db57feb7SJonathan Lemon 88db57feb7SJonathan Lemon if (ida->qcbs != NULL) 89db57feb7SJonathan Lemon free(ida->qcbs, M_DEVBUF); 90db57feb7SJonathan Lemon 91db57feb7SJonathan Lemon if (ida->ih != NULL) 92db57feb7SJonathan Lemon bus_teardown_intr(ida->dev, ida->irq, ida->ih); 93db57feb7SJonathan Lemon 94db57feb7SJonathan Lemon if (ida->irq != NULL) 95db57feb7SJonathan Lemon bus_release_resource(ida->dev, ida->irq_res_type, 96db57feb7SJonathan Lemon 0, ida->irq); 97db57feb7SJonathan Lemon 98db57feb7SJonathan Lemon if (ida->parent_dmat != NULL) 99db57feb7SJonathan Lemon bus_dma_tag_destroy(ida->parent_dmat); 100db57feb7SJonathan Lemon 101db57feb7SJonathan Lemon if (ida->regs != NULL) 102db57feb7SJonathan Lemon bus_release_resource(ida->dev, ida->regs_res_type, 103db57feb7SJonathan Lemon ida->regs_res_id, ida->regs); 104db57feb7SJonathan Lemon } 105db57feb7SJonathan Lemon 106db57feb7SJonathan Lemon /* 107db57feb7SJonathan Lemon * record bus address from bus_dmamap_load 108db57feb7SJonathan Lemon */ 109db57feb7SJonathan Lemon static void 110db57feb7SJonathan Lemon ida_dma_map_cb(void *arg, bus_dma_segment_t *segs, int nseg, int error) 111db57feb7SJonathan Lemon { 112db57feb7SJonathan Lemon bus_addr_t *baddr; 113db57feb7SJonathan Lemon 114db57feb7SJonathan Lemon baddr = (bus_addr_t *)arg; 115db57feb7SJonathan Lemon *baddr = segs->ds_addr; 116db57feb7SJonathan Lemon } 117db57feb7SJonathan Lemon 118db57feb7SJonathan Lemon static __inline struct ida_qcb * 119db57feb7SJonathan Lemon ida_get_qcb(struct ida_softc *ida) 120db57feb7SJonathan Lemon { 121db57feb7SJonathan Lemon struct ida_qcb *qcb; 122db57feb7SJonathan Lemon 123db57feb7SJonathan Lemon if ((qcb = SLIST_FIRST(&ida->free_qcbs)) != NULL) { 124db57feb7SJonathan Lemon SLIST_REMOVE_HEAD(&ida->free_qcbs, link.sle); 125db57feb7SJonathan Lemon } else { 126db57feb7SJonathan Lemon ida_alloc_qcb(ida); 127db57feb7SJonathan Lemon if ((qcb = SLIST_FIRST(&ida->free_qcbs)) != NULL) 128db57feb7SJonathan Lemon SLIST_REMOVE_HEAD(&ida->free_qcbs, link.sle); 129db57feb7SJonathan Lemon } 130db57feb7SJonathan Lemon return (qcb); 131db57feb7SJonathan Lemon } 132db57feb7SJonathan Lemon 133ee7eb00eSJonathan Lemon static __inline bus_addr_t 134ee7eb00eSJonathan Lemon idahwqcbvtop(struct ida_softc *ida, struct ida_hardware_qcb *hwqcb) 135ee7eb00eSJonathan Lemon { 136ee7eb00eSJonathan Lemon return (ida->hwqcb_busaddr + 137ee7eb00eSJonathan Lemon ((bus_addr_t)hwqcb - (bus_addr_t)ida->hwqcbs)); 138ee7eb00eSJonathan Lemon } 139ee7eb00eSJonathan Lemon 140ee7eb00eSJonathan Lemon static __inline struct ida_qcb * 141ee7eb00eSJonathan Lemon idahwqcbptov(struct ida_softc *ida, bus_addr_t hwqcb_addr) 142ee7eb00eSJonathan Lemon { 143ee7eb00eSJonathan Lemon struct ida_hardware_qcb *hwqcb; 144ee7eb00eSJonathan Lemon 145ee7eb00eSJonathan Lemon hwqcb = (struct ida_hardware_qcb *) 146ee7eb00eSJonathan Lemon ((bus_addr_t)ida->hwqcbs + (hwqcb_addr - ida->hwqcb_busaddr)); 147ee7eb00eSJonathan Lemon return (hwqcb->qcb); 148ee7eb00eSJonathan Lemon } 149ee7eb00eSJonathan Lemon 150db57feb7SJonathan Lemon /* 151db57feb7SJonathan Lemon * XXX 152db57feb7SJonathan Lemon * since we allocate all QCB space up front during initialization, then 153db57feb7SJonathan Lemon * why bother with this routine? 154db57feb7SJonathan Lemon */ 155db57feb7SJonathan Lemon static void 156db57feb7SJonathan Lemon ida_alloc_qcb(struct ida_softc *ida) 157db57feb7SJonathan Lemon { 158db57feb7SJonathan Lemon struct ida_qcb *qcb; 159db57feb7SJonathan Lemon int error; 160db57feb7SJonathan Lemon 161db57feb7SJonathan Lemon if (ida->num_qcbs >= IDA_QCB_MAX) 162db57feb7SJonathan Lemon return; 163db57feb7SJonathan Lemon 164db57feb7SJonathan Lemon qcb = &ida->qcbs[ida->num_qcbs]; 165db57feb7SJonathan Lemon 166db57feb7SJonathan Lemon error = bus_dmamap_create(ida->buffer_dmat, /*flags*/0, &qcb->dmamap); 167db57feb7SJonathan Lemon if (error != 0) 168db57feb7SJonathan Lemon return; 169db57feb7SJonathan Lemon 170db57feb7SJonathan Lemon qcb->flags = QCB_FREE; 171db57feb7SJonathan Lemon qcb->hwqcb = &ida->hwqcbs[ida->num_qcbs]; 172db57feb7SJonathan Lemon qcb->hwqcb->qcb = qcb; 173ee7eb00eSJonathan Lemon qcb->hwqcb_busaddr = idahwqcbvtop(ida, qcb->hwqcb); 174db57feb7SJonathan Lemon SLIST_INSERT_HEAD(&ida->free_qcbs, qcb, link.sle); 175db57feb7SJonathan Lemon ida->num_qcbs++; 176db57feb7SJonathan Lemon } 177db57feb7SJonathan Lemon 178db57feb7SJonathan Lemon int 179db57feb7SJonathan Lemon ida_init(struct ida_softc *ida) 180db57feb7SJonathan Lemon { 181db57feb7SJonathan Lemon int error; 182db57feb7SJonathan Lemon 183db57feb7SJonathan Lemon ida->unit = device_get_unit(ida->dev); 184db57feb7SJonathan Lemon ida->tag = rman_get_bustag(ida->regs); 185db57feb7SJonathan Lemon ida->bsh = rman_get_bushandle(ida->regs); 186db57feb7SJonathan Lemon 187db57feb7SJonathan Lemon SLIST_INIT(&ida->free_qcbs); 188db57feb7SJonathan Lemon STAILQ_INIT(&ida->qcb_queue); 1898177437dSPoul-Henning Kamp bioq_init(&ida->bio_queue); 190db57feb7SJonathan Lemon 191db57feb7SJonathan Lemon ida->qcbs = (struct ida_qcb *) 1927cc0979fSDavid Malone malloc(IDA_QCB_MAX * sizeof(struct ida_qcb), M_DEVBUF, 1937cc0979fSDavid Malone M_NOWAIT | M_ZERO); 194db57feb7SJonathan Lemon if (ida->qcbs == NULL) 195db57feb7SJonathan Lemon return (ENOMEM); 196db57feb7SJonathan Lemon 197db57feb7SJonathan Lemon /* 198db57feb7SJonathan Lemon * Create our DMA tags 199db57feb7SJonathan Lemon */ 200db57feb7SJonathan Lemon 201db57feb7SJonathan Lemon /* DMA tag for our hardware QCB structures */ 202db57feb7SJonathan Lemon error = bus_dma_tag_create(ida->parent_dmat, 203086646f7SJustin T. Gibbs /*alignment*/1, /*boundary*/0, 204db57feb7SJonathan Lemon /*lowaddr*/BUS_SPACE_MAXADDR, /*highaddr*/BUS_SPACE_MAXADDR, 205db57feb7SJonathan Lemon /*filter*/NULL, /*filterarg*/NULL, 206db57feb7SJonathan Lemon IDA_QCB_MAX * sizeof(struct ida_hardware_qcb), 207db57feb7SJonathan Lemon /*nsegments*/1, /*maxsegsz*/BUS_SPACE_MAXSIZE_32BIT, 208f6b1c44dSScott Long /*flags*/0, /*lockfunc*/busdma_lock_mutex, /*lockarg*/&Giant, 209f6b1c44dSScott Long &ida->hwqcb_dmat); 210db57feb7SJonathan Lemon if (error) 211db57feb7SJonathan Lemon return (ENOMEM); 212db57feb7SJonathan Lemon 213db57feb7SJonathan Lemon /* DMA tag for mapping buffers into device space */ 214db57feb7SJonathan Lemon error = bus_dma_tag_create(ida->parent_dmat, 215086646f7SJustin T. Gibbs /*alignment*/1, /*boundary*/0, 216db57feb7SJonathan Lemon /*lowaddr*/BUS_SPACE_MAXADDR, /*highaddr*/BUS_SPACE_MAXADDR, 217db57feb7SJonathan Lemon /*filter*/NULL, /*filterarg*/NULL, 218db57feb7SJonathan Lemon /*maxsize*/MAXBSIZE, /*nsegments*/IDA_NSEG, 219f6b1c44dSScott Long /*maxsegsz*/BUS_SPACE_MAXSIZE_32BIT, /*flags*/0, 220f6b1c44dSScott Long /*lockfunc*/busdma_lock_mutex, /*lockarg*/&Giant, &ida->buffer_dmat); 221db57feb7SJonathan Lemon if (error) 222db57feb7SJonathan Lemon return (ENOMEM); 223db57feb7SJonathan Lemon 224db57feb7SJonathan Lemon /* Allocation of hardware QCBs */ 225db57feb7SJonathan Lemon /* XXX allocation is rounded to hardware page size */ 226db57feb7SJonathan Lemon error = bus_dmamem_alloc(ida->hwqcb_dmat, 227db57feb7SJonathan Lemon (void **)&ida->hwqcbs, BUS_DMA_NOWAIT, &ida->hwqcb_dmamap); 228db57feb7SJonathan Lemon if (error) 229db57feb7SJonathan Lemon return (ENOMEM); 230db57feb7SJonathan Lemon 231db57feb7SJonathan Lemon /* And permanently map them in */ 232db57feb7SJonathan Lemon bus_dmamap_load(ida->hwqcb_dmat, ida->hwqcb_dmamap, 233db57feb7SJonathan Lemon ida->hwqcbs, IDA_QCB_MAX * sizeof(struct ida_hardware_qcb), 234db57feb7SJonathan Lemon ida_dma_map_cb, &ida->hwqcb_busaddr, /*flags*/0); 235db57feb7SJonathan Lemon 236db57feb7SJonathan Lemon bzero(ida->hwqcbs, IDA_QCB_MAX * sizeof(struct ida_hardware_qcb)); 237db57feb7SJonathan Lemon 238db57feb7SJonathan Lemon ida_alloc_qcb(ida); /* allocate an initial qcb */ 239db57feb7SJonathan Lemon 240db57feb7SJonathan Lemon return (0); 241db57feb7SJonathan Lemon } 242db57feb7SJonathan Lemon 243db57feb7SJonathan Lemon void 244db57feb7SJonathan Lemon ida_attach(struct ida_softc *ida) 245db57feb7SJonathan Lemon { 246db57feb7SJonathan Lemon struct ida_controller_info cinfo; 247db57feb7SJonathan Lemon int error, i; 248db57feb7SJonathan Lemon 249ee7eb00eSJonathan Lemon ida->cmd.int_enable(ida, 0); 250db57feb7SJonathan Lemon 251db57feb7SJonathan Lemon error = ida_command(ida, CMD_GET_CTRL_INFO, &cinfo, sizeof(cinfo), 25255d782fcSJonathan Lemon IDA_CONTROLLER, 0, DMA_DATA_IN); 253db57feb7SJonathan Lemon if (error) { 254db57feb7SJonathan Lemon device_printf(ida->dev, "CMD_GET_CTRL_INFO failed.\n"); 255db57feb7SJonathan Lemon return; 256db57feb7SJonathan Lemon } 257db57feb7SJonathan Lemon 258db57feb7SJonathan Lemon device_printf(ida->dev, "drives=%d firm_rev=%c%c%c%c\n", 259db57feb7SJonathan Lemon cinfo.num_drvs, cinfo.firm_rev[0], cinfo.firm_rev[1], 260db57feb7SJonathan Lemon cinfo.firm_rev[2], cinfo.firm_rev[3]); 261db57feb7SJonathan Lemon 2621277c3baSJonathan Lemon if (ida->flags & IDA_FIRMWARE) { 2631277c3baSJonathan Lemon int data; 264db57feb7SJonathan Lemon 2651277c3baSJonathan Lemon error = ida_command(ida, CMD_START_FIRMWARE, 26655d782fcSJonathan Lemon &data, sizeof(data), IDA_CONTROLLER, 0, DMA_DATA_IN); 2671277c3baSJonathan Lemon if (error) { 2681277c3baSJonathan Lemon device_printf(ida->dev, "CMD_START_FIRMWARE failed.\n"); 2691277c3baSJonathan Lemon return; 2701277c3baSJonathan Lemon } 2711277c3baSJonathan Lemon } 2721277c3baSJonathan Lemon 2731277c3baSJonathan Lemon ida->num_drives = 0; 2741277c3baSJonathan Lemon for (i = 0; i < cinfo.num_drvs; i++) 275ee7eb00eSJonathan Lemon device_add_child(ida->dev, /*"idad"*/NULL, -1); 276db57feb7SJonathan Lemon 277db57feb7SJonathan Lemon bus_generic_attach(ida->dev); 278db57feb7SJonathan Lemon 279ee7eb00eSJonathan Lemon ida->cmd.int_enable(ida, 1); 280ee7eb00eSJonathan Lemon } 281ee7eb00eSJonathan Lemon 282ee7eb00eSJonathan Lemon int 283ee7eb00eSJonathan Lemon ida_detach(device_t dev) 284ee7eb00eSJonathan Lemon { 285ee7eb00eSJonathan Lemon struct ida_softc *ida; 286ee7eb00eSJonathan Lemon int error = 0; 287ee7eb00eSJonathan Lemon 288ee7eb00eSJonathan Lemon ida = (struct ida_softc *)device_get_softc(dev); 289ee7eb00eSJonathan Lemon 290ee7eb00eSJonathan Lemon /* 291ee7eb00eSJonathan Lemon * XXX 292ee7eb00eSJonathan Lemon * before detaching, we must make sure that the system is 293ee7eb00eSJonathan Lemon * quiescent; nothing mounted, no pending activity. 294ee7eb00eSJonathan Lemon */ 295ee7eb00eSJonathan Lemon 296ee7eb00eSJonathan Lemon /* 297ee7eb00eSJonathan Lemon * XXX 298ee7eb00eSJonathan Lemon * now, how are we supposed to maintain a list of our drives? 299ee7eb00eSJonathan Lemon * iterate over our "child devices"? 300ee7eb00eSJonathan Lemon */ 301ee7eb00eSJonathan Lemon 302ee7eb00eSJonathan Lemon 303ee7eb00eSJonathan Lemon ida_free(ida); 304ee7eb00eSJonathan Lemon return (error); 305db57feb7SJonathan Lemon } 306db57feb7SJonathan Lemon 307db57feb7SJonathan Lemon static void 308db57feb7SJonathan Lemon ida_setup_dmamap(void *arg, bus_dma_segment_t *segs, int nsegments, int error) 309db57feb7SJonathan Lemon { 310db57feb7SJonathan Lemon struct ida_hardware_qcb *hwqcb = (struct ida_hardware_qcb *)arg; 311db57feb7SJonathan Lemon int i; 312db57feb7SJonathan Lemon 313db57feb7SJonathan Lemon hwqcb->hdr.size = (sizeof(struct ida_req) + 314db57feb7SJonathan Lemon sizeof(struct ida_sgb) * IDA_NSEG) >> 2; 315db57feb7SJonathan Lemon 316db57feb7SJonathan Lemon for (i = 0; i < nsegments; i++) { 317db57feb7SJonathan Lemon hwqcb->seg[i].addr = segs[i].ds_addr; 318db57feb7SJonathan Lemon hwqcb->seg[i].length = segs[i].ds_len; 319db57feb7SJonathan Lemon } 320db57feb7SJonathan Lemon hwqcb->req.sgcount = nsegments; 321db57feb7SJonathan Lemon } 322db57feb7SJonathan Lemon 323db57feb7SJonathan Lemon int 324db57feb7SJonathan Lemon ida_command(struct ida_softc *ida, int command, void *data, int datasize, 32555d782fcSJonathan Lemon int drive, u_int32_t pblkno, int flags) 326db57feb7SJonathan Lemon { 327db57feb7SJonathan Lemon struct ida_hardware_qcb *hwqcb; 328db57feb7SJonathan Lemon struct ida_qcb *qcb; 3297e71df93SScott Long bus_dmasync_op_t op; 33055d782fcSJonathan Lemon int s, error; 331db57feb7SJonathan Lemon 332db57feb7SJonathan Lemon s = splbio(); 333db57feb7SJonathan Lemon qcb = ida_get_qcb(ida); 334db57feb7SJonathan Lemon splx(s); 335db57feb7SJonathan Lemon 336db57feb7SJonathan Lemon if (qcb == NULL) { 337db57feb7SJonathan Lemon printf("ida_command: out of QCBs"); 33855d782fcSJonathan Lemon return (EAGAIN); 339db57feb7SJonathan Lemon } 340db57feb7SJonathan Lemon 341db57feb7SJonathan Lemon hwqcb = qcb->hwqcb; 342db57feb7SJonathan Lemon bzero(hwqcb, sizeof(struct ida_hdr) + sizeof(struct ida_req)); 343db57feb7SJonathan Lemon 344db57feb7SJonathan Lemon bus_dmamap_load(ida->buffer_dmat, qcb->dmamap, 345db57feb7SJonathan Lemon (void *)data, datasize, ida_setup_dmamap, hwqcb, 0); 346db57feb7SJonathan Lemon op = qcb->flags & DMA_DATA_IN ? 347db57feb7SJonathan Lemon BUS_DMASYNC_PREREAD : BUS_DMASYNC_PREWRITE; 348db57feb7SJonathan Lemon bus_dmamap_sync(ida->buffer_dmat, qcb->dmamap, op); 349db57feb7SJonathan Lemon 3501277c3baSJonathan Lemon hwqcb->hdr.drive = drive; 35155d782fcSJonathan Lemon hwqcb->req.blkno = pblkno; 352db57feb7SJonathan Lemon hwqcb->req.bcount = howmany(datasize, DEV_BSIZE); 353db57feb7SJonathan Lemon hwqcb->req.command = command; 354db57feb7SJonathan Lemon 355db57feb7SJonathan Lemon qcb->flags = flags | IDA_COMMAND; 356db57feb7SJonathan Lemon 357db57feb7SJonathan Lemon s = splbio(); 358db57feb7SJonathan Lemon STAILQ_INSERT_TAIL(&ida->qcb_queue, qcb, link.stqe); 359db57feb7SJonathan Lemon ida_start(ida); 36055d782fcSJonathan Lemon error = ida_wait(ida, qcb); 361db57feb7SJonathan Lemon splx(s); 362db57feb7SJonathan Lemon 363db57feb7SJonathan Lemon /* XXX should have status returned here? */ 364db57feb7SJonathan Lemon /* XXX have "status pointer" area in QCB? */ 365db57feb7SJonathan Lemon 36655d782fcSJonathan Lemon return (error); 367db57feb7SJonathan Lemon } 368db57feb7SJonathan Lemon 369db57feb7SJonathan Lemon void 3708177437dSPoul-Henning Kamp ida_submit_buf(struct ida_softc *ida, struct bio *bp) 371db57feb7SJonathan Lemon { 3728177437dSPoul-Henning Kamp bioq_insert_tail(&ida->bio_queue, bp); 373db57feb7SJonathan Lemon ida_construct_qcb(ida); 374db57feb7SJonathan Lemon ida_start(ida); 375db57feb7SJonathan Lemon } 376db57feb7SJonathan Lemon 377db57feb7SJonathan Lemon static void 378db57feb7SJonathan Lemon ida_construct_qcb(struct ida_softc *ida) 379db57feb7SJonathan Lemon { 380db57feb7SJonathan Lemon struct ida_hardware_qcb *hwqcb; 381db57feb7SJonathan Lemon struct ida_qcb *qcb; 3827e71df93SScott Long bus_dmasync_op_t op; 3838177437dSPoul-Henning Kamp struct bio *bp; 384db57feb7SJonathan Lemon 3858177437dSPoul-Henning Kamp bp = bioq_first(&ida->bio_queue); 386db57feb7SJonathan Lemon if (bp == NULL) 387db57feb7SJonathan Lemon return; /* no more buffers */ 388db57feb7SJonathan Lemon 389db57feb7SJonathan Lemon qcb = ida_get_qcb(ida); 390db57feb7SJonathan Lemon if (qcb == NULL) 391db57feb7SJonathan Lemon return; /* out of resources */ 392db57feb7SJonathan Lemon 3938177437dSPoul-Henning Kamp bioq_remove(&ida->bio_queue, bp); 394db57feb7SJonathan Lemon qcb->buf = bp; 395db57feb7SJonathan Lemon qcb->flags = 0; 396db57feb7SJonathan Lemon 397db57feb7SJonathan Lemon hwqcb = qcb->hwqcb; 398db57feb7SJonathan Lemon bzero(hwqcb, sizeof(struct ida_hdr) + sizeof(struct ida_req)); 399db57feb7SJonathan Lemon 400db57feb7SJonathan Lemon bus_dmamap_load(ida->buffer_dmat, qcb->dmamap, 4018177437dSPoul-Henning Kamp (void *)bp->bio_data, bp->bio_bcount, ida_setup_dmamap, hwqcb, 0); 402db57feb7SJonathan Lemon op = qcb->flags & DMA_DATA_IN ? 403db57feb7SJonathan Lemon BUS_DMASYNC_PREREAD : BUS_DMASYNC_PREWRITE; 404db57feb7SJonathan Lemon bus_dmamap_sync(ida->buffer_dmat, qcb->dmamap, op); 405db57feb7SJonathan Lemon 406db57feb7SJonathan Lemon { 40781530866SMatthew N. Dodd struct idad_softc *drv = (struct idad_softc *)bp->bio_driver1; 4081277c3baSJonathan Lemon hwqcb->hdr.drive = drv->drive; 409db57feb7SJonathan Lemon } 410db57feb7SJonathan Lemon 4118177437dSPoul-Henning Kamp hwqcb->req.blkno = bp->bio_pblkno; 4128177437dSPoul-Henning Kamp hwqcb->req.bcount = howmany(bp->bio_bcount, DEV_BSIZE); 4138177437dSPoul-Henning Kamp hwqcb->req.command = bp->bio_cmd == BIO_READ ? CMD_READ : CMD_WRITE; 414db57feb7SJonathan Lemon 415db57feb7SJonathan Lemon STAILQ_INSERT_TAIL(&ida->qcb_queue, qcb, link.stqe); 416db57feb7SJonathan Lemon } 417db57feb7SJonathan Lemon 418db57feb7SJonathan Lemon /* 419db57feb7SJonathan Lemon * This routine will be called from ida_intr in order to queue up more 420db57feb7SJonathan Lemon * I/O, meaning that we may be in an interrupt context. Hence, we should 421db57feb7SJonathan Lemon * not muck around with spl() in this routine. 422db57feb7SJonathan Lemon */ 423db57feb7SJonathan Lemon static void 424db57feb7SJonathan Lemon ida_start(struct ida_softc *ida) 425db57feb7SJonathan Lemon { 426db57feb7SJonathan Lemon struct ida_qcb *qcb; 427db57feb7SJonathan Lemon 428db57feb7SJonathan Lemon while ((qcb = STAILQ_FIRST(&ida->qcb_queue)) != NULL) { 429ee7eb00eSJonathan Lemon if (ida->cmd.fifo_full(ida)) 430ee7eb00eSJonathan Lemon break; 431db57feb7SJonathan Lemon STAILQ_REMOVE_HEAD(&ida->qcb_queue, link.stqe); 432db57feb7SJonathan Lemon /* 433db57feb7SJonathan Lemon * XXX 434db57feb7SJonathan Lemon * place the qcb on an active list and set a timeout? 435db57feb7SJonathan Lemon */ 436db57feb7SJonathan Lemon qcb->state = QCB_ACTIVE; 437ee7eb00eSJonathan Lemon ida->cmd.submit(ida, qcb); 438db57feb7SJonathan Lemon } 439db57feb7SJonathan Lemon } 440db57feb7SJonathan Lemon 44155d782fcSJonathan Lemon static int 44255d782fcSJonathan Lemon ida_wait(struct ida_softc *ida, struct ida_qcb *qcb) 443db57feb7SJonathan Lemon { 444db57feb7SJonathan Lemon struct ida_qcb *qcb_done = NULL; 445db57feb7SJonathan Lemon bus_addr_t completed; 44655d782fcSJonathan Lemon int delay; 447db57feb7SJonathan Lemon 44855d782fcSJonathan Lemon if (ida->flags & IDA_INTERRUPTS) { 449521f364bSDag-Erling Smørgrav if (tsleep(qcb, PRIBIO, "idacmd", 5 * hz)) 45055d782fcSJonathan Lemon return (ETIMEDOUT); 45155d782fcSJonathan Lemon return (0); 452db57feb7SJonathan Lemon } 453db57feb7SJonathan Lemon 45455d782fcSJonathan Lemon again: 45555d782fcSJonathan Lemon delay = 5 * 1000 * 100; /* 5 sec delay */ 456ee7eb00eSJonathan Lemon while ((completed = ida->cmd.done(ida)) == 0) { 457db57feb7SJonathan Lemon if (delay-- == 0) 45855d782fcSJonathan Lemon return (ETIMEDOUT); 459db57feb7SJonathan Lemon DELAY(10); 460db57feb7SJonathan Lemon } 461db57feb7SJonathan Lemon 462db57feb7SJonathan Lemon qcb_done = idahwqcbptov(ida, completed & ~3); 463db57feb7SJonathan Lemon if (qcb_done != qcb) 46455d782fcSJonathan Lemon goto again; 465db57feb7SJonathan Lemon ida_done(ida, qcb); 46655d782fcSJonathan Lemon return (0); 467db57feb7SJonathan Lemon } 468db57feb7SJonathan Lemon 469db57feb7SJonathan Lemon void 470db57feb7SJonathan Lemon ida_intr(void *data) 471db57feb7SJonathan Lemon { 472db57feb7SJonathan Lemon struct ida_softc *ida; 473db57feb7SJonathan Lemon struct ida_qcb *qcb; 474db57feb7SJonathan Lemon bus_addr_t completed; 475db57feb7SJonathan Lemon 476db57feb7SJonathan Lemon ida = (struct ida_softc *)data; 477db57feb7SJonathan Lemon 478ee7eb00eSJonathan Lemon if (ida->cmd.int_pending(ida) == 0) 479db57feb7SJonathan Lemon return; /* not our interrupt */ 480db57feb7SJonathan Lemon 481ee7eb00eSJonathan Lemon while ((completed = ida->cmd.done(ida)) != 0) { 482db57feb7SJonathan Lemon qcb = idahwqcbptov(ida, completed & ~3); 483db57feb7SJonathan Lemon 484db57feb7SJonathan Lemon if (qcb == NULL || qcb->state != QCB_ACTIVE) { 485db57feb7SJonathan Lemon device_printf(ida->dev, 486482a5259SJohn Baldwin "ignoring completion %jx\n", (intmax_t)completed); 487db57feb7SJonathan Lemon continue; 488db57feb7SJonathan Lemon } 489db57feb7SJonathan Lemon ida_done(ida, qcb); 490db57feb7SJonathan Lemon } 491db57feb7SJonathan Lemon ida_start(ida); 492db57feb7SJonathan Lemon } 493db57feb7SJonathan Lemon 494db57feb7SJonathan Lemon /* 495db57feb7SJonathan Lemon * should switch out command type; may be status, not just I/O. 496db57feb7SJonathan Lemon */ 497db57feb7SJonathan Lemon static void 498db57feb7SJonathan Lemon ida_done(struct ida_softc *ida, struct ida_qcb *qcb) 499db57feb7SJonathan Lemon { 500db57feb7SJonathan Lemon int error = 0; 501db57feb7SJonathan Lemon 502db57feb7SJonathan Lemon /* 503db57feb7SJonathan Lemon * finish up command 504db57feb7SJonathan Lemon */ 505db57feb7SJonathan Lemon if (qcb->flags & DMA_DATA_TRANSFER) { 5067e71df93SScott Long bus_dmasync_op_t op; 507db57feb7SJonathan Lemon 508db57feb7SJonathan Lemon op = qcb->flags & DMA_DATA_IN ? 509db57feb7SJonathan Lemon BUS_DMASYNC_POSTREAD : BUS_DMASYNC_POSTWRITE; 510db57feb7SJonathan Lemon bus_dmamap_sync(ida->buffer_dmat, qcb->dmamap, op); 511db57feb7SJonathan Lemon bus_dmamap_unload(ida->buffer_dmat, qcb->dmamap); 512db57feb7SJonathan Lemon } 513db57feb7SJonathan Lemon 514db57feb7SJonathan Lemon if (qcb->hwqcb->req.error & SOFT_ERROR) 515db57feb7SJonathan Lemon device_printf(ida->dev, "soft error\n"); 516db57feb7SJonathan Lemon if (qcb->hwqcb->req.error & HARD_ERROR) { 517db57feb7SJonathan Lemon error = 1; 518db57feb7SJonathan Lemon device_printf(ida->dev, "hard error\n"); 519db57feb7SJonathan Lemon } 520db57feb7SJonathan Lemon if (qcb->hwqcb->req.error & CMD_REJECTED) { 521db57feb7SJonathan Lemon error = 1; 522db57feb7SJonathan Lemon device_printf(ida->dev, "invalid request\n"); 523db57feb7SJonathan Lemon } 524db57feb7SJonathan Lemon 525db57feb7SJonathan Lemon if (qcb->flags & IDA_COMMAND) { 52655d782fcSJonathan Lemon if (ida->flags & IDA_INTERRUPTS) 527db57feb7SJonathan Lemon wakeup(qcb); 528db57feb7SJonathan Lemon } else { 529db57feb7SJonathan Lemon if (error) 5308177437dSPoul-Henning Kamp qcb->buf->bio_flags |= BIO_ERROR; 53181530866SMatthew N. Dodd idad_intr(qcb->buf); 532db57feb7SJonathan Lemon } 533db57feb7SJonathan Lemon 534db57feb7SJonathan Lemon qcb->state = QCB_FREE; 535db57feb7SJonathan Lemon SLIST_INSERT_HEAD(&ida->free_qcbs, qcb, link.sle); 536db57feb7SJonathan Lemon ida_construct_qcb(ida); 537db57feb7SJonathan Lemon } 538