1db57feb7SJonathan Lemon /*- 2ee7eb00eSJonathan Lemon * Copyright (c) 1999,2000 Jonathan Lemon 3db57feb7SJonathan Lemon * All rights reserved. 4db57feb7SJonathan Lemon * 5db57feb7SJonathan Lemon # Derived from the original IDA Compaq RAID driver, which is 6db57feb7SJonathan Lemon * Copyright (c) 1996, 1997, 1998, 1999 7db57feb7SJonathan Lemon * Mark Dawson and David James. All rights reserved. 8db57feb7SJonathan Lemon * 9db57feb7SJonathan Lemon * Redistribution and use in source and binary forms, with or without 10db57feb7SJonathan Lemon * modification, are permitted provided that the following conditions 11db57feb7SJonathan Lemon * are met: 12db57feb7SJonathan Lemon * 1. Redistributions of source code must retain the above copyright 13db57feb7SJonathan Lemon * notice, this list of conditions and the following disclaimer. 14db57feb7SJonathan Lemon * 2. Redistributions in binary form must reproduce the above copyright 15db57feb7SJonathan Lemon * notice, this list of conditions and the following disclaimer in the 16db57feb7SJonathan Lemon * documentation and/or other materials provided with the distribution. 17db57feb7SJonathan Lemon * 18db57feb7SJonathan Lemon * THIS SOFTWARE IS PROVIDED BY THE AUTHOR AND CONTRIBUTORS ``AS IS'' AND 19db57feb7SJonathan Lemon * ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE 20db57feb7SJonathan Lemon * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE 21db57feb7SJonathan Lemon * ARE DISCLAIMED. IN NO EVENT SHALL THE AUTHOR OR CONTRIBUTORS BE LIABLE 22db57feb7SJonathan Lemon * FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL 23db57feb7SJonathan Lemon * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS 24db57feb7SJonathan Lemon * OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION) 25db57feb7SJonathan Lemon * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT 26db57feb7SJonathan Lemon * LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY 27db57feb7SJonathan Lemon * OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF 28db57feb7SJonathan Lemon * SUCH DAMAGE. 29db57feb7SJonathan Lemon */ 30db57feb7SJonathan Lemon 31aad970f1SDavid E. O'Brien #include <sys/cdefs.h> 32aad970f1SDavid E. O'Brien __FBSDID("$FreeBSD$"); 33aad970f1SDavid E. O'Brien 34db57feb7SJonathan Lemon /* 35db57feb7SJonathan Lemon * Generic driver for Compaq SMART RAID adapters. 36db57feb7SJonathan Lemon */ 37db57feb7SJonathan Lemon 38db57feb7SJonathan Lemon #include <sys/param.h> 3955d782fcSJonathan Lemon #include <sys/kernel.h> 40db57feb7SJonathan Lemon #include <sys/systm.h> 41db57feb7SJonathan Lemon #include <sys/malloc.h> 42db57feb7SJonathan Lemon 439626b608SPoul-Henning Kamp #include <sys/bio.h> 44db57feb7SJonathan Lemon #include <sys/bus.h> 45e5dc8339SPoul-Henning Kamp #include <sys/conf.h> 46cacc81a6SMatthew N. Dodd #include <sys/endian.h> 47db57feb7SJonathan Lemon 48db57feb7SJonathan Lemon #include <machine/bus_memio.h> 49db57feb7SJonathan Lemon #include <machine/bus_pio.h> 50db57feb7SJonathan Lemon #include <machine/bus.h> 51db57feb7SJonathan Lemon #include <sys/rman.h> 52db57feb7SJonathan Lemon 53891619a6SPoul-Henning Kamp #include <geom/geom_disk.h> 54891619a6SPoul-Henning Kamp 55db57feb7SJonathan Lemon #include <dev/ida/idareg.h> 56db57feb7SJonathan Lemon #include <dev/ida/idavar.h> 57db57feb7SJonathan Lemon 58db57feb7SJonathan Lemon /* prototypes */ 59db57feb7SJonathan Lemon static void ida_alloc_qcb(struct ida_softc *ida); 60db57feb7SJonathan Lemon static void ida_construct_qcb(struct ida_softc *ida); 61db57feb7SJonathan Lemon static void ida_start(struct ida_softc *ida); 62db57feb7SJonathan Lemon static void ida_done(struct ida_softc *ida, struct ida_qcb *qcb); 6355d782fcSJonathan Lemon static int ida_wait(struct ida_softc *ida, struct ida_qcb *qcb); 64db57feb7SJonathan Lemon 65db57feb7SJonathan Lemon void 66db57feb7SJonathan Lemon ida_free(struct ida_softc *ida) 67db57feb7SJonathan Lemon { 68ee7eb00eSJonathan Lemon int i; 69db57feb7SJonathan Lemon 70ee7eb00eSJonathan Lemon for (i = 0; i < ida->num_qcbs; i++) 71ee7eb00eSJonathan Lemon bus_dmamap_destroy(ida->buffer_dmat, ida->qcbs[i].dmamap); 72db57feb7SJonathan Lemon 73db57feb7SJonathan Lemon if (ida->hwqcb_busaddr) 74db57feb7SJonathan Lemon bus_dmamap_unload(ida->hwqcb_dmat, ida->hwqcb_dmamap); 75db57feb7SJonathan Lemon 76db57feb7SJonathan Lemon if (ida->hwqcbs) 77db57feb7SJonathan Lemon bus_dmamem_free(ida->hwqcb_dmat, ida->hwqcbs, 78db57feb7SJonathan Lemon ida->hwqcb_dmamap); 79db57feb7SJonathan Lemon 80db57feb7SJonathan Lemon if (ida->buffer_dmat) 81db57feb7SJonathan Lemon bus_dma_tag_destroy(ida->buffer_dmat); 82db57feb7SJonathan Lemon 83db57feb7SJonathan Lemon if (ida->hwqcb_dmat) 84db57feb7SJonathan Lemon bus_dma_tag_destroy(ida->hwqcb_dmat); 85db57feb7SJonathan Lemon 86db57feb7SJonathan Lemon if (ida->qcbs != NULL) 87db57feb7SJonathan Lemon free(ida->qcbs, M_DEVBUF); 88db57feb7SJonathan Lemon 89db57feb7SJonathan Lemon if (ida->ih != NULL) 90db57feb7SJonathan Lemon bus_teardown_intr(ida->dev, ida->irq, ida->ih); 91db57feb7SJonathan Lemon 92db57feb7SJonathan Lemon if (ida->irq != NULL) 93db57feb7SJonathan Lemon bus_release_resource(ida->dev, ida->irq_res_type, 94db57feb7SJonathan Lemon 0, ida->irq); 95db57feb7SJonathan Lemon 96db57feb7SJonathan Lemon if (ida->parent_dmat != NULL) 97db57feb7SJonathan Lemon bus_dma_tag_destroy(ida->parent_dmat); 98db57feb7SJonathan Lemon 99db57feb7SJonathan Lemon if (ida->regs != NULL) 100db57feb7SJonathan Lemon bus_release_resource(ida->dev, ida->regs_res_type, 101db57feb7SJonathan Lemon ida->regs_res_id, ida->regs); 102db57feb7SJonathan Lemon } 103db57feb7SJonathan Lemon 104db57feb7SJonathan Lemon /* 105db57feb7SJonathan Lemon * record bus address from bus_dmamap_load 106db57feb7SJonathan Lemon */ 107db57feb7SJonathan Lemon static void 108db57feb7SJonathan Lemon ida_dma_map_cb(void *arg, bus_dma_segment_t *segs, int nseg, int error) 109db57feb7SJonathan Lemon { 110db57feb7SJonathan Lemon bus_addr_t *baddr; 111db57feb7SJonathan Lemon 112db57feb7SJonathan Lemon baddr = (bus_addr_t *)arg; 113db57feb7SJonathan Lemon *baddr = segs->ds_addr; 114db57feb7SJonathan Lemon } 115db57feb7SJonathan Lemon 116db57feb7SJonathan Lemon static __inline struct ida_qcb * 117db57feb7SJonathan Lemon ida_get_qcb(struct ida_softc *ida) 118db57feb7SJonathan Lemon { 119db57feb7SJonathan Lemon struct ida_qcb *qcb; 120db57feb7SJonathan Lemon 121db57feb7SJonathan Lemon if ((qcb = SLIST_FIRST(&ida->free_qcbs)) != NULL) { 122db57feb7SJonathan Lemon SLIST_REMOVE_HEAD(&ida->free_qcbs, link.sle); 123db57feb7SJonathan Lemon } else { 124db57feb7SJonathan Lemon ida_alloc_qcb(ida); 125db57feb7SJonathan Lemon if ((qcb = SLIST_FIRST(&ida->free_qcbs)) != NULL) 126db57feb7SJonathan Lemon SLIST_REMOVE_HEAD(&ida->free_qcbs, link.sle); 127db57feb7SJonathan Lemon } 128db57feb7SJonathan Lemon return (qcb); 129db57feb7SJonathan Lemon } 130db57feb7SJonathan Lemon 131ee7eb00eSJonathan Lemon static __inline bus_addr_t 132ee7eb00eSJonathan Lemon idahwqcbvtop(struct ida_softc *ida, struct ida_hardware_qcb *hwqcb) 133ee7eb00eSJonathan Lemon { 134ee7eb00eSJonathan Lemon return (ida->hwqcb_busaddr + 135ee7eb00eSJonathan Lemon ((bus_addr_t)hwqcb - (bus_addr_t)ida->hwqcbs)); 136ee7eb00eSJonathan Lemon } 137ee7eb00eSJonathan Lemon 138ee7eb00eSJonathan Lemon static __inline struct ida_qcb * 139ee7eb00eSJonathan Lemon idahwqcbptov(struct ida_softc *ida, bus_addr_t hwqcb_addr) 140ee7eb00eSJonathan Lemon { 141ee7eb00eSJonathan Lemon struct ida_hardware_qcb *hwqcb; 142ee7eb00eSJonathan Lemon 143ee7eb00eSJonathan Lemon hwqcb = (struct ida_hardware_qcb *) 144ee7eb00eSJonathan Lemon ((bus_addr_t)ida->hwqcbs + (hwqcb_addr - ida->hwqcb_busaddr)); 145ee7eb00eSJonathan Lemon return (hwqcb->qcb); 146ee7eb00eSJonathan Lemon } 147ee7eb00eSJonathan Lemon 148db57feb7SJonathan Lemon /* 149db57feb7SJonathan Lemon * XXX 150db57feb7SJonathan Lemon * since we allocate all QCB space up front during initialization, then 151db57feb7SJonathan Lemon * why bother with this routine? 152db57feb7SJonathan Lemon */ 153db57feb7SJonathan Lemon static void 154db57feb7SJonathan Lemon ida_alloc_qcb(struct ida_softc *ida) 155db57feb7SJonathan Lemon { 156db57feb7SJonathan Lemon struct ida_qcb *qcb; 157db57feb7SJonathan Lemon int error; 158db57feb7SJonathan Lemon 159db57feb7SJonathan Lemon if (ida->num_qcbs >= IDA_QCB_MAX) 160db57feb7SJonathan Lemon return; 161db57feb7SJonathan Lemon 162db57feb7SJonathan Lemon qcb = &ida->qcbs[ida->num_qcbs]; 163db57feb7SJonathan Lemon 164db57feb7SJonathan Lemon error = bus_dmamap_create(ida->buffer_dmat, /*flags*/0, &qcb->dmamap); 165db57feb7SJonathan Lemon if (error != 0) 166db57feb7SJonathan Lemon return; 167db57feb7SJonathan Lemon 168db57feb7SJonathan Lemon qcb->flags = QCB_FREE; 169db57feb7SJonathan Lemon qcb->hwqcb = &ida->hwqcbs[ida->num_qcbs]; 170db57feb7SJonathan Lemon qcb->hwqcb->qcb = qcb; 171ee7eb00eSJonathan Lemon qcb->hwqcb_busaddr = idahwqcbvtop(ida, qcb->hwqcb); 172db57feb7SJonathan Lemon SLIST_INSERT_HEAD(&ida->free_qcbs, qcb, link.sle); 173db57feb7SJonathan Lemon ida->num_qcbs++; 174db57feb7SJonathan Lemon } 175db57feb7SJonathan Lemon 176db57feb7SJonathan Lemon int 177db57feb7SJonathan Lemon ida_init(struct ida_softc *ida) 178db57feb7SJonathan Lemon { 179db57feb7SJonathan Lemon int error; 180db57feb7SJonathan Lemon 181db57feb7SJonathan Lemon ida->unit = device_get_unit(ida->dev); 182db57feb7SJonathan Lemon ida->tag = rman_get_bustag(ida->regs); 183db57feb7SJonathan Lemon ida->bsh = rman_get_bushandle(ida->regs); 184db57feb7SJonathan Lemon 185db57feb7SJonathan Lemon SLIST_INIT(&ida->free_qcbs); 186db57feb7SJonathan Lemon STAILQ_INIT(&ida->qcb_queue); 1878177437dSPoul-Henning Kamp bioq_init(&ida->bio_queue); 188db57feb7SJonathan Lemon 189db57feb7SJonathan Lemon ida->qcbs = (struct ida_qcb *) 1907cc0979fSDavid Malone malloc(IDA_QCB_MAX * sizeof(struct ida_qcb), M_DEVBUF, 1917cc0979fSDavid Malone M_NOWAIT | M_ZERO); 192db57feb7SJonathan Lemon if (ida->qcbs == NULL) 193db57feb7SJonathan Lemon return (ENOMEM); 194db57feb7SJonathan Lemon 195db57feb7SJonathan Lemon /* 196db57feb7SJonathan Lemon * Create our DMA tags 197db57feb7SJonathan Lemon */ 198db57feb7SJonathan Lemon 199db57feb7SJonathan Lemon /* DMA tag for our hardware QCB structures */ 200db57feb7SJonathan Lemon error = bus_dma_tag_create(ida->parent_dmat, 201086646f7SJustin T. Gibbs /*alignment*/1, /*boundary*/0, 202db57feb7SJonathan Lemon /*lowaddr*/BUS_SPACE_MAXADDR, /*highaddr*/BUS_SPACE_MAXADDR, 203db57feb7SJonathan Lemon /*filter*/NULL, /*filterarg*/NULL, 204db57feb7SJonathan Lemon IDA_QCB_MAX * sizeof(struct ida_hardware_qcb), 205db57feb7SJonathan Lemon /*nsegments*/1, /*maxsegsz*/BUS_SPACE_MAXSIZE_32BIT, 206f6b1c44dSScott Long /*flags*/0, /*lockfunc*/busdma_lock_mutex, /*lockarg*/&Giant, 207f6b1c44dSScott Long &ida->hwqcb_dmat); 208db57feb7SJonathan Lemon if (error) 209db57feb7SJonathan Lemon return (ENOMEM); 210db57feb7SJonathan Lemon 211db57feb7SJonathan Lemon /* DMA tag for mapping buffers into device space */ 212db57feb7SJonathan Lemon error = bus_dma_tag_create(ida->parent_dmat, 213086646f7SJustin T. Gibbs /*alignment*/1, /*boundary*/0, 214db57feb7SJonathan Lemon /*lowaddr*/BUS_SPACE_MAXADDR, /*highaddr*/BUS_SPACE_MAXADDR, 215db57feb7SJonathan Lemon /*filter*/NULL, /*filterarg*/NULL, 216db57feb7SJonathan Lemon /*maxsize*/MAXBSIZE, /*nsegments*/IDA_NSEG, 217f6b1c44dSScott Long /*maxsegsz*/BUS_SPACE_MAXSIZE_32BIT, /*flags*/0, 218f6b1c44dSScott Long /*lockfunc*/busdma_lock_mutex, /*lockarg*/&Giant, &ida->buffer_dmat); 219db57feb7SJonathan Lemon if (error) 220db57feb7SJonathan Lemon return (ENOMEM); 221db57feb7SJonathan Lemon 222db57feb7SJonathan Lemon /* Allocation of hardware QCBs */ 223db57feb7SJonathan Lemon /* XXX allocation is rounded to hardware page size */ 224db57feb7SJonathan Lemon error = bus_dmamem_alloc(ida->hwqcb_dmat, 225db57feb7SJonathan Lemon (void **)&ida->hwqcbs, BUS_DMA_NOWAIT, &ida->hwqcb_dmamap); 226db57feb7SJonathan Lemon if (error) 227db57feb7SJonathan Lemon return (ENOMEM); 228db57feb7SJonathan Lemon 229db57feb7SJonathan Lemon /* And permanently map them in */ 230db57feb7SJonathan Lemon bus_dmamap_load(ida->hwqcb_dmat, ida->hwqcb_dmamap, 231db57feb7SJonathan Lemon ida->hwqcbs, IDA_QCB_MAX * sizeof(struct ida_hardware_qcb), 232db57feb7SJonathan Lemon ida_dma_map_cb, &ida->hwqcb_busaddr, /*flags*/0); 233db57feb7SJonathan Lemon 234db57feb7SJonathan Lemon bzero(ida->hwqcbs, IDA_QCB_MAX * sizeof(struct ida_hardware_qcb)); 235db57feb7SJonathan Lemon 236db57feb7SJonathan Lemon ida_alloc_qcb(ida); /* allocate an initial qcb */ 237db57feb7SJonathan Lemon 238db57feb7SJonathan Lemon return (0); 239db57feb7SJonathan Lemon } 240db57feb7SJonathan Lemon 241db57feb7SJonathan Lemon void 242db57feb7SJonathan Lemon ida_attach(struct ida_softc *ida) 243db57feb7SJonathan Lemon { 244db57feb7SJonathan Lemon struct ida_controller_info cinfo; 245db57feb7SJonathan Lemon int error, i; 246db57feb7SJonathan Lemon 247ee7eb00eSJonathan Lemon ida->cmd.int_enable(ida, 0); 248db57feb7SJonathan Lemon 249db57feb7SJonathan Lemon error = ida_command(ida, CMD_GET_CTRL_INFO, &cinfo, sizeof(cinfo), 25055d782fcSJonathan Lemon IDA_CONTROLLER, 0, DMA_DATA_IN); 251db57feb7SJonathan Lemon if (error) { 252db57feb7SJonathan Lemon device_printf(ida->dev, "CMD_GET_CTRL_INFO failed.\n"); 253db57feb7SJonathan Lemon return; 254db57feb7SJonathan Lemon } 255db57feb7SJonathan Lemon 256db57feb7SJonathan Lemon device_printf(ida->dev, "drives=%d firm_rev=%c%c%c%c\n", 257db57feb7SJonathan Lemon cinfo.num_drvs, cinfo.firm_rev[0], cinfo.firm_rev[1], 258db57feb7SJonathan Lemon cinfo.firm_rev[2], cinfo.firm_rev[3]); 259db57feb7SJonathan Lemon 2601277c3baSJonathan Lemon if (ida->flags & IDA_FIRMWARE) { 2611277c3baSJonathan Lemon int data; 262db57feb7SJonathan Lemon 2631277c3baSJonathan Lemon error = ida_command(ida, CMD_START_FIRMWARE, 26455d782fcSJonathan Lemon &data, sizeof(data), IDA_CONTROLLER, 0, DMA_DATA_IN); 2651277c3baSJonathan Lemon if (error) { 2661277c3baSJonathan Lemon device_printf(ida->dev, "CMD_START_FIRMWARE failed.\n"); 2671277c3baSJonathan Lemon return; 2681277c3baSJonathan Lemon } 2691277c3baSJonathan Lemon } 2701277c3baSJonathan Lemon 2711277c3baSJonathan Lemon ida->num_drives = 0; 2721277c3baSJonathan Lemon for (i = 0; i < cinfo.num_drvs; i++) 273ee7eb00eSJonathan Lemon device_add_child(ida->dev, /*"idad"*/NULL, -1); 274db57feb7SJonathan Lemon 275db57feb7SJonathan Lemon bus_generic_attach(ida->dev); 276db57feb7SJonathan Lemon 277ee7eb00eSJonathan Lemon ida->cmd.int_enable(ida, 1); 278ee7eb00eSJonathan Lemon } 279ee7eb00eSJonathan Lemon 280ee7eb00eSJonathan Lemon int 281ee7eb00eSJonathan Lemon ida_detach(device_t dev) 282ee7eb00eSJonathan Lemon { 283ee7eb00eSJonathan Lemon struct ida_softc *ida; 284ee7eb00eSJonathan Lemon int error = 0; 285ee7eb00eSJonathan Lemon 286ee7eb00eSJonathan Lemon ida = (struct ida_softc *)device_get_softc(dev); 287ee7eb00eSJonathan Lemon 288ee7eb00eSJonathan Lemon /* 289ee7eb00eSJonathan Lemon * XXX 290ee7eb00eSJonathan Lemon * before detaching, we must make sure that the system is 291ee7eb00eSJonathan Lemon * quiescent; nothing mounted, no pending activity. 292ee7eb00eSJonathan Lemon */ 293ee7eb00eSJonathan Lemon 294ee7eb00eSJonathan Lemon /* 295ee7eb00eSJonathan Lemon * XXX 296ee7eb00eSJonathan Lemon * now, how are we supposed to maintain a list of our drives? 297ee7eb00eSJonathan Lemon * iterate over our "child devices"? 298ee7eb00eSJonathan Lemon */ 299ee7eb00eSJonathan Lemon 300ee7eb00eSJonathan Lemon 301ee7eb00eSJonathan Lemon ida_free(ida); 302ee7eb00eSJonathan Lemon return (error); 303db57feb7SJonathan Lemon } 304db57feb7SJonathan Lemon 305db57feb7SJonathan Lemon static void 306db57feb7SJonathan Lemon ida_setup_dmamap(void *arg, bus_dma_segment_t *segs, int nsegments, int error) 307db57feb7SJonathan Lemon { 308db57feb7SJonathan Lemon struct ida_hardware_qcb *hwqcb = (struct ida_hardware_qcb *)arg; 309db57feb7SJonathan Lemon int i; 310db57feb7SJonathan Lemon 311cacc81a6SMatthew N. Dodd hwqcb->hdr.size = htole16((sizeof(struct ida_req) + 312cacc81a6SMatthew N. Dodd sizeof(struct ida_sgb) * IDA_NSEG) >> 2); 313db57feb7SJonathan Lemon 314db57feb7SJonathan Lemon for (i = 0; i < nsegments; i++) { 315cacc81a6SMatthew N. Dodd hwqcb->seg[i].addr = htole32(segs[i].ds_addr); 316cacc81a6SMatthew N. Dodd hwqcb->seg[i].length = htole32(segs[i].ds_len); 317db57feb7SJonathan Lemon } 318db57feb7SJonathan Lemon hwqcb->req.sgcount = nsegments; 319db57feb7SJonathan Lemon } 320db57feb7SJonathan Lemon 321db57feb7SJonathan Lemon int 322db57feb7SJonathan Lemon ida_command(struct ida_softc *ida, int command, void *data, int datasize, 32355d782fcSJonathan Lemon int drive, u_int32_t pblkno, int flags) 324db57feb7SJonathan Lemon { 325db57feb7SJonathan Lemon struct ida_hardware_qcb *hwqcb; 326db57feb7SJonathan Lemon struct ida_qcb *qcb; 3277e71df93SScott Long bus_dmasync_op_t op; 32855d782fcSJonathan Lemon int s, error; 329db57feb7SJonathan Lemon 330db57feb7SJonathan Lemon s = splbio(); 331db57feb7SJonathan Lemon qcb = ida_get_qcb(ida); 332db57feb7SJonathan Lemon splx(s); 333db57feb7SJonathan Lemon 334db57feb7SJonathan Lemon if (qcb == NULL) { 335db57feb7SJonathan Lemon printf("ida_command: out of QCBs"); 33655d782fcSJonathan Lemon return (EAGAIN); 337db57feb7SJonathan Lemon } 338db57feb7SJonathan Lemon 339db57feb7SJonathan Lemon hwqcb = qcb->hwqcb; 340db57feb7SJonathan Lemon bzero(hwqcb, sizeof(struct ida_hdr) + sizeof(struct ida_req)); 341db57feb7SJonathan Lemon 342db57feb7SJonathan Lemon bus_dmamap_load(ida->buffer_dmat, qcb->dmamap, 343db57feb7SJonathan Lemon (void *)data, datasize, ida_setup_dmamap, hwqcb, 0); 344db57feb7SJonathan Lemon op = qcb->flags & DMA_DATA_IN ? 345db57feb7SJonathan Lemon BUS_DMASYNC_PREREAD : BUS_DMASYNC_PREWRITE; 346db57feb7SJonathan Lemon bus_dmamap_sync(ida->buffer_dmat, qcb->dmamap, op); 347db57feb7SJonathan Lemon 3481277c3baSJonathan Lemon hwqcb->hdr.drive = drive; 349cacc81a6SMatthew N. Dodd hwqcb->req.blkno = htole32(pblkno); 350cacc81a6SMatthew N. Dodd hwqcb->req.bcount = htole16(howmany(datasize, DEV_BSIZE)); 351db57feb7SJonathan Lemon hwqcb->req.command = command; 352db57feb7SJonathan Lemon 353db57feb7SJonathan Lemon qcb->flags = flags | IDA_COMMAND; 354db57feb7SJonathan Lemon 355db57feb7SJonathan Lemon s = splbio(); 356db57feb7SJonathan Lemon STAILQ_INSERT_TAIL(&ida->qcb_queue, qcb, link.stqe); 357db57feb7SJonathan Lemon ida_start(ida); 35855d782fcSJonathan Lemon error = ida_wait(ida, qcb); 359db57feb7SJonathan Lemon splx(s); 360db57feb7SJonathan Lemon 361db57feb7SJonathan Lemon /* XXX should have status returned here? */ 362db57feb7SJonathan Lemon /* XXX have "status pointer" area in QCB? */ 363db57feb7SJonathan Lemon 36455d782fcSJonathan Lemon return (error); 365db57feb7SJonathan Lemon } 366db57feb7SJonathan Lemon 367db57feb7SJonathan Lemon void 3688177437dSPoul-Henning Kamp ida_submit_buf(struct ida_softc *ida, struct bio *bp) 369db57feb7SJonathan Lemon { 3708177437dSPoul-Henning Kamp bioq_insert_tail(&ida->bio_queue, bp); 371db57feb7SJonathan Lemon ida_construct_qcb(ida); 372db57feb7SJonathan Lemon ida_start(ida); 373db57feb7SJonathan Lemon } 374db57feb7SJonathan Lemon 375db57feb7SJonathan Lemon static void 376db57feb7SJonathan Lemon ida_construct_qcb(struct ida_softc *ida) 377db57feb7SJonathan Lemon { 378db57feb7SJonathan Lemon struct ida_hardware_qcb *hwqcb; 379db57feb7SJonathan Lemon struct ida_qcb *qcb; 3807e71df93SScott Long bus_dmasync_op_t op; 3818177437dSPoul-Henning Kamp struct bio *bp; 382db57feb7SJonathan Lemon 3838177437dSPoul-Henning Kamp bp = bioq_first(&ida->bio_queue); 384db57feb7SJonathan Lemon if (bp == NULL) 385db57feb7SJonathan Lemon return; /* no more buffers */ 386db57feb7SJonathan Lemon 387db57feb7SJonathan Lemon qcb = ida_get_qcb(ida); 388db57feb7SJonathan Lemon if (qcb == NULL) 389db57feb7SJonathan Lemon return; /* out of resources */ 390db57feb7SJonathan Lemon 3918177437dSPoul-Henning Kamp bioq_remove(&ida->bio_queue, bp); 392db57feb7SJonathan Lemon qcb->buf = bp; 39368d2672dSMatthew N. Dodd qcb->flags = bp->bio_cmd == BIO_READ ? DMA_DATA_IN : DMA_DATA_OUT; 394db57feb7SJonathan Lemon 395db57feb7SJonathan Lemon hwqcb = qcb->hwqcb; 396db57feb7SJonathan Lemon bzero(hwqcb, sizeof(struct ida_hdr) + sizeof(struct ida_req)); 397db57feb7SJonathan Lemon 398db57feb7SJonathan Lemon bus_dmamap_load(ida->buffer_dmat, qcb->dmamap, 3998177437dSPoul-Henning Kamp (void *)bp->bio_data, bp->bio_bcount, ida_setup_dmamap, hwqcb, 0); 400db57feb7SJonathan Lemon op = qcb->flags & DMA_DATA_IN ? 401db57feb7SJonathan Lemon BUS_DMASYNC_PREREAD : BUS_DMASYNC_PREWRITE; 402db57feb7SJonathan Lemon bus_dmamap_sync(ida->buffer_dmat, qcb->dmamap, op); 403db57feb7SJonathan Lemon 404db57feb7SJonathan Lemon { 40581530866SMatthew N. Dodd struct idad_softc *drv = (struct idad_softc *)bp->bio_driver1; 4061277c3baSJonathan Lemon hwqcb->hdr.drive = drv->drive; 407db57feb7SJonathan Lemon } 408db57feb7SJonathan Lemon 4098177437dSPoul-Henning Kamp hwqcb->req.blkno = bp->bio_pblkno; 4108177437dSPoul-Henning Kamp hwqcb->req.bcount = howmany(bp->bio_bcount, DEV_BSIZE); 4118177437dSPoul-Henning Kamp hwqcb->req.command = bp->bio_cmd == BIO_READ ? CMD_READ : CMD_WRITE; 412db57feb7SJonathan Lemon 413db57feb7SJonathan Lemon STAILQ_INSERT_TAIL(&ida->qcb_queue, qcb, link.stqe); 414db57feb7SJonathan Lemon } 415db57feb7SJonathan Lemon 416db57feb7SJonathan Lemon /* 417db57feb7SJonathan Lemon * This routine will be called from ida_intr in order to queue up more 418db57feb7SJonathan Lemon * I/O, meaning that we may be in an interrupt context. Hence, we should 419db57feb7SJonathan Lemon * not muck around with spl() in this routine. 420db57feb7SJonathan Lemon */ 421db57feb7SJonathan Lemon static void 422db57feb7SJonathan Lemon ida_start(struct ida_softc *ida) 423db57feb7SJonathan Lemon { 424db57feb7SJonathan Lemon struct ida_qcb *qcb; 425db57feb7SJonathan Lemon 426db57feb7SJonathan Lemon while ((qcb = STAILQ_FIRST(&ida->qcb_queue)) != NULL) { 427ee7eb00eSJonathan Lemon if (ida->cmd.fifo_full(ida)) 428ee7eb00eSJonathan Lemon break; 429db57feb7SJonathan Lemon STAILQ_REMOVE_HEAD(&ida->qcb_queue, link.stqe); 430db57feb7SJonathan Lemon /* 431db57feb7SJonathan Lemon * XXX 432db57feb7SJonathan Lemon * place the qcb on an active list and set a timeout? 433db57feb7SJonathan Lemon */ 434db57feb7SJonathan Lemon qcb->state = QCB_ACTIVE; 435ee7eb00eSJonathan Lemon ida->cmd.submit(ida, qcb); 436db57feb7SJonathan Lemon } 437db57feb7SJonathan Lemon } 438db57feb7SJonathan Lemon 43955d782fcSJonathan Lemon static int 44055d782fcSJonathan Lemon ida_wait(struct ida_softc *ida, struct ida_qcb *qcb) 441db57feb7SJonathan Lemon { 442db57feb7SJonathan Lemon struct ida_qcb *qcb_done = NULL; 443db57feb7SJonathan Lemon bus_addr_t completed; 44455d782fcSJonathan Lemon int delay; 445db57feb7SJonathan Lemon 44655d782fcSJonathan Lemon if (ida->flags & IDA_INTERRUPTS) { 447521f364bSDag-Erling Smørgrav if (tsleep(qcb, PRIBIO, "idacmd", 5 * hz)) 44855d782fcSJonathan Lemon return (ETIMEDOUT); 44955d782fcSJonathan Lemon return (0); 450db57feb7SJonathan Lemon } 451db57feb7SJonathan Lemon 45255d782fcSJonathan Lemon again: 45355d782fcSJonathan Lemon delay = 5 * 1000 * 100; /* 5 sec delay */ 454ee7eb00eSJonathan Lemon while ((completed = ida->cmd.done(ida)) == 0) { 455db57feb7SJonathan Lemon if (delay-- == 0) 45655d782fcSJonathan Lemon return (ETIMEDOUT); 457db57feb7SJonathan Lemon DELAY(10); 458db57feb7SJonathan Lemon } 459db57feb7SJonathan Lemon 460db57feb7SJonathan Lemon qcb_done = idahwqcbptov(ida, completed & ~3); 461db57feb7SJonathan Lemon if (qcb_done != qcb) 46255d782fcSJonathan Lemon goto again; 463db57feb7SJonathan Lemon ida_done(ida, qcb); 46455d782fcSJonathan Lemon return (0); 465db57feb7SJonathan Lemon } 466db57feb7SJonathan Lemon 467db57feb7SJonathan Lemon void 468db57feb7SJonathan Lemon ida_intr(void *data) 469db57feb7SJonathan Lemon { 470db57feb7SJonathan Lemon struct ida_softc *ida; 471db57feb7SJonathan Lemon struct ida_qcb *qcb; 472db57feb7SJonathan Lemon bus_addr_t completed; 473db57feb7SJonathan Lemon 474db57feb7SJonathan Lemon ida = (struct ida_softc *)data; 475db57feb7SJonathan Lemon 476ee7eb00eSJonathan Lemon if (ida->cmd.int_pending(ida) == 0) 477db57feb7SJonathan Lemon return; /* not our interrupt */ 478db57feb7SJonathan Lemon 479ee7eb00eSJonathan Lemon while ((completed = ida->cmd.done(ida)) != 0) { 480db57feb7SJonathan Lemon qcb = idahwqcbptov(ida, completed & ~3); 481db57feb7SJonathan Lemon 482db57feb7SJonathan Lemon if (qcb == NULL || qcb->state != QCB_ACTIVE) { 483db57feb7SJonathan Lemon device_printf(ida->dev, 484482a5259SJohn Baldwin "ignoring completion %jx\n", (intmax_t)completed); 485db57feb7SJonathan Lemon continue; 486db57feb7SJonathan Lemon } 487a14b52feSMatthew N. Dodd /* Handle "Bad Command List" errors. */ 488a14b52feSMatthew N. Dodd if ((completed & 3) && (qcb->hwqcb->req.error == 0)) 489a14b52feSMatthew N. Dodd qcb->hwqcb->req.error = CMD_REJECTED; 490db57feb7SJonathan Lemon ida_done(ida, qcb); 491db57feb7SJonathan Lemon } 492db57feb7SJonathan Lemon ida_start(ida); 493db57feb7SJonathan Lemon } 494db57feb7SJonathan Lemon 495db57feb7SJonathan Lemon /* 496db57feb7SJonathan Lemon * should switch out command type; may be status, not just I/O. 497db57feb7SJonathan Lemon */ 498db57feb7SJonathan Lemon static void 499db57feb7SJonathan Lemon ida_done(struct ida_softc *ida, struct ida_qcb *qcb) 500db57feb7SJonathan Lemon { 501db57feb7SJonathan Lemon int error = 0; 502db57feb7SJonathan Lemon 503db57feb7SJonathan Lemon /* 504db57feb7SJonathan Lemon * finish up command 505db57feb7SJonathan Lemon */ 506db57feb7SJonathan Lemon if (qcb->flags & DMA_DATA_TRANSFER) { 5077e71df93SScott Long bus_dmasync_op_t op; 508db57feb7SJonathan Lemon 509db57feb7SJonathan Lemon op = qcb->flags & DMA_DATA_IN ? 510db57feb7SJonathan Lemon BUS_DMASYNC_POSTREAD : BUS_DMASYNC_POSTWRITE; 511db57feb7SJonathan Lemon bus_dmamap_sync(ida->buffer_dmat, qcb->dmamap, op); 512db57feb7SJonathan Lemon bus_dmamap_unload(ida->buffer_dmat, qcb->dmamap); 513db57feb7SJonathan Lemon } 514db57feb7SJonathan Lemon 51568d2672dSMatthew N. Dodd if (qcb->hwqcb->req.error & SOFT_ERROR) { 51668d2672dSMatthew N. Dodd if (qcb->buf) 51768d2672dSMatthew N. Dodd device_printf(ida->dev, "soft %s error\n", 51868d2672dSMatthew N. Dodd qcb->buf->bio_cmd == BIO_READ ? 51968d2672dSMatthew N. Dodd "read" : "write"); 52068d2672dSMatthew N. Dodd else 521db57feb7SJonathan Lemon device_printf(ida->dev, "soft error\n"); 52268d2672dSMatthew N. Dodd } 523db57feb7SJonathan Lemon if (qcb->hwqcb->req.error & HARD_ERROR) { 524db57feb7SJonathan Lemon error = 1; 52568d2672dSMatthew N. Dodd if (qcb->buf) 52668d2672dSMatthew N. Dodd device_printf(ida->dev, "hard %s error\n", 52768d2672dSMatthew N. Dodd qcb->buf->bio_cmd == BIO_READ ? 52868d2672dSMatthew N. Dodd "read" : "write"); 52968d2672dSMatthew N. Dodd else 530db57feb7SJonathan Lemon device_printf(ida->dev, "hard error\n"); 531db57feb7SJonathan Lemon } 532db57feb7SJonathan Lemon if (qcb->hwqcb->req.error & CMD_REJECTED) { 533db57feb7SJonathan Lemon error = 1; 534db57feb7SJonathan Lemon device_printf(ida->dev, "invalid request\n"); 535db57feb7SJonathan Lemon } 536db57feb7SJonathan Lemon 537db57feb7SJonathan Lemon if (qcb->flags & IDA_COMMAND) { 53855d782fcSJonathan Lemon if (ida->flags & IDA_INTERRUPTS) 539db57feb7SJonathan Lemon wakeup(qcb); 540db57feb7SJonathan Lemon } else { 541db57feb7SJonathan Lemon if (error) 5428177437dSPoul-Henning Kamp qcb->buf->bio_flags |= BIO_ERROR; 54381530866SMatthew N. Dodd idad_intr(qcb->buf); 544db57feb7SJonathan Lemon } 545db57feb7SJonathan Lemon 546db57feb7SJonathan Lemon qcb->state = QCB_FREE; 54768d2672dSMatthew N. Dodd qcb->buf = NULL; 548db57feb7SJonathan Lemon SLIST_INSERT_HEAD(&ida->free_qcbs, qcb, link.sle); 549db57feb7SJonathan Lemon ida_construct_qcb(ida); 550db57feb7SJonathan Lemon } 551