Lines Matching refs:pkt_dev
493 static void pktgen_clear_counters(struct pktgen_dev *pkt_dev);
494 static void fill_imix_distribution(struct pktgen_dev *pkt_dev);
568 const struct pktgen_dev *pkt_dev = seq->private; in pktgen_if_show() local
569 unsigned int cflows = READ_ONCE(pkt_dev->cflows); in pktgen_if_show()
576 (unsigned long long)pkt_dev->count, pkt_dev->min_pkt_size, in pktgen_if_show()
577 pkt_dev->max_pkt_size); in pktgen_if_show()
579 if (pkt_dev->n_imix_entries > 0) { in pktgen_if_show()
581 for (i = 0; i < pkt_dev->n_imix_entries; i++) { in pktgen_if_show()
583 pkt_dev->imix_entries[i].size, in pktgen_if_show()
584 pkt_dev->imix_entries[i].weight); in pktgen_if_show()
591 pkt_dev->nfrags, (unsigned long long) pkt_dev->delay, in pktgen_if_show()
592 pkt_dev->clone_skb, pkt_dev->odevname); in pktgen_if_show()
595 pkt_dev->lflow); in pktgen_if_show()
599 pkt_dev->queue_map_min, in pktgen_if_show()
600 pkt_dev->queue_map_max); in pktgen_if_show()
602 if (pkt_dev->skb_priority) in pktgen_if_show()
604 pkt_dev->skb_priority); in pktgen_if_show()
606 if (pkt_dev->flags & F_IPV6) { in pktgen_if_show()
610 &pkt_dev->in6_saddr, in pktgen_if_show()
611 &pkt_dev->min_in6_saddr, &pkt_dev->max_in6_saddr, in pktgen_if_show()
612 &pkt_dev->in6_daddr, in pktgen_if_show()
613 &pkt_dev->min_in6_daddr, &pkt_dev->max_in6_daddr); in pktgen_if_show()
617 pkt_dev->dst_min, pkt_dev->dst_max); in pktgen_if_show()
620 pkt_dev->src_min, pkt_dev->src_max); in pktgen_if_show()
626 is_zero_ether_addr(pkt_dev->src_mac) ? in pktgen_if_show()
627 pkt_dev->odev->dev_addr : pkt_dev->src_mac); in pktgen_if_show()
630 seq_printf(seq, "%pM\n", pkt_dev->dst_mac); in pktgen_if_show()
634 pkt_dev->udp_src_min, pkt_dev->udp_src_max, in pktgen_if_show()
635 pkt_dev->udp_dst_min, pkt_dev->udp_dst_max); in pktgen_if_show()
639 pkt_dev->src_mac_count, pkt_dev->dst_mac_count); in pktgen_if_show()
641 if (pkt_dev->nr_labels) { in pktgen_if_show()
643 for (i = 0; i < pkt_dev->nr_labels; i++) in pktgen_if_show()
644 seq_printf(seq, "%08x%s", ntohl(pkt_dev->labels[i]), in pktgen_if_show()
645 i == pkt_dev->nr_labels-1 ? "\n" : ", "); in pktgen_if_show()
648 if (pkt_dev->vlan_id != 0xffff) in pktgen_if_show()
650 pkt_dev->vlan_id, pkt_dev->vlan_p, in pktgen_if_show()
651 pkt_dev->vlan_cfi); in pktgen_if_show()
653 if (pkt_dev->svlan_id != 0xffff) in pktgen_if_show()
655 pkt_dev->svlan_id, pkt_dev->svlan_p, in pktgen_if_show()
656 pkt_dev->svlan_cfi); in pktgen_if_show()
658 if (pkt_dev->tos) in pktgen_if_show()
659 seq_printf(seq, " tos: 0x%02x\n", pkt_dev->tos); in pktgen_if_show()
661 if (pkt_dev->traffic_class) in pktgen_if_show()
662 seq_printf(seq, " traffic_class: 0x%02x\n", pkt_dev->traffic_class); in pktgen_if_show()
664 if (pkt_dev->burst > 1) in pktgen_if_show()
665 seq_printf(seq, " burst: %d\n", pkt_dev->burst); in pktgen_if_show()
667 if (pkt_dev->node >= 0) in pktgen_if_show()
668 seq_printf(seq, " node: %d\n", pkt_dev->node); in pktgen_if_show()
670 if (pkt_dev->xmit_mode == M_NETIF_RECEIVE) in pktgen_if_show()
672 else if (pkt_dev->xmit_mode == M_QUEUE_XMIT) in pktgen_if_show()
682 if (pkt_dev->flags & (1 << i)) { in pktgen_if_show()
685 if (i == IPSEC_SHIFT && pkt_dev->spi) in pktgen_if_show()
686 seq_printf(seq, "spi:%u ", pkt_dev->spi); in pktgen_if_show()
696 stopped = pkt_dev->running ? ktime_get() : pkt_dev->stopped_at; in pktgen_if_show()
697 idle = pkt_dev->idle_acc; in pktgen_if_show()
702 (unsigned long long)pkt_dev->sofar, in pktgen_if_show()
703 (unsigned long long)pkt_dev->errors); in pktgen_if_show()
705 if (pkt_dev->n_imix_entries > 0) { in pktgen_if_show()
709 for (i = 0; i < pkt_dev->n_imix_entries; i++) { in pktgen_if_show()
711 pkt_dev->imix_entries[i].size, in pktgen_if_show()
712 pkt_dev->imix_entries[i].count_so_far); in pktgen_if_show()
719 (unsigned long long) ktime_to_us(pkt_dev->started_at), in pktgen_if_show()
725 pkt_dev->seq_num, pkt_dev->cur_dst_mac_offset, in pktgen_if_show()
726 pkt_dev->cur_src_mac_offset); in pktgen_if_show()
728 if (pkt_dev->flags & F_IPV6) { in pktgen_if_show()
730 &pkt_dev->cur_in6_saddr, in pktgen_if_show()
731 &pkt_dev->cur_in6_daddr); in pktgen_if_show()
734 &pkt_dev->cur_saddr, &pkt_dev->cur_daddr); in pktgen_if_show()
737 pkt_dev->cur_udp_dst, pkt_dev->cur_udp_src); in pktgen_if_show()
739 seq_printf(seq, " cur_queue_map: %u\n", pkt_dev->cur_queue_map); in pktgen_if_show()
741 seq_printf(seq, " flows: %u\n", pkt_dev->nflows); in pktgen_if_show()
743 if (pkt_dev->result[0]) in pktgen_if_show()
744 seq_printf(seq, "Result: %s\n", pkt_dev->result); in pktgen_if_show()
853 struct pktgen_dev *pkt_dev) in get_imix_entries() argument
859 pkt_dev->n_imix_entries = 0; in get_imix_entries()
865 if (pkt_dev->n_imix_entries >= MAX_IMIX_ENTRIES) in get_imix_entries()
897 pkt_dev->imix_entries[pkt_dev->n_imix_entries].size = size; in get_imix_entries()
898 pkt_dev->imix_entries[pkt_dev->n_imix_entries].weight = weight; in get_imix_entries()
901 pkt_dev->n_imix_entries++; in get_imix_entries()
914 size_t maxlen, struct pktgen_dev *pkt_dev) in get_labels() argument
921 pkt_dev->nr_labels = 0; in get_labels()
940 pkt_dev->labels[n] = htonl(tmp); in get_labels()
941 if (pkt_dev->labels[n] & MPLS_STACK_BOTTOM) in get_labels()
942 pkt_dev->flags |= F_MPLS_RND; in get_labels()
952 pkt_dev->nr_labels = n; in get_labels()
990 struct pktgen_dev *pkt_dev = seq->private; in pktgen_if_write() local
998 pg_result = &(pkt_dev->result[0]); in pktgen_if_write()
1050 if (value != pkt_dev->min_pkt_size) { in pktgen_if_write()
1051 pkt_dev->min_pkt_size = value; in pktgen_if_write()
1052 pkt_dev->cur_pkt_size = value; in pktgen_if_write()
1055 pkt_dev->min_pkt_size); in pktgen_if_write()
1067 if (value != pkt_dev->max_pkt_size) { in pktgen_if_write()
1068 pkt_dev->max_pkt_size = value; in pktgen_if_write()
1069 pkt_dev->cur_pkt_size = value; in pktgen_if_write()
1072 pkt_dev->max_pkt_size); in pktgen_if_write()
1086 if (value != pkt_dev->min_pkt_size) { in pktgen_if_write()
1087 pkt_dev->min_pkt_size = value; in pktgen_if_write()
1088 pkt_dev->max_pkt_size = value; in pktgen_if_write()
1089 pkt_dev->cur_pkt_size = value; in pktgen_if_write()
1091 sprintf(pg_result, "OK: pkt_size=%d", pkt_dev->min_pkt_size); in pktgen_if_write()
1096 if (pkt_dev->clone_skb > 0) in pktgen_if_write()
1100 len = get_imix_entries(&user_buffer[i], max, pkt_dev); in pktgen_if_write()
1104 fill_imix_distribution(pkt_dev); in pktgen_if_write()
1126 pkt_dev->nfrags = value; in pktgen_if_write()
1127 sprintf(pg_result, "OK: frags=%d", pkt_dev->nfrags); in pktgen_if_write()
1137 pkt_dev->delay = ULLONG_MAX; in pktgen_if_write()
1139 pkt_dev->delay = (u64)value; in pktgen_if_write()
1142 (unsigned long long) pkt_dev->delay); in pktgen_if_write()
1153 pkt_dev->delay = pkt_dev->min_pkt_size*8*NSEC_PER_USEC/value; in pktgen_if_write()
1155 pr_info("Delay set at: %llu ns\n", pkt_dev->delay); in pktgen_if_write()
1168 pkt_dev->delay = NSEC_PER_SEC/value; in pktgen_if_write()
1170 pr_info("Delay set at: %llu ns\n", pkt_dev->delay); in pktgen_if_write()
1181 if (value != pkt_dev->udp_src_min) { in pktgen_if_write()
1182 pkt_dev->udp_src_min = value; in pktgen_if_write()
1183 pkt_dev->cur_udp_src = value; in pktgen_if_write()
1185 sprintf(pg_result, "OK: udp_src_min=%u", pkt_dev->udp_src_min); in pktgen_if_write()
1194 if (value != pkt_dev->udp_dst_min) { in pktgen_if_write()
1195 pkt_dev->udp_dst_min = value; in pktgen_if_write()
1196 pkt_dev->cur_udp_dst = value; in pktgen_if_write()
1198 sprintf(pg_result, "OK: udp_dst_min=%u", pkt_dev->udp_dst_min); in pktgen_if_write()
1207 if (value != pkt_dev->udp_src_max) { in pktgen_if_write()
1208 pkt_dev->udp_src_max = value; in pktgen_if_write()
1209 pkt_dev->cur_udp_src = value; in pktgen_if_write()
1211 sprintf(pg_result, "OK: udp_src_max=%u", pkt_dev->udp_src_max); in pktgen_if_write()
1220 if (value != pkt_dev->udp_dst_max) { in pktgen_if_write()
1221 pkt_dev->udp_dst_max = value; in pktgen_if_write()
1222 pkt_dev->cur_udp_dst = value; in pktgen_if_write()
1224 sprintf(pg_result, "OK: udp_dst_max=%u", pkt_dev->udp_dst_max); in pktgen_if_write()
1236 ((pkt_dev->xmit_mode == M_NETIF_RECEIVE) || in pktgen_if_write()
1237 !(pkt_dev->odev->priv_flags & IFF_TX_SKB_SHARING))) in pktgen_if_write()
1239 if (value > 0 && (pkt_dev->n_imix_entries > 0 || in pktgen_if_write()
1240 !(pkt_dev->flags & F_SHARED))) in pktgen_if_write()
1243 pkt_dev->clone_skb = value; in pktgen_if_write()
1245 sprintf(pg_result, "OK: clone_skb=%d", pkt_dev->clone_skb); in pktgen_if_write()
1254 pkt_dev->count = value; in pktgen_if_write()
1256 (unsigned long long)pkt_dev->count); in pktgen_if_write()
1265 if (pkt_dev->src_mac_count != value) { in pktgen_if_write()
1266 pkt_dev->src_mac_count = value; in pktgen_if_write()
1267 pkt_dev->cur_src_mac_offset = 0; in pktgen_if_write()
1270 pkt_dev->src_mac_count); in pktgen_if_write()
1279 if (pkt_dev->dst_mac_count != value) { in pktgen_if_write()
1280 pkt_dev->dst_mac_count = value; in pktgen_if_write()
1281 pkt_dev->cur_dst_mac_offset = 0; in pktgen_if_write()
1284 pkt_dev->dst_mac_count); in pktgen_if_write()
1294 ((pkt_dev->xmit_mode == M_QUEUE_XMIT) || in pktgen_if_write()
1295 ((pkt_dev->xmit_mode == M_START_XMIT) && in pktgen_if_write()
1296 (!(pkt_dev->odev->priv_flags & IFF_TX_SKB_SHARING))))) in pktgen_if_write()
1299 if (value > 1 && !(pkt_dev->flags & F_SHARED)) in pktgen_if_write()
1302 pkt_dev->burst = value < 1 ? 1 : value; in pktgen_if_write()
1303 sprintf(pg_result, "OK: burst=%u", pkt_dev->burst); in pktgen_if_write()
1313 pkt_dev->node = value; in pktgen_if_write()
1314 sprintf(pg_result, "OK: node=%d", pkt_dev->node); in pktgen_if_write()
1315 if (pkt_dev->page) { in pktgen_if_write()
1316 put_page(pkt_dev->page); in pktgen_if_write()
1317 pkt_dev->page = NULL; in pktgen_if_write()
1337 pkt_dev->xmit_mode = M_START_XMIT; in pktgen_if_write()
1340 if (pkt_dev->clone_skb > 0) in pktgen_if_write()
1343 pkt_dev->xmit_mode = M_NETIF_RECEIVE; in pktgen_if_write()
1348 pkt_dev->last_ok = 1; in pktgen_if_write()
1350 pkt_dev->xmit_mode = M_QUEUE_XMIT; in pktgen_if_write()
1351 pkt_dev->last_ok = 1; in pktgen_if_write()
1384 if (flag == F_SHARED && (pkt_dev->clone_skb || in pktgen_if_write()
1385 pkt_dev->burst > 1)) in pktgen_if_write()
1387 pkt_dev->flags &= ~flag; in pktgen_if_write()
1389 pkt_dev->flags |= flag; in pktgen_if_write()
1392 sprintf(pg_result, "OK: flags=0x%x", pkt_dev->flags); in pktgen_if_write()
1397 end = pkt_dev->result + sizeof(pkt_dev->result); in pktgen_if_write()
1416 max = min(sizeof(pkt_dev->dst_min) - 1, count - i); in pktgen_if_write()
1424 if (strcmp(buf, pkt_dev->dst_min) != 0) { in pktgen_if_write()
1425 strscpy_pad(pkt_dev->dst_min, buf); in pktgen_if_write()
1426 pkt_dev->daddr_min = in_aton(pkt_dev->dst_min); in pktgen_if_write()
1427 pkt_dev->cur_daddr = pkt_dev->daddr_min; in pktgen_if_write()
1430 pr_debug("dst_min set to: %s\n", pkt_dev->dst_min); in pktgen_if_write()
1432 sprintf(pg_result, "OK: dst_min=%s", pkt_dev->dst_min); in pktgen_if_write()
1436 max = min(sizeof(pkt_dev->dst_max) - 1, count - i); in pktgen_if_write()
1444 if (strcmp(buf, pkt_dev->dst_max) != 0) { in pktgen_if_write()
1445 strscpy_pad(pkt_dev->dst_max, buf); in pktgen_if_write()
1446 pkt_dev->daddr_max = in_aton(pkt_dev->dst_max); in pktgen_if_write()
1447 pkt_dev->cur_daddr = pkt_dev->daddr_max; in pktgen_if_write()
1450 pr_debug("dst_max set to: %s\n", pkt_dev->dst_max); in pktgen_if_write()
1452 sprintf(pg_result, "OK: dst_max=%s", pkt_dev->dst_max); in pktgen_if_write()
1461 pkt_dev->flags |= F_IPV6; in pktgen_if_write()
1467 in6_pton(buf, -1, pkt_dev->in6_daddr.s6_addr, -1, NULL); in pktgen_if_write()
1468 snprintf(buf, sizeof(buf), "%pI6c", &pkt_dev->in6_daddr); in pktgen_if_write()
1470 pkt_dev->cur_in6_daddr = pkt_dev->in6_daddr; in pktgen_if_write()
1484 pkt_dev->flags |= F_IPV6; in pktgen_if_write()
1490 in6_pton(buf, -1, pkt_dev->min_in6_daddr.s6_addr, -1, NULL); in pktgen_if_write()
1491 snprintf(buf, sizeof(buf), "%pI6c", &pkt_dev->min_in6_daddr); in pktgen_if_write()
1493 pkt_dev->cur_in6_daddr = pkt_dev->min_in6_daddr; in pktgen_if_write()
1506 pkt_dev->flags |= F_IPV6; in pktgen_if_write()
1512 in6_pton(buf, -1, pkt_dev->max_in6_daddr.s6_addr, -1, NULL); in pktgen_if_write()
1513 snprintf(buf, sizeof(buf), "%pI6c", &pkt_dev->max_in6_daddr); in pktgen_if_write()
1527 pkt_dev->flags |= F_IPV6; in pktgen_if_write()
1533 in6_pton(buf, -1, pkt_dev->in6_saddr.s6_addr, -1, NULL); in pktgen_if_write()
1534 snprintf(buf, sizeof(buf), "%pI6c", &pkt_dev->in6_saddr); in pktgen_if_write()
1536 pkt_dev->cur_in6_saddr = pkt_dev->in6_saddr; in pktgen_if_write()
1545 max = min(sizeof(pkt_dev->src_min) - 1, count - i); in pktgen_if_write()
1553 if (strcmp(buf, pkt_dev->src_min) != 0) { in pktgen_if_write()
1554 strscpy_pad(pkt_dev->src_min, buf); in pktgen_if_write()
1555 pkt_dev->saddr_min = in_aton(pkt_dev->src_min); in pktgen_if_write()
1556 pkt_dev->cur_saddr = pkt_dev->saddr_min; in pktgen_if_write()
1559 pr_debug("src_min set to: %s\n", pkt_dev->src_min); in pktgen_if_write()
1561 sprintf(pg_result, "OK: src_min=%s", pkt_dev->src_min); in pktgen_if_write()
1565 max = min(sizeof(pkt_dev->src_max) - 1, count - i); in pktgen_if_write()
1573 if (strcmp(buf, pkt_dev->src_max) != 0) { in pktgen_if_write()
1574 strscpy_pad(pkt_dev->src_max, buf); in pktgen_if_write()
1575 pkt_dev->saddr_max = in_aton(pkt_dev->src_max); in pktgen_if_write()
1576 pkt_dev->cur_saddr = pkt_dev->saddr_max; in pktgen_if_write()
1579 pr_debug("src_max set to: %s\n", pkt_dev->src_max); in pktgen_if_write()
1581 sprintf(pg_result, "OK: src_max=%s", pkt_dev->src_max); in pktgen_if_write()
1594 if (!mac_pton(valstr, pkt_dev->dst_mac)) in pktgen_if_write()
1597 ether_addr_copy(&pkt_dev->hh[0], pkt_dev->dst_mac); in pktgen_if_write()
1599 sprintf(pg_result, "OK: dstmac %pM", pkt_dev->dst_mac); in pktgen_if_write()
1612 if (!mac_pton(valstr, pkt_dev->src_mac)) in pktgen_if_write()
1615 ether_addr_copy(&pkt_dev->hh[6], pkt_dev->src_mac); in pktgen_if_write()
1617 sprintf(pg_result, "OK: srcmac %pM", pkt_dev->src_mac); in pktgen_if_write()
1622 pktgen_clear_counters(pkt_dev); in pktgen_if_write()
1636 WRITE_ONCE(pkt_dev->cflows, value); in pktgen_if_write()
1647 pkt_dev->spi = value; in pktgen_if_write()
1648 sprintf(pg_result, "OK: spi=%u", pkt_dev->spi); in pktgen_if_write()
1658 pkt_dev->lflow = value; in pktgen_if_write()
1659 sprintf(pg_result, "OK: flowlen=%u", pkt_dev->lflow); in pktgen_if_write()
1669 pkt_dev->queue_map_min = value; in pktgen_if_write()
1670 sprintf(pg_result, "OK: queue_map_min=%u", pkt_dev->queue_map_min); in pktgen_if_write()
1680 pkt_dev->queue_map_max = value; in pktgen_if_write()
1681 sprintf(pg_result, "OK: queue_map_max=%u", pkt_dev->queue_map_max); in pktgen_if_write()
1689 len = get_labels(&user_buffer[i], max, pkt_dev); in pktgen_if_write()
1694 for (n = 0; n < pkt_dev->nr_labels; n++) in pktgen_if_write()
1696 "%08x%s", ntohl(pkt_dev->labels[n]), in pktgen_if_write()
1697 n == pkt_dev->nr_labels-1 ? "" : ","); in pktgen_if_write()
1699 if (pkt_dev->nr_labels && pkt_dev->vlan_id != 0xffff) { in pktgen_if_write()
1700 pkt_dev->vlan_id = 0xffff; /* turn off VLAN/SVLAN */ in pktgen_if_write()
1701 pkt_dev->svlan_id = 0xffff; in pktgen_if_write()
1716 pkt_dev->vlan_id = value; /* turn on VLAN */ in pktgen_if_write()
1721 if (debug && pkt_dev->nr_labels) in pktgen_if_write()
1724 pkt_dev->nr_labels = 0; /* turn off MPLS */ in pktgen_if_write()
1725 sprintf(pg_result, "OK: vlan_id=%u", pkt_dev->vlan_id); in pktgen_if_write()
1727 pkt_dev->vlan_id = 0xffff; /* turn off VLAN/SVLAN */ in pktgen_if_write()
1728 pkt_dev->svlan_id = 0xffff; in pktgen_if_write()
1742 if ((value <= 7) && (pkt_dev->vlan_id != 0xffff)) { in pktgen_if_write()
1743 pkt_dev->vlan_p = value; in pktgen_if_write()
1744 sprintf(pg_result, "OK: vlan_p=%u", pkt_dev->vlan_p); in pktgen_if_write()
1757 if ((value <= 1) && (pkt_dev->vlan_id != 0xffff)) { in pktgen_if_write()
1758 pkt_dev->vlan_cfi = value; in pktgen_if_write()
1759 sprintf(pg_result, "OK: vlan_cfi=%u", pkt_dev->vlan_cfi); in pktgen_if_write()
1772 if ((value <= 4095) && ((pkt_dev->vlan_id != 0xffff))) { in pktgen_if_write()
1773 pkt_dev->svlan_id = value; /* turn on SVLAN */ in pktgen_if_write()
1778 if (debug && pkt_dev->nr_labels) in pktgen_if_write()
1781 pkt_dev->nr_labels = 0; /* turn off MPLS */ in pktgen_if_write()
1782 sprintf(pg_result, "OK: svlan_id=%u", pkt_dev->svlan_id); in pktgen_if_write()
1784 pkt_dev->vlan_id = 0xffff; /* turn off VLAN/SVLAN */ in pktgen_if_write()
1785 pkt_dev->svlan_id = 0xffff; in pktgen_if_write()
1799 if ((value <= 7) && (pkt_dev->svlan_id != 0xffff)) { in pktgen_if_write()
1800 pkt_dev->svlan_p = value; in pktgen_if_write()
1801 sprintf(pg_result, "OK: svlan_p=%u", pkt_dev->svlan_p); in pktgen_if_write()
1814 if ((value <= 1) && (pkt_dev->svlan_id != 0xffff)) { in pktgen_if_write()
1815 pkt_dev->svlan_cfi = value; in pktgen_if_write()
1816 sprintf(pg_result, "OK: svlan_cfi=%u", pkt_dev->svlan_cfi); in pktgen_if_write()
1832 pkt_dev->tos = tmp_value; in pktgen_if_write()
1833 sprintf(pg_result, "OK: tos=0x%02x", pkt_dev->tos); in pktgen_if_write()
1849 pkt_dev->traffic_class = tmp_value; in pktgen_if_write()
1850 sprintf(pg_result, "OK: traffic_class=0x%02x", pkt_dev->traffic_class); in pktgen_if_write()
1863 pkt_dev->skb_priority = value; in pktgen_if_write()
1865 pkt_dev->skb_priority); in pktgen_if_write()
1869 sprintf(pkt_dev->result, "No such parameter \"%s\"", name); in pktgen_if_write()
1889 const struct pktgen_dev *pkt_dev; in pktgen_thread_show() local
1896 list_for_each_entry_rcu(pkt_dev, &t->if_list, list) in pktgen_thread_show()
1897 if (pkt_dev->running) in pktgen_thread_show()
1898 seq_printf(seq, "%s ", pkt_dev->odevname); in pktgen_thread_show()
1902 list_for_each_entry_rcu(pkt_dev, &t->if_list, list) in pktgen_thread_show()
1903 if (!pkt_dev->running) in pktgen_thread_show()
1904 seq_printf(seq, "%s ", pkt_dev->odevname); in pktgen_thread_show()
2031 struct pktgen_dev *pkt_dev = NULL; in __pktgen_NN_threads() local
2035 pkt_dev = pktgen_find_dev(t, ifname, exact); in __pktgen_NN_threads()
2036 if (pkt_dev) { in __pktgen_NN_threads()
2038 pkt_dev->removal_mark = 1; in __pktgen_NN_threads()
2044 return pkt_dev; in __pktgen_NN_threads()
2052 struct pktgen_dev *pkt_dev = NULL; in pktgen_mark_device() local
2061 pkt_dev = __pktgen_NN_threads(pn, ifname, REMOVE); in pktgen_mark_device()
2062 if (pkt_dev == NULL) in pktgen_mark_device()
2089 struct pktgen_dev *pkt_dev; in pktgen_change_name() local
2092 list_for_each_entry(pkt_dev, &t->if_list, list) { in pktgen_change_name()
2093 if (pkt_dev->odev != dev) in pktgen_change_name()
2096 proc_remove(pkt_dev->entry); in pktgen_change_name()
2098 pkt_dev->entry = proc_create_data(dev->name, 0600, in pktgen_change_name()
2101 pkt_dev); in pktgen_change_name()
2102 if (!pkt_dev->entry) in pktgen_change_name()
2139 struct pktgen_dev *pkt_dev, in pktgen_dev_get_by_name() argument
2160 struct pktgen_dev *pkt_dev, const char *ifname) in pktgen_setup_dev() argument
2166 if (pkt_dev->odev) { in pktgen_setup_dev()
2167 netdev_put(pkt_dev->odev, &pkt_dev->dev_tracker); in pktgen_setup_dev()
2168 pkt_dev->odev = NULL; in pktgen_setup_dev()
2171 odev = pktgen_dev_get_by_name(pn, pkt_dev, ifname); in pktgen_setup_dev()
2184 pkt_dev->odev = odev; in pktgen_setup_dev()
2185 netdev_tracker_alloc(odev, &pkt_dev->dev_tracker, GFP_KERNEL); in pktgen_setup_dev()
2196 static void pktgen_setup_inject(struct pktgen_dev *pkt_dev) in pktgen_setup_inject() argument
2200 if (!pkt_dev->odev) { in pktgen_setup_inject()
2202 sprintf(pkt_dev->result, in pktgen_setup_inject()
2208 ntxq = pkt_dev->odev->real_num_tx_queues; in pktgen_setup_inject()
2210 if (ntxq <= pkt_dev->queue_map_min) { in pktgen_setup_inject()
2212 pkt_dev->queue_map_min, (ntxq ?: 1) - 1, ntxq, in pktgen_setup_inject()
2213 pkt_dev->odevname); in pktgen_setup_inject()
2214 pkt_dev->queue_map_min = (ntxq ?: 1) - 1; in pktgen_setup_inject()
2216 if (pkt_dev->queue_map_max >= ntxq) { in pktgen_setup_inject()
2218 pkt_dev->queue_map_max, (ntxq ?: 1) - 1, ntxq, in pktgen_setup_inject()
2219 pkt_dev->odevname); in pktgen_setup_inject()
2220 pkt_dev->queue_map_max = (ntxq ?: 1) - 1; in pktgen_setup_inject()
2225 if (is_zero_ether_addr(pkt_dev->src_mac)) in pktgen_setup_inject()
2226 ether_addr_copy(&(pkt_dev->hh[6]), pkt_dev->odev->dev_addr); in pktgen_setup_inject()
2229 ether_addr_copy(&(pkt_dev->hh[0]), pkt_dev->dst_mac); in pktgen_setup_inject()
2231 if (pkt_dev->flags & F_IPV6) { in pktgen_setup_inject()
2235 if (pkt_dev->min_pkt_size == 0) { in pktgen_setup_inject()
2236 pkt_dev->min_pkt_size = 14 + sizeof(struct ipv6hdr) in pktgen_setup_inject()
2239 + pkt_dev->pkt_overhead; in pktgen_setup_inject()
2243 if (pkt_dev->cur_in6_saddr.s6_addr[i]) { in pktgen_setup_inject()
2257 idev = __in6_dev_get(pkt_dev->odev); in pktgen_setup_inject()
2265 pkt_dev->cur_in6_saddr = ifp->addr; in pktgen_setup_inject()
2277 if (pkt_dev->min_pkt_size == 0) { in pktgen_setup_inject()
2278 pkt_dev->min_pkt_size = 14 + sizeof(struct iphdr) in pktgen_setup_inject()
2281 + pkt_dev->pkt_overhead; in pktgen_setup_inject()
2284 pkt_dev->saddr_min = 0; in pktgen_setup_inject()
2285 pkt_dev->saddr_max = 0; in pktgen_setup_inject()
2286 if (strlen(pkt_dev->src_min) == 0) { in pktgen_setup_inject()
2291 in_dev = __in_dev_get_rcu(pkt_dev->odev); in pktgen_setup_inject()
2297 pkt_dev->saddr_min = ifa->ifa_address; in pktgen_setup_inject()
2298 pkt_dev->saddr_max = pkt_dev->saddr_min; in pktgen_setup_inject()
2303 pkt_dev->saddr_min = in_aton(pkt_dev->src_min); in pktgen_setup_inject()
2304 pkt_dev->saddr_max = in_aton(pkt_dev->src_max); in pktgen_setup_inject()
2307 pkt_dev->daddr_min = in_aton(pkt_dev->dst_min); in pktgen_setup_inject()
2308 pkt_dev->daddr_max = in_aton(pkt_dev->dst_max); in pktgen_setup_inject()
2311 pkt_dev->cur_pkt_size = pkt_dev->min_pkt_size; in pktgen_setup_inject()
2312 if (pkt_dev->min_pkt_size > pkt_dev->max_pkt_size) in pktgen_setup_inject()
2313 pkt_dev->max_pkt_size = pkt_dev->min_pkt_size; in pktgen_setup_inject()
2315 pkt_dev->cur_dst_mac_offset = 0; in pktgen_setup_inject()
2316 pkt_dev->cur_src_mac_offset = 0; in pktgen_setup_inject()
2317 pkt_dev->cur_saddr = pkt_dev->saddr_min; in pktgen_setup_inject()
2318 pkt_dev->cur_daddr = pkt_dev->daddr_min; in pktgen_setup_inject()
2319 pkt_dev->cur_udp_dst = pkt_dev->udp_dst_min; in pktgen_setup_inject()
2320 pkt_dev->cur_udp_src = pkt_dev->udp_src_min; in pktgen_setup_inject()
2321 pkt_dev->nflows = 0; in pktgen_setup_inject()
2325 static void spin(struct pktgen_dev *pkt_dev, ktime_t spin_until) in spin() argument
2353 } while (t.task && pkt_dev->running && !signal_pending(current)); in spin()
2358 pkt_dev->idle_acc += ktime_to_ns(ktime_sub(end_time, start_time)); in spin()
2360 pkt_dev->next_tx = ktime_add_ns(spin_until, pkt_dev->delay); in spin()
2364 static inline void set_pkt_overhead(struct pktgen_dev *pkt_dev) in set_pkt_overhead() argument
2366 pkt_dev->pkt_overhead = 0; in set_pkt_overhead()
2367 pkt_dev->pkt_overhead += pkt_dev->nr_labels*sizeof(u32); in set_pkt_overhead()
2368 pkt_dev->pkt_overhead += VLAN_TAG_SIZE(pkt_dev); in set_pkt_overhead()
2369 pkt_dev->pkt_overhead += SVLAN_TAG_SIZE(pkt_dev); in set_pkt_overhead()
2372 static inline int f_seen(const struct pktgen_dev *pkt_dev, int flow) in f_seen() argument
2374 return !!(pkt_dev->flows[flow].flags & F_INIT); in f_seen()
2377 static inline int f_pick(struct pktgen_dev *pkt_dev, unsigned int cflows) in f_pick() argument
2379 int flow = pkt_dev->curfl; in f_pick()
2381 if (pkt_dev->flags & F_FLOW_SEQ) { in f_pick()
2382 if (pkt_dev->flows[flow].count >= pkt_dev->lflow) { in f_pick()
2384 pkt_dev->flows[flow].count = 0; in f_pick()
2385 pkt_dev->flows[flow].flags = 0; in f_pick()
2386 pkt_dev->curfl += 1; in f_pick()
2387 if (pkt_dev->curfl >= cflows) in f_pick()
2388 pkt_dev->curfl = 0; /*reset */ in f_pick()
2392 pkt_dev->curfl = flow; in f_pick()
2394 if (pkt_dev->flows[flow].count > pkt_dev->lflow) { in f_pick()
2395 pkt_dev->flows[flow].count = 0; in f_pick()
2396 pkt_dev->flows[flow].flags = 0; in f_pick()
2400 return pkt_dev->curfl; in f_pick()
2408 static void get_ipsec_sa(struct pktgen_dev *pkt_dev, int flow) in get_ipsec_sa() argument
2411 struct xfrm_state *x = pkt_dev->flows[flow].x; in get_ipsec_sa()
2412 struct pktgen_net *pn = net_generic(dev_net(pkt_dev->odev), pg_net_id); in get_ipsec_sa()
2416 if (pkt_dev->spi) { in get_ipsec_sa()
2420 x = xfrm_state_lookup_byspi(pn->net, htonl(pkt_dev->spi), AF_INET); in get_ipsec_sa()
2424 (xfrm_address_t *)&pkt_dev->cur_daddr, in get_ipsec_sa()
2425 (xfrm_address_t *)&pkt_dev->cur_saddr, in get_ipsec_sa()
2427 pkt_dev->ipsmode, in get_ipsec_sa()
2428 pkt_dev->ipsproto, 0); in get_ipsec_sa()
2431 pkt_dev->flows[flow].x = x; in get_ipsec_sa()
2432 set_pkt_overhead(pkt_dev); in get_ipsec_sa()
2433 pkt_dev->pkt_overhead += x->props.header_len; in get_ipsec_sa()
2439 static void set_cur_queue_map(struct pktgen_dev *pkt_dev) in set_cur_queue_map() argument
2441 if (pkt_dev->flags & F_QUEUE_MAP_CPU) in set_cur_queue_map()
2442 pkt_dev->cur_queue_map = smp_processor_id(); in set_cur_queue_map()
2444 else if (pkt_dev->queue_map_min <= pkt_dev->queue_map_max) { in set_cur_queue_map()
2447 if (pkt_dev->flags & F_QUEUE_MAP_RND) { in set_cur_queue_map()
2448 t = get_random_u32_inclusive(pkt_dev->queue_map_min, in set_cur_queue_map()
2449 pkt_dev->queue_map_max); in set_cur_queue_map()
2451 t = pkt_dev->cur_queue_map + 1; in set_cur_queue_map()
2452 if (t > pkt_dev->queue_map_max) in set_cur_queue_map()
2453 t = pkt_dev->queue_map_min; in set_cur_queue_map()
2455 pkt_dev->cur_queue_map = t; in set_cur_queue_map()
2457 pkt_dev->cur_queue_map = pkt_dev->cur_queue_map % pkt_dev->odev->real_num_tx_queues; in set_cur_queue_map()
2463 static void mod_cur_headers(struct pktgen_dev *pkt_dev) in mod_cur_headers() argument
2470 cflows = READ_ONCE(pkt_dev->cflows); in mod_cur_headers()
2472 flow = f_pick(pkt_dev, cflows); in mod_cur_headers()
2475 if (pkt_dev->src_mac_count > 1) { in mod_cur_headers()
2479 if (pkt_dev->flags & F_MACSRC_RND) in mod_cur_headers()
2480 mc = get_random_u32_below(pkt_dev->src_mac_count); in mod_cur_headers()
2482 mc = pkt_dev->cur_src_mac_offset++; in mod_cur_headers()
2483 if (pkt_dev->cur_src_mac_offset >= in mod_cur_headers()
2484 pkt_dev->src_mac_count) in mod_cur_headers()
2485 pkt_dev->cur_src_mac_offset = 0; in mod_cur_headers()
2488 tmp = pkt_dev->src_mac[5] + (mc & 0xFF); in mod_cur_headers()
2489 pkt_dev->hh[11] = tmp; in mod_cur_headers()
2490 tmp = (pkt_dev->src_mac[4] + ((mc >> 8) & 0xFF) + (tmp >> 8)); in mod_cur_headers()
2491 pkt_dev->hh[10] = tmp; in mod_cur_headers()
2492 tmp = (pkt_dev->src_mac[3] + ((mc >> 16) & 0xFF) + (tmp >> 8)); in mod_cur_headers()
2493 pkt_dev->hh[9] = tmp; in mod_cur_headers()
2494 tmp = (pkt_dev->src_mac[2] + ((mc >> 24) & 0xFF) + (tmp >> 8)); in mod_cur_headers()
2495 pkt_dev->hh[8] = tmp; in mod_cur_headers()
2496 tmp = (pkt_dev->src_mac[1] + (tmp >> 8)); in mod_cur_headers()
2497 pkt_dev->hh[7] = tmp; in mod_cur_headers()
2501 if (pkt_dev->dst_mac_count > 1) { in mod_cur_headers()
2505 if (pkt_dev->flags & F_MACDST_RND) in mod_cur_headers()
2506 mc = get_random_u32_below(pkt_dev->dst_mac_count); in mod_cur_headers()
2509 mc = pkt_dev->cur_dst_mac_offset++; in mod_cur_headers()
2510 if (pkt_dev->cur_dst_mac_offset >= in mod_cur_headers()
2511 pkt_dev->dst_mac_count) { in mod_cur_headers()
2512 pkt_dev->cur_dst_mac_offset = 0; in mod_cur_headers()
2516 tmp = pkt_dev->dst_mac[5] + (mc & 0xFF); in mod_cur_headers()
2517 pkt_dev->hh[5] = tmp; in mod_cur_headers()
2518 tmp = (pkt_dev->dst_mac[4] + ((mc >> 8) & 0xFF) + (tmp >> 8)); in mod_cur_headers()
2519 pkt_dev->hh[4] = tmp; in mod_cur_headers()
2520 tmp = (pkt_dev->dst_mac[3] + ((mc >> 16) & 0xFF) + (tmp >> 8)); in mod_cur_headers()
2521 pkt_dev->hh[3] = tmp; in mod_cur_headers()
2522 tmp = (pkt_dev->dst_mac[2] + ((mc >> 24) & 0xFF) + (tmp >> 8)); in mod_cur_headers()
2523 pkt_dev->hh[2] = tmp; in mod_cur_headers()
2524 tmp = (pkt_dev->dst_mac[1] + (tmp >> 8)); in mod_cur_headers()
2525 pkt_dev->hh[1] = tmp; in mod_cur_headers()
2528 if (pkt_dev->flags & F_MPLS_RND) { in mod_cur_headers()
2531 for (i = 0; i < pkt_dev->nr_labels; i++) in mod_cur_headers()
2532 if (pkt_dev->labels[i] & MPLS_STACK_BOTTOM) in mod_cur_headers()
2533 pkt_dev->labels[i] = MPLS_STACK_BOTTOM | in mod_cur_headers()
2538 if ((pkt_dev->flags & F_VID_RND) && (pkt_dev->vlan_id != 0xffff)) { in mod_cur_headers()
2539 pkt_dev->vlan_id = get_random_u32_below(4096); in mod_cur_headers()
2542 if ((pkt_dev->flags & F_SVID_RND) && (pkt_dev->svlan_id != 0xffff)) { in mod_cur_headers()
2543 pkt_dev->svlan_id = get_random_u32_below(4096); in mod_cur_headers()
2546 if (pkt_dev->udp_src_min < pkt_dev->udp_src_max) { in mod_cur_headers()
2547 if (pkt_dev->flags & F_UDPSRC_RND) in mod_cur_headers()
2548 pkt_dev->cur_udp_src = get_random_u32_inclusive(pkt_dev->udp_src_min, in mod_cur_headers()
2549 pkt_dev->udp_src_max - 1); in mod_cur_headers()
2552 pkt_dev->cur_udp_src++; in mod_cur_headers()
2553 if (pkt_dev->cur_udp_src >= pkt_dev->udp_src_max) in mod_cur_headers()
2554 pkt_dev->cur_udp_src = pkt_dev->udp_src_min; in mod_cur_headers()
2558 if (pkt_dev->udp_dst_min < pkt_dev->udp_dst_max) { in mod_cur_headers()
2559 if (pkt_dev->flags & F_UDPDST_RND) { in mod_cur_headers()
2560 pkt_dev->cur_udp_dst = get_random_u32_inclusive(pkt_dev->udp_dst_min, in mod_cur_headers()
2561 pkt_dev->udp_dst_max - 1); in mod_cur_headers()
2563 pkt_dev->cur_udp_dst++; in mod_cur_headers()
2564 if (pkt_dev->cur_udp_dst >= pkt_dev->udp_dst_max) in mod_cur_headers()
2565 pkt_dev->cur_udp_dst = pkt_dev->udp_dst_min; in mod_cur_headers()
2569 if (!(pkt_dev->flags & F_IPV6)) { in mod_cur_headers()
2571 imn = ntohl(pkt_dev->saddr_min); in mod_cur_headers()
2572 imx = ntohl(pkt_dev->saddr_max); in mod_cur_headers()
2576 if (pkt_dev->flags & F_IPSRC_RND) in mod_cur_headers()
2579 t = ntohl(pkt_dev->cur_saddr); in mod_cur_headers()
2585 pkt_dev->cur_saddr = htonl(t); in mod_cur_headers()
2588 if (cflows && f_seen(pkt_dev, flow)) { in mod_cur_headers()
2589 pkt_dev->cur_daddr = pkt_dev->flows[flow].cur_daddr; in mod_cur_headers()
2591 imn = ntohl(pkt_dev->daddr_min); in mod_cur_headers()
2592 imx = ntohl(pkt_dev->daddr_max); in mod_cur_headers()
2597 if (pkt_dev->flags & F_IPDST_RND) { in mod_cur_headers()
2607 pkt_dev->cur_daddr = s; in mod_cur_headers()
2609 t = ntohl(pkt_dev->cur_daddr); in mod_cur_headers()
2614 pkt_dev->cur_daddr = htonl(t); in mod_cur_headers()
2618 pkt_dev->flows[flow].flags |= F_INIT; in mod_cur_headers()
2619 pkt_dev->flows[flow].cur_daddr = in mod_cur_headers()
2620 pkt_dev->cur_daddr; in mod_cur_headers()
2621 if (pkt_dev->flags & F_IPSEC) in mod_cur_headers()
2622 get_ipsec_sa(pkt_dev, flow); in mod_cur_headers()
2623 pkt_dev->nflows++; in mod_cur_headers()
2628 if (!ipv6_addr_any(&pkt_dev->min_in6_daddr)) { in mod_cur_headers()
2634 pkt_dev->cur_in6_daddr.s6_addr32[i] = in mod_cur_headers()
2636 pkt_dev->min_in6_daddr.s6_addr32[i]) & in mod_cur_headers()
2637 pkt_dev->max_in6_daddr.s6_addr32[i]); in mod_cur_headers()
2642 if (pkt_dev->min_pkt_size < pkt_dev->max_pkt_size) { in mod_cur_headers()
2645 if (pkt_dev->flags & F_TXSIZE_RND) { in mod_cur_headers()
2646 t = get_random_u32_inclusive(pkt_dev->min_pkt_size, in mod_cur_headers()
2647 pkt_dev->max_pkt_size - 1); in mod_cur_headers()
2649 t = pkt_dev->cur_pkt_size + 1; in mod_cur_headers()
2650 if (t > pkt_dev->max_pkt_size) in mod_cur_headers()
2651 t = pkt_dev->min_pkt_size; in mod_cur_headers()
2653 pkt_dev->cur_pkt_size = t; in mod_cur_headers()
2654 } else if (pkt_dev->n_imix_entries > 0) { in mod_cur_headers()
2657 __u8 entry_index = pkt_dev->imix_distribution[t]; in mod_cur_headers()
2659 entry = &pkt_dev->imix_entries[entry_index]; in mod_cur_headers()
2661 pkt_dev->cur_pkt_size = entry->size; in mod_cur_headers()
2664 set_cur_queue_map(pkt_dev); in mod_cur_headers()
2666 pkt_dev->flows[flow].count++; in mod_cur_headers()
2669 static void fill_imix_distribution(struct pktgen_dev *pkt_dev) in fill_imix_distribution() argument
2677 for (i = 0; i < pkt_dev->n_imix_entries; i++) in fill_imix_distribution()
2678 total_weight += pkt_dev->imix_entries[i].weight; in fill_imix_distribution()
2681 for (i = 0; i < pkt_dev->n_imix_entries - 1; i++) { in fill_imix_distribution()
2682 cumulative_prob += div64_u64(pkt_dev->imix_entries[i].weight * in fill_imix_distribution()
2687 cumulative_probabilites[pkt_dev->n_imix_entries - 1] = 100; in fill_imix_distribution()
2692 pkt_dev->imix_distribution[i] = j; in fill_imix_distribution()
2702 static int pktgen_output_ipsec(struct sk_buff *skb, struct pktgen_dev *pkt_dev) in pktgen_output_ipsec() argument
2704 struct xfrm_state *x = pkt_dev->flows[pkt_dev->curfl].x; in pktgen_output_ipsec()
2706 struct net *net = dev_net(pkt_dev->odev); in pktgen_output_ipsec()
2713 if ((x->props.mode != XFRM_MODE_TRANSPORT) && (pkt_dev->spi == 0)) in pktgen_output_ipsec()
2719 if ((x->props.mode == XFRM_MODE_TUNNEL) && (pkt_dev->spi != 0)) in pktgen_output_ipsec()
2720 skb->_skb_refdst = (unsigned long)&pkt_dev->xdst.u.dst | SKB_DST_NOREF; in pktgen_output_ipsec()
2742 static void free_SAs(struct pktgen_dev *pkt_dev) in free_SAs() argument
2744 if (pkt_dev->cflows) { in free_SAs()
2748 for (i = 0; i < pkt_dev->cflows; i++) { in free_SAs()
2749 struct xfrm_state *x = pkt_dev->flows[i].x; in free_SAs()
2753 pkt_dev->flows[i].x = NULL; in free_SAs()
2759 static int process_ipsec(struct pktgen_dev *pkt_dev, in process_ipsec() argument
2762 if (pkt_dev->flags & F_IPSEC) { in process_ipsec()
2763 struct xfrm_state *x = pkt_dev->flows[pkt_dev->curfl].x; in process_ipsec()
2783 ret = pktgen_output_ipsec(skb, pkt_dev); in process_ipsec()
2790 memcpy(eth, pkt_dev->hh, 2 * ETH_ALEN); in process_ipsec()
2806 static void mpls_push(__be32 *mpls, struct pktgen_dev *pkt_dev) in mpls_push() argument
2810 for (i = 0; i < pkt_dev->nr_labels; i++) in mpls_push()
2811 *mpls++ = pkt_dev->labels[i] & ~MPLS_STACK_BOTTOM; in mpls_push()
2823 static void pktgen_finalize_skb(struct pktgen_dev *pkt_dev, struct sk_buff *skb, in pktgen_finalize_skb() argument
2832 if (pkt_dev->nfrags <= 0) { in pktgen_finalize_skb()
2835 int frags = pkt_dev->nfrags; in pktgen_finalize_skb()
2851 if (unlikely(!pkt_dev->page)) { in pktgen_finalize_skb()
2854 if (pkt_dev->node >= 0 && (pkt_dev->flags & F_NODE)) in pktgen_finalize_skb()
2855 node = pkt_dev->node; in pktgen_finalize_skb()
2856 pkt_dev->page = alloc_pages_node(node, GFP_KERNEL | __GFP_ZERO, 0); in pktgen_finalize_skb()
2857 if (!pkt_dev->page) in pktgen_finalize_skb()
2860 get_page(pkt_dev->page); in pktgen_finalize_skb()
2865 pkt_dev->page, 0, in pktgen_finalize_skb()
2869 pkt_dev->page, 0, frag_len); in pktgen_finalize_skb()
2883 pgh->seq_num = htonl(pkt_dev->seq_num); in pktgen_finalize_skb()
2885 if (pkt_dev->flags & F_NO_TIMESTAMP) { in pktgen_finalize_skb()
2904 struct pktgen_dev *pkt_dev) in pktgen_alloc_skb() argument
2910 size = pkt_dev->cur_pkt_size + 64 + extralen + pkt_dev->pkt_overhead; in pktgen_alloc_skb()
2911 if (pkt_dev->flags & F_NODE) { in pktgen_alloc_skb()
2912 int node = pkt_dev->node >= 0 ? pkt_dev->node : numa_node_id(); in pktgen_alloc_skb()
2931 struct pktgen_dev *pkt_dev) in fill_packet_ipv4() argument
2946 if (pkt_dev->nr_labels) in fill_packet_ipv4()
2949 if (pkt_dev->vlan_id != 0xffff) in fill_packet_ipv4()
2955 mod_cur_headers(pkt_dev); in fill_packet_ipv4()
2956 queue_map = pkt_dev->cur_queue_map; in fill_packet_ipv4()
2958 skb = pktgen_alloc_skb(odev, pkt_dev); in fill_packet_ipv4()
2960 sprintf(pkt_dev->result, "No memory"); in fill_packet_ipv4()
2969 mpls = skb_put(skb, pkt_dev->nr_labels * sizeof(__u32)); in fill_packet_ipv4()
2970 if (pkt_dev->nr_labels) in fill_packet_ipv4()
2971 mpls_push(mpls, pkt_dev); in fill_packet_ipv4()
2973 if (pkt_dev->vlan_id != 0xffff) { in fill_packet_ipv4()
2974 if (pkt_dev->svlan_id != 0xffff) { in fill_packet_ipv4()
2976 *svlan_tci = build_tci(pkt_dev->svlan_id, in fill_packet_ipv4()
2977 pkt_dev->svlan_cfi, in fill_packet_ipv4()
2978 pkt_dev->svlan_p); in fill_packet_ipv4()
2984 *vlan_tci = build_tci(pkt_dev->vlan_id, in fill_packet_ipv4()
2985 pkt_dev->vlan_cfi, in fill_packet_ipv4()
2986 pkt_dev->vlan_p); in fill_packet_ipv4()
2998 skb->priority = pkt_dev->skb_priority; in fill_packet_ipv4()
3000 memcpy(eth, pkt_dev->hh, 12); in fill_packet_ipv4()
3004 datalen = pkt_dev->cur_pkt_size - 14 - 20 - 8 - in fill_packet_ipv4()
3005 pkt_dev->pkt_overhead; in fill_packet_ipv4()
3009 udph->source = htons(pkt_dev->cur_udp_src); in fill_packet_ipv4()
3010 udph->dest = htons(pkt_dev->cur_udp_dst); in fill_packet_ipv4()
3017 iph->tos = pkt_dev->tos; in fill_packet_ipv4()
3019 iph->saddr = pkt_dev->cur_saddr; in fill_packet_ipv4()
3020 iph->daddr = pkt_dev->cur_daddr; in fill_packet_ipv4()
3021 iph->id = htons(pkt_dev->ip_id); in fill_packet_ipv4()
3022 pkt_dev->ip_id++; in fill_packet_ipv4()
3031 pktgen_finalize_skb(pkt_dev, skb, datalen); in fill_packet_ipv4()
3033 if (!(pkt_dev->flags & F_UDPCSUM)) { in fill_packet_ipv4()
3051 if (!process_ipsec(pkt_dev, skb, protocol)) in fill_packet_ipv4()
3059 struct pktgen_dev *pkt_dev) in fill_packet_ipv6() argument
3074 if (pkt_dev->nr_labels) in fill_packet_ipv6()
3077 if (pkt_dev->vlan_id != 0xffff) in fill_packet_ipv6()
3083 mod_cur_headers(pkt_dev); in fill_packet_ipv6()
3084 queue_map = pkt_dev->cur_queue_map; in fill_packet_ipv6()
3086 skb = pktgen_alloc_skb(odev, pkt_dev); in fill_packet_ipv6()
3088 sprintf(pkt_dev->result, "No memory"); in fill_packet_ipv6()
3097 mpls = skb_put(skb, pkt_dev->nr_labels * sizeof(__u32)); in fill_packet_ipv6()
3098 if (pkt_dev->nr_labels) in fill_packet_ipv6()
3099 mpls_push(mpls, pkt_dev); in fill_packet_ipv6()
3101 if (pkt_dev->vlan_id != 0xffff) { in fill_packet_ipv6()
3102 if (pkt_dev->svlan_id != 0xffff) { in fill_packet_ipv6()
3104 *svlan_tci = build_tci(pkt_dev->svlan_id, in fill_packet_ipv6()
3105 pkt_dev->svlan_cfi, in fill_packet_ipv6()
3106 pkt_dev->svlan_p); in fill_packet_ipv6()
3112 *vlan_tci = build_tci(pkt_dev->vlan_id, in fill_packet_ipv6()
3113 pkt_dev->vlan_cfi, in fill_packet_ipv6()
3114 pkt_dev->vlan_p); in fill_packet_ipv6()
3126 skb->priority = pkt_dev->skb_priority; in fill_packet_ipv6()
3128 memcpy(eth, pkt_dev->hh, 12); in fill_packet_ipv6()
3132 datalen = pkt_dev->cur_pkt_size - 14 - in fill_packet_ipv6()
3134 pkt_dev->pkt_overhead; in fill_packet_ipv6()
3142 udph->source = htons(pkt_dev->cur_udp_src); in fill_packet_ipv6()
3143 udph->dest = htons(pkt_dev->cur_udp_dst); in fill_packet_ipv6()
3149 if (pkt_dev->traffic_class) { in fill_packet_ipv6()
3151 *(__be32 *)iph |= htonl(0x60000000 | (pkt_dev->traffic_class << 20)); in fill_packet_ipv6()
3159 iph->daddr = pkt_dev->cur_in6_daddr; in fill_packet_ipv6()
3160 iph->saddr = pkt_dev->cur_in6_saddr; in fill_packet_ipv6()
3166 pktgen_finalize_skb(pkt_dev, skb, datalen); in fill_packet_ipv6()
3168 if (!(pkt_dev->flags & F_UDPCSUM)) { in fill_packet_ipv6()
3189 struct pktgen_dev *pkt_dev) in fill_packet() argument
3191 if (pkt_dev->flags & F_IPV6) in fill_packet()
3192 return fill_packet_ipv6(odev, pkt_dev); in fill_packet()
3194 return fill_packet_ipv4(odev, pkt_dev); in fill_packet()
3197 static void pktgen_clear_counters(struct pktgen_dev *pkt_dev) in pktgen_clear_counters() argument
3199 pkt_dev->seq_num = 1; in pktgen_clear_counters()
3200 pkt_dev->idle_acc = 0; in pktgen_clear_counters()
3201 pkt_dev->sofar = 0; in pktgen_clear_counters()
3202 pkt_dev->tx_bytes = 0; in pktgen_clear_counters()
3203 pkt_dev->errors = 0; in pktgen_clear_counters()
3210 struct pktgen_dev *pkt_dev; in pktgen_run() local
3216 list_for_each_entry_rcu(pkt_dev, &t->if_list, list) { in pktgen_run()
3221 pktgen_setup_inject(pkt_dev); in pktgen_run()
3223 if (pkt_dev->odev) { in pktgen_run()
3224 pktgen_clear_counters(pkt_dev); in pktgen_run()
3225 pkt_dev->skb = NULL; in pktgen_run()
3226 pkt_dev->started_at = pkt_dev->next_tx = ktime_get(); in pktgen_run()
3228 set_pkt_overhead(pkt_dev); in pktgen_run()
3230 strscpy(pkt_dev->result, "Starting"); in pktgen_run()
3231 pkt_dev->running = 1; /* Cranke yeself! */ in pktgen_run()
3234 strscpy(pkt_dev->result, "Error starting"); in pktgen_run()
3262 const struct pktgen_dev *pkt_dev; in thread_is_running() local
3265 list_for_each_entry_rcu(pkt_dev, &t->if_list, list) in thread_is_running()
3266 if (pkt_dev->running) { in thread_is_running()
3344 static void show_results(struct pktgen_dev *pkt_dev, int nr_frags) in show_results() argument
3347 char *p = pkt_dev->result; in show_results()
3348 ktime_t elapsed = ktime_sub(pkt_dev->stopped_at, in show_results()
3349 pkt_dev->started_at); in show_results()
3350 ktime_t idle = ns_to_ktime(pkt_dev->idle_acc); in show_results()
3356 (unsigned long long)pkt_dev->sofar, in show_results()
3357 pkt_dev->cur_pkt_size, nr_frags); in show_results()
3359 pps = div64_u64(pkt_dev->sofar * NSEC_PER_SEC, in show_results()
3362 if (pkt_dev->n_imix_entries > 0) { in show_results()
3367 for (i = 0; i < pkt_dev->n_imix_entries; i++) { in show_results()
3368 entry = &pkt_dev->imix_entries[i]; in show_results()
3373 bps = pps * 8 * pkt_dev->cur_pkt_size; in show_results()
3382 (unsigned long long)pkt_dev->errors); in show_results()
3386 static int pktgen_stop_device(struct pktgen_dev *pkt_dev) in pktgen_stop_device() argument
3388 int nr_frags = pkt_dev->skb ? skb_shinfo(pkt_dev->skb)->nr_frags : -1; in pktgen_stop_device()
3390 if (!pkt_dev->running) { in pktgen_stop_device()
3392 pkt_dev->odevname); in pktgen_stop_device()
3396 pkt_dev->running = 0; in pktgen_stop_device()
3397 kfree_skb(pkt_dev->skb); in pktgen_stop_device()
3398 pkt_dev->skb = NULL; in pktgen_stop_device()
3399 pkt_dev->stopped_at = ktime_get(); in pktgen_stop_device()
3401 show_results(pkt_dev, nr_frags); in pktgen_stop_device()
3408 struct pktgen_dev *pkt_dev, *best = NULL; in next_to_run() local
3411 list_for_each_entry_rcu(pkt_dev, &t->if_list, list) { in next_to_run()
3412 if (!pkt_dev->running) in next_to_run()
3415 best = pkt_dev; in next_to_run()
3416 else if (ktime_compare(pkt_dev->next_tx, best->next_tx) < 0) in next_to_run()
3417 best = pkt_dev; in next_to_run()
3426 struct pktgen_dev *pkt_dev; in pktgen_stop() local
3432 list_for_each_entry_rcu(pkt_dev, &t->if_list, list) { in pktgen_stop()
3433 pktgen_stop_device(pkt_dev); in pktgen_stop()
3490 static void pktgen_resched(struct pktgen_dev *pkt_dev) in pktgen_resched() argument
3495 pkt_dev->idle_acc += ktime_to_ns(ktime_sub(ktime_get(), idle_start)); in pktgen_resched()
3498 static void pktgen_wait_for_skb(struct pktgen_dev *pkt_dev) in pktgen_wait_for_skb() argument
3502 while (refcount_read(&(pkt_dev->skb->users)) != 1) { in pktgen_wait_for_skb()
3507 pktgen_resched(pkt_dev); in pktgen_wait_for_skb()
3511 pkt_dev->idle_acc += ktime_to_ns(ktime_sub(ktime_get(), idle_start)); in pktgen_wait_for_skb()
3514 static void pktgen_xmit(struct pktgen_dev *pkt_dev) in pktgen_xmit() argument
3516 bool skb_shared = !!(READ_ONCE(pkt_dev->flags) & F_SHARED); in pktgen_xmit()
3517 struct net_device *odev = pkt_dev->odev; in pktgen_xmit()
3530 burst = READ_ONCE(pkt_dev->burst); in pktgen_xmit()
3531 clone_skb = READ_ONCE(pkt_dev->clone_skb); in pktgen_xmit()
3536 pktgen_stop_device(pkt_dev); in pktgen_xmit()
3543 if (unlikely(pkt_dev->delay == ULLONG_MAX)) { in pktgen_xmit()
3544 pkt_dev->next_tx = ktime_add_ns(ktime_get(), ULONG_MAX); in pktgen_xmit()
3549 if (!pkt_dev->skb || (pkt_dev->last_ok && in pktgen_xmit()
3550 ++pkt_dev->clone_count >= clone_skb)) { in pktgen_xmit()
3552 kfree_skb(pkt_dev->skb); in pktgen_xmit()
3554 pkt_dev->skb = fill_packet(odev, pkt_dev); in pktgen_xmit()
3555 if (pkt_dev->skb == NULL) { in pktgen_xmit()
3558 pkt_dev->clone_count--; /* back out increment, OOM */ in pktgen_xmit()
3561 pkt_dev->last_pkt_size = pkt_dev->skb->len; in pktgen_xmit()
3562 pkt_dev->clone_count = 0; /* reset counter */ in pktgen_xmit()
3565 if (pkt_dev->delay && pkt_dev->last_ok) in pktgen_xmit()
3566 spin(pkt_dev, pkt_dev->next_tx); in pktgen_xmit()
3568 if (pkt_dev->xmit_mode == M_NETIF_RECEIVE) { in pktgen_xmit()
3569 skb = pkt_dev->skb; in pktgen_xmit()
3577 pkt_dev->errors++; in pktgen_xmit()
3578 pkt_dev->sofar++; in pktgen_xmit()
3579 pkt_dev->seq_num++; in pktgen_xmit()
3581 pkt_dev->skb = NULL; in pktgen_xmit()
3600 } else if (pkt_dev->xmit_mode == M_QUEUE_XMIT) { in pktgen_xmit()
3603 refcount_inc(&pkt_dev->skb->users); in pktgen_xmit()
3605 ret = dev_queue_xmit(pkt_dev->skb); in pktgen_xmit()
3608 pkt_dev->skb = NULL; in pktgen_xmit()
3612 pkt_dev->sofar++; in pktgen_xmit()
3613 pkt_dev->seq_num++; in pktgen_xmit()
3614 pkt_dev->tx_bytes += pkt_dev->last_pkt_size; in pktgen_xmit()
3629 pkt_dev->errors++; in pktgen_xmit()
3631 pkt_dev->odevname, ret); in pktgen_xmit()
3637 txq = skb_get_tx_queue(odev, pkt_dev->skb); in pktgen_xmit()
3644 pkt_dev->last_ok = 0; in pktgen_xmit()
3648 refcount_add(burst, &pkt_dev->skb->users); in pktgen_xmit()
3651 ret = netdev_start_xmit(pkt_dev->skb, odev, txq, --burst > 0); in pktgen_xmit()
3654 pkt_dev->skb = NULL; in pktgen_xmit()
3658 pkt_dev->last_ok = 1; in pktgen_xmit()
3659 pkt_dev->sofar++; in pktgen_xmit()
3660 pkt_dev->seq_num++; in pktgen_xmit()
3661 pkt_dev->tx_bytes += pkt_dev->last_pkt_size; in pktgen_xmit()
3668 pkt_dev->errors++; in pktgen_xmit()
3672 pkt_dev->odevname, ret); in pktgen_xmit()
3673 pkt_dev->errors++; in pktgen_xmit()
3678 refcount_dec(&pkt_dev->skb->users); in pktgen_xmit()
3679 pkt_dev->last_ok = 0; in pktgen_xmit()
3682 WARN_ON(refcount_sub_and_test(burst, &pkt_dev->skb->users)); in pktgen_xmit()
3690 if ((pkt_dev->count != 0) && (pkt_dev->sofar >= pkt_dev->count)) { in pktgen_xmit()
3691 if (pkt_dev->skb) in pktgen_xmit()
3692 pktgen_wait_for_skb(pkt_dev); in pktgen_xmit()
3695 pktgen_stop_device(pkt_dev); in pktgen_xmit()
3706 struct pktgen_dev *pkt_dev = NULL; in pktgen_thread_worker() local
3719 pkt_dev = next_to_run(t); in pktgen_thread_worker()
3721 if (unlikely(!pkt_dev && t->control == 0)) { in pktgen_thread_worker()
3729 if (likely(pkt_dev)) { in pktgen_thread_worker()
3730 pktgen_xmit(pkt_dev); in pktgen_thread_worker()
3733 pktgen_resched(pkt_dev); in pktgen_thread_worker()
3776 struct pktgen_dev *p, *pkt_dev = NULL; in pktgen_find_dev() local
3786 pkt_dev = p; in pktgen_find_dev()
3791 pr_debug("find_dev(%s) returning %p\n", ifname, pkt_dev); in pktgen_find_dev()
3792 return pkt_dev; in pktgen_find_dev()
3800 struct pktgen_dev *pkt_dev) in add_dev_to_thread() argument
3813 if (pkt_dev->pg_thread) { in add_dev_to_thread()
3819 pkt_dev->running = 0; in add_dev_to_thread()
3820 pkt_dev->pg_thread = t; in add_dev_to_thread()
3821 list_add_rcu(&pkt_dev->list, &t->if_list); in add_dev_to_thread()
3832 struct pktgen_dev *pkt_dev; in pktgen_add_device() local
3838 pkt_dev = __pktgen_NN_threads(t->net, ifname, FIND); in pktgen_add_device()
3839 if (pkt_dev) { in pktgen_add_device()
3844 pkt_dev = kzalloc_node(sizeof(struct pktgen_dev), GFP_KERNEL, node); in pktgen_add_device()
3845 if (!pkt_dev) in pktgen_add_device()
3848 strscpy(pkt_dev->odevname, ifname); in pktgen_add_device()
3849 pkt_dev->flows = vzalloc_node(array_size(MAX_CFLOWS, in pktgen_add_device()
3852 if (pkt_dev->flows == NULL) { in pktgen_add_device()
3853 kfree(pkt_dev); in pktgen_add_device()
3857 pkt_dev->removal_mark = 0; in pktgen_add_device()
3858 pkt_dev->nfrags = 0; in pktgen_add_device()
3859 pkt_dev->delay = pg_delay_d; in pktgen_add_device()
3860 pkt_dev->count = pg_count_d; in pktgen_add_device()
3861 pkt_dev->sofar = 0; in pktgen_add_device()
3862 pkt_dev->udp_src_min = 9; /* sink port */ in pktgen_add_device()
3863 pkt_dev->udp_src_max = 9; in pktgen_add_device()
3864 pkt_dev->udp_dst_min = 9; in pktgen_add_device()
3865 pkt_dev->udp_dst_max = 9; in pktgen_add_device()
3866 pkt_dev->vlan_p = 0; in pktgen_add_device()
3867 pkt_dev->vlan_cfi = 0; in pktgen_add_device()
3868 pkt_dev->vlan_id = 0xffff; in pktgen_add_device()
3869 pkt_dev->svlan_p = 0; in pktgen_add_device()
3870 pkt_dev->svlan_cfi = 0; in pktgen_add_device()
3871 pkt_dev->svlan_id = 0xffff; in pktgen_add_device()
3872 pkt_dev->burst = 1; in pktgen_add_device()
3873 pkt_dev->node = NUMA_NO_NODE; in pktgen_add_device()
3874 pkt_dev->flags = F_SHARED; /* SKB shared by default */ in pktgen_add_device()
3876 err = pktgen_setup_dev(t->net, pkt_dev, ifname); in pktgen_add_device()
3879 if (pkt_dev->odev->priv_flags & IFF_TX_SKB_SHARING) in pktgen_add_device()
3880 pkt_dev->clone_skb = pg_clone_skb_d; in pktgen_add_device()
3882 pkt_dev->entry = proc_create_data(ifname, 0600, t->net->proc_dir, in pktgen_add_device()
3883 &pktgen_if_proc_ops, pkt_dev); in pktgen_add_device()
3884 if (!pkt_dev->entry) { in pktgen_add_device()
3891 pkt_dev->ipsmode = XFRM_MODE_TRANSPORT; in pktgen_add_device()
3892 pkt_dev->ipsproto = IPPROTO_ESP; in pktgen_add_device()
3899 pkt_dev->dstops.family = AF_INET; in pktgen_add_device()
3900 pkt_dev->xdst.u.dst.dev = pkt_dev->odev; in pktgen_add_device()
3901 dst_init_metrics(&pkt_dev->xdst.u.dst, pktgen_dst_metrics, false); in pktgen_add_device()
3902 pkt_dev->xdst.child = &pkt_dev->xdst.u.dst; in pktgen_add_device()
3903 pkt_dev->xdst.u.dst.ops = &pkt_dev->dstops; in pktgen_add_device()
3906 return add_dev_to_thread(t, pkt_dev); in pktgen_add_device()
3908 netdev_put(pkt_dev->odev, &pkt_dev->dev_tracker); in pktgen_add_device()
3911 free_SAs(pkt_dev); in pktgen_add_device()
3913 vfree(pkt_dev->flows); in pktgen_add_device()
3914 kfree(pkt_dev); in pktgen_add_device()
3972 struct pktgen_dev *pkt_dev) in _rem_dev_from_if_list() argument
3978 proc_remove(pkt_dev->entry); in _rem_dev_from_if_list()
3981 if (p == pkt_dev) in _rem_dev_from_if_list()
3988 struct pktgen_dev *pkt_dev) in pktgen_remove_device() argument
3990 pr_debug("remove_device pkt_dev=%p\n", pkt_dev); in pktgen_remove_device()
3992 if (pkt_dev->running) { in pktgen_remove_device()
3994 pktgen_stop_device(pkt_dev); in pktgen_remove_device()
3999 if (pkt_dev->odev) { in pktgen_remove_device()
4000 netdev_put(pkt_dev->odev, &pkt_dev->dev_tracker); in pktgen_remove_device()
4001 pkt_dev->odev = NULL; in pktgen_remove_device()
4008 _rem_dev_from_if_list(t, pkt_dev); in pktgen_remove_device()
4011 free_SAs(pkt_dev); in pktgen_remove_device()
4013 vfree(pkt_dev->flows); in pktgen_remove_device()
4014 if (pkt_dev->page) in pktgen_remove_device()
4015 put_page(pkt_dev->page); in pktgen_remove_device()
4016 kfree_rcu(pkt_dev, rcu); in pktgen_remove_device()