net/netfilter/nft_meta.c

   1 // SPDX-License-Identifier: GPL-2.0-only
   2 /*
   3  * Copyright (c) 2008-2009 Patrick McHardy <kaber@trash.net>
   4  * Copyright (c) 2014 Intel Corporation
   5  * Author: Tomasz Bursztyka <tomasz.bursztyka@linux.intel.com>
   6  *
   7  * Development of this code funded by Astaro AG (http://www.astaro.com/)
   8  */
   9
  10 #include <linux/kernel.h>
  11 #include <linux/netlink.h>
  12 #include <linux/netfilter.h>
  13 #include <linux/netfilter/nf_tables.h>
  14 #include <linux/in.h>
  15 #include <linux/ip.h>
  16 #include <linux/ipv6.h>
  17 #include <linux/smp.h>
  18 #include <linux/static_key.h>
  19 #include <net/dst.h>
  20 #include <net/sock.h>
  21 #include <net/tcp_states.h> /* for TCP_TIME_WAIT */
  22 #include <net/netfilter/nf_tables.h>
  23 #include <net/netfilter/nf_tables_core.h>
  24 #include <net/netfilter/nft_meta.h>
  25
  26 #include <uapi/linux/netfilter_bridge.h> /* NF_BR_PRE_ROUTING */
  27
  28 static DEFINE_PER_CPU(struct rnd_state, nft_prandom_state);
  29
  30 void nft_meta_get_eval(const struct nft_expr *expr,
  31                        struct nft_regs *regs,
  32                        const struct nft_pktinfo *pkt)
  33 {
  34         const struct nft_meta *priv = nft_expr_priv(expr);
  35         const struct sk_buff *skb = pkt->skb;
  36         const struct net_device *in = nft_in(pkt), *out = nft_out(pkt);
  37         struct sock *sk;
  38         u32 *dest = &regs->data[priv->dreg];
  39
  40         switch (priv->key) {
  41         case NFT_META_LEN:
  42                 *dest = skb->len;
  43                 break;
  44         case NFT_META_PROTOCOL:
  45                 nft_reg_store16(dest, (__force u16)skb->protocol);
  46                 break;
  47         case NFT_META_NFPROTO:
  48                 nft_reg_store8(dest, nft_pf(pkt));
  49                 break;
  50         case NFT_META_L4PROTO:
  51                 if (!pkt->tprot_set)
  52                         goto err;
  53                 nft_reg_store8(dest, pkt->tprot);
  54                 break;
  55         case NFT_META_PRIORITY:
  56                 *dest = skb->priority;
  57                 break;
  58         case NFT_META_MARK:
  59                 *dest = skb->mark;
  60                 break;
  61         case NFT_META_IIF:
  62                 if (in == NULL)
  63                         goto err;
  64                 *dest = in->ifindex;
  65                 break;
  66         case NFT_META_OIF:
  67                 if (out == NULL)
  68                         goto err;
  69                 *dest = out->ifindex;
  70                 break;
  71         case NFT_META_IIFNAME:
  72                 if (in == NULL)
  73                         goto err;
  74                 strncpy((char *)dest, in->name, IFNAMSIZ);
  75                 break;
  76         case NFT_META_OIFNAME:
  77                 if (out == NULL)
  78                         goto err;
  79                 strncpy((char *)dest, out->name, IFNAMSIZ);
  80                 break;
  81         case NFT_META_IIFTYPE:
  82                 if (in == NULL)
  83                         goto err;
  84                 nft_reg_store16(dest, in->type);
  85                 break;
  86         case NFT_META_OIFTYPE:
  87                 if (out == NULL)
  88                         goto err;
  89                 nft_reg_store16(dest, out->type);
  90                 break;
  91         case NFT_META_SKUID:
  92                 sk = skb_to_full_sk(skb);
  93                 if (!sk || !sk_fullsock(sk) ||
  94                     !net_eq(nft_net(pkt), sock_net(sk)))
  95                         goto err;
  96
  97                 read_lock_bh(&sk->sk_callback_lock);
  98                 if (sk->sk_socket == NULL ||
  99                     sk->sk_socket->file == NULL) {
 100                         read_unlock_bh(&sk->sk_callback_lock);
 101                         goto err;
 102                 }
 103
 104                 *dest = from_kuid_munged(&init_user_ns,
 105                                 sk->sk_socket->file->f_cred->fsuid);
 106                 read_unlock_bh(&sk->sk_callback_lock);
 107                 break;
 108         case NFT_META_SKGID:
 109                 sk = skb_to_full_sk(skb);
 110                 if (!sk || !sk_fullsock(sk) ||
 111                     !net_eq(nft_net(pkt), sock_net(sk)))
 112                         goto err;
 113
 114                 read_lock_bh(&sk->sk_callback_lock);
 115                 if (sk->sk_socket == NULL ||
 116                     sk->sk_socket->file == NULL) {
 117                         read_unlock_bh(&sk->sk_callback_lock);
 118                         goto err;
 119                 }
 120                 *dest = from_kgid_munged(&init_user_ns,
 121                                  sk->sk_socket->file->f_cred->fsgid);
 122                 read_unlock_bh(&sk->sk_callback_lock);
 123                 break;
 124 #ifdef CONFIG_IP_ROUTE_CLASSID
 125         case NFT_META_RTCLASSID: {
 126                 const struct dst_entry *dst = skb_dst(skb);
 127
 128                 if (dst == NULL)
 129                         goto err;
 130                 *dest = dst->tclassid;
 131                 break;
 132         }
 133 #endif
 134 #ifdef CONFIG_NETWORK_SECMARK
 135         case NFT_META_SECMARK:
 136                 *dest = skb->secmark;
 137                 break;
 138 #endif
 139         case NFT_META_PKTTYPE:
 140                 if (skb->pkt_type != PACKET_LOOPBACK) {
 141                         nft_reg_store8(dest, skb->pkt_type);
 142                         break;
 143                 }
 144
 145                 switch (nft_pf(pkt)) {
 146                 case NFPROTO_IPV4:
 147                         if (ipv4_is_multicast(ip_hdr(skb)->daddr))
 148                                 nft_reg_store8(dest, PACKET_MULTICAST);
 149                         else
 150                                 nft_reg_store8(dest, PACKET_BROADCAST);
 151                         break;
 152                 case NFPROTO_IPV6:
 153                         nft_reg_store8(dest, PACKET_MULTICAST);
 154                         break;
 155                 case NFPROTO_NETDEV:
 156                         switch (skb->protocol) {
 157                         case htons(ETH_P_IP): {
 158                                 int noff = skb_network_offset(skb);
 159                                 struct iphdr *iph, _iph;
 160
 161                                 iph = skb_header_pointer(skb, noff,
 162                                                          sizeof(_iph), &_iph);
 163                                 if (!iph)
 164                                         goto err;
 165
 166                                 if (ipv4_is_multicast(iph->daddr))
 167                                         nft_reg_store8(dest, PACKET_MULTICAST);
 168                                 else
 169                                         nft_reg_store8(dest, PACKET_BROADCAST);
 170
 171                                 break;
 172                         }
 173                         case htons(ETH_P_IPV6):
 174                                 nft_reg_store8(dest, PACKET_MULTICAST);
 175                                 break;
 176                         default:
 177                                 WARN_ON_ONCE(1);
 178                                 goto err;
 179                         }
 180                         break;
 181                 default:
 182                         WARN_ON_ONCE(1);
 183                         goto err;
 184                 }
 185                 break;
 186         case NFT_META_CPU:
 187                 *dest = raw_smp_processor_id();
 188                 break;
 189         case NFT_META_IIFGROUP:
 190                 if (in == NULL)
 191                         goto err;
 192                 *dest = in->group;
 193                 break;
 194         case NFT_META_OIFGROUP:
 195                 if (out == NULL)
 196                         goto err;
 197                 *dest = out->group;
 198                 break;
 199 #ifdef CONFIG_CGROUP_NET_CLASSID
 200         case NFT_META_CGROUP:
 201                 sk = skb_to_full_sk(skb);
 202                 if (!sk || !sk_fullsock(sk) ||
 203                     !net_eq(nft_net(pkt), sock_net(sk)))
 204                         goto err;
 205                 *dest = sock_cgroup_classid(&sk->sk_cgrp_data);
 206                 break;
 207 #endif
 208         case NFT_META_PRANDOM: {
 209                 struct rnd_state *state = this_cpu_ptr(&nft_prandom_state);
 210                 *dest = prandom_u32_state(state);
 211                 break;
 212         }
 213 #ifdef CONFIG_XFRM
 214         case NFT_META_SECPATH:
 215                 nft_reg_store8(dest, secpath_exists(skb));
 216                 break;
 217 #endif
 218         case NFT_META_IIFKIND:
 219                 if (in == NULL || in->rtnl_link_ops == NULL)
 220                         goto err;
 221                 strncpy((char *)dest, in->rtnl_link_ops->kind, IFNAMSIZ);
 222                 break;
 223         case NFT_META_OIFKIND:
 224                 if (out == NULL || out->rtnl_link_ops == NULL)
 225                         goto err;
 226                 strncpy((char *)dest, out->rtnl_link_ops->kind, IFNAMSIZ);
 227                 break;
 228         default:
 229                 WARN_ON(1);
 230                 goto err;
 231         }
 232         return;
 233
 234 err:
 235         regs->verdict.code = NFT_BREAK;
 236 }
 237 EXPORT_SYMBOL_GPL(nft_meta_get_eval);
 238
 239 void nft_meta_set_eval(const struct nft_expr *expr,
 240                        struct nft_regs *regs,
 241                        const struct nft_pktinfo *pkt)
 242 {
 243         const struct nft_meta *meta = nft_expr_priv(expr);
 244         struct sk_buff *skb = pkt->skb;
 245         u32 *sreg = &regs->data[meta->sreg];
 246         u32 value = *sreg;
 247         u8 value8;
 248
 249         switch (meta->key) {
 250         case NFT_META_MARK:
 251                 skb->mark = value;
 252                 break;
 253         case NFT_META_PRIORITY:
 254                 skb->priority = value;
 255                 break;
 256         case NFT_META_PKTTYPE:
 257                 value8 = nft_reg_load8(sreg);
 258
 259                 if (skb->pkt_type != value8 &&
 260                     skb_pkt_type_ok(value8) &&
 261                     skb_pkt_type_ok(skb->pkt_type))
 262                         skb->pkt_type = value8;
 263                 break;
 264         case NFT_META_NFTRACE:
 265                 value8 = nft_reg_load8(sreg);
 266
 267                 skb->nf_trace = !!value8;
 268                 break;
 269 #ifdef CONFIG_NETWORK_SECMARK
 270         case NFT_META_SECMARK:
 271                 skb->secmark = value;
 272                 break;
 273 #endif
 274         default:
 275                 WARN_ON(1);
 276         }
 277 }
 278 EXPORT_SYMBOL_GPL(nft_meta_set_eval);
 279
 280 const struct nla_policy nft_meta_policy[NFTA_META_MAX + 1] = {
 281         [NFTA_META_DREG]        = { .type = NLA_U32 },
 282         [NFTA_META_KEY]         = { .type = NLA_U32 },
 283         [NFTA_META_SREG]        = { .type = NLA_U32 },
 284 };
 285 EXPORT_SYMBOL_GPL(nft_meta_policy);
 286
 287 int nft_meta_get_init(const struct nft_ctx *ctx,
 288                       const struct nft_expr *expr,
 289                       const struct nlattr * const tb[])
 290 {
 291         struct nft_meta *priv = nft_expr_priv(expr);
 292         unsigned int len;
 293
 294         priv->key = ntohl(nla_get_be32(tb[NFTA_META_KEY]));
 295         switch (priv->key) {
 296         case NFT_META_PROTOCOL:
 297         case NFT_META_IIFTYPE:
 298         case NFT_META_OIFTYPE:
 299                 len = sizeof(u16);
 300                 break;
 301         case NFT_META_NFPROTO:
 302         case NFT_META_L4PROTO:
 303         case NFT_META_LEN:
 304         case NFT_META_PRIORITY:
 305         case NFT_META_MARK:
 306         case NFT_META_IIF:
 307         case NFT_META_OIF:
 308         case NFT_META_SKUID:
 309         case NFT_META_SKGID:
 310 #ifdef CONFIG_IP_ROUTE_CLASSID
 311         case NFT_META_RTCLASSID:
 312 #endif
 313 #ifdef CONFIG_NETWORK_SECMARK
 314         case NFT_META_SECMARK:
 315 #endif
 316         case NFT_META_PKTTYPE:
 317         case NFT_META_CPU:
 318         case NFT_META_IIFGROUP:
 319         case NFT_META_OIFGROUP:
 320 #ifdef CONFIG_CGROUP_NET_CLASSID
 321         case NFT_META_CGROUP:
 322 #endif
 323                 len = sizeof(u32);
 324                 break;
 325         case NFT_META_IIFNAME:
 326         case NFT_META_OIFNAME:
 327         case NFT_META_IIFKIND:
 328         case NFT_META_OIFKIND:
 329                 len = IFNAMSIZ;
 330                 break;
 331         case NFT_META_PRANDOM:
 332                 prandom_init_once(&nft_prandom_state);
 333                 len = sizeof(u32);
 334                 break;
 335 #ifdef CONFIG_XFRM
 336         case NFT_META_SECPATH:
 337                 len = sizeof(u8);
 338                 break;
 339 #endif
 340         default:
 341                 return -EOPNOTSUPP;
 342         }
 343
 344         priv->dreg = nft_parse_register(tb[NFTA_META_DREG]);
 345         return nft_validate_register_store(ctx, priv->dreg, NULL,
 346                                            NFT_DATA_VALUE, len);
 347 }
 348 EXPORT_SYMBOL_GPL(nft_meta_get_init);
 349
 350 static int nft_meta_get_validate(const struct nft_ctx *ctx,
 351                                  const struct nft_expr *expr,
 352                                  const struct nft_data **data)
 353 {
 354 #ifdef CONFIG_XFRM
 355         const struct nft_meta *priv = nft_expr_priv(expr);
 356         unsigned int hooks;
 357
 358         if (priv->key != NFT_META_SECPATH)
 359                 return 0;
 360
 361         switch (ctx->family) {
 362         case NFPROTO_NETDEV:
 363                 hooks = 1 << NF_NETDEV_INGRESS;
 364                 break;
 365         case NFPROTO_IPV4:
 366         case NFPROTO_IPV6:
 367         case NFPROTO_INET:
 368                 hooks = (1 << NF_INET_PRE_ROUTING) |
 369                         (1 << NF_INET_LOCAL_IN) |
 370                         (1 << NF_INET_FORWARD);
 371                 break;
 372         default:
 373                 return -EOPNOTSUPP;
 374         }
 375
 376         return nft_chain_validate_hooks(ctx->chain, hooks);
 377 #else
 378         return 0;
 379 #endif
 380 }
 381
 382 int nft_meta_set_validate(const struct nft_ctx *ctx,
 383                           const struct nft_expr *expr,
 384                           const struct nft_data **data)
 385 {
 386         struct nft_meta *priv = nft_expr_priv(expr);
 387         unsigned int hooks;
 388
 389         if (priv->key != NFT_META_PKTTYPE)
 390                 return 0;
 391
 392         switch (ctx->family) {
 393         case NFPROTO_BRIDGE:
 394                 hooks = 1 << NF_BR_PRE_ROUTING;
 395                 break;
 396         case NFPROTO_NETDEV:
 397                 hooks = 1 << NF_NETDEV_INGRESS;
 398                 break;
 399         case NFPROTO_IPV4:
 400         case NFPROTO_IPV6:
 401         case NFPROTO_INET:
 402                 hooks = 1 << NF_INET_PRE_ROUTING;
 403                 break;
 404         default:
 405                 return -EOPNOTSUPP;
 406         }
 407
 408         return nft_chain_validate_hooks(ctx->chain, hooks);
 409 }
 410 EXPORT_SYMBOL_GPL(nft_meta_set_validate);
 411
 412 int nft_meta_set_init(const struct nft_ctx *ctx,
 413                       const struct nft_expr *expr,
 414                       const struct nlattr * const tb[])
 415 {
 416         struct nft_meta *priv = nft_expr_priv(expr);
 417         unsigned int len;
 418         int err;
 419
 420         priv->key = ntohl(nla_get_be32(tb[NFTA_META_KEY]));
 421         switch (priv->key) {
 422         case NFT_META_MARK:
 423         case NFT_META_PRIORITY:
 424 #ifdef CONFIG_NETWORK_SECMARK
 425         case NFT_META_SECMARK:
 426 #endif
 427                 len = sizeof(u32);
 428                 break;
 429         case NFT_META_NFTRACE:
 430                 len = sizeof(u8);
 431                 break;
 432         case NFT_META_PKTTYPE:
 433                 len = sizeof(u8);
 434                 break;
 435         default:
 436                 return -EOPNOTSUPP;
 437         }
 438
 439         priv->sreg = nft_parse_register(tb[NFTA_META_SREG]);
 440         err = nft_validate_register_load(priv->sreg, len);
 441         if (err < 0)
 442                 return err;
 443
 444         if (priv->key == NFT_META_NFTRACE)
 445                 static_branch_inc(&nft_trace_enabled);
 446
 447         return 0;
 448 }
 449 EXPORT_SYMBOL_GPL(nft_meta_set_init);
 450
 451 int nft_meta_get_dump(struct sk_buff *skb,
 452                       const struct nft_expr *expr)
 453 {
 454         const struct nft_meta *priv = nft_expr_priv(expr);
 455
 456         if (nla_put_be32(skb, NFTA_META_KEY, htonl(priv->key)))
 457                 goto nla_put_failure;
 458         if (nft_dump_register(skb, NFTA_META_DREG, priv->dreg))
 459                 goto nla_put_failure;
 460         return 0;
 461
 462 nla_put_failure:
 463         return -1;
 464 }
 465 EXPORT_SYMBOL_GPL(nft_meta_get_dump);
 466
 467 int nft_meta_set_dump(struct sk_buff *skb, const struct nft_expr *expr)
 468 {
 469         const struct nft_meta *priv = nft_expr_priv(expr);
 470
 471         if (nla_put_be32(skb, NFTA_META_KEY, htonl(priv->key)))
 472                 goto nla_put_failure;
 473         if (nft_dump_register(skb, NFTA_META_SREG, priv->sreg))
 474                 goto nla_put_failure;
 475
 476         return 0;
 477
 478 nla_put_failure:
 479         return -1;
 480 }
 481 EXPORT_SYMBOL_GPL(nft_meta_set_dump);
 482
 483 void nft_meta_set_destroy(const struct nft_ctx *ctx,
 484                           const struct nft_expr *expr)
 485 {
 486         const struct nft_meta *priv = nft_expr_priv(expr);
 487
 488         if (priv->key == NFT_META_NFTRACE)
 489                 static_branch_dec(&nft_trace_enabled);
 490 }
 491 EXPORT_SYMBOL_GPL(nft_meta_set_destroy);
 492
 493 static const struct nft_expr_ops nft_meta_get_ops = {
 494         .type           = &nft_meta_type,
 495         .size           = NFT_EXPR_SIZE(sizeof(struct nft_meta)),
 496         .eval           = nft_meta_get_eval,
 497         .init           = nft_meta_get_init,
 498         .dump           = nft_meta_get_dump,
 499         .validate       = nft_meta_get_validate,
 500 };
 501
 502 static const struct nft_expr_ops nft_meta_set_ops = {
 503         .type           = &nft_meta_type,
 504         .size           = NFT_EXPR_SIZE(sizeof(struct nft_meta)),
 505         .eval           = nft_meta_set_eval,
 506         .init           = nft_meta_set_init,
 507         .destroy        = nft_meta_set_destroy,
 508         .dump           = nft_meta_set_dump,
 509         .validate       = nft_meta_set_validate,
 510 };
 511
 512 static const struct nft_expr_ops *
 513 nft_meta_select_ops(const struct nft_ctx *ctx,
 514                     const struct nlattr * const tb[])
 515 {
 516         if (tb[NFTA_META_KEY] == NULL)
 517                 return ERR_PTR(-EINVAL);
 518
 519         if (tb[NFTA_META_DREG] && tb[NFTA_META_SREG])
 520                 return ERR_PTR(-EINVAL);
 521
 522 #ifdef CONFIG_NF_TABLES_BRIDGE
 523         if (ctx->family == NFPROTO_BRIDGE)
 524                 return ERR_PTR(-EAGAIN);
 525 #endif
 526         if (tb[NFTA_META_DREG])
 527                 return &nft_meta_get_ops;
 528
 529         if (tb[NFTA_META_SREG])
 530                 return &nft_meta_set_ops;
 531
 532         return ERR_PTR(-EINVAL);
 533 }
 534
 535 struct nft_expr_type nft_meta_type __read_mostly = {
 536         .name           = "meta",
 537         .select_ops     = nft_meta_select_ops,
 538         .policy         = nft_meta_policy,
 539         .maxattr        = NFTA_META_MAX,
 540         .owner          = THIS_MODULE,
 541 };
 542
 543 #ifdef CONFIG_NETWORK_SECMARK
 544 struct nft_secmark {
 545         u32 secid;
 546         char *ctx;
 547 };
 548
 549 static const struct nla_policy nft_secmark_policy[NFTA_SECMARK_MAX + 1] = {
 550         [NFTA_SECMARK_CTX]     = { .type = NLA_STRING, .len = NFT_SECMARK_CTX_MAXLEN },
 551 };
 552
 553 static int nft_secmark_compute_secid(struct nft_secmark *priv)
 554 {
 555         u32 tmp_secid = 0;
 556         int err;
 557
 558         err = security_secctx_to_secid(priv->ctx, strlen(priv->ctx), &tmp_secid);
 559         if (err)
 560                 return err;
 561
 562         if (!tmp_secid)
 563                 return -ENOENT;
 564
 565         err = security_secmark_relabel_packet(tmp_secid);
 566         if (err)
 567                 return err;
 568
 569         priv->secid = tmp_secid;
 570         return 0;
 571 }
 572
 573 static void nft_secmark_obj_eval(struct nft_object *obj, struct nft_regs *regs,
 574                                  const struct nft_pktinfo *pkt)
 575 {
 576         const struct nft_secmark *priv = nft_obj_data(obj);
 577         struct sk_buff *skb = pkt->skb;
 578
 579         skb->secmark = priv->secid;
 580 }
 581
 582 static int nft_secmark_obj_init(const struct nft_ctx *ctx,
 583                                 const struct nlattr * const tb[],
 584                                 struct nft_object *obj)
 585 {
 586         struct nft_secmark *priv = nft_obj_data(obj);
 587         int err;
 588
 589         if (tb[NFTA_SECMARK_CTX] == NULL)
 590                 return -EINVAL;
 591
 592         priv->ctx = nla_strdup(tb[NFTA_SECMARK_CTX], GFP_KERNEL);
 593         if (!priv->ctx)
 594                 return -ENOMEM;
 595
 596         err = nft_secmark_compute_secid(priv);
 597         if (err) {
 598                 kfree(priv->ctx);
 599                 return err;
 600         }
 601
 602         security_secmark_refcount_inc();
 603
 604         return 0;
 605 }
 606
 607 static int nft_secmark_obj_dump(struct sk_buff *skb, struct nft_object *obj,
 608                                 bool reset)
 609 {
 610         struct nft_secmark *priv = nft_obj_data(obj);
 611         int err;
 612
 613         if (nla_put_string(skb, NFTA_SECMARK_CTX, priv->ctx))
 614                 return -1;
 615
 616         if (reset) {
 617                 err = nft_secmark_compute_secid(priv);
 618                 if (err)
 619                         return err;
 620         }
 621
 622         return 0;
 623 }
 624
 625 static void nft_secmark_obj_destroy(const struct nft_ctx *ctx, struct nft_object *obj)
 626 {
 627         struct nft_secmark *priv = nft_obj_data(obj);
 628
 629         security_secmark_refcount_dec();
 630
 631         kfree(priv->ctx);
 632 }
 633
 634 static const struct nft_object_ops nft_secmark_obj_ops = {
 635         .type           = &nft_secmark_obj_type,
 636         .size           = sizeof(struct nft_secmark),
 637         .init           = nft_secmark_obj_init,
 638         .eval           = nft_secmark_obj_eval,
 639         .dump           = nft_secmark_obj_dump,
 640         .destroy        = nft_secmark_obj_destroy,
 641 };
 642 struct nft_object_type nft_secmark_obj_type __read_mostly = {
 643         .type           = NFT_OBJECT_SECMARK,
 644         .ops            = &nft_secmark_obj_ops,
 645         .maxattr        = NFTA_SECMARK_MAX,
 646         .policy         = nft_secmark_policy,
 647         .owner          = THIS_MODULE,
 648 };
 649 #endif /* CONFIG_NETWORK_SECMARK */