]> asedeno.scripts.mit.edu Git - linux.git/blob - fs/btrfs/ctree.h
0888c3e2cc7d40f8d8355d05a48695ec971dee72
[linux.git] / fs / btrfs / ctree.h
1 /*
2  * Copyright (C) 2007 Oracle.  All rights reserved.
3  *
4  * This program is free software; you can redistribute it and/or
5  * modify it under the terms of the GNU General Public
6  * License v2 as published by the Free Software Foundation.
7  *
8  * This program is distributed in the hope that it will be useful,
9  * but WITHOUT ANY WARRANTY; without even the implied warranty of
10  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
11  * General Public License for more details.
12  *
13  * You should have received a copy of the GNU General Public
14  * License along with this program; if not, write to the
15  * Free Software Foundation, Inc., 59 Temple Place - Suite 330,
16  * Boston, MA 021110-1307, USA.
17  */
18
19 #ifndef __BTRFS_CTREE__
20 #define __BTRFS_CTREE__
21
22 #include <linux/mm.h>
23 #include <linux/highmem.h>
24 #include <linux/fs.h>
25 #include <linux/rwsem.h>
26 #include <linux/semaphore.h>
27 #include <linux/completion.h>
28 #include <linux/backing-dev.h>
29 #include <linux/wait.h>
30 #include <linux/slab.h>
31 #include <linux/kobject.h>
32 #include <trace/events/btrfs.h>
33 #include <asm/kmap_types.h>
34 #include <linux/pagemap.h>
35 #include <linux/btrfs.h>
36 #include <linux/workqueue.h>
37 #include <linux/security.h>
38 #include "extent_io.h"
39 #include "extent_map.h"
40 #include "async-thread.h"
41
42 struct btrfs_trans_handle;
43 struct btrfs_transaction;
44 struct btrfs_pending_snapshot;
45 extern struct kmem_cache *btrfs_trans_handle_cachep;
46 extern struct kmem_cache *btrfs_transaction_cachep;
47 extern struct kmem_cache *btrfs_bit_radix_cachep;
48 extern struct kmem_cache *btrfs_path_cachep;
49 extern struct kmem_cache *btrfs_free_space_cachep;
50 struct btrfs_ordered_sum;
51
52 #ifdef CONFIG_BTRFS_FS_RUN_SANITY_TESTS
53 #define STATIC noinline
54 #else
55 #define STATIC static noinline
56 #endif
57
58 #define BTRFS_MAGIC 0x4D5F53665248425FULL /* ascii _BHRfS_M, no null */
59
60 #define BTRFS_MAX_MIRRORS 3
61
62 #define BTRFS_MAX_LEVEL 8
63
64 #define BTRFS_COMPAT_EXTENT_TREE_V0
65
66 /* holds pointers to all of the tree roots */
67 #define BTRFS_ROOT_TREE_OBJECTID 1ULL
68
69 /* stores information about which extents are in use, and reference counts */
70 #define BTRFS_EXTENT_TREE_OBJECTID 2ULL
71
72 /*
73  * chunk tree stores translations from logical -> physical block numbering
74  * the super block points to the chunk tree
75  */
76 #define BTRFS_CHUNK_TREE_OBJECTID 3ULL
77
78 /*
79  * stores information about which areas of a given device are in use.
80  * one per device.  The tree of tree roots points to the device tree
81  */
82 #define BTRFS_DEV_TREE_OBJECTID 4ULL
83
84 /* one per subvolume, storing files and directories */
85 #define BTRFS_FS_TREE_OBJECTID 5ULL
86
87 /* directory objectid inside the root tree */
88 #define BTRFS_ROOT_TREE_DIR_OBJECTID 6ULL
89
90 /* holds checksums of all the data extents */
91 #define BTRFS_CSUM_TREE_OBJECTID 7ULL
92
93 /* holds quota configuration and tracking */
94 #define BTRFS_QUOTA_TREE_OBJECTID 8ULL
95
96 /* for storing items that use the BTRFS_UUID_KEY* types */
97 #define BTRFS_UUID_TREE_OBJECTID 9ULL
98
99 /* tracks free space in block groups. */
100 #define BTRFS_FREE_SPACE_TREE_OBJECTID 10ULL
101
102 /* for storing balance parameters in the root tree */
103 #define BTRFS_BALANCE_OBJECTID -4ULL
104
105 /* orhpan objectid for tracking unlinked/truncated files */
106 #define BTRFS_ORPHAN_OBJECTID -5ULL
107
108 /* does write ahead logging to speed up fsyncs */
109 #define BTRFS_TREE_LOG_OBJECTID -6ULL
110 #define BTRFS_TREE_LOG_FIXUP_OBJECTID -7ULL
111
112 /* for space balancing */
113 #define BTRFS_TREE_RELOC_OBJECTID -8ULL
114 #define BTRFS_DATA_RELOC_TREE_OBJECTID -9ULL
115
116 /*
117  * extent checksums all have this objectid
118  * this allows them to share the logging tree
119  * for fsyncs
120  */
121 #define BTRFS_EXTENT_CSUM_OBJECTID -10ULL
122
123 /* For storing free space cache */
124 #define BTRFS_FREE_SPACE_OBJECTID -11ULL
125
126 /*
127  * The inode number assigned to the special inode for storing
128  * free ino cache
129  */
130 #define BTRFS_FREE_INO_OBJECTID -12ULL
131
132 /* dummy objectid represents multiple objectids */
133 #define BTRFS_MULTIPLE_OBJECTIDS -255ULL
134
135 /*
136  * All files have objectids in this range.
137  */
138 #define BTRFS_FIRST_FREE_OBJECTID 256ULL
139 #define BTRFS_LAST_FREE_OBJECTID -256ULL
140 #define BTRFS_FIRST_CHUNK_TREE_OBJECTID 256ULL
141
142
143 /*
144  * the device items go into the chunk tree.  The key is in the form
145  * [ 1 BTRFS_DEV_ITEM_KEY device_id ]
146  */
147 #define BTRFS_DEV_ITEMS_OBJECTID 1ULL
148
149 #define BTRFS_BTREE_INODE_OBJECTID 1
150
151 #define BTRFS_EMPTY_SUBVOL_DIR_OBJECTID 2
152
153 #define BTRFS_DEV_REPLACE_DEVID 0ULL
154
155 /*
156  * the max metadata block size.  This limit is somewhat artificial,
157  * but the memmove costs go through the roof for larger blocks.
158  */
159 #define BTRFS_MAX_METADATA_BLOCKSIZE 65536
160
161 /*
162  * we can actually store much bigger names, but lets not confuse the rest
163  * of linux
164  */
165 #define BTRFS_NAME_LEN 255
166
167 /*
168  * Theoretical limit is larger, but we keep this down to a sane
169  * value. That should limit greatly the possibility of collisions on
170  * inode ref items.
171  */
172 #define BTRFS_LINK_MAX 65535U
173
174 /* 32 bytes in various csum fields */
175 #define BTRFS_CSUM_SIZE 32
176
177 /* csum types */
178 #define BTRFS_CSUM_TYPE_CRC32   0
179
180 static int btrfs_csum_sizes[] = { 4 };
181
182 /* four bytes for CRC32 */
183 #define BTRFS_EMPTY_DIR_SIZE 0
184
185 /* spefic to btrfs_map_block(), therefore not in include/linux/blk_types.h */
186 #define REQ_GET_READ_MIRRORS    (1 << 30)
187
188 #define BTRFS_FT_UNKNOWN        0
189 #define BTRFS_FT_REG_FILE       1
190 #define BTRFS_FT_DIR            2
191 #define BTRFS_FT_CHRDEV         3
192 #define BTRFS_FT_BLKDEV         4
193 #define BTRFS_FT_FIFO           5
194 #define BTRFS_FT_SOCK           6
195 #define BTRFS_FT_SYMLINK        7
196 #define BTRFS_FT_XATTR          8
197 #define BTRFS_FT_MAX            9
198
199 /* ioprio of readahead is set to idle */
200 #define BTRFS_IOPRIO_READA (IOPRIO_PRIO_VALUE(IOPRIO_CLASS_IDLE, 0))
201
202 #define BTRFS_DIRTY_METADATA_THRESH     (32 * 1024 * 1024)
203
204 #define BTRFS_MAX_EXTENT_SIZE (128 * 1024 * 1024)
205
206 /*
207  * The key defines the order in the tree, and so it also defines (optimal)
208  * block layout.
209  *
210  * objectid corresponds to the inode number.
211  *
212  * type tells us things about the object, and is a kind of stream selector.
213  * so for a given inode, keys with type of 1 might refer to the inode data,
214  * type of 2 may point to file data in the btree and type == 3 may point to
215  * extents.
216  *
217  * offset is the starting byte offset for this key in the stream.
218  *
219  * btrfs_disk_key is in disk byte order.  struct btrfs_key is always
220  * in cpu native order.  Otherwise they are identical and their sizes
221  * should be the same (ie both packed)
222  */
223 struct btrfs_disk_key {
224         __le64 objectid;
225         u8 type;
226         __le64 offset;
227 } __attribute__ ((__packed__));
228
229 struct btrfs_key {
230         u64 objectid;
231         u8 type;
232         u64 offset;
233 } __attribute__ ((__packed__));
234
235 struct btrfs_mapping_tree {
236         struct extent_map_tree map_tree;
237 };
238
239 struct btrfs_dev_item {
240         /* the internal btrfs device id */
241         __le64 devid;
242
243         /* size of the device */
244         __le64 total_bytes;
245
246         /* bytes used */
247         __le64 bytes_used;
248
249         /* optimal io alignment for this device */
250         __le32 io_align;
251
252         /* optimal io width for this device */
253         __le32 io_width;
254
255         /* minimal io size for this device */
256         __le32 sector_size;
257
258         /* type and info about this device */
259         __le64 type;
260
261         /* expected generation for this device */
262         __le64 generation;
263
264         /*
265          * starting byte of this partition on the device,
266          * to allow for stripe alignment in the future
267          */
268         __le64 start_offset;
269
270         /* grouping information for allocation decisions */
271         __le32 dev_group;
272
273         /* seek speed 0-100 where 100 is fastest */
274         u8 seek_speed;
275
276         /* bandwidth 0-100 where 100 is fastest */
277         u8 bandwidth;
278
279         /* btrfs generated uuid for this device */
280         u8 uuid[BTRFS_UUID_SIZE];
281
282         /* uuid of FS who owns this device */
283         u8 fsid[BTRFS_UUID_SIZE];
284 } __attribute__ ((__packed__));
285
286 struct btrfs_stripe {
287         __le64 devid;
288         __le64 offset;
289         u8 dev_uuid[BTRFS_UUID_SIZE];
290 } __attribute__ ((__packed__));
291
292 struct btrfs_chunk {
293         /* size of this chunk in bytes */
294         __le64 length;
295
296         /* objectid of the root referencing this chunk */
297         __le64 owner;
298
299         __le64 stripe_len;
300         __le64 type;
301
302         /* optimal io alignment for this chunk */
303         __le32 io_align;
304
305         /* optimal io width for this chunk */
306         __le32 io_width;
307
308         /* minimal io size for this chunk */
309         __le32 sector_size;
310
311         /* 2^16 stripes is quite a lot, a second limit is the size of a single
312          * item in the btree
313          */
314         __le16 num_stripes;
315
316         /* sub stripes only matter for raid10 */
317         __le16 sub_stripes;
318         struct btrfs_stripe stripe;
319         /* additional stripes go here */
320 } __attribute__ ((__packed__));
321
322 #define BTRFS_FREE_SPACE_EXTENT 1
323 #define BTRFS_FREE_SPACE_BITMAP 2
324
325 struct btrfs_free_space_entry {
326         __le64 offset;
327         __le64 bytes;
328         u8 type;
329 } __attribute__ ((__packed__));
330
331 struct btrfs_free_space_header {
332         struct btrfs_disk_key location;
333         __le64 generation;
334         __le64 num_entries;
335         __le64 num_bitmaps;
336 } __attribute__ ((__packed__));
337
338 static inline unsigned long btrfs_chunk_item_size(int num_stripes)
339 {
340         BUG_ON(num_stripes == 0);
341         return sizeof(struct btrfs_chunk) +
342                 sizeof(struct btrfs_stripe) * (num_stripes - 1);
343 }
344
345 #define BTRFS_HEADER_FLAG_WRITTEN       (1ULL << 0)
346 #define BTRFS_HEADER_FLAG_RELOC         (1ULL << 1)
347
348 /*
349  * File system states
350  */
351 #define BTRFS_FS_STATE_ERROR            0
352 #define BTRFS_FS_STATE_REMOUNTING       1
353 #define BTRFS_FS_STATE_TRANS_ABORTED    2
354 #define BTRFS_FS_STATE_DEV_REPLACING    3
355
356 /* Super block flags */
357 /* Errors detected */
358 #define BTRFS_SUPER_FLAG_ERROR          (1ULL << 2)
359
360 #define BTRFS_SUPER_FLAG_SEEDING        (1ULL << 32)
361 #define BTRFS_SUPER_FLAG_METADUMP       (1ULL << 33)
362
363 #define BTRFS_BACKREF_REV_MAX           256
364 #define BTRFS_BACKREF_REV_SHIFT         56
365 #define BTRFS_BACKREF_REV_MASK          (((u64)BTRFS_BACKREF_REV_MAX - 1) << \
366                                          BTRFS_BACKREF_REV_SHIFT)
367
368 #define BTRFS_OLD_BACKREF_REV           0
369 #define BTRFS_MIXED_BACKREF_REV         1
370
371 /*
372  * every tree block (leaf or node) starts with this header.
373  */
374 struct btrfs_header {
375         /* these first four must match the super block */
376         u8 csum[BTRFS_CSUM_SIZE];
377         u8 fsid[BTRFS_FSID_SIZE]; /* FS specific uuid */
378         __le64 bytenr; /* which block this node is supposed to live in */
379         __le64 flags;
380
381         /* allowed to be different from the super from here on down */
382         u8 chunk_tree_uuid[BTRFS_UUID_SIZE];
383         __le64 generation;
384         __le64 owner;
385         __le32 nritems;
386         u8 level;
387 } __attribute__ ((__packed__));
388
389 #define BTRFS_NODEPTRS_PER_BLOCK(r) (((r)->nodesize - \
390                                       sizeof(struct btrfs_header)) / \
391                                      sizeof(struct btrfs_key_ptr))
392 #define __BTRFS_LEAF_DATA_SIZE(bs) ((bs) - sizeof(struct btrfs_header))
393 #define BTRFS_LEAF_DATA_SIZE(r) (__BTRFS_LEAF_DATA_SIZE(r->nodesize))
394 #define BTRFS_FILE_EXTENT_INLINE_DATA_START             \
395                 (offsetof(struct btrfs_file_extent_item, disk_bytenr))
396 #define BTRFS_MAX_INLINE_DATA_SIZE(r) (BTRFS_LEAF_DATA_SIZE(r) - \
397                                         sizeof(struct btrfs_item) - \
398                                         BTRFS_FILE_EXTENT_INLINE_DATA_START)
399 #define BTRFS_MAX_XATTR_SIZE(r) (BTRFS_LEAF_DATA_SIZE(r) - \
400                                  sizeof(struct btrfs_item) -\
401                                  sizeof(struct btrfs_dir_item))
402
403
404 /*
405  * this is a very generous portion of the super block, giving us
406  * room to translate 14 chunks with 3 stripes each.
407  */
408 #define BTRFS_SYSTEM_CHUNK_ARRAY_SIZE 2048
409 #define BTRFS_LABEL_SIZE 256
410
411 /*
412  * just in case we somehow lose the roots and are not able to mount,
413  * we store an array of the roots from previous transactions
414  * in the super.
415  */
416 #define BTRFS_NUM_BACKUP_ROOTS 4
417 struct btrfs_root_backup {
418         __le64 tree_root;
419         __le64 tree_root_gen;
420
421         __le64 chunk_root;
422         __le64 chunk_root_gen;
423
424         __le64 extent_root;
425         __le64 extent_root_gen;
426
427         __le64 fs_root;
428         __le64 fs_root_gen;
429
430         __le64 dev_root;
431         __le64 dev_root_gen;
432
433         __le64 csum_root;
434         __le64 csum_root_gen;
435
436         __le64 total_bytes;
437         __le64 bytes_used;
438         __le64 num_devices;
439         /* future */
440         __le64 unused_64[4];
441
442         u8 tree_root_level;
443         u8 chunk_root_level;
444         u8 extent_root_level;
445         u8 fs_root_level;
446         u8 dev_root_level;
447         u8 csum_root_level;
448         /* future and to align */
449         u8 unused_8[10];
450 } __attribute__ ((__packed__));
451
452 /*
453  * the super block basically lists the main trees of the FS
454  * it currently lacks any block count etc etc
455  */
456 struct btrfs_super_block {
457         u8 csum[BTRFS_CSUM_SIZE];
458         /* the first 4 fields must match struct btrfs_header */
459         u8 fsid[BTRFS_FSID_SIZE];    /* FS specific uuid */
460         __le64 bytenr; /* this block number */
461         __le64 flags;
462
463         /* allowed to be different from the btrfs_header from here own down */
464         __le64 magic;
465         __le64 generation;
466         __le64 root;
467         __le64 chunk_root;
468         __le64 log_root;
469
470         /* this will help find the new super based on the log root */
471         __le64 log_root_transid;
472         __le64 total_bytes;
473         __le64 bytes_used;
474         __le64 root_dir_objectid;
475         __le64 num_devices;
476         __le32 sectorsize;
477         __le32 nodesize;
478         __le32 __unused_leafsize;
479         __le32 stripesize;
480         __le32 sys_chunk_array_size;
481         __le64 chunk_root_generation;
482         __le64 compat_flags;
483         __le64 compat_ro_flags;
484         __le64 incompat_flags;
485         __le16 csum_type;
486         u8 root_level;
487         u8 chunk_root_level;
488         u8 log_root_level;
489         struct btrfs_dev_item dev_item;
490
491         char label[BTRFS_LABEL_SIZE];
492
493         __le64 cache_generation;
494         __le64 uuid_tree_generation;
495
496         /* future expansion */
497         __le64 reserved[30];
498         u8 sys_chunk_array[BTRFS_SYSTEM_CHUNK_ARRAY_SIZE];
499         struct btrfs_root_backup super_roots[BTRFS_NUM_BACKUP_ROOTS];
500 } __attribute__ ((__packed__));
501
502 /*
503  * Compat flags that we support.  If any incompat flags are set other than the
504  * ones specified below then we will fail to mount
505  */
506 #define BTRFS_FEATURE_COMPAT_RO_FREE_SPACE_TREE (1ULL << 0)
507
508 #define BTRFS_FEATURE_INCOMPAT_MIXED_BACKREF    (1ULL << 0)
509 #define BTRFS_FEATURE_INCOMPAT_DEFAULT_SUBVOL   (1ULL << 1)
510 #define BTRFS_FEATURE_INCOMPAT_MIXED_GROUPS     (1ULL << 2)
511 #define BTRFS_FEATURE_INCOMPAT_COMPRESS_LZO     (1ULL << 3)
512 /*
513  * some patches floated around with a second compression method
514  * lets save that incompat here for when they do get in
515  * Note we don't actually support it, we're just reserving the
516  * number
517  */
518 #define BTRFS_FEATURE_INCOMPAT_COMPRESS_LZOv2   (1ULL << 4)
519
520 /*
521  * older kernels tried to do bigger metadata blocks, but the
522  * code was pretty buggy.  Lets not let them try anymore.
523  */
524 #define BTRFS_FEATURE_INCOMPAT_BIG_METADATA     (1ULL << 5)
525
526 #define BTRFS_FEATURE_INCOMPAT_EXTENDED_IREF    (1ULL << 6)
527 #define BTRFS_FEATURE_INCOMPAT_RAID56           (1ULL << 7)
528 #define BTRFS_FEATURE_INCOMPAT_SKINNY_METADATA  (1ULL << 8)
529 #define BTRFS_FEATURE_INCOMPAT_NO_HOLES         (1ULL << 9)
530
531 #define BTRFS_FEATURE_COMPAT_SUPP               0ULL
532 #define BTRFS_FEATURE_COMPAT_SAFE_SET           0ULL
533 #define BTRFS_FEATURE_COMPAT_SAFE_CLEAR         0ULL
534 #define BTRFS_FEATURE_COMPAT_RO_SUPP            0ULL
535 #define BTRFS_FEATURE_COMPAT_RO_SAFE_SET        0ULL
536 #define BTRFS_FEATURE_COMPAT_RO_SAFE_CLEAR      0ULL
537
538 #define BTRFS_FEATURE_INCOMPAT_SUPP                     \
539         (BTRFS_FEATURE_INCOMPAT_MIXED_BACKREF |         \
540          BTRFS_FEATURE_INCOMPAT_DEFAULT_SUBVOL |        \
541          BTRFS_FEATURE_INCOMPAT_MIXED_GROUPS |          \
542          BTRFS_FEATURE_INCOMPAT_BIG_METADATA |          \
543          BTRFS_FEATURE_INCOMPAT_COMPRESS_LZO |          \
544          BTRFS_FEATURE_INCOMPAT_RAID56 |                \
545          BTRFS_FEATURE_INCOMPAT_EXTENDED_IREF |         \
546          BTRFS_FEATURE_INCOMPAT_SKINNY_METADATA |       \
547          BTRFS_FEATURE_INCOMPAT_NO_HOLES)
548
549 #define BTRFS_FEATURE_INCOMPAT_SAFE_SET                 \
550         (BTRFS_FEATURE_INCOMPAT_EXTENDED_IREF)
551 #define BTRFS_FEATURE_INCOMPAT_SAFE_CLEAR               0ULL
552
553 /*
554  * A leaf is full of items. offset and size tell us where to find
555  * the item in the leaf (relative to the start of the data area)
556  */
557 struct btrfs_item {
558         struct btrfs_disk_key key;
559         __le32 offset;
560         __le32 size;
561 } __attribute__ ((__packed__));
562
563 /*
564  * leaves have an item area and a data area:
565  * [item0, item1....itemN] [free space] [dataN...data1, data0]
566  *
567  * The data is separate from the items to get the keys closer together
568  * during searches.
569  */
570 struct btrfs_leaf {
571         struct btrfs_header header;
572         struct btrfs_item items[];
573 } __attribute__ ((__packed__));
574
575 /*
576  * all non-leaf blocks are nodes, they hold only keys and pointers to
577  * other blocks
578  */
579 struct btrfs_key_ptr {
580         struct btrfs_disk_key key;
581         __le64 blockptr;
582         __le64 generation;
583 } __attribute__ ((__packed__));
584
585 struct btrfs_node {
586         struct btrfs_header header;
587         struct btrfs_key_ptr ptrs[];
588 } __attribute__ ((__packed__));
589
590 /*
591  * btrfs_paths remember the path taken from the root down to the leaf.
592  * level 0 is always the leaf, and nodes[1...BTRFS_MAX_LEVEL] will point
593  * to any other levels that are present.
594  *
595  * The slots array records the index of the item or block pointer
596  * used while walking the tree.
597  */
598 struct btrfs_path {
599         struct extent_buffer *nodes[BTRFS_MAX_LEVEL];
600         int slots[BTRFS_MAX_LEVEL];
601         /* if there is real range locking, this locks field will change */
602         int locks[BTRFS_MAX_LEVEL];
603         int reada;
604         /* keep some upper locks as we walk down */
605         int lowest_level;
606
607         /*
608          * set by btrfs_split_item, tells search_slot to keep all locks
609          * and to force calls to keep space in the nodes
610          */
611         unsigned int search_for_split:1;
612         unsigned int keep_locks:1;
613         unsigned int skip_locking:1;
614         unsigned int leave_spinning:1;
615         unsigned int search_commit_root:1;
616         unsigned int need_commit_sem:1;
617         unsigned int skip_release_on_error:1;
618 };
619
620 /*
621  * items in the extent btree are used to record the objectid of the
622  * owner of the block and the number of references
623  */
624
625 struct btrfs_extent_item {
626         __le64 refs;
627         __le64 generation;
628         __le64 flags;
629 } __attribute__ ((__packed__));
630
631 struct btrfs_extent_item_v0 {
632         __le32 refs;
633 } __attribute__ ((__packed__));
634
635 #define BTRFS_MAX_EXTENT_ITEM_SIZE(r) ((BTRFS_LEAF_DATA_SIZE(r) >> 4) - \
636                                         sizeof(struct btrfs_item))
637
638 #define BTRFS_EXTENT_FLAG_DATA          (1ULL << 0)
639 #define BTRFS_EXTENT_FLAG_TREE_BLOCK    (1ULL << 1)
640
641 /* following flags only apply to tree blocks */
642
643 /* use full backrefs for extent pointers in the block */
644 #define BTRFS_BLOCK_FLAG_FULL_BACKREF   (1ULL << 8)
645
646 /*
647  * this flag is only used internally by scrub and may be changed at any time
648  * it is only declared here to avoid collisions
649  */
650 #define BTRFS_EXTENT_FLAG_SUPER         (1ULL << 48)
651
652 struct btrfs_tree_block_info {
653         struct btrfs_disk_key key;
654         u8 level;
655 } __attribute__ ((__packed__));
656
657 struct btrfs_extent_data_ref {
658         __le64 root;
659         __le64 objectid;
660         __le64 offset;
661         __le32 count;
662 } __attribute__ ((__packed__));
663
664 struct btrfs_shared_data_ref {
665         __le32 count;
666 } __attribute__ ((__packed__));
667
668 struct btrfs_extent_inline_ref {
669         u8 type;
670         __le64 offset;
671 } __attribute__ ((__packed__));
672
673 /* old style backrefs item */
674 struct btrfs_extent_ref_v0 {
675         __le64 root;
676         __le64 generation;
677         __le64 objectid;
678         __le32 count;
679 } __attribute__ ((__packed__));
680
681
682 /* dev extents record free space on individual devices.  The owner
683  * field points back to the chunk allocation mapping tree that allocated
684  * the extent.  The chunk tree uuid field is a way to double check the owner
685  */
686 struct btrfs_dev_extent {
687         __le64 chunk_tree;
688         __le64 chunk_objectid;
689         __le64 chunk_offset;
690         __le64 length;
691         u8 chunk_tree_uuid[BTRFS_UUID_SIZE];
692 } __attribute__ ((__packed__));
693
694 struct btrfs_inode_ref {
695         __le64 index;
696         __le16 name_len;
697         /* name goes here */
698 } __attribute__ ((__packed__));
699
700 struct btrfs_inode_extref {
701         __le64 parent_objectid;
702         __le64 index;
703         __le16 name_len;
704         __u8   name[0];
705         /* name goes here */
706 } __attribute__ ((__packed__));
707
708 struct btrfs_timespec {
709         __le64 sec;
710         __le32 nsec;
711 } __attribute__ ((__packed__));
712
713 enum btrfs_compression_type {
714         BTRFS_COMPRESS_NONE  = 0,
715         BTRFS_COMPRESS_ZLIB  = 1,
716         BTRFS_COMPRESS_LZO   = 2,
717         BTRFS_COMPRESS_TYPES = 2,
718         BTRFS_COMPRESS_LAST  = 3,
719 };
720
721 struct btrfs_inode_item {
722         /* nfs style generation number */
723         __le64 generation;
724         /* transid that last touched this inode */
725         __le64 transid;
726         __le64 size;
727         __le64 nbytes;
728         __le64 block_group;
729         __le32 nlink;
730         __le32 uid;
731         __le32 gid;
732         __le32 mode;
733         __le64 rdev;
734         __le64 flags;
735
736         /* modification sequence number for NFS */
737         __le64 sequence;
738
739         /*
740          * a little future expansion, for more than this we can
741          * just grow the inode item and version it
742          */
743         __le64 reserved[4];
744         struct btrfs_timespec atime;
745         struct btrfs_timespec ctime;
746         struct btrfs_timespec mtime;
747         struct btrfs_timespec otime;
748 } __attribute__ ((__packed__));
749
750 struct btrfs_dir_log_item {
751         __le64 end;
752 } __attribute__ ((__packed__));
753
754 struct btrfs_dir_item {
755         struct btrfs_disk_key location;
756         __le64 transid;
757         __le16 data_len;
758         __le16 name_len;
759         u8 type;
760 } __attribute__ ((__packed__));
761
762 #define BTRFS_ROOT_SUBVOL_RDONLY        (1ULL << 0)
763
764 /*
765  * Internal in-memory flag that a subvolume has been marked for deletion but
766  * still visible as a directory
767  */
768 #define BTRFS_ROOT_SUBVOL_DEAD          (1ULL << 48)
769
770 struct btrfs_root_item {
771         struct btrfs_inode_item inode;
772         __le64 generation;
773         __le64 root_dirid;
774         __le64 bytenr;
775         __le64 byte_limit;
776         __le64 bytes_used;
777         __le64 last_snapshot;
778         __le64 flags;
779         __le32 refs;
780         struct btrfs_disk_key drop_progress;
781         u8 drop_level;
782         u8 level;
783
784         /*
785          * The following fields appear after subvol_uuids+subvol_times
786          * were introduced.
787          */
788
789         /*
790          * This generation number is used to test if the new fields are valid
791          * and up to date while reading the root item. Everytime the root item
792          * is written out, the "generation" field is copied into this field. If
793          * anyone ever mounted the fs with an older kernel, we will have
794          * mismatching generation values here and thus must invalidate the
795          * new fields. See btrfs_update_root and btrfs_find_last_root for
796          * details.
797          * the offset of generation_v2 is also used as the start for the memset
798          * when invalidating the fields.
799          */
800         __le64 generation_v2;
801         u8 uuid[BTRFS_UUID_SIZE];
802         u8 parent_uuid[BTRFS_UUID_SIZE];
803         u8 received_uuid[BTRFS_UUID_SIZE];
804         __le64 ctransid; /* updated when an inode changes */
805         __le64 otransid; /* trans when created */
806         __le64 stransid; /* trans when sent. non-zero for received subvol */
807         __le64 rtransid; /* trans when received. non-zero for received subvol */
808         struct btrfs_timespec ctime;
809         struct btrfs_timespec otime;
810         struct btrfs_timespec stime;
811         struct btrfs_timespec rtime;
812         __le64 reserved[8]; /* for future */
813 } __attribute__ ((__packed__));
814
815 /*
816  * this is used for both forward and backward root refs
817  */
818 struct btrfs_root_ref {
819         __le64 dirid;
820         __le64 sequence;
821         __le16 name_len;
822 } __attribute__ ((__packed__));
823
824 struct btrfs_disk_balance_args {
825         /*
826          * profiles to operate on, single is denoted by
827          * BTRFS_AVAIL_ALLOC_BIT_SINGLE
828          */
829         __le64 profiles;
830
831         /* usage filter */
832         __le64 usage;
833
834         /* devid filter */
835         __le64 devid;
836
837         /* devid subset filter [pstart..pend) */
838         __le64 pstart;
839         __le64 pend;
840
841         /* btrfs virtual address space subset filter [vstart..vend) */
842         __le64 vstart;
843         __le64 vend;
844
845         /*
846          * profile to convert to, single is denoted by
847          * BTRFS_AVAIL_ALLOC_BIT_SINGLE
848          */
849         __le64 target;
850
851         /* BTRFS_BALANCE_ARGS_* */
852         __le64 flags;
853
854         /* BTRFS_BALANCE_ARGS_LIMIT value */
855         __le64 limit;
856
857         __le64 unused[7];
858 } __attribute__ ((__packed__));
859
860 /*
861  * store balance parameters to disk so that balance can be properly
862  * resumed after crash or unmount
863  */
864 struct btrfs_balance_item {
865         /* BTRFS_BALANCE_* */
866         __le64 flags;
867
868         struct btrfs_disk_balance_args data;
869         struct btrfs_disk_balance_args meta;
870         struct btrfs_disk_balance_args sys;
871
872         __le64 unused[4];
873 } __attribute__ ((__packed__));
874
875 #define BTRFS_FILE_EXTENT_INLINE 0
876 #define BTRFS_FILE_EXTENT_REG 1
877 #define BTRFS_FILE_EXTENT_PREALLOC 2
878
879 struct btrfs_file_extent_item {
880         /*
881          * transaction id that created this extent
882          */
883         __le64 generation;
884         /*
885          * max number of bytes to hold this extent in ram
886          * when we split a compressed extent we can't know how big
887          * each of the resulting pieces will be.  So, this is
888          * an upper limit on the size of the extent in ram instead of
889          * an exact limit.
890          */
891         __le64 ram_bytes;
892
893         /*
894          * 32 bits for the various ways we might encode the data,
895          * including compression and encryption.  If any of these
896          * are set to something a given disk format doesn't understand
897          * it is treated like an incompat flag for reading and writing,
898          * but not for stat.
899          */
900         u8 compression;
901         u8 encryption;
902         __le16 other_encoding; /* spare for later use */
903
904         /* are we inline data or a real extent? */
905         u8 type;
906
907         /*
908          * disk space consumed by the extent, checksum blocks are included
909          * in these numbers
910          *
911          * At this offset in the structure, the inline extent data start.
912          */
913         __le64 disk_bytenr;
914         __le64 disk_num_bytes;
915         /*
916          * the logical offset in file blocks (no csums)
917          * this extent record is for.  This allows a file extent to point
918          * into the middle of an existing extent on disk, sharing it
919          * between two snapshots (useful if some bytes in the middle of the
920          * extent have changed
921          */
922         __le64 offset;
923         /*
924          * the logical number of file blocks (no csums included).  This
925          * always reflects the size uncompressed and without encoding.
926          */
927         __le64 num_bytes;
928
929 } __attribute__ ((__packed__));
930
931 struct btrfs_csum_item {
932         u8 csum;
933 } __attribute__ ((__packed__));
934
935 struct btrfs_dev_stats_item {
936         /*
937          * grow this item struct at the end for future enhancements and keep
938          * the existing values unchanged
939          */
940         __le64 values[BTRFS_DEV_STAT_VALUES_MAX];
941 } __attribute__ ((__packed__));
942
943 #define BTRFS_DEV_REPLACE_ITEM_CONT_READING_FROM_SRCDEV_MODE_ALWAYS     0
944 #define BTRFS_DEV_REPLACE_ITEM_CONT_READING_FROM_SRCDEV_MODE_AVOID      1
945 #define BTRFS_DEV_REPLACE_ITEM_STATE_NEVER_STARTED      0
946 #define BTRFS_DEV_REPLACE_ITEM_STATE_STARTED            1
947 #define BTRFS_DEV_REPLACE_ITEM_STATE_SUSPENDED          2
948 #define BTRFS_DEV_REPLACE_ITEM_STATE_FINISHED           3
949 #define BTRFS_DEV_REPLACE_ITEM_STATE_CANCELED           4
950
951 struct btrfs_dev_replace {
952         u64 replace_state;      /* see #define above */
953         u64 time_started;       /* seconds since 1-Jan-1970 */
954         u64 time_stopped;       /* seconds since 1-Jan-1970 */
955         atomic64_t num_write_errors;
956         atomic64_t num_uncorrectable_read_errors;
957
958         u64 cursor_left;
959         u64 committed_cursor_left;
960         u64 cursor_left_last_write_of_item;
961         u64 cursor_right;
962
963         u64 cont_reading_from_srcdev_mode;      /* see #define above */
964
965         int is_valid;
966         int item_needs_writeback;
967         struct btrfs_device *srcdev;
968         struct btrfs_device *tgtdev;
969
970         pid_t lock_owner;
971         atomic_t nesting_level;
972         struct mutex lock_finishing_cancel_unmount;
973         struct mutex lock_management_lock;
974         struct mutex lock;
975
976         struct btrfs_scrub_progress scrub_progress;
977 };
978
979 struct btrfs_dev_replace_item {
980         /*
981          * grow this item struct at the end for future enhancements and keep
982          * the existing values unchanged
983          */
984         __le64 src_devid;
985         __le64 cursor_left;
986         __le64 cursor_right;
987         __le64 cont_reading_from_srcdev_mode;
988
989         __le64 replace_state;
990         __le64 time_started;
991         __le64 time_stopped;
992         __le64 num_write_errors;
993         __le64 num_uncorrectable_read_errors;
994 } __attribute__ ((__packed__));
995
996 /* different types of block groups (and chunks) */
997 #define BTRFS_BLOCK_GROUP_DATA          (1ULL << 0)
998 #define BTRFS_BLOCK_GROUP_SYSTEM        (1ULL << 1)
999 #define BTRFS_BLOCK_GROUP_METADATA      (1ULL << 2)
1000 #define BTRFS_BLOCK_GROUP_RAID0         (1ULL << 3)
1001 #define BTRFS_BLOCK_GROUP_RAID1         (1ULL << 4)
1002 #define BTRFS_BLOCK_GROUP_DUP           (1ULL << 5)
1003 #define BTRFS_BLOCK_GROUP_RAID10        (1ULL << 6)
1004 #define BTRFS_BLOCK_GROUP_RAID5         (1ULL << 7)
1005 #define BTRFS_BLOCK_GROUP_RAID6         (1ULL << 8)
1006 #define BTRFS_BLOCK_GROUP_RESERVED      (BTRFS_AVAIL_ALLOC_BIT_SINGLE | \
1007                                          BTRFS_SPACE_INFO_GLOBAL_RSV)
1008
1009 enum btrfs_raid_types {
1010         BTRFS_RAID_RAID10,
1011         BTRFS_RAID_RAID1,
1012         BTRFS_RAID_DUP,
1013         BTRFS_RAID_RAID0,
1014         BTRFS_RAID_SINGLE,
1015         BTRFS_RAID_RAID5,
1016         BTRFS_RAID_RAID6,
1017         BTRFS_NR_RAID_TYPES
1018 };
1019
1020 #define BTRFS_BLOCK_GROUP_TYPE_MASK     (BTRFS_BLOCK_GROUP_DATA |    \
1021                                          BTRFS_BLOCK_GROUP_SYSTEM |  \
1022                                          BTRFS_BLOCK_GROUP_METADATA)
1023
1024 #define BTRFS_BLOCK_GROUP_PROFILE_MASK  (BTRFS_BLOCK_GROUP_RAID0 |   \
1025                                          BTRFS_BLOCK_GROUP_RAID1 |   \
1026                                          BTRFS_BLOCK_GROUP_RAID5 |   \
1027                                          BTRFS_BLOCK_GROUP_RAID6 |   \
1028                                          BTRFS_BLOCK_GROUP_DUP |     \
1029                                          BTRFS_BLOCK_GROUP_RAID10)
1030 #define BTRFS_BLOCK_GROUP_RAID56_MASK   (BTRFS_BLOCK_GROUP_RAID5 |   \
1031                                          BTRFS_BLOCK_GROUP_RAID6)
1032
1033 /*
1034  * We need a bit for restriper to be able to tell when chunks of type
1035  * SINGLE are available.  This "extended" profile format is used in
1036  * fs_info->avail_*_alloc_bits (in-memory) and balance item fields
1037  * (on-disk).  The corresponding on-disk bit in chunk.type is reserved
1038  * to avoid remappings between two formats in future.
1039  */
1040 #define BTRFS_AVAIL_ALLOC_BIT_SINGLE    (1ULL << 48)
1041
1042 /*
1043  * A fake block group type that is used to communicate global block reserve
1044  * size to userspace via the SPACE_INFO ioctl.
1045  */
1046 #define BTRFS_SPACE_INFO_GLOBAL_RSV     (1ULL << 49)
1047
1048 #define BTRFS_EXTENDED_PROFILE_MASK     (BTRFS_BLOCK_GROUP_PROFILE_MASK | \
1049                                          BTRFS_AVAIL_ALLOC_BIT_SINGLE)
1050
1051 static inline u64 chunk_to_extended(u64 flags)
1052 {
1053         if ((flags & BTRFS_BLOCK_GROUP_PROFILE_MASK) == 0)
1054                 flags |= BTRFS_AVAIL_ALLOC_BIT_SINGLE;
1055
1056         return flags;
1057 }
1058 static inline u64 extended_to_chunk(u64 flags)
1059 {
1060         return flags & ~BTRFS_AVAIL_ALLOC_BIT_SINGLE;
1061 }
1062
1063 struct btrfs_block_group_item {
1064         __le64 used;
1065         __le64 chunk_objectid;
1066         __le64 flags;
1067 } __attribute__ ((__packed__));
1068
1069 struct btrfs_free_space_info {
1070         __le32 extent_count;
1071         __le32 flags;
1072 } __attribute__ ((__packed__));
1073
1074 #define BTRFS_FREE_SPACE_USING_BITMAPS (1ULL << 0)
1075
1076 #define BTRFS_QGROUP_LEVEL_SHIFT                48
1077 static inline u64 btrfs_qgroup_level(u64 qgroupid)
1078 {
1079         return qgroupid >> BTRFS_QGROUP_LEVEL_SHIFT;
1080 }
1081
1082 /*
1083  * is subvolume quota turned on?
1084  */
1085 #define BTRFS_QGROUP_STATUS_FLAG_ON             (1ULL << 0)
1086 /*
1087  * RESCAN is set during the initialization phase
1088  */
1089 #define BTRFS_QGROUP_STATUS_FLAG_RESCAN         (1ULL << 1)
1090 /*
1091  * Some qgroup entries are known to be out of date,
1092  * either because the configuration has changed in a way that
1093  * makes a rescan necessary, or because the fs has been mounted
1094  * with a non-qgroup-aware version.
1095  * Turning qouta off and on again makes it inconsistent, too.
1096  */
1097 #define BTRFS_QGROUP_STATUS_FLAG_INCONSISTENT   (1ULL << 2)
1098
1099 #define BTRFS_QGROUP_STATUS_VERSION        1
1100
1101 struct btrfs_qgroup_status_item {
1102         __le64 version;
1103         /*
1104          * the generation is updated during every commit. As older
1105          * versions of btrfs are not aware of qgroups, it will be
1106          * possible to detect inconsistencies by checking the
1107          * generation on mount time
1108          */
1109         __le64 generation;
1110
1111         /* flag definitions see above */
1112         __le64 flags;
1113
1114         /*
1115          * only used during scanning to record the progress
1116          * of the scan. It contains a logical address
1117          */
1118         __le64 rescan;
1119 } __attribute__ ((__packed__));
1120
1121 struct btrfs_qgroup_info_item {
1122         __le64 generation;
1123         __le64 rfer;
1124         __le64 rfer_cmpr;
1125         __le64 excl;
1126         __le64 excl_cmpr;
1127 } __attribute__ ((__packed__));
1128
1129 /* flags definition for qgroup limits */
1130 #define BTRFS_QGROUP_LIMIT_MAX_RFER     (1ULL << 0)
1131 #define BTRFS_QGROUP_LIMIT_MAX_EXCL     (1ULL << 1)
1132 #define BTRFS_QGROUP_LIMIT_RSV_RFER     (1ULL << 2)
1133 #define BTRFS_QGROUP_LIMIT_RSV_EXCL     (1ULL << 3)
1134 #define BTRFS_QGROUP_LIMIT_RFER_CMPR    (1ULL << 4)
1135 #define BTRFS_QGROUP_LIMIT_EXCL_CMPR    (1ULL << 5)
1136
1137 struct btrfs_qgroup_limit_item {
1138         /*
1139          * only updated when any of the other values change
1140          */
1141         __le64 flags;
1142         __le64 max_rfer;
1143         __le64 max_excl;
1144         __le64 rsv_rfer;
1145         __le64 rsv_excl;
1146 } __attribute__ ((__packed__));
1147
1148 /* For raid type sysfs entries */
1149 struct raid_kobject {
1150         int raid_type;
1151         struct kobject kobj;
1152 };
1153
1154 struct btrfs_space_info {
1155         spinlock_t lock;
1156
1157         u64 total_bytes;        /* total bytes in the space,
1158                                    this doesn't take mirrors into account */
1159         u64 bytes_used;         /* total bytes used,
1160                                    this doesn't take mirrors into account */
1161         u64 bytes_pinned;       /* total bytes pinned, will be freed when the
1162                                    transaction finishes */
1163         u64 bytes_reserved;     /* total bytes the allocator has reserved for
1164                                    current allocations */
1165         u64 bytes_may_use;      /* number of bytes that may be used for
1166                                    delalloc/allocations */
1167         u64 bytes_readonly;     /* total bytes that are read only */
1168
1169         unsigned int full:1;    /* indicates that we cannot allocate any more
1170                                    chunks for this space */
1171         unsigned int chunk_alloc:1;     /* set if we are allocating a chunk */
1172
1173         unsigned int flush:1;           /* set if we are trying to make space */
1174
1175         unsigned int force_alloc;       /* set if we need to force a chunk
1176                                            alloc for this space */
1177
1178         u64 disk_used;          /* total bytes used on disk */
1179         u64 disk_total;         /* total bytes on disk, takes mirrors into
1180                                    account */
1181
1182         u64 flags;
1183
1184         /*
1185          * bytes_pinned is kept in line with what is actually pinned, as in
1186          * we've called update_block_group and dropped the bytes_used counter
1187          * and increased the bytes_pinned counter.  However this means that
1188          * bytes_pinned does not reflect the bytes that will be pinned once the
1189          * delayed refs are flushed, so this counter is inc'ed everytime we call
1190          * btrfs_free_extent so it is a realtime count of what will be freed
1191          * once the transaction is committed.  It will be zero'ed everytime the
1192          * transaction commits.
1193          */
1194         struct percpu_counter total_bytes_pinned;
1195
1196         struct list_head list;
1197         /* Protected by the spinlock 'lock'. */
1198         struct list_head ro_bgs;
1199
1200         struct rw_semaphore groups_sem;
1201         /* for block groups in our same type */
1202         struct list_head block_groups[BTRFS_NR_RAID_TYPES];
1203         wait_queue_head_t wait;
1204
1205         struct kobject kobj;
1206         struct kobject *block_group_kobjs[BTRFS_NR_RAID_TYPES];
1207 };
1208
1209 #define BTRFS_BLOCK_RSV_GLOBAL          1
1210 #define BTRFS_BLOCK_RSV_DELALLOC        2
1211 #define BTRFS_BLOCK_RSV_TRANS           3
1212 #define BTRFS_BLOCK_RSV_CHUNK           4
1213 #define BTRFS_BLOCK_RSV_DELOPS          5
1214 #define BTRFS_BLOCK_RSV_EMPTY           6
1215 #define BTRFS_BLOCK_RSV_TEMP            7
1216
1217 struct btrfs_block_rsv {
1218         u64 size;
1219         u64 reserved;
1220         struct btrfs_space_info *space_info;
1221         spinlock_t lock;
1222         unsigned short full;
1223         unsigned short type;
1224         unsigned short failfast;
1225 };
1226
1227 /*
1228  * free clusters are used to claim free space in relatively large chunks,
1229  * allowing us to do less seeky writes.  They are used for all metadata
1230  * allocations and data allocations in ssd mode.
1231  */
1232 struct btrfs_free_cluster {
1233         spinlock_t lock;
1234         spinlock_t refill_lock;
1235         struct rb_root root;
1236
1237         /* largest extent in this cluster */
1238         u64 max_size;
1239
1240         /* first extent starting offset */
1241         u64 window_start;
1242
1243         struct btrfs_block_group_cache *block_group;
1244         /*
1245          * when a cluster is allocated from a block group, we put the
1246          * cluster onto a list in the block group so that it can
1247          * be freed before the block group is freed.
1248          */
1249         struct list_head block_group_list;
1250 };
1251
1252 enum btrfs_caching_type {
1253         BTRFS_CACHE_NO          = 0,
1254         BTRFS_CACHE_STARTED     = 1,
1255         BTRFS_CACHE_FAST        = 2,
1256         BTRFS_CACHE_FINISHED    = 3,
1257         BTRFS_CACHE_ERROR       = 4,
1258 };
1259
1260 enum btrfs_disk_cache_state {
1261         BTRFS_DC_WRITTEN        = 0,
1262         BTRFS_DC_ERROR          = 1,
1263         BTRFS_DC_CLEAR          = 2,
1264         BTRFS_DC_SETUP          = 3,
1265 };
1266
1267 struct btrfs_caching_control {
1268         struct list_head list;
1269         struct mutex mutex;
1270         wait_queue_head_t wait;
1271         struct btrfs_work work;
1272         struct btrfs_block_group_cache *block_group;
1273         u64 progress;
1274         atomic_t count;
1275 };
1276
1277 /* Once caching_thread() finds this much free space, it will wake up waiters. */
1278 #define CACHING_CTL_WAKE_UP (1024 * 1024 * 2)
1279
1280 struct btrfs_io_ctl {
1281         void *cur, *orig;
1282         struct page *page;
1283         struct page **pages;
1284         struct btrfs_root *root;
1285         struct inode *inode;
1286         unsigned long size;
1287         int index;
1288         int num_pages;
1289         int entries;
1290         int bitmaps;
1291         unsigned check_crcs:1;
1292 };
1293
1294 struct btrfs_block_group_cache {
1295         struct btrfs_key key;
1296         struct btrfs_block_group_item item;
1297         struct btrfs_fs_info *fs_info;
1298         struct inode *inode;
1299         spinlock_t lock;
1300         u64 pinned;
1301         u64 reserved;
1302         u64 delalloc_bytes;
1303         u64 bytes_super;
1304         u64 flags;
1305         u64 cache_generation;
1306         u32 sectorsize;
1307
1308         /*
1309          * If the free space extent count exceeds this number, convert the block
1310          * group to bitmaps.
1311          */
1312         u32 bitmap_high_thresh;
1313
1314         /*
1315          * If the free space extent count drops below this number, convert the
1316          * block group back to extents.
1317          */
1318         u32 bitmap_low_thresh;
1319
1320         /*
1321          * It is just used for the delayed data space allocation because
1322          * only the data space allocation and the relative metadata update
1323          * can be done cross the transaction.
1324          */
1325         struct rw_semaphore data_rwsem;
1326
1327         /* for raid56, this is a full stripe, without parity */
1328         unsigned long full_stripe_len;
1329
1330         unsigned int ro;
1331         unsigned int iref:1;
1332         unsigned int has_caching_ctl:1;
1333         unsigned int removed:1;
1334
1335         int disk_cache_state;
1336
1337         /* cache tracking stuff */
1338         int cached;
1339         struct btrfs_caching_control *caching_ctl;
1340         u64 last_byte_to_unpin;
1341
1342         struct btrfs_space_info *space_info;
1343
1344         /* free space cache stuff */
1345         struct btrfs_free_space_ctl *free_space_ctl;
1346
1347         /* block group cache stuff */
1348         struct rb_node cache_node;
1349
1350         /* for block groups in the same raid type */
1351         struct list_head list;
1352
1353         /* usage count */
1354         atomic_t count;
1355
1356         /* List of struct btrfs_free_clusters for this block group.
1357          * Today it will only have one thing on it, but that may change
1358          */
1359         struct list_head cluster_list;
1360
1361         /* For delayed block group creation or deletion of empty block groups */
1362         struct list_head bg_list;
1363
1364         /* For read-only block groups */
1365         struct list_head ro_list;
1366
1367         atomic_t trimming;
1368
1369         /* For dirty block groups */
1370         struct list_head dirty_list;
1371         struct list_head io_list;
1372
1373         struct btrfs_io_ctl io_ctl;
1374
1375         /* Lock for free space tree operations. */
1376         struct mutex free_space_lock;
1377
1378         /*
1379          * Does the block group need to be added to the free space tree?
1380          * Protected by free_space_lock.
1381          */
1382         int needs_free_space;
1383 };
1384
1385 /* delayed seq elem */
1386 struct seq_list {
1387         struct list_head list;
1388         u64 seq;
1389 };
1390
1391 #define SEQ_LIST_INIT(name)     { .list = LIST_HEAD_INIT((name).list), .seq = 0 }
1392
1393 enum btrfs_orphan_cleanup_state {
1394         ORPHAN_CLEANUP_STARTED  = 1,
1395         ORPHAN_CLEANUP_DONE     = 2,
1396 };
1397
1398 /* used by the raid56 code to lock stripes for read/modify/write */
1399 struct btrfs_stripe_hash {
1400         struct list_head hash_list;
1401         wait_queue_head_t wait;
1402         spinlock_t lock;
1403 };
1404
1405 /* used by the raid56 code to lock stripes for read/modify/write */
1406 struct btrfs_stripe_hash_table {
1407         struct list_head stripe_cache;
1408         spinlock_t cache_lock;
1409         int cache_size;
1410         struct btrfs_stripe_hash table[];
1411 };
1412
1413 #define BTRFS_STRIPE_HASH_TABLE_BITS 11
1414
1415 void btrfs_init_async_reclaim_work(struct work_struct *work);
1416
1417 /* fs_info */
1418 struct reloc_control;
1419 struct btrfs_device;
1420 struct btrfs_fs_devices;
1421 struct btrfs_balance_control;
1422 struct btrfs_delayed_root;
1423 struct btrfs_fs_info {
1424         u8 fsid[BTRFS_FSID_SIZE];
1425         u8 chunk_tree_uuid[BTRFS_UUID_SIZE];
1426         struct btrfs_root *extent_root;
1427         struct btrfs_root *tree_root;
1428         struct btrfs_root *chunk_root;
1429         struct btrfs_root *dev_root;
1430         struct btrfs_root *fs_root;
1431         struct btrfs_root *csum_root;
1432         struct btrfs_root *quota_root;
1433         struct btrfs_root *uuid_root;
1434         struct btrfs_root *free_space_root;
1435
1436         /* the log root tree is a directory of all the other log roots */
1437         struct btrfs_root *log_root_tree;
1438
1439         spinlock_t fs_roots_radix_lock;
1440         struct radix_tree_root fs_roots_radix;
1441
1442         /* block group cache stuff */
1443         spinlock_t block_group_cache_lock;
1444         u64 first_logical_byte;
1445         struct rb_root block_group_cache_tree;
1446
1447         /* keep track of unallocated space */
1448         spinlock_t free_chunk_lock;
1449         u64 free_chunk_space;
1450
1451         struct extent_io_tree freed_extents[2];
1452         struct extent_io_tree *pinned_extents;
1453
1454         /* logical->physical extent mapping */
1455         struct btrfs_mapping_tree mapping_tree;
1456
1457         /*
1458          * block reservation for extent, checksum, root tree and
1459          * delayed dir index item
1460          */
1461         struct btrfs_block_rsv global_block_rsv;
1462         /* block reservation for delay allocation */
1463         struct btrfs_block_rsv delalloc_block_rsv;
1464         /* block reservation for metadata operations */
1465         struct btrfs_block_rsv trans_block_rsv;
1466         /* block reservation for chunk tree */
1467         struct btrfs_block_rsv chunk_block_rsv;
1468         /* block reservation for delayed operations */
1469         struct btrfs_block_rsv delayed_block_rsv;
1470
1471         struct btrfs_block_rsv empty_block_rsv;
1472
1473         u64 generation;
1474         u64 last_trans_committed;
1475         u64 avg_delayed_ref_runtime;
1476
1477         /*
1478          * this is updated to the current trans every time a full commit
1479          * is required instead of the faster short fsync log commits
1480          */
1481         u64 last_trans_log_full_commit;
1482         unsigned long mount_opt;
1483         /*
1484          * Track requests for actions that need to be done during transaction
1485          * commit (like for some mount options).
1486          */
1487         unsigned long pending_changes;
1488         unsigned long compress_type:4;
1489         int commit_interval;
1490         /*
1491          * It is a suggestive number, the read side is safe even it gets a
1492          * wrong number because we will write out the data into a regular
1493          * extent. The write side(mount/remount) is under ->s_umount lock,
1494          * so it is also safe.
1495          */
1496         u64 max_inline;
1497         /*
1498          * Protected by ->chunk_mutex and sb->s_umount.
1499          *
1500          * The reason that we use two lock to protect it is because only
1501          * remount and mount operations can change it and these two operations
1502          * are under sb->s_umount, but the read side (chunk allocation) can not
1503          * acquire sb->s_umount or the deadlock would happen. So we use two
1504          * locks to protect it. On the write side, we must acquire two locks,
1505          * and on the read side, we just need acquire one of them.
1506          */
1507         u64 alloc_start;
1508         struct btrfs_transaction *running_transaction;
1509         wait_queue_head_t transaction_throttle;
1510         wait_queue_head_t transaction_wait;
1511         wait_queue_head_t transaction_blocked_wait;
1512         wait_queue_head_t async_submit_wait;
1513
1514         /*
1515          * Used to protect the incompat_flags, compat_flags, compat_ro_flags
1516          * when they are updated.
1517          *
1518          * Because we do not clear the flags for ever, so we needn't use
1519          * the lock on the read side.
1520          *
1521          * We also needn't use the lock when we mount the fs, because
1522          * there is no other task which will update the flag.
1523          */
1524         spinlock_t super_lock;
1525         struct btrfs_super_block *super_copy;
1526         struct btrfs_super_block *super_for_commit;
1527         struct block_device *__bdev;
1528         struct super_block *sb;
1529         struct inode *btree_inode;
1530         struct backing_dev_info bdi;
1531         struct mutex tree_log_mutex;
1532         struct mutex transaction_kthread_mutex;
1533         struct mutex cleaner_mutex;
1534         struct mutex chunk_mutex;
1535         struct mutex volume_mutex;
1536
1537         /*
1538          * this is taken to make sure we don't set block groups ro after
1539          * the free space cache has been allocated on them
1540          */
1541         struct mutex ro_block_group_mutex;
1542
1543         /* this is used during read/modify/write to make sure
1544          * no two ios are trying to mod the same stripe at the same
1545          * time
1546          */
1547         struct btrfs_stripe_hash_table *stripe_hash_table;
1548
1549         /*
1550          * this protects the ordered operations list only while we are
1551          * processing all of the entries on it.  This way we make
1552          * sure the commit code doesn't find the list temporarily empty
1553          * because another function happens to be doing non-waiting preflush
1554          * before jumping into the main commit.
1555          */
1556         struct mutex ordered_operations_mutex;
1557
1558         struct rw_semaphore commit_root_sem;
1559
1560         struct rw_semaphore cleanup_work_sem;
1561
1562         struct rw_semaphore subvol_sem;
1563         struct srcu_struct subvol_srcu;
1564
1565         spinlock_t trans_lock;
1566         /*
1567          * the reloc mutex goes with the trans lock, it is taken
1568          * during commit to protect us from the relocation code
1569          */
1570         struct mutex reloc_mutex;
1571
1572         struct list_head trans_list;
1573         struct list_head dead_roots;
1574         struct list_head caching_block_groups;
1575
1576         spinlock_t delayed_iput_lock;
1577         struct list_head delayed_iputs;
1578         struct rw_semaphore delayed_iput_sem;
1579
1580         /* this protects tree_mod_seq_list */
1581         spinlock_t tree_mod_seq_lock;
1582         atomic64_t tree_mod_seq;
1583         struct list_head tree_mod_seq_list;
1584
1585         /* this protects tree_mod_log */
1586         rwlock_t tree_mod_log_lock;
1587         struct rb_root tree_mod_log;
1588
1589         atomic_t nr_async_submits;
1590         atomic_t async_submit_draining;
1591         atomic_t nr_async_bios;
1592         atomic_t async_delalloc_pages;
1593         atomic_t open_ioctl_trans;
1594
1595         /*
1596          * this is used to protect the following list -- ordered_roots.
1597          */
1598         spinlock_t ordered_root_lock;
1599
1600         /*
1601          * all fs/file tree roots in which there are data=ordered extents
1602          * pending writeback are added into this list.
1603          *
1604          * these can span multiple transactions and basically include
1605          * every dirty data page that isn't from nodatacow
1606          */
1607         struct list_head ordered_roots;
1608
1609         struct mutex delalloc_root_mutex;
1610         spinlock_t delalloc_root_lock;
1611         /* all fs/file tree roots that have delalloc inodes. */
1612         struct list_head delalloc_roots;
1613
1614         /*
1615          * there is a pool of worker threads for checksumming during writes
1616          * and a pool for checksumming after reads.  This is because readers
1617          * can run with FS locks held, and the writers may be waiting for
1618          * those locks.  We don't want ordering in the pending list to cause
1619          * deadlocks, and so the two are serviced separately.
1620          *
1621          * A third pool does submit_bio to avoid deadlocking with the other
1622          * two
1623          */
1624         struct btrfs_workqueue *workers;
1625         struct btrfs_workqueue *delalloc_workers;
1626         struct btrfs_workqueue *flush_workers;
1627         struct btrfs_workqueue *endio_workers;
1628         struct btrfs_workqueue *endio_meta_workers;
1629         struct btrfs_workqueue *endio_raid56_workers;
1630         struct btrfs_workqueue *endio_repair_workers;
1631         struct btrfs_workqueue *rmw_workers;
1632         struct btrfs_workqueue *endio_meta_write_workers;
1633         struct btrfs_workqueue *endio_write_workers;
1634         struct btrfs_workqueue *endio_freespace_worker;
1635         struct btrfs_workqueue *submit_workers;
1636         struct btrfs_workqueue *caching_workers;
1637         struct btrfs_workqueue *readahead_workers;
1638
1639         /*
1640          * fixup workers take dirty pages that didn't properly go through
1641          * the cow mechanism and make them safe to write.  It happens
1642          * for the sys_munmap function call path
1643          */
1644         struct btrfs_workqueue *fixup_workers;
1645         struct btrfs_workqueue *delayed_workers;
1646
1647         /* the extent workers do delayed refs on the extent allocation tree */
1648         struct btrfs_workqueue *extent_workers;
1649         struct task_struct *transaction_kthread;
1650         struct task_struct *cleaner_kthread;
1651         int thread_pool_size;
1652
1653         struct kobject *space_info_kobj;
1654         int do_barriers;
1655         int closing;
1656         int log_root_recovering;
1657         int open;
1658
1659         u64 total_pinned;
1660
1661         /* used to keep from writing metadata until there is a nice batch */
1662         struct percpu_counter dirty_metadata_bytes;
1663         struct percpu_counter delalloc_bytes;
1664         s32 dirty_metadata_batch;
1665         s32 delalloc_batch;
1666
1667         struct list_head dirty_cowonly_roots;
1668
1669         struct btrfs_fs_devices *fs_devices;
1670
1671         /*
1672          * the space_info list is almost entirely read only.  It only changes
1673          * when we add a new raid type to the FS, and that happens
1674          * very rarely.  RCU is used to protect it.
1675          */
1676         struct list_head space_info;
1677
1678         struct btrfs_space_info *data_sinfo;
1679
1680         struct reloc_control *reloc_ctl;
1681
1682         /* data_alloc_cluster is only used in ssd mode */
1683         struct btrfs_free_cluster data_alloc_cluster;
1684
1685         /* all metadata allocations go through this cluster */
1686         struct btrfs_free_cluster meta_alloc_cluster;
1687
1688         /* auto defrag inodes go here */
1689         spinlock_t defrag_inodes_lock;
1690         struct rb_root defrag_inodes;
1691         atomic_t defrag_running;
1692
1693         /* Used to protect avail_{data, metadata, system}_alloc_bits */
1694         seqlock_t profiles_lock;
1695         /*
1696          * these three are in extended format (availability of single
1697          * chunks is denoted by BTRFS_AVAIL_ALLOC_BIT_SINGLE bit, other
1698          * types are denoted by corresponding BTRFS_BLOCK_GROUP_* bits)
1699          */
1700         u64 avail_data_alloc_bits;
1701         u64 avail_metadata_alloc_bits;
1702         u64 avail_system_alloc_bits;
1703
1704         /* restriper state */
1705         spinlock_t balance_lock;
1706         struct mutex balance_mutex;
1707         atomic_t balance_running;
1708         atomic_t balance_pause_req;
1709         atomic_t balance_cancel_req;
1710         struct btrfs_balance_control *balance_ctl;
1711         wait_queue_head_t balance_wait_q;
1712
1713         unsigned data_chunk_allocations;
1714         unsigned metadata_ratio;
1715
1716         void *bdev_holder;
1717
1718         /* private scrub information */
1719         struct mutex scrub_lock;
1720         atomic_t scrubs_running;
1721         atomic_t scrub_pause_req;
1722         atomic_t scrubs_paused;
1723         atomic_t scrub_cancel_req;
1724         wait_queue_head_t scrub_pause_wait;
1725         int scrub_workers_refcnt;
1726         struct btrfs_workqueue *scrub_workers;
1727         struct btrfs_workqueue *scrub_wr_completion_workers;
1728         struct btrfs_workqueue *scrub_nocow_workers;
1729         struct btrfs_workqueue *scrub_parity_workers;
1730
1731 #ifdef CONFIG_BTRFS_FS_CHECK_INTEGRITY
1732         u32 check_integrity_print_mask;
1733 #endif
1734         /*
1735          * quota information
1736          */
1737         unsigned int quota_enabled:1;
1738
1739         /*
1740          * quota_enabled only changes state after a commit. This holds the
1741          * next state.
1742          */
1743         unsigned int pending_quota_state:1;
1744
1745         /* is qgroup tracking in a consistent state? */
1746         u64 qgroup_flags;
1747
1748         /* holds configuration and tracking. Protected by qgroup_lock */
1749         struct rb_root qgroup_tree;
1750         struct rb_root qgroup_op_tree;
1751         spinlock_t qgroup_lock;
1752         spinlock_t qgroup_op_lock;
1753         atomic_t qgroup_op_seq;
1754
1755         /*
1756          * used to avoid frequently calling ulist_alloc()/ulist_free()
1757          * when doing qgroup accounting, it must be protected by qgroup_lock.
1758          */
1759         struct ulist *qgroup_ulist;
1760
1761         /* protect user change for quota operations */
1762         struct mutex qgroup_ioctl_lock;
1763
1764         /* list of dirty qgroups to be written at next commit */
1765         struct list_head dirty_qgroups;
1766
1767         /* used by qgroup for an efficient tree traversal */
1768         u64 qgroup_seq;
1769
1770         /* qgroup rescan items */
1771         struct mutex qgroup_rescan_lock; /* protects the progress item */
1772         struct btrfs_key qgroup_rescan_progress;
1773         struct btrfs_workqueue *qgroup_rescan_workers;
1774         struct completion qgroup_rescan_completion;
1775         struct btrfs_work qgroup_rescan_work;
1776
1777         /* filesystem state */
1778         unsigned long fs_state;
1779
1780         struct btrfs_delayed_root *delayed_root;
1781
1782         /* readahead tree */
1783         spinlock_t reada_lock;
1784         struct radix_tree_root reada_tree;
1785
1786         /* Extent buffer radix tree */
1787         spinlock_t buffer_lock;
1788         struct radix_tree_root buffer_radix;
1789
1790         /* next backup root to be overwritten */
1791         int backup_root_index;
1792
1793         int num_tolerated_disk_barrier_failures;
1794
1795         /* device replace state */
1796         struct btrfs_dev_replace dev_replace;
1797
1798         atomic_t mutually_exclusive_operation_running;
1799
1800         struct percpu_counter bio_counter;
1801         wait_queue_head_t replace_wait;
1802
1803         struct semaphore uuid_tree_rescan_sem;
1804         unsigned int update_uuid_tree_gen:1;
1805
1806         /* Used to reclaim the metadata space in the background. */
1807         struct work_struct async_reclaim_work;
1808
1809         spinlock_t unused_bgs_lock;
1810         struct list_head unused_bgs;
1811         struct mutex unused_bg_unpin_mutex;
1812         struct mutex delete_unused_bgs_mutex;
1813
1814         /* For btrfs to record security options */
1815         struct security_mnt_opts security_opts;
1816
1817         /*
1818          * Chunks that can't be freed yet (under a trim/discard operation)
1819          * and will be latter freed. Protected by fs_info->chunk_mutex.
1820          */
1821         struct list_head pinned_chunks;
1822 };
1823
1824 struct btrfs_subvolume_writers {
1825         struct percpu_counter   counter;
1826         wait_queue_head_t       wait;
1827 };
1828
1829 /*
1830  * The state of btrfs root
1831  */
1832 /*
1833  * btrfs_record_root_in_trans is a multi-step process,
1834  * and it can race with the balancing code.   But the
1835  * race is very small, and only the first time the root
1836  * is added to each transaction.  So IN_TRANS_SETUP
1837  * is used to tell us when more checks are required
1838  */
1839 #define BTRFS_ROOT_IN_TRANS_SETUP       0
1840 #define BTRFS_ROOT_REF_COWS             1
1841 #define BTRFS_ROOT_TRACK_DIRTY          2
1842 #define BTRFS_ROOT_IN_RADIX             3
1843 #define BTRFS_ROOT_DUMMY_ROOT           4
1844 #define BTRFS_ROOT_ORPHAN_ITEM_INSERTED 5
1845 #define BTRFS_ROOT_DEFRAG_RUNNING       6
1846 #define BTRFS_ROOT_FORCE_COW            7
1847 #define BTRFS_ROOT_MULTI_LOG_TASKS      8
1848 #define BTRFS_ROOT_DIRTY                9
1849
1850 /*
1851  * in ram representation of the tree.  extent_root is used for all allocations
1852  * and for the extent tree extent_root root.
1853  */
1854 struct btrfs_root {
1855         struct extent_buffer *node;
1856
1857         struct extent_buffer *commit_root;
1858         struct btrfs_root *log_root;
1859         struct btrfs_root *reloc_root;
1860
1861         unsigned long state;
1862         struct btrfs_root_item root_item;
1863         struct btrfs_key root_key;
1864         struct btrfs_fs_info *fs_info;
1865         struct extent_io_tree dirty_log_pages;
1866
1867         struct mutex objectid_mutex;
1868
1869         spinlock_t accounting_lock;
1870         struct btrfs_block_rsv *block_rsv;
1871
1872         /* free ino cache stuff */
1873         struct btrfs_free_space_ctl *free_ino_ctl;
1874         enum btrfs_caching_type ino_cache_state;
1875         spinlock_t ino_cache_lock;
1876         wait_queue_head_t ino_cache_wait;
1877         struct btrfs_free_space_ctl *free_ino_pinned;
1878         u64 ino_cache_progress;
1879         struct inode *ino_cache_inode;
1880
1881         struct mutex log_mutex;
1882         wait_queue_head_t log_writer_wait;
1883         wait_queue_head_t log_commit_wait[2];
1884         struct list_head log_ctxs[2];
1885         atomic_t log_writers;
1886         atomic_t log_commit[2];
1887         atomic_t log_batch;
1888         int log_transid;
1889         /* No matter the commit succeeds or not*/
1890         int log_transid_committed;
1891         /* Just be updated when the commit succeeds. */
1892         int last_log_commit;
1893         pid_t log_start_pid;
1894
1895         u64 objectid;
1896         u64 last_trans;
1897
1898         /* data allocations are done in sectorsize units */
1899         u32 sectorsize;
1900
1901         /* node allocations are done in nodesize units */
1902         u32 nodesize;
1903
1904         u32 stripesize;
1905
1906         u32 type;
1907
1908         u64 highest_objectid;
1909
1910         /* only used with CONFIG_BTRFS_FS_RUN_SANITY_TESTS is enabled */
1911         u64 alloc_bytenr;
1912
1913         u64 defrag_trans_start;
1914         struct btrfs_key defrag_progress;
1915         struct btrfs_key defrag_max;
1916         char *name;
1917
1918         /* the dirty list is only used by non-reference counted roots */
1919         struct list_head dirty_list;
1920
1921         struct list_head root_list;
1922
1923         spinlock_t log_extents_lock[2];
1924         struct list_head logged_list[2];
1925
1926         spinlock_t orphan_lock;
1927         atomic_t orphan_inodes;
1928         struct btrfs_block_rsv *orphan_block_rsv;
1929         int orphan_cleanup_state;
1930
1931         spinlock_t inode_lock;
1932         /* red-black tree that keeps track of in-memory inodes */
1933         struct rb_root inode_tree;
1934
1935         /*
1936          * radix tree that keeps track of delayed nodes of every inode,
1937          * protected by inode_lock
1938          */
1939         struct radix_tree_root delayed_nodes_tree;
1940         /*
1941          * right now this just gets used so that a root has its own devid
1942          * for stat.  It may be used for more later
1943          */
1944         dev_t anon_dev;
1945
1946         spinlock_t root_item_lock;
1947         atomic_t refs;
1948
1949         struct mutex delalloc_mutex;
1950         spinlock_t delalloc_lock;
1951         /*
1952          * all of the inodes that have delalloc bytes.  It is possible for
1953          * this list to be empty even when there is still dirty data=ordered
1954          * extents waiting to finish IO.
1955          */
1956         struct list_head delalloc_inodes;
1957         struct list_head delalloc_root;
1958         u64 nr_delalloc_inodes;
1959
1960         struct mutex ordered_extent_mutex;
1961         /*
1962          * this is used by the balancing code to wait for all the pending
1963          * ordered extents
1964          */
1965         spinlock_t ordered_extent_lock;
1966
1967         /*
1968          * all of the data=ordered extents pending writeback
1969          * these can span multiple transactions and basically include
1970          * every dirty data page that isn't from nodatacow
1971          */
1972         struct list_head ordered_extents;
1973         struct list_head ordered_root;
1974         u64 nr_ordered_extents;
1975
1976         /*
1977          * Number of currently running SEND ioctls to prevent
1978          * manipulation with the read-only status via SUBVOL_SETFLAGS
1979          */
1980         int send_in_progress;
1981         struct btrfs_subvolume_writers *subv_writers;
1982         atomic_t will_be_snapshoted;
1983 };
1984
1985 struct btrfs_ioctl_defrag_range_args {
1986         /* start of the defrag operation */
1987         __u64 start;
1988
1989         /* number of bytes to defrag, use (u64)-1 to say all */
1990         __u64 len;
1991
1992         /*
1993          * flags for the operation, which can include turning
1994          * on compression for this one defrag
1995          */
1996         __u64 flags;
1997
1998         /*
1999          * any extent bigger than this will be considered
2000          * already defragged.  Use 0 to take the kernel default
2001          * Use 1 to say every single extent must be rewritten
2002          */
2003         __u32 extent_thresh;
2004
2005         /*
2006          * which compression method to use if turning on compression
2007          * for this defrag operation.  If unspecified, zlib will
2008          * be used
2009          */
2010         __u32 compress_type;
2011
2012         /* spare for later */
2013         __u32 unused[4];
2014 };
2015
2016
2017 /*
2018  * inode items have the data typically returned from stat and store other
2019  * info about object characteristics.  There is one for every file and dir in
2020  * the FS
2021  */
2022 #define BTRFS_INODE_ITEM_KEY            1
2023 #define BTRFS_INODE_REF_KEY             12
2024 #define BTRFS_INODE_EXTREF_KEY          13
2025 #define BTRFS_XATTR_ITEM_KEY            24
2026 #define BTRFS_ORPHAN_ITEM_KEY           48
2027 /* reserve 2-15 close to the inode for later flexibility */
2028
2029 /*
2030  * dir items are the name -> inode pointers in a directory.  There is one
2031  * for every name in a directory.
2032  */
2033 #define BTRFS_DIR_LOG_ITEM_KEY  60
2034 #define BTRFS_DIR_LOG_INDEX_KEY 72
2035 #define BTRFS_DIR_ITEM_KEY      84
2036 #define BTRFS_DIR_INDEX_KEY     96
2037 /*
2038  * extent data is for file data
2039  */
2040 #define BTRFS_EXTENT_DATA_KEY   108
2041
2042 /*
2043  * extent csums are stored in a separate tree and hold csums for
2044  * an entire extent on disk.
2045  */
2046 #define BTRFS_EXTENT_CSUM_KEY   128
2047
2048 /*
2049  * root items point to tree roots.  They are typically in the root
2050  * tree used by the super block to find all the other trees
2051  */
2052 #define BTRFS_ROOT_ITEM_KEY     132
2053
2054 /*
2055  * root backrefs tie subvols and snapshots to the directory entries that
2056  * reference them
2057  */
2058 #define BTRFS_ROOT_BACKREF_KEY  144
2059
2060 /*
2061  * root refs make a fast index for listing all of the snapshots and
2062  * subvolumes referenced by a given root.  They point directly to the
2063  * directory item in the root that references the subvol
2064  */
2065 #define BTRFS_ROOT_REF_KEY      156
2066
2067 /*
2068  * extent items are in the extent map tree.  These record which blocks
2069  * are used, and how many references there are to each block
2070  */
2071 #define BTRFS_EXTENT_ITEM_KEY   168
2072
2073 /*
2074  * The same as the BTRFS_EXTENT_ITEM_KEY, except it's metadata we already know
2075  * the length, so we save the level in key->offset instead of the length.
2076  */
2077 #define BTRFS_METADATA_ITEM_KEY 169
2078
2079 #define BTRFS_TREE_BLOCK_REF_KEY        176
2080
2081 #define BTRFS_EXTENT_DATA_REF_KEY       178
2082
2083 #define BTRFS_EXTENT_REF_V0_KEY         180
2084
2085 #define BTRFS_SHARED_BLOCK_REF_KEY      182
2086
2087 #define BTRFS_SHARED_DATA_REF_KEY       184
2088
2089 /*
2090  * block groups give us hints into the extent allocation trees.  Which
2091  * blocks are free etc etc
2092  */
2093 #define BTRFS_BLOCK_GROUP_ITEM_KEY 192
2094
2095 /*
2096  * Every block group is represented in the free space tree by a free space info
2097  * item, which stores some accounting information. It is keyed on
2098  * (block_group_start, FREE_SPACE_INFO, block_group_length).
2099  */
2100 #define BTRFS_FREE_SPACE_INFO_KEY 198
2101
2102 /*
2103  * A free space extent tracks an extent of space that is free in a block group.
2104  * It is keyed on (start, FREE_SPACE_EXTENT, length).
2105  */
2106 #define BTRFS_FREE_SPACE_EXTENT_KEY 199
2107
2108 /*
2109  * When a block group becomes very fragmented, we convert it to use bitmaps
2110  * instead of extents. A free space bitmap is keyed on
2111  * (start, FREE_SPACE_BITMAP, length); the corresponding item is a bitmap with
2112  * (length / sectorsize) bits.
2113  */
2114 #define BTRFS_FREE_SPACE_BITMAP_KEY 200
2115
2116 #define BTRFS_DEV_EXTENT_KEY    204
2117 #define BTRFS_DEV_ITEM_KEY      216
2118 #define BTRFS_CHUNK_ITEM_KEY    228
2119
2120 /*
2121  * Records the overall state of the qgroups.
2122  * There's only one instance of this key present,
2123  * (0, BTRFS_QGROUP_STATUS_KEY, 0)
2124  */
2125 #define BTRFS_QGROUP_STATUS_KEY         240
2126 /*
2127  * Records the currently used space of the qgroup.
2128  * One key per qgroup, (0, BTRFS_QGROUP_INFO_KEY, qgroupid).
2129  */
2130 #define BTRFS_QGROUP_INFO_KEY           242
2131 /*
2132  * Contains the user configured limits for the qgroup.
2133  * One key per qgroup, (0, BTRFS_QGROUP_LIMIT_KEY, qgroupid).
2134  */
2135 #define BTRFS_QGROUP_LIMIT_KEY          244
2136 /*
2137  * Records the child-parent relationship of qgroups. For
2138  * each relation, 2 keys are present:
2139  * (childid, BTRFS_QGROUP_RELATION_KEY, parentid)
2140  * (parentid, BTRFS_QGROUP_RELATION_KEY, childid)
2141  */
2142 #define BTRFS_QGROUP_RELATION_KEY       246
2143
2144 #define BTRFS_BALANCE_ITEM_KEY  248
2145
2146 /*
2147  * Persistantly stores the io stats in the device tree.
2148  * One key for all stats, (0, BTRFS_DEV_STATS_KEY, devid).
2149  */
2150 #define BTRFS_DEV_STATS_KEY     249
2151
2152 /*
2153  * Persistantly stores the device replace state in the device tree.
2154  * The key is built like this: (0, BTRFS_DEV_REPLACE_KEY, 0).
2155  */
2156 #define BTRFS_DEV_REPLACE_KEY   250
2157
2158 /*
2159  * Stores items that allow to quickly map UUIDs to something else.
2160  * These items are part of the filesystem UUID tree.
2161  * The key is built like this:
2162  * (UUID_upper_64_bits, BTRFS_UUID_KEY*, UUID_lower_64_bits).
2163  */
2164 #if BTRFS_UUID_SIZE != 16
2165 #error "UUID items require BTRFS_UUID_SIZE == 16!"
2166 #endif
2167 #define BTRFS_UUID_KEY_SUBVOL   251     /* for UUIDs assigned to subvols */
2168 #define BTRFS_UUID_KEY_RECEIVED_SUBVOL  252     /* for UUIDs assigned to
2169                                                  * received subvols */
2170
2171 /*
2172  * string items are for debugging.  They just store a short string of
2173  * data in the FS
2174  */
2175 #define BTRFS_STRING_ITEM_KEY   253
2176
2177 /*
2178  * Flags for mount options.
2179  *
2180  * Note: don't forget to add new options to btrfs_show_options()
2181  */
2182 #define BTRFS_MOUNT_NODATASUM           (1 << 0)
2183 #define BTRFS_MOUNT_NODATACOW           (1 << 1)
2184 #define BTRFS_MOUNT_NOBARRIER           (1 << 2)
2185 #define BTRFS_MOUNT_SSD                 (1 << 3)
2186 #define BTRFS_MOUNT_DEGRADED            (1 << 4)
2187 #define BTRFS_MOUNT_COMPRESS            (1 << 5)
2188 #define BTRFS_MOUNT_NOTREELOG           (1 << 6)
2189 #define BTRFS_MOUNT_FLUSHONCOMMIT       (1 << 7)
2190 #define BTRFS_MOUNT_SSD_SPREAD          (1 << 8)
2191 #define BTRFS_MOUNT_NOSSD               (1 << 9)
2192 #define BTRFS_MOUNT_DISCARD             (1 << 10)
2193 #define BTRFS_MOUNT_FORCE_COMPRESS      (1 << 11)
2194 #define BTRFS_MOUNT_SPACE_CACHE         (1 << 12)
2195 #define BTRFS_MOUNT_CLEAR_CACHE         (1 << 13)
2196 #define BTRFS_MOUNT_USER_SUBVOL_RM_ALLOWED (1 << 14)
2197 #define BTRFS_MOUNT_ENOSPC_DEBUG         (1 << 15)
2198 #define BTRFS_MOUNT_AUTO_DEFRAG         (1 << 16)
2199 #define BTRFS_MOUNT_INODE_MAP_CACHE     (1 << 17)
2200 #define BTRFS_MOUNT_RECOVERY            (1 << 18)
2201 #define BTRFS_MOUNT_SKIP_BALANCE        (1 << 19)
2202 #define BTRFS_MOUNT_CHECK_INTEGRITY     (1 << 20)
2203 #define BTRFS_MOUNT_CHECK_INTEGRITY_INCLUDING_EXTENT_DATA (1 << 21)
2204 #define BTRFS_MOUNT_PANIC_ON_FATAL_ERROR        (1 << 22)
2205 #define BTRFS_MOUNT_RESCAN_UUID_TREE    (1 << 23)
2206
2207 #define BTRFS_DEFAULT_COMMIT_INTERVAL   (30)
2208 #define BTRFS_DEFAULT_MAX_INLINE        (8192)
2209
2210 #define btrfs_clear_opt(o, opt)         ((o) &= ~BTRFS_MOUNT_##opt)
2211 #define btrfs_set_opt(o, opt)           ((o) |= BTRFS_MOUNT_##opt)
2212 #define btrfs_raw_test_opt(o, opt)      ((o) & BTRFS_MOUNT_##opt)
2213 #define btrfs_test_opt(root, opt)       ((root)->fs_info->mount_opt & \
2214                                          BTRFS_MOUNT_##opt)
2215
2216 #define btrfs_set_and_info(root, opt, fmt, args...)                     \
2217 {                                                                       \
2218         if (!btrfs_test_opt(root, opt))                                 \
2219                 btrfs_info(root->fs_info, fmt, ##args);                 \
2220         btrfs_set_opt(root->fs_info->mount_opt, opt);                   \
2221 }
2222
2223 #define btrfs_clear_and_info(root, opt, fmt, args...)                   \
2224 {                                                                       \
2225         if (btrfs_test_opt(root, opt))                                  \
2226                 btrfs_info(root->fs_info, fmt, ##args);                 \
2227         btrfs_clear_opt(root->fs_info->mount_opt, opt);                 \
2228 }
2229
2230 /*
2231  * Requests for changes that need to be done during transaction commit.
2232  *
2233  * Internal mount options that are used for special handling of the real
2234  * mount options (eg. cannot be set during remount and have to be set during
2235  * transaction commit)
2236  */
2237
2238 #define BTRFS_PENDING_SET_INODE_MAP_CACHE       (0)
2239 #define BTRFS_PENDING_CLEAR_INODE_MAP_CACHE     (1)
2240 #define BTRFS_PENDING_COMMIT                    (2)
2241
2242 #define btrfs_test_pending(info, opt)   \
2243         test_bit(BTRFS_PENDING_##opt, &(info)->pending_changes)
2244 #define btrfs_set_pending(info, opt)    \
2245         set_bit(BTRFS_PENDING_##opt, &(info)->pending_changes)
2246 #define btrfs_clear_pending(info, opt)  \
2247         clear_bit(BTRFS_PENDING_##opt, &(info)->pending_changes)
2248
2249 /*
2250  * Helpers for setting pending mount option changes.
2251  *
2252  * Expects corresponding macros
2253  * BTRFS_PENDING_SET_ and CLEAR_ + short mount option name
2254  */
2255 #define btrfs_set_pending_and_info(info, opt, fmt, args...)            \
2256 do {                                                                   \
2257        if (!btrfs_raw_test_opt((info)->mount_opt, opt)) {              \
2258                btrfs_info((info), fmt, ##args);                        \
2259                btrfs_set_pending((info), SET_##opt);                   \
2260                btrfs_clear_pending((info), CLEAR_##opt);               \
2261        }                                                               \
2262 } while(0)
2263
2264 #define btrfs_clear_pending_and_info(info, opt, fmt, args...)          \
2265 do {                                                                   \
2266        if (btrfs_raw_test_opt((info)->mount_opt, opt)) {               \
2267                btrfs_info((info), fmt, ##args);                        \
2268                btrfs_set_pending((info), CLEAR_##opt);                 \
2269                btrfs_clear_pending((info), SET_##opt);                 \
2270        }                                                               \
2271 } while(0)
2272
2273 /*
2274  * Inode flags
2275  */
2276 #define BTRFS_INODE_NODATASUM           (1 << 0)
2277 #define BTRFS_INODE_NODATACOW           (1 << 1)
2278 #define BTRFS_INODE_READONLY            (1 << 2)
2279 #define BTRFS_INODE_NOCOMPRESS          (1 << 3)
2280 #define BTRFS_INODE_PREALLOC            (1 << 4)
2281 #define BTRFS_INODE_SYNC                (1 << 5)
2282 #define BTRFS_INODE_IMMUTABLE           (1 << 6)
2283 #define BTRFS_INODE_APPEND              (1 << 7)
2284 #define BTRFS_INODE_NODUMP              (1 << 8)
2285 #define BTRFS_INODE_NOATIME             (1 << 9)
2286 #define BTRFS_INODE_DIRSYNC             (1 << 10)
2287 #define BTRFS_INODE_COMPRESS            (1 << 11)
2288
2289 #define BTRFS_INODE_ROOT_ITEM_INIT      (1 << 31)
2290
2291 struct btrfs_map_token {
2292         struct extent_buffer *eb;
2293         char *kaddr;
2294         unsigned long offset;
2295 };
2296
2297 static inline void btrfs_init_map_token (struct btrfs_map_token *token)
2298 {
2299         token->kaddr = NULL;
2300 }
2301
2302 /* some macros to generate set/get funcs for the struct fields.  This
2303  * assumes there is a lefoo_to_cpu for every type, so lets make a simple
2304  * one for u8:
2305  */
2306 #define le8_to_cpu(v) (v)
2307 #define cpu_to_le8(v) (v)
2308 #define __le8 u8
2309
2310 #define read_eb_member(eb, ptr, type, member, result) (                 \
2311         read_extent_buffer(eb, (char *)(result),                        \
2312                            ((unsigned long)(ptr)) +                     \
2313                             offsetof(type, member),                     \
2314                            sizeof(((type *)0)->member)))
2315
2316 #define write_eb_member(eb, ptr, type, member, result) (                \
2317         write_extent_buffer(eb, (char *)(result),                       \
2318                            ((unsigned long)(ptr)) +                     \
2319                             offsetof(type, member),                     \
2320                            sizeof(((type *)0)->member)))
2321
2322 #define DECLARE_BTRFS_SETGET_BITS(bits)                                 \
2323 u##bits btrfs_get_token_##bits(struct extent_buffer *eb, void *ptr,     \
2324                                unsigned long off,                       \
2325                               struct btrfs_map_token *token);           \
2326 void btrfs_set_token_##bits(struct extent_buffer *eb, void *ptr,        \
2327                             unsigned long off, u##bits val,             \
2328                             struct btrfs_map_token *token);             \
2329 static inline u##bits btrfs_get_##bits(struct extent_buffer *eb, void *ptr, \
2330                                        unsigned long off)               \
2331 {                                                                       \
2332         return btrfs_get_token_##bits(eb, ptr, off, NULL);              \
2333 }                                                                       \
2334 static inline void btrfs_set_##bits(struct extent_buffer *eb, void *ptr, \
2335                                     unsigned long off, u##bits val)     \
2336 {                                                                       \
2337        btrfs_set_token_##bits(eb, ptr, off, val, NULL);                 \
2338 }
2339
2340 DECLARE_BTRFS_SETGET_BITS(8)
2341 DECLARE_BTRFS_SETGET_BITS(16)
2342 DECLARE_BTRFS_SETGET_BITS(32)
2343 DECLARE_BTRFS_SETGET_BITS(64)
2344
2345 #define BTRFS_SETGET_FUNCS(name, type, member, bits)                    \
2346 static inline u##bits btrfs_##name(struct extent_buffer *eb, type *s)   \
2347 {                                                                       \
2348         BUILD_BUG_ON(sizeof(u##bits) != sizeof(((type *)0))->member);   \
2349         return btrfs_get_##bits(eb, s, offsetof(type, member));         \
2350 }                                                                       \
2351 static inline void btrfs_set_##name(struct extent_buffer *eb, type *s,  \
2352                                     u##bits val)                        \
2353 {                                                                       \
2354         BUILD_BUG_ON(sizeof(u##bits) != sizeof(((type *)0))->member);   \
2355         btrfs_set_##bits(eb, s, offsetof(type, member), val);           \
2356 }                                                                       \
2357 static inline u##bits btrfs_token_##name(struct extent_buffer *eb, type *s, \
2358                                          struct btrfs_map_token *token) \
2359 {                                                                       \
2360         BUILD_BUG_ON(sizeof(u##bits) != sizeof(((type *)0))->member);   \
2361         return btrfs_get_token_##bits(eb, s, offsetof(type, member), token); \
2362 }                                                                       \
2363 static inline void btrfs_set_token_##name(struct extent_buffer *eb,     \
2364                                           type *s, u##bits val,         \
2365                                          struct btrfs_map_token *token) \
2366 {                                                                       \
2367         BUILD_BUG_ON(sizeof(u##bits) != sizeof(((type *)0))->member);   \
2368         btrfs_set_token_##bits(eb, s, offsetof(type, member), val, token); \
2369 }
2370
2371 #define BTRFS_SETGET_HEADER_FUNCS(name, type, member, bits)             \
2372 static inline u##bits btrfs_##name(struct extent_buffer *eb)            \
2373 {                                                                       \
2374         type *p = page_address(eb->pages[0]);                           \
2375         u##bits res = le##bits##_to_cpu(p->member);                     \
2376         return res;                                                     \
2377 }                                                                       \
2378 static inline void btrfs_set_##name(struct extent_buffer *eb,           \
2379                                     u##bits val)                        \
2380 {                                                                       \
2381         type *p = page_address(eb->pages[0]);                           \
2382         p->member = cpu_to_le##bits(val);                               \
2383 }
2384
2385 #define BTRFS_SETGET_STACK_FUNCS(name, type, member, bits)              \
2386 static inline u##bits btrfs_##name(type *s)                             \
2387 {                                                                       \
2388         return le##bits##_to_cpu(s->member);                            \
2389 }                                                                       \
2390 static inline void btrfs_set_##name(type *s, u##bits val)               \
2391 {                                                                       \
2392         s->member = cpu_to_le##bits(val);                               \
2393 }
2394
2395 BTRFS_SETGET_FUNCS(device_type, struct btrfs_dev_item, type, 64);
2396 BTRFS_SETGET_FUNCS(device_total_bytes, struct btrfs_dev_item, total_bytes, 64);
2397 BTRFS_SETGET_FUNCS(device_bytes_used, struct btrfs_dev_item, bytes_used, 64);
2398 BTRFS_SETGET_FUNCS(device_io_align, struct btrfs_dev_item, io_align, 32);
2399 BTRFS_SETGET_FUNCS(device_io_width, struct btrfs_dev_item, io_width, 32);
2400 BTRFS_SETGET_FUNCS(device_start_offset, struct btrfs_dev_item,
2401                    start_offset, 64);
2402 BTRFS_SETGET_FUNCS(device_sector_size, struct btrfs_dev_item, sector_size, 32);
2403 BTRFS_SETGET_FUNCS(device_id, struct btrfs_dev_item, devid, 64);
2404 BTRFS_SETGET_FUNCS(device_group, struct btrfs_dev_item, dev_group, 32);
2405 BTRFS_SETGET_FUNCS(device_seek_speed, struct btrfs_dev_item, seek_speed, 8);
2406 BTRFS_SETGET_FUNCS(device_bandwidth, struct btrfs_dev_item, bandwidth, 8);
2407 BTRFS_SETGET_FUNCS(device_generation, struct btrfs_dev_item, generation, 64);
2408
2409 BTRFS_SETGET_STACK_FUNCS(stack_device_type, struct btrfs_dev_item, type, 64);
2410 BTRFS_SETGET_STACK_FUNCS(stack_device_total_bytes, struct btrfs_dev_item,
2411                          total_bytes, 64);
2412 BTRFS_SETGET_STACK_FUNCS(stack_device_bytes_used, struct btrfs_dev_item,
2413                          bytes_used, 64);
2414 BTRFS_SETGET_STACK_FUNCS(stack_device_io_align, struct btrfs_dev_item,
2415                          io_align, 32);
2416 BTRFS_SETGET_STACK_FUNCS(stack_device_io_width, struct btrfs_dev_item,
2417                          io_width, 32);
2418 BTRFS_SETGET_STACK_FUNCS(stack_device_sector_size, struct btrfs_dev_item,
2419                          sector_size, 32);
2420 BTRFS_SETGET_STACK_FUNCS(stack_device_id, struct btrfs_dev_item, devid, 64);
2421 BTRFS_SETGET_STACK_FUNCS(stack_device_group, struct btrfs_dev_item,
2422                          dev_group, 32);
2423 BTRFS_SETGET_STACK_FUNCS(stack_device_seek_speed, struct btrfs_dev_item,
2424                          seek_speed, 8);
2425 BTRFS_SETGET_STACK_FUNCS(stack_device_bandwidth, struct btrfs_dev_item,
2426                          bandwidth, 8);
2427 BTRFS_SETGET_STACK_FUNCS(stack_device_generation, struct btrfs_dev_item,
2428                          generation, 64);
2429
2430 static inline unsigned long btrfs_device_uuid(struct btrfs_dev_item *d)
2431 {
2432         return (unsigned long)d + offsetof(struct btrfs_dev_item, uuid);
2433 }
2434
2435 static inline unsigned long btrfs_device_fsid(struct btrfs_dev_item *d)
2436 {
2437         return (unsigned long)d + offsetof(struct btrfs_dev_item, fsid);
2438 }
2439
2440 BTRFS_SETGET_FUNCS(chunk_length, struct btrfs_chunk, length, 64);
2441 BTRFS_SETGET_FUNCS(chunk_owner, struct btrfs_chunk, owner, 64);
2442 BTRFS_SETGET_FUNCS(chunk_stripe_len, struct btrfs_chunk, stripe_len, 64);
2443 BTRFS_SETGET_FUNCS(chunk_io_align, struct btrfs_chunk, io_align, 32);
2444 BTRFS_SETGET_FUNCS(chunk_io_width, struct btrfs_chunk, io_width, 32);
2445 BTRFS_SETGET_FUNCS(chunk_sector_size, struct btrfs_chunk, sector_size, 32);
2446 BTRFS_SETGET_FUNCS(chunk_type, struct btrfs_chunk, type, 64);
2447 BTRFS_SETGET_FUNCS(chunk_num_stripes, struct btrfs_chunk, num_stripes, 16);
2448 BTRFS_SETGET_FUNCS(chunk_sub_stripes, struct btrfs_chunk, sub_stripes, 16);
2449 BTRFS_SETGET_FUNCS(stripe_devid, struct btrfs_stripe, devid, 64);
2450 BTRFS_SETGET_FUNCS(stripe_offset, struct btrfs_stripe, offset, 64);
2451
2452 static inline char *btrfs_stripe_dev_uuid(struct btrfs_stripe *s)
2453 {
2454         return (char *)s + offsetof(struct btrfs_stripe, dev_uuid);
2455 }
2456
2457 BTRFS_SETGET_STACK_FUNCS(stack_chunk_length, struct btrfs_chunk, length, 64);
2458 BTRFS_SETGET_STACK_FUNCS(stack_chunk_owner, struct btrfs_chunk, owner, 64);
2459 BTRFS_SETGET_STACK_FUNCS(stack_chunk_stripe_len, struct btrfs_chunk,
2460                          stripe_len, 64);
2461 BTRFS_SETGET_STACK_FUNCS(stack_chunk_io_align, struct btrfs_chunk,
2462                          io_align, 32);
2463 BTRFS_SETGET_STACK_FUNCS(stack_chunk_io_width, struct btrfs_chunk,
2464                          io_width, 32);
2465 BTRFS_SETGET_STACK_FUNCS(stack_chunk_sector_size, struct btrfs_chunk,
2466                          sector_size, 32);
2467 BTRFS_SETGET_STACK_FUNCS(stack_chunk_type, struct btrfs_chunk, type, 64);
2468 BTRFS_SETGET_STACK_FUNCS(stack_chunk_num_stripes, struct btrfs_chunk,
2469                          num_stripes, 16);
2470 BTRFS_SETGET_STACK_FUNCS(stack_chunk_sub_stripes, struct btrfs_chunk,
2471                          sub_stripes, 16);
2472 BTRFS_SETGET_STACK_FUNCS(stack_stripe_devid, struct btrfs_stripe, devid, 64);
2473 BTRFS_SETGET_STACK_FUNCS(stack_stripe_offset, struct btrfs_stripe, offset, 64);
2474
2475 static inline struct btrfs_stripe *btrfs_stripe_nr(struct btrfs_chunk *c,
2476                                                    int nr)
2477 {
2478         unsigned long offset = (unsigned long)c;
2479         offset += offsetof(struct btrfs_chunk, stripe);
2480         offset += nr * sizeof(struct btrfs_stripe);
2481         return (struct btrfs_stripe *)offset;
2482 }
2483
2484 static inline char *btrfs_stripe_dev_uuid_nr(struct btrfs_chunk *c, int nr)
2485 {
2486         return btrfs_stripe_dev_uuid(btrfs_stripe_nr(c, nr));
2487 }
2488
2489 static inline u64 btrfs_stripe_offset_nr(struct extent_buffer *eb,
2490                                          struct btrfs_chunk *c, int nr)
2491 {
2492         return btrfs_stripe_offset(eb, btrfs_stripe_nr(c, nr));
2493 }
2494
2495 static inline u64 btrfs_stripe_devid_nr(struct extent_buffer *eb,
2496                                          struct btrfs_chunk *c, int nr)
2497 {
2498         return btrfs_stripe_devid(eb, btrfs_stripe_nr(c, nr));
2499 }
2500
2501 /* struct btrfs_block_group_item */
2502 BTRFS_SETGET_STACK_FUNCS(block_group_used, struct btrfs_block_group_item,
2503                          used, 64);
2504 BTRFS_SETGET_FUNCS(disk_block_group_used, struct btrfs_block_group_item,
2505                          used, 64);
2506 BTRFS_SETGET_STACK_FUNCS(block_group_chunk_objectid,
2507                         struct btrfs_block_group_item, chunk_objectid, 64);
2508
2509 BTRFS_SETGET_FUNCS(disk_block_group_chunk_objectid,
2510                    struct btrfs_block_group_item, chunk_objectid, 64);
2511 BTRFS_SETGET_FUNCS(disk_block_group_flags,
2512                    struct btrfs_block_group_item, flags, 64);
2513 BTRFS_SETGET_STACK_FUNCS(block_group_flags,
2514                         struct btrfs_block_group_item, flags, 64);
2515
2516 /* struct btrfs_free_space_info */
2517 BTRFS_SETGET_FUNCS(free_space_extent_count, struct btrfs_free_space_info,
2518                    extent_count, 32);
2519 BTRFS_SETGET_FUNCS(free_space_flags, struct btrfs_free_space_info, flags, 32);
2520
2521 /* struct btrfs_inode_ref */
2522 BTRFS_SETGET_FUNCS(inode_ref_name_len, struct btrfs_inode_ref, name_len, 16);
2523 BTRFS_SETGET_FUNCS(inode_ref_index, struct btrfs_inode_ref, index, 64);
2524
2525 /* struct btrfs_inode_extref */
2526 BTRFS_SETGET_FUNCS(inode_extref_parent, struct btrfs_inode_extref,
2527                    parent_objectid, 64);
2528 BTRFS_SETGET_FUNCS(inode_extref_name_len, struct btrfs_inode_extref,
2529                    name_len, 16);
2530 BTRFS_SETGET_FUNCS(inode_extref_index, struct btrfs_inode_extref, index, 64);
2531
2532 /* struct btrfs_inode_item */
2533 BTRFS_SETGET_FUNCS(inode_generation, struct btrfs_inode_item, generation, 64);
2534 BTRFS_SETGET_FUNCS(inode_sequence, struct btrfs_inode_item, sequence, 64);
2535 BTRFS_SETGET_FUNCS(inode_transid, struct btrfs_inode_item, transid, 64);
2536 BTRFS_SETGET_FUNCS(inode_size, struct btrfs_inode_item, size, 64);
2537 BTRFS_SETGET_FUNCS(inode_nbytes, struct btrfs_inode_item, nbytes, 64);
2538 BTRFS_SETGET_FUNCS(inode_block_group, struct btrfs_inode_item, block_group, 64);
2539 BTRFS_SETGET_FUNCS(inode_nlink, struct btrfs_inode_item, nlink, 32);
2540 BTRFS_SETGET_FUNCS(inode_uid, struct btrfs_inode_item, uid, 32);
2541 BTRFS_SETGET_FUNCS(inode_gid, struct btrfs_inode_item, gid, 32);
2542 BTRFS_SETGET_FUNCS(inode_mode, struct btrfs_inode_item, mode, 32);
2543 BTRFS_SETGET_FUNCS(inode_rdev, struct btrfs_inode_item, rdev, 64);
2544 BTRFS_SETGET_FUNCS(inode_flags, struct btrfs_inode_item, flags, 64);
2545 BTRFS_SETGET_STACK_FUNCS(stack_inode_generation, struct btrfs_inode_item,
2546                          generation, 64);
2547 BTRFS_SETGET_STACK_FUNCS(stack_inode_sequence, struct btrfs_inode_item,
2548                          sequence, 64);
2549 BTRFS_SETGET_STACK_FUNCS(stack_inode_transid, struct btrfs_inode_item,
2550                          transid, 64);
2551 BTRFS_SETGET_STACK_FUNCS(stack_inode_size, struct btrfs_inode_item, size, 64);
2552 BTRFS_SETGET_STACK_FUNCS(stack_inode_nbytes, struct btrfs_inode_item,
2553                          nbytes, 64);
2554 BTRFS_SETGET_STACK_FUNCS(stack_inode_block_group, struct btrfs_inode_item,
2555                          block_group, 64);
2556 BTRFS_SETGET_STACK_FUNCS(stack_inode_nlink, struct btrfs_inode_item, nlink, 32);
2557 BTRFS_SETGET_STACK_FUNCS(stack_inode_uid, struct btrfs_inode_item, uid, 32);
2558 BTRFS_SETGET_STACK_FUNCS(stack_inode_gid, struct btrfs_inode_item, gid, 32);
2559 BTRFS_SETGET_STACK_FUNCS(stack_inode_mode, struct btrfs_inode_item, mode, 32);
2560 BTRFS_SETGET_STACK_FUNCS(stack_inode_rdev, struct btrfs_inode_item, rdev, 64);
2561 BTRFS_SETGET_STACK_FUNCS(stack_inode_flags, struct btrfs_inode_item, flags, 64);
2562 BTRFS_SETGET_FUNCS(timespec_sec, struct btrfs_timespec, sec, 64);
2563 BTRFS_SETGET_FUNCS(timespec_nsec, struct btrfs_timespec, nsec, 32);
2564 BTRFS_SETGET_STACK_FUNCS(stack_timespec_sec, struct btrfs_timespec, sec, 64);
2565 BTRFS_SETGET_STACK_FUNCS(stack_timespec_nsec, struct btrfs_timespec, nsec, 32);
2566
2567 /* struct btrfs_dev_extent */
2568 BTRFS_SETGET_FUNCS(dev_extent_chunk_tree, struct btrfs_dev_extent,
2569                    chunk_tree, 64);
2570 BTRFS_SETGET_FUNCS(dev_extent_chunk_objectid, struct btrfs_dev_extent,
2571                    chunk_objectid, 64);
2572 BTRFS_SETGET_FUNCS(dev_extent_chunk_offset, struct btrfs_dev_extent,
2573                    chunk_offset, 64);
2574 BTRFS_SETGET_FUNCS(dev_extent_length, struct btrfs_dev_extent, length, 64);
2575
2576 static inline unsigned long btrfs_dev_extent_chunk_tree_uuid(struct btrfs_dev_extent *dev)
2577 {
2578         unsigned long ptr = offsetof(struct btrfs_dev_extent, chunk_tree_uuid);
2579         return (unsigned long)dev + ptr;
2580 }
2581
2582 BTRFS_SETGET_FUNCS(extent_refs, struct btrfs_extent_item, refs, 64);
2583 BTRFS_SETGET_FUNCS(extent_generation, struct btrfs_extent_item,
2584                    generation, 64);
2585 BTRFS_SETGET_FUNCS(extent_flags, struct btrfs_extent_item, flags, 64);
2586
2587 BTRFS_SETGET_FUNCS(extent_refs_v0, struct btrfs_extent_item_v0, refs, 32);
2588
2589
2590 BTRFS_SETGET_FUNCS(tree_block_level, struct btrfs_tree_block_info, level, 8);
2591
2592 static inline void btrfs_tree_block_key(struct extent_buffer *eb,
2593                                         struct btrfs_tree_block_info *item,
2594                                         struct btrfs_disk_key *key)
2595 {
2596         read_eb_member(eb, item, struct btrfs_tree_block_info, key, key);
2597 }
2598
2599 static inline void btrfs_set_tree_block_key(struct extent_buffer *eb,
2600                                             struct btrfs_tree_block_info *item,
2601                                             struct btrfs_disk_key *key)
2602 {
2603         write_eb_member(eb, item, struct btrfs_tree_block_info, key, key);
2604 }
2605
2606 BTRFS_SETGET_FUNCS(extent_data_ref_root, struct btrfs_extent_data_ref,
2607                    root, 64);
2608 BTRFS_SETGET_FUNCS(extent_data_ref_objectid, struct btrfs_extent_data_ref,
2609                    objectid, 64);
2610 BTRFS_SETGET_FUNCS(extent_data_ref_offset, struct btrfs_extent_data_ref,
2611                    offset, 64);
2612 BTRFS_SETGET_FUNCS(extent_data_ref_count, struct btrfs_extent_data_ref,
2613                    count, 32);
2614
2615 BTRFS_SETGET_FUNCS(shared_data_ref_count, struct btrfs_shared_data_ref,
2616                    count, 32);
2617
2618 BTRFS_SETGET_FUNCS(extent_inline_ref_type, struct btrfs_extent_inline_ref,
2619                    type, 8);
2620 BTRFS_SETGET_FUNCS(extent_inline_ref_offset, struct btrfs_extent_inline_ref,
2621                    offset, 64);
2622
2623 static inline u32 btrfs_extent_inline_ref_size(int type)
2624 {
2625         if (type == BTRFS_TREE_BLOCK_REF_KEY ||
2626             type == BTRFS_SHARED_BLOCK_REF_KEY)
2627                 return sizeof(struct btrfs_extent_inline_ref);
2628         if (type == BTRFS_SHARED_DATA_REF_KEY)
2629                 return sizeof(struct btrfs_shared_data_ref) +
2630                        sizeof(struct btrfs_extent_inline_ref);
2631         if (type == BTRFS_EXTENT_DATA_REF_KEY)
2632                 return sizeof(struct btrfs_extent_data_ref) +
2633                        offsetof(struct btrfs_extent_inline_ref, offset);
2634         BUG();
2635         return 0;
2636 }
2637
2638 BTRFS_SETGET_FUNCS(ref_root_v0, struct btrfs_extent_ref_v0, root, 64);
2639 BTRFS_SETGET_FUNCS(ref_generation_v0, struct btrfs_extent_ref_v0,
2640                    generation, 64);
2641 BTRFS_SETGET_FUNCS(ref_objectid_v0, struct btrfs_extent_ref_v0, objectid, 64);
2642 BTRFS_SETGET_FUNCS(ref_count_v0, struct btrfs_extent_ref_v0, count, 32);
2643
2644 /* struct btrfs_node */
2645 BTRFS_SETGET_FUNCS(key_blockptr, struct btrfs_key_ptr, blockptr, 64);
2646 BTRFS_SETGET_FUNCS(key_generation, struct btrfs_key_ptr, generation, 64);
2647 BTRFS_SETGET_STACK_FUNCS(stack_key_blockptr, struct btrfs_key_ptr,
2648                          blockptr, 64);
2649 BTRFS_SETGET_STACK_FUNCS(stack_key_generation, struct btrfs_key_ptr,
2650                          generation, 64);
2651
2652 static inline u64 btrfs_node_blockptr(struct extent_buffer *eb, int nr)
2653 {
2654         unsigned long ptr;
2655         ptr = offsetof(struct btrfs_node, ptrs) +
2656                 sizeof(struct btrfs_key_ptr) * nr;
2657         return btrfs_key_blockptr(eb, (struct btrfs_key_ptr *)ptr);
2658 }
2659
2660 static inline void btrfs_set_node_blockptr(struct extent_buffer *eb,
2661                                            int nr, u64 val)
2662 {
2663         unsigned long ptr;
2664         ptr = offsetof(struct btrfs_node, ptrs) +
2665                 sizeof(struct btrfs_key_ptr) * nr;
2666         btrfs_set_key_blockptr(eb, (struct btrfs_key_ptr *)ptr, val);
2667 }
2668
2669 static inline u64 btrfs_node_ptr_generation(struct extent_buffer *eb, int nr)
2670 {
2671         unsigned long ptr;
2672         ptr = offsetof(struct btrfs_node, ptrs) +
2673                 sizeof(struct btrfs_key_ptr) * nr;
2674         return btrfs_key_generation(eb, (struct btrfs_key_ptr *)ptr);
2675 }
2676
2677 static inline void btrfs_set_node_ptr_generation(struct extent_buffer *eb,
2678                                                  int nr, u64 val)
2679 {
2680         unsigned long ptr;
2681         ptr = offsetof(struct btrfs_node, ptrs) +
2682                 sizeof(struct btrfs_key_ptr) * nr;
2683         btrfs_set_key_generation(eb, (struct btrfs_key_ptr *)ptr, val);
2684 }
2685
2686 static inline unsigned long btrfs_node_key_ptr_offset(int nr)
2687 {
2688         return offsetof(struct btrfs_node, ptrs) +
2689                 sizeof(struct btrfs_key_ptr) * nr;
2690 }
2691
2692 void btrfs_node_key(struct extent_buffer *eb,
2693                     struct btrfs_disk_key *disk_key, int nr);
2694
2695 static inline void btrfs_set_node_key(struct extent_buffer *eb,
2696                                       struct btrfs_disk_key *disk_key, int nr)
2697 {
2698         unsigned long ptr;
2699         ptr = btrfs_node_key_ptr_offset(nr);
2700         write_eb_member(eb, (struct btrfs_key_ptr *)ptr,
2701                        struct btrfs_key_ptr, key, disk_key);
2702 }
2703
2704 /* struct btrfs_item */
2705 BTRFS_SETGET_FUNCS(item_offset, struct btrfs_item, offset, 32);
2706 BTRFS_SETGET_FUNCS(item_size, struct btrfs_item, size, 32);
2707 BTRFS_SETGET_STACK_FUNCS(stack_item_offset, struct btrfs_item, offset, 32);
2708 BTRFS_SETGET_STACK_FUNCS(stack_item_size, struct btrfs_item, size, 32);
2709
2710 static inline unsigned long btrfs_item_nr_offset(int nr)
2711 {
2712         return offsetof(struct btrfs_leaf, items) +
2713                 sizeof(struct btrfs_item) * nr;
2714 }
2715
2716 static inline struct btrfs_item *btrfs_item_nr(int nr)
2717 {
2718         return (struct btrfs_item *)btrfs_item_nr_offset(nr);
2719 }
2720
2721 static inline u32 btrfs_item_end(struct extent_buffer *eb,
2722                                  struct btrfs_item *item)
2723 {
2724         return btrfs_item_offset(eb, item) + btrfs_item_size(eb, item);
2725 }
2726
2727 static inline u32 btrfs_item_end_nr(struct extent_buffer *eb, int nr)
2728 {
2729         return btrfs_item_end(eb, btrfs_item_nr(nr));
2730 }
2731
2732 static inline u32 btrfs_item_offset_nr(struct extent_buffer *eb, int nr)
2733 {
2734         return btrfs_item_offset(eb, btrfs_item_nr(nr));
2735 }
2736
2737 static inline u32 btrfs_item_size_nr(struct extent_buffer *eb, int nr)
2738 {
2739         return btrfs_item_size(eb, btrfs_item_nr(nr));
2740 }
2741
2742 static inline void btrfs_item_key(struct extent_buffer *eb,
2743                            struct btrfs_disk_key *disk_key, int nr)
2744 {
2745         struct btrfs_item *item = btrfs_item_nr(nr);
2746         read_eb_member(eb, item, struct btrfs_item, key, disk_key);
2747 }
2748
2749 static inline void btrfs_set_item_key(struct extent_buffer *eb,
2750                                struct btrfs_disk_key *disk_key, int nr)
2751 {
2752         struct btrfs_item *item = btrfs_item_nr(nr);
2753         write_eb_member(eb, item, struct btrfs_item, key, disk_key);
2754 }
2755
2756 BTRFS_SETGET_FUNCS(dir_log_end, struct btrfs_dir_log_item, end, 64);
2757
2758 /*
2759  * struct btrfs_root_ref
2760  */
2761 BTRFS_SETGET_FUNCS(root_ref_dirid, struct btrfs_root_ref, dirid, 64);
2762 BTRFS_SETGET_FUNCS(root_ref_sequence, struct btrfs_root_ref, sequence, 64);
2763 BTRFS_SETGET_FUNCS(root_ref_name_len, struct btrfs_root_ref, name_len, 16);
2764
2765 /* struct btrfs_dir_item */
2766 BTRFS_SETGET_FUNCS(dir_data_len, struct btrfs_dir_item, data_len, 16);
2767 BTRFS_SETGET_FUNCS(dir_type, struct btrfs_dir_item, type, 8);
2768 BTRFS_SETGET_FUNCS(dir_name_len, struct btrfs_dir_item, name_len, 16);
2769 BTRFS_SETGET_FUNCS(dir_transid, struct btrfs_dir_item, transid, 64);
2770 BTRFS_SETGET_STACK_FUNCS(stack_dir_type, struct btrfs_dir_item, type, 8);
2771 BTRFS_SETGET_STACK_FUNCS(stack_dir_data_len, struct btrfs_dir_item,
2772                          data_len, 16);
2773 BTRFS_SETGET_STACK_FUNCS(stack_dir_name_len, struct btrfs_dir_item,
2774                          name_len, 16);
2775 BTRFS_SETGET_STACK_FUNCS(stack_dir_transid, struct btrfs_dir_item,
2776                          transid, 64);
2777
2778 static inline void btrfs_dir_item_key(struct extent_buffer *eb,
2779                                       struct btrfs_dir_item *item,
2780                                       struct btrfs_disk_key *key)
2781 {
2782         read_eb_member(eb, item, struct btrfs_dir_item, location, key);
2783 }
2784
2785 static inline void btrfs_set_dir_item_key(struct extent_buffer *eb,
2786                                           struct btrfs_dir_item *item,
2787                                           struct btrfs_disk_key *key)
2788 {
2789         write_eb_member(eb, item, struct btrfs_dir_item, location, key);
2790 }
2791
2792 BTRFS_SETGET_FUNCS(free_space_entries, struct btrfs_free_space_header,
2793                    num_entries, 64);
2794 BTRFS_SETGET_FUNCS(free_space_bitmaps, struct btrfs_free_space_header,
2795                    num_bitmaps, 64);
2796 BTRFS_SETGET_FUNCS(free_space_generation, struct btrfs_free_space_header,
2797                    generation, 64);
2798
2799 static inline void btrfs_free_space_key(struct extent_buffer *eb,
2800                                         struct btrfs_free_space_header *h,
2801                                         struct btrfs_disk_key *key)
2802 {
2803         read_eb_member(eb, h, struct btrfs_free_space_header, location, key);
2804 }
2805
2806 static inline void btrfs_set_free_space_key(struct extent_buffer *eb,
2807                                             struct btrfs_free_space_header *h,
2808                                             struct btrfs_disk_key *key)
2809 {
2810         write_eb_member(eb, h, struct btrfs_free_space_header, location, key);
2811 }
2812
2813 /* struct btrfs_disk_key */
2814 BTRFS_SETGET_STACK_FUNCS(disk_key_objectid, struct btrfs_disk_key,
2815                          objectid, 64);
2816 BTRFS_SETGET_STACK_FUNCS(disk_key_offset, struct btrfs_disk_key, offset, 64);
2817 BTRFS_SETGET_STACK_FUNCS(disk_key_type, struct btrfs_disk_key, type, 8);
2818
2819 static inline void btrfs_disk_key_to_cpu(struct btrfs_key *cpu,
2820                                          struct btrfs_disk_key *disk)
2821 {
2822         cpu->offset = le64_to_cpu(disk->offset);
2823         cpu->type = disk->type;
2824         cpu->objectid = le64_to_cpu(disk->objectid);
2825 }
2826
2827 static inline void btrfs_cpu_key_to_disk(struct btrfs_disk_key *disk,
2828                                          struct btrfs_key *cpu)
2829 {
2830         disk->offset = cpu_to_le64(cpu->offset);
2831         disk->type = cpu->type;
2832         disk->objectid = cpu_to_le64(cpu->objectid);
2833 }
2834
2835 static inline void btrfs_node_key_to_cpu(struct extent_buffer *eb,
2836                                   struct btrfs_key *key, int nr)
2837 {
2838         struct btrfs_disk_key disk_key;
2839         btrfs_node_key(eb, &disk_key, nr);
2840         btrfs_disk_key_to_cpu(key, &disk_key);
2841 }
2842
2843 static inline void btrfs_item_key_to_cpu(struct extent_buffer *eb,
2844                                   struct btrfs_key *key, int nr)
2845 {
2846         struct btrfs_disk_key disk_key;
2847         btrfs_item_key(eb, &disk_key, nr);
2848         btrfs_disk_key_to_cpu(key, &disk_key);
2849 }
2850
2851 static inline void btrfs_dir_item_key_to_cpu(struct extent_buffer *eb,
2852                                       struct btrfs_dir_item *item,
2853                                       struct btrfs_key *key)
2854 {
2855         struct btrfs_disk_key disk_key;
2856         btrfs_dir_item_key(eb, item, &disk_key);
2857         btrfs_disk_key_to_cpu(key, &disk_key);
2858 }
2859
2860
2861 static inline u8 btrfs_key_type(struct btrfs_key *key)
2862 {
2863         return key->type;
2864 }
2865
2866 static inline void btrfs_set_key_type(struct btrfs_key *key, u8 val)
2867 {
2868         key->type = val;
2869 }
2870
2871 /* struct btrfs_header */
2872 BTRFS_SETGET_HEADER_FUNCS(header_bytenr, struct btrfs_header, bytenr, 64);
2873 BTRFS_SETGET_HEADER_FUNCS(header_generation, struct btrfs_header,
2874                           generation, 64);
2875 BTRFS_SETGET_HEADER_FUNCS(header_owner, struct btrfs_header, owner, 64);
2876 BTRFS_SETGET_HEADER_FUNCS(header_nritems, struct btrfs_header, nritems, 32);
2877 BTRFS_SETGET_HEADER_FUNCS(header_flags, struct btrfs_header, flags, 64);
2878 BTRFS_SETGET_HEADER_FUNCS(header_level, struct btrfs_header, level, 8);
2879 BTRFS_SETGET_STACK_FUNCS(stack_header_generation, struct btrfs_header,
2880                          generation, 64);
2881 BTRFS_SETGET_STACK_FUNCS(stack_header_owner, struct btrfs_header, owner, 64);
2882 BTRFS_SETGET_STACK_FUNCS(stack_header_nritems, struct btrfs_header,
2883                          nritems, 32);
2884 BTRFS_SETGET_STACK_FUNCS(stack_header_bytenr, struct btrfs_header, bytenr, 64);
2885
2886 static inline int btrfs_header_flag(struct extent_buffer *eb, u64 flag)
2887 {
2888         return (btrfs_header_flags(eb) & flag) == flag;
2889 }
2890
2891 static inline int btrfs_set_header_flag(struct extent_buffer *eb, u64 flag)
2892 {
2893         u64 flags = btrfs_header_flags(eb);
2894         btrfs_set_header_flags(eb, flags | flag);
2895         return (flags & flag) == flag;
2896 }
2897
2898 static inline int btrfs_clear_header_flag(struct extent_buffer *eb, u64 flag)
2899 {
2900         u64 flags = btrfs_header_flags(eb);
2901         btrfs_set_header_flags(eb, flags & ~flag);
2902         return (flags & flag) == flag;
2903 }
2904
2905 static inline int btrfs_header_backref_rev(struct extent_buffer *eb)
2906 {
2907         u64 flags = btrfs_header_flags(eb);
2908         return flags >> BTRFS_BACKREF_REV_SHIFT;
2909 }
2910
2911 static inline void btrfs_set_header_backref_rev(struct extent_buffer *eb,
2912                                                 int rev)
2913 {
2914         u64 flags = btrfs_header_flags(eb);
2915         flags &= ~BTRFS_BACKREF_REV_MASK;
2916         flags |= (u64)rev << BTRFS_BACKREF_REV_SHIFT;
2917         btrfs_set_header_flags(eb, flags);
2918 }
2919
2920 static inline unsigned long btrfs_header_fsid(void)
2921 {
2922         return offsetof(struct btrfs_header, fsid);
2923 }
2924
2925 static inline unsigned long btrfs_header_chunk_tree_uuid(struct extent_buffer *eb)
2926 {
2927         return offsetof(struct btrfs_header, chunk_tree_uuid);
2928 }
2929
2930 static inline int btrfs_is_leaf(struct extent_buffer *eb)
2931 {
2932         return btrfs_header_level(eb) == 0;
2933 }
2934
2935 /* struct btrfs_root_item */
2936 BTRFS_SETGET_FUNCS(disk_root_generation, struct btrfs_root_item,
2937                    generation, 64);
2938 BTRFS_SETGET_FUNCS(disk_root_refs, struct btrfs_root_item, refs, 32);
2939 BTRFS_SETGET_FUNCS(disk_root_bytenr, struct btrfs_root_item, bytenr, 64);
2940 BTRFS_SETGET_FUNCS(disk_root_level, struct btrfs_root_item, level, 8);
2941
2942 BTRFS_SETGET_STACK_FUNCS(root_generation, struct btrfs_root_item,
2943                          generation, 64);
2944 BTRFS_SETGET_STACK_FUNCS(root_bytenr, struct btrfs_root_item, bytenr, 64);
2945 BTRFS_SETGET_STACK_FUNCS(root_level, struct btrfs_root_item, level, 8);
2946 BTRFS_SETGET_STACK_FUNCS(root_dirid, struct btrfs_root_item, root_dirid, 64);
2947 BTRFS_SETGET_STACK_FUNCS(root_refs, struct btrfs_root_item, refs, 32);
2948 BTRFS_SETGET_STACK_FUNCS(root_flags, struct btrfs_root_item, flags, 64);
2949 BTRFS_SETGET_STACK_FUNCS(root_used, struct btrfs_root_item, bytes_used, 64);
2950 BTRFS_SETGET_STACK_FUNCS(root_limit, struct btrfs_root_item, byte_limit, 64);
2951 BTRFS_SETGET_STACK_FUNCS(root_last_snapshot, struct btrfs_root_item,
2952                          last_snapshot, 64);
2953 BTRFS_SETGET_STACK_FUNCS(root_generation_v2, struct btrfs_root_item,
2954                          generation_v2, 64);
2955 BTRFS_SETGET_STACK_FUNCS(root_ctransid, struct btrfs_root_item,
2956                          ctransid, 64);
2957 BTRFS_SETGET_STACK_FUNCS(root_otransid, struct btrfs_root_item,
2958                          otransid, 64);
2959 BTRFS_SETGET_STACK_FUNCS(root_stransid, struct btrfs_root_item,
2960                          stransid, 64);
2961 BTRFS_SETGET_STACK_FUNCS(root_rtransid, struct btrfs_root_item,
2962                          rtransid, 64);
2963
2964 static inline bool btrfs_root_readonly(struct btrfs_root *root)
2965 {
2966         return (root->root_item.flags & cpu_to_le64(BTRFS_ROOT_SUBVOL_RDONLY)) != 0;
2967 }
2968
2969 static inline bool btrfs_root_dead(struct btrfs_root *root)
2970 {
2971         return (root->root_item.flags & cpu_to_le64(BTRFS_ROOT_SUBVOL_DEAD)) != 0;
2972 }
2973
2974 /* struct btrfs_root_backup */
2975 BTRFS_SETGET_STACK_FUNCS(backup_tree_root, struct btrfs_root_backup,
2976                    tree_root, 64);
2977 BTRFS_SETGET_STACK_FUNCS(backup_tree_root_gen, struct btrfs_root_backup,
2978                    tree_root_gen, 64);
2979 BTRFS_SETGET_STACK_FUNCS(backup_tree_root_level, struct btrfs_root_backup,
2980                    tree_root_level, 8);
2981
2982 BTRFS_SETGET_STACK_FUNCS(backup_chunk_root, struct btrfs_root_backup,
2983                    chunk_root, 64);
2984 BTRFS_SETGET_STACK_FUNCS(backup_chunk_root_gen, struct btrfs_root_backup,
2985                    chunk_root_gen, 64);
2986 BTRFS_SETGET_STACK_FUNCS(backup_chunk_root_level, struct btrfs_root_backup,
2987                    chunk_root_level, 8);
2988
2989 BTRFS_SETGET_STACK_FUNCS(backup_extent_root, struct btrfs_root_backup,
2990                    extent_root, 64);
2991 BTRFS_SETGET_STACK_FUNCS(backup_extent_root_gen, struct btrfs_root_backup,
2992                    extent_root_gen, 64);
2993 BTRFS_SETGET_STACK_FUNCS(backup_extent_root_level, struct btrfs_root_backup,
2994                    extent_root_level, 8);
2995
2996 BTRFS_SETGET_STACK_FUNCS(backup_fs_root, struct btrfs_root_backup,
2997                    fs_root, 64);
2998 BTRFS_SETGET_STACK_FUNCS(backup_fs_root_gen, struct btrfs_root_backup,
2999                    fs_root_gen, 64);
3000 BTRFS_SETGET_STACK_FUNCS(backup_fs_root_level, struct btrfs_root_backup,
3001                    fs_root_level, 8);
3002
3003 BTRFS_SETGET_STACK_FUNCS(backup_dev_root, struct btrfs_root_backup,
3004                    dev_root, 64);
3005 BTRFS_SETGET_STACK_FUNCS(backup_dev_root_gen, struct btrfs_root_backup,
3006                    dev_root_gen, 64);
3007 BTRFS_SETGET_STACK_FUNCS(backup_dev_root_level, struct btrfs_root_backup,
3008                    dev_root_level, 8);
3009
3010 BTRFS_SETGET_STACK_FUNCS(backup_csum_root, struct btrfs_root_backup,
3011                    csum_root, 64);
3012 BTRFS_SETGET_STACK_FUNCS(backup_csum_root_gen, struct btrfs_root_backup,
3013                    csum_root_gen, 64);
3014 BTRFS_SETGET_STACK_FUNCS(backup_csum_root_level, struct btrfs_root_backup,
3015                    csum_root_level, 8);
3016 BTRFS_SETGET_STACK_FUNCS(backup_total_bytes, struct btrfs_root_backup,
3017                    total_bytes, 64);
3018 BTRFS_SETGET_STACK_FUNCS(backup_bytes_used, struct btrfs_root_backup,
3019                    bytes_used, 64);
3020 BTRFS_SETGET_STACK_FUNCS(backup_num_devices, struct btrfs_root_backup,
3021                    num_devices, 64);
3022
3023 /* struct btrfs_balance_item */
3024 BTRFS_SETGET_FUNCS(balance_flags, struct btrfs_balance_item, flags, 64);
3025
3026 static inline void btrfs_balance_data(struct extent_buffer *eb,
3027                                       struct btrfs_balance_item *bi,
3028                                       struct btrfs_disk_balance_args *ba)
3029 {
3030         read_eb_member(eb, bi, struct btrfs_balance_item, data, ba);
3031 }
3032
3033 static inline void btrfs_set_balance_data(struct extent_buffer *eb,
3034                                           struct btrfs_balance_item *bi,
3035                                           struct btrfs_disk_balance_args *ba)
3036 {
3037         write_eb_member(eb, bi, struct btrfs_balance_item, data, ba);
3038 }
3039
3040 static inline void btrfs_balance_meta(struct extent_buffer *eb,
3041                                       struct btrfs_balance_item *bi,
3042                                       struct btrfs_disk_balance_args *ba)
3043 {
3044         read_eb_member(eb, bi, struct btrfs_balance_item, meta, ba);
3045 }
3046
3047 static inline void btrfs_set_balance_meta(struct extent_buffer *eb,
3048                                           struct btrfs_balance_item *bi,
3049                                           struct btrfs_disk_balance_args *ba)
3050 {
3051         write_eb_member(eb, bi, struct btrfs_balance_item, meta, ba);
3052 }
3053
3054 static inline void btrfs_balance_sys(struct extent_buffer *eb,
3055                                      struct btrfs_balance_item *bi,
3056                                      struct btrfs_disk_balance_args *ba)
3057 {
3058         read_eb_member(eb, bi, struct btrfs_balance_item, sys, ba);
3059 }
3060
3061 static inline void btrfs_set_balance_sys(struct extent_buffer *eb,
3062                                          struct btrfs_balance_item *bi,
3063                                          struct btrfs_disk_balance_args *ba)
3064 {
3065         write_eb_member(eb, bi, struct btrfs_balance_item, sys, ba);
3066 }
3067
3068 static inline void
3069 btrfs_disk_balance_args_to_cpu(struct btrfs_balance_args *cpu,
3070                                struct btrfs_disk_balance_args *disk)
3071 {
3072         memset(cpu, 0, sizeof(*cpu));
3073
3074         cpu->profiles = le64_to_cpu(disk->profiles);
3075         cpu->usage = le64_to_cpu(disk->usage);
3076         cpu->devid = le64_to_cpu(disk->devid);
3077         cpu->pstart = le64_to_cpu(disk->pstart);
3078         cpu->pend = le64_to_cpu(disk->pend);
3079         cpu->vstart = le64_to_cpu(disk->vstart);
3080         cpu->vend = le64_to_cpu(disk->vend);
3081         cpu->target = le64_to_cpu(disk->target);
3082         cpu->flags = le64_to_cpu(disk->flags);
3083         cpu->limit = le64_to_cpu(disk->limit);
3084 }
3085
3086 static inline void
3087 btrfs_cpu_balance_args_to_disk(struct btrfs_disk_balance_args *disk,
3088                                struct btrfs_balance_args *cpu)
3089 {
3090         memset(disk, 0, sizeof(*disk));
3091
3092         disk->profiles = cpu_to_le64(cpu->profiles);
3093         disk->usage = cpu_to_le64(cpu->usage);
3094         disk->devid = cpu_to_le64(cpu->devid);
3095         disk->pstart = cpu_to_le64(cpu->pstart);
3096         disk->pend = cpu_to_le64(cpu->pend);
3097         disk->vstart = cpu_to_le64(cpu->vstart);
3098         disk->vend = cpu_to_le64(cpu->vend);
3099         disk->target = cpu_to_le64(cpu->target);
3100         disk->flags = cpu_to_le64(cpu->flags);
3101         disk->limit = cpu_to_le64(cpu->limit);
3102 }
3103
3104 /* struct btrfs_super_block */
3105 BTRFS_SETGET_STACK_FUNCS(super_bytenr, struct btrfs_super_block, bytenr, 64);
3106 BTRFS_SETGET_STACK_FUNCS(super_flags, struct btrfs_super_block, flags, 64);
3107 BTRFS_SETGET_STACK_FUNCS(super_generation, struct btrfs_super_block,
3108                          generation, 64);
3109 BTRFS_SETGET_STACK_FUNCS(super_root, struct btrfs_super_block, root, 64);
3110 BTRFS_SETGET_STACK_FUNCS(super_sys_array_size,
3111                          struct btrfs_super_block, sys_chunk_array_size, 32);
3112 BTRFS_SETGET_STACK_FUNCS(super_chunk_root_generation,
3113                          struct btrfs_super_block, chunk_root_generation, 64);
3114 BTRFS_SETGET_STACK_FUNCS(super_root_level, struct btrfs_super_block,
3115                          root_level, 8);
3116 BTRFS_SETGET_STACK_FUNCS(super_chunk_root, struct btrfs_super_block,
3117                          chunk_root, 64);
3118 BTRFS_SETGET_STACK_FUNCS(super_chunk_root_level, struct btrfs_super_block,
3119                          chunk_root_level, 8);
3120 BTRFS_SETGET_STACK_FUNCS(super_log_root, struct btrfs_super_block,
3121                          log_root, 64);
3122 BTRFS_SETGET_STACK_FUNCS(super_log_root_transid, struct btrfs_super_block,
3123                          log_root_transid, 64);
3124 BTRFS_SETGET_STACK_FUNCS(super_log_root_level, struct btrfs_super_block,
3125                          log_root_level, 8);
3126 BTRFS_SETGET_STACK_FUNCS(super_total_bytes, struct btrfs_super_block,
3127                          total_bytes, 64);
3128 BTRFS_SETGET_STACK_FUNCS(super_bytes_used, struct btrfs_super_block,
3129                          bytes_used, 64);
3130 BTRFS_SETGET_STACK_FUNCS(super_sectorsize, struct btrfs_super_block,
3131                          sectorsize, 32);
3132 BTRFS_SETGET_STACK_FUNCS(super_nodesize, struct btrfs_super_block,
3133                          nodesize, 32);
3134 BTRFS_SETGET_STACK_FUNCS(super_stripesize, struct btrfs_super_block,
3135                          stripesize, 32);
3136 BTRFS_SETGET_STACK_FUNCS(super_root_dir, struct btrfs_super_block,
3137                          root_dir_objectid, 64);
3138 BTRFS_SETGET_STACK_FUNCS(super_num_devices, struct btrfs_super_block,
3139                          num_devices, 64);
3140 BTRFS_SETGET_STACK_FUNCS(super_compat_flags, struct btrfs_super_block,
3141                          compat_flags, 64);
3142 BTRFS_SETGET_STACK_FUNCS(super_compat_ro_flags, struct btrfs_super_block,
3143                          compat_ro_flags, 64);
3144 BTRFS_SETGET_STACK_FUNCS(super_incompat_flags, struct btrfs_super_block,
3145                          incompat_flags, 64);
3146 BTRFS_SETGET_STACK_FUNCS(super_csum_type, struct btrfs_super_block,
3147                          csum_type, 16);
3148 BTRFS_SETGET_STACK_FUNCS(super_cache_generation, struct btrfs_super_block,
3149                          cache_generation, 64);
3150 BTRFS_SETGET_STACK_FUNCS(super_magic, struct btrfs_super_block, magic, 64);
3151 BTRFS_SETGET_STACK_FUNCS(super_uuid_tree_generation, struct btrfs_super_block,
3152                          uuid_tree_generation, 64);
3153
3154 static inline int btrfs_super_csum_size(struct btrfs_super_block *s)
3155 {
3156         u16 t = btrfs_super_csum_type(s);
3157         /*
3158          * csum type is validated at mount time
3159          */
3160         return btrfs_csum_sizes[t];
3161 }
3162
3163 static inline unsigned long btrfs_leaf_data(struct extent_buffer *l)
3164 {
3165         return offsetof(struct btrfs_leaf, items);
3166 }
3167
3168 /* struct btrfs_file_extent_item */
3169 BTRFS_SETGET_FUNCS(file_extent_type, struct btrfs_file_extent_item, type, 8);
3170 BTRFS_SETGET_STACK_FUNCS(stack_file_extent_disk_bytenr,
3171                          struct btrfs_file_extent_item, disk_bytenr, 64);
3172 BTRFS_SETGET_STACK_FUNCS(stack_file_extent_offset,
3173                          struct btrfs_file_extent_item, offset, 64);
3174 BTRFS_SETGET_STACK_FUNCS(stack_file_extent_generation,
3175                          struct btrfs_file_extent_item, generation, 64);
3176 BTRFS_SETGET_STACK_FUNCS(stack_file_extent_num_bytes,
3177                          struct btrfs_file_extent_item, num_bytes, 64);
3178 BTRFS_SETGET_STACK_FUNCS(stack_file_extent_disk_num_bytes,
3179                          struct btrfs_file_extent_item, disk_num_bytes, 64);
3180 BTRFS_SETGET_STACK_FUNCS(stack_file_extent_compression,
3181                          struct btrfs_file_extent_item, compression, 8);
3182
3183 static inline unsigned long
3184 btrfs_file_extent_inline_start(struct btrfs_file_extent_item *e)
3185 {
3186         return (unsigned long)e + BTRFS_FILE_EXTENT_INLINE_DATA_START;
3187 }
3188
3189 static inline u32 btrfs_file_extent_calc_inline_size(u32 datasize)
3190 {
3191         return BTRFS_FILE_EXTENT_INLINE_DATA_START + datasize;
3192 }
3193
3194 BTRFS_SETGET_FUNCS(file_extent_disk_bytenr, struct btrfs_file_extent_item,
3195                    disk_bytenr, 64);
3196 BTRFS_SETGET_FUNCS(file_extent_generation, struct btrfs_file_extent_item,
3197                    generation, 64);
3198 BTRFS_SETGET_FUNCS(file_extent_disk_num_bytes, struct btrfs_file_extent_item,
3199                    disk_num_bytes, 64);
3200 BTRFS_SETGET_FUNCS(file_extent_offset, struct btrfs_file_extent_item,
3201                   offset, 64);
3202 BTRFS_SETGET_FUNCS(file_extent_num_bytes, struct btrfs_file_extent_item,
3203                    num_bytes, 64);
3204 BTRFS_SETGET_FUNCS(file_extent_ram_bytes, struct btrfs_file_extent_item,
3205                    ram_bytes, 64);
3206 BTRFS_SETGET_FUNCS(file_extent_compression, struct btrfs_file_extent_item,
3207                    compression, 8);
3208 BTRFS_SETGET_FUNCS(file_extent_encryption, struct btrfs_file_extent_item,
3209                    encryption, 8);
3210 BTRFS_SETGET_FUNCS(file_extent_other_encoding, struct btrfs_file_extent_item,
3211                    other_encoding, 16);
3212
3213 /*
3214  * this returns the number of bytes used by the item on disk, minus the
3215  * size of any extent headers.  If a file is compressed on disk, this is
3216  * the compressed size
3217  */
3218 static inline u32 btrfs_file_extent_inline_item_len(struct extent_buffer *eb,
3219                                                     struct btrfs_item *e)
3220 {
3221         return btrfs_item_size(eb, e) - BTRFS_FILE_EXTENT_INLINE_DATA_START;
3222 }
3223
3224 /* this returns the number of file bytes represented by the inline item.
3225  * If an item is compressed, this is the uncompressed size
3226  */
3227 static inline u32 btrfs_file_extent_inline_len(struct extent_buffer *eb,
3228                                                int slot,
3229                                                struct btrfs_file_extent_item *fi)
3230 {
3231         struct btrfs_map_token token;
3232
3233         btrfs_init_map_token(&token);
3234         /*
3235          * return the space used on disk if this item isn't
3236          * compressed or encoded
3237          */
3238         if (btrfs_token_file_extent_compression(eb, fi, &token) == 0 &&
3239             btrfs_token_file_extent_encryption(eb, fi, &token) == 0 &&
3240             btrfs_token_file_extent_other_encoding(eb, fi, &token) == 0) {
3241                 return btrfs_file_extent_inline_item_len(eb,
3242                                                          btrfs_item_nr(slot));
3243         }
3244
3245         /* otherwise use the ram bytes field */
3246         return btrfs_token_file_extent_ram_bytes(eb, fi, &token);
3247 }
3248
3249
3250 /* btrfs_dev_stats_item */
3251 static inline u64 btrfs_dev_stats_value(struct extent_buffer *eb,
3252                                         struct btrfs_dev_stats_item *ptr,
3253                                         int index)
3254 {
3255         u64 val;
3256
3257         read_extent_buffer(eb, &val,
3258                            offsetof(struct btrfs_dev_stats_item, values) +
3259                             ((unsigned long)ptr) + (index * sizeof(u64)),
3260                            sizeof(val));
3261         return val;
3262 }
3263
3264 static inline void btrfs_set_dev_stats_value(struct extent_buffer *eb,
3265                                              struct btrfs_dev_stats_item *ptr,
3266                                              int index, u64 val)
3267 {
3268         write_extent_buffer(eb, &val,
3269                             offsetof(struct btrfs_dev_stats_item, values) +
3270                              ((unsigned long)ptr) + (index * sizeof(u64)),
3271                             sizeof(val));
3272 }
3273
3274 /* btrfs_qgroup_status_item */
3275 BTRFS_SETGET_FUNCS(qgroup_status_generation, struct btrfs_qgroup_status_item,
3276                    generation, 64);
3277 BTRFS_SETGET_FUNCS(qgroup_status_version, struct btrfs_qgroup_status_item,
3278                    version, 64);
3279 BTRFS_SETGET_FUNCS(qgroup_status_flags, struct btrfs_qgroup_status_item,
3280                    flags, 64);
3281 BTRFS_SETGET_FUNCS(qgroup_status_rescan, struct btrfs_qgroup_status_item,
3282                    rescan, 64);
3283
3284 /* btrfs_qgroup_info_item */
3285 BTRFS_SETGET_FUNCS(qgroup_info_generation, struct btrfs_qgroup_info_item,
3286                    generation, 64);
3287 BTRFS_SETGET_FUNCS(qgroup_info_rfer, struct btrfs_qgroup_info_item, rfer, 64);
3288 BTRFS_SETGET_FUNCS(qgroup_info_rfer_cmpr, struct btrfs_qgroup_info_item,
3289                    rfer_cmpr, 64);
3290 BTRFS_SETGET_FUNCS(qgroup_info_excl, struct btrfs_qgroup_info_item, excl, 64);
3291 BTRFS_SETGET_FUNCS(qgroup_info_excl_cmpr, struct btrfs_qgroup_info_item,
3292                    excl_cmpr, 64);
3293
3294 BTRFS_SETGET_STACK_FUNCS(stack_qgroup_info_generation,
3295                          struct btrfs_qgroup_info_item, generation, 64);
3296 BTRFS_SETGET_STACK_FUNCS(stack_qgroup_info_rfer, struct btrfs_qgroup_info_item,
3297                          rfer, 64);
3298 BTRFS_SETGET_STACK_FUNCS(stack_qgroup_info_rfer_cmpr,
3299                          struct btrfs_qgroup_info_item, rfer_cmpr, 64);
3300 BTRFS_SETGET_STACK_FUNCS(stack_qgroup_info_excl, struct btrfs_qgroup_info_item,
3301                          excl, 64);
3302 BTRFS_SETGET_STACK_FUNCS(stack_qgroup_info_excl_cmpr,
3303                          struct btrfs_qgroup_info_item, excl_cmpr, 64);
3304
3305 /* btrfs_qgroup_limit_item */
3306 BTRFS_SETGET_FUNCS(qgroup_limit_flags, struct btrfs_qgroup_limit_item,
3307                    flags, 64);
3308 BTRFS_SETGET_FUNCS(qgroup_limit_max_rfer, struct btrfs_qgroup_limit_item,
3309                    max_rfer, 64);
3310 BTRFS_SETGET_FUNCS(qgroup_limit_max_excl, struct btrfs_qgroup_limit_item,
3311                    max_excl, 64);
3312 BTRFS_SETGET_FUNCS(qgroup_limit_rsv_rfer, struct btrfs_qgroup_limit_item,
3313                    rsv_rfer, 64);
3314 BTRFS_SETGET_FUNCS(qgroup_limit_rsv_excl, struct btrfs_qgroup_limit_item,
3315                    rsv_excl, 64);
3316
3317 /* btrfs_dev_replace_item */
3318 BTRFS_SETGET_FUNCS(dev_replace_src_devid,
3319                    struct btrfs_dev_replace_item, src_devid, 64);
3320 BTRFS_SETGET_FUNCS(dev_replace_cont_reading_from_srcdev_mode,
3321                    struct btrfs_dev_replace_item, cont_reading_from_srcdev_mode,
3322                    64);
3323 BTRFS_SETGET_FUNCS(dev_replace_replace_state, struct btrfs_dev_replace_item,
3324                    replace_state, 64);
3325 BTRFS_SETGET_FUNCS(dev_replace_time_started, struct btrfs_dev_replace_item,
3326                    time_started, 64);
3327 BTRFS_SETGET_FUNCS(dev_replace_time_stopped, struct btrfs_dev_replace_item,
3328                    time_stopped, 64);
3329 BTRFS_SETGET_FUNCS(dev_replace_num_write_errors, struct btrfs_dev_replace_item,
3330                    num_write_errors, 64);
3331 BTRFS_SETGET_FUNCS(dev_replace_num_uncorrectable_read_errors,
3332                    struct btrfs_dev_replace_item, num_uncorrectable_read_errors,
3333                    64);
3334 BTRFS_SETGET_FUNCS(dev_replace_cursor_left, struct btrfs_dev_replace_item,
3335                    cursor_left, 64);
3336 BTRFS_SETGET_FUNCS(dev_replace_cursor_right, struct btrfs_dev_replace_item,
3337                    cursor_right, 64);
3338
3339 BTRFS_SETGET_STACK_FUNCS(stack_dev_replace_src_devid,
3340                          struct btrfs_dev_replace_item, src_devid, 64);
3341 BTRFS_SETGET_STACK_FUNCS(stack_dev_replace_cont_reading_from_srcdev_mode,
3342                          struct btrfs_dev_replace_item,
3343                          cont_reading_from_srcdev_mode, 64);
3344 BTRFS_SETGET_STACK_FUNCS(stack_dev_replace_replace_state,
3345                          struct btrfs_dev_replace_item, replace_state, 64);
3346 BTRFS_SETGET_STACK_FUNCS(stack_dev_replace_time_started,
3347                          struct btrfs_dev_replace_item, time_started, 64);
3348 BTRFS_SETGET_STACK_FUNCS(stack_dev_replace_time_stopped,
3349                          struct btrfs_dev_replace_item, time_stopped, 64);
3350 BTRFS_SETGET_STACK_FUNCS(stack_dev_replace_num_write_errors,
3351                          struct btrfs_dev_replace_item, num_write_errors, 64);
3352 BTRFS_SETGET_STACK_FUNCS(stack_dev_replace_num_uncorrectable_read_errors,
3353                          struct btrfs_dev_replace_item,
3354                          num_uncorrectable_read_errors, 64);
3355 BTRFS_SETGET_STACK_FUNCS(stack_dev_replace_cursor_left,
3356                          struct btrfs_dev_replace_item, cursor_left, 64);
3357 BTRFS_SETGET_STACK_FUNCS(stack_dev_replace_cursor_right,
3358                          struct btrfs_dev_replace_item, cursor_right, 64);
3359
3360 static inline struct btrfs_fs_info *btrfs_sb(struct super_block *sb)
3361 {
3362         return sb->s_fs_info;
3363 }
3364
3365 /* helper function to cast into the data area of the leaf. */
3366 #define btrfs_item_ptr(leaf, slot, type) \
3367         ((type *)(btrfs_leaf_data(leaf) + \
3368         btrfs_item_offset_nr(leaf, slot)))
3369
3370 #define btrfs_item_ptr_offset(leaf, slot) \
3371         ((unsigned long)(btrfs_leaf_data(leaf) + \
3372         btrfs_item_offset_nr(leaf, slot)))
3373
3374 static inline bool btrfs_mixed_space_info(struct btrfs_space_info *space_info)
3375 {
3376         return ((space_info->flags & BTRFS_BLOCK_GROUP_METADATA) &&
3377                 (space_info->flags & BTRFS_BLOCK_GROUP_DATA));
3378 }
3379
3380 static inline gfp_t btrfs_alloc_write_mask(struct address_space *mapping)
3381 {
3382         return mapping_gfp_mask(mapping) & ~__GFP_FS;
3383 }
3384
3385 /* extent-tree.c */
3386
3387 u64 btrfs_csum_bytes_to_leaves(struct btrfs_root *root, u64 csum_bytes);
3388
3389 static inline u64 btrfs_calc_trans_metadata_size(struct btrfs_root *root,
3390                                                  unsigned num_items)
3391 {
3392         return (root->nodesize + root->nodesize * (BTRFS_MAX_LEVEL - 1)) *
3393                 2 * num_items;
3394 }
3395
3396 /*
3397  * Doing a truncate won't result in new nodes or leaves, just what we need for
3398  * COW.
3399  */
3400 static inline u64 btrfs_calc_trunc_metadata_size(struct btrfs_root *root,
3401                                                  unsigned num_items)
3402 {
3403         return root->nodesize * BTRFS_MAX_LEVEL * num_items;
3404 }
3405
3406 int btrfs_should_throttle_delayed_refs(struct btrfs_trans_handle *trans,
3407                                        struct btrfs_root *root);
3408 int btrfs_check_space_for_delayed_refs(struct btrfs_trans_handle *trans,
3409                                        struct btrfs_root *root);
3410 void btrfs_put_block_group(struct btrfs_block_group_cache *cache);
3411 int btrfs_run_delayed_refs(struct btrfs_trans_handle *trans,
3412                            struct btrfs_root *root, unsigned long count);
3413 int btrfs_async_run_delayed_refs(struct btrfs_root *root,
3414                                  unsigned long count, int wait);
3415 int btrfs_lookup_data_extent(struct btrfs_root *root, u64 start, u64 len);
3416 int btrfs_lookup_extent_info(struct btrfs_trans_handle *trans,
3417                              struct btrfs_root *root, u64 bytenr,
3418                              u64 offset, int metadata, u64 *refs, u64 *flags);
3419 int btrfs_pin_extent(struct btrfs_root *root,
3420                      u64 bytenr, u64 num, int reserved);
3421 int btrfs_pin_extent_for_log_replay(struct btrfs_root *root,
3422                                     u64 bytenr, u64 num_bytes);
3423 int btrfs_exclude_logged_extents(struct btrfs_root *root,
3424                                  struct extent_buffer *eb);
3425 int btrfs_cross_ref_exist(struct btrfs_trans_handle *trans,
3426                           struct btrfs_root *root,
3427                           u64 objectid, u64 offset, u64 bytenr);
3428 struct btrfs_block_group_cache *btrfs_lookup_block_group(
3429                                                  struct btrfs_fs_info *info,
3430                                                  u64 bytenr);
3431 void btrfs_put_block_group(struct btrfs_block_group_cache *cache);
3432 int get_block_group_index(struct btrfs_block_group_cache *cache);
3433 struct extent_buffer *btrfs_alloc_tree_block(struct btrfs_trans_handle *trans,
3434                                         struct btrfs_root *root, u64 parent,
3435                                         u64 root_objectid,
3436                                         struct btrfs_disk_key *key, int level,
3437                                         u64 hint, u64 empty_size);
3438 void btrfs_free_tree_block(struct btrfs_trans_handle *trans,
3439                            struct btrfs_root *root,
3440                            struct extent_buffer *buf,
3441                            u64 parent, int last_ref);
3442 int btrfs_alloc_reserved_file_extent(struct btrfs_trans_handle *trans,
3443                                      struct btrfs_root *root,
3444                                      u64 root_objectid, u64 owner,
3445                                      u64 offset, struct btrfs_key *ins);
3446 int btrfs_alloc_logged_file_extent(struct btrfs_trans_handle *trans,
3447                                    struct btrfs_root *root,
3448                                    u64 root_objectid, u64 owner, u64 offset,
3449                                    struct btrfs_key *ins);
3450 int btrfs_reserve_extent(struct btrfs_root *root, u64 num_bytes,
3451                          u64 min_alloc_size, u64 empty_size, u64 hint_byte,
3452                          struct btrfs_key *ins, int is_data, int delalloc);
3453 int btrfs_inc_ref(struct btrfs_trans_handle *trans, struct btrfs_root *root,
3454                   struct extent_buffer *buf, int full_backref);
3455 int btrfs_dec_ref(struct btrfs_trans_handle *trans, struct btrfs_root *root,
3456                   struct extent_buffer *buf, int full_backref);
3457 int btrfs_set_disk_extent_flags(struct btrfs_trans_handle *trans,
3458                                 struct btrfs_root *root,
3459                                 u64 bytenr, u64 num_bytes, u64 flags,
3460                                 int level, int is_data);
3461 int btrfs_free_extent(struct btrfs_trans_handle *trans,
3462                       struct btrfs_root *root,
3463                       u64 bytenr, u64 num_bytes, u64 parent, u64 root_objectid,
3464                       u64 owner, u64 offset, int no_quota);
3465
3466 int btrfs_free_reserved_extent(struct btrfs_root *root, u64 start, u64 len,
3467                                int delalloc);
3468 int btrfs_free_and_pin_reserved_extent(struct btrfs_root *root,
3469                                        u64 start, u64 len);
3470 void btrfs_prepare_extent_commit(struct btrfs_trans_handle *trans,
3471                                  struct btrfs_root *root);
3472 int btrfs_finish_extent_commit(struct btrfs_trans_handle *trans,
3473                                struct btrfs_root *root);
3474 int btrfs_inc_extent_ref(struct btrfs_trans_handle *trans,
3475                          struct btrfs_root *root,
3476                          u64 bytenr, u64 num_bytes, u64 parent,
3477                          u64 root_objectid, u64 owner, u64 offset, int no_quota);
3478
3479 int btrfs_start_dirty_block_groups(struct btrfs_trans_handle *trans,
3480                                    struct btrfs_root *root);
3481 int btrfs_write_dirty_block_groups(struct btrfs_trans_handle *trans,
3482                                     struct btrfs_root *root);
3483 int btrfs_setup_space_cache(struct btrfs_trans_handle *trans,
3484                             struct btrfs_root *root);
3485 int btrfs_extent_readonly(struct btrfs_root *root, u64 bytenr);
3486 int btrfs_free_block_groups(struct btrfs_fs_info *info);
3487 int btrfs_read_block_groups(struct btrfs_root *root);
3488 int btrfs_can_relocate(struct btrfs_root *root, u64 bytenr);
3489 int btrfs_make_block_group(struct btrfs_trans_handle *trans,
3490                            struct btrfs_root *root, u64 bytes_used,
3491                            u64 type, u64 chunk_objectid, u64 chunk_offset,
3492                            u64 size);
3493 int btrfs_remove_block_group(struct btrfs_trans_handle *trans,
3494                              struct btrfs_root *root, u64 group_start,
3495                              struct extent_map *em);
3496 void btrfs_delete_unused_bgs(struct btrfs_fs_info *fs_info);
3497 void btrfs_get_block_group_trimming(struct btrfs_block_group_cache *cache);
3498 void btrfs_put_block_group_trimming(struct btrfs_block_group_cache *cache);
3499 void btrfs_create_pending_block_groups(struct btrfs_trans_handle *trans,
3500                                        struct btrfs_root *root);
3501 u64 btrfs_get_alloc_profile(struct btrfs_root *root, int data);
3502 void btrfs_clear_space_info_full(struct btrfs_fs_info *info);
3503
3504 enum btrfs_reserve_flush_enum {
3505         /* If we are in the transaction, we can't flush anything.*/
3506         BTRFS_RESERVE_NO_FLUSH,
3507         /*
3508          * Flushing delalloc may cause deadlock somewhere, in this
3509          * case, use FLUSH LIMIT
3510          */
3511         BTRFS_RESERVE_FLUSH_LIMIT,
3512         BTRFS_RESERVE_FLUSH_ALL,
3513 };
3514
3515 int btrfs_check_data_free_space(struct inode *inode, u64 bytes, u64 write_bytes);
3516 void btrfs_free_reserved_data_space(struct inode *inode, u64 bytes);
3517 void btrfs_trans_release_metadata(struct btrfs_trans_handle *trans,
3518                                 struct btrfs_root *root);
3519 void btrfs_trans_release_chunk_metadata(struct btrfs_trans_handle *trans);
3520 int btrfs_orphan_reserve_metadata(struct btrfs_trans_handle *trans,
3521                                   struct inode *inode);
3522 void btrfs_orphan_release_metadata(struct inode *inode);
3523 int btrfs_subvolume_reserve_metadata(struct btrfs_root *root,
3524                                      struct btrfs_block_rsv *rsv,
3525                                      int nitems,
3526                                      u64 *qgroup_reserved, bool use_global_rsv);
3527 void btrfs_subvolume_release_metadata(struct btrfs_root *root,
3528                                       struct btrfs_block_rsv *rsv,
3529                                       u64 qgroup_reserved);
3530 int btrfs_delalloc_reserve_metadata(struct inode *inode, u64 num_bytes);
3531 void btrfs_delalloc_release_metadata(struct inode *inode, u64 num_bytes);
3532 int btrfs_delalloc_reserve_space(struct inode *inode, u64 num_bytes);
3533 void btrfs_delalloc_release_space(struct inode *inode, u64 num_bytes);
3534 void btrfs_init_block_rsv(struct btrfs_block_rsv *rsv, unsigned short type);
3535 struct btrfs_block_rsv *btrfs_alloc_block_rsv(struct btrfs_root *root,
3536                                               unsigned short type);
3537 void btrfs_free_block_rsv(struct btrfs_root *root,
3538                           struct btrfs_block_rsv *rsv);
3539 void __btrfs_free_block_rsv(struct btrfs_block_rsv *rsv);
3540 int btrfs_block_rsv_add(struct btrfs_root *root,
3541                         struct btrfs_block_rsv *block_rsv, u64 num_bytes,
3542                         enum btrfs_reserve_flush_enum flush);
3543 int btrfs_block_rsv_check(struct btrfs_root *root,
3544                           struct btrfs_block_rsv *block_rsv, int min_factor);
3545 int btrfs_block_rsv_refill(struct btrfs_root *root,
3546                            struct btrfs_block_rsv *block_rsv, u64 min_reserved,
3547                            enum btrfs_reserve_flush_enum flush);
3548 int btrfs_block_rsv_migrate(struct btrfs_block_rsv *src_rsv,
3549                             struct btrfs_block_rsv *dst_rsv,
3550                             u64 num_bytes);
3551 int btrfs_cond_migrate_bytes(struct btrfs_fs_info *fs_info,
3552                              struct btrfs_block_rsv *dest, u64 num_bytes,
3553                              int min_factor);
3554 void btrfs_block_rsv_release(struct btrfs_root *root,
3555                              struct btrfs_block_rsv *block_rsv,
3556                              u64 num_bytes);
3557 int btrfs_inc_block_group_ro(struct btrfs_root *root,
3558                              struct btrfs_block_group_cache *cache);
3559 void btrfs_dec_block_group_ro(struct btrfs_root *root,
3560                               struct btrfs_block_group_cache *cache);
3561 void btrfs_put_block_group_cache(struct btrfs_fs_info *info);
3562 u64 btrfs_account_ro_block_groups_free_space(struct btrfs_space_info *sinfo);
3563 int btrfs_error_unpin_extent_range(struct btrfs_root *root,
3564                                    u64 start, u64 end);
3565 int btrfs_discard_extent(struct btrfs_root *root, u64 bytenr,
3566                          u64 num_bytes, u64 *actual_bytes);
3567 int btrfs_force_chunk_alloc(struct btrfs_trans_handle *trans,
3568                             struct btrfs_root *root, u64 type);
3569 int btrfs_trim_fs(struct btrfs_root *root, struct fstrim_range *range);
3570
3571 int btrfs_init_space_info(struct btrfs_fs_info *fs_info);
3572 int btrfs_delayed_refs_qgroup_accounting(struct btrfs_trans_handle *trans,
3573                                          struct btrfs_fs_info *fs_info);
3574 int __get_raid_index(u64 flags);
3575 int btrfs_start_write_no_snapshoting(struct btrfs_root *root);
3576 void btrfs_end_write_no_snapshoting(struct btrfs_root *root);
3577 void check_system_chunk(struct btrfs_trans_handle *trans,
3578                         struct btrfs_root *root,
3579                         const u64 type);
3580 u64 add_new_free_space(struct btrfs_block_group_cache *block_group,
3581                        struct btrfs_fs_info *info, u64 start, u64 end);
3582
3583 /* ctree.c */
3584 int btrfs_bin_search(struct extent_buffer *eb, struct btrfs_key *key,
3585                      int level, int *slot);
3586 int btrfs_comp_cpu_keys(struct btrfs_key *k1, struct btrfs_key *k2);
3587 int btrfs_previous_item(struct btrfs_root *root,
3588                         struct btrfs_path *path, u64 min_objectid,
3589                         int type);
3590 int btrfs_previous_extent_item(struct btrfs_root *root,
3591                         struct btrfs_path *path, u64 min_objectid);
3592 void btrfs_set_item_key_safe(struct btrfs_fs_info *fs_info,
3593                              struct btrfs_path *path,
3594                              struct btrfs_key *new_key);
3595 struct extent_buffer *btrfs_root_node(struct btrfs_root *root);
3596 struct extent_buffer *btrfs_lock_root_node(struct btrfs_root *root);
3597 int btrfs_find_next_key(struct btrfs_root *root, struct btrfs_path *path,
3598                         struct btrfs_key *key, int lowest_level,
3599                         u64 min_trans);
3600 int btrfs_search_forward(struct btrfs_root *root, struct btrfs_key *min_key,
3601                          struct btrfs_path *path,
3602                          u64 min_trans);
3603 enum btrfs_compare_tree_result {
3604         BTRFS_COMPARE_TREE_NEW,
3605         BTRFS_COMPARE_TREE_DELETED,
3606         BTRFS_COMPARE_TREE_CHANGED,
3607         BTRFS_COMPARE_TREE_SAME,
3608 };
3609 typedef int (*btrfs_changed_cb_t)(struct btrfs_root *left_root,
3610                                   struct btrfs_root *right_root,
3611                                   struct btrfs_path *left_path,
3612                                   struct btrfs_path *right_path,
3613                                   struct btrfs_key *key,
3614                                   enum btrfs_compare_tree_result result,
3615                                   void *ctx);
3616 int btrfs_compare_trees(struct btrfs_root *left_root,
3617                         struct btrfs_root *right_root,
3618                         btrfs_changed_cb_t cb, void *ctx);
3619 int btrfs_cow_block(struct btrfs_trans_handle *trans,
3620                     struct btrfs_root *root, struct extent_buffer *buf,
3621                     struct extent_buffer *parent, int parent_slot,
3622                     struct extent_buffer **cow_ret);
3623 int btrfs_copy_root(struct btrfs_trans_handle *trans,
3624                       struct btrfs_root *root,
3625                       struct extent_buffer *buf,
3626                       struct extent_buffer **cow_ret, u64 new_root_objectid);
3627 int btrfs_block_can_be_shared(struct btrfs_root *root,
3628                               struct extent_buffer *buf);
3629 void btrfs_extend_item(struct btrfs_root *root, struct btrfs_path *path,
3630                        u32 data_size);
3631 void btrfs_truncate_item(struct btrfs_root *root, struct btrfs_path *path,
3632                          u32 new_size, int from_end);
3633 int btrfs_split_item(struct btrfs_trans_handle *trans,
3634                      struct btrfs_root *root,
3635                      struct btrfs_path *path,
3636                      struct btrfs_key *new_key,
3637                      unsigned long split_offset);
3638 int btrfs_duplicate_item(struct btrfs_trans_handle *trans,
3639                          struct btrfs_root *root,
3640                          struct btrfs_path *path,
3641                          struct btrfs_key *new_key);
3642 int btrfs_find_item(struct btrfs_root *fs_root, struct btrfs_path *path,
3643                 u64 inum, u64 ioff, u8 key_type, struct btrfs_key *found_key);
3644 int btrfs_search_slot(struct btrfs_trans_handle *trans, struct btrfs_root
3645                       *root, struct btrfs_key *key, struct btrfs_path *p, int
3646                       ins_len, int cow);
3647 int btrfs_search_old_slot(struct btrfs_root *root, struct btrfs_key *key,
3648                           struct btrfs_path *p, u64 time_seq);
3649 int btrfs_search_slot_for_read(struct btrfs_root *root,
3650                                struct btrfs_key *key, struct btrfs_path *p,
3651                                int find_higher, int return_any);
3652 int btrfs_realloc_node(struct btrfs_trans_handle *trans,
3653                        struct btrfs_root *root, struct extent_buffer *parent,
3654                        int start_slot, u64 *last_ret,
3655                        struct btrfs_key *progress);
3656 void btrfs_release_path(struct btrfs_path *p);
3657 struct btrfs_path *btrfs_alloc_path(void);
3658 void btrfs_free_path(struct btrfs_path *p);
3659 void btrfs_set_path_blocking(struct btrfs_path *p);
3660 void btrfs_clear_path_blocking(struct btrfs_path *p,
3661                                struct extent_buffer *held, int held_rw);
3662 void btrfs_unlock_up_safe(struct btrfs_path *p, int level);
3663
3664 int btrfs_del_items(struct btrfs_trans_handle *trans, struct btrfs_root *root,
3665                    struct btrfs_path *path, int slot, int nr);
3666 static inline int btrfs_del_item(struct btrfs_trans_handle *trans,
3667                                  struct btrfs_root *root,
3668                                  struct btrfs_path *path)
3669 {
3670         return btrfs_del_items(trans, root, path, path->slots[0], 1);
3671 }
3672
3673 void setup_items_for_insert(struct btrfs_root *root, struct btrfs_path *path,
3674                             struct btrfs_key *cpu_key, u32 *data_size,
3675                             u32 total_data, u32 total_size, int nr);
3676 int btrfs_insert_item(struct btrfs_trans_handle *trans, struct btrfs_root
3677                       *root, struct btrfs_key *key, void *data, u32 data_size);
3678 int btrfs_insert_empty_items(struct btrfs_trans_handle *trans,
3679                              struct btrfs_root *root,
3680                              struct btrfs_path *path,
3681                              struct btrfs_key *cpu_key, u32 *data_size, int nr);
3682
3683 static inline int btrfs_insert_empty_item(struct btrfs_trans_handle *trans,
3684                                           struct btrfs_root *root,
3685                                           struct btrfs_path *path,
3686                                           struct btrfs_key *key,
3687                                           u32 data_size)
3688 {
3689         return btrfs_insert_empty_items(trans, root, path, key, &data_size, 1);
3690 }
3691
3692 int btrfs_next_leaf(struct btrfs_root *root, struct btrfs_path *path);
3693 int btrfs_prev_leaf(struct btrfs_root *root, struct btrfs_path *path);
3694 int btrfs_next_old_leaf(struct btrfs_root *root, struct btrfs_path *path,
3695                         u64 time_seq);
3696 static inline int btrfs_next_old_item(struct btrfs_root *root,
3697                                       struct btrfs_path *p, u64 time_seq)
3698 {
3699         ++p->slots[0];
3700         if (p->slots[0] >= btrfs_header_nritems(p->nodes[0]))
3701                 return btrfs_next_old_leaf(root, p, time_seq);
3702         return 0;
3703 }
3704 static inline int btrfs_next_item(struct btrfs_root *root, struct btrfs_path *p)
3705 {
3706         return btrfs_next_old_item(root, p, 0);
3707 }
3708 int btrfs_leaf_free_space(struct btrfs_root *root, struct extent_buffer *leaf);
3709 int __must_check btrfs_drop_snapshot(struct btrfs_root *root,
3710                                      struct btrfs_block_rsv *block_rsv,
3711                                      int update_ref, int for_reloc);
3712 int btrfs_drop_subtree(struct btrfs_trans_handle *trans,
3713                         struct btrfs_root *root,
3714                         struct extent_buffer *node,
3715                         struct extent_buffer *parent);
3716 static inline int btrfs_fs_closing(struct btrfs_fs_info *fs_info)
3717 {
3718         /*
3719          * Get synced with close_ctree()
3720          */
3721         smp_mb();
3722         return fs_info->closing;
3723 }
3724
3725 /*
3726  * If we remount the fs to be R/O or umount the fs, the cleaner needn't do
3727  * anything except sleeping. This function is used to check the status of
3728  * the fs.
3729  */
3730 static inline int btrfs_need_cleaner_sleep(struct btrfs_root *root)
3731 {
3732         return (root->fs_info->sb->s_flags & MS_RDONLY ||
3733                 btrfs_fs_closing(root->fs_info));
3734 }
3735
3736 static inline void free_fs_info(struct btrfs_fs_info *fs_info)
3737 {
3738         kfree(fs_info->balance_ctl);
3739         kfree(fs_info->delayed_root);
3740         kfree(fs_info->extent_root);
3741         kfree(fs_info->tree_root);
3742         kfree(fs_info->chunk_root);
3743         kfree(fs_info->dev_root);
3744         kfree(fs_info->csum_root);
3745         kfree(fs_info->quota_root);
3746         kfree(fs_info->uuid_root);
3747         kfree(fs_info->super_copy);
3748         kfree(fs_info->super_for_commit);
3749         security_free_mnt_opts(&fs_info->security_opts);
3750         kfree(fs_info);
3751 }
3752
3753 /* tree mod log functions from ctree.c */
3754 u64 btrfs_get_tree_mod_seq(struct btrfs_fs_info *fs_info,
3755                            struct seq_list *elem);
3756 void btrfs_put_tree_mod_seq(struct btrfs_fs_info *fs_info,
3757                             struct seq_list *elem);
3758 int btrfs_old_root_level(struct btrfs_root *root, u64 time_seq);
3759
3760 /* root-item.c */
3761 int btrfs_find_root_ref(struct btrfs_root *tree_root,
3762                         struct btrfs_path *path,
3763                         u64 root_id, u64 ref_id);
3764 int btrfs_add_root_ref(struct btrfs_trans_handle *trans,
3765                        struct btrfs_root *tree_root,
3766                        u64 root_id, u64 ref_id, u64 dirid, u64 sequence,
3767                        const char *name, int name_len);
3768 int btrfs_del_root_ref(struct btrfs_trans_handle *trans,
3769                        struct btrfs_root *tree_root,
3770                        u64 root_id, u64 ref_id, u64 dirid, u64 *sequence,
3771                        const char *name, int name_len);
3772 int btrfs_del_root(struct btrfs_trans_handle *trans, struct btrfs_root *root,
3773                    struct btrfs_key *key);
3774 int btrfs_insert_root(struct btrfs_trans_handle *trans, struct btrfs_root
3775                       *root, struct btrfs_key *key, struct btrfs_root_item
3776                       *item);
3777 int __must_check btrfs_update_root(struct btrfs_trans_handle *trans,
3778                                    struct btrfs_root *root,
3779                                    struct btrfs_key *key,
3780                                    struct btrfs_root_item *item);
3781 int btrfs_find_root(struct btrfs_root *root, struct btrfs_key *search_key,
3782                     struct btrfs_path *path, struct btrfs_root_item *root_item,
3783                     struct btrfs_key *root_key);
3784 int btrfs_find_orphan_roots(struct btrfs_root *tree_root);
3785 void btrfs_set_root_node(struct btrfs_root_item *item,
3786                          struct extent_buffer *node);
3787 void btrfs_check_and_init_root_item(struct btrfs_root_item *item);
3788 void btrfs_update_root_times(struct btrfs_trans_handle *trans,
3789                              struct btrfs_root *root);
3790
3791 /* uuid-tree.c */
3792 int btrfs_uuid_tree_add(struct btrfs_trans_handle *trans,
3793                         struct btrfs_root *uuid_root, u8 *uuid, u8 type,
3794                         u64 subid);
3795 int btrfs_uuid_tree_rem(struct btrfs_trans_handle *trans,
3796                         struct btrfs_root *uuid_root, u8 *uuid, u8 type,
3797                         u64 subid);
3798 int btrfs_uuid_tree_iterate(struct btrfs_fs_info *fs_info,
3799                             int (*check_func)(struct btrfs_fs_info *, u8 *, u8,
3800                                               u64));
3801
3802 /* dir-item.c */
3803 int btrfs_check_dir_item_collision(struct btrfs_root *root, u64 dir,
3804                           const char *name, int name_len);
3805 int btrfs_insert_dir_item(struct btrfs_trans_handle *trans,
3806                           struct btrfs_root *root, const char *name,
3807                           int name_len, struct inode *dir,
3808                           struct btrfs_key *location, u8 type, u64 index);
3809 struct btrfs_dir_item *btrfs_lookup_dir_item(struct btrfs_trans_handle *trans,
3810                                              struct btrfs_root *root,
3811                                              struct btrfs_path *path, u64 dir,
3812                                              const char *name, int name_len,
3813                                              int mod);
3814 struct btrfs_dir_item *
3815 btrfs_lookup_dir_index_item(struct btrfs_trans_handle *trans,
3816                             struct btrfs_root *root,
3817                             struct btrfs_path *path, u64 dir,
3818                             u64 objectid, const char *name, int name_len,
3819                             int mod);
3820 struct btrfs_dir_item *
3821 btrfs_search_dir_index_item(struct btrfs_root *root,
3822                             struct btrfs_path *path, u64 dirid,
3823                             const char *name, int name_len);
3824 int btrfs_delete_one_dir_name(struct btrfs_trans_handle *trans,
3825                               struct btrfs_root *root,
3826                               struct btrfs_path *path,
3827                               struct btrfs_dir_item *di);
3828 int btrfs_insert_xattr_item(struct btrfs_trans_handle *trans,
3829                             struct btrfs_root *root,
3830                             struct btrfs_path *path, u64 objectid,
3831                             const char *name, u16 name_len,
3832                             const void *data, u16 data_len);
3833 struct btrfs_dir_item *btrfs_lookup_xattr(struct btrfs_trans_handle *trans,
3834                                           struct btrfs_root *root,
3835                                           struct btrfs_path *path, u64 dir,
3836                                           const char *name, u16 name_len,
3837                                           int mod);
3838 int verify_dir_item(struct btrfs_root *root,
3839                     struct extent_buffer *leaf,
3840                     struct btrfs_dir_item *dir_item);
3841 struct btrfs_dir_item *btrfs_match_dir_item_name(struct btrfs_root *root,
3842                                                  struct btrfs_path *path,
3843                                                  const char *name,
3844                                                  int name_len);
3845
3846 /* orphan.c */
3847 int btrfs_insert_orphan_item(struct btrfs_trans_handle *trans,
3848                              struct btrfs_root *root, u64 offset);
3849 int btrfs_del_orphan_item(struct btrfs_trans_handle *trans,
3850                           struct btrfs_root *root, u64 offset);
3851 int btrfs_find_orphan_item(struct btrfs_root *root, u64 offset);
3852
3853 /* inode-item.c */
3854 int btrfs_insert_inode_ref(struct btrfs_trans_handle *trans,
3855                            struct btrfs_root *root,
3856                            const char *name, int name_len,
3857                            u64 inode_objectid, u64 ref_objectid, u64 index);
3858 int btrfs_del_inode_ref(struct btrfs_trans_handle *trans,
3859                            struct btrfs_root *root,
3860                            const char *name, int name_len,
3861                            u64 inode_objectid, u64 ref_objectid, u64 *index);
3862 int btrfs_insert_empty_inode(struct btrfs_trans_handle *trans,
3863                              struct btrfs_root *root,
3864                              struct btrfs_path *path, u64 objectid);
3865 int btrfs_lookup_inode(struct btrfs_trans_handle *trans, struct btrfs_root
3866                        *root, struct btrfs_path *path,
3867                        struct btrfs_key *location, int mod);
3868
3869 struct btrfs_inode_extref *
3870 btrfs_lookup_inode_extref(struct btrfs_trans_handle *trans,
3871                           struct btrfs_root *root,
3872                           struct btrfs_path *path,
3873                           const char *name, int name_len,
3874                           u64 inode_objectid, u64 ref_objectid, int ins_len,
3875                           int cow);
3876
3877 int btrfs_find_name_in_ext_backref(struct btrfs_path *path,
3878                                    u64 ref_objectid, const char *name,
3879                                    int name_len,
3880                                    struct btrfs_inode_extref **extref_ret);
3881
3882 /* file-item.c */
3883 struct btrfs_dio_private;
3884 int btrfs_del_csums(struct btrfs_trans_handle *trans,
3885                     struct btrfs_root *root, u64 bytenr, u64 len);
3886 int btrfs_lookup_bio_sums(struct btrfs_root *root, struct inode *inode,
3887                           struct bio *bio, u32 *dst);
3888 int btrfs_lookup_bio_sums_dio(struct btrfs_root *root, struct inode *inode,
3889                               struct bio *bio, u64 logical_offset);
3890 int btrfs_insert_file_extent(struct btrfs_trans_handle *trans,
3891                              struct btrfs_root *root,
3892                              u64 objectid, u64 pos,
3893                              u64 disk_offset, u64 disk_num_bytes,
3894                              u64 num_bytes, u64 offset, u64 ram_bytes,
3895                              u8 compression, u8 encryption, u16 other_encoding);
3896 int btrfs_lookup_file_extent(struct btrfs_trans_handle *trans,
3897                              struct btrfs_root *root,
3898                              struct btrfs_path *path, u64 objectid,
3899                              u64 bytenr, int mod);
3900 int btrfs_csum_file_blocks(struct btrfs_trans_handle *trans,
3901                            struct btrfs_root *root,
3902                            struct btrfs_ordered_sum *sums);
3903 int btrfs_csum_one_bio(struct btrfs_root *root, struct inode *inode,
3904                        struct bio *bio, u64 file_start, int contig);
3905 int btrfs_lookup_csums_range(struct btrfs_root *root, u64 start, u64 end,
3906                              struct list_head *list, int search_commit);
3907 void btrfs_extent_item_to_extent_map(struct inode *inode,
3908                                      const struct btrfs_path *path,
3909                                      struct btrfs_file_extent_item *fi,
3910                                      const bool new_inline,
3911                                      struct extent_map *em);
3912
3913 /* inode.c */
3914 struct btrfs_delalloc_work {
3915         struct inode *inode;
3916         int wait;
3917         int delay_iput;
3918         struct completion completion;
3919         struct list_head list;
3920         struct btrfs_work work;
3921 };
3922
3923 struct btrfs_delalloc_work *btrfs_alloc_delalloc_work(struct inode *inode,
3924                                                     int wait, int delay_iput);
3925 void btrfs_wait_and_free_delalloc_work(struct btrfs_delalloc_work *work);
3926
3927 struct extent_map *btrfs_get_extent_fiemap(struct inode *inode, struct page *page,
3928                                            size_t pg_offset, u64 start, u64 len,
3929                                            int create);
3930 noinline int can_nocow_extent(struct inode *inode, u64 offset, u64 *len,
3931                               u64 *orig_start, u64 *orig_block_len,
3932                               u64 *ram_bytes);
3933
3934 /* RHEL and EL kernels have a patch that renames PG_checked to FsMisc */
3935 #if defined(ClearPageFsMisc) && !defined(ClearPageChecked)
3936 #define ClearPageChecked ClearPageFsMisc
3937 #define SetPageChecked SetPageFsMisc
3938 #define PageChecked PageFsMisc
3939 #endif
3940
3941 /* This forces readahead on a given range of bytes in an inode */
3942 static inline void btrfs_force_ra(struct address_space *mapping,
3943                                   struct file_ra_state *ra, struct file *file,
3944                                   pgoff_t offset, unsigned long req_size)
3945 {
3946         page_cache_sync_readahead(mapping, ra, file, offset, req_size);
3947 }
3948
3949 struct inode *btrfs_lookup_dentry(struct inode *dir, struct dentry *dentry);
3950 int btrfs_set_inode_index(struct inode *dir, u64 *index);
3951 int btrfs_unlink_inode(struct btrfs_trans_handle *trans,
3952                        struct btrfs_root *root,
3953                        struct inode *dir, struct inode *inode,
3954                        const char *name, int name_len);
3955 int btrfs_add_link(struct btrfs_trans_handle *trans,
3956                    struct inode *parent_inode, struct inode *inode,
3957                    const char *name, int name_len, int add_backref, u64 index);
3958 int btrfs_unlink_subvol(struct btrfs_trans_handle *trans,
3959                         struct btrfs_root *root,
3960                         struct inode *dir, u64 objectid,
3961                         const char *name, int name_len);
3962 int btrfs_truncate_page(struct inode *inode, loff_t from, loff_t len,
3963                         int front);
3964 int btrfs_truncate_inode_items(struct btrfs_trans_handle *trans,
3965                                struct btrfs_root *root,
3966                                struct inode *inode, u64 new_size,
3967                                u32 min_type);
3968
3969 int btrfs_start_delalloc_inodes(struct btrfs_root *root, int delay_iput);
3970 int btrfs_start_delalloc_roots(struct btrfs_fs_info *fs_info, int delay_iput,
3971                                int nr);
3972 int btrfs_set_extent_delalloc(struct inode *inode, u64 start, u64 end,
3973                               struct extent_state **cached_state);
3974 int btrfs_create_subvol_root(struct btrfs_trans_handle *trans,
3975                              struct btrfs_root *new_root,
3976                              struct btrfs_root *parent_root,
3977                              u64 new_dirid);
3978 int btrfs_merge_bio_hook(int rw, struct page *page, unsigned long offset,
3979                          size_t size, struct bio *bio,
3980                          unsigned long bio_flags);
3981 int btrfs_page_mkwrite(struct vm_area_struct *vma, struct vm_fault *vmf);
3982 int btrfs_readpage(struct file *file, struct page *page);
3983 void btrfs_evict_inode(struct inode *inode);
3984 int btrfs_write_inode(struct inode *inode, struct writeback_control *wbc);
3985 struct inode *btrfs_alloc_inode(struct super_block *sb);
3986 void btrfs_destroy_inode(struct inode *inode);
3987 int btrfs_drop_inode(struct inode *inode);
3988 int btrfs_init_cachep(void);
3989 void btrfs_destroy_cachep(void);
3990 long btrfs_ioctl_trans_end(struct file *file);
3991 struct inode *btrfs_iget(struct super_block *s, struct btrfs_key *location,
3992                          struct btrfs_root *root, int *was_new);
3993 struct extent_map *btrfs_get_extent(struct inode *inode, struct page *page,
3994                                     size_t pg_offset, u64 start, u64 end,
3995                                     int create);
3996 int btrfs_update_inode(struct btrfs_trans_handle *trans,
3997                               struct btrfs_root *root,
3998                               struct inode *inode);
3999 int btrfs_update_inode_fallback(struct btrfs_trans_handle *trans,
4000                                 struct btrfs_root *root, struct inode *inode);
4001 int btrfs_orphan_add(struct btrfs_trans_handle *trans, struct inode *inode);
4002 int btrfs_orphan_cleanup(struct btrfs_root *root);
4003 void btrfs_orphan_commit_root(struct btrfs_trans_handle *trans,
4004                               struct btrfs_root *root);
4005 int btrfs_cont_expand(struct inode *inode, loff_t oldsize, loff_t size);
4006 void btrfs_invalidate_inodes(struct btrfs_root *root);
4007 void btrfs_add_delayed_iput(struct inode *inode);
4008 void btrfs_run_delayed_iputs(struct btrfs_root *root);
4009 int btrfs_prealloc_file_range(struct inode *inode, int mode,
4010                               u64 start, u64 num_bytes, u64 min_size,
4011                               loff_t actual_len, u64 *alloc_hint);
4012 int btrfs_prealloc_file_range_trans(struct inode *inode,
4013                                     struct btrfs_trans_handle *trans, int mode,
4014                                     u64 start, u64 num_bytes, u64 min_size,
4015                                     loff_t actual_len, u64 *alloc_hint);
4016 int btrfs_inode_check_errors(struct inode *inode);
4017 extern const struct dentry_operations btrfs_dentry_operations;
4018 #ifdef CONFIG_BTRFS_FS_RUN_SANITY_TESTS
4019 void btrfs_test_inode_set_ops(struct inode *inode);
4020 #endif
4021
4022 /* ioctl.c */
4023 long btrfs_ioctl(struct file *file, unsigned int cmd, unsigned long arg);
4024 void btrfs_update_iflags(struct inode *inode);
4025 void btrfs_inherit_iflags(struct inode *inode, struct inode *dir);
4026 int btrfs_is_empty_uuid(u8 *uuid);
4027 int btrfs_defrag_file(struct inode *inode, struct file *file,
4028                       struct btrfs_ioctl_defrag_range_args *range,
4029                       u64 newer_than, unsigned long max_pages);
4030 void btrfs_get_block_group_info(struct list_head *groups_list,
4031                                 struct btrfs_ioctl_space_info *space);
4032 void update_ioctl_balance_args(struct btrfs_fs_info *fs_info, int lock,
4033                                struct btrfs_ioctl_balance_args *bargs);
4034
4035
4036 /* file.c */
4037 int btrfs_auto_defrag_init(void);
4038 void btrfs_auto_defrag_exit(void);
4039 int btrfs_add_inode_defrag(struct btrfs_trans_handle *trans,
4040                            struct inode *inode);
4041 int btrfs_run_defrag_inodes(struct btrfs_fs_info *fs_info);
4042 void btrfs_cleanup_defrag_inodes(struct btrfs_fs_info *fs_info);
4043 int btrfs_sync_file(struct file *file, loff_t start, loff_t end, int datasync);
4044 void btrfs_drop_extent_cache(struct inode *inode, u64 start, u64 end,
4045                              int skip_pinned);
4046 extern const struct file_operations btrfs_file_operations;
4047 int __btrfs_drop_extents(struct btrfs_trans_handle *trans,
4048                          struct btrfs_root *root, struct inode *inode,
4049                          struct btrfs_path *path, u64 start, u64 end,
4050                          u64 *drop_end, int drop_cache,
4051                          int replace_extent,
4052                          u32 extent_item_size,
4053                          int *key_inserted);
4054 int btrfs_drop_extents(struct btrfs_trans_handle *trans,
4055                        struct btrfs_root *root, struct inode *inode, u64 start,
4056                        u64 end, int drop_cache);
4057 int btrfs_mark_extent_written(struct btrfs_trans_handle *trans,
4058                               struct inode *inode, u64 start, u64 end);
4059 int btrfs_release_file(struct inode *inode, struct file *file);
4060 int btrfs_dirty_pages(struct btrfs_root *root, struct inode *inode,
4061                       struct page **pages, size_t num_pages,
4062                       loff_t pos, size_t write_bytes,
4063                       struct extent_state **cached);
4064 int btrfs_fdatawrite_range(struct inode *inode, loff_t start, loff_t end);
4065
4066 /* tree-defrag.c */
4067 int btrfs_defrag_leaves(struct btrfs_trans_handle *trans,
4068                         struct btrfs_root *root);
4069
4070 /* sysfs.c */
4071 int btrfs_init_sysfs(void);
4072 void btrfs_exit_sysfs(void);
4073 int btrfs_sysfs_add_one(struct btrfs_fs_info *fs_info);
4074 void btrfs_sysfs_remove_one(struct btrfs_fs_info *fs_info);
4075
4076 /* xattr.c */
4077 ssize_t btrfs_listxattr(struct dentry *dentry, char *buffer, size_t size);
4078
4079 /* super.c */
4080 int btrfs_parse_options(struct btrfs_root *root, char *options);
4081 int btrfs_sync_fs(struct super_block *sb, int wait);
4082
4083 #ifdef CONFIG_PRINTK
4084 __printf(2, 3)
4085 void btrfs_printk(const struct btrfs_fs_info *fs_info, const char *fmt, ...);
4086 #else
4087 static inline __printf(2, 3)
4088 void btrfs_printk(const struct btrfs_fs_info *fs_info, const char *fmt, ...)
4089 {
4090 }
4091 #endif
4092
4093 #define btrfs_emerg(fs_info, fmt, args...) \
4094         btrfs_printk(fs_info, KERN_EMERG fmt, ##args)
4095 #define btrfs_alert(fs_info, fmt, args...) \
4096         btrfs_printk(fs_info, KERN_ALERT fmt, ##args)
4097 #define btrfs_crit(fs_info, fmt, args...) \
4098         btrfs_printk(fs_info, KERN_CRIT fmt, ##args)
4099 #define btrfs_err(fs_info, fmt, args...) \
4100         btrfs_printk(fs_info, KERN_ERR fmt, ##args)
4101 #define btrfs_warn(fs_info, fmt, args...) \
4102         btrfs_printk(fs_info, KERN_WARNING fmt, ##args)
4103 #define btrfs_notice(fs_info, fmt, args...) \
4104         btrfs_printk(fs_info, KERN_NOTICE fmt, ##args)
4105 #define btrfs_info(fs_info, fmt, args...) \
4106         btrfs_printk(fs_info, KERN_INFO fmt, ##args)
4107
4108 #ifdef DEBUG
4109 #define btrfs_debug(fs_info, fmt, args...) \
4110         btrfs_printk(fs_info, KERN_DEBUG fmt, ##args)
4111 #else
4112 #define btrfs_debug(fs_info, fmt, args...) \
4113     no_printk(KERN_DEBUG fmt, ##args)
4114 #endif
4115
4116 #ifdef CONFIG_BTRFS_ASSERT
4117
4118 __cold
4119 static inline void assfail(char *expr, char *file, int line)
4120 {
4121         pr_err("BTRFS: assertion failed: %s, file: %s, line: %d",
4122                expr, file, line);
4123         BUG();
4124 }
4125
4126 #define ASSERT(expr)    \
4127         (likely(expr) ? (void)0 : assfail(#expr, __FILE__, __LINE__))
4128 #else
4129 #define ASSERT(expr)    ((void)0)
4130 #endif
4131
4132 #define btrfs_assert()
4133 __printf(5, 6)
4134 __cold
4135 void __btrfs_std_error(struct btrfs_fs_info *fs_info, const char *function,
4136                      unsigned int line, int errno, const char *fmt, ...);
4137
4138 const char *btrfs_decode_error(int errno);
4139
4140 __cold
4141 void __btrfs_abort_transaction(struct btrfs_trans_handle *trans,
4142                                struct btrfs_root *root, const char *function,
4143                                unsigned int line, int errno);
4144
4145 #define btrfs_set_fs_incompat(__fs_info, opt) \
4146         __btrfs_set_fs_incompat((__fs_info), BTRFS_FEATURE_INCOMPAT_##opt)
4147
4148 static inline void __btrfs_set_fs_incompat(struct btrfs_fs_info *fs_info,
4149                                            u64 flag)
4150 {
4151         struct btrfs_super_block *disk_super;
4152         u64 features;
4153
4154         disk_super = fs_info->super_copy;
4155         features = btrfs_super_incompat_flags(disk_super);
4156         if (!(features & flag)) {
4157                 spin_lock(&fs_info->super_lock);
4158                 features = btrfs_super_incompat_flags(disk_super);
4159                 if (!(features & flag)) {
4160                         features |= flag;
4161                         btrfs_set_super_incompat_flags(disk_super, features);
4162                         btrfs_info(fs_info, "setting %llu feature flag",
4163                                          flag);
4164                 }
4165                 spin_unlock(&fs_info->super_lock);
4166         }
4167 }
4168
4169 #define btrfs_clear_fs_incompat(__fs_info, opt) \
4170         __btrfs_clear_fs_incompat((__fs_info), BTRFS_FEATURE_INCOMPAT_##opt)
4171
4172 static inline void __btrfs_clear_fs_incompat(struct btrfs_fs_info *fs_info,
4173                                              u64 flag)
4174 {
4175         struct btrfs_super_block *disk_super;
4176         u64 features;
4177
4178         disk_super = fs_info->super_copy;
4179         features = btrfs_super_incompat_flags(disk_super);
4180         if (features & flag) {
4181                 spin_lock(&fs_info->super_lock);
4182                 features = btrfs_super_incompat_flags(disk_super);
4183                 if (features & flag) {
4184                         features &= ~flag;
4185                         btrfs_set_super_incompat_flags(disk_super, features);
4186                         btrfs_info(fs_info, "clearing %llu feature flag",
4187                                          flag);
4188                 }
4189                 spin_unlock(&fs_info->super_lock);
4190         }
4191 }
4192
4193 #define btrfs_fs_incompat(fs_info, opt) \
4194         __btrfs_fs_incompat((fs_info), BTRFS_FEATURE_INCOMPAT_##opt)
4195
4196 static inline int __btrfs_fs_incompat(struct btrfs_fs_info *fs_info, u64 flag)
4197 {
4198         struct btrfs_super_block *disk_super;
4199         disk_super = fs_info->super_copy;
4200         return !!(btrfs_super_incompat_flags(disk_super) & flag);
4201 }
4202
4203 #define btrfs_set_fs_compat_ro(__fs_info, opt) \
4204         __btrfs_set_fs_compat_ro((__fs_info), BTRFS_FEATURE_COMPAT_RO_##opt)
4205
4206 static inline void __btrfs_set_fs_compat_ro(struct btrfs_fs_info *fs_info,
4207                                             u64 flag)
4208 {
4209         struct btrfs_super_block *disk_super;
4210         u64 features;
4211
4212         disk_super = fs_info->super_copy;
4213         features = btrfs_super_compat_ro_flags(disk_super);
4214         if (!(features & flag)) {
4215                 spin_lock(&fs_info->super_lock);
4216                 features = btrfs_super_compat_ro_flags(disk_super);
4217                 if (!(features & flag)) {
4218                         features |= flag;
4219                         btrfs_set_super_compat_ro_flags(disk_super, features);
4220                         btrfs_info(fs_info, "setting %llu ro feature flag",
4221                                    flag);
4222                 }
4223                 spin_unlock(&fs_info->super_lock);
4224         }
4225 }
4226
4227 #define btrfs_clear_fs_compat_ro(__fs_info, opt) \
4228         __btrfs_clear_fs_compat_ro((__fs_info), BTRFS_FEATURE_COMPAT_RO_##opt)
4229
4230 static inline void __btrfs_clear_fs_compat_ro(struct btrfs_fs_info *fs_info,
4231                                               u64 flag)
4232 {
4233         struct btrfs_super_block *disk_super;
4234         u64 features;
4235
4236         disk_super = fs_info->super_copy;
4237         features = btrfs_super_compat_ro_flags(disk_super);
4238         if (features & flag) {
4239                 spin_lock(&fs_info->super_lock);
4240                 features = btrfs_super_compat_ro_flags(disk_super);
4241                 if (features & flag) {
4242                         features &= ~flag;
4243                         btrfs_set_super_compat_ro_flags(disk_super, features);
4244                         btrfs_info(fs_info, "clearing %llu ro feature flag",
4245                                    flag);
4246                 }
4247                 spin_unlock(&fs_info->super_lock);
4248         }
4249 }
4250
4251 #define btrfs_fs_compat_ro(fs_info, opt) \
4252         __btrfs_fs_compat_ro((fs_info), BTRFS_FEATURE_COMPAT_RO_##opt)
4253
4254 static inline int __btrfs_fs_compat_ro(struct btrfs_fs_info *fs_info, u64 flag)
4255 {
4256         struct btrfs_super_block *disk_super;
4257         disk_super = fs_info->super_copy;
4258         return !!(btrfs_super_compat_ro_flags(disk_super) & flag);
4259 }
4260
4261 /*
4262  * Call btrfs_abort_transaction as early as possible when an error condition is
4263  * detected, that way the exact line number is reported.
4264  */
4265 #define btrfs_abort_transaction(trans, root, errno)             \
4266 do {                                                            \
4267         /* Report first abort since mount */                    \
4268         if (!test_and_set_bit(BTRFS_FS_STATE_TRANS_ABORTED,     \
4269                         &((root)->fs_info->fs_state))) {        \
4270                 WARN(1, KERN_DEBUG                              \
4271                 "BTRFS: Transaction aborted (error %d)\n",      \
4272                 (errno));                                       \
4273         }                                                       \
4274         __btrfs_abort_transaction((trans), (root), __func__,    \
4275                                   __LINE__, (errno));           \
4276 } while (0)
4277
4278 #define btrfs_std_error(fs_info, errno)                         \
4279 do {                                                            \
4280         if ((errno))                                            \
4281                 __btrfs_std_error((fs_info), __func__,          \
4282                                    __LINE__, (errno), NULL);    \
4283 } while (0)
4284
4285 #define btrfs_error(fs_info, errno, fmt, args...)               \
4286 do {                                                            \
4287         __btrfs_std_error((fs_info), __func__, __LINE__,        \
4288                           (errno), fmt, ##args);                \
4289 } while (0)
4290
4291 __printf(5, 6)
4292 __cold
4293 void __btrfs_panic(struct btrfs_fs_info *fs_info, const char *function,
4294                    unsigned int line, int errno, const char *fmt, ...);
4295
4296 /*
4297  * If BTRFS_MOUNT_PANIC_ON_FATAL_ERROR is in mount_opt, __btrfs_panic
4298  * will panic().  Otherwise we BUG() here.
4299  */
4300 #define btrfs_panic(fs_info, errno, fmt, args...)                       \
4301 do {                                                                    \
4302         __btrfs_panic(fs_info, __func__, __LINE__, errno, fmt, ##args); \
4303         BUG();                                                          \
4304 } while (0)
4305
4306 /* acl.c */
4307 #ifdef CONFIG_BTRFS_FS_POSIX_ACL
4308 struct posix_acl *btrfs_get_acl(struct inode *inode, int type);
4309 int btrfs_set_acl(struct inode *inode, struct posix_acl *acl, int type);
4310 int btrfs_init_acl(struct btrfs_trans_handle *trans,
4311                    struct inode *inode, struct inode *dir);
4312 #else
4313 #define btrfs_get_acl NULL
4314 #define btrfs_set_acl NULL
4315 static inline int btrfs_init_acl(struct btrfs_trans_handle *trans,
4316                                  struct inode *inode, struct inode *dir)
4317 {
4318         return 0;
4319 }
4320 #endif
4321
4322 /* relocation.c */
4323 int btrfs_relocate_block_group(struct btrfs_root *root, u64 group_start);
4324 int btrfs_init_reloc_root(struct btrfs_trans_handle *trans,
4325                           struct btrfs_root *root);
4326 int btrfs_update_reloc_root(struct btrfs_trans_handle *trans,
4327                             struct btrfs_root *root);
4328 int btrfs_recover_relocation(struct btrfs_root *root);
4329 int btrfs_reloc_clone_csums(struct inode *inode, u64 file_pos, u64 len);
4330 int btrfs_reloc_cow_block(struct btrfs_trans_handle *trans,
4331                           struct btrfs_root *root, struct extent_buffer *buf,
4332                           struct extent_buffer *cow);
4333 void btrfs_reloc_pre_snapshot(struct btrfs_pending_snapshot *pending,
4334                               u64 *bytes_to_reserve);
4335 int btrfs_reloc_post_snapshot(struct btrfs_trans_handle *trans,
4336                               struct btrfs_pending_snapshot *pending);
4337
4338 /* scrub.c */
4339 int btrfs_scrub_dev(struct btrfs_fs_info *fs_info, u64 devid, u64 start,
4340                     u64 end, struct btrfs_scrub_progress *progress,
4341                     int readonly, int is_dev_replace);
4342 void btrfs_scrub_pause(struct btrfs_root *root);
4343 void btrfs_scrub_continue(struct btrfs_root *root);
4344 int btrfs_scrub_cancel(struct btrfs_fs_info *info);
4345 int btrfs_scrub_cancel_dev(struct btrfs_fs_info *info,
4346                            struct btrfs_device *dev);
4347 int btrfs_scrub_progress(struct btrfs_root *root, u64 devid,
4348                          struct btrfs_scrub_progress *progress);
4349
4350 /* dev-replace.c */
4351 void btrfs_bio_counter_inc_blocked(struct btrfs_fs_info *fs_info);
4352 void btrfs_bio_counter_inc_noblocked(struct btrfs_fs_info *fs_info);
4353 void btrfs_bio_counter_sub(struct btrfs_fs_info *fs_info, s64 amount);
4354
4355 static inline void btrfs_bio_counter_dec(struct btrfs_fs_info *fs_info)
4356 {
4357         btrfs_bio_counter_sub(fs_info, 1);
4358 }
4359
4360 /* reada.c */
4361 struct reada_control {
4362         struct btrfs_root       *root;          /* tree to prefetch */
4363         struct btrfs_key        key_start;
4364         struct btrfs_key        key_end;        /* exclusive */
4365         atomic_t                elems;
4366         struct kref             refcnt;
4367         wait_queue_head_t       wait;
4368 };
4369 struct reada_control *btrfs_reada_add(struct btrfs_root *root,
4370                               struct btrfs_key *start, struct btrfs_key *end);
4371 int btrfs_reada_wait(void *handle);
4372 void btrfs_reada_detach(void *handle);
4373 int btree_readahead_hook(struct btrfs_root *root, struct extent_buffer *eb,
4374                          u64 start, int err);
4375
4376 static inline int is_fstree(u64 rootid)
4377 {
4378         if (rootid == BTRFS_FS_TREE_OBJECTID ||
4379             ((s64)rootid >= (s64)BTRFS_FIRST_FREE_OBJECTID &&
4380               !btrfs_qgroup_level(rootid)))
4381                 return 1;
4382         return 0;
4383 }
4384
4385 static inline int btrfs_defrag_cancelled(struct btrfs_fs_info *fs_info)
4386 {
4387         return signal_pending(current);
4388 }
4389
4390 /* Sanity test specific functions */
4391 #ifdef CONFIG_BTRFS_FS_RUN_SANITY_TESTS
4392 void btrfs_test_destroy_inode(struct inode *inode);
4393 #endif
4394
4395 static inline int btrfs_test_is_dummy_root(struct btrfs_root *root)
4396 {
4397 #ifdef CONFIG_BTRFS_FS_RUN_SANITY_TESTS
4398         if (unlikely(test_bit(BTRFS_ROOT_DUMMY_ROOT, &root->state)))
4399                 return 1;
4400 #endif
4401         return 0;
4402 }
4403
4404 #endif