<font size=2 face="sans-serif">Let's look at how mmapplypolicy does the
reckoning.</font><br><font size=2 face="sans-serif">Before it starts, it see your pools
as:</font><br><br><font size=3>[I] GPFS Current Data Pool Utilization in KB and %</font><br><font size=3>Pool_Name &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;
&nbsp; &nbsp; KB_Occupied &nbsp; &nbsp; &nbsp; &nbsp;KB_Total &nbsp;Percent_Occupied</font><br><font size=3>gpfs23capacity &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;
&nbsp;55365193728 &nbsp; &nbsp;124983549952 &nbsp; &nbsp; 44.297984614%</font><br><font size=3>gpfs23data &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;
&nbsp; 166747037696 &nbsp; &nbsp;343753326592 &nbsp; &nbsp; 48.507759721%</font><br><font size=3>system &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;
&nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;0 &nbsp;
&nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; 0 &nbsp; &nbsp; &nbsp;0.000000000%
(no user data)</font><br><font size=3>[I] 75142046 of 209715200 inodes used: 35.830520%.</font><br><font size=2 face="sans-serif"><br>Your rule says you want to migrate data to gpfs23capacity, up to 98% full:</font><br><br><font size=3>RULE 'OldStuff'</font><br><font size=3>&nbsp; MIGRATE FROM POOL 'gpfs23data'</font><br><font size=3>&nbsp; TO POOL 'gpfs23capacity'</font><br><font size=3>&nbsp; LIMIT(98) WHERE ...</font><br><br><font size=3>We scan your files and find and reckon...</font><br><font size=3>[I] Summary of Rule Applicability and File Choices:</font><br><font size=3>&nbsp;Rule# &nbsp; &nbsp; &nbsp;Hit_Cnt &nbsp; &nbsp;
&nbsp; &nbsp; &nbsp;KB_Hit &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;Chosen &nbsp;
&nbsp; &nbsp; KB_Chosen &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;KB_Ill &nbsp;
&nbsp; Rule</font><br><font size=3>&nbsp; &nbsp; &nbsp;0 &nbsp; &nbsp; &nbsp;5255960 &nbsp;
&nbsp; 237675081344 &nbsp; &nbsp; &nbsp; &nbsp;1868858 &nbsp; &nbsp; 67355430720
&nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; 0 &nbsp; &nbsp; RULE 'OldStuff'
MIGRATE FROM POOL 'gpfs23data' TO POOL 'gpfs23capacity' LIMIT(98.000000)
WHERE(.)</font><br><br><font size=3>So yes, 5.25Million files match the rule, but the utility
chooses 1.868Million files that add up to 67,355GB and figures that if
it migrates those to gpfs23capacity,</font><br><font size=3>(and also figuring the other migrations &nbsp;by your
second rule)then gpfs23 will end up &nbsp;97.9999% full.</font><br><font size=3>We show you that with our &quot;predictions&quot; message.</font><br><br><font size=3>Predicted Data Pool Utilization in KB and %:</font><br><font size=3>Pool_Name &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;
&nbsp; &nbsp; KB_Occupied &nbsp; &nbsp; &nbsp; &nbsp;KB_Total &nbsp;Percent_Occupied</font><br><font size=3>gpfs23capacity &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;
122483878944 &nbsp; &nbsp;124983549952 &nbsp; &nbsp; 97.999999993%</font><br><font size=3>gpfs23data &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;
&nbsp; 104742360032 &nbsp; &nbsp;343753326592 &nbsp; &nbsp; 30.470209865%</font><br><br><font size=3>So that's why it chooses to migrate &quot;only&quot; 67GB....</font><br><br><font size=3>See? Makes sense to me.</font><br><br><font size=3>Questions:</font><br><font size=3>Did you run with -I yes or -I defer ?</font><br><br><font size=3>Were some of the files illreplicated or illplaced?</font><br><br><font size=3>Did you give the cluster-wide space reckoning protocols
time to see the changes? &nbsp;mmdf is usually &quot;behind&quot; by some
non-neglible amount of time.</font><br><br><font size=3>What else is going on?</font><br><font size=2 face="sans-serif">If &nbsp;you're moving &nbsp;or deleting
or creating data by other means while mmapplypolicy is running -- it doesn't
&quot;know&quot; about that! &nbsp;</font><br><br><font size=2 face="sans-serif">Run it again!</font><br><br><img align=left src=cid:_1_0F8E5E800F8E5C400069CCD985258104 alt="Marc A Kaplan" style="border:0px solid;"><br><br><br><br><font size=1 color=#5f5f5f face="sans-serif">From: &nbsp; &nbsp; &nbsp;
&nbsp;</font><font size=1 face="sans-serif">&quot;Buterbaugh, Kevin
L&quot; &lt;Kevin.Buterbaugh@Vanderbilt.Edu&gt;</font><br><font size=1 color=#5f5f5f face="sans-serif">To: &nbsp; &nbsp; &nbsp;
&nbsp;</font><font size=1 face="sans-serif">gpfsug main discussion
list &lt;gpfsug-discuss@spectrumscale.org&gt;</font><br><font size=1 color=#5f5f5f face="sans-serif">Date: &nbsp; &nbsp; &nbsp;
&nbsp;</font><font size=1 face="sans-serif">04/16/2017 09:47 AM</font><br><font size=1 color=#5f5f5f face="sans-serif">Subject: &nbsp; &nbsp;
&nbsp; &nbsp;</font><font size=1 face="sans-serif">[gpfsug-discuss]
mmapplypolicy didn't migrate everything it should &nbsp; &nbsp; &nbsp;
&nbsp;have - why not?</font><br><font size=1 color=#5f5f5f face="sans-serif">Sent by: &nbsp; &nbsp;
&nbsp; &nbsp;</font><font size=1 face="sans-serif">gpfsug-discuss-bounces@spectrumscale.org</font><br><hr noshade><br><br><br><font size=3>Hi All, </font><br><br><font size=3>First off, I can open a PMR for this if I need to. &nbsp;Second,
I am far from an mmapplypolicy guru. &nbsp;With that out of the way \u2026
I have an mmapplypolicy job that didn\u2019t migrate anywhere close to what
it could / should have. &nbsp;From the log file I have it create, here
is the part where it shows the policies I told it to invoke:</font><br><br><font size=3>[I] Qos 'maintenance' configured as inf</font><br><font size=3>[I] GPFS Current Data Pool Utilization in KB and %</font><br><font size=3>Pool_Name &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;
&nbsp; &nbsp; KB_Occupied &nbsp; &nbsp; &nbsp; &nbsp;KB_Total &nbsp;Percent_Occupied</font><br><font size=3>gpfs23capacity &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;
&nbsp;55365193728 &nbsp; &nbsp;124983549952 &nbsp; &nbsp; 44.297984614%</font><br><font size=3>gpfs23data &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;
&nbsp; 166747037696 &nbsp; &nbsp;343753326592 &nbsp; &nbsp; 48.507759721%</font><br><font size=3>system &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;
&nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;0 &nbsp;
&nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; 0 &nbsp; &nbsp; &nbsp;0.000000000%
(no user data)</font><br><font size=3>[I] 75142046 of 209715200 inodes used: 35.830520%.</font><br><font size=3>[I] Loaded policy rules from /root/gpfs/gpfs23_migration.policy.</font><br><font size=3>Evaluating policy rules with CURRENT_TIMESTAMP = 2017-04-15@01:13:02
UTC</font><br><font size=3>Parsed 2 policy rules.</font><br><br><font size=3>RULE 'OldStuff'</font><br><font size=3>&nbsp; MIGRATE FROM POOL 'gpfs23data'</font><br><font size=3>&nbsp; TO POOL 'gpfs23capacity'</font><br><font size=3>&nbsp; LIMIT(98)</font><br><font size=3>&nbsp; WHERE (((DAYS(CURRENT_TIMESTAMP) - DAYS(ACCESS_TIME))
&gt; 14) AND (KB_ALLOCATED &gt; 3584))</font><br><br><font size=3>RULE 'INeedThatAfterAll'</font><br><font size=3>&nbsp; MIGRATE FROM POOL 'gpfs23capacity'</font><br><font size=3>&nbsp; TO POOL 'gpfs23data'</font><br><font size=3>&nbsp; LIMIT(75)</font><br><font size=3>&nbsp; WHERE ((DAYS(CURRENT_TIMESTAMP) - DAYS(ACCESS_TIME))
&lt; 14)</font><br><br><font size=3>And then the log shows it scanning all the directories
and then says, &quot;OK, here\u2019s what I\u2019m going to do&quot;:</font><br><br><font size=3>[I] Summary of Rule Applicability and File Choices:</font><br><font size=3>&nbsp;Rule# &nbsp; &nbsp; &nbsp;Hit_Cnt &nbsp; &nbsp;
&nbsp; &nbsp; &nbsp;KB_Hit &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;Chosen &nbsp;
&nbsp; &nbsp; KB_Chosen &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;KB_Ill &nbsp;
&nbsp; Rule</font><br><font size=3>&nbsp; &nbsp; &nbsp;0 &nbsp; &nbsp; &nbsp;5255960 &nbsp;
&nbsp; 237675081344 &nbsp; &nbsp; &nbsp; &nbsp;1868858 &nbsp; &nbsp; 67355430720
&nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; 0 &nbsp; &nbsp; RULE 'OldStuff'
MIGRATE FROM POOL 'gpfs23data' TO POOL 'gpfs23capacity' LIMIT(98.000000)
WHERE(.)</font><br><font size=3>&nbsp; &nbsp; &nbsp;1 &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;611
&nbsp; &nbsp; &nbsp; 236745504 &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;
611 &nbsp; &nbsp; &nbsp; 236745504 &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;
&nbsp; 0 &nbsp; &nbsp; RULE 'INeedThatAfterAll' MIGRATE FROM POOL 'gpfs23capacity'
TO POOL 'gpfs23data' LIMIT(75.000000) WHERE(.)</font><br><br><font size=3>[I] Filesystem objects with no applicable rules: 414911602.</font><br><br><font size=3>[I] GPFS Policy Decisions and File Choice Totals:</font><br><font size=3>&nbsp;Chose to migrate 67592176224KB: 1869469 of 5256571
candidates;</font><br><font size=3>Predicted Data Pool Utilization in KB and %:</font><br><font size=3>Pool_Name &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;
&nbsp; &nbsp; KB_Occupied &nbsp; &nbsp; &nbsp; &nbsp;KB_Total &nbsp;Percent_Occupied</font><br><font size=3>gpfs23capacity &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;
122483878944 &nbsp; &nbsp;124983549952 &nbsp; &nbsp; 97.999999993%</font><br><font size=3>gpfs23data &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;
&nbsp; 104742360032 &nbsp; &nbsp;343753326592 &nbsp; &nbsp; 30.470209865%</font><br><font size=3>system &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;
&nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;0 &nbsp;
&nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; 0 &nbsp; &nbsp; &nbsp;0.000000000%
(no user data)</font><br><br><font size=3>Notice that it says it\u2019s only going to migrate less than
2 million of the 5.25 million candidate files!! &nbsp;And sure enough,
that\u2019s all it did:</font><br><br><font size=3>[I] A total of 1869469 files have been migrated, deleted
or processed by an EXTERNAL EXEC/script;</font><br><font size=3>&nbsp; &nbsp; &nbsp; &nbsp; 0 'skipped' files and/or errors.</font><br><br><font size=3>And, not surprisingly, the gpfs23capacity pool on gpfs23
is nowhere near 98% full:</font><br><br><font size=3>Disks in storage pool: gpfs23capacity (Maximum disk size
allowed is 519 TB)</font><br><font size=3>eon35Ansd &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;
58.2T &nbsp; &nbsp; &nbsp; 35 No &nbsp; &nbsp; &nbsp; Yes &nbsp; &nbsp;
&nbsp; &nbsp; &nbsp;29.54T ( 51%) &nbsp; &nbsp; &nbsp; &nbsp;63.93G ( 0%)
</font><br><font size=3>eon35Dnsd &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;
58.2T &nbsp; &nbsp; &nbsp; 35 No &nbsp; &nbsp; &nbsp; Yes &nbsp; &nbsp;
&nbsp; &nbsp; &nbsp;29.54T ( 51%) &nbsp; &nbsp; &nbsp; &nbsp;64.39G ( 0%)
</font><br><font size=3>&nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;
------------- &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;
&nbsp; &nbsp; &nbsp; -------------------- -------------------</font><br><font size=3>(pool total) &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; 116.4T
&nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;
&nbsp; &nbsp; &nbsp; &nbsp; &nbsp;59.08T ( 51%) &nbsp; &nbsp; &nbsp; &nbsp;128.3G
( 0%)</font><br><br><font size=3>I don\u2019t understand why it only migrated a small subset
of what it could / should have?</font><br><br><font size=3>We are doing a migration from one filesystem (gpfs21)
to gpfs23 and I really need to stuff my gpfs23capacity pool as full of
data as I can to keep the migration going. &nbsp;Any ideas anyone? &nbsp;Thanks
in advance\u2026</font><br><br><font size=3>\u2014</font><br><font size=3>Kevin Buterbaugh - Senior System Administrator</font><br><font size=3>Vanderbilt University - Advanced Computing Center for
Research and Education</font><br><a href=mailto:Kevin.Buterbaugh@vanderbilt.edu><font size=3 color=blue><u>Kevin.Buterbaugh@vanderbilt.edu</u></font></a><font size=3>- (615)875-9633</font><br><br><br><tt><font size=2>_______________________________________________<br>gpfsug-discuss mailing list<br>gpfsug-discuss at spectrumscale.org<br></font></tt><a href="http://gpfsug.org/mailman/listinfo/gpfsug-discuss"><tt><font size=2>http://gpfsug.org/mailman/listinfo/gpfsug-discuss</font></tt></a><tt><font size=2><br></font></tt><br><br><BR>