<font size=2 face="sans-serif">Hello Bob,</font>
<br>
<br><font size=2 face="sans-serif">Right. &nbsp;Within some observation
interval, bytes read by an application will be reflected in gpfs_is_bytes_read,
regardless of how the byte values were obtained (by reading from &quot;disk&quot;,
fetching from pagepool, or fetching from LROC). &nbsp;gpfs_ns_bytes_read
is only going to reflect bytes read from &quot;disk&quot; within that observation
interval.</font>
<br>
<br><font size=2 face="sans-serif">&quot;mmdiag --lroc&quot; provides some
LROC stats. &nbsp;There is also a GPFSLROC sensor; it does not appear to
be documented at this point, so I hope I haven't spoken out of turn.</font>
<br>
<br><font size=2 face="sans-serif">Eric Agar</font>
<br>
<br><font size=2 face="sans-serif">Regards, The Spectrum Scale (GPFS) team<br>
<br>
------------------------------------------------------------------------------------------------------------------<br>
If you feel that your question can benefit other users of &nbsp;Spectrum
Scale (GPFS), then please post it to the public IBM developerWroks Forum
at </font><a href="https://www.ibm.com/developerworks/community/forums/html/forum?id=11111111-0000-0000-0000-000000000479"><font size=2 face="sans-serif">https://www.ibm.com/developerworks/community/forums/html/forum?id=11111111-0000-0000-0000-000000000479</font></a><font size=2 face="sans-serif">.
<br>
<br>
If your query concerns a potential software error in Spectrum Scale (GPFS)
and you have an IBM software maintenance contract please contact &nbsp;1-800-237-5511
in the United States or your local IBM Service Center in other countries.
<br>
<br>
The forum is informally monitored as time permits and should not be used
for priority messages to the Spectrum Scale (GPFS) team.</font>
<br>
<br>
<br>
<br><font size=1 color=#5f5f5f face="sans-serif">From: &nbsp; &nbsp; &nbsp;
&nbsp;</font><font size=1 face="sans-serif">&quot;Oesterlin, Robert&quot;
&lt;Robert.Oesterlin@nuance.com&gt;</font>
<br><font size=1 color=#5f5f5f face="sans-serif">To: &nbsp; &nbsp; &nbsp;
&nbsp;</font><font size=1 face="sans-serif">gpfsug main discussion
list &lt;gpfsug-discuss@spectrumscale.org&gt;</font>
<br><font size=1 color=#5f5f5f face="sans-serif">Cc: &nbsp; &nbsp; &nbsp;
&nbsp;</font><font size=1 face="sans-serif">&quot;scale@us.ibm.com&quot;
&lt;scale@us.ibm.com&gt;</font>
<br><font size=1 color=#5f5f5f face="sans-serif">Date: &nbsp; &nbsp; &nbsp;
&nbsp;</font><font size=1 face="sans-serif">06/12/2017 06:50 PM</font>
<br><font size=1 color=#5f5f5f face="sans-serif">Subject: &nbsp; &nbsp;
&nbsp; &nbsp;</font><font size=1 face="sans-serif">Re: Meaning
of API Stats Category</font>
<br>
<hr noshade>
<br>
<br>
<br><font size=2 face="Calibri">Can you tell me how LROC plays into this?
I\u2019m trying to understand if the difference between gpfs_ns_bytes_read
and gpfs_is_bytes_read on a cluster-wide basis reflects the amount of data
that is recalled from pagepool+LROC (assuming the majority of the nodes
have LROC.</font>
<br><font size=2 face="Calibri">&nbsp;</font>
<br><font size=2 face="Calibri">Any insight on LROC stats would helpful
as well.</font>
<br><font size=2 face="Calibri">&nbsp;</font>
<br><img src=cid:_4_0F423DA00F423B3400049D408525813F style="border:0px solid;">
<br><font size=2 face="Calibri">&nbsp;</font>
<br><font size=2 face="Calibri">Bob Oesterlin<br>
Sr Principal Storage Engineer, Nuance<br>
507-269-0413</font>
<br><font size=3 face="Times New Roman">&nbsp;</font>
<br><font size=2 face="Calibri">&nbsp;</font>
<br><font size=2 face="Calibri">&nbsp;</font>
<br><font size=3 face="Calibri"><b>From: </b>&lt;gpfsug-discuss-bounces@spectrumscale.org&gt;
on behalf of IBM Spectrum Scale &lt;scale@us.ibm.com&gt;<b><br>
Reply-To: </b>gpfsug main discussion list &lt;gpfsug-discuss@spectrumscale.org&gt;<b><br>
Date: </b>Monday, June 12, 2017 at 4:01 PM<b><br>
To: </b>gpfsug main discussion list &lt;gpfsug-discuss@spectrumscale.org&gt;<b><br>
Subject: </b>[EXTERNAL] Re: [gpfsug-discuss] Meaning of API Stats Category</font>
<br><font size=2 face="Calibri">&nbsp;</font>
<br><font size=2 face="sans-serif">Hello Kristy,</font><font size=2 face="Calibri">
<br>
</font><font size=2 face="sans-serif"><br>
The GPFSFileSystemAPI and GPFSNodeAPI sensor metrics are from the point
of view of &quot;applications&quot; in the sense that they provide stats
about I/O requests made to files in GPFS file systems from user level applications
using POSIX interfaces like open(), close(), read(), write(), etc.</font><font size=2 face="Calibri">
<br>
</font><font size=2 face="sans-serif"><br>
This is in contrast to similarly named sensors without the &quot;API&quot;
suffix, like GPFSFilesystem and GPFSNode. &nbsp;Those sensors provide stats
about I/O requests made by the GPFS code to NSDs (disks) making up GPFS
file systems.</font><font size=2 face="Calibri"> <br>
</font><font size=2 face="sans-serif"><br>
The relationship between application I/O and disk I/O might or might not
be obvious. &nbsp;Consider some examples. &nbsp;An application that starts
sequentially reading a file might, at least initially, cause more disk
I/O than expected because GPFS has decided to prefetch data. &nbsp;An application
write() might not immediately cause a the writing of disk blocks due to
the operation of the pagepool. &nbsp;Ultimately, application write()s might
cause twice as much data written to disk due to the replication factor
of the file system. &nbsp;Application I/O concerns itself with user data;
disk I/O might have to occur to handle the user data and associated file
system metadata (like inodes and indirect blocks).</font><font size=2 face="Calibri">
<br>
</font><font size=2 face="sans-serif"><br>
The difference between GPFSFileSystemAPI and GPFSNodeAPI: GPFSFileSystemAPI
reports stats for application I/O per filesystem per node; GPFSNodeAPI
reports application I/O stats per node. &nbsp;Similarly, GPFSFilesystem
reports stats for disk I/O per filesystem per node; GPFSNode reports disk
I/O stats per node.</font><font size=2 face="Calibri"> <br>
</font><font size=2 face="sans-serif"><br>
I hope this helps.</font><font size=2 face="Calibri"> </font><font size=2 face="sans-serif"><br>
Eric Agar</font><font size=2 face="Calibri"> <br>
<br>
</font><font size=2 face="sans-serif"><br>
Regards, The Spectrum Scale (GPFS) team<br>
<br>
------------------------------------------------------------------------------------------------------------------<br>
If you feel that your question can benefit other users of &nbsp;Spectrum
Scale (GPFS), then please post it to the public IBM developerWroks Forum
at </font><a href="https://urldefense.proofpoint.com/v2/url?u=https-3A__www.ibm.com_developerworks_community_forums_html_forum-3Fid-3D11111111-2D0000-2D0000-2D0000-2D000000000479&amp;d=DwMGaQ&amp;c=djjh8EKwHtOepW4Bjau0lKhLlu-DxM1dlgP0rrLsOzY&amp;r=LPDewt1Z4o9eKc86MXmhqX-45Cz1yz1ylYELF9olLKU&amp;m=5sAByjnB2P9tv298gm9m1cJjOe9Sjm2TqyQYw-vXIDo&amp;s=AkUR-geA0jejuYEiraffUNtNEXHMtZG6k-r-k1lEwpU&amp;e="><font size=2 color=blue face="sans-serif"><u>https://www.ibm.com/developerworks/community/forums/html/forum?id=11111111-0000-0000-0000-000000000479</u></font></a><font size=2 face="sans-serif">.
<br>
<br>
If your query concerns a potential software error in Spectrum Scale (GPFS)
and you have an IBM software maintenance contract please contact &nbsp;1-800-237-5511
in the United States or your local IBM Service Center in other countries.
<br>
<br>
The forum is informally monitored as time permits and should not be used
for priority messages to the Spectrum Scale (GPFS) team.</font><font size=2 face="Calibri">
<br>
<br>
<br>
</font><font size=1 color=#5f5f5f face="sans-serif"><br>
From: &nbsp; &nbsp; &nbsp; &nbsp;</font><font size=1 face="sans-serif">&quot;Oesterlin,
Robert&quot; &lt;Robert.Oesterlin@nuance.com&gt;</font><font size=2 face="Calibri">
</font><font size=1 color=#5f5f5f face="sans-serif"><br>
To: &nbsp; &nbsp; &nbsp; &nbsp;</font><font size=1 face="sans-serif">gpfsug
main discussion list &lt;gpfsug-discuss@spectrumscale.org&gt;</font><font size=2 face="Calibri">
</font><font size=1 color=#5f5f5f face="sans-serif"><br>
Date: &nbsp; &nbsp; &nbsp; &nbsp;</font><font size=1 face="sans-serif">06/12/2017
04:43 PM</font><font size=2 face="Calibri"> </font><font size=1 color=#5f5f5f face="sans-serif"><br>
Subject: &nbsp; &nbsp; &nbsp; &nbsp;</font><font size=1 face="sans-serif">Re:
[gpfsug-discuss] Meaning of API Stats Category</font><font size=2 face="Calibri">
</font><font size=1 color=#5f5f5f face="sans-serif"><br>
Sent by: &nbsp; &nbsp; &nbsp; &nbsp;</font><font size=1 face="sans-serif">gpfsug-discuss-bounces@spectrumscale.org</font><font size=2 face="Calibri">
</font>
<div align=center>
<hr noshade></div>
<br><font size=2 face="Calibri"><br>
<br>
</font><font size=2 face="Calibri"><br>
Hi Kristy</font><font size=2 face="Calibri"> </font><font size=2 face="Calibri"><br>
 </font><font size=2 face="Calibri">&nbsp;</font><font size=2 face="Calibri"><br>
What I *think* the difference is:</font><font size=2 face="Calibri"> </font><font size=2 face="Calibri"><br>
 </font><font size=2 face="Calibri">&nbsp;</font><font size=2 face="Calibri"><br>
gpfs_fis: - calls to the GPFS file system interface</font><font size=2 face="Calibri">
</font><font size=2 face="Calibri"><br>
gpfs_fs: calls from the node that actually make it to the NSD server/metadata</font><font size=2 face="Calibri">
</font><font size=2 face="Calibri"><br>
 </font><font size=2 face="Calibri">&nbsp;</font><font size=2 face="Calibri"><br>
The difference being what\u2019s served out of the local node pagepool.</font><font size=2 face="Calibri">
</font><font size=2 face="Calibri"><br>
 </font><font size=2 face="Calibri">&nbsp;</font><font size=2 face="Calibri"><br>
Bob Oesterlin<br>
Sr Principal Storage Engineer, Nuance</font><font size=2 face="Calibri"><br>
</font><font size=2 face="Calibri"><br>
 </font><font size=2 face="Calibri">&nbsp;</font><font size=3 face="Calibri"><b><br>
From: </b>&lt;gpfsug-discuss-bounces@spectrumscale.org&gt; on behalf of
Kristy Kallback-Rose &lt;kkr@lbl.gov&gt;<b><br>
Reply-To: </b>gpfsug main discussion list &lt;gpfsug-discuss@spectrumscale.org&gt;<b><br>
Date: </b>Monday, June 12, 2017 at 3:17 PM<b><br>
To: </b>gpfsug main discussion list &lt;gpfsug-discuss@spectrumscale.org&gt;<b><br>
Subject: </b>[EXTERNAL] [gpfsug-discuss] Meaning of API Stats Category</font><font size=2 face="Calibri">
</font><font size=2 face="Calibri"><br>
 </font><font size=2 face="Calibri">&nbsp;</font><font size=2 face="Calibri"><br>
Hi, <br>
 </font><font size=2 face="Calibri">&nbsp;</font><font size=2 face="Calibri"><br>
 &nbsp;Can anyone provide more detail about what is meant by the following
two categories of stats? The PDG has a limited description as far as I
could see. I'm not sure what is meant by Application PoV. Would the Grafana
bridge count as an &quot;application&quot;?</font><font size=2 face="Calibri">
</font><font size=2 face="Calibri"><br>
 </font><font size=2 face="Calibri">&nbsp;</font><font size=2 face="Calibri"><br>
 </font><font size=2 face="Courier New">_______________________________________________<br>
gpfsug-discuss mailing list<br>
gpfsug-discuss at spectrumscale.org</font><font size=2 color=blue face="Calibri"><u><br>
</u></font><a href="https://urldefense.proofpoint.com/v2/url?u=http-3A__gpfsug.org_mailman_listinfo_gpfsug-2Ddiscuss&amp;d=DwMGaQ&amp;c=djjh8EKwHtOepW4Bjau0lKhLlu-DxM1dlgP0rrLsOzY&amp;r=LPDewt1Z4o9eKc86MXmhqX-45Cz1yz1ylYELF9olLKU&amp;m=5sAByjnB2P9tv298gm9m1cJjOe9Sjm2TqyQYw-vXIDo&amp;s=b65SdhLjucv9k789Livfsbk7DozTcQn6rCOB0zM21tE&amp;e="><font size=2 color=blue face="Courier New"><u>http://gpfsug.org/mailman/listinfo/gpfsug-discuss</u></font></a><font size=2 face="Calibri"><br>
<br>
<br>
</font>
<br>
<br>