<div class="socmaildefaultfont" dir="ltr" style="font-family:Arial, Helvetica, sans-serif;font-size:10.5pt" ><div dir="ltr" >In GPFS blocks within a file are never fragmented.&nbsp; For example, if you have a file of size 7.3 MB and your file system block size is 1MB, then this file will be made up of 7 full blocks and one fragment of size 320k (10 subblocks).&nbsp; Each of the 7 full blocks will be contiguous on a singe diks (LUN) behind a single NSD server.&nbsp; The fragment that makes up the last part of the file will also be contiguous on a single disk, just shorter than a full block.</div>
<div dir="ltr" >&nbsp;</div>
<div dir="ltr" >Frank Schmuck<br>IBM Almaden Research Center<br>&nbsp;</div>
<div dir="ltr" >&nbsp;</div>
<blockquote data-history-content-modified="1" dir="ltr" style="border-left:solid #aaaaaa 2px; margin-left:5px; padding-left:5px; direction:ltr; margin-right:0px" >----- Original message -----<br>From: Aaron Knister &lt;aaron.s.knister@nasa.gov&gt;<br>Sent by: gpfsug-discuss-bounces@spectrumscale.org<br>To: &lt;gpfsug-discuss@spectrumscale.org&gt;<br>Cc:<br>Subject: Re: [gpfsug-discuss] file layout API + file fragmentation<br>Date: Sun, Nov 5, 2017 3:39 PM<br>&nbsp;
<div><font face="Default Monospace,Courier New,Courier,monospace" size="2" >Thanks Marc, that helps. I can't easily use tsdbfs for what I'm working<br>on since it needs to be run as unprivileged users.<br><br>Perhaps I'm not asking the right question. I'm wondering how the file<br>layout api behaves if a given "block"-aligned offset in a file is made<br>up of sub-blocks/fragments that are not all on the same NSD. The<br>assumption based on how I've seen the API used so far is that all<br>sub-blocks within a block at a given offset within a file are all on the<br>same NSD.<br><br>-Aaron<br><br>On 11/5/17 6:01 PM, Marc A Kaplan wrote:<br>&gt; I googled GPFS_FCNTL_GET_DATABLKDISKIDX<br>&gt;<br>&gt; and found this discussion:<br>&gt;<br>&gt; Â&nbsp;<a href="https://www.ibm.com/developerworks/community/forums/html/topic?id=db48b190-4f2f-4e24-a035-25d3e2b06b2d&amp;ps=50" target="_blank" >https://www.ibm.com/developerworks/community/forums/html/topic?id=db48b190-4f2f-4e24-a035-25d3e2b06b2d&amp;ps=50</a><br>&gt;<br>&gt; In general, GPFS files ARE deliberately "fragmented" but we don't say<br>&gt; that - we say they are "striped" over many disks -- and that is<br>&gt; generally a good thing for parallel performance.<br>&gt;<br>&gt; Also, in GPFS, if the last would-be block of a file is less than a<br>&gt; block, then it is stored in a "fragment" of a block. Â&nbsp;<br>&gt; So you see we use "fragment" to mean something different than other file<br>&gt; systems you may know.<br>&gt;<br>&gt; --marc<br>&gt;<br>&gt;<br>&gt;<br>&gt; From: Â&nbsp; Â&nbsp; Â&nbsp; Â&nbsp;Aaron Knister &lt;aaron.s.knister@nasa.gov&gt;<br>&gt; To: Â&nbsp; Â&nbsp; Â&nbsp; Â&nbsp;gpfsug main discussion list &lt;gpfsug-discuss@spectrumscale.org&gt;<br>&gt; Date: Â&nbsp; Â&nbsp; Â&nbsp; Â&nbsp;11/04/2017 12:22 PM<br>&gt; Subject: Â&nbsp; Â&nbsp; Â&nbsp; Â&nbsp;[gpfsug-discuss] file layout API + file fragmentation<br>&gt; Sent by: Â&nbsp; Â&nbsp; Â&nbsp; Â&nbsp;gpfsug-discuss-bounces@spectrumscale.org<br>&gt; ------------------------------------------------------------------------<br>&gt;<br>&gt;<br>&gt;<br>&gt; I've got a question about the file layout API and how it reacts in the<br>&gt; case of fragmented files.<br>&gt;<br>&gt; I'm using the GPFS_FCNTL_GET_DATABLKDISKIDX structure and have some code<br>&gt; based on tsGetDataBlk.C. I'm basing the block size based off of what's<br>&gt; returned by filemapOut.blockSize but that only seems to return a value &gt;<br>&gt; 0 when filemapIn.startOffset is 0.<br>&gt;<br>&gt; In a case where a file were to be made up of a significant number of<br>&gt; non-contiguous fragments (which... would be awful in of itself) how<br>&gt; would this be reported by the file layout API? Does the interface<br>&gt; technically just report the disk location information of the first block<br>&gt; of the $blockSize range and assume that it's contiguous?<br>&gt;<br>&gt; Thanks!<br>&gt;<br>&gt; -Aaron<br>&gt;<br>&gt; --<br>&gt; Aaron Knister<br>&gt; NASA Center for Climate Simulation (Code 606.2)<br>&gt; Goddard Space Flight Center<br>&gt; (301) 286-2776<br>&gt; _______________________________________________<br>&gt; gpfsug-discuss mailing list<br>&gt; gpfsug-discuss at spectrumscale.org<br>&gt; <a href="https://urldefense.proofpoint.com/v2/url?u=http-3A__gpfsug.org_mailman_listinfo_gpfsug-2Ddiscuss&amp;d=DwICAg&amp;c=jf_iaSHvJObTbx-siA1ZOg&amp;r=cvpnBBH0j41aQy0RPiG2xRL_M8mTc1izuQD3_PmtjZ8&amp;m=wnR7m6d4urZ_8dM4mkHQjMbFD9xJEeesmJyzt1osCnM&amp;s=-dgGO6O5i1EqWj-8MmzjxJ1Iz2I5gT1aRmtyP44Cvdg&amp;e=" target="_blank" >https://urldefense.proofpoint.com/v2/url?u=http-3A__gpfsug.org_mailman_listinfo_gpfsug-2Ddiscuss&amp;d=DwICAg&amp;c=jf_iaSHvJObTbx-siA1ZOg&amp;r=cvpnBBH0j41aQy0RPiG2xRL_M8mTc1izuQD3_PmtjZ8&amp;m=wnR7m6d4urZ_8dM4mkHQjMbFD9xJEeesmJyzt1osCnM&amp;s=-dgGO6O5i1EqWj-8MmzjxJ1Iz2I5gT1aRmtyP44Cvdg&amp;e=</a><br>&gt;<br>&gt;<br>&gt;<br>&gt;<br>&gt;<br>&gt;<br>&gt; _______________________________________________<br>&gt; gpfsug-discuss mailing list<br>&gt; gpfsug-discuss at spectrumscale.org<br>&gt; <a href="https://urldefense.proofpoint.com/v2/url?u=http-3A__gpfsug.org_mailman_listinfo_gpfsug-2Ddiscuss&amp;d=DwIF-g&amp;c=jf_iaSHvJObTbx-siA1ZOg&amp;r=ai3ddVzf50ktH78ovGv6NU4O2LZUOWLpiUiggb8lEgA&amp;m=pUdB4fbWLD03ZTAhk9OlpRdIasz628Oa_yG8z8NOjsk&amp;s=kisarJ7IVnyYBx05ZZiGzdwaXnPqNR8UJoywU1OJNRU&amp;e=" target="_blank" >https://urldefense.proofpoint.com/v2/url?u=http-3A__gpfsug.org_mailman_listinfo_gpfsug-2Ddiscuss&amp;d=DwIF-g&amp;c=jf_iaSHvJObTbx-siA1ZOg&amp;r=ai3ddVzf50ktH78ovGv6NU4O2LZUOWLpiUiggb8lEgA&amp;m=pUdB4fbWLD03ZTAhk9OlpRdIasz628Oa_yG8z8NOjsk&amp;s=kisarJ7IVnyYBx05ZZiGzdwaXnPqNR8UJoywU1OJNRU&amp;e=</a><br>&gt;<br><br>--<br>Aaron Knister<br>NASA Center for Climate Simulation (Code 606.2)<br>Goddard Space Flight Center<br>(301) 286-2776<br>_______________________________________________<br>gpfsug-discuss mailing list<br>gpfsug-discuss at spectrumscale.org<br><a href="https://urldefense.proofpoint.com/v2/url?u=http-3A__gpfsug.org_mailman_listinfo_gpfsug-2Ddiscuss&amp;d=DwIF-g&amp;c=jf_iaSHvJObTbx-siA1ZOg&amp;r=ai3ddVzf50ktH78ovGv6NU4O2LZUOWLpiUiggb8lEgA&amp;m=pUdB4fbWLD03ZTAhk9OlpRdIasz628Oa_yG8z8NOjsk&amp;s=kisarJ7IVnyYBx05ZZiGzdwaXnPqNR8UJoywU1OJNRU&amp;e=" target="_blank" >https://urldefense.proofpoint.com/v2/url?u=http-3A__gpfsug.org_mailman_listinfo_gpfsug-2Ddiscuss&amp;d=DwIF-g&amp;c=jf_iaSHvJObTbx-siA1ZOg&amp;r=ai3ddVzf50ktH78ovGv6NU4O2LZUOWLpiUiggb8lEgA&amp;m=pUdB4fbWLD03ZTAhk9OlpRdIasz628Oa_yG8z8NOjsk&amp;s=kisarJ7IVnyYBx05ZZiGzdwaXnPqNR8UJoywU1OJNRU&amp;e=</a></font><br>&nbsp;</div></blockquote>
<div dir="ltr" >&nbsp;</div></div><BR>