<html>
<head>
<meta http-equiv="Content-Type" content="text/html; charset=utf-8">
</head>
<body>
<div dir="ltr">I hate admitting this but I\u2019ve found something that\u2019s got me stumped.&nbsp;
<div dir="ltr"><br>
</div>
<div dir="ltr">We have a user running an MPI job on the system. Each rank opens up several output files to which it writes ASCII debug information. The net result across several hundred ranks is an absolute smattering of teeny tiny I/o requests to te underlying
 disks which they don\u2019t appreciate. Performance plummets. The I/o requests are 30 to 80 bytes in size. What I don\u2019t understand is why these write requests aren\u2019t getting batched up into larger write requests to the underlying disks.&nbsp;
<div dir="ltr"><br>
</div>
<div dir="ltr">If I do something like \u201cdf if=/dev/zero of=foo bs=8k\u201d on a node I see that the nasty unaligned 8k io requests are batched up into nice 1M I/o requests before they hit the NSD.&nbsp;</div>
<div dir="ltr"><br>
</div>
<div dir="ltr">As best I can tell the application isn\u2019t doing any fsync\u2019s and isn\u2019t doing direct io to these files.&nbsp;</div>
<div dir="ltr"><br>
</div>
<div dir="ltr">Can anyone explain why seemingly very similar io workloads appear to result in well formed NSD I/O in one case and awful I/o in another?</div>
<div dir="ltr"><br>
</div>
<div dir="ltr">Thanks!</div>
<div dir="ltr"><br>
</div>
<div dir="ltr">-Stumped</div>
</div>
</div>
<span id="draft-break"></span><br>
<br>
</body>
</html>