<html xmlns:v="urn:schemas-microsoft-com:vml" xmlns:o="urn:schemas-microsoft-com:office:office" xmlns:w="urn:schemas-microsoft-com:office:word" xmlns:m="http://schemas.microsoft.com/office/2004/12/omml" xmlns="http://www.w3.org/TR/REC-html40">
<head>
<meta http-equiv="Content-Type" content="text/html; charset=utf-8">
<meta name="Generator" content="Microsoft Word 15 (filtered medium)">
<style><!--
/* Font Definitions */
@font-face
        {font-family:"Cambria Math";
        panose-1:2 4 5 3 5 4 6 3 2 4;}
@font-face
        {font-family:Calibri;
        panose-1:2 15 5 2 2 2 4 3 2 4;}
/* Style Definitions */
p.MsoNormal, li.MsoNormal, div.MsoNormal
        {margin:0cm;
        margin-bottom:.0001pt;
        font-size:11.0pt;
        font-family:"Calibri",sans-serif;}
a:link, span.MsoHyperlink
        {mso-style-priority:99;
        color:blue;
        text-decoration:underline;}
a:visited, span.MsoHyperlinkFollowed
        {mso-style-priority:99;
        color:purple;
        text-decoration:underline;}
p.msonormal0, li.msonormal0, div.msonormal0
        {mso-style-name:msonormal;
        mso-margin-top-alt:auto;
        margin-right:0cm;
        mso-margin-bottom-alt:auto;
        margin-left:0cm;
        font-size:11.0pt;
        font-family:"Calibri",sans-serif;}
span.EmailStyle18
        {mso-style-type:personal-reply;
        font-family:"Calibri",sans-serif;
        color:windowtext;}
.MsoChpDefault
        {mso-style-type:export-only;
        font-size:10.0pt;}
@page WordSection1
        {size:612.0pt 792.0pt;
        margin:72.0pt 72.0pt 72.0pt 72.0pt;}
div.WordSection1
        {page:WordSection1;}
--></style><!--[if gte mso 9]><xml>
<o:shapedefaults v:ext="edit" spidmax="1026" />
</xml><![endif]--><!--[if gte mso 9]><xml>
<o:shapelayout v:ext="edit">
<o:idmap v:ext="edit" data="1" />
</o:shapelayout></xml><![endif]-->
</head>
<body lang="EN-GB" link="blue" vlink="purple">
<div class="WordSection1">
<p class="MsoNormal"><span style="mso-fareast-language:EN-US">We tend to get the maintenance company to down-grade the firmware to match what we have for our aging hardware, before sending it to us.<o:p></o:p></span></p>
<p class="MsoNormal"><span style="mso-fareast-language:EN-US">I assume this isn\u2019t an option?<o:p></o:p></span></p>
<p class="MsoNormal"><span style="mso-fareast-language:EN-US"><o:p>&nbsp;</o:p></span></p>
<div>
<p class="MsoNormal">Paul Ward<o:p></o:p></p>
<p class="MsoNormal">Technical Solutions Infrastructure Architect<o:p></o:p></p>
<p class="MsoNormal">Natural History Museum<o:p></o:p></p>
<p class="MsoNormal">T: 02079426450<o:p></o:p></p>
<p class="MsoNormal">E: p.ward@nhm.ac.uk<o:p></o:p></p>
</div>
<p class="MsoNormal"><span style="mso-fareast-language:EN-US"><o:p>&nbsp;</o:p></span></p>
<div>
<div style="border:none;border-top:solid #E1E1E1 1.0pt;padding:3.0pt 0cm 0cm 0cm">
<p class="MsoNormal"><b><span lang="EN-US">From:</span></b><span lang="EN-US"> gpfsug-discuss-bounces@spectrumscale.org [mailto:gpfsug-discuss-bounces@spectrumscale.org]
<b>On Behalf Of </b>Buterbaugh, Kevin L<br>
<b>Sent:</b> 08 February 2018 16:00<br>
<b>To:</b> gpfsug main discussion list &lt;gpfsug-discuss@spectrumscale.org&gt;<br>
<b>Subject:</b> [gpfsug-discuss] mmchdisk suspend / stop<o:p></o:p></span></p>
</div>
</div>
<p class="MsoNormal"><o:p>&nbsp;</o:p></p>
<p class="MsoNormal">Hi All, <o:p></o:p></p>
<div>
<p class="MsoNormal"><o:p>&nbsp;</o:p></p>
</div>
<div>
<p class="MsoNormal">We are in a bit of a difficult situation right now with one of our non-IBM hardware vendors (I know, I know, I KNOW - buy IBM hardware! &lt;grin&gt;) and are looking for some advice on how to deal with this unfortunate situation.<o:p></o:p></p>
</div>
<div>
<p class="MsoNormal"><o:p>&nbsp;</o:p></p>
</div>
<p class="MsoNormal">We have a non-IBM FC storage array with dual-\u201credundant\u201d controllers. &nbsp;One of those controllers is dead and the vendor is sending us a replacement. &nbsp;However, the replacement controller will have mis-matched firmware with the surviving controller
 and - long story short - the vendor says there is no way to resolve that without taking the storage array down for firmware upgrades. &nbsp;Needless to say there\u2019s more to that story than what I\u2019ve included here, but I won\u2019t bore everyone with unnecessary details.
<o:p></o:p></p>
<div>
<p class="MsoNormal"><o:p>&nbsp;</o:p></p>
</div>
<div>
<p class="MsoNormal">The storage array has 5 NSDs on it, but fortunately enough they are part of our \u201ccapacity\u201d pool \u2026 i.e. the only way a file lands here is if an mmapplypolicy scan moved it there because the *access* time is greater than 90 days. &nbsp;Filesystem
 data replication is set to one.<o:p></o:p></p>
</div>
<div>
<p class="MsoNormal"><o:p>&nbsp;</o:p></p>
</div>
<div>
<p class="MsoNormal">So \u2026 what I was wondering if I could do is to use mmchdisk to either suspend or (preferably) stop those NSDs, do the firmware upgrade, and resume the NSDs? &nbsp;The problem I see is that suspend doesn\u2019t stop I/O, it only prevents the allocation
 of new blocks \u2026 so, in theory, if a user suddenly decided to start using a file they hadn\u2019t needed for 3 months then I\u2019ve got a problem. &nbsp;Stopping all I/O to the disks is what I really want to do. &nbsp;However, according to the mmchdisk man page stop cannot be
 used on a filesystem with replication set to one.<o:p></o:p></p>
</div>
<div>
<p class="MsoNormal"><o:p>&nbsp;</o:p></p>
</div>
<div>
<p class="MsoNormal">There\u2019s over 250 TB of data on those 5 NSDs, so restriping off of them or setting replication to two are not options.<o:p></o:p></p>
</div>
<div>
<p class="MsoNormal"><o:p>&nbsp;</o:p></p>
</div>
<div>
<p class="MsoNormal">It is very unlikely that anyone would try to access a file on those NSDs during the hour or so I\u2019d need to do the firmware upgrades, but how would GPFS itself react to those (suspended) disks going away for a while? &nbsp;I\u2019m thinking I could
 be OK if there was just a way to actually stop them rather than suspend them. &nbsp;Any undocumented options to mmchdisk that I\u2019m not aware of???<o:p></o:p></p>
</div>
<div>
<p class="MsoNormal"><o:p>&nbsp;</o:p></p>
</div>
<div>
<p class="MsoNormal" style="margin-bottom:12.0pt">Are there other options - besides buying IBM hardware - that I am overlooking? &nbsp;Thanks...<o:p></o:p></p>
<div>
<div>
<p class="MsoNormal">\u2014<o:p></o:p></p>
</div>
<div>
<p class="MsoNormal">Kevin Buterbaugh - Senior System Administrator<o:p></o:p></p>
</div>
<div>
<p class="MsoNormal">Vanderbilt University - Advanced Computing Center for Research and Education<o:p></o:p></p>
</div>
<div>
<p class="MsoNormal"><a href="mailto:Kevin.Buterbaugh@vanderbilt.edu">Kevin.Buterbaugh@vanderbilt.edu</a>&nbsp;- (615)875-9633<o:p></o:p></p>
</div>
<div>
<p class="MsoNormal"><o:p>&nbsp;</o:p></p>
</div>
<p class="MsoNormal"><o:p>&nbsp;</o:p></p>
</div>
<p class="MsoNormal"><o:p>&nbsp;</o:p></p>
</div>
</div>
</body>
</html>