<html>
<head>
<meta http-equiv="Content-Type" content="text/html; charset=utf-8">
</head>
<body style="word-wrap: break-word; -webkit-nbsp-mode: space; -webkit-line-break: after-white-space; color: rgb(0, 0, 0); font-size: 14px; font-family: Helvetica, sans-serif;">
<div>
<div>Hi Jamie</div>
<div><br>
</div>
<div>I have some fairly large clusters (tho not as large as you describe) running on \u201croll your own\u201d storage subsystem of various types. You\u2019re asking a broad question here on performance and rebuild times. I can\u2019t speak to a comparison with ESS (I\u2019m sure IBM
 can comment) but if you want to discuss some of my experiences with larger clusters, HD, performace (multi PB) I\u2019d be happy to do so. You can drop me a note:&nbsp;<span style="font-family: Helvetica;">robert.oesterlin@nuance.com and we can chat at length.</span></div>
<div>
<div id="">
<div style="color: rgb(0, 0, 0); font-family: Calibri, sans-serif; font-size: 14px;">
<span style="font-family: Calibri; font-size: medium;"><br>
</span></div>
<div style="color: rgb(0, 0, 0); font-family: Helvetica, sans-serif; font-size: 14px;">
<font face="Helvetica">Bob Oesterlin<br>
Sr Storage Engineer, Nuance HPC Grid<br>
<br>
</font></div>
<div style="color: rgb(0, 0, 0); font-family: Calibri, sans-serif; font-size: 14px;">
<br>
</div>
</div>
</div>
</div>
<div><br>
</div>
<span id="OLK_SRC_BODY_SECTION">
<div style="font-family:Calibri; font-size:12pt; text-align:left; color:black; BORDER-BOTTOM: medium none; BORDER-LEFT: medium none; PADDING-BOTTOM: 0in; PADDING-LEFT: 0in; PADDING-RIGHT: 0in; BORDER-TOP: #b5c4df 1pt solid; BORDER-RIGHT: medium none; PADDING-TOP: 3pt">
<span style="font-weight:bold">From: </span>&lt;<a href="mailto:gpfsug-discuss-bounces@spectrumscale.org">gpfsug-discuss-bounces@spectrumscale.org</a>&gt; on behalf of Jaime Pinto &lt;<a href="mailto:pinto@scinet.utoronto.ca">pinto@scinet.utoronto.ca</a>&gt;<br>
<span style="font-weight:bold">Reply-To: </span>gpfsug main discussion list &lt;<a href="mailto:gpfsug-discuss@spectrumscale.org">gpfsug-discuss@spectrumscale.org</a>&gt;<br>
<span style="font-weight:bold">Date: </span>Tuesday, March 15, 2016 at 2:39 PM<br>
<span style="font-weight:bold">To: </span>&quot;<a href="mailto:gpfsug-discuss@gpfsug.org">gpfsug-discuss@gpfsug.org</a>&quot; &lt;<a href="mailto:gpfsug-discuss@gpfsug.org">gpfsug-discuss@gpfsug.org</a>&gt;<br>
<span style="font-weight:bold">Subject: </span>[gpfsug-discuss] Use of commodity HDs on large GPFS client base clusters?<br>
</div>
<div><br>
</div>
<div>
<div>
<div>I'd like to hear about performance consideration from sites that may&nbsp;&nbsp;</div>
<div>be using &quot;non-IBM sanctioned&quot; storage hardware or appliance, such as&nbsp;&nbsp;</div>
<div>DDN, GSS, ESS (we have all of these).</div>
<div><br>
</div>
<div>For instance, how could that compare with ESS, which I understand has&nbsp;&nbsp;</div>
<div>some sort of &quot;dispersed parity&quot; feature, that substantially diminishes&nbsp;&nbsp;</div>
<div>rebuilt time in case of HD failures.</div>
<div><br>
</div>
<div>I'm particularly interested on HPC sites with 5000&#43; clients mounting&nbsp;&nbsp;</div>
<div>such commodity NSD's&#43;HD's setup.</div>
<div><br>
</div>
<div>Thanks</div>
<div>Jaime</div>
<div><br>
</div>
<div><br>
</div>
<div>---</div>
<div>Jaime Pinto</div>
<div>SciNet HPC Consortium&nbsp;&nbsp;- Compute/Calcul Canada</div>
<div>www.scinet.utoronto.ca - www.computecanada.org</div>
<div>University of Toronto</div>
<div>256 McCaul Street, Room 235</div>
<div>Toronto, ON, M5T1W5</div>
<div>P: 416-978-2755</div>
<div>C: 416-505-1477</div>
<div><br>
</div>
<div>----------------------------------------------------------------</div>
<div>This message was sent using IMP at SciNet Consortium, University of Toronto.</div>
<div><br>
</div>
<div><br>
</div>
<div>_______________________________________________</div>
<div>gpfsug-discuss mailing list</div>
<div>gpfsug-discuss at spectrumscale.org</div>
<div><a href="https://urldefense.proofpoint.com/v2/url?u=http-3A__gpfsug.org_mailman_listinfo_gpfsug-2Ddiscuss&amp;d=CwICAg&amp;c=djjh8EKwHtOepW4Bjau0lKhLlu-DxM1dlgP0rrLsOzY&amp;r=LPDewt1Z4o9eKc86MXmhqX-45Cz1yz1ylYELF9olLKU&amp;m=UIC7jY_blq8j34WiQM1a8cheHzbYW0sYS-ofA3if_Hk&amp;s=MtunFkJSGpXWNdEkMqluTY-CYIC4uaMz7LiZ7JFob8c&amp;e=">https://urldefense.proofpoint.com/v2/url?u=http-3A__gpfsug.org_mailman_listinfo_gpfsug-2Ddiscuss&amp;d=CwICAg&amp;c=djjh8EKwHtOepW4Bjau0lKhLlu-DxM1dlgP0rrLsOzY&amp;r=LPDewt1Z4o9eKc86MXmhqX-45Cz1yz1ylYELF9olLKU&amp;m=UIC7jY_blq8j34WiQM1a8cheHzbYW0sYS-ofA3if_Hk&amp;s=MtunFkJSGpXWNdEkMqluTY-CYIC4uaMz7LiZ7JFob8c&amp;e=</a>
</div>
<div><br>
</div>
</div>
</div>
</span>
</body>
</html>