<!DOCTYPE HTML PUBLIC "-//W3C//DTD HTML 4.0//EN" "http://www.w3.org/TR/REC-html40/strict.dtd">
<html><head><meta name="qrichtext" content="1" /><style type="text/css">
p, li { white-space: pre-wrap; }
</style></head><body style=" font-family:'Sans Serif'; font-size:10pt; font-weight:400; font-style:normal;">
<p style=" margin-top:0px; margin-bottom:0px; margin-left:0px; margin-right:0px; -qt-block-indent:0; text-indent:0px; -qt-user-state:0;">Last time I checked torque killed all jobs on a node when the memory pressure limit was exceeded.  See this thread for the details</p>
<p style="-qt-paragraph-type:empty; margin-top:0px; margin-bottom:0px; margin-left:0px; margin-right:0px; -qt-block-indent:0; text-indent:0px; ">&nbsp;</p>
<p style=" margin-top:0px; margin-bottom:0px; margin-left:0px; margin-right:0px; -qt-block-indent:0; text-indent:0px; -qt-user-state:0;">http://www.clusterresources.com/pipermail/torqueusers/2011-November/013609.html</p>
<p style="-qt-paragraph-type:empty; margin-top:0px; margin-bottom:0px; margin-left:0px; margin-right:0px; -qt-block-indent:0; text-indent:0px; ">&nbsp;</p>
<p style=" margin-top:0px; margin-bottom:0px; margin-left:0px; margin-right:0px; -qt-block-indent:0; text-indent:0px; -qt-user-state:0;">r.</p>
<p style="-qt-paragraph-type:empty; margin-top:0px; margin-bottom:0px; margin-left:0px; margin-right:0px; -qt-block-indent:0; text-indent:0px; ">&nbsp;</p>
<p style="-qt-paragraph-type:empty; margin-top:0px; margin-bottom:0px; margin-left:0px; margin-right:0px; -qt-block-indent:0; text-indent:0px; ">&nbsp;</p>
<p style=" margin-top:0px; margin-bottom:0px; margin-left:0px; margin-right:0px; -qt-block-indent:0; text-indent:0px; -qt-user-state:0;">On Wednesday, June 06, 2012 21:44:57 Grigory Shamov wrote:<br /></p>
<p style="-qt-paragraph-type:empty; margin-top:0px; margin-bottom:0px; margin-left:0px; margin-right:0px; -qt-block-indent:0; text-indent:0px; ">&nbsp;</p>
<table border="0" style=" margin-top:0px; margin-bottom:0px; margin-left:40px; margin-right:40px;" cellspacing="0" cellpadding="0">
<tr>
<td style=" vertical-align:top;">
<p style=" margin-top:0px; margin-bottom:0px; margin-left:0px; margin-right:0px; -qt-block-indent:0; text-indent:0px; -qt-user-state:0;">Hi David,<br /><br />Thanks!<br /><br /> I've tried to run some chemistry codes,  under Torque 3, with and without oversubscription for memory. It seems to work. The pressure  can quickly spike up to, say, 13000 with quite moderate swapping.<br /><br />If there are more than one jobs on the node, and one of them oversubscribes, would it create pressure for all the jobs there?<br /><br />--<br />Grigory Shamov<br /><br /><br />--- On <span style=" font-weight:600;">Mon, 6/4/12, David Beer </span><span style=" font-weight:600; font-style:italic;">&lt;dbeer@adaptivecomputing.com&gt;</span> wrote:<br /></p>
<p style=" margin-top:12px; margin-bottom:12px; margin-left:5px; margin-right:40px; -qt-block-indent:0; text-indent:0px; -qt-user-state:0;"><br />From: David Beer &lt;dbeer@adaptivecomputing.com&gt;<br />Subject: Re: [torqueusers] cpusets in Torque 3.0, memory pressure<br />To: &quot;Torque Users Mailing List&quot; &lt;torqueusers@supercluster.org&gt;<br />Date: Monday, June 4, 2012, 7:27 AM<br /><br /></p>
<p style=" margin-top:0px; margin-bottom:0px; margin-left:5px; margin-right:40px; -qt-block-indent:0; text-indent:0px; -qt-user-state:0;"><a name="yiv2139125507"></a><br /><br /></p>
<p style=" margin-top:0px; margin-bottom:0px; margin-left:5px; margin-right:40px; -qt-block-indent:0; text-indent:0px; -qt-user-state:0;">On Sun, Jun 3, 2012 at 7:47 AM, Grigory Shamov &lt;<a href="/mc/compose?to=gas5x@yahoo.com"><span style=" text-decoration: underline; color:#0057ae;">gas5x@yahoo.com</span></a>&gt; wrote:<br /></p>
<p style="-qt-paragraph-type:empty; margin-top:0px; margin-bottom:0px; margin-left:0px; margin-right:0px; -qt-block-indent:0; text-indent:0px; ">&nbsp;</p>
<table border="0" style=" margin-top:0px; margin-bottom:0px; margin-left:9px; margin-right:40px;" cellspacing="0" cellpadding="0">
<tr>
<td style=" vertical-align:top;">
<p style=" margin-top:12px; margin-bottom:12px; margin-left:0px; margin-right:0px; -qt-block-indent:0; text-indent:0px; -qt-user-state:0;">Dear David,<br /></p>
<p style=" margin-top:12px; margin-bottom:12px; margin-left:0px; margin-right:0px; -qt-block-indent:0; text-indent:0px; -qt-user-state:0;"><br /></p>
<p style=" margin-top:12px; margin-bottom:12px; margin-left:0px; margin-right:0px; -qt-block-indent:0; text-indent:0px; -qt-user-state:0;">Thanks a lot for your  answer! </p>
<p style=" margin-top:12px; margin-bottom:12px; margin-left:0px; margin-right:0px; -qt-block-indent:0; text-indent:0px; -qt-user-state:0;"><br /></p>
<p style=" margin-top:12px; margin-bottom:12px; margin-left:0px; margin-right:0px; -qt-block-indent:0; text-indent:0px; -qt-user-state:0;">What would be a good starting value for the memory pressure threshold, to configure it right? </p></td></tr></table>
<p style=" margin-top:0px; margin-bottom:0px; margin-left:5px; margin-right:40px; -qt-block-indent:0; text-indent:0px; -qt-user-state:0;"><br />I think 1000 is a good starting value.<br /><br />David<br /> </p>
<p style="-qt-paragraph-type:empty; margin-top:0px; margin-bottom:0px; margin-left:0px; margin-right:0px; -qt-block-indent:0; text-indent:0px; ">&nbsp;</p>
<table border="0" style=" margin-top:0px; margin-bottom:0px; margin-left:9px; margin-right:40px;" cellspacing="0" cellpadding="0">
<tr>
<td style=" vertical-align:top;">
<p style=" margin-top:12px; margin-bottom:12px; margin-left:0px; margin-right:0px; -qt-block-indent:0; text-indent:0px; -qt-user-state:0;"><br /></p>
<p style=" margin-top:12px; margin-bottom:12px; margin-left:0px; margin-right:0px; -qt-block-indent:0; text-indent:0px; -qt-user-state:0;">--</p>
<p style=" margin-top:12px; margin-bottom:12px; margin-left:0px; margin-right:0px; -qt-block-indent:0; text-indent:0px; -qt-user-state:0;">Grigory Shamov</p>
<p style=" margin-top:12px; margin-bottom:12px; margin-left:0px; margin-right:0px; -qt-block-indent:0; text-indent:0px; -qt-user-state:0;"><br /></p>
<p style=" margin-top:12px; margin-bottom:12px; margin-left:0px; margin-right:0px; -qt-block-indent:0; text-indent:0px; -qt-user-state:0;"><br /></p>
<p style=" margin-top:0px; margin-bottom:0px; margin-left:0px; margin-right:0px; -qt-block-indent:0; text-indent:0px; -qt-user-state:0;"><br />--- On <span style=" font-weight:600;">Fri, 6/1/12, David Beer </span><span style=" font-weight:600; font-style:italic;">&lt;</span><a href="/mc/compose?to=dbeer@adaptivecomputing.com"><span style=" font-weight:600; font-style:italic; text-decoration: underline; color:#0057ae;">dbeer@adaptivecomputing.com</span></a><span style=" font-weight:600; font-style:italic;">&gt;</span> wrote:<br /></p>
<p style=" margin-top:12px; margin-bottom:12px; margin-left:5px; margin-right:40px; -qt-block-indent:0; text-indent:0px; -qt-user-state:0;"><br />From: David Beer &lt;<a href="/mc/compose?to=dbeer@adaptivecomputing.com"><span style=" text-decoration: underline; color:#0057ae;">dbeer@adaptivecomputing.com</span></a>&gt;<br />Subject: Re: [torqueusers] cpusets in Torque 3.0, memory pressure<br />To: &quot;Torque Users Mailing List&quot; &lt;<a href="/mc/compose?to=torqueusers@supercluster.org"><span style=" text-decoration: underline; color:#0057ae;">torqueusers@supercluster.org</span></a>&gt;<br />Date: Friday, June 1, 2012, 1:07 PM</p>
<p style=" margin-top:0px; margin-bottom:0px; margin-left:5px; margin-right:40px; -qt-block-indent:0; text-indent:0px; -qt-user-state:0;"><br /><br /></p>
<p style=" margin-top:0px; margin-bottom:0px; margin-left:5px; margin-right:40px; -qt-block-indent:0; text-indent:0px; -qt-user-state:0;"><br /><br /></p>
<p style=" margin-top:0px; margin-bottom:0px; margin-left:5px; margin-right:40px; -qt-block-indent:0; text-indent:0px; -qt-user-state:0;">On Fri, Jun 1, 2012 at 11:57 AM, Grigory Shamov &lt;<a href="http://mc/compose?to=gas5x@yahoo.com"><span style=" text-decoration: underline; color:#0057ae;">gas5x@yahoo.com</span></a>&gt; wrote:<br /></p>
<p style=" margin-top:0px; margin-bottom:0px; margin-left:9px; margin-right:40px; -qt-block-indent:0; text-indent:0px; -qt-user-state:0;">Hi,<br /><br />The Torque 3 changelog says &quot; when cpusets are configured and memory pressure enabled, add the ability to check memory pressure for a job. Using $memory_pressure_threshold and $memory_pressure_duration in the mom's config, the admin sets a threshold at  which a job becomes a problem&quot;.<br /><br />Does it work for non-NUMA setup as well? I mean, if I configure it with --enable-cpusets only, but --disable-numa-support ?<br /><br /></p>
<p style=" margin-top:0px; margin-bottom:0px; margin-left:5px; margin-right:40px; -qt-block-indent:0; text-indent:0px; -qt-user-state:0;"><br /></p>
<p style=" margin-top:0px; margin-bottom:0px; margin-left:5px; margin-right:40px; -qt-block-indent:0; text-indent:0px; -qt-user-state:0;">Grigory,</p>
<p style=" margin-top:0px; margin-bottom:0px; margin-left:5px; margin-right:40px; -qt-block-indent:0; text-indent:0px; -qt-user-state:0;"><br /></p>
<p style=" margin-top:0px; margin-bottom:0px; margin-left:5px; margin-right:40px; -qt-block-indent:0; text-indent:0px; -qt-user-state:0;">As long as you set your cpuset up correctly (<a href="http://www.adaptivecomputing.com/resources/docs/torque/3-0-3/a.cmomconfig.php"><span style=" text-decoration: underline; color:#0057ae;">http://www.adaptivecomputing.com/resources/docs/torque/3-0-3/a.cmomconfig.php</span></a>) it will work with or without numa support. </p>
<p style=" margin-top:0px; margin-bottom:0px; margin-left:5px; margin-right:40px; -qt-block-indent:0; text-indent:0px; -qt-user-state:0;"><br /></p>
<p style=" margin-top:0px; margin-bottom:0px; margin-left:5px; margin-right:40px; -qt-block-indent:0; text-indent:0px; -qt-user-state:0;">David</p>
<p style=" margin-top:0px; margin-bottom:0px; margin-left:5px; margin-right:40px; -qt-block-indent:0; text-indent:0px; -qt-user-state:0;"> </p>
<p style=" margin-top:0px; margin-bottom:0px; margin-left:9px; margin-right:40px; -qt-block-indent:0; text-indent:0px; -qt-user-state:0;">--<br />Grigory Shamov<br />HPC Analyst,<br />University of Manitoba<br /><br /><br /><br /><br />_______________________________________________<br />torqueusers mailing list<br /><a href="http://mc/compose?to=torqueusers@supercluster.org"><span style=" text-decoration: underline; color:#0057ae;">torqueusers@supercluster.org</span></a><br /><a href="http://www.supercluster.org/mailman/listinfo/torqueusers"><span style=" text-decoration: underline; color:#0057ae;">http://www.supercluster.org/mailman/listinfo/torqueusers</span></a><br /></p>
<p style=" margin-top:0px; margin-bottom:0px; margin-left:0px; margin-right:0px; -qt-block-indent:0; text-indent:0px; -qt-user-state:0;"><br /><br /></p>
<p style=" margin-top:0px; margin-bottom:0px; margin-left:5px; margin-right:40px; -qt-block-indent:0; text-indent:0px; -qt-user-state:0;"><br /></p>
<p style=" margin-top:0px; margin-bottom:0px; margin-left:0px; margin-right:0px; -qt-block-indent:0; text-indent:0px; -qt-user-state:0;">-- <br /></p>
<p style=" margin-top:0px; margin-bottom:0px; margin-left:5px; margin-right:40px; -qt-block-indent:0; text-indent:0px; -qt-user-state:0;">David Beer | Software Engineer</p>
<p style=" margin-top:0px; margin-bottom:0px; margin-left:5px; margin-right:40px; -qt-block-indent:0; text-indent:0px; -qt-user-state:0;">Adaptive Computing<br /></p>
<p style=" margin-top:0px; margin-bottom:0px; margin-left:0px; margin-right:0px; -qt-block-indent:0; text-indent:0px; -qt-user-state:0;"><br /></p>
<p style=" margin-top:0px; margin-bottom:0px; margin-left:0px; margin-right:0px; -qt-block-indent:0; text-indent:0px; -qt-user-state:0;">-----Inline Attachment Follows-----</p>
<p style=" margin-top:0px; margin-bottom:0px; margin-left:5px; margin-right:40px; -qt-block-indent:0; text-indent:0px; -qt-user-state:0;"><br /><br /></p>
<p style=" margin-top:0px; margin-bottom:0px; margin-left:5px; margin-right:40px; -qt-block-indent:0; text-indent:0px; -qt-user-state:0;">_______________________________________________<br />torqueusers mailing list<br /><a href="http://mc/compose?to=torqueusers@supercluster.org"><span style=" text-decoration: underline; color:#0057ae;">torqueusers@supercluster.org</span></a><br /><a href="http://www.supercluster.org/mailman/listinfo/torqueusers"><span style=" text-decoration: underline; color:#0057ae;">http://www.supercluster.org/mailman/listinfo/torqueusers</span></a><br /></p></td></tr></table>
<p style=" margin-top:0px; margin-bottom:0px; margin-left:0px; margin-right:0px; -qt-block-indent:0; text-indent:0px; -qt-user-state:0;"><br />_______________________________________________<br />torqueusers mailing list<br /><a href="/mc/compose?to=torqueusers@supercluster.org"><span style=" text-decoration: underline; color:#0057ae;">torqueusers@supercluster.org</span></a><br /><a href="http://www.supercluster.org/mailman/listinfo/torqueusers"><span style=" text-decoration: underline; color:#0057ae;">http://www.supercluster.org/mailman/listinfo/torqueusers</span></a><br /><br /></p>
<p style=" margin-top:0px; margin-bottom:0px; margin-left:0px; margin-right:0px; -qt-block-indent:0; text-indent:0px; -qt-user-state:0;"><br /><br /><br />-- <br /></p>
<p style=" margin-top:0px; margin-bottom:0px; margin-left:5px; margin-right:40px; -qt-block-indent:0; text-indent:0px; -qt-user-state:0;">David Beer | Software Engineer</p>
<p style=" margin-top:0px; margin-bottom:0px; margin-left:5px; margin-right:40px; -qt-block-indent:0; text-indent:0px; -qt-user-state:0;">Adaptive Computing<br /></p>
<p style=" margin-top:0px; margin-bottom:0px; margin-left:0px; margin-right:0px; -qt-block-indent:0; text-indent:0px; -qt-user-state:0;"><br />-----Inline Attachment Follows-----<br /><br /></p>
<p style=" margin-top:0px; margin-bottom:0px; margin-left:5px; margin-right:40px; -qt-block-indent:0; text-indent:0px; -qt-user-state:0;">_______________________________________________<br />torqueusers mailing list<br /><a href="/mc/compose?to=torqueusers@supercluster.org"><span style=" text-decoration: underline; color:#0057ae;">torqueusers@supercluster.org</span></a><br /><a href="http://www.supercluster.org/mailman/listinfo/torqueusers"><span style=" text-decoration: underline; color:#0057ae;">http://www.supercluster.org/mailman/listinfo/torqueusers</span></a><br /></p></td></tr></table>
<p style=" margin-top:0px; margin-bottom:0px; margin-left:0px; margin-right:0px; -qt-block-indent:0; text-indent:0px; -qt-user-state:0;"><br /><br /></p>
<p style=" margin-top:0px; margin-bottom:0px; margin-left:0px; margin-right:0px; -qt-block-indent:0; text-indent:0px; -qt-user-state:0;">-- </p>
<p style="-qt-paragraph-type:empty; margin-top:0px; margin-bottom:0px; margin-left:0px; margin-right:0px; -qt-block-indent:0; text-indent:0px; ">&nbsp;</p>
<p style=" margin-top:0px; margin-bottom:0px; margin-left:0px; margin-right:0px; -qt-block-indent:0; text-indent:0px; -qt-user-state:0;">  The Computer Center, University of Tromsų, N-9037 TROMSŲ Norway.</p>
<p style=" margin-top:0px; margin-bottom:0px; margin-left:0px; margin-right:0px; -qt-block-indent:0; text-indent:0px; -qt-user-state:0;">              phone:+47 77 64 41 07, fax:+47 77 64 41 00</p>
<p style=" margin-top:0px; margin-bottom:0px; margin-left:0px; margin-right:0px; -qt-block-indent:0; text-indent:0px; -qt-user-state:0;">        Roy Dragseth, Team Leader, High Performance Computing</p>
<p style=" margin-top:0px; margin-bottom:0px; margin-left:0px; margin-right:0px; -qt-block-indent:0; text-indent:0px; -qt-user-state:0;">         Direct call: +47 77 64 62 56. email: roy.dragseth@uit.no</p>
<p style="-qt-paragraph-type:empty; margin-top:0px; margin-bottom:0px; margin-left:0px; margin-right:0px; -qt-block-indent:0; text-indent:0px; ">&nbsp;</p></body></html>