<div dir="ltr"><br><div class="gmail_extra"><br><br><div class="gmail_quote">On Tue, Sep 24, 2013 at 10:44 AM, Andrus, Brian Contractor <span dir="ltr">&lt;<a href="mailto:bdandrus@nps.edu" target="_blank">bdandrus@nps.edu</a>&gt;</span> wrote:<br>
<blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex">





<div link="blue" vlink="purple" lang="EN-US">
<div>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:&quot;Calibri&quot;,&quot;sans-serif&quot;;color:#1f497d">Ken,<u></u><u></u></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:&quot;Calibri&quot;,&quot;sans-serif&quot;;color:#1f497d"><u></u> <u></u></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:&quot;Calibri&quot;,&quot;sans-serif&quot;;color:#1f497d">Yes, they are in a blocked state (batch hold) per section 10-e of the mwm documentation:<u></u><u></u></span></p>

<p class="MsoNormal" style="margin-right:0in;margin-bottom:6.0pt;margin-left:0in;line-height:12.0pt">
<span style="font-size:10.0pt;font-family:&quot;Verdana&quot;,&quot;sans-serif&quot;;color:#333333">In most cases, a job violating these policies is not placed into a batch hold immediately; rather, it is deferred. The parameter<a href="http://docs.adaptivecomputing.com/mwm/Content/a.fparameters.html#defertime" target="_blank"><span style="color:#9a6dd0;text-decoration:none">DEFERTIME</span></a> indicates
 how long it is deferred. At this time, it is allowed back into the idle queue and again considered for scheduling. If it again is unable to run at that time or at any time in the future, it is again deferred for the timeframe specified by DEFERTIME. A job
 is released and deferred up to <a href="http://docs.adaptivecomputing.com/mwm/Content/a.fparameters.html#defercount" target="_blank"><span style="color:#9a6dd0;text-decoration:none">DEFERCOUNT</span></a> times at which point the scheduler places a batch hold on the job and
 waits for a system administrator to determine the correct course of action. Deferred jobs have a Moab state of </span><span style="font-size:10.0pt;font-family:&quot;Courier New&quot;;color:#333333">Deferred</span><span style="font-size:10.0pt;font-family:&quot;Verdana&quot;,&quot;sans-serif&quot;;color:#333333">.
 As with jobs in the BatchHold state, the reason the job was deferred can be determined by use of the </span><span style="font-size:10.5pt;font-family:&quot;Candara&quot;,&quot;sans-serif&quot;;color:#81898f">checkjob</span><span style="font-size:10.0pt;font-family:&quot;Verdana&quot;,&quot;sans-serif&quot;;color:#333333"> command.<u></u><u></u></span></p>

<p class="MsoNormal" style="margin-right:0in;margin-bottom:6.0pt;margin-left:0in;line-height:12.0pt">
<span style="font-size:10.0pt;font-family:&quot;Verdana&quot;,&quot;sans-serif&quot;;color:#333333">At any time, a job can be released from any hold or deferred state using the <a href="http://docs.adaptivecomputing.com/mwm/Content/commands/releasehold.html" target="_blank"><span style="color:#9a6dd0;text-decoration:none">releasehold</span></a> command.
 The Moab logs should provide detailed information about the cause of any batch hold or job deferral.<u></u><u></u></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:&quot;Calibri&quot;,&quot;sans-serif&quot;;color:#1f497d"><u></u> <u></u></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:&quot;Calibri&quot;,&quot;sans-serif&quot;;color:#1f497d">Oddly, in my case, I can get no info from the checkjob command:<u></u><u></u></span></p>
<p class="MsoNormal" style="text-indent:.5in"><i><span style="font-size:11.0pt;font-family:&quot;Calibri&quot;,&quot;sans-serif&quot;">State: Hold<u></u><u></u></span></i></p>
<p class="MsoNormal" style="text-indent:.5in"><i><span style="font-size:11.0pt;font-family:&quot;Calibri&quot;,&quot;sans-serif&quot;">.<u></u><u></u></span></i></p>
<p class="MsoNormal" style="text-indent:.5in"><i><span style="font-size:11.0pt;font-family:&quot;Calibri&quot;,&quot;sans-serif&quot;">.<u></u><u></u></span></i></p>
<p class="MsoNormal" style="text-indent:.5in"><i><span style="font-size:11.0pt;font-family:&quot;Calibri&quot;,&quot;sans-serif&quot;">NOTE:  job cannot run  (job has hold in place)<u></u><u></u></span></i></p>
<p class="MsoNormal" style="text-indent:.5in"><i><span style="font-size:11.0pt;font-family:&quot;Calibri&quot;,&quot;sans-serif&quot;">BLOCK MSG: non-idle state &#39;Hold&#39; (recorded at last scheduling iteration)<u></u><u></u></span></i></p>

<p class="MsoNormal"><span style="font-size:11.0pt;font-family:&quot;Calibri&quot;,&quot;sans-serif&quot;;color:#1f497d"><u></u> <u></u></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:&quot;Calibri&quot;,&quot;sans-serif&quot;;color:#1f497d">And doing releasehold doesn’t help:<u></u><u></u></span></p>
<p class="MsoNormal" style="margin-left:.5in"><i><span style="font-size:11.0pt;font-family:&quot;Calibri&quot;,&quot;sans-serif&quot;">[root@hamming ~]# releasehold -a  20139590[1561]<u></u><u></u></span></i></p>
<p class="MsoNormal" style="margin-left:.5in"><i><span style="font-size:11.0pt;font-family:&quot;Calibri&quot;,&quot;sans-serif&quot;">holds not modified for job 20139590[1561]  ( hold still in place)<u></u><u></u></span></i></p>

<p class="MsoNormal"><span style="font-size:11.0pt;font-family:&quot;Calibri&quot;,&quot;sans-serif&quot;;color:#1f497d"><u></u> <u></u></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:&quot;Calibri&quot;,&quot;sans-serif&quot;;color:#1f497d">So it seems, somehow, somewhere, torque thinks this user/job has 512 slots already taken…<u></u><u></u></span></p>
<div class="im">
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:&quot;Calibri&quot;,&quot;sans-serif&quot;;color:#1f497d"><u></u> <u></u></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:&quot;Calibri&quot;,&quot;sans-serif&quot;;color:#1f497d"><u></u> <u></u></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:&quot;Calibri&quot;,&quot;sans-serif&quot;;color:#1f497d">Brian Andrus<u></u><u></u></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:&quot;Calibri&quot;,&quot;sans-serif&quot;;color:#1f497d">ITACS/Research Computing<u></u><u></u></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:&quot;Calibri&quot;,&quot;sans-serif&quot;;color:#1f497d">Naval Postgraduate School<u></u><u></u></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:&quot;Calibri&quot;,&quot;sans-serif&quot;;color:#1f497d">Monterey, California<u></u><u></u></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:&quot;Calibri&quot;,&quot;sans-serif&quot;;color:#1f497d">voice: <a href="tel:831-656-6238" value="+18316566238" target="_blank">831-656-6238</a><u></u><u></u></span></p>

<p class="MsoNormal"><span style="font-size:11.0pt;font-family:&quot;Calibri&quot;,&quot;sans-serif&quot;;color:#1f497d"><u></u> <u></u></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:&quot;Calibri&quot;,&quot;sans-serif&quot;;color:#1f497d"><u></u> <u></u></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:&quot;Calibri&quot;,&quot;sans-serif&quot;;color:#1f497d"><u></u> <u></u></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:&quot;Calibri&quot;,&quot;sans-serif&quot;;color:#1f497d"><u></u> <u></u></span></p>
</div><div style="border:none;border-left:solid blue 1.5pt;padding:0in 0in 0in 4.0pt">
<div>
<div style="border:none;border-top:solid #b5c4df 1.0pt;padding:3.0pt 0in 0in 0in">
<p class="MsoNormal"><b><span style="font-size:10.0pt;font-family:&quot;Tahoma&quot;,&quot;sans-serif&quot;">From:</span></b><span style="font-size:10.0pt;font-family:&quot;Tahoma&quot;,&quot;sans-serif&quot;"> <a href="mailto:torqueusers-bounces@supercluster.org" target="_blank">torqueusers-bounces@supercluster.org</a> [mailto:<a href="mailto:torqueusers-bounces@supercluster.org" target="_blank">torqueusers-bounces@supercluster.org</a>]
<b>On Behalf Of </b>Ken Nielson<br>
<b>Sent:</b> Tuesday, September 24, 2013 9:14 AM<br>
<b>To:</b> Torque Users Mailing List<br>
<b>Subject:</b> Re: [torqueusers] Slot limit issues (still)<u></u><u></u></span></p>
</div>
</div><div><div class="h5">
<p class="MsoNormal"><u></u> <u></u></p>
<div>
<p class="MsoNormal"><u></u> <u></u></p>
<div>
<p class="MsoNormal" style="margin-bottom:12.0pt"><u></u> <u></u></p>
<div>
<p class="MsoNormal">On Tue, Sep 24, 2013 at 9:30 AM, Andrus, Brian Contractor &lt;<a href="mailto:bdandrus@nps.edu" target="_blank">bdandrus@nps.edu</a>&gt; wrote:<u></u><u></u></p>
<div>
<div>
<p>Ok, This one is still going on with the same array job.<u></u><u></u></p>
<p> <u></u><u></u></p>
<p>I have many array jobs (same parent job) that have gone into a &#39;blocked&#39; status because they couldn&#39;t start in a timely manner (DEFERTIME/DEFERCOUNT). Not unsual for a sizeable array job with slot limits (set server max_slot_limit = 512).<u></u><u></u></p>

<p> <u></u><u></u></p>
<p>So I want to start some of these jobs. The user has NO jobs currently running (there ARE other jobs running, only 5 are other array jobs, but a different user).<u></u><u></u></p>
<p> <u></u><u></u></p>
<p>I am trying with job 20139590[1561]<u></u><u></u></p>
<p>Here is what I try/get:<u></u><u></u></p>
<p> <u></u><u></u></p>
<p><i>[root@cluster ~]# qrls 20139590[1561]</i><u></u><u></u></p>
<p><i>[root@cluster ~]# qrun 20139590[1561]</i><u></u><u></u></p>
<p><i>qrun: Invalid request MSG=Cannot run job. Array slot limit is 512 and there are already 512 jobs running</i><u></u><u></u></p>
<p><i>20139590[1561].cluster</i><u></u><u></u></p>
<p><i>[root@cluster ~]# qrerun 20139590[1561]</i><u></u><u></u></p>
<p><i>qrerun: Request invalid for state of job MSG=job 20139590[1561].cluster is in a bad state 20139590[1561].cluster</i><u></u><u></u></p>
<p> <u></u><u></u></p>
<p> <u></u><u></u></p>
<p>I have tried restarting pbs_server and looked at the output of pbsnodes to see if there are any of this job floating around, but there is not. Also checked on each node for anything for that job/user.. Nothing there as well.<u></u><u></u></p>

<p> <u></u><u></u></p>
<p>Any ideas what is going on here and/or how to get these jobs running?<u></u><u></u></p>
<p> <u></u><u></u></p>
<p> <u></u><u></u></p>
<p class="MsoNormal"> <u></u><u></u></p>
<p class="MsoNormal"><span style="color:#1f497d">Brian Andrus</span><u></u><u></u></p>
<p class="MsoNormal"><span style="color:#1f497d">ITACS/Research Computing</span><u></u><u></u></p>
<p class="MsoNormal"><span style="color:#1f497d">Naval Postgraduate School</span><u></u><u></u></p>
<p class="MsoNormal"><span style="color:#1f497d">Monterey, California</span><u></u><u></u></p>
<p class="MsoNormal"><span style="color:#1f497d">voice:
<a href="tel:831-656-6238" target="_blank">831-656-6238</a></span><u></u><u></u></p>
<p class="MsoNormal"> <u></u><u></u></p>
</div>
</div>
<div>
<p class="MsoNormal" style="margin-bottom:12.0pt">Brian,<br>
<br>
I see you are doing a qrls on the job before running the job. So these jobs are on hold before they run. Correct?<u></u><u></u></p>
</div>
<div>
<p class="MsoNormal">Regards <u></u><u></u></p>
</div>
<p class="MsoNormal"><br clear="all">
<u></u><u></u></p>
</div>
<p class="MsoNormal" style="margin-bottom:12.0pt"><br>
-- <br>
Ken Nielson<br>
<a href="tel:%2B1%20801.717.3700" value="+18017173700" target="_blank">+1 801.717.3700</a> office <a href="tel:%2B1%20801.717.3738" value="+18017173738" target="_blank">+1 801.717.3738</a> fax<br>
1712 S. East Bay Blvd, Suite 300  Provo, UT  84606<br>
<a href="http://www.adaptivecomputing.com" target="_blank">www.adaptivecomputing.com</a><u></u><u></u></p>
</div>
</div>
</div></div></div>
</div>
</div>

<br><br></blockquote><div>Brian,<br><br></div><div>I am just doing some brainstorming. So it sounds like Moab attempted to run these jobs but for whatever reason TORQUE would not allow them to run and Moab put a hold on the jobs. Is that correct? <br>
</div></div><br><br clear="all"><br>-- <br>Ken Nielson<br>+1 801.717.3700 office +1 801.717.3738 fax<br>1712 S. East Bay Blvd, Suite 300  Provo, UT  84606<br><a href="http://www.adaptivecomputing.com" target="_blank">www.adaptivecomputing.com</a><br>
<br>
</div></div>