<font size=2 face="sans-serif">I tried that and it worked, allowing my
jobs to schedule. However, my node file has only one line in it instead
of 24 lines. I then found the JOBNODEMATCHPOLICY and removed it from my
maui.cfg and then I could submit using -l nodes=24 which provided me with
what I wanted. But when I try to do -l nodes=4:ppn=6 it won't schedule.
>From what I read it appears that this should work from torques liberal
scheduling policy.</font>
<br>
<br><font size=2 face="sans-serif">when I run checkjob it returns </font>
<br>
<br><font size=2 face="sans-serif">checking job 1098</font>
<br>
<br><font size=2 face="sans-serif">State: Idle</font>
<br><font size=2 face="sans-serif">Creds: &nbsp;user:jon &nbsp;group:jon
&nbsp;class:all &nbsp;qos:DEFAULT</font>
<br><font size=2 face="sans-serif">WallTime: 00:00:00 of 21:00:00:00</font>
<br><font size=2 face="sans-serif">SubmitTime: Fri Feb &nbsp;5 16:15:25</font>
<br><font size=2 face="sans-serif">&nbsp; (Time Queued &nbsp;Total: 00:17:43
&nbsp;Eligible: 00:17:43)</font>
<br>
<br><font size=2 face="sans-serif">Total Tasks: 60</font>
<br>
<br><font size=2 face="sans-serif">Req[0] &nbsp;TaskCount: 60 &nbsp;Partition:
ALL</font>
<br><font size=2 face="sans-serif">Network: [NONE] &nbsp;Memory &gt;= 0
&nbsp;Disk &gt;= 0 &nbsp;Swap &gt;= 0</font>
<br><font size=2 face="sans-serif">Opsys: [NONE] &nbsp;Arch: [NONE] &nbsp;Features:
[NONE]</font>
<br>
<br>
<br><font size=2 face="sans-serif">IWD: [NONE] &nbsp;Executable: &nbsp;[NONE]</font>
<br><font size=2 face="sans-serif">Bypass: 0 &nbsp;StartCount: 0</font>
<br><font size=2 face="sans-serif">PartitionMask: [ALL]</font>
<br><font size=2 face="sans-serif">Reservation '1098' (23:32:14 -&gt; 21:23:32:14
&nbsp;Duration: 21:00:00:00)</font>
<br><font size=2 face="sans-serif">PE: &nbsp;60.00 &nbsp;StartPriority:
&nbsp;17</font>
<br><font size=2 face="sans-serif">job can run in partition DEFAULT (108
procs available. &nbsp;60 procs required)</font>
<br>
<br>
<br><font size=2 face="sans-serif"><b>Here is my configuration:</b></font>
<br>
<br><font size=2 face="sans-serif"># Resource Manager Definition</font>
<br>
<br><font size=2 face="sans-serif">RMCFG[torque] TYPE=PBS</font>
<br>
<br><font size=2 face="sans-serif"># Allocation Manager Definition</font>
<br>
<br><font size=2 face="sans-serif">AMCFG[bank] &nbsp;TYPE=NONE</font>
<br>
<br><font size=2 face="sans-serif"># full parameter docs at </font><a href=http://supercluster.org/mauidocs/a.fparameters.html><font size=2 face="sans-serif">http://supercluster.org/mauidocs/a.fparameters.html</font></a>
<br><font size=2 face="sans-serif"># use the 'schedctl -l' command to display
current configuration</font>
<br>
<br><font size=2 face="sans-serif">RMPOLLINTERVAL &nbsp; &nbsp; &nbsp;
&nbsp;00:00:30</font>
<br>
<br><font size=2 face="sans-serif">SERVERPORT &nbsp; &nbsp; &nbsp; &nbsp;
&nbsp; &nbsp;42559</font>
<br><font size=2 face="sans-serif">SERVERMODE &nbsp; &nbsp; &nbsp; &nbsp;
&nbsp; &nbsp;NORMAL</font>
<br>
<br><font size=2 face="sans-serif"># Admin: </font><a href=http://supercluster.org/mauidocs/a.esecurity.html><font size=2 face="sans-serif">http://supercluster.org/mauidocs/a.esecurity.html</font></a>
<br>
<br>
<br><font size=2 face="sans-serif">LOGFILE &nbsp; &nbsp; &nbsp; &nbsp;
&nbsp; &nbsp; &nbsp; maui.log</font>
<br><font size=2 face="sans-serif">LOGFILEMAXSIZE &nbsp; &nbsp; &nbsp;
&nbsp;10000000</font>
<br><font size=2 face="sans-serif">LOGLEVEL &nbsp; &nbsp; &nbsp; &nbsp;
&nbsp; &nbsp; &nbsp;3</font>
<br>
<br><font size=2 face="sans-serif"># Job Priority: </font><a href=http://supercluster.org/mauidocs/5.1jobprioritization.html><font size=2 face="sans-serif">http://supercluster.org/mauidocs/5.1jobprioritization.html</font></a>
<br>
<br><font size=2 face="sans-serif">QUEUETIMEWEIGHT &nbsp; &nbsp; &nbsp;
1</font>
<br>
<br><font size=2 face="sans-serif"># Backfill: </font><a href=http://supercluster.org/mauidocs/8.2backfill.html><font size=2 face="sans-serif">http://supercluster.org/mauidocs/8.2backfill.html</font></a>
<br>
<br><font size=2 face="sans-serif">BACKFILLPOLICY &nbsp; &nbsp; &nbsp;
&nbsp;FIRSTFIT</font>
<br><font size=2 face="sans-serif">RESERVATIONPOLICY &nbsp; &nbsp; CURRENTHIGHEST</font>
<br>
<br><font size=2 face="sans-serif"># Node Allocation: </font><a href=http://supercluster.org/mauidocs/5.2nodeallocation.html><font size=2 face="sans-serif">http://supercluster.org/mauidocs/5.2nodeallocation.html</font></a>
<br>
<br><font size=2 face="sans-serif">NODEACCESSPOLICY &nbsp; &nbsp; &nbsp;
&nbsp;SHARED</font>
<br><font size=2 face="sans-serif">NODEALLOCATIONPOLICY &nbsp; &nbsp;MINRESOURCE</font>
<br><font size=2 face="sans-serif">ENABLEMULTIREQJOBS &nbsp; &nbsp; &nbsp;TRUE</font>
<br>
<br><font size=2 face="sans-serif">Any ideas?</font>
<br>
<br><font size=2 face="sans-serif">Thanks,<br>
<br>
Jon Shelley<br>
HPC Software Consultant<br>
Idaho National Lab<br>
Phone (208) 526-9834<br>
Fax (208) 526-0122<br>
</font>
<br>
<br>
<br>
<table width=100%>
<tr valign=top>
<td width=40%><font size=1 face="sans-serif"><b>&lt;Gareth.Williams@csiro.au&gt;</b>
</font>
<p><font size=1 face="sans-serif">01/28/2010 03:24 PM</font>
<td width=59%>
<table width=100%>
<tr valign=top>
<td>
<div align=right><font size=1 face="sans-serif">To</font></div>
<td><font size=1 face="sans-serif">&lt;Jonathan.Shelley@inl.gov&gt;</font>
<tr valign=top>
<td>
<div align=right><font size=1 face="sans-serif">cc</font></div>
<td>
<tr valign=top>
<td>
<div align=right><font size=1 face="sans-serif">Subject</font></div>
<td><font size=1 face="sans-serif">RE: [Mauiusers] Having problems scheduling
jobs with PPN specification &nbsp; &nbsp; &nbsp; &nbsp;on a cluster.</font></table>
<br>
<table>
<tr valign=top>
<td>
<td></table>
<br></table>
<br>
<br>
<br><font size=2 color=blue face="Arial">Hi Jon,</font>
<br><font size=3>&nbsp;</font>
<br><font size=2 color=blue face="Arial">The parameter JOBNODEMATCHPOLICY
matters.</font>
<br><font size=2 color=blue face="Arial">It turns out that there is an
alternative syntax but I don't know if maui supports it (or just moab).</font>
<br><font size=2 color=blue face="Arial">Could you do me a favour and try
a job with qsub -l procs=24</font>
<br><font size=2 color=blue face="Arial">(or any other number - maybe &gt;
24) and see if it works.</font>
<br><font size=2 color=blue face="Arial">There was a recent thread on torqueusers
on this.</font>
<br><font size=3>&nbsp;</font>
<br><font size=2 color=blue face="Arial">cheers,</font>
<br><font size=3>&nbsp;</font>
<br><font size=2 color=blue face="Arial">Gareth</font>
<br><font size=3>&nbsp;</font>
<br>
<br>
<hr><font size=2 face="Tahoma"><b>From:</b> Jonathan K Shelley [</font><a href=mailto:Jonathan.Shelley@inl.gov><font size=2 face="Tahoma">mailto:Jonathan.Shelley@inl.gov</font></a><font size=2 face="Tahoma">]
<b><br>
Sent:</b> Thursday, 28 January 2010 9:15 AM<b><br>
To:</b> mauiusers@supercluster.org<b><br>
Subject:</b> [Mauiusers] Having problems scheduling jobs with PPN specification
on a cluster.</font><font size=3><br>
</font>
<br><font size=2 face="sans-serif">Maui Version: 3.2.6p21</font><font size=3>
</font><font size=2 face="sans-serif"><br>
Torque Version: 2.3.6</font><font size=3> <br>
</font><font size=2 face="sans-serif"><br>
I have a cluster with 4 compute nodes. 1 node has 16 cores and the other
3 each have 24 cores. One of the nodes is down for maintenance. So I have
64 cores available to run jobs.</font><font size=3> </font><font size=2 face="sans-serif"><br>
When I submit this line </font><font size=3><br>
</font><font size=2 face="sans-serif"><br>
qsub -I -l nodes=4:ppn=6</font><font size=3> <br>
</font><font size=2 face="sans-serif"><br>
I get the following error:</font><font size=3> </font><font size=2 face="sans-serif"><br>
01/27 13:41:39 INFO: &nbsp; &nbsp; 64 feasible tasks found for job 384:0
in partition DEFAULT (24 Needed)</font><font size=3> </font><font size=2 face="sans-serif"><br>
01/27 13:41:39 INFO: &nbsp; &nbsp; inadequate feasible nodes found for
job 384:0 in partition DEFAULT (3 &lt; 4)</font><font size=3> </font><font size=2 face="sans-serif"><br>
01/27 13:41:39 ALERT: &nbsp; &nbsp;job 384 cannot run in any partition</font><font size=3>
</font><font size=2 face="sans-serif"><br>
01/27 13:41:39 ALERT: &nbsp; &nbsp;cannot create new reservation for job
384 (shape[1] 24)</font><font size=3> </font><font size=2 face="sans-serif"><br>
01/27 13:41:39 ALERT: &nbsp; &nbsp;cannot create new reservation for job
384</font><font size=3> </font><font size=2 face="sans-serif"><br>
01/27 13:41:39 MJobSetHold(384,16,1:00:00,NoResources,cannot create reservation
for job '384' (intital reservation attempt)</font><font size=3> <br>
</font><font size=2 face="sans-serif"><br>
If I submit this line </font><font size=3><br>
</font><font size=2 face="sans-serif"><br>
qsub -I -l nodes=3:ppn=8</font><font size=3> <br>
</font><font size=2 face="sans-serif"><br>
it works just fine</font><font size=3> </font><font size=2 face="sans-serif"><br>
01/27 14:47:16 INFO: &nbsp; &nbsp; 64 feasible tasks found for job 385:0
in partition DEFAULT (24 Needed)</font><font size=3> </font><font size=2 face="sans-serif"><br>
01/27 14:47:16 INFO: &nbsp; &nbsp; tasks located for job 385: &nbsp;40
of 24 required (0 feasible)</font><font size=3> </font><font size=2 face="sans-serif"><br>
01/27 14:47:16 MJobStart(385)</font><font size=3> </font><font size=2 face="sans-serif"><br>
01/27 14:47:16 MJobStart(385)</font><font size=3> </font><font size=2 face="sans-serif"><br>
01/27 14:47:16 MJobDistributeTasks(385,eos,NodeList,TaskMap)</font><font size=3>
</font><font size=2 face="sans-serif"><br>
01/27 14:47:16 MAMAllocJReserve(385,RIndex,ErrMsg)</font><font size=3>
</font><font size=2 face="sans-serif"><br>
01/27 14:47:16 MRMJobStart(385,Msg,SC)</font><font size=3> </font><font size=2 face="sans-serif"><br>
01/27 14:47:16 MPBSJobStart(385,eos,Msg,SC)</font><font size=3> </font><font size=2 face="sans-serif"><br>
01/27 14:47:16 MPBSJobModify(385,Resource_List,Resource,eos03.inel.gov:ppn=8+eos01.inel.gov:ppn=8+eos:ppn=8)</font><font size=3>
</font><font size=2 face="sans-serif"><br>
01/27 14:47:16 MPBSJobModify(385,Resource_List,Resource,3:ppn=8)</font><font size=3>
</font><font size=2 face="sans-serif"><br>
01/27 14:47:16 INFO: &nbsp; &nbsp; job '385' successfully started</font><font size=3>
<br>
<br>
</font><font size=2 face="sans-serif"><br>
My maui.cfg file has the following variables set.</font><font size=3> </font><font size=2 face="sans-serif"><br>
BACKFILLPOLICY &nbsp; &nbsp; &nbsp; &nbsp;FIRSTFIT</font><font size=3>
</font><font size=2 face="sans-serif"><br>
RESERVATIONPOLICY &nbsp; &nbsp; CURRENTHIGHEST</font><font size=3> <br>
</font><font size=2 face="sans-serif"><br>
NODEACCESSPOLICY &nbsp; &nbsp; &nbsp; &nbsp;SHARED</font><font size=3>
</font><font size=2 face="sans-serif"><br>
NODEALLOCATIONPOLICY &nbsp; &nbsp;FIRSTFIT</font><font size=3> </font><font size=2 face="sans-serif"><br>
ENABLEMULTIREQJOBS &nbsp; &nbsp; &nbsp;TRUE</font><font size=3> <br>
<br>
</font><font size=2 face="sans-serif"><br>
I am I missing something. Is there a way for maui to schedule the job since
there is clearly enough space to run the job if it schedules 2 of requests
on one node.</font><font size=3> <br>
</font><font size=2 face="sans-serif"><br>
Thanks,<br>
<br>
Jon Shelley<br>
HPC Software Consultant<br>
Idaho National Lab</font>
<br>