<html xmlns:v="urn:schemas-microsoft-com:vml" xmlns:o="urn:schemas-microsoft-com:office:office" xmlns:w="urn:schemas-microsoft-com:office:word" xmlns:m="http://schemas.microsoft.com/office/2004/12/omml" xmlns="http://www.w3.org/TR/REC-html40"><head><meta http-equiv=Content-Type content="text/html; charset=us-ascii"><meta name=Generator content="Microsoft Word 12 (filtered medium)"><style><!--
/* Font Definitions */
@font-face
        {font-family:"Cambria Math";
        panose-1:2 4 5 3 5 4 6 3 2 4;}
@font-face
        {font-family:Calibri;
        panose-1:2 15 5 2 2 2 4 3 2 4;}
/* Style Definitions */
p.MsoNormal, li.MsoNormal, div.MsoNormal
        {margin:0in;
        margin-bottom:.0001pt;
        font-size:11.0pt;
        font-family:"Calibri","sans-serif";}
a:link, span.MsoHyperlink
        {mso-style-priority:99;
        color:blue;
        text-decoration:underline;}
a:visited, span.MsoHyperlinkFollowed
        {mso-style-priority:99;
        color:purple;
        text-decoration:underline;}
span.EmailStyle17
        {mso-style-type:personal-compose;
        font-family:"Calibri","sans-serif";
        color:windowtext;}
.MsoChpDefault
        {mso-style-type:export-only;}
@page WordSection1
        {size:8.5in 11.0in;
        margin:1.0in 1.0in 1.0in 1.0in;}
div.WordSection1
        {page:WordSection1;}
--></style><!--[if gte mso 9]><xml>
<o:shapedefaults v:ext="edit" spidmax="1026" />
</xml><![endif]--><!--[if gte mso 9]><xml>
<o:shapelayout v:ext="edit">
<o:idmap v:ext="edit" data="1" />
</o:shapelayout></xml><![endif]--></head><body lang=EN-US link=blue vlink=purple><div class=WordSection1><p class=MsoNormal>Hello all:<o:p></o:p></p><p class=MsoNormal>I have torque 2.5.7 and maui 3.2.6p21 installed on a couple of small clusters and I am submitting the following mpi job using:<o:p></o:p></p><p class=MsoNormal><o:p>&nbsp;</o:p></p><p class=MsoNormal>qsub -l nodes=12:mynode:ppn=1 script_noarch.pbs<o:p></o:p></p><p class=MsoNormal><o:p>&nbsp;</o:p></p><p class=MsoNormal>this script is very simple as it only has one line in it to invoke the call to mpirun<o:p></o:p></p><p class=MsoNormal><o:p>&nbsp;</o:p></p><p class=MsoNormal>mpirun --machinefile $PBS_NODEFILE /home/myuser/mpi_test/mpi_hello_hostname<o:p></o:p></p><p class=MsoNormal><o:p>&nbsp;</o:p></p><p class=MsoNormal>The actual source to this is also very simple:<o:p></o:p></p><p class=MsoNormal><o:p>&nbsp;</o:p></p><p class=MsoNormal>#include &lt;mpi.h&gt;<o:p></o:p></p><p class=MsoNormal>#include &lt;stdio.h&gt;<o:p></o:p></p><p class=MsoNormal><o:p>&nbsp;</o:p></p><p class=MsoNormal>int main(int argc, char **argv)<o:p></o:p></p><p class=MsoNormal>{<o:p></o:p></p><p class=MsoNormal>&nbsp; int *buf, i, rank, nints, len;<o:p></o:p></p><p class=MsoNormal>&nbsp; char hostname[256];<o:p></o:p></p><p class=MsoNormal><o:p>&nbsp;</o:p></p><p class=MsoNormal>&nbsp; MPI_Init(&amp;argc,&amp;argv);<o:p></o:p></p><p class=MsoNormal>&nbsp; MPI_Comm_rank(MPI_COMM_WORLD, &amp;rank);<o:p></o:p></p><p class=MsoNormal>&nbsp; gethostname(hostname,255);<o:p></o:p></p><p class=MsoNormal>&nbsp; printf(&quot;Hello world!&nbsp; I am process number: %d on host %s\n&quot;, rank, hostname);<o:p></o:p></p><p class=MsoNormal>&nbsp; MPI_Finalize();<o:p></o:p></p><p class=MsoNormal>&nbsp; return 0;<o:p></o:p></p><p class=MsoNormal>}<o:p></o:p></p><p class=MsoNormal><o:p>&nbsp;</o:p></p><p class=MsoNormal>When I run this with the ppn=1 specification I would expect one processer per node spread over twelve nodes but when I look at my output file I see it is running multiple processes per node instead. So as a result I do not see the output from twelve unique nodes as I would expect.<o:p></o:p></p><p class=MsoNormal><o:p>&nbsp;</o:p></p><p class=MsoNormal>My nodes file has the following sorts of entries:<o:p></o:p></p><p class=MsoNormal><o:p>&nbsp;</o:p></p><p class=MsoNormal>enode01 np=4 mynode<o:p></o:p></p><p class=MsoNormal>enode02 np=4 mynode<o:p></o:p></p><p class=MsoNormal>enode03 np=4 mynode<o:p></o:p></p><p class=MsoNormal>enode04 np=4 mynode<o:p></o:p></p><p class=MsoNormal>enode05 np=4 mynode<o:p></o:p></p><p class=MsoNormal>enode06 np=4 mynode<o:p></o:p></p><p class=MsoNormal>enode07 np=4 mynode<o:p></o:p></p><p class=MsoNormal>enode08 np=4 mynode<o:p></o:p></p><p class=MsoNormal>enode09 np=4 mynode<o:p></o:p></p><p class=MsoNormal>enode10 np=4 mynode<o:p></o:p></p><p class=MsoNormal>enode11 np=4 mynode<o:p></o:p></p><p class=MsoNormal>enode12 np=4 mynode<o:p></o:p></p><p class=MsoNormal><o:p>&nbsp;</o:p></p><p class=MsoNormal>I know I can remove the np=4 from each node specification and get the one process per node but I was under the impression that I could use the ppn=1 or whatever to get the same thing.<o:p></o:p></p><p class=MsoNormal><o:p>&nbsp;</o:p></p><p class=MsoNormal>Am I misunderstanding or overlooking something?<o:p></o:p></p><p class=MsoNormal>--<o:p></o:p></p><p class=MsoNormal>Steven DuChene<o:p></o:p></p></div></body></html>