/[MITgcm]/mitgcm.org/scripts/check_outp
ViewVC logotype

Diff of /mitgcm.org/scripts/check_outp

Parent Directory Parent Directory | Revision Log Revision Log | View Revision Graph Revision Graph | View Patch Patch

revision 1.39 by jmc, Wed Jul 10 16:32:53 2013 UTC revision 1.47 by jmc, Fri Jul 1 17:00:10 2016 UTC
# Line 39  usage() Line 39  usage()
39  make_resdir_list()  make_resdir_list()
40  {  {
41        if test $monthDir == 1 ; then        if test $monthDir == 1 ; then
42          dir_list=`grep '.._'$mname ./dir_all`          dir_list=`grep '.._'$mname $TMP.dir_all`
43        else        else
44          dir_list=`( cd $INDIR ; ls -1 -t ../$PREV_P/??_*${mname}*/summary.txt 2> /dev/null | sed 's/\/summary.txt//' )`          dir_list=`( cd $INDIR ; ls -1 -t ../$PREV_P/??_*${mname}*/summary.txt 2> /dev/null | sed 's/\/summary.txt//' )`
45          #echo "dir_list='$dir_list'"          #echo "dir_list='$dir_list'"
# Line 186  make_resdir_list() Line 186  make_resdir_list()
186              day=`echo $ttt | sed -e 's|_| |g' |awk '{print $NF}'`              day=`echo $ttt | sed -e 's|_| |g' |awk '{print $NF}'`
187    
188              if [ $day -lt $BEFORE ] ; then              if [ $day -lt $BEFORE ] ; then
189                  echo "$OPTFILE$order $day $OPTFILE $kind $i" >> ./plist                  echo "$OPTFILE$order $day $OPTFILE $kind $i" >> $TMP.plist
190              elif [ $day -ge $FIRSTDAY -a $day -le $LASTDAY ] ; then              elif [ $day -ge $FIRSTDAY -a $day -le $LASTDAY ] ; then
191                  echo "$OPTFILE$order $day $OPTFILE $kind $i" >> ./slist                  echo "$OPTFILE$order $day $OPTFILE $kind $i" >> $TMP.slist
192              else              else
193                  if test $dBug = 't' ; then                  if test $dBug = 't' ; then
194                     echo "discard day='$day' from: $i" | tee -a $OUTPFIL                     echo "discard day='$day' from: $i" | tee -a $OUTPFIL
# Line 199  make_resdir_list() Line 199  make_resdir_list()
199          if test $dBug = 't' ; then          if test $dBug = 't' ; then
200            if test $monthDir == 1 ; then            if test $monthDir == 1 ; then
201              echo "---- current list (n=$monthDir) :" | tee -a $OUTPFIL              echo "---- current list (n=$monthDir) :" | tee -a $OUTPFIL
202                  cat ./slist | tee -a $OUTPFIL                  cat $TMP.slist | tee -a $OUTPFIL
203            fi            fi
204            num1=`wc -l ./slist | awk '{print $1}'`            num1=`wc -l $TMP.slist | awk '{print $1}'`
205            if test $num1 -gt 0 ; then            if test $num1 -gt 0 ; then
206            echo   ".... previous list (n=$monthDir):" | tee -a $OUTPFIL            echo   ".... previous list (n=$monthDir):" | tee -a $OUTPFIL
207                  cat ./plist | tee -a $OUTPFIL | head -20                  cat $TMP.plist | tee -a $OUTPFIL | head -20
208            fi            fi
209            echo "----" | tee -a $OUTPFIL            echo "----" | tee -a $OUTPFIL
210          fi          fi
# Line 224  BEFORE="30000000" Line 224  BEFORE="30000000"
224  OUTPFIL=`basename $0`'.log'  OUTPFIL=`basename $0`'.log'
225  NBLDIFF=5  NBLDIFF=5
226  ADDRESS='none'  ADDRESS='none'
227    MAILCMD="mail"
228  dBug=f  dBug=f
229  t4update=0  t4update=0
230  sTime=`date`  sTime=`date`
# Line 242  for ac_option ; do Line 243  for ac_option ; do
243      fi      fi
244    
245      ac_optarg=`expr "x$ac_option" : 'x[^=]*=\(.*\)'`      ac_optarg=`expr "x$ac_option" : 'x[^=]*=\(.*\)'`
   
246      case $ac_option in      case $ac_option in
247                    
248          -help | --help | -h | --h) usage ;;          -help | --help | -h | --h) usage ;;
# Line 272  for ac_option ; do Line 272  for ac_option ; do
272    
273          *) echo "Error: don't understand argument \"$ac_option\""          *) echo "Error: don't understand argument \"$ac_option\""
274             usage ;;             usage ;;
   
275       esac       esac
276    
277  done  done
278    
279    #TMP=./chkoutp_$$
280    #- try to put temporary files in system-local /tmp dir
281    TMP=/tmp/chkoutp_$$
282    touch $TMP ; retVal=$?
283    if [ $retVal -eq 0 ] ; then
284      if test ! -r $TMP ; then TMP=./chkoutp_$$ ; fi
285    else
286      TMP=./chkoutp_$$
287    fi
288    rm -f $TMP
289    if test $dBug = 't' ; then echo "temp files: $TMP" ; fi
290    
291  #-- test FIRSTDAY content ; interpret as "date -d" arg. if not YYYYMMDD  #-- test FIRSTDAY content ; interpret as "date -d" arg. if not YYYYMMDD
292  ttt=`echo "y$FIRSTDAY" | sed 's/[0-9][0-9][0-9][0-9][0-9][0-9][0-9][0-9]/z/'`  ttt=`echo "y$FIRSTDAY" | sed 's/[0-9][0-9][0-9][0-9][0-9][0-9][0-9][0-9]/z/'`
293  if test "x$ttt" != 'xyz' ; then  if test "x$ttt" != 'xyz' ; then
# Line 319  if test $t4update = 1 ; then Line 331  if test $t4update = 1 ; then
331      if test $PRC_MAILS -ot $OUTPSUM ; then      if test $PRC_MAILS -ot $OUTPSUM ; then
332        echo ' '$CMDLINE | tee -a $OUTPSUM        echo ' '$CMDLINE | tee -a $OUTPSUM
333        echo " t4update: skip "`basename $0`" ( $PRC_MAILS older than $OUTPSUM )" | tee -a $OUTPSUM        echo " t4update: skip "`basename $0`" ( $PRC_MAILS older than $OUTPSUM )" | tee -a $OUTPSUM
334        echo "End  time:   "`date` | tee -a $OUTPSUM        echo " End  time:  "`date` | tee -a $OUTPSUM
335        exit 0        exit 0
336      else      else
337        if test -e $OUTPFIL ; then mv -f $OUTPFIL $OUTPFIL'_bak' ; fi        if test -e $OUTPFIL ; then mv -f $OUTPFIL $OUTPFIL'_bak' ; fi
# Line 372  fi Line 384  fi
384  echo "    Machine   Tot. Nb.   no    Nb with  Nb diff" >> $OUTPSUM  echo "    Machine   Tot. Nb.   no    Nb with  Nb diff" >> $OUTPSUM
385  echo "     name     checked   comp    Diff    lines"  >> $OUTPSUM  echo "     name     checked   comp    Diff    lines"  >> $OUTPSUM
386    
387  ( cd $INDIR ; ls -1 -t */summary.txt | sed 's/\/summary.txt//' ) > ./dir_all  ( cd $INDIR ; ls -1 -t */summary.txt | sed 's/\/summary.txt//' ) > $TMP.dir_all
388    
389  if test "x$MACHINES" = "x_All_" ; then  if test "x$MACHINES" = "x_All_" ; then
390    MACHINES="aces- acesgrid baudelaire dickens danton beagle"    MACHINES="aces- acesgrid baudelaire engaging svante glacier uv100 ollie stan1"
391    MACHINES="$MACHINES pleiades iblade sx8 uv100 solasrv stomp weber"    MACHINES="$MACHINES pleiades archer stomp octopus saramago"
392    
393    MALL=`cat ./dir_all | sed -e 's|_| |g' | awk '{print $2}' | sort | uniq`    MALL=`cat $TMP.dir_all | sed -e 's|_| |g' | awk '{print $2}' | sort | uniq`
394    for madd in $MALL ; do    for madd in $MALL ; do
395      present=0      present=0
396      for m in $MACHINES ; do      for m in $MACHINES ; do
# Line 407  for pname in $MACHINES ; do Line 419  for pname in $MACHINES ; do
419      echo " name='$pname'" >> $OUTPFIL      echo " name='$pname'" >> $OUTPFIL
420      ctot=0 ; cmis=0 ; cdif=0      ctot=0 ; cmis=0 ; cdif=0
421    
422      # put results from selected period in "slist",      # put results from selected period in "TMP.slist",
423      #     results from previous period in "plist"      #     results from previous period in "TMP.plist"
424      rm -f ./plist ./slist ; touch ./plist ./slist      rm -f $TMP.plist $TMP.slist ; touch $TMP.plist $TMP.slist
425    
426      #- create list of results (slist & plist) from current month directory      #- create list of results (slist & plist) from current month directory
427      monthDir=1      monthDir=1
428      make_resdir_list      make_resdir_list
429    
430      #  Do we have any data?  If so, create the latest pointer.      #  Do we have any data?  If so, create the latest pointer.
431      num=`wc -l ./slist | awk '{print $1}'`      num=`wc -l $TMP.slist | awk '{print $1}'`
432      if test $num -gt 0 ; then      if test $num -gt 0 ; then
433    
434          keys=`cat ./slist | cut -d " " -f 1 | sort | uniq`          keys=`cat $TMP.slist | cut -d " " -f 1 | sort | uniq`
435    
436          for key in $keys ; do          for key in $keys ; do
437            ctot=`expr $ctot + 1`            ctot=`expr $ctot + 1`
438            sline=`grep "^$key " ./slist | head -1`            sline=`grep "^$key " $TMP.slist | head -1`
439            sdir=`echo $sline | cut -d " " -f 5`            sdir=`echo $sline | cut -d " " -f 5`
440            type=`echo $sline | cut -d " " -f 4`            type=`echo $sline | cut -d " " -f 4`
441            optf=`echo $sline | cut -d " " -f 3`            optf=`echo $sline | cut -d " " -f 3`
442            num=`grep -c "^$key" ./plist`            num=`grep -c "^$key" $TMP.plist`
443            if test $num = 0 -a $monthDir = 1 ; then            if test $num = 0 -a $monthDir = 1 ; then
444            #- add results from previous month directory to "plist".            #- add results from previous month directory to "plist".
445              monthDir=2              monthDir=2
446              make_resdir_list              make_resdir_list
447              num=`grep -c "^$key" ./plist`              num=`grep -c "^$key" $TMP.plist`
448            fi            fi
449            #- discard unsafe test:            #- discard unsafe test:
450            dd=`echo $optf | grep -c 'gfortran+mth'`            dd=`echo $optf | grep -c 'gfortran+mth'`
# Line 446  for pname in $MACHINES ; do Line 458  for pname in $MACHINES ; do
458              echo "  discard $sdir : $type , of='$optf'" | tee -a $OUTPFIL              echo "  discard $sdir : $type , of='$optf'" | tee -a $OUTPFIL
459              cmis=`expr $cmis + 1`              cmis=`expr $cmis + 1`
460            elif test $num = '0' ; then            elif test $num = '0' ; then
461              echo "no previous test for:" $key | tee -a $OUTPFIL              echo "  dir='$sdir', type='$type', of='$optf':" | tee -a $OUTPFIL
462                echo "  --> no previous test matching key='$key'" | tee -a $OUTPFIL
463              cmis=`expr $cmis + 1`              cmis=`expr $cmis + 1`
464            else            else
465              pline=`grep "^$key " ./plist | head -1`              pline=`grep "^$key " $TMP.plist | head -1`
466              if test $dBug = 't' ; then              if test $dBug = 't' ; then
467                  echo "s='$sline'" | tee -a $OUTPFIL                  echo "s='$sline'" | tee -a $OUTPFIL
468                  echo "p='$pline'" | tee -a $OUTPFIL                  echo "p='$pline'" | tee -a $OUTPFIL
# Line 458  for pname in $MACHINES ; do Line 471  for pname in $MACHINES ; do
471              outs="$INDIR/$sdir/summary.txt"              outs="$INDIR/$sdir/summary.txt"
472              xx=`( echo 5 ; sed -n '/^  OPTFILE=/=' $outs ) | tail -1`              xx=`( echo 5 ; sed -n '/^  OPTFILE=/=' $outs ) | tail -1`
473              sed "1,$xx d" $outs | sed '/^[YN] [YN] [YN] [YN]/ s/ \. //g' \              sed "1,$xx d" $outs | sed '/^[YN] [YN] [YN] [YN]/ s/ \. //g' \
474                                  | grep -v '^[A-S][a-t]* time:  ' > tmpfs                                  | grep -v '^[A-S][a-t]* time:  ' > $TMP.fs
475              outp="$INDIR/$pdir/summary.txt"              outp="$INDIR/$pdir/summary.txt"
476              xx=`( echo 5 ; sed -n '/^  OPTFILE=/=' $outp ) | tail -1`              xx=`( echo 5 ; sed -n '/^  OPTFILE=/=' $outp ) | tail -1`
477              sed "1,$xx d" $outp | sed '/^[YN] [YN] [YN] [YN]/ s/ \. //g' \              sed "1,$xx d" $outp | sed '/^[YN] [YN] [YN] [YN]/ s/ \. //g' \
478                                  | grep -v '^[A-S][a-t]* time:  ' > tmpfp                                  | grep -v '^[A-S][a-t]* time:  ' > $TMP.fp
479              #-- check if list of exp are the same (and in the same order)              #-- check if list of exp are the same (and in the same order)
480              sed 's/  (e=.*, w=.*)$//' tmpfs > tmpfn              sed 's/  (e=.*, w=.*)$//' $TMP.fs > $TMP.fn
481              listDs=`grep '^[YN] [YN] [YN] [YN]' tmpfn | awk '{print $NF}'`              listDs=`grep '^[YN] [YN] [YN] [YN]' $TMP.fn | awk '{print $NF}'`
482              #mv -f tmpfn tmpfs              #mv -f $TMP.fn $TMP.fs
483              rm -f tmpfn              rm -f $TMP.fn
484              sed 's/  (e=.*, w=.*)$//' tmpfp > tmpfn              sed 's/  (e=.*, w=.*)$//' $TMP.fp > $TMP.fn
485              listDp=`grep '^[YN] [YN] [YN] [YN]' tmpfn | awk '{print $NF}'`              listDp=`grep '^[YN] [YN] [YN] [YN]' $TMP.fn | awk '{print $NF}'`
486              #mv -f tmpfn tmpfp              #mv -f $TMP.fn $TMP.fp
487              rm -f tmpfn              rm -f $TMP.fn
488              #echo "listDs='$listDs'" ;  echo "listDp='$listDp'"              #echo "listDs='$listDs'" ;  echo "listDp='$listDp'"
489              if test "$listDs" != "$listDp" ; then              if test "$listDs" != "$listDp" ; then
490                  if test $dBug = 't' ; then echo ' -> re-order list of exp' ; fi                  if test $dBug = 't' ; then echo ' -> re-order list of exp' ; fi
491                  #-- re-order list of exp (according to local "sort" order)                  #-- re-order list of exp (according to local "sort" order)
492                  listDs=`echo "$listDs" | sort`                  listDs=`echo "$listDs" | sort`
493                  for xx in $listDs ; do                  for xx in $listDs ; do
494                      sed -e "/ $xx\$/d" -e "/ $xx /d" tmpfs > tmpfn                      sed -e "/ $xx\$/d" -e "/ $xx /d" $TMP.fs > $TMP.fn
495                      sed -n -e "/ $xx\$/p" -e "/ $xx /p" tmpfs >> tmpfn                      sed -n -e "/ $xx\$/p" -e "/ $xx /p" $TMP.fs >> $TMP.fn
496                      mv -f tmpfn tmpfs                      mv -f $TMP.fn $TMP.fs
497                  done                  done
498                  listDp=`echo "$listDp" | sort`                  listDp=`echo "$listDp" | sort`
499                  for xx in $listDp ; do                  for xx in $listDp ; do
500                      sed -e "/ $xx\$/d" -e "/ $xx /d" tmpfp > tmpfn                      sed -e "/ $xx\$/d" -e "/ $xx /d" $TMP.fp > $TMP.fn
501                      sed -n -e "/ $xx\$/p" -e "/ $xx /p" tmpfp >> tmpfn                      sed -n -e "/ $xx\$/p" -e "/ $xx /p" $TMP.fp >> $TMP.fn
502                      mv -f tmpfn tmpfp                      mv -f $TMP.fn $TMP.fp
503                  done                  done
504              #else              #else
505              #   echo 'same list of exp => skip re-ordering'              #   echo 'same list of exp => skip re-ordering'
506              fi              fi
507              echo -n "=== diff $sdir $pdir :" | tee -a $OUTPFIL              echo -n "=== diff $sdir $pdir :" | tee -a $OUTPFIL
508              diff tmpfs tmpfp > tmpdf              diff $TMP.fs $TMP.fp > $TMP.dif
509              yy=$?              yy=$?
510              if test $yy != '0' ; then              if test $yy != '0' ; then
511                  echo " $type , of='$optf'" | tee -a $OUTPFIL                  echo " $type , of='$optf'" | tee -a $OUTPFIL
512                  #grep '^run: ' $outp                  #grep '^run: ' $outp
513                  #grep '^run: ' $outs                  #grep '^run: ' $outs
514                  #-- score for each test:                  #-- score for each test:
515                  grep '^[YN] [YN] [YN] [YN]' tmpfs > tmploc 2>/dev/null                  grep '^[YN] [YN] [YN] [YN]' $TMP.fs > tmploc 2>/dev/null
516                  t_tot=`cat tmploc | wc -l | sed -e 's| ||g'`                  t_tot=`cat tmploc | wc -l | sed -e 's| ||g'`
517                  t_pass=`grep '^Y Y Y Y' tmploc | grep 'pass ' | wc -l | sed -e 's| ||g'`                  t_pass=`grep '^Y Y Y Y' tmploc | grep 'pass ' | wc -l | sed -e 's| ||g'`
518                  score_s=`printf '%2i' $t_pass`":$t_tot"                  score_s=`printf '%2i' $t_pass`":$t_tot"
519                  grep '^[YN] [YN] [YN] [YN]' tmpfp > tmploc 2>/dev/null                  grep '^[YN] [YN] [YN] [YN]' $TMP.fp > tmploc 2>/dev/null
520                  t_tot=`cat tmploc | wc -l | sed -e 's| ||g'`                  t_tot=`cat tmploc | wc -l | sed -e 's| ||g'`
521                  t_pass=`grep '^Y Y Y Y' tmploc | grep 'pass ' | wc -l | sed -e 's| ||g'`                  t_pass=`grep '^Y Y Y Y' tmploc | grep 'pass ' | wc -l | sed -e 's| ||g'`
522                  score_p=`printf '%2i' $t_pass`":$t_tot"                  score_p=`printf '%2i' $t_pass`":$t_tot"
523                  rm -f tmploc                  rm -f tmploc
524                  #-- count Nb of different lines                  #-- count Nb of different lines
525                  ndf=`wc -l tmpdf | awk '{print $1}'`                  ndf=`wc -l $TMP.dif | awk '{print $1}'`
526                  ndf=`expr $ndf / 2`                  ndf=`expr $ndf / 2`
527                  nn=`grep -c '^---' tmpdf`                  nn=`grep -c '^---' $TMP.dif`
528                  ndf=`expr $ndf - $nn`                  ndf=`expr $ndf - $nn`
529                  if [ $ndf -le $NBLDIFF ] ; then                  if [ $ndf -le $NBLDIFF ] ; then
530                    cat tmpdf                    cat $TMP.dif
531                  else                  else
532                    echo " $ndf lines differ ( $score_s , $score_p )"                    echo " $ndf lines differ ( $score_s , $score_p )"
533                  fi                  fi
534                  echo "< "`head -1 $outs`" ( $score_s )" >> $OUTPFIL                  echo "< "`head -1 $outs`" ( $score_s )" >> $OUTPFIL
535                  echo "> "`head -1 $outp`" ( $score_p )" >> $OUTPFIL                  echo "> "`head -1 $outp`" ( $score_p )" >> $OUTPFIL
536                  cat tmpdf >> $OUTPFIL                  cat $TMP.dif >> $OUTPFIL
537                  if [ $cdif -eq 0 ] ; then                  if [ $cdif -eq 0 ] ; then
538                    clin=`printf '%3i (%5s,%5s)' $ndf $score_s $score_p`                    clin=`printf '%3i (%5s,%5s)' $ndf $score_s $score_p`
539                  else                  else
# Line 531  for pname in $MACHINES ; do Line 544  for pname in $MACHINES ; do
544              else              else
545                  echo " $type , of='$optf'" | tee -a $OUTPFIL                  echo " $type , of='$optf'" | tee -a $OUTPFIL
546              fi              fi
547              rm -f tmpfs tmpfp tmpdf              rm -f $TMP.fs $TMP.fp $TMP.dif
548            fi            fi
549          done          done
550          if [ $cmis -gt 0 ] ; then tmis='(-'$cmis')' ; else tmis='(--)' ; fi          if [ $cmis -gt 0 ] ; then tmis='(-'$cmis')' ; else tmis='(--)' ; fi
# Line 544  for pname in $MACHINES ; do Line 557  for pname in $MACHINES ; do
557  done  done
558    
559  echo "Start time:  $sTime" | tee -a $OUTPFIL  echo "Start time:  $sTime" | tee -a $OUTPFIL
560  echo "End  time:   "`date` | tee -a $OUTPFIL | tee -a $OUTPSUM  echo "End time:    "`date` | tee -a $OUTPFIL | tee -a $OUTPSUM
561    
562  rm -f ./dir_all ./slist ./plist  rm -f $TMP.dir_all $TMP.slist $TMP.plist
563  if test $OUTPFIL = "TTT.$$" ; then rm -f $OUTPFIL ; fi  if test $OUTPFIL = "TTT.$$" ; then rm -f $OUTPFIL ; fi
564  if test "x$ADDRESS" != 'xnone' ; then  if test "x$ADDRESS" != 'xnone' ; then
565    echo ".. send $OUTPSUM to $ADDRESS"    #- change default sender address ("From:") using "mail -r" option
566    mail -s $OUTPSUM $ADDRESS < $OUTPSUM    #  since, by default, baudelaire uses USER@localhost.localdomain
567      fullNam=`hostname -A | awk '{print $1}'`
568      MAILCMD="$MAILCMD -r ${USER}@${fullNam}"
569      #---
570      echo ".. send $OUTPSUM to '$ADDRESS' using '$MAILCMD'"
571      $MAILCMD -s 'check_outp summary' $ADDRESS < $OUTPSUM
572  fi  fi
573  echo ".. cat $OUTPSUM"  echo ".. cat $OUTPSUM"
574  cat $OUTPSUM  cat $OUTPSUM
Legend:
Removed from v.1.39  
changed lines
  Added in v.1.47
  ViewVC Help
Powered by ViewVC 1.1.22