3a/d33a717cd5dc1ef2c82dc174e1c247313bbdb2

   1 Return-Path: <m.walters@qmul.ac.uk>\r
   2 X-Original-To: notmuch@notmuchmail.org\r
   3 Delivered-To: notmuch@notmuchmail.org\r
   4 Received: from localhost (localhost [127.0.0.1])\r
   5         by olra.theworths.org (Postfix) with ESMTP id 4CEDD431FB6\r
   6         for <notmuch@notmuchmail.org>; Sun,  8 Sep 2013 10:38:42 -0700 (PDT)\r
   7 X-Virus-Scanned: Debian amavisd-new at olra.theworths.org\r
   8 X-Spam-Flag: NO\r
   9 X-Spam-Score: -1.098\r
  10 X-Spam-Level: \r
  11 X-Spam-Status: No, score=-1.098 tagged_above=-999 required=5\r
  12         tests=[DKIM_ADSP_CUSTOM_MED=0.001, FREEMAIL_FROM=0.001,\r
  13         NML_ADSP_CUSTOM_MED=1.2, RCVD_IN_DNSWL_MED=-2.3] autolearn=disabled\r
  14 Received: from olra.theworths.org ([127.0.0.1])\r
  15         by localhost (olra.theworths.org [127.0.0.1]) (amavisd-new, port 10024)\r
  16         with ESMTP id gZvDs8sE1tVM for <notmuch@notmuchmail.org>;\r
  17         Sun,  8 Sep 2013 10:38:34 -0700 (PDT)\r
  18 Received: from mail2.qmul.ac.uk (mail2.qmul.ac.uk [138.37.6.6])\r
  19         (using TLSv1 with cipher DHE-RSA-AES256-SHA (256/256 bits))\r
  20         (No client certificate requested)\r
  21         by olra.theworths.org (Postfix) with ESMTPS id F292F431FAE\r
  22         for <notmuch@notmuchmail.org>; Sun,  8 Sep 2013 10:38:33 -0700 (PDT)\r
  23 Received: from smtp.qmul.ac.uk ([138.37.6.40])\r
  24         by mail2.qmul.ac.uk with esmtp (Exim 4.71)\r
  25         (envelope-from <m.walters@qmul.ac.uk>)\r
  26         id 1VIiwH-0006FF-Un; Sun, 08 Sep 2013 18:38:24 +0100\r
  27 Received: from 93-97-24-31.zone5.bethere.co.uk ([93.97.24.31] helo=localhost)\r
  28         by smtp.qmul.ac.uk with esmtpsa (TLSv1:AES128-SHA:128) (Exim 4.71)\r
  29         (envelope-from <m.walters@qmul.ac.uk>)\r
  30         id 1VIiwH-0005AM-KM; Sun, 08 Sep 2013 18:38:21 +0100\r
  31 From: Mark Walters <markwalters1009@gmail.com>\r
  32 To: Tomi Ollila <tomi.ollila@iki.fi>, notmuch@notmuchmail.org\r
  33 Subject: Re: [PATCH v2] test: exit with nonzero value when not all tests\r
  34         completed successfully\r
  35 In-Reply-To: <1378655610-21497-1-git-send-email-tomi.ollila@iki.fi>\r
  36 References: <1378655610-21497-1-git-send-email-tomi.ollila@iki.fi>\r
  37 User-Agent: Notmuch/0.16 (http://notmuchmail.org) Emacs/23.4.1\r
  38         (x86_64-pc-linux-gnu)\r
  39 Date: Sun, 08 Sep 2013 18:38:20 +0100\r
  40 Message-ID: <8738pf8b8z.fsf@qmul.ac.uk>\r
  41 MIME-Version: 1.0\r
  42 Content-Type: text/plain; charset=us-ascii\r
  43 X-Sender-Host-Address: 93.97.24.31\r
  44 X-QM-SPAM-Info: Sender has good ham record.  :)\r
  45 X-QM-Body-MD5: 376fdc25dea9a4a20d214dc8c001e771 (of first 20000 bytes)\r
  46 X-SpamAssassin-Score: 0.0\r
  47 X-SpamAssassin-SpamBar: /\r
  48 X-SpamAssassin-Report: The QM spam filters have analysed this message to\r
  49         determine if it is\r
  50         spam. We require at least 5.0 points to mark a message as spam.\r
  51         This message scored 0.0 points. Summary of the scoring: \r
  52         * 0.0 FREEMAIL_FROM Sender email is commonly abused enduser mail\r
  53         provider *      (markwalters1009[at]gmail.com)\r
  54         *  0.0 AWL AWL: From: address is in the auto white-list\r
  55 X-QM-Scan-Virus: ClamAV says the message is clean\r
  56 Cc: tomi.ollila@iki.fi\r
  57 X-BeenThere: notmuch@notmuchmail.org\r
  58 X-Mailman-Version: 2.1.13\r
  59 Precedence: list\r
  60 List-Id: "Use and development of the notmuch mail system."\r
  61         <notmuch.notmuchmail.org>\r
  62 List-Unsubscribe: <http://notmuchmail.org/mailman/options/notmuch>,\r
  63         <mailto:notmuch-request@notmuchmail.org?subject=unsubscribe>\r
  64 List-Archive: <http://notmuchmail.org/pipermail/notmuch>\r
  65 List-Post: <mailto:notmuch@notmuchmail.org>\r
  66 List-Help: <mailto:notmuch-request@notmuchmail.org?subject=help>\r
  67 List-Subscribe: <http://notmuchmail.org/mailman/listinfo/notmuch>,\r
  68         <mailto:notmuch-request@notmuchmail.org?subject=subscribe>\r
  69 X-List-Received-Date: Sun, 08 Sep 2013 17:38:42 -0000\r
  70 \r
  71 \r
  72 LGTM +1\r
  73 \r
  74 Mark\r
  75 \r
  76 On Sun, 08 Sep 2013, Tomi Ollila <tomi.ollila@iki.fi> wrote:\r
  77 > If any of the tests in our test system is not passing the execution\r
  78 > of the test suite completes with nonzero exit value.\r
  79 >\r
  80 > It is better to rely on the exit value of the test system instead\r
  81 > of some arbitrary strings in test output (or use both).\r
  82 > ---\r
  83 >\r
  84 > This is v2 of id:1378479935-26312-1-git-send-email-tomi.ollila@iki.fi\r
  85 > thanks to Mark's observation in id:87d2olg9bz.fsf@qmul.ac.uk\r
  86 > which widened my thought region :D\r
  87 >\r
  88 > Tomi\r
  89 >\r
  90 >  test/aggregate-results.sh | 9 +++++++++\r
  91 >  test/notmuch-test         | 3 +++\r
  92 >  2 files changed, 12 insertions(+)\r
  93 >\r
  94 > diff --git a/test/aggregate-results.sh b/test/aggregate-results.sh\r
  95 > index 732d6ca..b016edb 100755\r
  96 > --- a/test/aggregate-results.sh\r
  97 > +++ b/test/aggregate-results.sh\r
  98 > @@ -1,5 +1,7 @@\r
  99 >  #!/usr/bin/env bash\r
 100 >  \r
 101 > +set -eu\r
 102 > +\r
 103 >  fixed=0\r
 104 >  success=0\r
 105 >  failed=0\r
 106 > @@ -79,3 +81,10 @@ if [ "$skipped" != "0" ]; then\r
 107 >      tests=$(pluralize "test" $skipped)\r
 108 >      echo "$skipped $tests skipped."\r
 109 >  fi\r
 110 > +\r
 111 > +if [ $success -gt 0 -a $fixed -eq 0 -a $failed -eq 0 -a $skipped -eq 0 ]\r
 112 > +then\r
 113 > +    exit 0\r
 114 > +else\r
 115 > +    exit 1\r
 116 > +fi\r
 117 > diff --git a/test/notmuch-test b/test/notmuch-test\r
 118 > index 6db7979..aa28bb0 100755\r
 119 > --- a/test/notmuch-test\r
 120 > +++ b/test/notmuch-test\r
 121 > @@ -97,6 +97,9 @@ trap - HUP INT TERM\r
 122 >  \r
 123 >  # Report results\r
 124 >  ./aggregate-results.sh test-results/*\r
 125 > +ev=$?\r
 126 >  \r
 127 >  # Clean up\r
 128 >  rm -rf test-results corpus.mail\r
 129 > +\r
 130 > +exit $ev\r
 131 > -- \r
 132 > 1.8.0\r
 133 >\r
 134 > _______________________________________________\r
 135 > notmuch mailing list\r
 136 > notmuch@notmuchmail.org\r
 137 > http://notmuchmail.org/mailman/listinfo/notmuch\r