<html xmlns:v="urn:schemas-microsoft-com:vml" xmlns:o="urn:schemas-microsoft-com:office:office" xmlns:w="urn:schemas-microsoft-com:office:word" xmlns:m="http://schemas.microsoft.com/office/2004/12/omml" xmlns="http://www.w3.org/TR/REC-html40">

<head>
<meta http-equiv=Content-Type content="text/html; charset=us-ascii">
<meta name=Generator content="Microsoft Word 12 (filtered medium)">
<!--[if !mso]>
<style>
v\:* {behavior:url(#default#VML);}
o\:* {behavior:url(#default#VML);}
w\:* {behavior:url(#default#VML);}
.shape {behavior:url(#default#VML);}
</style>
<![endif]-->
<style>
<!--
 /* Font Definitions */
 @font-face
        {font-family:Calibri;
        panose-1:2 15 5 2 2 2 4 3 2 4;}
 /* Style Definitions */
 p.MsoNormal, li.MsoNormal, div.MsoNormal
        {margin:0in;
        margin-bottom:.0001pt;
        font-size:11.0pt;
        font-family:"Calibri","sans-serif";}
a:link, span.MsoHyperlink
        {mso-style-priority:99;
        color:blue;
        text-decoration:underline;}
a:visited, span.MsoHyperlinkFollowed
        {mso-style-priority:99;
        color:purple;
        text-decoration:underline;}
pre
        {mso-style-priority:99;
        mso-style-link:"HTML Preformatted Char";
        margin:0in;
        margin-bottom:.0001pt;
        font-size:10.0pt;
        font-family:"Courier New";}
span.EmailStyle17
        {mso-style-type:personal-compose;
        font-family:"Calibri","sans-serif";
        color:windowtext;}
span.HTMLPreformattedChar
        {mso-style-name:"HTML Preformatted Char";
        mso-style-priority:99;
        mso-style-link:"HTML Preformatted";
        font-family:"Courier New";}
.MsoChpDefault
        {mso-style-type:export-only;}
@page Section1
        {size:8.5in 11.0in;
        margin:1.0in 1.0in 1.0in 1.0in;}
div.Section1
        {page:Section1;}
 /* List Definitions */
 @list l0
        {mso-list-id:2089647059;
        mso-list-template-ids:602847210;}
@list l0:level1
        {mso-level-number-format:bullet;
        mso-level-text:\F0B7;
        mso-level-tab-stop:.5in;
        mso-level-number-position:left;
        text-indent:-.25in;
        mso-ansi-font-size:10.0pt;
        font-family:Symbol;}
@list l0:level2
        {mso-level-tab-stop:1.0in;
        mso-level-number-position:left;
        text-indent:-.25in;}
@list l0:level3
        {mso-level-tab-stop:1.5in;
        mso-level-number-position:left;
        text-indent:-.25in;}
@list l0:level4
        {mso-level-tab-stop:2.0in;
        mso-level-number-position:left;
        text-indent:-.25in;}
@list l0:level5
        {mso-level-tab-stop:2.5in;
        mso-level-number-position:left;
        text-indent:-.25in;}
@list l0:level6
        {mso-level-tab-stop:3.0in;
        mso-level-number-position:left;
        text-indent:-.25in;}
@list l0:level7
        {mso-level-tab-stop:3.5in;
        mso-level-number-position:left;
        text-indent:-.25in;}
@list l0:level8
        {mso-level-tab-stop:4.0in;
        mso-level-number-position:left;
        text-indent:-.25in;}
@list l0:level9
        {mso-level-tab-stop:4.5in;
        mso-level-number-position:left;
        text-indent:-.25in;}
ol
        {margin-bottom:0in;}
ul
        {margin-bottom:0in;}
-->
</style>
<!--[if gte mso 9]><xml>
 <o:shapedefaults v:ext="edit" spidmax="1026" />
</xml><![endif]--><!--[if gte mso 9]><xml>
 <o:shapelayout v:ext="edit">
  <o:idmap v:ext="edit" data="1" />
 </o:shapelayout></xml><![endif]-->
</head>

<body lang=EN-US link=blue vlink=purple>

<div class=Section1>

<p class=MsoNormal>For those out of the loop, we have been wondering why the rain
gauge data (from the handwritten min-max data sheets) is recorded in integers
in babase with no decimal places since this results in a loss of precision and,
in some years, increases annual rainfall by as much as 5mm.<o:p></o:p></p>

<p class=MsoNormal><o:p>&nbsp;</o:p></p>

<p class=MsoNormal>I have been looking through the babase list archives to see
where this decision might have come from.&nbsp; So far I have found the
following but do not yet understand where the assumption that the rain data in
mm is supposed to be an integer value came from - &nbsp;the data is in fact
entered with one decimal place (looking at Tabby&#8217;s data file it looks
like we started using mm in the middle of 1984; thereafter there is only one
nonzero decimal entered).&nbsp; <o:p></o:p></p>

<p class=MsoNormal><o:p>&nbsp;</o:p></p>

<p class=MsoNormal>Beyond that it seems that it was decided only to round the
data that was converted from inches, which had previously had two decimal
places included.&nbsp; It seems that this decision was based partly on the
assumption that rain data in mm was recorded as an integer (this is only true
of weatherhawk rain data!).&nbsp; I will look farther back and see if I can
find earlier references to the rain gauge being read only in whole integers but
it seems to me at this point like there should be one decimal throughout the
dataset (including for inches to match mm&#8230;unless the old rain gauges in
inches were really not as precise or something?).<o:p></o:p></p>

<p class=MsoNormal><o:p>&nbsp;</o:p></p>

<p class=MsoNormal>Niki<o:p></o:p></p>

<p class=MsoNormal><o:p>&nbsp;</o:p></p>

<p class=MsoNormal><b><span style='font-size:12.0pt;font-family:"Times New Roman","serif"'>kfenn</span></b><span
style='font-size:12.0pt;font-family:"Times New Roman","serif"'> <a
href="mailto:babase%40www.eco.princeton.edu?Subject=%5BBabase%5D%20Rain%20units%20and%20other%20weather%20leftovers&amp;In-Reply-To=1238127564l.30163l.4l%40mofo"
title="[Babase] Rain units and other weather leftovers">kfenn at princeton.edu </a><br>
<i>Fri Mar 27 15:26:50 EDT 2009</i> <o:p></o:p></span></p>

<div class=MsoNormal align=center style='text-align:center'><span
style='font-size:12.0pt;font-family:"Times New Roman","serif"'>

<hr size=2 width="100%" align=center>

</span></div>

<p class=MsoNormal><span style='font-size:10.0pt;font-family:"Courier New"'>Karl
O. Pinc wrote:<o:p></o:p></span></p>

<p class=MsoNormal><span style='font-size:10.0pt;font-family:"Courier New";
background:yellow;mso-highlight:yellow'>&gt;<i> Note that RAINGAUGES.Rain is
(supposedly) an<o:p></o:p></i></span></p>

<p class=MsoNormal><span style='font-size:10.0pt;font-family:"Courier New";
background:yellow;mso-highlight:yellow'>&gt;<i> integral number of millimeters,
no decimal point allowed.</i></span><i><span style='font-size:10.0pt;
font-family:"Courier New"'><o:p></o:p></span></i></p>

<p class=MsoNormal><span style='font-size:10.0pt;font-family:"Courier New"'>&gt;<i>
If we really need fractions of a millimeter then<o:p></o:p></i></span></p>

<p class=MsoNormal><span style='font-size:10.0pt;font-family:"Courier New"'>&gt;<i>
the original measurement was probably in inches<o:p></o:p></i></span></p>

<p class=MsoNormal><span style='font-size:10.0pt;font-family:"Courier New"'>&gt;<i>
and was converted.&nbsp; In that case we could consider<o:p></o:p></i></span></p>

<p class=MsoNormal><span style='font-size:10.0pt;font-family:"Courier New"'>&gt;<i>
doing for the rain units what was originally designed<o:p></o:p></i></span></p>

<p class=MsoNormal><span style='font-size:10.0pt;font-family:"Courier New"'>&gt;<i>
for the temperature measurements, store the<o:p></o:p></i></span></p>

<p class=MsoNormal><span style='font-size:10.0pt;font-family:"Courier New"'>&gt;<i>
value as read, have another column<o:p></o:p></i></span></p>

<p class=MsoNormal><span style='font-size:10.0pt;font-family:"Courier New"'>&gt;<i>
for the units, and have a function/view that automatically<o:p></o:p></i></span></p>

<p class=MsoNormal><span style='font-size:10.0pt;font-family:"Courier New"'>&gt;<i>
converts the units and makes them consistent.<o:p></o:p></i></span></p>

<p class=MsoNormal><span style='font-size:10.0pt;font-family:"Courier New"'>&gt;<i><o:p>&nbsp;</o:p></i></span></p>

<p class=MsoNormal><span style='font-size:10.0pt;font-family:"Courier New"'>I see
what you are saying.&nbsp; I looked up one decimal values (21.84 on <o:p></o:p></span></p>

<p class=MsoNormal><span style='font-size:10.0pt;font-family:"Courier New"'>23/2/77)&nbsp;
The values were recorded in inches on our hard copies.&nbsp; Jeanne <o:p></o:p></span></p>

<p class=MsoNormal><span style='font-size:10.0pt;font-family:"Courier New"'>should
say how she wants to deal with the decimal resulting from these <o:p></o:p></span></p>

<p class=MsoNormal><span style='font-size:10.0pt;font-family:"Courier New"'>conversions.<o:p></o:p></span></p>

<p class=MsoNormal><o:p>&nbsp;</o:p></p>

<p class=MsoNormal><b>Karl O. Pinc</b> <a
href="mailto:babase%40www.eco.princeton.edu?Subject=%5BBabase%5D%20Rain%20units%20and%20other%20weather%20leftovers&amp;In-Reply-To=D6A894F6502BDF43AF0C4A59BB97404F03B1DB3F%40EXCLUSTER.pu.win.princeton.edu"
title="[Babase] Rain units and other weather leftovers">kop at meme.com </a><br>
<i>Sat Mar 28 13:47:21 EDT 2009</i><o:p></o:p></p>

<pre>On 03/27/2009 04:19:43 PM, Jeanne Altmann wrote:<o:p></o:p></pre><pre>&gt;<i> Thanks Karl.&nbsp; As you know, Tabby won't be back until Tuesday.<o:p></o:p></i></pre><pre>&gt;<i> However,<o:p></o:p></i></pre><pre>&gt;<i> if you need me to try to handle something before then, alert me.&nbsp; :-)<o:p></o:p></i></pre><pre><o:p>&nbsp;</o:p></pre><pre>I don't need you to handle it, but you're probably the one who's<o:p></o:p></pre><pre>going to handle it anyway.&nbsp; <span
style='background:yellow;mso-highlight:yellow'>&quot;It&quot; being the question of<o:p></o:p></span></pre><pre><span
style='background:yellow;mso-highlight:yellow'>the fractional millimeters of rain measurement that are<o:p></o:p></span></pre><pre><span
style='background:yellow;mso-highlight:yellow'>currently present in the data.&nbsp; (There's 2 decimal points<o:p></o:p></span></pre><pre><span
style='background:yellow;mso-highlight:yellow'>of precision (1/100th of a mm!) in the data Tabby sent.)</span><o:p></o:p></pre><pre>See the thread:<o:p></o:p></pre><pre><o:p>&nbsp;</o:p></pre><pre>Subject: [Babase] Rain units and other weather leftovers<o:p></o:p></pre><pre>On 03/26/2009 11:19:24 PM, Karl O. Pinc wrote:<o:p></o:p></pre><pre><o:p>&nbsp;</o:p></pre><pre>&gt;<i> Note that RAINGAUGES.Rain is (supposedly) an<o:p></o:p></i></pre><pre>&gt;<i> integral number of millimeters, no decimal point allowed.<o:p></o:p></i></pre><pre>&gt;<i> If we really need fractions of a millimeter then<o:p></o:p></i></pre><pre>&gt;<i> the original measurement was probably in inches<o:p></o:p></i></pre><pre>&gt;<i> and was converted.&nbsp; In that case we could consider<o:p></o:p></i></pre><pre>&gt;<i> doing for the rain units what was originally designed<o:p></o:p></i></pre><pre>&gt;<i> for the temperature measurements, store the<o:p></o:p></i></pre><pre>&gt;<i> value as read, have another column<o:p></o:p></i></pre><pre>&gt;<i> for the units, and have a function/view that automatically<o:p></o:p></i></pre><pre>&gt;<i> converts the units and makes them consistent.<o:p></o:p></i></pre><pre><o:p>&nbsp;</o:p></pre><pre>Or we just do something like round the data to the<o:p></o:p></pre><pre>nearest even mm.<o:p></o:p></pre><pre><o:p>&nbsp;</o:p></pre><pre>Karl &lt;<a
href="http://www.eco.princeton.edu/mailman/listinfo/babase">kop at meme.com</a>&gt;<o:p></o:p></pre><pre>Free Software:&nbsp; &quot;You don't pay back, you pay forward.&quot;<o:p></o:p></pre><pre>&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; -- Robert A. Heinlein<o:p></o:p></pre>

<p class=MsoNormal><o:p>&nbsp;</o:p></p>

<p class=MsoNormal><o:p>&nbsp;</o:p></p>

<p class=MsoNormal><b><span style='font-size:12.0pt;font-family:"Times New Roman","serif"'>Jeanne
Altmann</span></b><span style='font-size:12.0pt;font-family:"Times New Roman","serif"'>
<a
href="mailto:babase%40www.eco.princeton.edu?Subject=%5BBabase%5D%20Rain%20units%20and%20other%20weather%20leftovers&amp;In-Reply-To=1238262441l.17575l.0l%40mofo"
title="[Babase] Rain units and other weather leftovers">altj at Princeton.EDU </a><br>
<i>Sat Mar 28 14:42:26 EDT 2009</i> <o:p></o:p></span></p>

<ul type=disc>
 <li class=MsoNormal style='mso-margin-top-alt:auto;mso-margin-bottom-alt:auto;
     mso-list:l0 level1 lfo1'><span style='font-size:12.0pt;font-family:"Times New Roman","serif"'>Previous
     message: <a
     href="http://eeblistserv.princeton.edu/pipermail/babase/2009-March/003041.html">[Babase]
     Rain units and other weather leftovers </a><o:p></o:p></span></li>
 <li class=MsoNormal style='mso-margin-top-alt:auto;mso-margin-bottom-alt:auto;
     mso-list:l0 level1 lfo1'><span style='font-size:12.0pt;font-family:"Times New Roman","serif"'>Next
     message: <a
     href="http://eeblistserv.princeton.edu/pipermail/babase/2009-March/003049.html">[Babase]
     Rain units and other weather leftovers </a><o:p></o:p></span></li>
 <li class=MsoNormal style='mso-margin-top-alt:auto;mso-margin-bottom-alt:auto;
     mso-list:l0 level1 lfo1'><b><span style='font-size:12.0pt;font-family:
     "Times New Roman","serif"'>Messages sorted by:</span></b><span
     style='font-size:12.0pt;font-family:"Times New Roman","serif"'> <a
     href="http://eeblistserv.princeton.edu/pipermail/babase/2009-March/date.html#3042">[
     date ]</a> <a
     href="http://eeblistserv.princeton.edu/pipermail/babase/2009-March/thread.html#3042">[
     thread ]</a> <a
     href="http://eeblistserv.princeton.edu/pipermail/babase/2009-March/subject.html#3042">[
     subject ]</a> <a
     href="http://eeblistserv.princeton.edu/pipermail/babase/2009-March/author.html#3042">[
     author ]</a> <o:p></o:p></span></li>
</ul>

<div class=MsoNormal align=center style='text-align:center'><span
style='font-size:12.0pt;font-family:"Times New Roman","serif"'>

<hr size=2 width="100%" align=center>

</span></div>

<p class=MsoNormal><span style='font-size:10.0pt;font-family:"Courier New";
background:yellow;mso-highlight:yellow'>Susan, I would say round to the nearest
mm for the records that have<o:p></o:p></span></p>

<p class=MsoNormal><span style='font-size:10.0pt;font-family:"Courier New";
background:yellow;mso-highlight:yellow'>decimal values from inches conversion</span><span
style='font-size:10.0pt;font-family:"Courier New"'>; your thoughts? <o:p></o:p></span></p>

<p class=MsoNormal><o:p>&nbsp;</o:p></p>

<p class=MsoNormal><o:p>&nbsp;</o:p></p>

</div>

</body>

</html>