git.tremily.us Git - calibcant.git/blob

   1 Consider
   2
   3 $ cc_vib_analyze.py -m 300 -M 7000 -f50000 -p -G -d 20080919/20080919121041_zp_time_50000Hz
   4
   5 The guess looks reasonable.  It is a bit off due to some popcorn
   6 noise, but it looks like it should fit.  The fit, however, looks bad.
   7 It is definately too flat.  Looking at the git.log gnuplot output, we see
   8
   9   After 10 iterations the fit converged.
  10   final sum of squares of residuals : 2.58573e+09
  11   rel. change during last iteration : -6.04806e-06
  12   ...
  13   Final set of parameters            Asymptotic Standard Error
  14   =======================            ==========================
  15
  16   A               = 5115             +/- 184.1        (3.599%)
  17   B               = 5476.03          +/- 433.1        (7.909%)
  18   C               = 2.73854e+18      +/- 4.604e+17    (16.81%)
  19   ...
  20   correlation matrix of the fit parameters:
  21
  22                  A      B      C
  23   A               1.000
  24   B               0.905  1.000
  25   C               0.970  0.963  1.000
  26
  27 The high correlation matrix can't be helping...
  28