Text preview for : Initial_F5700A_Cal_Dump.zip part of Fluke Initial F5700A Cal Dump Fluke 5700a Initial_F5700A_Cal_Dump.zip
Back to : Initial_F5700A_Cal_Dump.z | Home
------------------------------------------------------------------------
JOHN FLUKE MFG. CO., INC. S/N XXXXXXX 5700A OUTPUT CALIBRATION
PRINTED ON 3/28/16 AT 17:21:58 5700A S/N XXXXXXX
------------------------------------------------------------------------
------------------------------------------------------------------------
MODULES PRESENT
------------------------------------------------------------------------
Software Revision JA*
Switching Matrix
DC Volt Module
AC Volt Module
220V Module
1100V/2A Module
Current Module
Ohms Module
Wideband Module
Hires Osc Module
Rear Panel
------------------------------------------------------------------------
ARTIFACT CALIBRATION DATES AND TEMPERATURES
------------------------------------------------------------------------
Specification Interval: 1 year
MAIN OUTPUT: (Most recent) 8/28/12, 22.5 Degrees C
(Previous) 8/27/12, 22.3 Degrees C
(Days since last cal) 1308
ZERO: (Most recent) 8/28/12
(Days since last cal) 1308
WIDEBAND GAIN: (Most recent) 8/28/12, 22.4 Degrees C
(Previous) 8/02/12, 22.7 Degrees C
(Days since last cal) 1308
WIDEBAND FLAT: (Most recent) 8/28/12, 22.3 Degrees C
(Previous) 11/08/07, 23.0 Degrees C
(Days since last cal) 1308
------------------------------------------------------------------------
STANDARDS USED
------------------------------------------------------------------------
STANDARD NUMBER CERT. DATE
VOLTAGE ______________ ______________ 9.999911 V
10 kOhm ______________ ______________ 10.000076 kOhm
1 Ohm ______________ ______________ 1.0001129 Ohm
OTHER ______________ ______________ _______________
______________ ______________ _______________
------------------------------------------------------------------------
EXTERNALLY CALIBRATED INTERNAL REFERENCES
------------------------------------------------------------------------
REFERENCE Most Recent Previous Shift (ppm)
6.5 V DC Reference 6.891367 6.891367 0.00
13 V DC Reference 13.794822 13.794822 0.00
Resistance Reference 0.9999939 0.9999945 -0.59
1.0 Ohm Resistor 0.9998249 1.0008533 -1027.55
1.9 Ohm Resistor 1.8995690 1.9015118 -1021.71
------------------------------------------------------------------------
DC VOLTAGE OUTPUT SHIFTS
------------------------------------------------------------------------
RANGE Point Zero Shift Full Scale Shift Spec Shift
(+/-) (% spec)
220 mV +FS -0.00010 mV -0.00037 mV -1.69 ppm 12.64 ppm -13.40
-FS -0.00009 mV 0.00019 mV 0.84 ppm 12.64 ppm 6.68
2.2V +FS 0.0000000 V 0.0000000 V 0.00 ppm 8.55 ppm 0.02
-FS 0.0000001 V 0.0000001 V 0.03 ppm 8.55 ppm 0.32
11V +FS 0.000000 V 0.000000 V 0.00 ppm 8.36 ppm 0.02
-FS 0.000000 V 0.000000 V 0.03 ppm 8.36 ppm 0.33
22V +FS 0.000000 V 0.000000 V 0.01 ppm 8.36 ppm 0.07
-FS 0.000001 V 0.000001 V 0.02 ppm 8.36 ppm 0.29
220V +FS -0.00001 V 0.00026 V 1.19 ppm 9.45 ppm 12.54
-FS 0.00000 V -0.00027 V -1.22 ppm 9.45 ppm -12.85
1100V +FS -0.0000 V -0.0000 V -0.03 ppm 11.55 ppm -0.24
-FS 0.0000 V -0.0000 V 0.00 ppm 11.55 ppm -0.02
------------------------------------------------------------------------
AC VOLTAGE OUTPUT SHIFTS
------------------------------------------------------------------------
RANGE Point Full Scale Shift Spec Shift
(+/-) (% spec)
2.2 mV FS -0.000005 mV -0.0002 % 0.24 % -0.10
20.00 kHz -0.000006 mV -0.0003 % 0.24 % -0.12
50.00 kHz -0.000003 mV -0.0001 % 0.27 % -0.05
100.00 kHz -0.000006 mV -0.0003 % 0.46 % -0.06
119.99 kHz -0.000002 mV -0.0001 % 0.81 % -0.01
0.1200 MHz -0.000005 mV -0.0002 % 0.81 % -0.03
0.2000 MHz -0.000007 mV -0.0003 % 0.81 % -0.04
0.3000 MHz -0.000019 mV -0.0009 % 0.81 % -0.11
0.4000 MHz -0.000030 mV -0.0014 % 1.54 % -0.09
0.5000 MHz -0.000041 mV -0.0019 % 1.54 % -0.12
0.6000 MHz -0.000055 mV -0.0025 % 1.72 % -0.15
0.7000 MHz -0.000068 mV -0.0031 % 1.72 % -0.18
0.8000 MHz -0.000094 mV -0.0043 % 1.72 % -0.25
0.9000 MHz -0.000118 mV -0.0054 % 1.72 % -0.31
1.0000 MHz -0.000117 mV -0.0053 % 1.72 % -0.31
1.1000 MHz -0.000147 mV -0.0067 % NO SPEC 0.00
1.1999 MHz -0.000172 mV -0.0078 % NO SPEC 0.00
22 mV FS -0.00007 mV -3.12 ppm 392.73 ppm -0.79
20.00 kHz -0.00005 mV -2.48 ppm 392.73 ppm -0.63
50.00 kHz -0.00007 mV -2.96 ppm 682.73 ppm -0.43
100.00 kHz -0.00011 mV -0.0005 % 0.13 % -0.38
119.99 kHz -0.00016 mV -0.0007 % 0.20 % -0.37
0.1200 MHz -0.00017 mV -0.0008 % 0.20 % -0.38
0.2000 MHz -0.00019 mV -0.0009 % 0.20 % -0.43
0.3000 MHz -0.00026 mV -0.0012 % 0.20 % -0.59
0.4000 MHz -0.00039 mV -0.0018 % 0.32 % -0.56
0.5000 MHz -0.00054 mV -0.0024 % 0.32 % -0.77
0.6000 MHz -0.00073 mV -0.0033 % 0.50 % -0.67
0.7000 MHz -0.00093 mV -0.0042 % 0.50 % -0.85
0.8000 MHz -0.00116 mV -0.0053 % 0.50 % -1.06
0.9000 MHz -0.00137 mV -0.0062 % 0.50 % -1.25
1.0000 MHz -0.00149 mV -0.0068 % 0.50 % -1.36
1.1000 MHz -0.00205 mV -0.0093 % NO SPEC 0.00
1.1999 MHz -0.00230 mV -0.0105 % NO SPEC 0.00
220 mV FS 0.0003 mV 1.15 ppm 155.45 ppm 0.74
20.00 kHz 0.0001 mV 0.66 ppm 155.45 ppm 0.42
50.00 kHz 0.0005 mV 2.13 ppm 405.45 ppm 0.52
100.00 kHz 0.0002 mV 0.0001 % 0.10 % 0.07
119.99 kHz 0.0006 mV 0.0003 % 0.12 % 0.22
0.1200 MHz 0.0003 mV 0.0001 % 0.12 % 0.11
0.2000 MHz 0.0001 mV 0.0000 % 0.12 % 0.03
0.3000 MHz -0.0011 mV -0.0005 % 0.12 % -0.42
0.4000 MHz -0.0023 mV -0.0010 % 0.20 % -0.52
0.5000 MHz -0.0033 mV -0.0015 % 0.20 % -0.76
0.6000 MHz -0.0047 mV -0.0022 % 0.41 % -0.53
0.7000 MHz -0.0060 mV -0.0027 % 0.41 % -0.68
0.8000 MHz -0.0086 mV -0.0039 % 0.41 % -0.97
0.9000 MHz -0.0110 mV -0.0050 % 0.41 % -1.24
1.0000 MHz -0.0109 mV -0.0050 % 0.41 % -1.23
1.1000 MHz -0.0139 mV -0.0063 % NO SPEC 0.00
1.1999 MHz -0.0164 mV -0.0075 % NO SPEC 0.00
2.2V FS 0.000000 V 0.14 ppm 88.18 ppm 0.15
20.00 kHz -0.000001 V -0.36 ppm 88.18 ppm -0.40
50.00 kHz 0.000002 V 1.11 ppm 149.09 ppm 0.75
100.00 kHz -0.000001 V -0.24 ppm 316.36 ppm -0.08
119.99 kHz 0.000004 V 1.71 ppm 548.18 ppm 0.31
0.1200 MHz 0.000001 V 0.39 ppm 548.18 ppm 0.07
0.2000 MHz -0.000002 V -0.70 ppm 548.18 ppm -0.13
0.3000 MHz -0.000014 V -6.23 ppm 548.18 ppm -1.14
0.4000 MHz -0.000025 V -0.0011 % 0.14 % -0.81
0.5000 MHz -0.000036 V -0.0016 % 0.14 % -1.17
0.6000 MHz -0.000050 V -0.0023 % 0.29 % -0.79
0.7000 MHz -0.000062 V -0.0028 % 0.29 % -1.00
0.8000 MHz -0.000088 V -0.0040 % 0.29 % -1.41
0.9000 MHz -0.000112 V -0.0051 % 0.29 % -1.79
1.0000 MHz -0.000112 V -0.0051 % 0.29 % -1.78
1.1000 MHz -0.000142 V -0.0064 % NO SPEC 0.00
1.1999 MHz -0.000166 V -0.0076 % NO SPEC 0.00
22V FS -0.00001 V -0.60 ppm 88.18 ppm -0.68
20.00 kHz 0.00000 V 0.04 ppm 88.18 ppm 0.05
50.00 kHz -0.00001 V -0.44 ppm 149.09 ppm -0.30
100.00 kHz -0.00006 V -2.51 ppm 298.18 ppm -0.84
119.99 kHz -0.00011 V -4.78 ppm 677.27 ppm -0.71
0.1200 MHz -0.00011 V -5.07 ppm 677.27 ppm -0.75
0.2000 MHz -0.00013 V -6.09 ppm 677.27 ppm -0.90
0.3000 MHz -0.00020 V -9.26 ppm 677.27 ppm -1.37
0.4000 MHz -0.00033 V -0.0015 % 0.16 % -0.93
0.5000 MHz -0.00048 V -0.0022 % 0.16 % -1.34
0.6000 MHz -0.00068 V -0.0031 % 0.34 % -0.90
0.7000 MHz -0.00087 V -0.0040 % 0.34 % -1.16
0.8000 MHz -0.00111 V -0.0050 % 0.34 % -1.47
0.9000 MHz -0.00131 V -0.0060 % 0.34 % -1.75
1.0000 MHz -0.00143 V -0.0065 % 0.34 % -1.91
1.1000 MHz -0.00199 V -0.0091 % NO SPEC 0.00
1.1999 MHz -0.00225 V -0.0102 % NO SPEC 0.00
220V FS 0.0000 V 0.14 ppm 94.55 ppm 0.14
5.000 kHz 0.0006 V 2.94 ppm 94.55 ppm 3.11
10.000 kHz -0.0009 V -4.12 ppm 94.55 ppm -4.36
20.00 kHz 0.0003 V 1.26 ppm 94.55 ppm 1.33
50.00 kHz -0.0000 V -0.20 ppm 268.18 ppm -0.07
100.00 kHz -0.0004 V -1.65 ppm 645.45 ppm -0.26
119.99 kHz -0.0016 V -0.0007 % 0.21 % -0.36
0.1200 MHz -0.0010 V -0.0004 % 0.21 % -0.21
0.2000 MHz -0.0039 V -0.0018 % 0.21 % -0.84
0.3000 MHz -0.0116 V -0.0053 % 0.21 % -2.51
0.4000 MHz -0.0161 V -0.0073 % 0.59 % -1.24
0.5000 MHz -0.0109 V -0.0050 % 0.59 % -0.84
0.6000 MHz 0.0090 V 0.0041 % 1.40 % 0.29
0.7000 MHz -0.1803 V -0.0819 % 1.40 % -5.85
0.8000 MHz -0.1333 V -0.0606 % 1.40 % -4.33
0.9000 MHz -0.0779 V -0.0354 % 1.40 % -2.53
1.0000 MHz -0.0685 V -0.0312 % 1.40 % -2.23
1100V FS -0.001 V -0.46 ppm 93.64 ppm -0.50
0.3000 kHz 0.008 V 6.92 ppm 93.64 ppm 7.39
0.5000 kHz 0.005 V 4.26 ppm 93.64 ppm 4.55
0.7000 kHz -0.001 V -0.57 ppm 93.64 ppm -0.61
1.0000 kHz -0.002 V -2.04 ppm 93.64 ppm -2.18
------------------------------------------------------------------------
DC CURRENT OUTPUT SHIFTS
------------------------------------------------------------------------
RANGE Point Zero Shift Full Scale Shift Spec Shift
(+/-) (% spec)
220 uA +FS -0.0001 uA 0.0001 uA 0.55 ppm 105.45 ppm 0.52
-FS -0.0001 uA -0.0003 uA -1.50 ppm 105.45 ppm -1.43
2.2 mA +FS 0.000001 mA 0.000006 mA 2.87 ppm 64.55 ppm 4.45
-FS 0.000001 mA -0.000004 mA -1.95 ppm 64.55 ppm -3.01
22 mA +FS 0.00001 mA 0.00004 mA 1.80 ppm 64.55 ppm 2.79
-FS 0.00001 mA -0.00002 mA -1.11 ppm 64.55 ppm -1.71
220 mA +FS 0.0001 mA -0.0003 mA -1.51 ppm 84.23 ppm -1.79
-FS 0.0001 mA 0.0006 mA 2.52 ppm 84.23 ppm 2.99
2.2A +FS 0.000003 A -0.000002 A -1.06 ppm 157.04 ppm -0.68
-FS 0.000003 A 0.000009 A 3.95 ppm 157.04 ppm 2.52
------------------------------------------------------------------------
AC CURRENT OUTPUT SHIFTS
------------------------------------------------------------------------
RANGE Point Full Scale Shift Spec Shift
(+/-) (% spec)
220 uA FS 0.000 uA 0.44 ppm 250.91 ppm 0.17
0.5000 kHz -0.001 uA -3.76 ppm 250.91 ppm -1.50
1.0000 kHz 0.001 uA 2.95 ppm 250.91 ppm 1.18
2.000 kHz 0.000 uA 0.46 ppm 927.27 ppm 0.05
5.000 kHz -0.000 uA -1.61 ppm 927.27 ppm -0.17
7.000 kHz 0.000 uA 0.0001 % 0.23 % 0.03
10.000 kHz -0.001 uA -0.0006 % 0.23 % -0.27
2.2 mA FS 0.00000 mA 1.82 ppm 178.18 ppm 1.02
0.5000 kHz 0.00000 mA 1.34 ppm 178.18 ppm 0.75
1.0000 kHz 0.00000 mA 1.78 ppm 178.18 ppm 1.00
2.000 kHz 0.00000 mA 1.47 ppm 927.27 ppm 0.16
5.000 kHz 0.00001 mA 3.56 ppm 927.27 ppm 0.38
7.000 kHz -0.00000 mA -0.0002 % 0.23 % -0.07
10.000 kHz 0.00000 mA 0.0002 % 0.23 % 0.10
22 mA FS 0.0000 mA 0.86 ppm 178.18 ppm 0.48
0.5000 kHz 0.0000 mA 1.43 ppm 178.18 ppm 0.80
1.0000 kHz 0.0001 mA 3.24 ppm 178.18 ppm 1.82
2.000 kHz 0.0000 mA 0.20 ppm 927.27 ppm 0.02
5.000 kHz 0.0000 mA 0.89 ppm 927.27 ppm 0.10
7.000 kHz -0.0000 mA 0.0000 % 0.23 % -0.01
10.000 kHz 0.0001 mA 0.0004 % 0.23 % 0.17
220 mA FS -0.001 mA -2.60 ppm 198.18 ppm -1.31
0.5000 kHz -0.000 mA -0.50 ppm 198.18 ppm -0.25
1.0000 kHz -0.001 mA -2.49 ppm 198.18 ppm -1.25
2.000 kHz -0.000 mA -1.09 ppm 927.27 ppm -0.12
5.000 kHz -0.000 mA -1.90 ppm 927.27 ppm -0.20
7.000 kHz -0.001 mA -0.0003 % 0.23 % -0.11
10.000 kHz -0.001 mA -0.0005 % 0.23 % -0.22
2.2A FS -0.00001 A -3.10 ppm 768.18 ppm -0.40
0.5000 kHz -0.00001 A -2.53 ppm 768.18 ppm -0.33
1.0000 kHz -0.00000 A -0.72 ppm 768.18 ppm -0.09
2.000 kHz -0.00001 A -3.76 ppm 895.45 ppm -0.42
5.000 kHz -0.00001 A -3.07 ppm 895.45 ppm -0.34
7.000 kHz -0.00001 A -0.0004 % 1.01 % -0.04
10.000 kHz -0.00000 A 0.0000 % 1.01 % 0.00
------------------------------------------------------------------------
RESISTANCE OUTPUT SHIFTS
------------------------------------------------------------------------
Point Full Scale Shift Spec Shift
(+/-) (% spec)
0.0000000 Ohm 0.0000000 Ohm 0.00 Ohm 0.00 Ohm 0.00
1.0008533 Ohm -0.0010284 Ohm-1027.55 ppm 110.00 ppm -934.14
1.9015118 Ohm -0.0019428 Ohm-1021.71 ppm 110.00 ppm -928.83
9.999929 Ohm 0.000005 Ohm 0.53 ppm 33.00 ppm 1.60
18.999122 Ohm -0.000021 Ohm -1.10 ppm 31.00 ppm -3.56
100.00191 Ohm -0.00004 Ohm -0.36 ppm 20.00 ppm -1.81
189.99548 Ohm -0.00025 Ohm -1.33 ppm 20.00 ppm -6.63
0.9999923 kOhm -0.0000005 kOhm -0.49 ppm 15.00 ppm -3.24
1.8999989 kOhm -0.0000022 kOhm -1.14 ppm 15.00 ppm -7.63
10.000080 kOhm -0.000000 kOhm -0.03 ppm 14.00 ppm -0.22
18.999707 kOhm -0.000012 kOhm -0.62 ppm 14.00 ppm -4.43
100.00134 kOhm -0.00001 kOhm -0.06 ppm 16.00 ppm -0.40
189.99299 kOhm -0.00013 kOhm -0.69 ppm 16.00 ppm -4.29
1.0000017 MOhm 0.0000000 MOhm 0.00 ppm 23.00 ppm 0.00
1.8999584 MOhm -0.0000021 MOhm -1.12 ppm 24.00 ppm -4.68
9.999384 MOhm -0.000002 MOhm -0.21 ppm 46.00 ppm -0.46
18.999053 MOhm -0.000019 MOhm -0.99 ppm 55.00 ppm -1.81
100.00913 MOhm -0.00065 MOhm -6.52 ppm 130.00 ppm -5.02
------------------------------------------------------------------------
WIDEBAND OUTPUT SHIFTS
------------------------------------------------------------------------
RANGE Point Full Scale Shift Spec Shift
(+/-) (% spec)
1.1 mV FS 0.12 uV 0.0112 % 0.98 % 1.14
1.0000 kHz 0.12 uV 0.0112 % 0.98 % 1.14
12.00 kHz -0.03 uV -0.0031 % 0.98 % -0.31
100.00 kHz -0.49 uV -0.0442 % 0.98 % -4.50
0.5000 MHz -0.41 uV -0.0376 % 0.98 % -3.83
1.1999 MHz -0.07 uV -0.0065 % 1.45 % -0.44
1.2 MHz -0.21 uV -0.0192 % 1.45 % -1.32
2.0 MHz 0.04 uV 0.0039 % 1.45 % 0.27
10.0 MHz -0.31 uV -0.0279 % 1.65 % -1.69
20 MHz -0.73 uV -0.0666 % 1.75 % -3.79
30 MHz -1.51 uV -0.1369 % 3.85 % -3.56
3.3 mV FS 0.00042 mV 0.0127 % 0.79 % 1.61
1.0000 kHz 0.00042 mV 0.0127 % 0.79 % 1.61
12.00 kHz 0.00021 mV 0.0064 % 0.79 % 0.81
100.00 kHz -0.00100 mV -0.0304 % 0.79 % -3.84
0.5000 MHz -0.00087 mV -0.0264 % 0.79 % -3.34
1.1999 MHz 0.00003 mV 0.0008 % 0.98 % 0.08
1.2 MHz -0.00033 mV -0.0099 % 0.98 % -1.01
2.0 MHz 0.00011 mV 0.0035 % 0.98 % 0.35
10.0 MHz -0.00011 mV -0.0032 % 1.18 % -0.27
20 MHz -0.00247 mV -0.0748 % 1.38 % -5.41
30 MHz -0.00088 mV -0.0266 % 2.38 % -1.12
11 mV FS 0.0009 mV 0.0083 % 0.77 % 1.08
1.0000 kHz 0.0009 mV 0.0083 % 0.77 % 1.08
12.00 kHz 0.0001 mV 0.0007 % 0.77 % 0.09
100.00 kHz -0.0026 mV -0.0234 % 0.77 % -3.03
0.5000 MHz -0.0028 mV -0.0251 % 0.77 % -3.25
1.1999 MHz -0.0009 mV -0.0079 % 0.90 % -0.88
1.2 MHz -0.0022 mV -0.0196 % 0.90 % -2.18
2.0 MHz -0.0000 mV -0.0002 % 0.90 % -0.03
10.0 MHz -0.0034 mV -0.0307 % 1.00 % -3.07
20 MHz -0.0087 mV -0.0794 % 1.20 % -6.62
30 MHz -0.0044 mV -0.0403 % 1.80 % -2.24
33 mV FS 0.0033 mV 0.0099 % 0.65 % 1.52
1.0000 kHz 0.0033 mV 0.0099 % 0.65 % 1.52
12.00 kHz 0.0034 mV 0.0102 % 0.65 % 1.58
100.00 kHz -0.0032 mV -0.0097 % 0.65 % -1.50
0.5000 MHz -0.0048 mV -0.0145 % 0.65 % -2.24
1.1999 MHz -0.0007 mV -0.0022 % 0.76 % -0.29
1.2 MHz -0.0039 mV -0.0119 % 0.76 % -1.57
2.0 MHz -0.0011 mV -0.0032 % 0.76 % -0.43
10.0 MHz -0.0062 mV -0.0188 % 0.86 % -2.19
20 MHz -0.0065 mV -0.0198 % 1.06 % -1.87
30 MHz 0.0272 mV 0.0824 % 1.66 % 4.97
110 mV FS -0.000 mV -0.0001 % 0.64 % -0.02
1.0000 kHz -0.000 mV -0.0001 % 0.64 % -0.02
12.00 kHz -0.012 mV -0.0108 % 0.64 % -1.69
100.00 kHz -0.034 mV -0.0309 % 0.64 % -4.86
0.5000 MHz -0.042 mV -0.0380 % 0.64 % -5.97
1.1999 MHz -0.026 mV -0.0241 % 0.74 % -3.26
1.2 MHz -0.042 mV -0.0378 % 0.74 % -5.11
2.0 MHz -0.030 mV -0.0273 % 0.74 % -3.69
10.0 MHz -0.071 mV -0.0646 % 0.84 % -7.69
20 MHz -0.105 mV -0.0958 % 1.04 % -9.22
30 MHz -0.016 mV -0.0142 % 1.64 % -0.86
330 mV FS 0.005 mV 0.0014 % 0.53 % 0.27
1.0000 kHz 0.005 mV 0.0014 % 0.53 % 0.27
12.00 kHz -0.004 mV -0.0012 % 0.53 % -0.23
100.00 kHz -0.055 mV -0.0168 % 0.53 % -3.16
0.5000 MHz -0.084 mV -0.0254 % 0.53 % -4.78
1.1999 MHz -0.044 mV -0.0135 % 0.63 % -2.13
1.2 MHz -0.083 mV -0.0252 % 0.63 % -3.98
2.0 MHz -0.073 mV -0.0221 % 0.63 % -3.51
10.0 MHz -0.039 mV -0.0118 % 0.73 % -1.61
20 MHz 0.098 mV 0.0296 % 0.93 % 3.17
30 MHz -0.062 mV -0.0187 % 1.53 % -1.22
1.1V FS -0.00003 V -0.0030 % 0.54 % -0.55
1.0000 kHz -0.00003 V -0.0030 % 0.54 % -0.55
12.00 kHz -0.00008 V -0.0069 % 0.54 % -1.29
100.00 kHz -0.00011 V -0.0099 % 0.54 % -1.84
0.5000 MHz -0.00026 V -0.0241 % 0.54 % -4.49
1.1999 MHz -0.00024 V -0.0222 % 0.64 % -3.48
1.2 MHz -0.00038 V -0.0349 % 0.64 % -5.48
2.0 MHz -0.00028 V -0.0258 % 0.64 % -4.06
10.0 MHz -0.00043 V -0.0393 % 0.74 % -5.33
20 MHz 0.00027 V 0.0249 % 0.94 % 2.66
30 MHz -0.00036 V -0.0323 % 1.54 % -2.10
3.5V FS -0.00005 V -0.0014 % 0.41 % -0.35
1.0000 kHz -0.00005 V -0.0014 % 0.41 % -0.35
12.00 kHz 0.00009 V 0.0026 % 0.41 % 0.63
100.00 kHz 0.00014 V 0.0040 % 0.41 % 0.96
0.5000 MHz -0.00045 V -0.0128 % 0.41 % -3.10
1.1999 MHz -0.00052 V -0.0149 % 0.51 % -2.90
1.2 MHz -0.00090 V -0.0256 % 0.51 % -4.98
2.0 MHz -0.00092 V -0.0263 % 0.51 % -5.11
10.0 MHz -0.00051 V -0.0146 % 0.61 % -2.37
20 MHz 0.00058 V 0.0167 % 0.81 % 2.05
30 MHz 0.00272 V 0.0778 % 1.41 % 5.50