Perhitungan Standar Deviasi Penentuan Batas Deteksi Batas deteksi dapat dihitung dengan persamaan :

Nilai b diperoleh melalui substitusi nilai a ke dalam persamaan berikut : Y = a X + b b = Y – a X = 0,4005 – 0,2715 1,4 = 0,0204 Maka persamaan garis regresi yang diperoleh adalah : Y = 0,2715 X + 0,0204

b. Perhitungan Koefisien Korelasi

Koefisien korelasi r dari persamaan kurva kalibrasi dapat ditunjukkan sebagai berikut : r = ∑ ∑ ∑ − − − − 2 2 Y Yi X Xi Y XYi Xi r = 2066 2,8 0,7602 x0, = 0,9996

c. Perhitungan Standar Deviasi

Dengan mensubstitusikan nilai konsentrasi larutan standar Xi ke persamaan garis regresi maka diperoleh nilai Y yang baru Ϋ, seperti yang tercantum pada tabel : No Xi Yi Ϋ Xi 2 Yi- Ϋ Yi – Ϋ 2 1 0,4 0,114 0,1290 0,16 -0,012 0,0001 2 0,8 0,246 0,2376 0,64 0,0084 0,0000 3 1,2 0,362 0,3462 1,44 0,0158 0,0002 4 1,6 0,453 0,4548 2,56 0,0018 0,0000 5 2,0 0,561 0,5634 4,00 0,0024 0,0000 6 2,4 0,667 0,6720 5,76 0,0050 0,0000 Σ 8,4 2,403 2,403 14,56 0,0454 0,0003 Dari tabel diatas maka dapat ditentukan standar deviasi untuk deviasi untuk intersep Sb yaitu : Universitas Sumatera Utara Sb = Sy X [ ∑ ฀ X i − X ฀ 2 ] 1 2 Dimana : Sy X = [ ∑ ฀ Yi − Y ฀ 2 n − 2 ] 1 2 Sy X = [ 0, 0003 6 − 2 ] 1 2 = 0,0086 Sehinggga diperoleh : Sb = 0, 0086 [ 2,8 ] 1 2 = 0,0051 Nilai Sb dihitung untuk menentukan batas kepercayaan nilai intersep yaitu b ± t Sb, dimana t diperoleh dari tabel t – distribusi dengan derajat kepercayaan 95 dan derajat kebebasan n - 2 = 6 - 2 = 4, diperoleh p = 0,05 dan t = 2,78, sehingga batas kepercayaan untuk nilai intersep adalah : 0,0204 ± 2,78 0,0051 0,0204 ± 14,1 x 10 -3 0,0204 ± 0,0141 Deviasi slope dari standar dapat dihitung dengan menggunakan persamaan : Sa = 2 1 2         − ∑ ∑ X X n Xi SyX 2 = 0,0086 2 1 2,8 6 56 14     , = 0,0080 Universitas Sumatera Utara Sesuai dengan cara menentukan batas kepercayaan nilai intersep, maka batas kepercayaan nilai slope dapat ditentukan dengan a ± tSa, dimana t diperoleh dari tabel t-distribusi dengan derajat kepecayaan 95 dan derajat kebebasan n - 2 = 6 - 2 = 4, diperoleh p = 0,05 dan t = 2,78 sehingga batas kepercayaan untuk nilai slope adalah : 0,2715 ± 2,78 0,0080 0,2715 ± 22,2 x 10 -3 0,2715 ± 0,0222

d. Penentuan Batas Deteksi Batas deteksi dapat dihitung dengan persamaan :

3 Sb = Y – Yb Y = 3 Sb + Yb Dimana : Y = sinyal pada batas deteksi Sb = Standar deviasi Yb = Intersep kurva kalibrasi Persamaan kurva kalibrasi : Y = 0,2715 X + 0,0204, Yb = 0,0204 dan Sb = 0,0051 Maka dengan mensubstitusikan Yb dan Sb pada persamaan Y = 3 Sb + Yb diperoleh nilai batas deteksi : Y = 3 Sb + Yb = 3 0,0051 + 0,0204 = 0,0357 Dengan mensubstitusikan nilai Y terhadap persamaan : Y = 0,2715 X + 0,0204 maka : X = 0,2715 0,0204 0,0357 − = 0,0563 mgL Jadi batas deteksi pengukuran fosfor untuk penelitian ini adalah 0,0563 mgL. Universitas Sumatera Utara

e. Penentuan Persentase Kadar Fosfor dalam Sampel