Када исцртате неколико тачака научних података, можда бисте желели да помоћу софтвера прилагодите криву која најбоље одговара. Међутим, кривуља се неће тачно подударати с вашим подацима, а када то не учините, можда бисте жељели израчунати коријенску средњу квадратну погрешку (РМСЕ), како бисте утврдили у којој се мјери ваше податковне точке разликују од ваше кривуље. За сваку тачку података, РМСЕ формула израчунава разлику између стварне вриједности податковне точке и вриједности податковне точке на кривуљи најбољег прилагођавања.
Пронађите одговарајућу и-вредност на вашој кривуљи најбољег прилагођавања за сваку вриједност к која одговара вашим изворним подацима.
Одузмите стварну вредност и од вредности и на вашој кривуљи најбољег подешавања за сваку тачку података коју имате. Разлика између стварне вредности и и вредности и на вашој најприкладнијој кривуљи назива се резидуална. Уклоните сваки резидуал, а затим збројите остатке.
Поделите зброј ваших остатака на укупан број података који имате и узмите квадратни корен квоцијента. То даје грешку почетне средње вредности у квадрату.