교수님 안녕하세요.
현재 공업통계 파트를 풀고 있는데 수치의 맺음에 관련하여 질문을 드리고자 합니다.
만약에 루트속에 1-r^2이 있다고 가정하고, 수치의 맺음이 소수 5번째 자리까지 나타내는 것이라면
r이 0.68027이면 공학용 계산기에 1-(0.68027)^2을 하고 루트를 씌워도 되나요?
일단 (0.68027)^2를 계산해서 소수 5번째자리까지 나타낸 후에, 1에서 그 값을 빼고 루트를 씌워야 하나요?
저는 그냥 공학용 계산기에 대입해서 풀었는데,
실기책에 나온 수치와 제가 나온 수치에 계속 오차가 생겨서 걱정됩니다..