수학1 유효 숫자 float형은 유효 숫자를 7개까지 double형은 유효 숫자를 15개까지 보장해 준다고 하는데그런데 유효 숫자는 정확히 무엇을 의미하는 것인지 잘 모르겠어서 한 번 공부해 보았다. 유효숫자는 수의 정확도와 정밀도에 영향을 주는 숫자를 의미한다. 수의 정확도와 정밀도에 영향을 준다는 말은 무슨 말일까? 예를 들어 사과 5432개가 있다. 이 사실을 다른 사람에게 한 치의 오차도 없이 정확하게 전달하려면 5, 4, 3, 2 이 4개의 숫자를 10진법을 이용해 표기해야 한다. 이때 5, 4, 3, 2 이 4개의 숫자를 수의 정밀도에 영향을 끼치는 유효 숫자라고 할 수 있다. 만약 5432.0000000 이런 표기가 있다고 했을 때 소수점 뒤의 무수히 많은 0은 모조리 유효 숫자 취급을 받지 못할 것이다. 소.. 2023. 6. 26. 이전 1 다음